Brownstone- ը » Բրաունսթոուն ինստիտուտի ամսագիր » Կառավարությունը ֆինանսավորում է արհեստական ​​ինտելեկտի գործիքները ամբողջ ինտերնետի հսկողության և գրաքննության համար
Բրաունսթոուն ինստիտուտ. Կառավարությունը ֆինանսավորում է AI գործիքները ամբողջ ինտերնետի հսկողության և գրաքննության համար

Կառավարությունը ֆինանսավորում է արհեստական ​​ինտելեկտի գործիքները ամբողջ ինտերնետի հսկողության և գրաքննության համար

ԿԻՍՎԵԼ | ՏՊԱԳՐԵԼ | ՓՈՍՏ

Ես վախենում եմ. Շատ վախեցած.

Ինտերնետում հսկողությունը և գրաքննությունը, որը հնարավոր է դարձել արհեստական ​​ինտելեկտի (AI) աներևակայելի հսկայական հաշվողական հզորության շնորհիվ, այստեղ է:

Սա ֆուտուրիստական ​​դիստոպիա չէ: Դա տեղի է ունենում հիմա:

Պետական ​​գերատեսչությունները աշխատում են համալսարանների և շահույթ չհետապնդող կազմակերպությունների հետ՝ օգտագործելով AI գործիքներ՝ համացանցում բովանդակությունը հսկելու և գրաքննելու համար:

Սա քաղաքական կամ կուսակցական չէ. Խոսքը որևէ կոնկրետ կարծիքի կամ գաղափարի մասին չէ։ 

 Այն, ինչ տեղի է ունենում, այն է, որ բավականաչափ հզոր գործիք, որը կարող է վերահսկել այն ամենը, ինչ ասվում և արվում է ինտերնետում (կամ դրա մեծ մասերը) հասանելի է դառնում կառավարությանը՝ մեզ բոլորիս մշտապես վերահսկելու համար: Եվ, ելնելով այդ մոնիտորինգից, կառավարությունը, և ցանկացած կազմակերպություն կամ ընկերություն, որի հետ համագործակցում է կառավարությունը, կարող է օգտագործել նույն գործիքը՝ ճնշելու, լռեցնելու և փակելու այն ելույթը, որն իրեն դուր չի գալիս: 

Բայց սա դեռ ամենը չէ: Օգտագործելով նույն գործիքը՝ կառավարությունը և նրա պետական-մասնավոր, «ոչ կառավարական» գործընկերները (օրինակ՝ Առողջապահության համաշխարհային կազմակերպությունը կամ Մոնսանտոն) կարող են նաև անջատել ցանկացած գործունեություն, որը կապված է ինտերնետի հետ: Բանկային գործունեություն, գնումներ, վաճառք, ուսուցում, ուսուցում, զվարճություններ, միմյանց հետ կապեր. դու. 

Այո, մենք դա տեսել ենք շատ տեղական և քաղաքականացված մասշտաբով, օրինակ. կանադացի բեռնատարները

Բայց եթե մենք մտածեինք, որ այս տիպի գործունեությունը չի կարող կամ տեղի չի ունենա ազգային (կամ նույնիսկ ավելի սարսափելի՝ գլոբալ) մասշտաբով, մենք պետք է հենց հիմա արթնանանք և հասկանանք, որ դա տեղի է ունենում, և դա կարող է դադարեցվել:

Նոր փաստաթղթերը ցույց են տալիս կառավարության կողմից ֆինանսավորվող AI-ն, որը նախատեսված է առցանց գրաքննության համար

ԱՄՆ Ներկայացուցիչների պալատի ընտրված ենթահանձնաժողովը դաշնային կառավարության սպառազինության վերաբերյալ ստեղծվել է 2023 թվականի հունվարին՝ «հետաքննելու գործադիր իշխանության մարմինների կողմից ԱՄՆ քաղաքացիների վերաբերյալ տեղեկատվության հավաքագրման, վերլուծության, տարածման և օգտագործման հետ կապված հարցերը, ներառյալ՝ արդյոք նման ջանքերն անօրինական են, հակասահմանադրական կամ այլ կերպ անբարոյական»:

Ցավոք, հանձնաժողովի աշխատանքը, նույնիսկ իր իսկ անդամների կողմից, հիմնականում քաղաքական է. Պահպանողական օրենսդիրները հետաքննում են այն, ինչ նրանք ընկալում են որպես պահպանողական ձայների խլացում լիբերալ ուղղվածություն ունեցող պետական ​​կառույցների կողմից: 

Այդուհանդերձ, այս կոմիտեն իր հետաքննությունների ընթացքում բացահայտել է մի քանի զարմանալի փաստաթղթեր, որոնք առնչվում են ամերիկյան քաղաքացիների խոսքը գրաքննելու կառավարության փորձերին։ 

Այս փաստաթղթերն ունեն կարևոր և սարսափելի հետևանքներ ամբողջ հասարակության համար:

Ենթահանձնաժողովի միջանկյալ զեկույցում. փետրվարի 5, 2024 թՓաստաթղթերը ցույց են տալիս, որ ակադեմիական և շահույթ չհետապնդող խմբերը ներկայացնում են կառավարական գործակալության պլան՝ օգտագործելու արհեստական ​​ինտելեկտի «ապատեղեկատվական ծառայությունները»՝ գրաքննելու բովանդակությունը ինտերնետ հարթակներում:

Մասնավորապես, Միչիգանի համալսարանը բացատրում է Ազգային գիտական ​​հիմնադրամին (NSF), որ NSF-ի կողմից ֆինանսավորվող AI-ի վրա աշխատող գործիքները կարող են օգտագործվել սոցիալական մեդիայի հարթակներին գրաքննության գործողություններ իրականացնելու համար՝ առանց իրականում որոշումներ կայացնելու, թե ինչ պետք է գրաքննվի:

Ահա, թե ինչպես են փոխհարաբերությունները պատկերացվում Ենթահանձնաժողովի զեկույցում.

Ահա կոնկրետ մեջբերում, որը ներկայացված է Ենթահանձնաժողովի զեկույցում. Դա գալիս է «Խոսնակի՝ Միչիգանի համալսարանի առաջին ելույթից՝ ուղղված Ազգային գիտական ​​հիմնադրամին (NSF) NSF-ի կողմից ֆինանսավորվող, AI-ի վրա աշխատող WiseDex գործիքի մասին»: Նշումները գտնվում են հանձնաժողովում:

Մեր ապատեղեկատվության ծառայությունն օգնում է հարթակներում քաղաքականություն մշակողներին, ովքեր ցանկանում են...դժվար դատողությունների համար պատասխանատվությունը մղել ընկերությունից դուրս գտնվող մեկին…գրաքննության բարդ պատասխանատվությունը արտաքինից դուրս բերելով:

Սա արտասովոր հայտարարություն է շատ մակարդակներում.

  1. Այն բացահայտորեն նույնացնում է «ապատեղեկատվության ծառայությունը» գրաքննության հետ: 

Սա կարևոր հավասարում է, քանի որ կառավարությունները ամբողջ աշխարհում ձևացնում են, թե պայքարում են վնասակար ապատեղեկատվության դեմ, մինչդեռ իրականում նրանք ընդունելով գրաքննության զանգվածային օրինագծեր. The WEF-ը հայտարարեց «Ապատեղեկատվությունն ու ապատեղեկատվությունը» «ամենադաժան համաշխարհային ռիսկերն» են առաջիկա երկու տարվա ընթացքում, ինչը ենթադրաբար նշանակում է, որ նրանց ամենամեծ ջանքերը կուղղվեն գրաքննությանը։

Երբ պետական ​​կապալառուն բացահայտորեն նշում է, որ վաճառում է «ապատեղեկատվական ծառայություն», որն օգնում է առցանց հարթակներին «արտաքինացնել գրաքննությունը», երկու տերմինները ճանաչվում են որպես փոխարինելի:

  1. Այն վերաբերում է գրաքննությանը որպես «պատասխանատվություն»: 

Այսինքն, այն ենթադրում է, որ հարթակների անելիքների մի մասը գրաքննություն է։ Երեխաներին սեքսուալ գիշատիչներից կամ անմեղ քաղաքացիներին ապատեղեկատվությունից չպաշտպանելը, պարզապես պարզ և պարզ, անխախտ գրաքննություն:

  1. Այն նշում է, որ AI-ի դերը գրաքննության պատասխանատվությունը «արտաքինացնելն է»:

Tech հարթակները չեն ցանկանում գրաքննության որոշումներ կայացնել։ Իշխանությունն ուզում է ընդունել այդ որոշումները, բայց չի ցանկանում, որ իրեն գրաքննություն համարեն։ AI գործիքները թույլ են տալիս հարթակներին «արտաքինացնել» գրաքննության որոշումները, իսկ կառավարությանը թաքցնել գրաքննության իր գործունեությունը:

Այս ամենը պետք է վերջ դնի այն պատրանքին, որ այն, ինչ կառավարություններն ամբողջ աշխարհում անվանում են «ապատեղեկատվության և ատելության խոսքի դեմ պայքար», ուղղակի գրաքննություն չէ:

Ինչ է տեղի ունենում, երբ AI գրաքննությունը լիովին իրականացվում է:

Իմանալով, որ կառավարությունն արդեն վճարում է արհեստական ​​ինտելեկտի գրաքննության գործիքների համար, մենք պետք է մեր միտքը փաթաթենք, թե դա ինչ է ենթադրում:

Աշխատուժի սահմանափակումներ չկան. Ինչպես նշվում է Ենթահանձնաժողովի զեկույցում, կառավարության առցանց գրաքննության սահմանները մինչ այժմ ներառում էին մարդկանց մեծ թվով, որոնք անհրաժեշտ են անվերջ ֆայլերի միջով անցնելու և գրաքննության որոշումներ կայացնելու համար: AI-ի հետ հազիվ թե որևէ մարդ պետք է ներգրավվի, և տվյալների քանակությունը, որը կարելի է վերահսկել, կարող է այնքան մեծ լինել, որքան այն ամենը, ինչ որևէ մեկը ասում է որոշակի հարթակում: Տվյալների այդ քանակությունը անհասկանալի է առանձին մարդու ուղեղի համար:

Ոչ ոք պատասխանատու չէ. AI գրաքննության ամենասարսափելի կողմերից մեկն այն է, որ երբ AI-ն դա անում է, չկա որևէ մարդ կամ կազմակերպություն, լինի դա կառավարությունը, հարթակները, թե համալսարանը/ոչ առևտրային կազմակերպությունները, որոնք իրականում պատասխանատու են գրաքննության համար: Սկզբում մարդիկ ինտելեկտուալ ինտելեկտի գործիքին տալիս են հրահանգներ, թե ինչ կատեգորիաներ կամ լեզուների տեսակներ պետք է գրաքննվեն, բայց հետո մեքենան առաջ է գնում և ինքնուրույն որոշումներ է կայացնում առանձին-առանձին: 

Բողոքների ոչ մի միջոց. Հենց որ AI-ն գործարկվի գրաքննության մի շարք հրահանգներով, այն կտարածի առցանց տվյալների մի քանի գազալոններ և կկիրառի գրաքննության գործողություններ: Եթե ​​ցանկանում եք վիճարկել AI-ի գրաքննության գործողությունը, դուք պետք է խոսեք մեքենայի հետ: Միգուցե հարթակները մարդկանց կաշխատեն՝ կոչերին արձագանքելու համար: Բայց ինչո՞ւ նրանք դա անեն, երբ նրանք ունեն AI, որը կարող է ավտոմատացնել այդ պատասխանները:

Պաշտպանություն չկա երիտասարդների համար. Կառավարության գրաքննիչների պնդումներից մեկն այն է, որ մենք պետք է պաշտպանենք մեր երեխաներին վնասակար առցանց տեղեկատվությունից, օրինակ՝ բովանդակությունից, որը նրանց դարձնում է անորեքսիկ, խրախուսում է ինքնասպանություն գործել, նրանց դարձնում ԴԱԻՇ ահաբեկիչներ և այլն: Նաև սեռական շահագործումից։ Սրանք բոլորը լուրջ խնդիրներ են, որոնք արժանի են ուշադրության։ Բայց դրանք գրեթե այնքան վտանգավոր չեն մեծ թվով երիտասարդների համար, որքան AI գրաքննությունը:

AI-ի գրաքննության վտանգը վերաբերում է բոլոր երիտասարդներին, ովքեր շատ ժամանակ են անցկացնում առցանց, քանի որ դա նշանակում է, որ նրանց առցանց գործունեությունը և լեզուն կարող է վերահսկվել և օգտագործվել նրանց դեմ, գուցե ոչ հիմա, բայց երբ կառավարությունը որոշի գնալ որոշակի տեսակի հետևելու: լեզվի կամ վարքի. Սա շատ ավելի մեծ վտանգ է շատ ավելի մեծ թվով երեխաների համար, քան այն վտանգը, որը բխում է որևէ կոնկրետ բովանդակությունից, քանի որ այն ներառում է բոլոր այն գործողությունները, որոնք նրանք իրականացնում են առցանց՝ շոշափելով նրանց կյանքի գրեթե բոլոր ոլորտները: 

Ահա մի օրինակ՝ այս վտանգը ցույց տալու համար. Ենթադրենք, ձեր դեռահասը առցանց շատ ինտերակտիվ տեսախաղեր է խաղում: Ենթադրենք, նա նախընտրում է չինական ընկերությունների կողմից ստեղծված խաղերը: Միգուցե նա նաև դիտում է, թե ինչպես են ուրիշները խաղում այդ խաղերը և մասնակցում է այդ խաղերի մասին չաթերին և քննարկումների խմբերին, որոնց մասնակցում են նաև Չինաստանի բազմաթիվ քաղաքացիներ:

Կառավարությունը կարող է հաջորդ ամիս կամ հաջորդ տարի որոշել, որ ցանկացած ոք, ով մեծապես զբաղված է չինական դիզայնով տեսախաղերով, վտանգ է ներկայացնում ժողովրդավարության համար: Դա կարող է հանգեցնել ձեր որդու սոցիալական մեդիայի հաշիվների փակմանը կամ նրան ֆինանսական գործիքների, օրինակ՝ քոլեջի վարկերի հասանելիության մերժմանը: Դա կարող է նաև ներառել նրան աշխատանքի կամ ծանոթությունների կայքերում որպես վտանգավոր կամ անցանկալի նշանավորում: Դա կարող է նշանակել, որ նրան մերժել են անձնագիր կամ ընդգրկել հսկողության ցուցակում:

Ձեր դեռահասի կյանքը պարզապես շատ ավելի դժվարացավ: Շատ ավելի դժվար է, քան եթե նա ենթարկվեր ԴԱԻՇ-ի հավաքագրման տեսանյութին կամ ինքնասպանություն փառաբանող TikTok գրառմանը: Եվ դա տեղի կունենա շատ ավելի մեծ մասշտաբով, քան սեռական շահագործում, որն օգտագործում են գրաքննիչը որպես տրոյական ձի՝ առցանց կառավարական գրաքննության գաղափարը նորմալացնելու համար:

Դրամայնացման հնարավորությամբ գրաքննության ծառայություններԿառավարությանը պատկանող AI գործիքը տեսականորեն կարող է օգտագործվել ոչ կառավարական կազմակերպության կողմից կառավարության թույլտվությամբ և այն հարթակների օրհնությամբ, որոնք ցանկանում են «արտաքինացնել» գրաքննության «պատասխանատվությունը»: Այսպիսով, մինչ կառավարությունը կարող է օգտագործել արհեստական ​​ինտելեկտը՝ վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, հակապատերազմական տրամադրությունները. ընկերությունը կարող է օգտագործել այն վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, արագ սննդի դեմ տրամադրվածությունը: Կառավարությունը կարող է մեծ գումար վաստակել՝ վաճառելով AI գործիքների ծառայությունները երրորդ կողմերին: Հարթակները նույնպես կարող էին ենթադրաբար պահանջել կտրվածք: Այսպիսով, AI գրաքննության գործիքները կարող են պոտենցիալ օգուտ տալ կառավարությանը, տեխնոլոգիական հարթակներին և մասնավոր կորպորացիաներին: Խթաններն այնքան հզոր են, որ գրեթե անհնար է պատկերացնել, որ դրանք չեն շահարկվի։

Կարո՞ղ ենք հակադարձել ընթացքը:

Ես չգիտեմ, թե քանի պետական ​​գործակալություն և քանի հարթակ է օգտագործում AI գրաքննության գործիքներ: Ես չգիտեմ, թե որքան արագ նրանք կարող են մեծանալ:

Ես չգիտեմ, թե ինչ գործիքներ ունենք մեր տրամադրության տակ՝ բացի իրազեկության բարձրացումից և քաղաքական գործիչներին լոբբինգ անելու և դատական ​​հայցեր ներկայացնելուց՝ կանխելու կառավարության գրաքննությունը և կարգավորելու AI գործիքների օգտագործումը ինտերնետում:

Եթե ​​որևէ մեկն այլ գաղափարներ ունի, հիմա ժամանակն է դրանք իրականացնել:



Հրատարակված է Ա Creative Commons Attribution 4.0 միջազգային լիցենզիա
Վերատպումների համար խնդրում ենք կանոնական հղումը վերադարձնել բնօրինակին Բրաունսթոունի ինստիտուտ Հոդված և հեղինակ.

հեղինակ

Նվիրաբերեք այսօր

Բրաունսթոուն ինստիտուտի ձեր ֆինանսական աջակցությունը ուղղված է գրողներին, իրավաբաններին, գիտնականներին, տնտեսագետներին և այլ խիզախ մարդկանց, ովքեր մասնագիտորեն մաքրվել և տեղահանվել են մեր ժամանակների ցնցումների ժամանակ: Դուք կարող եք օգնել բացահայտելու ճշմարտությունը նրանց շարունակական աշխատանքի միջոցով:

Բաժանորդագրվեք Brownstone-ին ավելի շատ նորությունների համար

Եղեք տեղեկացված Brownstone ինստիտուտի հետ