Ես վախենում եմ. Շատ վախեցած.
Ինտերնետում հսկողությունը և գրաքննությունը, որը հնարավոր է դարձել արհեստական ինտելեկտի (AI) աներևակայելի հսկայական հաշվողական հզորության շնորհիվ, այստեղ է:
Սա ֆուտուրիստական դիստոպիա չէ: Դա տեղի է ունենում հիմա:
Պետական գերատեսչությունները աշխատում են համալսարանների և շահույթ չհետապնդող կազմակերպությունների հետ՝ օգտագործելով AI գործիքներ՝ համացանցում բովանդակությունը հսկելու և գրաքննելու համար:
Սա քաղաքական կամ կուսակցական չէ. Խոսքը որևէ կոնկրետ կարծիքի կամ գաղափարի մասին չէ։
Այն, ինչ տեղի է ունենում, այն է, որ բավականաչափ հզոր գործիք, որը կարող է վերահսկել այն ամենը, ինչ ասվում և արվում է ինտերնետում (կամ դրա մեծ մասերը) հասանելի է դառնում կառավարությանը՝ մեզ բոլորիս մշտապես վերահսկելու համար: Եվ, ելնելով այդ մոնիտորինգից, կառավարությունը, և ցանկացած կազմակերպություն կամ ընկերություն, որի հետ համագործակցում է կառավարությունը, կարող է օգտագործել նույն գործիքը՝ ճնշելու, լռեցնելու և փակելու այն ելույթը, որն իրեն դուր չի գալիս:
Բայց սա դեռ ամենը չէ: Օգտագործելով նույն գործիքը՝ կառավարությունը և նրա պետական-մասնավոր, «ոչ կառավարական» գործընկերները (օրինակ՝ Առողջապահության համաշխարհային կազմակերպությունը կամ Մոնսանտոն) կարող են նաև անջատել ցանկացած գործունեություն, որը կապված է ինտերնետի հետ: Բանկային գործունեություն, գնումներ, վաճառք, ուսուցում, ուսուցում, զվարճություններ, միմյանց հետ կապեր. դու.
Այո, մենք դա տեսել ենք շատ տեղական և քաղաքականացված մասշտաբով, օրինակ. կանադացի բեռնատարները.
Բայց եթե մենք մտածեինք, որ այս տիպի գործունեությունը չի կարող կամ տեղի չի ունենա ազգային (կամ նույնիսկ ավելի սարսափելի՝ գլոբալ) մասշտաբով, մենք պետք է հենց հիմա արթնանանք և հասկանանք, որ դա տեղի է ունենում, և դա կարող է դադարեցվել:
Նոր փաստաթղթերը ցույց են տալիս կառավարության կողմից ֆինանսավորվող AI-ն, որը նախատեսված է առցանց գրաքննության համար
ԱՄՆ Ներկայացուցիչների պալատի ընտրված ենթահանձնաժողովը դաշնային կառավարության սպառազինության վերաբերյալ ստեղծվել է 2023 թվականի հունվարին՝ «հետաքննելու գործադիր իշխանության մարմինների կողմից ԱՄՆ քաղաքացիների վերաբերյալ տեղեկատվության հավաքագրման, վերլուծության, տարածման և օգտագործման հետ կապված հարցերը, ներառյալ՝ արդյոք նման ջանքերն անօրինական են, հակասահմանադրական կամ այլ կերպ անբարոյական»:
Ցավոք, հանձնաժողովի աշխատանքը, նույնիսկ իր իսկ անդամների կողմից, հիմնականում քաղաքական է. Պահպանողական օրենսդիրները հետաքննում են այն, ինչ նրանք ընկալում են որպես պահպանողական ձայների խլացում լիբերալ ուղղվածություն ունեցող պետական կառույցների կողմից:
Այդուհանդերձ, այս կոմիտեն իր հետաքննությունների ընթացքում բացահայտել է մի քանի զարմանալի փաստաթղթեր, որոնք առնչվում են ամերիկյան քաղաքացիների խոսքը գրաքննելու կառավարության փորձերին։
Այս փաստաթղթերն ունեն կարևոր և սարսափելի հետևանքներ ամբողջ հասարակության համար:
Ենթահանձնաժողովի միջանկյալ զեկույցում. փետրվարի 5, 2024 թՓաստաթղթերը ցույց են տալիս, որ ակադեմիական և շահույթ չհետապնդող խմբերը ներկայացնում են կառավարական գործակալության պլան՝ օգտագործելու արհեստական ինտելեկտի «ապատեղեկատվական ծառայությունները»՝ գրաքննելու բովանդակությունը ինտերնետ հարթակներում:
Մասնավորապես, Միչիգանի համալսարանը բացատրում է Ազգային գիտական հիմնադրամին (NSF), որ NSF-ի կողմից ֆինանսավորվող AI-ի վրա աշխատող գործիքները կարող են օգտագործվել սոցիալական մեդիայի հարթակներին գրաքննության գործողություններ իրականացնելու համար՝ առանց իրականում որոշումներ կայացնելու, թե ինչ պետք է գրաքննվի:
Ահա, թե ինչպես են փոխհարաբերությունները պատկերացվում Ենթահանձնաժողովի զեկույցում.
Ահա կոնկրետ մեջբերում, որը ներկայացված է Ենթահանձնաժողովի զեկույցում. Դա գալիս է «Խոսնակի՝ Միչիգանի համալսարանի առաջին ելույթից՝ ուղղված Ազգային գիտական հիմնադրամին (NSF) NSF-ի կողմից ֆինանսավորվող, AI-ի վրա աշխատող WiseDex գործիքի մասին»: Նշումները գտնվում են հանձնաժողովում:
Մեր ապատեղեկատվության ծառայությունն օգնում է հարթակներում քաղաքականություն մշակողներին, ովքեր ցանկանում են...դժվար դատողությունների համար պատասխանատվությունը մղել ընկերությունից դուրս գտնվող մեկին…գրաքննության բարդ պատասխանատվությունը արտաքինից դուրս բերելով:
Սա արտասովոր հայտարարություն է շատ մակարդակներում.
- Այն բացահայտորեն նույնացնում է «ապատեղեկատվության ծառայությունը» գրաքննության հետ:
Սա կարևոր հավասարում է, քանի որ կառավարությունները ամբողջ աշխարհում ձևացնում են, թե պայքարում են վնասակար ապատեղեկատվության դեմ, մինչդեռ իրականում նրանք ընդունելով գրաքննության զանգվածային օրինագծեր. The WEF-ը հայտարարեց «Ապատեղեկատվությունն ու ապատեղեկատվությունը» «ամենադաժան համաշխարհային ռիսկերն» են առաջիկա երկու տարվա ընթացքում, ինչը ենթադրաբար նշանակում է, որ նրանց ամենամեծ ջանքերը կուղղվեն գրաքննությանը։
Երբ պետական կապալառուն բացահայտորեն նշում է, որ վաճառում է «ապատեղեկատվական ծառայություն», որն օգնում է առցանց հարթակներին «արտաքինացնել գրաքննությունը», երկու տերմինները ճանաչվում են որպես փոխարինելի:
- Այն վերաբերում է գրաքննությանը որպես «պատասխանատվություն»:
Այսինքն, այն ենթադրում է, որ հարթակների անելիքների մի մասը գրաքննություն է։ Երեխաներին սեքսուալ գիշատիչներից կամ անմեղ քաղաքացիներին ապատեղեկատվությունից չպաշտպանելը, պարզապես պարզ և պարզ, անխախտ գրաքննություն:
- Այն նշում է, որ AI-ի դերը գրաքննության պատասխանատվությունը «արտաքինացնելն է»:
Tech հարթակները չեն ցանկանում գրաքննության որոշումներ կայացնել։ Իշխանությունն ուզում է ընդունել այդ որոշումները, բայց չի ցանկանում, որ իրեն գրաքննություն համարեն։ AI գործիքները թույլ են տալիս հարթակներին «արտաքինացնել» գրաքննության որոշումները, իսկ կառավարությանը թաքցնել գրաքննության իր գործունեությունը:
Այս ամենը պետք է վերջ դնի այն պատրանքին, որ այն, ինչ կառավարություններն ամբողջ աշխարհում անվանում են «ապատեղեկատվության և ատելության խոսքի դեմ պայքար», ուղղակի գրաքննություն չէ:
Ինչ է տեղի ունենում, երբ AI գրաքննությունը լիովին իրականացվում է:
Իմանալով, որ կառավարությունն արդեն վճարում է արհեստական ինտելեկտի գրաքննության գործիքների համար, մենք պետք է մեր միտքը փաթաթենք, թե դա ինչ է ենթադրում:
Աշխատուժի սահմանափակումներ չկան. Ինչպես նշվում է Ենթահանձնաժողովի զեկույցում, կառավարության առցանց գրաքննության սահմանները մինչ այժմ ներառում էին մարդկանց մեծ թվով, որոնք անհրաժեշտ են անվերջ ֆայլերի միջով անցնելու և գրաքննության որոշումներ կայացնելու համար: AI-ի հետ հազիվ թե որևէ մարդ պետք է ներգրավվի, և տվյալների քանակությունը, որը կարելի է վերահսկել, կարող է այնքան մեծ լինել, որքան այն ամենը, ինչ որևէ մեկը ասում է որոշակի հարթակում: Տվյալների այդ քանակությունը անհասկանալի է առանձին մարդու ուղեղի համար:
Ոչ ոք պատասխանատու չէ. AI գրաքննության ամենասարսափելի կողմերից մեկն այն է, որ երբ AI-ն դա անում է, չկա որևէ մարդ կամ կազմակերպություն, լինի դա կառավարությունը, հարթակները, թե համալսարանը/ոչ առևտրային կազմակերպությունները, որոնք իրականում պատասխանատու են գրաքննության համար: Սկզբում մարդիկ ինտելեկտուալ ինտելեկտի գործիքին տալիս են հրահանգներ, թե ինչ կատեգորիաներ կամ լեզուների տեսակներ պետք է գրաքննվեն, բայց հետո մեքենան առաջ է գնում և ինքնուրույն որոշումներ է կայացնում առանձին-առանձին:
Բողոքների ոչ մի միջոց. Հենց որ AI-ն գործարկվի գրաքննության մի շարք հրահանգներով, այն կտարածի առցանց տվյալների մի քանի գազալոններ և կկիրառի գրաքննության գործողություններ: Եթե ցանկանում եք վիճարկել AI-ի գրաքննության գործողությունը, դուք պետք է խոսեք մեքենայի հետ: Միգուցե հարթակները մարդկանց կաշխատեն՝ կոչերին արձագանքելու համար: Բայց ինչո՞ւ նրանք դա անեն, երբ նրանք ունեն AI, որը կարող է ավտոմատացնել այդ պատասխանները:
Պաշտպանություն չկա երիտասարդների համար. Կառավարության գրաքննիչների պնդումներից մեկն այն է, որ մենք պետք է պաշտպանենք մեր երեխաներին վնասակար առցանց տեղեկատվությունից, օրինակ՝ բովանդակությունից, որը նրանց դարձնում է անորեքսիկ, խրախուսում է ինքնասպանություն գործել, նրանց դարձնում ԴԱԻՇ ահաբեկիչներ և այլն: Նաև սեռական շահագործումից։ Սրանք բոլորը լուրջ խնդիրներ են, որոնք արժանի են ուշադրության։ Բայց դրանք գրեթե այնքան վտանգավոր չեն մեծ թվով երիտասարդների համար, որքան AI գրաքննությունը:
AI-ի գրաքննության վտանգը վերաբերում է բոլոր երիտասարդներին, ովքեր շատ ժամանակ են անցկացնում առցանց, քանի որ դա նշանակում է, որ նրանց առցանց գործունեությունը և լեզուն կարող է վերահսկվել և օգտագործվել նրանց դեմ, գուցե ոչ հիմա, բայց երբ կառավարությունը որոշի գնալ որոշակի տեսակի հետևելու: լեզվի կամ վարքի. Սա շատ ավելի մեծ վտանգ է շատ ավելի մեծ թվով երեխաների համար, քան այն վտանգը, որը բխում է որևէ կոնկրետ բովանդակությունից, քանի որ այն ներառում է բոլոր այն գործողությունները, որոնք նրանք իրականացնում են առցանց՝ շոշափելով նրանց կյանքի գրեթե բոլոր ոլորտները:
Ահա մի օրինակ՝ այս վտանգը ցույց տալու համար. Ենթադրենք, ձեր դեռահասը առցանց շատ ինտերակտիվ տեսախաղեր է խաղում: Ենթադրենք, նա նախընտրում է չինական ընկերությունների կողմից ստեղծված խաղերը: Միգուցե նա նաև դիտում է, թե ինչպես են ուրիշները խաղում այդ խաղերը և մասնակցում է այդ խաղերի մասին չաթերին և քննարկումների խմբերին, որոնց մասնակցում են նաև Չինաստանի բազմաթիվ քաղաքացիներ:
Կառավարությունը կարող է հաջորդ ամիս կամ հաջորդ տարի որոշել, որ ցանկացած ոք, ով մեծապես զբաղված է չինական դիզայնով տեսախաղերով, վտանգ է ներկայացնում ժողովրդավարության համար: Դա կարող է հանգեցնել ձեր որդու սոցիալական մեդիայի հաշիվների փակմանը կամ նրան ֆինանսական գործիքների, օրինակ՝ քոլեջի վարկերի հասանելիության մերժմանը: Դա կարող է նաև ներառել նրան աշխատանքի կամ ծանոթությունների կայքերում որպես վտանգավոր կամ անցանկալի նշանավորում: Դա կարող է նշանակել, որ նրան մերժել են անձնագիր կամ ընդգրկել հսկողության ցուցակում:
Ձեր դեռահասի կյանքը պարզապես շատ ավելի դժվարացավ: Շատ ավելի դժվար է, քան եթե նա ենթարկվեր ԴԱԻՇ-ի հավաքագրման տեսանյութին կամ ինքնասպանություն փառաբանող TikTok գրառմանը: Եվ դա տեղի կունենա շատ ավելի մեծ մասշտաբով, քան սեռական շահագործում, որն օգտագործում են գրաքննիչը որպես տրոյական ձի՝ առցանց կառավարական գրաքննության գաղափարը նորմալացնելու համար:
Դրամայնացման հնարավորությամբ գրաքննության ծառայություններԿառավարությանը պատկանող AI գործիքը տեսականորեն կարող է օգտագործվել ոչ կառավարական կազմակերպության կողմից կառավարության թույլտվությամբ և այն հարթակների օրհնությամբ, որոնք ցանկանում են «արտաքինացնել» գրաքննության «պատասխանատվությունը»: Այսպիսով, մինչ կառավարությունը կարող է օգտագործել արհեստական ինտելեկտը՝ վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, հակապատերազմական տրամադրությունները. ընկերությունը կարող է օգտագործել այն վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, արագ սննդի դեմ տրամադրվածությունը: Կառավարությունը կարող է մեծ գումար վաստակել՝ վաճառելով AI գործիքների ծառայությունները երրորդ կողմերին: Հարթակները նույնպես կարող էին ենթադրաբար պահանջել կտրվածք: Այսպիսով, AI գրաքննության գործիքները կարող են պոտենցիալ օգուտ տալ կառավարությանը, տեխնոլոգիական հարթակներին և մասնավոր կորպորացիաներին: Խթաններն այնքան հզոր են, որ գրեթե անհնար է պատկերացնել, որ դրանք չեն շահարկվի։
Կարո՞ղ ենք հակադարձել ընթացքը:
Ես չգիտեմ, թե քանի պետական գործակալություն և քանի հարթակ է օգտագործում AI գրաքննության գործիքներ: Ես չգիտեմ, թե որքան արագ նրանք կարող են մեծանալ:
Ես չգիտեմ, թե ինչ գործիքներ ունենք մեր տրամադրության տակ՝ բացի իրազեկության բարձրացումից և քաղաքական գործիչներին լոբբինգ անելու և դատական հայցեր ներկայացնելուց՝ կանխելու կառավարության գրաքննությունը և կարգավորելու AI գործիքների օգտագործումը ինտերնետում:
Եթե որևէ մեկն այլ գաղափարներ ունի, հիմա ժամանակն է դրանք իրականացնել:
Հրատարակված է Ա Creative Commons Attribution 4.0 միջազգային լիցենզիա
Վերատպումների համար խնդրում ենք կանոնական հղումը վերադարձնել բնօրինակին Բրաունսթոունի ինստիտուտ Հոդված և հեղինակ.
