Ես վախենում եմ. Շատ վախեցած.
Ինտերնետում հսկողությունը և գրաքննությունը, որը հնարավոր է դարձել արհեստական ինտելեկտի (AI) աներևակայելի հսկայական հաշվողական հզորության շնորհիվ, այստեղ է:
Սա ֆուտուրիստական դիստոպիա չէ: Դա տեղի է ունենում հիմա:
Պետական գերատեսչությունները աշխատում են համալսարանների և շահույթ չհետապնդող կազմակերպությունների հետ՝ օգտագործելով AI գործիքներ՝ համացանցում բովանդակությունը հսկելու և գրաքննելու համար:
Սա քաղաքական կամ կուսակցական չէ. Խոսքը որևէ կոնկրետ կարծիքի կամ գաղափարի մասին չէ։
Այն, ինչ տեղի է ունենում, այն է, որ բավականաչափ հզոր գործիք, որը կարող է վերահսկել այն ամենը, ինչ ասվում և արվում է ինտերնետում (կամ դրա մեծ մասերը) հասանելի է դառնում կառավարությանը՝ մեզ բոլորիս մշտապես վերահսկելու համար: Եվ, ելնելով այդ մոնիտորինգից, կառավարությունը, և ցանկացած կազմակերպություն կամ ընկերություն, որի հետ համագործակցում է կառավարությունը, կարող է օգտագործել նույն գործիքը՝ ճնշելու, լռեցնելու և փակելու այն ելույթը, որն իրեն դուր չի գալիս:
Բայց սա դեռ ամենը չէ: Օգտագործելով նույն գործիքը՝ կառավարությունը և նրա պետական-մասնավոր, «ոչ կառավարական» գործընկերները (օրինակ՝ Առողջապահության համաշխարհային կազմակերպությունը կամ Մոնսանտոն) կարող են նաև անջատել ցանկացած գործունեություն, որը կապված է ինտերնետի հետ: Բանկային գործունեություն, գնումներ, վաճառք, ուսուցում, ուսուցում, զվարճություններ, միմյանց հետ կապեր. դու.
Այո, մենք դա տեսել ենք շատ տեղական և քաղաքականացված մասշտաբով, օրինակ. կանադացի բեռնատարները.
Եղեք տեղեկացված Brownstone ինստիտուտի հետ
Բայց եթե մենք մտածեինք, որ այս տիպի գործունեությունը չի կարող կամ տեղի չի ունենա ազգային (կամ նույնիսկ ավելի սարսափելի՝ գլոբալ) մասշտաբով, մենք պետք է հենց հիմա արթնանանք և հասկանանք, որ դա տեղի է ունենում, և դա կարող է դադարեցվել:
Նոր փաստաթղթերը ցույց են տալիս կառավարության կողմից ֆինանսավորվող AI-ն, որը նախատեսված է առցանց գրաքննության համար
ԱՄՆ Ներկայացուցիչների պալատի ընտրված ենթահանձնաժողովը դաշնային կառավարության սպառազինության վերաբերյալ ստեղծվել է 2023 թվականի հունվարին՝ «հետաքննելու գործադիր իշխանության մարմինների կողմից ԱՄՆ քաղաքացիների վերաբերյալ տեղեկատվության հավաքագրման, վերլուծության, տարածման և օգտագործման հետ կապված հարցերը, ներառյալ՝ արդյոք նման ջանքերն անօրինական են, հակասահմանադրական կամ այլ կերպ անբարոյական»:
Ցավոք, հանձնաժողովի աշխատանքը, նույնիսկ իր իսկ անդամների կողմից, հիմնականում քաղաքական է. Պահպանողական օրենսդիրները հետաքննում են այն, ինչ նրանք ընկալում են որպես պահպանողական ձայների խլացում լիբերալ ուղղվածություն ունեցող պետական կառույցների կողմից:
Այդուհանդերձ, այս կոմիտեն իր հետաքննությունների ընթացքում բացահայտել է մի քանի զարմանալի փաստաթղթեր, որոնք առնչվում են ամերիկյան քաղաքացիների խոսքը գրաքննելու կառավարության փորձերին։
Այս փաստաթղթերն ունեն կարևոր և սարսափելի հետևանքներ ամբողջ հասարակության համար:
Ենթահանձնաժողովի միջանկյալ զեկույցում. փետրվարի 5, 2024 թՓաստաթղթերը ցույց են տալիս, որ ակադեմիական և շահույթ չհետապնդող խմբերը ներկայացնում են կառավարական գործակալության պլան՝ օգտագործելու արհեստական ինտելեկտի «ապատեղեկատվական ծառայությունները»՝ գրաքննելու բովանդակությունը ինտերնետ հարթակներում:
Մասնավորապես, Միչիգանի համալսարանը բացատրում է Ազգային գիտական հիմնադրամին (NSF), որ NSF-ի կողմից ֆինանսավորվող AI-ի վրա աշխատող գործիքները կարող են օգտագործվել սոցիալական մեդիայի հարթակներին գրաքննության գործողություններ իրականացնելու համար՝ առանց իրականում որոշումներ կայացնելու, թե ինչ պետք է գրաքննվի:
Ահա, թե ինչպես են փոխհարաբերությունները պատկերացվում Ենթահանձնաժողովի զեկույցում.
Ահա կոնկրետ մեջբերում, որը ներկայացված է Ենթահանձնաժողովի զեկույցում. Դա գալիս է «Խոսնակի՝ Միչիգանի համալսարանի առաջին ելույթից՝ ուղղված Ազգային գիտական հիմնադրամին (NSF) NSF-ի կողմից ֆինանսավորվող, AI-ի վրա աշխատող WiseDex գործիքի մասին»: Նշումները գտնվում են հանձնաժողովում:
Մեր ապատեղեկատվության ծառայությունն օգնում է հարթակներում քաղաքականություն մշակողներին, ովքեր ցանկանում են...դժվար դատողությունների համար պատասխանատվությունը մղել ընկերությունից դուրս գտնվող մեկին…գրաքննության բարդ պատասխանատվությունը արտաքինից դուրս բերելով:
Սա արտասովոր հայտարարություն է շատ մակարդակներում.
- Այն բացահայտորեն նույնացնում է «ապատեղեկատվության ծառայությունը» գրաքննության հետ:
Սա կարևոր հավասարում է, քանի որ կառավարությունները ամբողջ աշխարհում ձևացնում են, թե պայքարում են վնասակար ապատեղեկատվության դեմ, մինչդեռ իրականում նրանք ընդունելով գրաքննության զանգվածային օրինագծեր. The WEF-ը հայտարարեց «Ապատեղեկատվությունն ու ապատեղեկատվությունը» «ամենադաժան համաշխարհային ռիսկերն» են առաջիկա երկու տարվա ընթացքում, ինչը ենթադրաբար նշանակում է, որ նրանց ամենամեծ ջանքերը կուղղվեն գրաքննությանը։
Երբ պետական կապալառուն բացահայտորեն նշում է, որ վաճառում է «ապատեղեկատվական ծառայություն», որն օգնում է առցանց հարթակներին «արտաքինացնել գրաքննությունը», երկու տերմինները ճանաչվում են որպես փոխարինելի:
- Այն վերաբերում է գրաքննությանը որպես «պատասխանատվություն»:
Այսինքն, այն ենթադրում է, որ հարթակների անելիքների մի մասը գրաքննություն է։ Երեխաներին սեքսուալ գիշատիչներից կամ անմեղ քաղաքացիներին ապատեղեկատվությունից չպաշտպանելը, պարզապես պարզ և պարզ, անխախտ գրաքննություն:
- Այն նշում է, որ AI-ի դերը գրաքննության պատասխանատվությունը «արտաքինացնելն է»:
Tech հարթակները չեն ցանկանում գրաքննության որոշումներ կայացնել։ Իշխանությունն ուզում է ընդունել այդ որոշումները, բայց չի ցանկանում, որ իրեն գրաքննություն համարեն։ AI գործիքները թույլ են տալիս հարթակներին «արտաքինացնել» գրաքննության որոշումները, իսկ կառավարությանը թաքցնել գրաքննության իր գործունեությունը:
Այս ամենը պետք է վերջ դնի այն պատրանքին, որ այն, ինչ կառավարություններն ամբողջ աշխարհում անվանում են «ապատեղեկատվության և ատելության խոսքի դեմ պայքար», ուղղակի գրաքննություն չէ:
Ինչ է տեղի ունենում, երբ AI գրաքննությունը լիովին իրականացվում է:
Իմանալով, որ կառավարությունն արդեն վճարում է արհեստական ինտելեկտի գրաքննության գործիքների համար, մենք պետք է մեր միտքը փաթաթենք, թե դա ինչ է ենթադրում:
Աշխատուժի սահմանափակումներ չկան. Ինչպես նշվում է Ենթահանձնաժողովի զեկույցում, կառավարության առցանց գրաքննության սահմանները մինչ այժմ ներառում էին մարդկանց մեծ թվով, որոնք անհրաժեշտ են անվերջ ֆայլերի միջով անցնելու և գրաքննության որոշումներ կայացնելու համար: AI-ի հետ հազիվ թե որևէ մարդ պետք է ներգրավվի, և տվյալների քանակությունը, որը կարելի է վերահսկել, կարող է այնքան մեծ լինել, որքան այն ամենը, ինչ որևէ մեկը ասում է որոշակի հարթակում: Տվյալների այդ քանակությունը անհասկանալի է առանձին մարդու ուղեղի համար:
Ոչ ոք պատասխանատու չէ. AI գրաքննության ամենասարսափելի կողմերից մեկն այն է, որ երբ AI-ն դա անում է, չկա որևէ մարդ կամ կազմակերպություն, լինի դա կառավարությունը, հարթակները, թե համալսարանը/ոչ առևտրային կազմակերպությունները, որոնք իրականում պատասխանատու են գրաքննության համար: Սկզբում մարդիկ ինտելեկտուալ ինտելեկտի գործիքին տալիս են հրահանգներ, թե ինչ կատեգորիաներ կամ լեզուների տեսակներ պետք է գրաքննվեն, բայց հետո մեքենան առաջ է գնում և ինքնուրույն որոշումներ է կայացնում առանձին-առանձին:
Բողոքների ոչ մի միջոց. Հենց որ AI-ն գործարկվի գրաքննության մի շարք հրահանգներով, այն կտարածի առցանց տվյալների մի քանի գազալոններ և կկիրառի գրաքննության գործողություններ: Եթե ցանկանում եք վիճարկել AI-ի գրաքննության գործողությունը, դուք պետք է խոսեք մեքենայի հետ: Միգուցե հարթակները մարդկանց կաշխատեն՝ կոչերին արձագանքելու համար: Բայց ինչո՞ւ նրանք դա անեն, երբ նրանք ունեն AI, որը կարող է ավտոմատացնել այդ պատասխանները:
Պաշտպանություն չկա երիտասարդների համար. Կառավարության գրաքննիչների պնդումներից մեկն այն է, որ մենք պետք է պաշտպանենք մեր երեխաներին վնասակար առցանց տեղեկատվությունից, օրինակ՝ բովանդակությունից, որը նրանց դարձնում է անորեքսիկ, խրախուսում է ինքնասպանություն գործել, նրանց դարձնում ԴԱԻՇ ահաբեկիչներ և այլն: Նաև սեռական շահագործումից։ Սրանք բոլորը լուրջ խնդիրներ են, որոնք արժանի են ուշադրության։ Բայց դրանք գրեթե այնքան վտանգավոր չեն մեծ թվով երիտասարդների համար, որքան AI գրաքննությունը:
AI-ի գրաքննության վտանգը վերաբերում է բոլոր երիտասարդներին, ովքեր շատ ժամանակ են անցկացնում առցանց, քանի որ դա նշանակում է, որ նրանց առցանց գործունեությունը և լեզուն կարող է վերահսկվել և օգտագործվել նրանց դեմ, գուցե ոչ հիմա, բայց երբ կառավարությունը որոշի գնալ որոշակի տեսակի հետևելու: լեզվի կամ վարքի. Սա շատ ավելի մեծ վտանգ է շատ ավելի մեծ թվով երեխաների համար, քան այն վտանգը, որը բխում է որևէ կոնկրետ բովանդակությունից, քանի որ այն ներառում է բոլոր այն գործողությունները, որոնք նրանք իրականացնում են առցանց՝ շոշափելով նրանց կյանքի գրեթե բոլոր ոլորտները:
Ահա մի օրինակ՝ այս վտանգը ցույց տալու համար. Ենթադրենք, ձեր դեռահասը առցանց շատ ինտերակտիվ տեսախաղեր է խաղում: Ենթադրենք, նա նախընտրում է չինական ընկերությունների կողմից ստեղծված խաղերը: Միգուցե նա նաև դիտում է, թե ինչպես են ուրիշները խաղում այդ խաղերը և մասնակցում է այդ խաղերի մասին չաթերին և քննարկումների խմբերին, որոնց մասնակցում են նաև Չինաստանի բազմաթիվ քաղաքացիներ:
Կառավարությունը կարող է հաջորդ ամիս կամ հաջորդ տարի որոշել, որ ցանկացած ոք, ով մեծապես զբաղված է չինական դիզայնով տեսախաղերով, վտանգ է ներկայացնում ժողովրդավարության համար: Դա կարող է հանգեցնել ձեր որդու սոցիալական մեդիայի հաշիվների փակմանը կամ նրան ֆինանսական գործիքների, օրինակ՝ քոլեջի վարկերի հասանելիության մերժմանը: Դա կարող է նաև ներառել նրան աշխատանքի կամ ծանոթությունների կայքերում որպես վտանգավոր կամ անցանկալի նշանավորում: Դա կարող է նշանակել, որ նրան մերժել են անձնագիր կամ ընդգրկել հսկողության ցուցակում:
Ձեր դեռահասի կյանքը պարզապես շատ ավելի դժվարացավ: Շատ ավելի դժվար է, քան եթե նա ենթարկվեր ԴԱԻՇ-ի հավաքագրման տեսանյութին կամ ինքնասպանություն փառաբանող TikTok գրառմանը: Եվ դա տեղի կունենա շատ ավելի մեծ մասշտաբով, քան սեռական շահագործում, որն օգտագործում են գրաքննիչը որպես տրոյական ձի՝ առցանց կառավարական գրաքննության գաղափարը նորմալացնելու համար:
Դրամայնացման հնարավորությամբ գրաքննության ծառայություններԿառավարությանը պատկանող AI գործիքը տեսականորեն կարող է օգտագործվել ոչ կառավարական կազմակերպության կողմից կառավարության թույլտվությամբ և այն հարթակների օրհնությամբ, որոնք ցանկանում են «արտաքինացնել» գրաքննության «պատասխանատվությունը»: Այսպիսով, մինչ կառավարությունը կարող է օգտագործել արհեստական ինտելեկտը՝ վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, հակապատերազմական տրամադրությունները. ընկերությունը կարող է օգտագործել այն վերահսկելու և ճնշելու համար, ասենք, որպես օրինակ, արագ սննդի դեմ տրամադրվածությունը: Կառավարությունը կարող է մեծ գումար վաստակել՝ վաճառելով AI գործիքների ծառայությունները երրորդ կողմերին: Հարթակները նույնպես կարող էին ենթադրաբար պահանջել կտրվածք: Այսպիսով, AI գրաքննության գործիքները կարող են պոտենցիալ օգուտ տալ կառավարությանը, տեխնոլոգիական հարթակներին և մասնավոր կորպորացիաներին: Խթաններն այնքան հզոր են, որ գրեթե անհնար է պատկերացնել, որ դրանք չեն շահարկվի։
Կարո՞ղ ենք հակադարձել ընթացքը:
Ես չգիտեմ, թե քանի պետական գործակալություն և քանի հարթակ է օգտագործում AI գրաքննության գործիքներ: Ես չգիտեմ, թե որքան արագ նրանք կարող են մեծանալ:
Ես չգիտեմ, թե ինչ գործիքներ ունենք մեր տրամադրության տակ՝ բացի իրազեկության բարձրացումից և քաղաքական գործիչներին լոբբինգ անելու և դատական հայցեր ներկայացնելուց՝ կանխելու կառավարության գրաքննությունը և կարգավորելու AI գործիքների օգտագործումը ինտերնետում:
Եթե որևէ մեկն այլ գաղափարներ ունի, հիմա ժամանակն է դրանք իրականացնել:
Հրատարակված է Ա Creative Commons Attribution 4.0 միջազգային լիցենզիա
Վերատպումների համար խնդրում ենք կանոնական հղումը վերադարձնել բնօրինակին Բրաունսթոունի ինստիտուտ Հոդված և հեղինակ.
