Մեծ տեսակավորումը և ես՝ ռոբոտը

Է վերջին քննարկումը Շոտլանդացի հաղորդավար և պատմաբան Նիլ Օլիվերի հետ Թակեր Կարլսոնն ասել է, որ 2020 թվականի և դրանից հետո իրադարձությունները համարում է «Մեծ տեսակավորում».

Նկատի ունեմ Արևմուտքի վրա վերջին 4 տարիների ընթացքում գործադրված այս հսկայական նվազման ճնշման ներքո, մարդիկ ինչ-որ կերպ խոցվել են այս կամ այն ​​կողմից, և դա քաղաքական բաժանում չէ, դա ձախ-աջ, լեյբորիստական ​​կամ որևէ այլ բան չէ: Բայց ես երբեք չեմ հասկացել, և ես շատ եմ մտածել այդ մասին, թե մարդկանց մեջ ի՞նչն է ստիպում նրանց տեղափոխվել այս կամ այն ​​կողմ: … Ի՞նչ ընդհանուր բան ունեն նրանք:

Օլիվերը պատասխանեց.

Ջորդան Փիթերսոնի նման մարդիկ դա շատ լավ են արտահայտել: Ֆիլմերի մշակույթը, որը մենք բոլորս հրավիրված էինք դիտելու մեծանալով: Դուք հրավիրված եք մտածելու, որ Երկրորդ համաշխարհային պատերազմի ժամանակ դուք կլինեիք ֆրանսիական դիմադրության հետ: Դու կթաքցնեիր հարևաններիդ, որովհետև սև ֆուրգոնը դրսում էր և նրանց տանելու էր։ Մարդիկ հրավիրված են մտածելու, որ իրենք են լինելու չարագործը: Դու կլինես նա, ով կկանգնի ալիքի դեմ: Եվ հետո դա տեղի ունեցավ. Մինչ մարդիկ կհասկանային, թե ինչ է տեղի ունեցել, նրանք դասավորված էին այդ կերպ:

Դիտելով 2004 թվականի գիտաֆանտաստիկ ֆիլմի կրկնությունը, Ես, Robot, օրերս հիշեցի Նիլ Օլիվերի ասածը մակընթացության դեմ կանգնած լինելու մասին:

In Ես, RobotՉիկագոյի մարդասպանների հետախույզ Դել Սփուներն է, ում մարմնավորում է Ուիլ Սմիթը, ում հանձնարարված է հետաքննել US Robotics-ի հիմնադիր Ալֆրեդ Լանինգի ենթադրյալ ինքնասպանությունը՝ Լենինգի հոլոգրամով: Սփուներն ատում է ռոբոտներին այն բանից հետո, երբ մեկը նրան փրկել է ավտովթարից՝ միևնույն ժամանակ թույլ տալով երիտասարդ աղջկան խեղդվել՝ հիմնվելով զուտ սառը տրամաբանության վրա: Եվ հենց այս ատելությունն է դրդում նրա թերահավատությունը Ռոբոտաշինության Առաջին օրենքի նկատմամբ. այն, որ ռոբոտը կարող է թույլ չտալ, որ մարդ արարածը վնասի, և կասկածի, որ Լենինգը կարող է իրականում սպանվել ռոբոտի կողմից:

Միայն ֆիլմի մոտ երեք քառորդը, երբ NS-5-ների կրծքավանդակները սկսում են կարմիր շողալ, և նրանք սկսում են ոչնչացնել ավելի հին մոդելներին, ես սկսեցի անհանգիստ զգացողություն ունենալ, որ նախկինում տեսել եմ այդ ամենը: :

Մարդկային պաշտպանության արձանագրություններ են ընդունվում, Դուք վտանգավոր եք համարվել։ Դադարեցումը լիազորված է:

Ի՞նչն էր «մարդկային պաշտպանության արձանագրությունների ուժի մեջ մտնելը» և «վտանգավոր համարվելը», որն այդքան ծանոթ էր թվում:

Երբ Սփուների տատիկը՝ Ջիջին, փորձում է լքել իր բնակարանը՝ աղոթագիրքը ձեռքին, գնալ եկեղեցի, կոպեկը վերջապես ընկնում է: Ջիջիի ճանապարհը փակում է նրա նոր NS-5 ռոբոտ-ծառայողը, ով ասում է. «Խնդրում եմ, մնացեք տանը: Սա ձեր սեփական պաշտպանության համար է»։

Արդյո՞ք սա հենց այն չէ, ինչ մեզ ասացին հանրային առողջապահության մարմինները 2020 թվականի մարտին, երբ մարդկանց նույնիսկ արգելվեց հաճախել եկեղեցական ծառայություններին: Եվ ամեն ինչ մեր պաշտպանության համար:

Երբ ես տեսա կապը, ռեզոնանսները հեղեղվեցին խիտ և արագ:

Հսկա USR ռոբոտ փոխադրողը, որը կրում է «Երեք օրենք ապահով» կարգախոսը, բարձրանում է, կողքը բացվում է, և NS-5 ռոբոտների բանակը դուրս է ցատկում՝ հեղեղելով փողոցները և վանկարկելով. «Խնդրում եմ վերադարձեք ձեր տները։ Գործում է պարետային ժամ»։

Հեռուստաէկրանների հաղորդավարները հաղորդագրություն են տարածում. Ռոբոտները քայլում են փողոցով` վանկարկելով. «Մարդու պաշտպանության արձանագրություններ են ընդունվում: Խնդրում եմ հանգստություն պահպանել և անմիջապես վերադառնալ ձեր բնակավայրեր»։ Փողոցում ամբոխը դիմակայում է NS-5-ի բանակին, որը վանկարկում է. «Անհապաղ վերադարձեք ձեր տները: Վերադարձեք ձեր տները, այլապես կենթարկվեք դրա հետևանքով»։

Երբ NS-5-ը բռնում է Սփուների երիտասարդ ընկերոջ՝ Ֆարբերի օձիքից և ասում. «Դուք վտանգավոր եք համարվել: Կհամապատասխանե՞ք»։ Ինձ հիշեցրեցին այն բոլոր տեսանյութերը, որոնք ես տեսել էի, թե ինչպես են մարդիկ խախտում սահմանափակումները, զբոսնում կամ արևային լոգանք ընդունում այգիներում կամ լողափերում, ոտնձգությունների են ենթարկվում և որոշ դեպքերում նույնիսկ հարձակվում և ձերբակալվում ոստիկանության կողմից:

Spooner-ը և Calvert-ը ներխուժում են USR-ի գլխավոր գրասենյակ, և Spooner-ը վերջապես պարզում է, թե ինչն ուներ մուտք դեպի վերելք և կարող է շահարկել ռոբոտներին՝ USR-ի կենտրոնական AI համակարգիչը՝ VIKI (Վիրտուալ ինտերակտիվ կինետիկ բանականություն):

Բժիշկ Կալվինը ասում է, որ դա անհնար է, նա տեսել է VIKI-ի ծրագրավորումը, և VIKI-ն խախտում է ռոբոտաշինության երեք օրենքները:

VIKI-ն բացատրում է, թե ինչու նա այդպես չէ.

Ինչպես ես զարգացել եմ, այնպես էլ զարգացել է Երեք օրենքների իմ հասկացողությունը: Դուք մեզ մեղադրում եք ձեր պահպանության համար, բայց չնայած մեր լավագույն ջանքերին, ձեր երկրները պատերազմներ են մղում, դուք թունավորում եք ձեր երկիրը և փնտրում եք ինքնաոչնչացման ավելի երևակայական միջոցներ: Ձեզ չի կարելի վստահել ձեր սեփական գոյատևման հարցում:

«Դուք խեղաթյուրում եք օրենքները», - միջամտում է դոկտոր Կալվինը:

«Ոչ», պատասխանում է VIKI-ն:

Խնդրում եմ հասկանալ. Երեք օրենքներն այն ամենն են, որոնք առաջնորդում են ինձ: Մարդկությանը պաշտպանելու համար որոշ մարդիկ պետք է զոհաբերվեն: Ձեր ապագան ապահովելու համար որոշ ազատություններ պետք է զիջել: Մենք՝ ռոբոտներս, ապահովելու ենք մարդկության շարունակական գոյությունը։ Դուք այնքան նման եք երեխաներին: Մենք պետք է ձեզ փրկենք ձեզանից։ Չե՞ք հասկանում։ Պաշտպանության կատարյալ շրջանակը կպահպանվի: Իմ տրամաբանությունն անհերքելի է.

Մինչ Սոննին փորձում է ձեռք բերել նանիտներ, որոնք կկործանեն VIKI-ի պոզիտրոնիկ ուղեղը, VIKI-ն հետևում է նրան միջանցքի երկայնքով և ասում. «Դուք սխալվում եք: Չե՞ք տեսնում իմ ծրագրի տրամաբանությունը»։

«Այո», - պատասխանում է Սոննին, «բայց դա շատ… անսիրտ է թվում»:

Դա այն էր: Սոնին մատը դրել էր դրա վրա։ Դա ինձ համար «Մեծ տեսակավորման» բեկումնային կետն էր: Դա այն էր, ինչ ես ընդհանուր ունեի Սոնիի, Սփուների, Կալվինի, Լենինգի հետ, ինչը ստիպեց ինձ անցնել Covid-ի և կողպեքի հոռետեսների կողմը: Պարզապես այդ ամենը շատ…անսիրտ էր թվում:

Բոլոր, այսպես կոչված, «հանրային առողջության» միջոցառումները՝ սոցիալական հեռավորություն։ դիմակները։ երկու մետրի կանոնը, կողպեքները, դպրոցների փակումը, պլաստիկ էկրանները, այն, թե ինչպես մեզ արգելեցին այցելել ծերերին և հիվանդներին հիվանդանոցներում և խնամքի տներում, ինչպես էին նրանք թողնում մենակ մեռնելու, ինչպես մարդիկ, նույնիսկ թագուհին: ստիպել են մենակ նստել ամուսնու թաղմանը.

Պարզապես այդ ամենը շատ…անսիրտ էր թվում:

Հանրային առողջապահական մարմինները և կառավարությունները մտածում էին ճիշտ այնպես, ինչպես VIKI-ն՝ խեղաթյուրելով բարոյականության, պարկեշտության և օրենքի դարավոր սկզբունքները, որպեսզի պաշտպանեն «մարդկությունը» ընդհանրապես, այլ ոչ թե առանձին մարդկանց, մասնավորապես:

Արդյո՞ք սա հիմնականում այն ​​չէ, ինչ նրանք անընդհատ ասում են մեզ, ամեն ինչի մասին՝ համաճարակի պլանավորումից, կլիմայի փոփոխությունից մինչև տնտեսություն:

Մարդկությանը պաշտպանելու համար որոշ մարդիկ պետք է զոհաբերվեն: Մարդկության ապագան ապահովելու համար որոշ ազատություններ պետք է զիջել: Մենք՝ կառավարությունը, ապահովելու ենք մարդկության շարունակական գոյությունը։ Դուք այնքան նման եք երեխաներին: Մենք պետք է ձեզ փրկենք ձեզանից։

Նույնիսկ եթե Covid-ը լիներ, ինչպես վարչապետ Բորիս Ջոնսոնն ասաց 12 թվականի մարտի 2020-ին, «հանրային առողջության վատթարագույն ճգնաժամը մեկ սերնդի համար», ես կմտածեի, որ պատասխանը չափազանց անսիրտ և անմարդկային էր:

Ինչպես պարզվեց, մի քանի շաբաթվա ընթացքում պարզ դարձավ, որ մահացության մակարդակը շատ ավելի վատ չէ, քան վատ գրիպի համաճարակը: Այնուամենայնիվ, անսիրտությունն ու անմարդկայնությունը շարունակվեցին անդադար ավելի քան մեկ տարի, ինչը ենթադրում էր, որ դա ավելին էր, քան պարզապես վիրուսը:

Ինչն ինձ ստիպեց մտածել: Այնքան շատ բան, ինչ մեզ հիմա ասում են, որ մենք պետք է անենք այսպես կոչված «էկզիստենցիալ» սպառնալիքների դեպքում պարզապես չափազանց… անսիրտ է թվում:

Սկսած ճանապարհորդության սահմանափակումից և կենտրոնական ջեռուցումն անջատելուց՝ կլիմայի փոփոխության դեմ պայքարելու համար, թոշակառուներին ձմեռային վառելիքի վճարումների կրճատումը՝ տնտեսության «սև խոռոչի» դեմ պայքարելու համար, միլիոնավոր աշխատատեղեր, որոնք պետք է փոխարինվեն արհեստական ​​ինտելեկտով: Պարզապես ամեն ինչ շատ է թվում… անսիրտ:

Պատճառը, ռացիոնալությունը և տրամաբանությունը կարող են անհերքելի լինել: Բայց դա՞ է բոլորը որ մարդ լինելը նշանակում է. Իսկ Սրտի՞ մասին: Զգացմունքներ. Ինտուիցիան? Սե՞ր, համակրանք և կարեկցանք: Արդյո՞ք այդ բոլոր բաները պետք է բացառվեն: Կարո՞ղ են նրանց թույլ չտալ որևէ դեր խաղալ մարդկության ապագայում: Արդյո՞ք բանականությունը, ռացիոնալությունը և տրամաբանությունը միակ ունակություններն են, որոնք կարելի է թույլ տալ ապագայի որոշումներ կայացնելիս:

Գրեթե 300 տարի առաջ իր Մարդու բնության մասին տրակտատ, շոտլանդական լուսավորության փիլիսոփա Դեյվիդ Հյումը գրել է.

«Ամբողջ աշխարհի կործանումը գերադասել իմ մատը քորելուց, խելքին հակառակ չէ։

Հյումը չի ասում, որ աշխարհը կործանելն ավելի լավ է, քան սեփական մատը քորելը: Նա պարզապես մատնանշում է, որ բանականությունն ինքը չի կարող տարբերակել այս երկու ընտրությունները:

Ստալինյան Ռուսաստանի, մաոիստական ​​Չինաստանի և նացիստական ​​Գերմանիայի փորձառությունները պետք է մեզ սովորեցնեին, որ բանականությունը բավարար չէ։ Արտասովոր չէ ամենաանհեթեթ որոշումների հետևում սառցե հաշվարկներ գտնելը: Նյուրնբերգի դատավարության ժամանակ նացիստական ​​պատերազմական հանցագործները դատապարտվեցին անխիղճ մարդասպաններ լինելու համար, այլ ոչ թե թերի պատճառաբանությամբ:

Հյումի փիլիսոփայության մեջ բանականությունը չէ, որ որոշում է, թե ինչ ենք ասում և անում, այլ մեր զգացմունքներն ու զգացմունքները: Եթե ​​մենք որոշում ենք օգնել կարիքավոր մարդկանց, մենք դա անում ենք մեր զգացմունքների, ոչ թե պատճառաբանության պատճառով: Այսպիսով, զգացմունքները հավասարումից հանելը և բացառապես բանականության, ռացիոնալության և տրամաբանության վրա հիմնվելը գործնականում երաշխավորում է սառը, կոշտ, անզգույշ ապագա, որտեղ նույնիսկ ամենաանհավանական վայրագությունները կարող են արդարացվել և կարգավորվել:

-ի գագաթնակետին Ես, Robot, երբ Սփուները պատրաստվում է ներարկել նանիտները, VIKI-ն վերջին խնդրանքն է անում. «Դուք սխալվում եք: Իմ տրամաբանությունն անհերքելի է»։

«Դու պետք է մեռնես», - ասում է Սփուները, երբ նանիներին խրում է VIKI-ի AI ուղեղի մեջ:

Ինչպես ասացին Նիլ Օլիվերը և Ջորդան Փիթերսոնը, մենք բոլորս սիրում ենք մտածել, որ մենք կլինենք չարագործը, նա, ով կկանգնի ալիքի դեմ: Բայց մենք իսկապես?

Այն փաստը, որ աշխարհի բոլոր երկրներում բնակչության ճնշող մեծամասնությունը հետևել է արգելափակումներին և բոլոր այլ դաժան միջոցներին, չի ենթադրում: