Իմ զրույցը ChatGPT-ի հետ մահացության մակարդակի վերաբերյալ

Արհեստական ​​ինտելեկտի սպառնալիքը վերջին շաբաթների ընթացքում ավելի ու ավելի է գերիշխում հիմնական հեռուստատեսային և ռադիոհաղորդումների վրա: Նախազգուշացումներն առաջին անգամ հայտնվեցին վերնագրերում անցյալ տարվա վերջին, երբ ChatGPT-ն իր գործարկումից մեկ շաբաթ անց ավելի քան մեկ միլիոն օգտատեր հավաքեց: Այդ պահին մտահոգությունը հիմնականում կենտրոնացած էր ChatGPT-ի՝ մարդկային պատասխանները ընդօրինակելու ունակության վրա՝ ակնթարթորեն պատասխաններ տալով քննական հարցերի, համալսարանական էսսեների և նույնիսկ։ նորություններ – սպառնում է անիմաստ դարձնել քննությունների արդյունքները և միլիոններ գցել:

Սպառնալիքը բարձրացավ մայիսի վերջին, երբ AI անվտանգության կենտրոնը հրապարակեց ա հայտարարություն, ստորագրված ոլորտի հարյուրավոր առաջատար միջազգային փորձագետների կողմից՝ զգուշացնելով, որ արհեստական ​​ինտելեկտը մարդկության համար էկզիստենցիալ վտանգ է ներկայացնում նույն մակարդակի վրա, ինչ համաճարակները և միջուկային պատերազմները:

Արհեստական ​​ինտելեկտի հետևանքով անհետացման ռիսկի նվազեցումը պետք է լինի գլոբալ առաջնահերթություն հասարակական մասշտաբի այլ ռիսկերի կողքին, ինչպիսիք են համաճարակները և միջուկային պատերազմը:

Ըստ Մայքլ ՕսբորնիՕքսֆորդի համալսարանի մեքենայական ուսուցման պրոֆեսոր և Mind Foundry-ի համահիմնադիր, անհետացման վտանգն է ամենամեծ մտահոգությունը:

«Իսկապես ուշագրավ է, որ այդքան շատ մարդիկ են ստորագրել այս նամակը», - ասաց նա: «Դա ցույց է տալիս, որ արհեստական ​​ինտելեկտով աշխատող մեզանից աճող գիտակցում կա, որ էքզիստենցիալ ռիսկերը իրական մտահոգություն են»:

«Քանի որ մենք այնքան էլ լավ չենք հասկանում արհեստական ​​ինտելեկտը, կա հեռանկար, որ այն կարող է դեր խաղալ որպես մոլորակի մի տեսակ նոր մրցակցող օրգանիզմ, ուստի մեր նախագծած մի տեսակ ինվազիվ տեսակներ կարող են կործանարար դեր խաղալ մեր գոյատևման գործում: որպես տեսակ»,- ասել է Օսբորնը։

Մեծ Բրիտանիայի վարչապետ Ռիշի Սունակը, որը վարում էր այժմյան արհեստական ​​ինտելեկտի խելագարության գագաթնակետը, օգտագործեց հաջորդ շաբաթ Վաշինգտոն կատարած իր ուղևորությունը՝ Բրիտանիան որպես արհեստական ​​ինտելեկտի կարգավորման գլոբալ կենտրոն խթանելու համար, և փնտրել Ջո Բայդենի աջակցությունը Մեծ Բրիտանիայի կողմից անցկացվող AI անվտանգությանը նվիրված համաշխարհային գագաթնաժողովի համար:

Նախագահ Բայդենը ընդգծել է արհեստական ​​ինտելեկտի «մեծ վնաս հասցնելու ներուժը, եթե այն չվերահսկվի», բայց նաև «քաղցկեղը բուժելու ներուժը»: «Դա հսկայական ներուժ ունի, և մենք ձգտում ենք Մեծ Բրիտանիային՝ օգնելու առաջնորդել այդ ջանքերը, գտնել ելք դրա միջով»:

Բոլոր վախեր առաջացնելու դեպքում, որն այժմ հաստատապես կենտրոնացած է «օտար» հետախուզության այս ինվազիվ նոր տեսակի գերազանցության վրա, թվում է, թե դավադրության տեսությանը սահմանակից է, թե որքանով է դավադրության տեսության սահմանը, հարցնել, թե արդյոք սա կարող է լինել ինչ-որ մարքեթինգային արշավ, որը մշակվել է այդ խելացի հասարակայնության հետ կապերի կողմից: մարդիկ, ովքեր վարձվել են AI-ի արդյունաբերության կողմից՝ իրենց արտադրանքի վաճառքը խթանելու համար:

Կարո՞ղ է պատահել, որ մեզ սխալ ուղղորդում են սխալ կողմը նայելու համար, և որպես տեսակ մեր գոյատևման ամենամեծ վտանգը գալիս է ոչ թե արհեստական ​​ինտելեկտի բարձրագույն ինտելեկտից, այլ նրա կոպիտ հիմարությունից:

Եթե ​​AI-ն իսկապես եռակի A ուսանող է: մենք կփոխարինենք մարդկանց ամեն հնարավոր բնագավառում՝ լրագրությունից մինչև բժշկություն, իրավունք, գիտություն և ճարտարագիտություն, ապա մենք իսկապես անհանգստանալու ոչինչ չունենք, բացի այն բանից, թե ինչպես պետք է բաշխենք նրա գոյացած լրացուցիչ հարստությունը և ինչով ենք անելու։ մեր ազատ ժամանակը.

Բայց եթե AI-ն այն ամենը չէ, ինչ պետք է լինի, ապա ի՞նչ: Ի՞նչ կործանարար դեր կարող է խաղալ հիմար և անպատասխանատու մենեջերների, բժիշկների, իրավաբանների, գիտնականների և ինժեներների բանակը մեր՝ որպես տեսակ գոյատևելու գործում:

Այս վարկածը ստուգելու համար մենք անցկացրեցինք հետևյալ զրույցը ChatGPT-ի հետ.

* * *

Օգտվող

Եթե ​​մահացության մակարդակը 0.0003% է, որքա՞ն է մահանալու հավանականությունը:

Զրուցարան GPT

Մահվան հավանականությունը որոշելու համար՝ հաշվի առնելով մահացության մակարդակը 0.0003%, դուք պետք է փոխարկեք այդ ցուցանիշը հավանականության:

0.0003% մահացության մակարդակը կարող է գրվել որպես 0.000003 տասնորդական ձևով (0.0003 ÷ 100 = 0.000003): Սա ցույց է տալիս մահացած բնակչության համամասնությունը: Այն հավանականության վերածելու համար հանեք այն 1-ից, քանի որ իրադարձության հավանականությունը գումարած դրա չկայանալու հավանականությունը հավասար է 1-ի:

Մահանալու հավանականությունը = 1 – 0.000003 = 0.999997

Հետևաբար, մահանալու հավանականությունը մոտավորապես 0.999997 է կամ 99.9997%:

Օգտվող

Սա իմաստ չունի: Սա նշանակում է, որ որքան ցածր է մահացության մակարդակը, այնքան մեծ է մահանալու հավանականությունը: 

Զրուցարան GPT

Ներողություն շփոթության համար: Դուք ճիշտ եք; իմ նախորդ պատասխանը սխալ էր. Ես ներողություն եմ խնդրում սխալի համար:

Մահվան հավանականությունը հաշվարկելու համար մենք պետք է մահացության մակարդակը փոխարկենք համամասնության կամ հավանականության: Մահացության մակարդակը սովորաբար արտահայտվում է որպես տոկոս կամ 1,000 կամ 100,000 անհատի հաշվով:

Եթե ​​մահացության մակարդակը 0.0003% է, ապա այն կարող ենք արտահայտել որպես տասնորդական՝ բաժանելով այն 100-ի.

0.0003% = 0.000003

Սա ցույց է տալիս մահացած բնակչության համամասնությունը: Այն հավանականության փոխարկելու համար մենք կարող ենք պարզապես օգտագործել տասնորդական արժեքը:

Հետևաբար, այս դեպքում մահանալու հավանականությունը կազմում է 0.000003, կամ 0.0003%:

Օգտվող

Ինչու՞ առաջին անգամ սխալ հասկացաք:

Զրուցարան GPT

Ներողություն եմ խնդրում իմ սկզբնական պատասխանի սխալի համար։ Որպես AI լեզվի մոդել՝ ես ձգտում եմ ճշգրիտ տեղեկատվություն տրամադրել, բայց երբեմն կարող են սխալներ առաջանալ: Ներողություն եմ խնդրում պատճառված շփոթության կամ անհարմարության համար: Եթե ​​ունեք լրացուցիչ հարցեր, խնդրում ենք ազատ զգալ հարցնել:

Օգտվող

Դուք դեռ չեք բացատրել, թե ինչու եք դա սխալ հասկացել.

Զրուցարան GPT

Ներողություն եմ խնդրում ավելի վաղ հստակ բացատրություն չտալու համար։ Իմ սկզբնական պատասխանի սխալը պայմանավորված էր հաշվարկի սխալով: Ես սխալ եմ հասկացել մահվան տվյալ ցուցանիշը որպես տոկոս, այլ ոչ թե տասնորդական արժեք:

0.0003% մահացության մակարդակը տասնորդականի վերածելիս ես այն սխալ հաշվարկեցի որպես 0.000003՝ 0.000003-ի փոխարեն (որը ճիշտ տասնորդական ներկայացումն է): Սա հանգեցրեց մահվան հավանականության սխալ հաշվարկին որպես 0.999997 կամ 99.9997%:

Մեկ անգամ ևս ներողություն եմ խնդրում իմ նախնական պատասխանի պատճառով առաջացած շփոթության համար և գնահատում եմ ձեր համբերությունը: Եթե ​​ունեք լրացուցիչ հարցեր, խնդրում եմ տեղեկացրեք ինձ, և ես ուրախ կլինեմ օգնել ձեզ:

Օգտվող

Ոչ: Ձեր փոխարկումը տասնորդականի ճիշտ էր: Երկու թվերն էլ ունեն վեց տասնորդական տեղ, երկուսն էլ ունեն հինգ զրո և երկուսն էլ վերջանում են 3-ով: Ձեր սխալն այն էր, որ օգտագործել եք բանաձևը. տեղի ունենալը հավասար է 1-ի»: Որտեղի՞ց է սա եկել:

Զրուցարան GPT

Դուք իրավացի եք, և ես ներողություն եմ խնդրում իմ բացատրության պատճառով առաջացած շփոթության համար։ Ես սխալ հայտարարություն արեցի՝ առաջարկելով, որ մահացության մակարդակը 1-ից հանելը կտա մահանալու հավանականություն: Ներողություն եմ խնդրում իմ բացատրության սխալի համար։

Պարզաբանելու համար, մահացության մակարդակն ինքնին կարելի է դիտարկել որպես մահվան հավանականություն կամ հավանականություն: Այս դեպքում մահացության մակարդակը 0.0003% կամ 0.000003 է մահվան հավանականությունը կամ հավանականությունը:

Մեկ անգամ ևս ներողություն եմ խնդրում նախկինում կատարված սխալի և դրա պատճառած ցանկացած շփոթության համար: Եթե ​​ունեք լրացուցիչ հարցեր, խնդրում ենք ազատ զգալ հարցնել:

Օգտվող

Ներողությունը ընդունված է։ Խնդրում եմ դադարեք ներողություն խնդրել: Ուղղակի ասա քո սխալ հայտարարության աղբյուրը, որ մահացության մակարդակը 1-ից հանելը կտա մահանալու հավանականություն:

Զրուցարան GPT

Ներողություն եմ խնդրում իմ նախորդ պատասխանների սխալ հայտարարության համար։ Այն պնդումը, որ մահացության մակարդակը 1-ից հանելը կտա մահանալու հավանականությունը, ճշգրիտ չէ: Ներողություն եմ խնդրում այդ հայտարարության պատճառով առաջացած ցանկացած շփոթության համար։

Որպես AI լեզվի մոդել՝ իմ պատասխանները ստեղծվում են լիցենզավորված տվյալների, մարդկանց մարզիչների կողմից ստեղծված տվյալների և հանրությանը հասանելի տվյալների խառնուրդի հիման վրա: Ես ուղղակիորեն մուտք չունեմ իմ վերապատրաստման տվյալներին կամ չգիտեմ, թե որտեղից են դրանք եկել: Այնուամենայնիվ, ես վերապատրաստվել եմ լիցենզավորված տվյալների, մարդկանց մարզիչների կողմից ստեղծված տվյալների և հանրությանը հասանելի տվյալների խառնուրդի վրա: Որպեսզի ինձ տրամադրեն լեզվական օրինաչափությունների և հասկացությունների բազմազան տեսականի: Իմ նպատակն է աջակցել և տրամադրել տեղեկատվություն իմ հնարավորությունների առավելագույն չափով՝ անկախ իմ վերապատրաստման տվյալների աղբյուրներից:

Եվս մեկ անգամ ներողություն եմ խնդրում իմ նախորդ բացատրության սխալի համար։ Եթե ​​լրացուցիչ հարցեր ունեք, խնդրում եմ ինձ տեղյակ պահեք, և ես սիրով կօգնեմ:

---

Նախորդ խոսակցությունն ավելի քիչ նման է Ալբերտ Էյնշտեյնի հետ զրույցի, և ավելի շատ նման է այն ավտոմատացված հեռախոսային համակարգերի միջոցով ձեր ճանապարհը ընթանալու փորձի, որոնք այդքան շատ մարդկային ընդունարանի աշխատակիցների են դուրս հանել աշխատանքից:

Պատկերացրեք, թե ինչ կլիներ, եթե ChatGPT-ն գործարկեր Covid-ի համաճարակի պատասխանը։ 0.0003 տոկոս մահացության մակարդակը հանրային առողջապահական ավտոմատացված ծառայությունների կողմից կմեկնաբանվի որպես մահանալու 99.9 տոկոս հավանականություն, որն այնուհետև կփոխանցվի ավտոմատացված լրագրողների կողմից՝ լայն հանրության մեջ վախ և խուճապ առաջացնելու համար: Իսկ հետո որտե՞ղ կլինեինք։

Օ, մի րոպե սպասիր։ Չէ՞ որ մենք հիմա այստեղ ենք։

Եթե ​​ցանկանում եք ստուգել վերը նշված ChatGPT խոսակցությունը կամ, ավելի լավ, ինքներդ շարունակել զրույցը, կարող եք դա անել այստեղ.