Բժշկության ոլորտում իմ փորձը թույլ է տալիս ինձ տարբերակել իրական նորարարությունը նուրբ վերադասակարգումից, որը հիմնարար կերպով փոխում է պրակտիկան՝ թվալով անփոփոխ։ Արհեստական բանականությունը վերջերս մեծ ուշադրություն է գրավել, այդ թվում՝ լայնորեն շրջանառվող պնդումը, որ արհեստական բանականությունը «օրինականորեն լիազորված է բժշկական գործունեություն ծավալել» Միացյալ Նահանգներում։ Բառացիորեն մեկնաբանված՝ այս պնդումը սխալ է։ Ոչ մի բժշկական խորհուրդ չի լիցենզավորել որևէ սարք։ Ոչ մի ալգորիթմ չի երդվել, չի ստանձնել ֆիդուցիար պարտականություն կամ անձնական պատասխանատվություն չի ստանձնել հիվանդին վնաս հասցնելու համար։ Ոչ մի ռոբոտ-բժիշկ չի բացում կլինիկա, չի վճարում ապահովագրողներին կամ չի կանգնում մասնագիտական աշխատանքների ժյուրիի առջև։
Սակայն այս դիտարկման վրա կանգ առնելը անտեսում է ավելի լայն խնդիրը։ Պատասխանատվության իրավական հասկացությունները ներկայումս վերաիմաստավորվում են, հաճախ առանց հանրության իրազեկման։
Ընթացքում է նշանակալի փոխակերպում, որը պահանջում է ավելին, քան պարզապես ռեֆլեքսիվ մերժում կամ անկաշկանդ տեխնոլոգիական ոգևորություն: Ներկայիս զարգացումը արհեստական բանականությանը որպես բժշկի լիցենզավորումը չէ, այլ բժշկության հիմնական սահմանի աստիճանական քայքայումը՝ կլինիկական դատողության և մարդկային պատասխանատվության միջև ներքին կապը: Կլինիկական դատողությունը ենթադրում է տեղեկացված որոշումների կայացում՝ հարմարեցված յուրաքանչյուր հիվանդի եզակի կարիքներին և հանգամանքներին, ինչը պահանջում է կարեկցանք, ինտուիցիա և բժշկական էթիկայի խորը ըմբռնում:
Մարդկային պատասխանատվությունը վերաբերում է այն պատասխանատվությանը, որը առողջապահական ծառայություններ մատուցողները ստանձնում են այս որոշումների և դրանց արդյունքների համար: Այս էրոզիան դրամատիկ օրենսդրության կամ հանրային քննարկումների արդյունք չէ, այլ տեղի է ունենում աննկատ՝ փորձնական ծրագրերի, կարգավորող մարմինների վերաիմաստավորումների և պատասխանատվությունը դիտավորյալ խեղաթյուրող լեզվի միջոցով: Երբ այս սահմանը վերանում է, բժշկությունը վերափոխվում է այնպիսի ձևերով, որոնք դժվար է հետ շրջել:
Հիմնական մտահոգությունն այն չէ, թե արդյոք արհեստական բանականությունը կարող է լրացնել դեղատոմսերը կամ հայտնաբերել աննորմալ լաբորատոր արդյունքները: Բժշկությունը վաղուց է օգտագործել գործիքներ, և առողջապահության ոլորտի մասնագետները, ընդհանուր առմամբ, ողջունում են այն օգնությունը, որը նվազեցնում է վարչական աշխատանքները կամ բարելավում է օրինաչափությունների ճանաչումը: Իրական խնդիրն այն է, թե արդյոք բժշկական դատողությունը՝ ճիշտ գործողությունների, հիվանդների և ռիսկերի վերաբերյալ որոշումը, կարող է դիտվել որպես համակարգչային արդյունք, որը անջատված է բարոյական պատասխանատվությունից: Պատմականորեն, դատողությունը պատասխանատվությունից անջատելու ջանքերը հաճախ վնաս են պատճառել՝ առանց պատասխանատվություն ստանձնելու:
Վերջին զարգացումները պարզաբանում են ներկայիս շփոթության պատճառները: Մի քանի նահանգներում սահմանափակ փորձնական ծրագրերը այժմ թույլ են տալիս արհեստական բանականության վրա հիմնված համակարգերին օգնել կայուն քրոնիկ հիվանդությունների դեղատոմսերի երկարաձգմանը՝ նեղ սահմանված արձանագրությունների համաձայն: Դաշնային մակարդակում առաջարկվող օրենսդրությունը քննարկել է, թե արդյոք արհեստական բանականությունը կարող է որակվել որպես «գործնական մասնագետ» որոշակի օրենսդրական նպատակներով, եթե այն պատշաճ կերպով կարգավորվի: Այս նախաձեռնությունները սովորաբար ներկայացվում են որպես բժիշկների պակասի, մուտքի ուշացումների և վարչական անարդյունավետության պրագմատիկ պատասխաններ: Չնայած ոչ մեկը բացահայտորեն արհեստական բանականությունը չի նշանակում որպես բժիշկ, դրանք միասին նորմալացնում են ավելի մտահոգիչ այն նախադրյալը, որ բժշկական գործողությունները կարող են տեղի ունենալ առանց հստակորեն նույնականացվող մարդկային որոշում կայացնողի:
Գործնականում այս տարբերակումը հիմնարար է: Բժշկությունը սահմանվում է ոչ թե առաջադրանքների մեխանիկական կատարմամբ, այլ պատասխանատվության բաշխմամբ, երբ արդյունքները անբարենպաստ են: Դեղատոմս գրելը պարզ է. դրա հետևանքների համար պատասխանատվություն ստանձնելը, մասնավորապես՝ հաշվի առնելով ուղեկցող հիվանդությունները, սոցիալական համատեքստը, հիվանդի արժեքները կամ թերի տեղեկատվությունը, շատ ավելի բարդ է: Իմ ողջ կարիերայի ընթացքում այս պատասխանատվությունը անընդհատ կրել է մարդը, ում կարելի է հարցականի տակ դնել, մարտահրավեր նետել, ուղղել և պատասխանատվության ենթարկել: Երբ բժիշկ Սմիթը սխալ է թույլ տալիս, ընտանիքը գիտի, թե ում հետ կապ հաստատել՝ ապահովելով մարդկային պատասխանատվության ուղիղ կապ: Ոչ մի ալգորիթմ, անկախ բարդությունից, չի կարող կատարել այս դերը:
Հիմնական ռիսկը տեխնոլոգիական չէ, այլ կարգավորող և փիլիսոփայական։ Այս անցումը ներկայացնում է անցում առաքինության էթիկայից դեպի ընթացակարգային։ Երբ օրենսդիրներն ու հաստատությունները վերանայում են բժշկական որոշումների կայացումը որպես համակարգերի գործառույթ, այլ ոչ թե անձնական գործողությունների, բժշկության բարոյական շրջանակը փոխվում է։ Հաշվետվողականությունը դառնում է ցրված, վնասը ավելի դժվար է վերագրել, և պատասխանատվությունը բժիշկներից անցնում է գործընթացների, դատողությունից՝ արձանագրությունների պահպանմանը։ Երբ սխալներ անխուսափելիորեն տեղի են ունենում, գերակշռող բացատրությունն այն է, որ «համակարգը հետևել է սահմանված ուղեցույցներին»։ Այս անցումը ճանաչելը պարզաբանում է անցումը անհատականացված էթիկական որոշումների կայացումից դեպի մեխանիզացված ընթացակարգային համապատասխանություն։
Այս մտահոգությունը տեսական չէ։ Ժամանակակից առողջապահությունն արդեն իսկ բախվում է հաշվետվողականության թուլացման հետ կապված մարտահրավերների։ Ես նկատել եմ, որ ալգորիթմային որոշումներից տուժած հիվանդները կորչում են ադմինիստրատորների, մատակարարների և անթափանց մոդելների շրջանում՝ առանց հիմնարար հարցի հստակ պատասխանի. Ո՞վ է կայացրել այս որոշումը։ Արհեստական բանականությունը զգալիորեն արագացնում է այս խնդիրը։ Ալգորիթմը չի կարող բարոյական բացատրություններ տալ, զսպվածություն ցուցաբերել խղճի վրա հիմնված, մերժել գործողությունները էթիկական մտահոգությունների պատճառով կամ սխալը ընդունել հիվանդի կամ ընտանիքի առջև։
Արհեստական բանականության ինքնավարության բարձրացման կողմնակիցները հաճախ որպես արդարացում բերում են արդյունավետությունը: Կլինիկաները գերծանրաբեռնված են, բժիշկները գերհոգնածության մեջ են, իսկ հիվանդները հաճախ ամիսներ են սպասում խնամքի, որը պետք է տևի ընդամենը մի քանի րոպե: Այս մտահոգությունները արդարացի են, և ցանկացած ազնիվ բժիշկ դրանք գիտակցում է: Այնուամենայնիվ, միայն արդյունավետությունը չի արդարացնում բժշկության էթիկական հիմքի փոփոխությունը: Արագության և մասշտաբի համար օպտիմալացված համակարգերը հաճախ զոհաբերում են նրբերանգները, հայեցողությունը և անհատական արժանապատվությունը: Պատմականորեն, բժշկությունը դիմադրել է այս միտմանը՝ ընդգծելով, որ խնամքը հիմնականում հարաբերություն է, այլ ոչ թե գործարք:
Արհեստական բանականությունը վտանգում է շրջել այս հարաբերությունները։ Երբ համակարգերն են խնամք մատուցում, այլ ոչ թե անհատները, հիվանդը այլևս չի կնքում պայմանագիր կլինիցիզի հետ, այլ դառնում է աշխատանքային հոսքի մաս։ Բժիշկը ստանձնում է մեքենայի վերահսկողի դերը կամ, ավելի մտահոգիչն այն է, որ ծառայում է որպես իրավական բուֆեր՝ կլանելով անձամբ չկայացած որոշումների համար պատասխանատվությունը։ Ժամանակի ընթացքում կլինիկական դատողությունը զիջում է իր տեղը արձանագրությանը հետևելուն, և բարոյական ազատությունը աստիճանաբար նվազում է։
Արհեստական բանականությունը նաև ներմուծում է ավելի նուրբ և ավելի վտանգավոր խնդիր՝ անորոշության քողարկումը։ Բժշկությունը ապրում է երկիմաստության մեջ։ Ապացույցները հավանականային են։ Ուղեցույցները նախնական են։ Հիվանդները հազվադեպ են ներկայանում որպես մաքուր տվյալների հավաքածուներ։ Բժիշկները պատրաստված են ոչ միայն գործելու, այլև տատանվելու՝ ճանաչելու, թե երբ է տեղեկատվությունը անբավարար, երբ միջամտությունը կարող է ավելի շատ վնաս պատճառել, քան օգուտ, կամ երբ ճիշտ ընթացքը սպասելն է։ Պատկերացրեք մի սցենար, երբ արհեստական բանականությունը խորհուրդ է տալիս դուրս գրվել, բայց հիվանդի ամուսինը թվում է վախեցած, ինչը ընդգծում է ալգորիթմական որոշումների կայացման և մարդկային ինտուիցիայի միջև առկա լարվածությունը։ Նման իրական աշխարհի շփումը ընդգծում է երկիմաստության վտանգը։
Արհեստական բանականության համակարգերը անորոշություն չեն զգում. դրանք արդյունքներ են ստեղծում։ Երբ սխալվում են, դրանք հաճախ դա անում են անհիմն վստահությամբ։ Այս բնութագիրը ծրագրավորման թերություն չէ, այլ վիճակագրական մոդելավորման ներհատուկ առանձնահատկություն։ Ի տարբերություն փորձառու բժիշկների, ովքեր բացահայտորեն կասկածներ են արտահայտում, մեծ լեզվական մոդելները և մեքենայական ուսուցման համակարգերը չեն կարող ճանաչել իրենց սեփական սահմանափակումները։ Դրանք ստեղծում են հավանական պատասխաններ նույնիսկ այն դեպքում, երբ տվյալները անբավարար են։ Բժշկության մեջ հիմնավորում չպահանջող հավանականությունը կարող է վտանգավոր լինել։
Քանի որ այս համակարգերը ավելի վաղ են ինտեգրվում կլինիկական աշխատանքային հոսքերի մեջ, դրանց արդյունքները ավելի ու ավելի են ազդում հետագա որոշումների վրա: Ժամանակի ընթացքում բժիշկները կարող են սկսել վստահել առաջարկություններին ոչ թե դրանց վավերականության, այլ այն պատճառով, որ դրանք դարձել են նորմալացված: Դատողությունը աստիճանաբար ակտիվ դատողությունից անցնում է պասիվ ընդունման: Նման հանգամանքներում «մարդը ցիկլում» ծառայում է որպես ոչ այլ ինչ, քան խորհրդանշական պաշտպանություն:
Պաշտպանները հաճախ պնդում են, որ արհեստական բանականությունը միայն «կբարձրացնի» բժիշկներին, այլ ոչ թե կփոխարինի նրանց։ Սակայն այս հավաստիացումը թույլ է։ Երբ արհեստական բանականությունը ցույց է տալիս արդյունավետության աճ, տնտեսական և ինստիտուցիոնալ ճնշումները հակված են խթանել ինքնավարության աճը։ Եթե համակարգը կարող է անվտանգ կերպով լրացնել դեղատոմսերը, շուտով կարող է թույլատրվել դրանք սկսել։ Եթե այն կարողանա ճշգրիտ ախտորոշել տարածված հիվանդությունները, բժշկի կողմից վերանայման անհրաժեշտությունը կասկածի տակ է դրվում։ Եթե այն գերազանցում է մարդկանց վերահսկվող չափանիշներով, մարդկային փոփոխականության նկատմամբ հանդուրժողականությունը նվազում է։
Հաշվի առնելով այս միտումները, անհրաժեշտ է կիրառել որոշակի պաշտպանիչ միջոցներ: Օրինակ՝ արհեստական բանականության վրա հիմնված որոշումների 5%-ի վերաբերյալ պարտադիր անհամապատասխանությունների աուդիտները կարող են ծառայել որպես կոնկրետ ստուգում՝ ապահովելով արհեստական բանականության առաջարկությունների և մարդկային կլինիկական դատողության միջև համապատասխանությունը, միաժամանակ կարգավորող մարմիններին և հիվանդանոցային խորհուրդներին տրամադրելով գործնական չափանիշներ՝ արհեստական բանականության ինտեգրումը վերահսկելու համար:
Այս հարցերը չար մտադրությամբ չեն տրվում. դրանք բնականաբար առաջանում են ծախսերի զսպման և մասշտաբայնության վրա կենտրոնացած համակարգերում: Այնուամենայնիվ, դրանք ցույց են տալիս մի ապագա, որտեղ մարդկային դատողությունը կդառնա բացառություն, այլ ոչ թե նորմա: Նման սցենարում ռեսուրսներ ունեցող անհատները կշարունակեն ստանալ մարդկային խնամք, մինչդեռ մյուսները կուղղորդվեն ավտոմատացված գործընթացների միջոցով: Երկաստիճան բժշկությունը կստացվի ոչ թե գաղափարախոսությունից, այլ օպտիմալացումից:
Այս պահը հատկապես վտանգավոր է դարձնում պատասխանատվության հստակ սահմանների բացակայությունը։ Երբ արհեստական բանականության կողմից կայացված որոշումը վնասում է հիվանդին, ո՞վ է պատասխանատու։ Արդյո՞ք կլինիցիստը անվանապես վերահսկում է համակարգը։ Այն տեղակայող հաստատությունը՞։ Մոդելը վերապատրաստած մատակարարը՞։ Դրա օգտագործումը հաստատած կարգավորող մարմինը՞։ Առանց հստակ պատասխանների պատասխանատվությունը գոլորշիանում է։ Եվ երբ պատասխանատվությունը գոլորշիանում է, վստահությունը շուտով հաջորդում է դրան։
Բժշկությունը հիմնարար կերպով կախված է վստահությունից։ Հիվանդները իրենց մարմինները, վախերը և հաճախ նաև կյանքը դնում են բժիշկների ձեռքը։ Այս վստահությունը չի կարող փոխանցվել ալգորիթմին՝ անկախ դրա բարդությունից։ Այն հիմնված է այն վստահության վրա, որ մարդը ներկա է. մեկը, ով ունակ է լսելու, հարմարվելու և իր գործողությունների համար պատասխանատու լինելու։
Արհեստական բանականությունից լիովին հրաժարվելը ավելորդ է։ Երբ խելամտորեն օգտագործվում է, արհեստական բանականությունը կարող է նվազեցնել գրասենյակային բեռը, բացահայտել մարդկային կողմից անտեսանելի օրինաչափություններ և աջակցել կլինիկական որոշումների կայացմանը։ Այն կարող է թույլ տալ բժիշկներին ավելի շատ ժամանակ հատկացնել հիվանդների խնամքին, քան վարչական խնդիրներին։ Այնուամենայնիվ, այս ապագայի գիտակցումը պահանջում է մարդկային պատասխանատվությունը բժշկական պրակտիկայի հիմքում պահելու հստակ հանձնառություն։
«Մարդը ցիկլում» պետք է նշանակի ավելին, քան պարզապես խորհրդանշական վերահսկողություն: Այն պետք է պահանջի, որ կոնկրետ անհատը պատասխանատու լինի յուրաքանչյուր բժշկական որոշման համար, հասկանա դրա հիմնավորումը և պահպանի ինչպես ալգորիթմական առաջարկությունները անտեսելու լիազորությունն ու պարտավորությունը: Այն պետք է նաև ենթադրի թափանցիկություն, բացատրելիություն և հիվանդի տեղեկացված համաձայնություն, ինչպես նաև մարդ-կլինիցիստների մեջ ներդրումներ կատարելու պարտավորություն, այլ ոչ թե նրանց արհեստական ինտելեկտով փոխարինելու:
Հիմնական ռիսկը արհեստական բանականության չափազանց հզորությունը չէ, այլ հաստատությունների պատրաստակամությունը՝ հրաժարվել պատասխանատվությունից: Արդյունավետության և նորարարության ձգտման մեջ կա վտանգ, որ բժշկությունը կդառնա տեխնիկապես զարգացած, վարչական առումով արդյունավետ ոլորտ, որը, սակայն, զուրկ կլինի բարոյական բովանդակությունից:
Երբ մենք մտածում ենք ապագայի մասին, կարևոր է հարցնել. ինչպիսի՞ բուժողի ենք պատկերացնում 2035 թվականին հիվանդի մահճակալի մոտ։ Այս հարցը կոչ է անում կոլեկտիվ բարոյական երևակայության՝ խրախուսելով մեզ ձևավորել մի ապագա, որտեղ մարդկային պատասխանատվությունն ու կարեկցանքը կմնան բժշկական պրակտիկայի կենտրոնում։ Կոլեկտիվ գործակալության մոբիլիզացումը կարևորագույն նշանակություն կունենա արհեստական բանականության ոլորտում առաջընթացը այս հիմնարար արժեքները բարելավելու, այլ ոչ թե խաթարելու համար։
Արհեստական բանականությունը բժշկական գործունեություն ծավալելու լիցենզիա չունի։ Սակայն բժշկությունը աննկատելիորեն վերափոխվում է այնպիսի համակարգերի շուրջ, որոնք բարոյական կշիռ չունեն։ Եթե այդ գործընթացը շարունակվի անվերահսկելի, մի օր մենք կարող ենք պարզել, որ բժշկին փոխարինել է ոչ թե մեքենա, այլ արձանագրություն, և որ երբ վնաս է պատահում, դրա համար պատասխանատու չկա։
Դա առաջընթաց չէր լինի։ Դա հրաժարում կլիներ։
-
Ջոզեֆ Վարոն, բժշկական գիտությունների դոկտոր, վերակենդանացման բժիշկ է, պրոֆեսոր և Անկախ բժշկական դաշինքի նախագահ։ Նա հեղինակ է ավելի քան 980 գրախոսվող հրապարակումների և հանդիսանում է «Անկախ բժշկության հանդես»-ի գլխավոր խմբագիրը։
Դիտեք բոլոր հաղորդագրությունները
