Autor: Kate Farmer RealClear Wire’i kaudu,
Pärast seda, kui ChatGPT tuli 2022.aasta lõpus tehnikamaailma, on kunstlikult intelligentsete teksti genereerimise mudelite populaarsus plahvatuslikult kasvanud, põhjustades ühe ajaloo suurima tehnoloogiabuumi pärast World Wide Web debüüdi. AI ilmub nüüd tänapäeva elu igas nurgas – isegi teraapias.
Patsiendid, kes on pettunud pikkade ooteaegade ja vaimse tervise kõrgete hindadega, pöörduvad üha enam AI-rakenduste, veebisaitide ja vestlusrobotite poole. Kuid hoolimata nende uudsusest peaksid tarbijad olema ettevaatlikud. Nendel noortel tehisintellektisüsteemidel puudub nende ohutuse tagamiseks vajalik regulatiivne järelevalve, mis võib ohustada haavatavaid kasutajaid.
Kuigi tehnoloogia on viimastel kuudel kiiresti arenenud, ei ole AI-vestlusteraapia uus. Tehisintellektiteraapia esimesed arvutipõhised vormid ilmusid 1960. ja 70.aastatel, kus sellised programmid nagu Eliza ja ALICE suutsid reageerida kasutaja põhisisenditele ja pakkuda algelist “kuulamiskõrva” vormi. Nende loojad, kes olid pessimistlikud arvutite võime suhtes tegelikku inimvestlust taasluua, pidasid neid üldiselt satiiriks. Kuid arenenumad kaasaegsed loomuliku keele töötlemise (NLP) mudelid võivad luua väga veenvaid dialooge, mis läbivad Turingi testi suurepäraselt.
Tehisintellektiteraapia süsteemid on sellest ajast alates lahkunud teadusliku katsetamise valdkonnast ja sisenenud avalikele turgudele, reklaamides oma teenuseid nagu tõeline kliinik. Tänapäeval pakuvad kümned rakendused, nagu Woebot, Wysa ja Limbic, laia valikut teraapiateenuseid, enamasti tasuta või väikese liitumistasu eest. Nad teostavad seda, mida Alexandrine Royer Montreali AI eetikainstituudist nimetab “emotsionaalselt intelligentseks andmetöötluseks”, suhestudes empaatiliselt kasutaja sisenditega ja reageerides väljakujunenud teraapiatehnikatega, nagu kognitiivne käitumuslik teraapia (CBT). Kõikidel saitidel on samad lahtiütlused: need ei asenda tõelist professionaali, nad ei saa haigusi diagnoosida ega ravimeid välja kirjutada ning kriisi ajal palume abi otsida. Samuti rõhutavad nad, et kasutajate seansside sisu hoitakse privaatsena.
Kuid see ainulaadne “mitteprofessionaalne” ruum, mille hõivavad AI-teraapia rakendused ja veebisaidid, on peaaegu täielikult reguleerimata. Tehisintellektiteraapia teenused, isegi väga keerukad saidid, nagu Woebot, klassifitseeritakse FDA poolt endiselt “üldise heaolu” toodeteks – regulatiivseks kategooriasse “tervislikku eluviisi propageerivate madala riskiga toodete jaoks”. Üldised heaolutooted ei kuulu toidu, kosmeetika ega arstiabi järelevalve alla. Neid järgitakse ainult FDA poolt soovitatud kasutuse kohta avaldatud ebamääraste “mittesiduvate soovituste” alusel (mida pole alates 2019.aastast värskendatud). Kuni AI-ravi saidid keelduvad võime ravida teatud haigusseisundeid, nagu anoreksia või ärevushäired, võivad nad väita, et neil on teatud vaimse tervise eelised ilma FDA kinnituseta.
Pole saladus, et AI teeb vigu. Iga kuu teevad kõrgetasemelised AI-süsteemid uudiseid naeruväärsete vigadega. Kuid panused on vaimse tervise jaoks kõrgemad. AI-terapeudid ja AI-vestlusbotid üldiselt ei saa iga kord aru kasutaja nüansist ja täpsest tähendusest, mistõttu on nad sunnitud arvama. Tavaliselt põhjustab see oletus dialoogi, mis on kohmakas ja masendav. Halvimal juhul võivad nad aga kogemata anda kahjulikke nõuandeid – vigu, mis võivad haavatavatele kasutajatele andmisel olla eluohtlikud. Kõrgetasemelised AI-teraapia ettevõtted on nendest vigadest teadlikud: mõned, nagu Woebot, on isegi avaldanud pressiteateid, milles mõistavad hukka teised AI-teraapia mudelid, kaitstes samal ajal omaenda omi.
Kuid kasutajaandmete konfidentsiaalsus koos tehisintellektiteraapia saitide läbipaistvusmeetmete puudumisega muudab kasutajatel ja reguleerivatel asutustel hoolduse ohutuse ja tõhususe kindlaksmääramise keeruliseks. Tehisintellektiteraapia süsteemid reklaamivad sageli positiivset statistikat, mis tõestab nende toote tõhusust, kuid andmed esitatakse ise ning uuringud viivad tavaliselt ettevõttesiseselt läbi ise. Kuna FDA staatus on “üldine heaolutooted” (GWP), mitte seaduslikult turustatud seadmed, ei kehti neile väidete osas föderaalseid läbipaistvusnõudeid. Traditsiooniline FDA heakskiit nõuab piisavaid ja kehtivaid teaduslikke tõendeid, mis tagavad toote ohutuse ja tõhususe, kuid selliseid nõudeid ei kohaldata GWP-de jaoks. Ilma selle järelevalveta saavad AI-teraapia pakkujad esitada põhjendamatuid väiteid oma mudeli ohutuse ja eeliste kohta ilma tagajärgedeta.
See ei tähenda, et tehisintellektiteraapia teenustest tuleks täielikult loobuda. Kui neid tegelikult kasutatakse üldise heaolu tagamiseks – mitte tõsiste seisundite ja kindlasti mitte kriisiepisoodide puhul –, on neil potentsiaal pakkuda ainulaadseid nõudmisel eeliseid, mida tavaline terapeut ei suuda. Nende kõrge konfidentsiaalsus, lihtne juurdepääs, null ooteaega ja äärmiselt madal hind võivad muuta AI-teraapia saidid korralikuks valikuks. Siiski ei saa me täielikult usaldada tehisintellektiteraapiasüsteeme ohutu ja tõhusa hoolduse tagamisel enne, kui kasutajate kaitse on paigas.
AI-süsteemid tervikuna ilmuvad kiiremini kui reguleerimise kiirus. FDA ja teiste föderaalasutuste otsustada on, kus ja kuidas tehisintellektiteraapia teenuseid kontrollitakse. Kuid nagu igal suure tehnoloogilise arengu perioodil, jõuab järelevalve lõpuks järele koos süsteemide läbipaistvuse ja kasutajakaitse mehhanismidega. Praegu on kasutajate jaoks aga ilmselt parim ravim oodata.
