Microsofti „meditsiiniline superintelligentsus”: diagnostika revolutsioon – või turundusmuinasjutt?
MAI-DxO ja eksimatuse müüdi kriitiline analüüs
Ebareaalsed katsetingimused: arstid sidusid silmad kinni
Microsofti ülivõrde aluseks on uuring, mis hõlmas 304 keerukat juhtumiuuringut ajakirjast New England Journal of Medicine. Samal ajal kui tehisintellekt suutis tugineda internetist ja mitmetest keelemudelitest saadud kontsentreeritud teadmistele, pidid inimarstid otsuseid langetama ilma erialakirjanduse, konsultatsioonide ja täiendavate testideta. See stsenaarium ei sarnane reaalse kliinilise praktikaga, kus arstid töötavad meeskonnana, tuginedes kogemustele, kaasaegsele diagnostikale ja sihipärastele järelküsimustele.
Microsoft võrdleb suure jõudlusega lennukit jalgrattaga – ja väidab seejärel, et lennuk lendab paremini.
Valimi kallutatus: tehisintellekt treenib reaalsuse asemel mõistatuste peal
Teine kriitiline punkt: juhtumite valik koosnes eriti keerulistest, sageli akadeemiliselt konstrueeritud erandjuhtudest. Just neid juhtumeid on suured keelemudelid eriti head analüüsima – paljud neist pärinevad ju otseselt või kaudselt tehisintellekti treeningandmetest.
Tulemus: katsepolügoon, mis pakub tehisintellektile maksimaalset kasu, kuid võimaldab igapäevase patsiendihoolduse kohta vähe järeldusi teha. Haruldased haigused moodustavad tegelikust kliinilisest tööst vaid murdosa – ometi on just see murdosa tehisintellekti väidetava paremuse aluseks.
Välise valideerimise puudumine – kliinilise olulisuse puudumine
Vaatamata kogu avalikule reklaamile on MAI-DxO endiselt puhtalt teaduslik süsteem – ilma heakskiiduta, vastastikuse eksperdihinnanguta ja ilma pilootkatseteta reaalsete patsientide peal. Süsteemi pole testinud ei meditsiiniseltsid ega sõltumatud uurimisinstituudid. Muljetavaldavad arvud põhinevad üksnes Microsofti sisemisel testimiskeskkonnal – mustal kastil, millel on kõrge enesekinnitustegur.
Asjaolu, et termin „superintellekt” selles kontekstis esineb, näitab vähem teaduslikku täpsust kui turundusest ajendatud ülbus .
Automaatika illusioon: kui tehisintellekt asendab arste – aga ei saa aru
MAI-DxO on ette nähtud mitte ainult diagnooside panemiseks, vaid ka edasiste testide valiku otsustamiseks. Kuigi see kõlab tehniliselt muljetavaldavalt, on see eetiliselt keeruline: diagnostiliste meetmete valik nõuab lisaks statistilisele arusaamisele ka kliinilist tundlikkust, kontekstuaalset teadlikkust ja vastutustundlikkust.
Tehisintellekti liiga varane rakendamine ja pimesi usaldamine võib viia süstemaatilise valediagnoosimise või alaravimiseni – eriti alarahastatud tervishoiusüsteemides, kus majanduslik surve on suur ja meditsiiniline võimekus napp. Kiusatus oleks suur lasta „süsteemil” otsustada – patsientide heaolu arvelt.
Tegelik risk: tehisintellekti hüpe patsiendikaitse asemel
Microsofti samm tuleb õigel ajal – kasvava tehnoloogilise eufooria ja kahanevate tervishoiueelarvete ajastul. Kuid just seetõttu on vaja olla ettevaatlik. Manipuleerivatel võrdlusalustel, ebareaalsetel eeldustel ja põhjendamatutel efektiivsuslubadustel põhinev tehisintellekti süsteem ei tohiks saada meditsiini tuleviku mustandiks.
Enne kui selliseid süsteeme nagu MAI-DxO saab reaalsetes diagnostikates üldse kaaluda, on vaja järgmist:
- Sõltumatud kliinilised uuringud päris patsientidega
- Läbipaistvus koolitusandmetes, otsustusprotsessides ja veamäärades
- avaliku sektori eetiline ja regulatiivne kontroll
- ja aus arutelu vastutuse, kohustuse ja usalduse üle
Kokkuvõte: potentsiaaliga, kuid ebaküps tehnoloogia
MAI-DxO võib olla huvitav uurimismeetod ja tulevikuväljavaadetega tehnoloogiline eksperiment. Kuid see pole ei revolutsiooniline ega praktiline. Mõiste “meditsiiniline superintelligentsus” viitab küpsustasemele, mida lihtsalt ei eksisteeri.
Selle asemel, et järele anda PR-põhistele kõikvõimsuse fantaasiatele, oleks Microsoftil parem valida vaevaline tee: kontrollitud uuringute, meditsiiniliste partnerluste ning kõigi piirangute ja riskide läbipaistva avalikustamise tee. Kuni see juhtub, jääb MAI-DxO elegantseks demoks, millel on ohtlik autoriteedinõue – ei midagi enamat ega vähemat.
