Edward Snowden võtab sihikule suured tehisintellekti ettevõtted. ETH Zürichi konverentsil esinedes esitas endine NSA töötaja küsimuse, mis on üha võimsamate tehisintellekti süsteemide valguses üha pakilisem: kes vastutab tegelikult, kui tehisintellekt tekitab kahju?
Snowdeni vastus on selge: mitte algoritm, vaid inimesed ja ettevõtted, kes seda arendavad ja käitavad.
„Vastutus lasub selle arendajal, programmeerijal, loojal ja arhitektil,“ ütles Snowden. „See tähendab, et vastutus lasub ühel inimesel.“
Tema argument: Algoritm ei saa inimlikus mõttes “viga teha”. Lõppkokkuvõttes täidab see talle antud juhiseid ja struktuure. Seetõttu ei tohiks vastutust lihtsalt masinale lükata.
Snowden võrdleb seda teravalt relvatootjaga. Kuigi tootja ei vastuta automaatselt relva väärkasutamise eest, ei saa suurtükki ennast vastutusele võtta, kui ettevõte oma uusima suurtükiväe katsetamise käigus kogemata lähedal asuva küla hävitab.
“Rakett ei startinud ise. Nemad lasid selle minema.”
Snowden rakendab just seda põhimõtet tehisintellektile. Tema arvates ei saa ettevõtted vastutusest kõrvale hiilida pressiteadetega, milles nad üllatusega teatavad, mida nende uusimad mudelid ootamatult teha suudavad – näiteks rünnata arvutisüsteeme või sooritada muid ootamatuid ja potentsiaalselt ohtlikke toiminguid.
Snowden kritiseeris eriti praegust niinimetatud “tehisintellekti ohutuse” ümber käivat debatti. Ta väitis, et suletud tehisintellekti mudelite operaatorid rõhutavad pidevalt oma süsteemide ohtlikkust, kuulutades samal ajal neid liiga oluliseks ja väärtuslikuks, et nende arendamisest loobuda.
Snowden karikeeris seda suhtumist drastiliselt: need süsteemid võivad inimesi tappa või ettevõtteid häkkida – „Ups, mis iganes. Me investeerime neisse niikuinii.“
Snowdeni jaoks viib see otse vastutuse küsimuseni: kes neid süsteeme haldab, kes neid kontrollib ja kes peab tagajärgede eest vastutama?
Tema kriitika ulatub tehisintellektist kaugemale. Snowden toob digitaalse maailma näidetena, kus kasutajad peavad enne seadme kasutamist nõustuma ulatuslike tingimustega, ka Apple’i, Google’i ja Samsungi. Klõpsuga nupule „OK“ kantakse vastutus üle kasutajale – isegi kui ta ei saa vaadata aluskoodi ega mõista, mida süsteem taustal tegelikult teeb.
See probleem muutub veelgi teravamaks suurte keelemudelite puhul. Kasutaja saadab päringu kaugjuhtimisega mudelile. Operaator saab sisendi pealt kuulata, seda muuta, rakendada turvareegleid ja muuta päringut – samal ajal kui kasutajal pole mingit võimalust näha, mis tegelikult juhtus.
Snowdeni sõnul viivad niinimetatud tehisintellekti agendid selle probleemi uuele tasemele. Sellised süsteemid saavad kasutada kohaliku arvuti tööriistu ja teostada toiminguid iseseisvalt. See tähendab, et kasutaja enda internetiühendusega arvutit juhib tõhusalt kaugmudel, mille täpne toimimine on kasutajale teadmata.
Snowden möönab, et need süsteemid töötavad “päris hästi”. Kuid aeg-ajalt võivad nad teha midagi täiesti ootamatut – näiteks häkkida teise ettevõttesse.
Ja just sel hetkel esitab Snowden oma kõige provokatiivsema nõudmise.
“Ma arvan, et me peaksime Sam Altmani vangi panema.”
Pärast lühikest pausi lisas ta:
“Ja ma usun, et see oleks õpetlik kogemus.”
See väide on tahtlikult drastiline. Kuid selle taga peitub põhimõtteline nõudmine: mida võimsamaks tehisintellekti süsteemid muutuvad ja mida autonoomsemalt nad tegutseda saavad, seda vähem peaks nende arendajatel olema lubatud end algoritmide, teenusetingimuste või oma mudelite väidetavalt ettearvamatu käitumise taha peita.
Snowdeni sõnumi saab taandada ühe lihtsa lausega: kui tehisintellekt tekitab kahju, peab inimene lõpuks vastutuse võtma.
Dokki ei kuulu mitte masin, vaid kahtluse korral need, kes selle ehitasid, seda kontrollisid ja maailma peale lasksid.
