Autorid John ja Nisha Whitehead Rutherfordi Instituudi vahendusel
“Asjad lagunevad; keskpunkt ei saa püsida.”
– WB Yeats, “Teine tulemine”
Me oleme kannatanud tõelise tehnoloogiliste rikete kaskaadi all.
Esmalt tuli ulatuslik Microsofti katkestus, mis häiris Outlooki ja teisi võrguteenuseid kogu maailmas.
Seejärel tuli üleriigiline maapealne peatus, mis peatas lennuliikluse üle Ameerika, häirides tuhandeid lende ja jättes reisijad hätta.
Seejärel tekkisid suurpankadel probleemid oma veebisüsteemidega.
Seejärel maandas United Airlines pärast järjekordset arvutiriket väljuvaid lende.
Seejärel teatati, et kõrgelt salastatud võrk, mida Riiklik Julgeolekuagentuur (NSA) oma sisekommunikatsiooniks kasutab, oli maas.
Seejärel liitus Apple laialdaste häiretega silmitsi seisvate tehnoloogiahiiglaste kasvava nimekirjaga, kusjuures kasutajad teatasid probleemidest iCloudi, App Store’i, Apple Musicu ja muude teenuste kasutamises.
Üks rike teise järel. Side katkenud. Transport halvatud. Finantsteenused katkenud. Tundlik teave potentsiaalselt ohus. Miljonid ameeriklased tuletasid meelde, kui sõltuvaks on nende igapäevaelu muutunud tehnoloogiatest, millest nad aru ei saa ega mida nad ei kontrolli.
See juhtub siis, kui tehnoloogia sassi läheb.
Või on see ikka?
Spekulatsioonid osutasid kiiresti tehisintellektile, eriti pärast üleriigilist lennufirmade sulgemist.
Lõppude lõpuks oli Trumpi administratsioon alles hiljuti laiendanud FAA uut SMART tehisintellekti süsteemi lennujuhtimiskeskustele üle kogu riigi.
Samuti on administratsioon agressiivselt propageerinud tehisintellekti (või Trumpi nõudmisel superintelligentsi nimeks SI) kui vastust kõigele alates valitsuse ebaefektiivsusest kuni riigi julgeolekuni, isegi kui see püüab vähendada regulatiivseid takistusi ja laiendada automatiseeritud süsteemide kasutamist.
Ometi väidab Trumpi administratsioon, et tehisintellektil polnud lennufirmade sulgemisega mingit pistmist.
Selle asemel süüdistasid föderaalametnikud häireid vananeva lennujuhtimise infrastruktuuri rikkes, kus probleemid tekkisid seadmete väljavahetamise ja sidesüsteemide ajakohastamise käigus.
Võib-olla küll.
Samal ajal avaldas FBI aruande veel ühe tehnoloogilise ohu kohta: autonoomsed tehisintellekti häkkimistööriistad, näiteks Artex AI, mida kasutatakse küberrünnakute algatamiseks kogu USA-s ja kogu maailmas ning võrkudesse sissemurdmiseks vähem kui kolme tunniga.
Kuid olenemata sellest, kas süüdlaseks on tehisintellekt, küberründajad, vananenud seadmed, halb planeerimine, ebapiisav hooldus, inimlik eksimus või nende tegurite kombinatsioon, jääb suurem probleem püsima.
Kes vastutab, kui tehnoloogilised süsteemid, millest ühiskond sõltub, hakkavad kokku jooksma?
Kes vastutab, kui valitsusametnikud ja ettevõtete juhid kiirustavad uute tehnoloogiate omaksvõtmisega, tagamata, et nende haldamiseks vajalikud kaitsemeetmed, infrastruktuur ja inimjärelevalve on olemas?
Ja mis juhtub, kui me muutume tehnoloogiast nii sõltuvaks – ja oleme nii valmis loobuma vastutusest selle haldamise eest –, et me ei suuda enam vahet teha masina rikke ja selle opereerimise eest vastutavate inimeste rikke vahel?
Oleme tehisintellekti kohta esitanud vale küsimuse.
Võib-olla ei seisne tegelik oht selles, et masinad võivad inimestest targemaks muutuda.
Võib-olla on see inimlik janu võimu järele – ja meie valmisolek loovutada kontroll neile, kes seda omavad.
Hollywood on aastakümneid meid hoiatanud masinate eest, mis võivad ühel päeval muutuda nii intelligentseteks, nii iseseisvateks ja nii võimsateks, et nad ei vaja enam inimesi.
Stanley Kubricku filmis “2001: Kosmoseodüsseia” pöördub pealtnäha eksimatu arvuti HAL 9000 astronautide vastu, kes on oma elu selle kontrolli alla usaldanud. Inimkonna teenimiseks loodud masin muutub ohuks just neile inimestele, kelle abistamiseks see loodi.
Kuid veelgi häirivam nägemus võib tulla ebatõenäolisest allikast: Pixari laste animafilmist WALL-E. WALL-E- s on inimkond hüljanud elamiskõlbmatu Maa ja taandunud hiiglaslikule kosmoselaevale, kus peaaegu iga inimvajaduse eest hoolitsevad ja rahuldavad masinad.
Inimesed ei kõnni enam. Nad ei tööta enam. Nad vaevu panevad tähele ümbritsevat maailma. Neid lõbustavad, toidavad, transpordivad ja hajutavad süsteemid, mis teevad praktiliselt iga otsuse nende eest. Neist on saanud omaenda eksistentsi passiivsed tarbijad.
Masinad pole pidanud inimkonna vastu sõdima. Inimesed on suures osas oma iseseisvuse vabatahtlikult loovutanud, vahetades vastutuse mugavuse ja vabaduse heaolu vastu. Isegi laeva kapten peab pingutama, et oma autoriteet automatiseeritud süsteemilt tagasi nõuda, mis on programmeeritud säilitama status quo’d.
See erinevus on kõnekas.
Filmis 2001 on õudusunenägu masin, mis keeldub kontrolli alistumast. Filmis WALL-E on õudusunenägu inimkond, kes on unustanud, kuidas seda teha. Mõlemad filmid jõuavad murettekitava tõeni: tehnoloogia muutub ohtlikuks, kui inimesed lakkavad selle üle sisulist kontrolli omamast.
Ja siin peitubki probleem: oleme ajanud segamini tehnoloogilise progressi inimkonna progressiga.
Oleme muutunud erakordselt osavaks masinate leiutamisel, mis on võimelised täitma ülesandeid, mida varasemad põlvkonnad vaevu ette kujutasid.
Me saame aatomeid lõhestada, rakette kosmosesse saata, kontinentide vahel silmapilkselt suhelda, inimese genoomi kaardistada, satelliitide abil populatsioone jälgida ja ehitada arvuteid, mis on võimelised töötlema hämmastavaid infohulki. Ometi pole ükski neist tehnoloogilistest saavutustest meid tingimata targemaks, kaastundlikumaks, eetilisemaks ega vaoshoitust üles näitama suutvamaks teinud.
Ajalugu näitab, kui kergesti muudavad inimesed oma suurimad leiutised hävitamise, ekspluateerimise ja kontrolli vahenditeks.
Mõelge aatomipommile.
Tuuma lõhustumise avastamine avas ukse erakordsetele teaduslikele edusammudele. See võimaldas luua ka relvi, mis on võimelised hävitama terveid linnu.
1945. aasta augustis heitsid Ameerika Ühendriigid Hiroshimale ja Nagasakile aatomipommid, tappes kohe kümneid tuhandeid inimesi ja veelgi rohkem pärast seda.
Pommid ei otsustanud neid linnu hävitada. Inimesed otsustasid.
Sama tehnoloogia, mis võimaldas rakette kosmosesse lasta, võimaldas ka rakettide loomist, mis olid võimelised tuumalõhkepead üle mandrite kohale toimetama.
Samad arvutid, mis tegid revolutsiooni meditsiinis, teaduses, hariduses ja kommunikatsioonis, on aidanud kaasa jälgimisriigi tekkele, mis on võimeline jälgima ja jälitama terveid populatsioone.
Internet, mida kunagi peeti vaba väljendusvabaduse ja demokratiseeritud teadmiste vahendiks, on muutunud ka isikliku teabe kogumise, käitumise manipuleerimise ja teisitimõtlemise jälgimise tööriistaks.
Kaameratest saavad jälgimisvahendid. Andmebaasidest saavad inimeste profiilimise ja sihtimise vahendid. Droonidest saavad kaugsõja relvad.
Ja nüüd ähvardab tehisintellekt kõiki neid võimeid võimendada, võimaldades valitsustel, ettevõtetel ja kurjategijatel enneolematul skaalal jälgida, manipuleerida ja kontrollida inimeste käitumist.
Tehnoloogia võib olla uus, kuid selle väärkasutamist ajendavad inimlikud impulsid on sama vanad kui tsivilisatsioon ise.
Mõelge FBI viimasele hoiatusele ARTEXi kohta, mis on tehisintellekti tööriist, mis algselt töötati välja küberturvalisuse spetsialistide abistamiseks arvutivõrkude nõrkuste tuvastamisel.
Küberkurjategijate käes on sama tehnoloogia saanud relvaks.
FBI andmetel on häkkerid ARTEXi kasutanud finantsasutuste, valitsusasutuste ja eraettevõtete vastu suunatud küberrünnakute automatiseerimiseks, kusjuures mõned rünnakud on esialgsest sihtmärgist privilegeeritud juurdepääsuni jõudnud vähem kui kolme tunniga.
Samal ajal hoiatab Google’i ohtude luuregrupp, et pahatahtlikud tegutsejad kasutavad üha enam autonoomseid tehisintellekti süsteeme, mis on võimelised tuvastama haavatavusi ja teostama rünnakuid masina kiirusel, vähendades oluliselt inimese sekkumist.
Mõtle sellele.
Turvanõrkuste tuvastamiseks ja arvutivõrkude kaitsmiseks mõeldud tehnoloogiast on saamas relv nende nõrkuste ärakasutamiseks.
Masinad ei arendanud järsku kuritegelikke kavatsusi. Inimesed lõid tööriistad, tuvastasid sihtmärgid ja panid süsteemid tööle.
Tehisintellekt ei ole kõrvaldanud inimeste ahnust, ülbust ega võimujanu. See on andnud neile impulssidele suurema ulatuse, suurema kiiruse ja suurema jõu.
Me ei saa endale lubada masinate taga olevate inimeste ignoreerimist: inimesi, kes loovad süsteeme, rahastavad neid, juurutavad neid, lõikavad neist kasu ja vaatavad teisele poole, kui neid süsteeme kasutatakse inimõiguste rikkumiseks.
Ja eriti ei saa me endale lubada nende ignoreerimist, kes neid tehnoloogiaid valitsuse nimel kasutavad.
Üha enam leiame end maailmas, kus valitsusasutused alluvad arvutitele vahendajatena valitsuse ja elanikkonna suhetes.
Meile öeldakse, et peaksime arvutipõhiseid otsuseid aktsepteerima, sest need tunduvad objektiivsed. Meile soovitatakse avaldada isikuandmeid, sest mugavus tundub olevat olulisem kui privaatsus. Meid veendakse lubama automatiseeritud süsteemidel teha inimelude kohta olulisi otsuseid, sest nende süsteemide kahtluse alla seadmine nõuab pingutust, asjatundlikkust ja valvsust.
Ja me oleme sunnitud tegelema tagajärgedega, mis tulenevad valitsusest, mis käsitleb arvuti loodud kõike tõendina, mis peab olema õige.
Kuid arvutid võivad eksida. Algoritmid võivad olla kallutatud. Andmebaasid võivad sisaldada vigu. Automatiseeritud süsteemid võivad jäädvustada ja võimendada nende vigu, eelarvamusi ja poliitilisi tegevuskavasid, kes neid loovad ja haldavad.
Ahnus muudab tehnoloogilised edusammud ärakasutamise võimalusteks.
Isikuandmetest saab kaup. Inimkäitumisest saab midagi, mida saab ennustada, manipuleerida ja rahaks teha. Suurema efektiivsuse lubadusest saab õigustus kulude kärpimiseks, inimlike turvameetmete kaotamiseks ja veelgi suurema võimu koondamiseks vähemate käte kätte.
Ja kui midagi läheb valesti, ei kanna tagajärgi tingimata need, kes tehnoloogiast kasu lõid, vaid tavalised inimesed, kelle elu sellest sõltub.
Ülbus ja võimujanu veenavad võimulolijaid, et tehnoloogiline võimekus annab edasiminekuks rohelise tule.
Kuna valitsus saab jälgida kommunikatsiooni, eeldab ta, et peakski. Kuna see suudab jälgida inimeste liikumist, siis ta seda ka teeb. Kuna see saab kasutusele võtta droone, ennustavaid algoritme, näotuvastussüsteeme ja üha enam autonoomseid relvi, siis ta seda ka teeb.
Kuid võime midagi teha pole kunagi olnud sama mis õigus seda teha.
Valitsus ei saa põhiseaduslikku erandit ainuüksi seetõttu, et tema kuritarvitusi paneb toime arvuti, mitte inimene. Tegelikult, mida võimsam on tehnoloogia, seda suurem on vajadus sisuliste piirangute järele inimestele, kes seda kontrollivad.
Viiskümmend aastat tagasi paljastas Senati kirikukomisjon Ameerika luureagentuuride ulatuslikud kuritarvitused, sealhulgas jälitusoperatsioonid, mis olid suunatud oma põhiseaduslikke õigusi teostavate kodanike vastu.
Hoiatus oli eksimatu: valitsuse võim, eriti kui seda teostatakse salaja ja ilma tõhusa järelevalveta, võib saada otseseks ohuks vabadustele, mida see peaks kaitsma.
See oli 1976. aastal.
Tänapäeval oleksid valitsusasutustele kättesaadavad jälitusvõimalused pool sajandit tagasi uuritud ametnikele olnud peaaegu kujuteldamatud.
Põhiseaduslikud küsimused jäävad aga samaks.
Kes jälgib jälgijaid? Mis juhtub neljanda konstitutsioonimuudatuse ja õiglase menetlusega, kui vabadust mõjutavad otsused ja jälgimine usaldatakse läbipaistmatutele tehnoloogilistele süsteemidele? Kes peab valitsust vastutavaks, kui see kasutab tehnoloogiat põhiseaduslike piirangute möödahiilimiseks, mille eesmärk on hoida oma võimu kontrolli all?
Need ei ole pelgalt tehnoloogilised küsimused. Need on küsimused võimu, vabaduse ja inimliku vastutuse kohta.
Nelikümmend aastat tagasi, 1986. aastal, uurisin paljusid neist muredest oma raamatus „Inimese lõpp”.
Ajal, mil tehisintellekt tundus olevat suuresti piiratud laborite ja ulmekirjandusega, pühendasin peatüki masinate loomise tagajärgedele, mis võivad üha enam kujundada – ja potentsiaalselt vähendada – meie arusaama sellest, mida tähendab olla inimene.
Mure ei seisnenud mitte ainult selles, et arvutid võivad ühel päeval saada piisavalt võimsaks, et ühiskonda domineerida. Asi oli selles, et inimesi endid taandati üha enam infosüsteemideks, objektideks, mida saab liigitada, uurida, hallata ja manipuleerida.
Nagu ma siis hoiatasin: “Inimene ei ole masin.”
Inimesed on enamat kui infotöötlusseadmed, andmepunktid või ennustatava käitumise kogumid. Meie inimlikkus on seotud meie kaastunde, südametunnistuse, iseseisva otsustusvõime ja moraalse vastutuse võimega.
Ometi hakkasime isegi nelikümmend aastat tagasi pidama end pelgalt masinateks.
Küsimus, mille ma tookord esitasin, on tänaseni sama pakiline: “Kuidas me end homme näeme?”
Neli aastakümmet hiljem on see homne kätte jõudnud.
Oleme üha enam valmis lubama masinatel langetada otsuseid, mida peaksime kahtluse alla seadma, korporatsioonidel manipuleerida teabega ja valitsustel omandada jälgimisvolitusi, mis oleksid varasemaid põlvkondi kohutanud.
Ja kui need süsteemid ebaõnnestuvad – või neid kasutatakse tahtlikult meie õiguste rikkumiseks –, lubame vastutavatel inimestel peituda tehnoloogia enda taha. „Arvuti tegi vea“, „algoritm märkis vale inimese“, „andmebaasis oli viga“, „tehisintellekt tegi otsuse“ – justkui oleks masin iseseisev moraalne tegutseja, mitte inimeste loodud, juurutatud ja kontrollitud süsteem.
On oluline erinevus masina rikke ja inimese vahel, kes keeldub oma rikke eest vastutust võtmast.
Just sel põhjusel on põhiseadus oluline.
Õiguste deklaratsioon ei ole kirjutatud tehisintellekti, näotuvastuse, massilise andmekogumise või automatiseeritud sõjapidamise maailma jaoks. See on kirjutatud maailma jaoks, kus võimule usaldatud inimestele ei saa alati loota, et nad seda võimu vastutustundlikult teostavad.
Ahnus jääb ahnuseks. Ülbus jääb ülbuseks. Ja türannia ei muutu vähem ohtlikuks ainuüksi seetõttu, et seda haldab algoritm.
Samuti ei saa me oodata, et tehnoloogia päästab meid selle kasutajate moraalsetest ebaõnnestumistest.
Targem arvuti ei saa asendada toimivat südametunnistust. Tõhusam valitsus ei saa kompenseerida põhiseaduslike piirangute kadumist. Tehnoloogiliselt arenenum ühiskond ei ole tingimata vabam, targem ega inimlikum ühiskond.
Raamatus „Inimese lõpp“ mõtisklesin ka tuleviku üle, kus inimkonna tehnoloogilised loomingud võivad muutuda nii võimsaks, et nad hakkavad Jumala kohta võtma. Kirjutasin:
Kui kõik läheb tehisintellektiga inimeste jaoks plaanipäraselt, võib ette kujutada ja oodata “metallist” tulevikku. See võiks välja näha umbes nii: kusagil kauges tulevikus, kus kõik universumi arvutid on omavahel ühendatud, küsib mõni kurjakuulutav inimteenija: “Kas Jumal on olemas?” Küsijat tema jultumuse pärast maha lüües vastavad arvutid: “Nüüd on olemas.”
Liigume ajas edasi aastasse 2021, mil Google’i endine juht Mo Gawdat hoiatas tehisintellekti erakordse jõu eest: “Tegelikkus on see, et me loome Jumalat.“
Mõtle sellele.
Oleme oma leiutistest nii lummatud, oma tehnoloogilises säras nii veendunud, et kaalume masinate loomist, mille võimsus võiks võistelda – ja lõpuks ületada – meie võimet neid juhtida.
Kuid ehk pole suurem oht mitte see, et masinatest saavad jumalad.
See on see, et inimesed hakkavad oma ülbuses ja võimujanus käituma nii, nagu oleksid nad ise jumalad.
Oleme segamini ajanud tehnoloogilise progressi inimkonna progressiga. Oleme segi ajanud intelligentsuse tarkusega, jõu voorusega ja võime midagi teha õigusega seda teha.
Ja nagu WALL-E-s, riskime ka siin sellega, et muutume nii mugavaks, et meid juhivad, lõbustavad ja kaitsevad süsteemid, mis pole meie kontrolli all, et unustame, mida tähendab iseennast valitseda.
Nelikümmend aastat pärast inimkonna lõppu ei seisne inimkonna ees mitte ainult selles, kui intelligentseks meie masinad muutuvad, vaid selles, kui palju oma inimlikkusest oleme valmis tehnoloogilise progressi nimel loobuma.
Suurim oht ei pruugi tulla masinast, mis õpib mõtlema nagu inimene.
See võib tulla inimestest, kes lõpetavad mõtlemise, küsimuste esitamise, vastupanu ja vastutuse võtmise maailma eest, mida nad loovad.
Lõppkokkuvõttes ei pruugi masinad olla see, mis inimkonna lõppu toob.
Me võime selle kõik omal käel saavutada.






