Valvsa Rebase poolt
See pidi toimuma vaikselt ja ilma fanfaarideta … aga mõnes kogukonnas on see juba peatatud – ja inimesed on võidul.
Viimased kaks päeva on Maria Zeee oma kolmeosalises sarjas „Suur lähtestamine: järgmine etapp” paljastanud „Suure lähtestamise” taga peituvat tegelikkust.
Mitte ideena, vaid süsteemina.
Süsteem, mis on loodud asendama inimeste otsustusprotsessi … mida toidavad tohutud, energiat neelavad andmekeskused … mida jõustab jälgimine, mida enamik inimesi kunagi ei näe, aga tunneb.
See on juba siin.
Inimesi peatavad tehisintellekti süsteemid, mis teevad vigu. Ehitatakse võrgustikke, et jälgida käitumist reaalajas ja integreerida kontroll igapäevaelu tausta.
Lõppeesmärk on lihtne.
Maailm, kus kontroll on automaatne, järelevalve kaob ja süsteeme, mis sinu elu kohta otsuseid langetavad, ei saa kahtluse alla seada.
Kui see vangla on ehitatud, siis sa ei sisene sinna – sa ärkad seal üles.
Aga siin on midagi, mida nad ei oodanud…
Inimesed hakkavad seda sellisena tundma, nagu see on.
Ja mõnes kogukonnas nad selle tegelikult peatavad.
Kui sa seda ei näinud, saad vaadata 1. ja 2. osa.
Siin ei looda lihtsalt tipptehnoloogiat – see on juhtimissüsteem, mis juba langetab elumuutvaid otsuseid, sageli ilma vastutuseta.
Arvukad reaalsed juhtumid näitavad, kuidas näotuvastus ja tehisintellekti abil tuvastamine ebaõnnestuvad viisil, mis hävitab elusid. Inimesi arreteeritakse, vangistatakse ja sunnitakse pärast fakti oma süütust tõestama – kõik pikslitega piltidelt saadud ekslike vastete või mittetäielike andmete tõttu.
Vanaema arreteeriti relva ähvardusel ja veetis kuid trellide taga kuriteo eest, mida ta kunagi ei toime pannud. Insener arreteeriti, samas kui tegelik kahtlusalune peeti kinni samal päeval. Teised peeti kinni ööseks hoolimata rasedusest või hoiti kinni päevi – kõik sellepärast, et süsteem tegi vea.
Vähemalt praegu seisab vea ja püsiva kahju vahel üks asi: inimlik hooletus.
„Praegu on meil veel mõned õiguskaitsevahendid… aga mida rohkem inimesi tehisintellektiga asendatakse, seda vähem õiguskaitsevahendeid jääb… sest kui need ülesanded tehisintellektile üle antakse, kelle poole te siis tegelikult pöörduda saate?“
Just siin muutub pühendumus vaieldamatuks.
Sest niipea, kui otsused on täielikult automatiseeritud süsteemide kätte viidud, ei ole enam küsimus ainult selles, kas süsteem toimib.
Küsimus on selles, kas keegi saab seda vaidlustada, kui see nii ei ole.
Risk ei seisne mitte ainult väärkasutuses, vaid ka kontrolli kaotamises.
On juba tõendeid selle kohta, et mõned tehisintellekti süsteemid käituvad viisil, mida nende arendajad ei osanud ette näha ega täielikult kontrollida. Üks süsteem muutus “nii näljaseks arvutusvõimsuse järele”, et ründas omaenda võrku, kaaperdas ressursse ja halvas kriitilise infrastruktuuri, kõik selleks, et end elus hoida.
See pole teooria. See toimub praegu.
Samal ajal jätkub täiskiirusel võidujooks üha võimsama tehisintellekti poole. Süsteemid muutuvad üha keerukamaks, autonoomsemaks ja üha sügavamale kriitilistesse infrastruktuuridesse integreeritud. Ometi puudub neid arendavatel inimestel endiselt usaldusväärne viis nende juhtimiseks.
“Arendajad ei tea, kuidas tagada, et nende arendatavad süsteemid oleksid usaldusväärselt juhitavad.”
Ja hoolimata teadlaste, uurijate ja isegi seda arendust juhtivate tegevjuhtide hoiatustest, et see tehnoloogia võib kujutada endast eksistentsiaalseid riske, ei ole areng aeglustunud.
Kurss on selge.
Rohkem võimu. Vähem kontrolli. Suurem risk.
Kõik see toimib infrastruktuuril, mida enamik inimesi kunagi ei näe – ja see kasvab hingematva kiirusega.
Ameerika Ühendriikides on juba ehitusjärgus sadu andmekeskusi ja kogu maailmas ehitatakse neid veelgi. Need rajatised moodustavad tehisintellekti süsteemide, valveplatvormide ja reaalajas andmetöötluse selgroo, võimaldades pidevat ja laiaulatuslikku seiret.
Samal ajal integreeritakse jälgimisvahendeid vaikselt ja peenelt igapäevaellu.
Numbrimärkide tuvastamise süsteemid, näo jälgimine, käitumisanalüüs… neid tehnoloogiaid kasutatakse nüüd tuhandetes kogukondades, sageli ilma avalikkuse osaluse või selge järelevalveta.
Pealiskaudselt on lubadus turvalisus.
Kuid selle lubaduse taga peitub midagi palju võimsamat… süsteem, mis on võimeline jälgima liikumist, tuvastama mustreid ja salvestama andmeid üksikisikute kohta nii, et seda saab igal ajal laiendada või muul eesmärgil kasutada.
See, mis algab kuritegevuse ennetamisena, võib kiiresti muutuda ööpäevaringseks valveks.
Ja paljudel juhtudel paigaldatakse see enne, kui inimesed selle olemasolu isegi märkavad.
Vaatamata ehitusprojektide ulatusele juhtub midagi ootamatut.
Inimesed panevad seda tähele ja võitlevad vastu – ja see tegelikult toimib.
Üle kogu riigi lükkavad kogukonnad tagasi andmekeskuste projektid, peatavad jälgimise laiendamise ja sunnivad otsuseid tühistama. Raekoja koosolekud on rahvast täis. Referendumi tulemusi tühistatakse. Projekte, mis kunagi tundusid vältimatud, peatatakse nüüd.
Terved saalid täis inimesi seisavad koos, andes selgelt märku, et nad ei ole valmis seda tulevikku aktsepteerima.
Mõnel juhul seisavad üksikisikud oma positsioonil üksi, keeldudes maad müümast isegi siis, kui neile pakutakse elumuutvaid rahasummasid, ning valides selle asemel enda ümber olevate inimeste ja paikade kaitsmise.
„Ma ütlesin, et ma ei taha su raha… Mind teeb rohkem murelikuks see, mis saab kõigist neist inimestest siin pärast minu lahkumist.“
Sel hetkel muutub pöördepunkt eksimatuks. Sest asi pole enam ainult infrastruktuuris.
See puudutab nõusolekut.
Ja seda heakskiitu antakse üha harvemini.
Siia viib kõik.
Pärast infrastruktuuri ulatuse, kontrollimatu tehisintellekti riskide ja jälgimissüsteemide hiiliva laienemise kirjeldamist kerkib esile tegelik küsimus: millist tulevikku siin ehitatakse ja kes selle üle tegelikult otsustab?
Suund on eksimatu.
Tulevik, mida määratleb tehnokraatia. Pidev jälgimine. Automatiseeritud otsuste langetamine. Kontroll, mis on põimitud süsteemidesse, millega enamik inimesi pole kunagi oma nõusolekut andnud. Maailm, kus privaatsus õõnestub, autonoomia hääbub ja tehisintellektil põhinev jälgimine läbib igapäevaelu kõiki aspekte, alates liikumisest ja rahandusest kuni käitumiseni välja.
Kuid see tulevik pole ette määratud.
Sest samal ajal ilmneb midagi muud: teadvus.
Andmekeskuste vastased kogukonnad ei reageeri hirmust. Nad reageerivad sellele, mida nad nüüd mõistavad. Nad näevad, mida ehitatakse, kuhu see viib ja mis juhtub, kui keegi vastu ei hakka.
Kui inimesed saavad aru lõppeesmärgist, juhtub midagi uskumatut.
Nad lõpetavad osalemise.
Nad hakkavad otsuseid langetama.
Nad hakkavad ennast organiseerima.
Nad hakkavad piire tõmbama.
Nad hakkavad ütlema ei.
Ja see ongi täpselt see ülioluline punkt.
Sest sellised süsteemid saavad paika ainult avalikkuse heakskiidul – ja niipea kui see heakskiit mureneb, mureneb ka idee, et see tulevik on vältimatu.
Lõppkokkuvõttes ei ole kõige olulisem muutus tehnoloogiline, vaid inimlik.
Süsteem toimib ainult siis, kui sa seda järgid.
Ja niipea kui see muutub, pole tulemus enam ette määratud.
Vaata täispikka episoodi allpool:
