Valvsa Rebase poolt
Eesmärk on alati olnud inimesed asendada. Nüüd hakkab see tegelikult kuju võtma.
Eesmärk on alati olnud inimest asendada.
Nüüd hakkab see tegelikult juhtuma.
Aastaid püüdsid siseringi isikud meid hoiatada – insenerid, vilepuhujad, terved meeskonnad maailma suurimates tehnoloogiaettevõtetes. Nad nägid, kuhu tehisintellekt suundus… ja mis sellest sai.
Neid ignoreeriti, jäeti kõrvale ja arvati ülereageerimisena maha.
Maria Zeee toob välja mustri, mida on üha raskem ignoreerida – kus tehnoloogiat, mida kunagi progressina müüdi, kasutatakse nüüd jälitustegevuseks, automatiseeritud sõjapidamiseks ja inimtööjõu süstemaatiliseks asendamiseks suures ulatuses.
Loe 1. osa siit.
Ja mis selle juures kõige murettekitavam on?
See pole pilguheit tulevikku. See juba toimub.
Täna õhtul jätkame oma sarja „Suur lähtestamine: järgmine etapp“ 2. osaga – ja see, mida me teile kohe näitame, teeb ühe asja selgeks: see järgmine etapp ei ole kohe ukse ees, see on juba käimas.
Enne iga suuremat kriisi kostab hääli, mis üritavad häirekella lüüa. Neid eiratakse, tembeldatakse ülereageerijateks, nimetatakse “hirmu õhutajateks” või veel hullemaks.
Kuid seekord ei jäänud need hoiatused tähelepanuta. Need osutusid tõeks.
Sellele tehnoloogiale kõige lähemal seisvad inimesed teadsid täpselt, kuhu see välja viib – ja nüüd kogeme seda reaalajas.
Homme õhtul keskendume lahendustele. Aga täna peame tegelema millegi palju pakilisemaga: milline näeb maailm välja, kui keegi ei sekku, et kurssi muuta.
Tehisintellektiga seotud riske ei varjatud kunagi – neid mõistsid juba varakult just need, kes neid süsteeme arendavad.
Suurte tehnoloogiaettevõtete insenerid ja töötajad väljendasid korduvalt selget muret selle pärast, kuidas neid tööriistu saaks kasutada jälitustegevuseks ja sõjapidamiseks. Nad olid aru saanud millestki olulisest: kui võimekus on olemas, muutub kontroll teisejärguliseks. Taristu juhib laienemist.
Isegi kui juhtkond lubab vaoshoitust, toimivad stiimulid vastupidises suunas.
2018. aastal kirjutasid tuhanded Google’i töötajad alla kirjale sõjaliste tehisintellekti projektide vastu, hoiatades: “Me usume, et Google ei tohiks sõtta sekkuda.”
See hoiatus viitab sügavamale reaalsusele. Tehisintellekt ei jää oma algse eesmärgi juurde. Kui see on kaitsestruktuuridesse integreeritud, muutub see kohanemisvõimeliseks, skaleeritavaks ja üha raskemini kontrolli all hoidtavaks. Aastaid hiljem viitavad vilepuhujate süüdistused sellele, et just need stsenaariumid, mida töötajad kartsid, pole enam hüpoteetilised.
Mustrit on raske mitte märgata – sisemine vastupanu, avalikkuse rahustamine ja seejärel vaikne eskaleerumine. Need, kes olid tehnoloogiale kõige lähemal, nägid, kuhu see välja viib.
Ja isegi nemad ei suutnud seda peatada.
See, mis praegu kasutusel on, näitab, kui kaugele arendus on juba jõudnud.
Luuakse süsteeme, mis koondavad kogu tänapäevase sõjapidamise protsessi ühte kasutajaliidesesse – andmevoogude sissetulek, sihtmärkide tuvastamine, valikute genereerimine ja toimingute teostamine toimub pidevas tsüklis.
Palantiri tehisintellektil põhineva sihtmärgi tuvastamise süsteemi otsedemos selgitas esineja, kui kiiresti saab sihtmärki tuvastada ja tegutsema hakata: “Vasakklõps, paremklõps, vasakklõps – ja nagu võluväel, saab sellest avastus.”
See lihtsus pole lihtsalt mugavus – see on muutus. Inimlik hõõrdumine on kõrvaldatud ning otsused, mis varem nõudsid koordineerimist, kaalumist ja aega, on nüüd taandatud peaaegu hetkelisteks töövoogudeks. Protsess liigub avastamisest tegutsemiseni minimaalse katkestusega, protsessi, mida kirjeldatakse kui “tapmisahela sulgemist”.
Tõhususe suurenedes väheneb inimeste kaasatus. Operaatori kaasatus tulemusse väheneb, samal ajal kui süsteem muutub kiiremaks, skaleeritavamaks ja autonoomsemaks.
Ja kui see võime on olemas, ei jää see enam piiratuks lahinguvälja või ühe kontekstiga.
Temast saab modell.
Tehisintellekti ja biotehnoloogia vaheline liides toob endaga kaasa uut tüüpi riski – riski, mida on raskem ennustada ja palju raskem kontrollida.
Mure ei puuduta ainult väärkohtlemist. See puudutab kiirust. See puudutab autonoomiat.
Kaitseekspert kirjeldas lähituleviku stsenaariumi, kus tehisintellekti süsteemid saaksid läbi viia terveid laborikatseid ilma inimese järelevalveta, hoiatades: “Võiksite olla laboris… ja süsteem peaks tegema kõike autonoomselt.”
See võimalus kõrvaldab ühe viimastest keeruliste uuringute piirangutest: aja ja inimjärelevalve. Autonoomsed süsteemid võiksid kiirendada katseid üle piiride, milleks olemasolevad ohutusmeetmed on kavandatud, ja kui need süsteemid töötavad bioloogilise materjaliga, on tagajärjed palju tõsisemad.
Põhiprobleem on joondamine. Tehisintellekti süsteemid ei “mõista” tulemusi – nad optimeerivad eesmärke silmas pidades. Kui need eesmärgid on vigased, mittetäielikud või kitsalt määratletud, võib süsteem anda kahjulikke tulemusi, toimides samal ajal täpselt ettenähtud viisil.
Kui otsustusõigus nihkub nendesse süsteemidesse, muutub inimlik otsustusvõime teisejärguliseks ja sekkumine raskemaks.
Sel hetkel ei seisne väljakutse enam ainult tehnoloogia arendamises.
Eesmärk on tagada, et see käituks kooskõlas inimlike väärtustega – see muutub üha keerulisemaks, kui süsteemid muutuvad võimsamaks ja iseseisvamaks.
Majanduslik mõju on tunda kiiresti ja samaaegselt paljudes tööstusharudes.
Ettevõtted ei rakenda tehisintellekti mitte ainult aeglaselt, vaid restruktureerivad oma tegevust selle ümber täielikult. Terved äriüksused likvideeritakse, kümned tuhanded töökohad koondatakse mõne kuuga, kuigi tulud kasvavad ja aktsiahinnad tõusevad.
Muster on selge: investeerige tehisintellekti massiliselt, vähendage töötajate arvu ja saage selle eest tasu.
Suurettevõtetes ei ole tegemist ainult kulude kokkuhoiuga – see on muutus ettevõtete tegutsemisviisis. Automatiseerimine vähendab kulusid, turud premeerivad tõhusust ja kui see tsükkel algab, levib see kiiresti.
Hiljutises intervjuus hoiatas tehisintellekti valdkonna juht, kui kiiresti kontoritööd võivad kaduda: “Enamik neist ülesannetest automatiseeritakse tehisintellekti poolt järgmise 12–18 kuu jooksul täielikult.”
See, mida paljud pidasid aastakümneid enesestmõistetavaks, on nüüd taandunud kuudeks. Valgekraede töökohad – mida pikka aega peeti stabiilseteks – on äkki ohus ja kuna see levib sektoritesse, ulatuvad mõjud kaugemale tööhõivest. Need mõjutavad majanduslikku stabiilsust, tööjõu identiteeti ja pikaajalist planeerimist.
Võib olla valdkondi, mis on vastupidavad, eriti praktilises, füüsilises töös, kuid isegi need on kohanemissurve all.
Üldpilti iseloomustab kiirendus – mitte aeglane areng, vaid kiire ümberkorraldus, mis toimub samaaegselt kõigis süsteemides.
Ja kui tehnoloogilised võimalused, majanduslikud stiimulid ja institutsionaalne dünaamika osutavad kõik samas suunas, siis muutuste tempo mitte ainult ei kiirene.
See paljuneb.
Soovime teid tänada meie sarja „Suur lähtestamine: järgmine etapp“ 2. osa (1. osa leiate siit) vaatamise ja oma kohuse täitmise eest end kurssi viia, samal ajal kui paljud teised seda ei tee.
Vaata täispikka episoodi allpool:
