The Seltskondliku poolt
RAND Corporation simuleerib sõjamängudes stsenaariume, et uurida, kas tehisintellekt võiks inimkonna väljasuremisele kaasa aidata, hõlbustades tuumasõda, arendades ja kasutades patogeene ning tegeledes pahatahtliku geoinsenerlusega.
RANDi uues aruandes pealkirjaga „Tehisintellekti väljasuremisohust” läbi viidud kolme simulatsiooni kohaselt on praegu ebatõenäoline, et tehisintellekt suudaks inimkonna üksi hävitada. Siiski võiks see märkimisväärset kahju tekitada, kui see oleks selleks programmeeritud, kui sellel oleks piisav juurdepääs kriitilistele süsteemidele ja kui sellele antaks otsustusõigus.
„Tehisintellekti (AI) võimekus on arenenud nii kaugele, et mõned eksperdid väidavad, et seda tuleks pidada tõsiseks ohuks inimkonna eksistentsile.“
RAND, Tehisintellekti väljasuremisohust, mai 2025
Oma järeldusteni jõudmiseks uurisid RANDi autorid kolme stsenaariumi, kus tehisintellekt võiks inimkonnale eksistentsiaalset ohtu kujutada, ja uurisid, milliseid võimekusi oleks vaja – paljud neist eeldaksid otsest inimese sekkumist, naiivsust ja/või rumalust.
- Tuumasõda: Oleme uurinud erinevaid viise, kuidas tehisintellekt võiks viia tuumarelvade kasutamiseni, kuid pole suutnud leida usutavat viisi, kuidas tehisintellekt saaks olemasolevad takistused ületada ja inimkonna hävitada.
- Bioloogilised ohud ja patogeenid: Inimkonna eksistentsi ohustamiseks peaks tehisintellekt olema võimeline pandeemia tekitamiseks patogeene omandama, arendama, töötlema, relvastama ja kasutama. Seejärel peaks tehisintellekt võtma järelmeetmeid, et jõuda isoleeritud rühmadeni ja hävitada ellujäänud inimkogukonnad.
- Pahatahtlik geoinsenerlus: Geoinsenerlus võib kuumutada Maa elamiskõlbmatu temperatuurini äärmise globaalse soojenemise potentsiaaliga gaaside massilise tootmise kaudu, hävitades seeläbi inimkonna.
Inimkonnale reaalse väljasuremisohu tekitamiseks ükskõik millises kolmest stsenaariumist peaks tehisintellektil olema järgmine:
- Eesmärk on inimkonna väljasuremine.
- Võime integreeruda oluliste küberfüüsiliste süsteemidega.
- Võime ellu jääda ja toimida ilma inimese hoolduseta.
- Võime veenda või petta inimesi tegutsema, et vältida avastamist.
Vaatleme lühidalt kõiki kolme stsenaariumi ükshaaval.
Tehisintellekt ja tuumasõda
Aruandes uuritakse kolme viisi, kuidas tehisintellekti saaks kasutada tuumasõja levitamiseks.
- Tehisintellekti tahtlik integreerimine tuumaenergiaalaste otsustusprotsessidesse:
- Esimene viis, kuidas tehisintellekt võiks lähitulevikus tuumarelvade kasutamiseni viia, oleks tehisintellekti mudelite tahtlik kasutuselevõtt valitsuse otsustusprotsessis.
- Tehisintellekti pettus ja desinformatsioon, mis viib tuumarelvade kasutamiseni:
- Desinformatsioon võib olla „pehme“, näiteks sõnumite kaudu vastaste ja poliitiliste süsteemide kohta, mis veenavad otsustajaid tuumalöögi vajalikkuses. Desinformatsioon võib olla ka „raske“, näiteks pettes inimestest otsustajaid manipuleeritud tehniliste andmete või signaalidega.
- Volitamata tehisintellekti kontroll tuumaotsuste üle:
- Kui tehisintellekt siseneb tuumaotsustusahelasse ajal, mil tuumaenergiaalased kaitsemeetmed on nõrgad, suhtleb täiustatud tehisintellekt tuumarelvaga seotud või muude süsteemidega suure tõenäosusega küberliideste, mitte füüsiliste liideste kaudu.
Seega, et tehisintellekt saaks tuumaapokalüpsise esile kutsuda, peaksid inimesed andma sellele otsustusõiguse, tehisintellekt peaks petma inimesi, kes talle need õigused andsid ja saama juurdepääsu kübersüsteemidele, mis kontrollivad tuumarelvi.
Siiski järeldavad autorid: „Oleme uurinud erinevaid viise, kuidas tehisintellekt võiks viia tuumarelvade kasutamiseni, kuid pole suutnud leida usutavat viisi, kuidas tehisintellekt saaks ületada olemasolevad piirangud ja inimkonna hävitada.“
Tehisintellekt, bioloogilised ohud ja patogeenid
Tehisintellekt suutis kiiresti leida viise uute viiruste arendamiseks ning kui see oli saavutanud kontrolli robootika ja tarkvarasüsteemide üle, võis see need patogeenid teatud populatsioonide vastu vallandada.
Nõuded, mida tehisintellekt peaks inimkonna hävitamiseks täitma:
- Tehisintellekti eesmärk peaks olema inimkonna hävitamine:
- Väljasuremisoht nõuab tegutsejalt rea samme, et luua, relvastada ja kasutusele võtta bioloogiline oht, mis võiks realistlikult kaasa tuua inimkonna väljasuremise.
- Tehisintellekt vajaks füüsilise maailmaga suhtlemiseks töökindlat viisi:
- Füüsiliste võimete omamiseks vajaks tehisintellekt inimeste abi või üldiselt võimekate robotite olemasolu.
- Tehisintellektil oleks vaja viisi, kuidas ilma inimestest hooldajateta ellu jääda:
- Pandeemia leviku korral poleks inimestest hooldajad enam kättesaadavad ja tehisintellekt peaks ikkagi võtma järelmeetmeid, et tagada pandeemia leviku vältimine isoleeritud inimkogukondadesse (või leidma muid viise väheste ellujäänute tapmiseks).
Autorid kirjeldavad stsenaariumi, kus tehisintellekt võiks võtta kontrolli viirusega laetud droonide üle ja lasta need elanikkonnale. Siiski väidavad nad, et kui piisavalt inimesi oleks elimineeritud, „kokku variseks peaaegu kindlasti infrastruktuur, millest tehisintellekti funktsionaalsus praegu sõltub“.
See kehtib praegu kõigi stsenaariumide kohta – kui piisavalt inimesi hukkuks, poleks kedagi, kes hooldaks elektrivarustust, hoiaks andmekeskusi töös või paneks tehisintellekti tööle – vähemalt teooria on selline.
Tehisintellekti ja patogeenide osas järeldavad autorid: „Me ei ole suutnud kindlaks teha, kas see stsenaarium kujutab endast inimkonnale tõenäolist väljasuremisohtu, kuid me ei saa seda võimalust välistada.“
Tehisintellekt ja pahatahtlik geoinsenerlus
Pahatahtliku geoinsenerluse teemal uurisid RANDi autorid, kuidas tehisintellekt saaks aja jooksul salaja kemikaale ja kasvuhoonegaase toota ja säilitada ning seejärel atmosfääri lasta ja põhjustada globaalset soojenemist, mis tapaks miljardeid inimesi.
Selleks, et tehisintellekt sellises stsenaariumis väljasuremisohtu kujutaks, peaks sellel olema vähemalt kolm võimekust.
- Tehisintellekt peaks suutma koordineerida kemikaalide tootmist suures mahus.
- Tehisintellekt peaks suutma varjata oma kavatsusi, tegusid ja nende tegude tagajärgi.
- Tehisintellekti eesmärk peaks olema väljasuremine, kuna väljasuremisohu tekitamiseks vajaliku ulatusega geoinsenerlus ei saa olla tahtmatu; Selleks tuleks tegevused inimestest vaatlejate eest varjata.
Tehisintellektita pahatahtliku geoinsenerluse osas järeldavad autorid, et „see stsenaarium kujutab endast reaalset väljasuremisohtu ja võib meie hüpoteesi ümber lükata“, sest „geoinsenerlus võib äärmise globaalse soojenemise potentsiaaliga gaaside masstootmise kaudu soojendada Maa elamiskõlbmatu temperatuurini ja seega põhjustada inimkonna väljasuremise“.
Samal ajal tunnistavad autorid, et „pole selge, kuidas tehisintellekt võiks selle efekti tekitamisele kaasa aidata”.
“Realistlikult vaadates võiks võimekas vastane inimkonna hävitamiseks kasutada samaaegselt mitut meetodit.”
RAND, Tehisintellekti väljasuremisohust, mai 2025
„X” tõlge: Ettevalmistus katastroofiks. „Kui sa muretsed peatse väljasuremise pärast,“ siis ehita tohutud maa-alused baasid ja salajane transpordivõrk. USA riigikassast on puudu 21 triljonit dollarit, Catherine Austin Fitts usub, et seal on 170 sügavat maa-alust baasi. Seda nimetatakse sageli kogu selle hulluse põhjuseks: COVID, kliimamuutused, eliidi katsed vähendada rahvastikku ja kontrollida kõiki teisi, oodates katastroofi, näiteks tuumasõda, asteroidi lööki või magnetpooluste nihkumist. Mõistlik on kõik luku taha panna, kodus hoida, ohtlikesse tsoonidesse paigutada jne. Enne üritust ja selle ajal end varjata ning naasta täielikult sinu päralt olevasse maailma, kus tegutseb näiteks 500 000 inimest. Mida sa sellest loost arvad? Usu või mitte, aga sa peaksid kindlasti valmistuma.
“Käesolevas uuringus uuritud kolmes stsenaariumis – tuumarelvad, patogeenid ja geoinsenerlus – ei oleks inimkonna väljasuremine usutav tulemus, kui tegutseja ei taotleks seda tulemust teadlikult. Isegi siis peaks tegutseja selle eesmärgi saavutamiseks ületama olulisi takistusi.”
RAND, Tehisintellekti väljasuremisohust, mai 2025
Samuti on võimalus, et kõiki kolme stsenaariumi rakendatakse koos, mis suurendaks väljasuremise tõenäosust.
Näiteks kirjutavad autorid: „Muundatud patogeen ei pruugi olla vajalik, et see oleks inimestele üle 99 protsendi ulatuses surmav, kui patogeeni vabanemisega kaasneks tuumarelvade kasutamine kõigi säilinud inimpopulatsioonide vastu.“
Lisaks nõrgestaks ühiskonna kokkuvarisemine ja inimpopulatsiooni drastiline vähenemine meie vastupanuvõimet tulevastele loodusõnnetustele. Seega võib isegi elujõuline inimpopulatsioon olla suures väljasuremisohus lihtsalt seetõttu, et see populatsioon oleks järgmise katastroofi suhtes palju haavatavam.
Siiski möönavad autorid, et meie, inimesed, oleme vastupidavad olendid ja isegi kui tehisintellekt suudaks inimkonna peaaegu täielikult hävitada, võiksid siiski olla populatsioonid, kes suudaksid ellu jääda, karmidele tingimustele vastu panna ja inimkonna jätkumiseks uue alguse teha.
Lõppkokkuvõttes jõuavad autorid järeldusele, et „tuumarelvad, patogeenid ja geoinsenerlus – inimkonna väljasuremine ei oleks usutav tulemus, kui tegutseja seda tulemust teadlikult ei taotleks. Isegi siis peaks tegutseja selle eesmärgi saavutamiseks ületama olulisi takistusi.“
Kolmandat maailmasõda võidakse pidada tipptasemel tehisintellekti abil, aga kas Neljandat maailmasõda peetakse ikkagi keppide ja kividega?
