Aastal 2000 kirjutas Sun Microsystemsi kaasasutaja Bill Joy provokatiivse essee pealkirjaga “Miks tulevik meid ei vaja”. Vaatamata avaldamise kuupäevale, 1. aprillil, polnud see nali; ja vaatamata oma 11 000-sõnalisele pikkusele läheks see levima. Põhjus, miks see on kapseldatud selle alapealkirja. Teadmiseks:
“Meie võimsaimad 21. sajandi tehnoloogiad – robootika, geenitehnoloogia ja nanotehnoloogia – ähvardavad muuta inimesed ohustatud liigiks.”
Nüüd, peaaegu veerand 21. sajandist on möödunud, on kõikjal hoiatused, et selline tehnoloogia – täpsemalt tehisintellekt (AI) – võib tähendada inimese hukatust. Hea näide on teadusorganisatsiooni Center for AI Safety 30. mai avaldus: “AI-st väljasuremise riski vähendamine peaks olema ülemaailmne prioriteet koos muude ühiskondlike riskidega, nagu pandeemiad ja tuumasõda.
Veebisaidi Salon andmetel tervitavad mõned ülaltoodud avaldusele allakirjutanud homo sapiensi väljasuremist.
Oh, asi pole selles, et nad oleksid nagu sarimõrvar Carl Panzram, kes väidetavalt ütles kord : “Ma soovin, et kogu inimkonnal oleks üks kael, et saaksin selle lämmatada!” Pigem määratlevad mõned tehnikategelased “väljasuremist” erinevalt kui meie – ja nad kardavad ainult “valet”.
Selle mõistmiseks mõistke, et kõne all on liikumine (“religioon” oleks võib olla parem kirjeldus), mida on nimetatud TESCREALismiks ja mis hõlmab ideoloogiate rühma, mida nimetatakse “TESCREALi kimbuks “ .Selgitus :Mõiste on küll kohmakas, kuid kontseptsioon ei saaks olla olulisem, sest see kattuvate liikumiste ja ideoloogiate kimp on muutunud tehnikaeliidi seas tohutult mõjukaks. Ja kuna ühiskonda kujundavad põhjalikult nende valimata oligarhide ühepoolsed otsused, on kimbul seega tohutu mõju maailmale üldisemalt.
Lühend tähistab “transhumanismi, ekstropianismi, singularitaarsust, kosmismi, ratsionalismi, tõhusat altruismi ja pikaajalisust”. See on suutäis, kuid TESCREALismi olemus – see tähendab maailmavaadet, mis sellest kimbust tuleneb – on piisavalt lihtne: selle keskmes on tehnoutoopiline tulevikuvisioon, milles me inimkonda ümber kujundame, koloniseerime kosmost, rüüstame kosmost, ja soovime rajada laialivalguva galaktikatevaheline tsivilisatsiooni, mis on täis triljoneid ja triljoneid “õnnelikke” inimesi, kes peaaegu kõik “elavad” tohututes arvutisimulatsioonides. Selle käigus lahenevad kõik meie probleemid ja igavesest elust saab tõeline võimalus.
Muidugi kõlab “igavese elu” lubadus põhimõtteliselt religioosselt ja on selge, miks ilmalikud inimesed, kes ei usu hauataguse ellu, peavad selle lubadust ahvatlevaks. Nad on ka “lihtsalt” viimased pikas utopistide reas. Nad ei ole aga nagu Robert Owen, kelle sotsialismilaadsed ettevõtmised kukkusid läbi vaid ühes väikeses 19. sajandi alguse kommuunis; või ateistist “auväärne” Jim Jones, kes korraldas ühe 70ndate lõpu massilise enesetapu; või isegi nõukogude võim, kes kontrollis otseselt ainult ühte riiki. Nagu Salon väitis, on need tehnikaoligarhid, kes kujundavad seda, mis tõenäoliselt meie tulevikku täielikult või osaliselt kontrollib: AI. Tegelikult, väidab Salon, ülalnimetatud AI-ohutuse keskus saab 90 protsenti oma rahastamisest TESCREAListi kogukonnalt.
Siinkohal, vasturääkijad märgivad, ei ole küsimus selles, kas teie arvates suudavad need tehnoutoopiad oma suurejoonelise fantastilise visiooni ellu viia; see on see, et tehnoloogilise jõuga, mida nad sünnitavad, võib nende ebaõnnestumine olla sama hävitav kui nende edu.
Ka see on jahmatav, kui mõelda sellele, mida nad „edu“ all loodavad: kõrgema „inimjärgse“ rassi – uue liigi – loomine, mis meid Maal (ja kaugemalgi) välja tõrjub. Ka nemad on seda eesmärki väljendanud. Näiteks kirjeldab Salon: „Nagu kirjutab TESCREAList Toby Ord oma 2020. aasta raamatus „The Precipice”, „inimkonna igavesti säilitamine sellisel kujul, nagu see praegu on”, võib raisata ka meie pärandi, loobudes suuremast osast meie potentsiaalist”, lisades, et meie õitsengu täielik potentsiaal tähendaks tõenäoliselt meie muutumist millekski, mis on väljaspool tänapäeva inimkonda.
Samamoodi kinnitab Rootsi filosoof Nick Bostrom, et “inimliku bioloogilise olemuse transformatiivse muutumise võimaluse püsiv sulgemine võib iseenesest kujutada endast eksistentsiaalset katastroofi”..
See on 19. sajandi alguse eugeenika ülikõrgtehnoloogiline versioon, millest kasvas välja “transhumanism” (soov ületada inimkond), mis pole üllatav. Ja see toob meid TESCREAListide kontseptsiooni “hea” ja “halva” inimese väljasuremisest. Salong loetleb siin kolm asjakohast liiki:
- Terminaalne väljasuremine: see on lihtsalt teie vanaisa väljasuremine, kus kõik inimesed kaovad.
- Lõplik väljasuremine: kõik inimesed kaovad, jätmata järeltulijat.
- Normatiivne väljasuremine: inimesed kaovad, jättes järeltulijad, kellel puudub “oluline” omadus, näiteks teadvus.
TESCREAListid kardavad ainult kahte viimast. Ja inimesed, kes usuvad, et masinad ei saa kunagi teadlikuks, peaksid märkima, et teoreetiliselt ei ole konkureerivate intelligentsete üksuste sellise omaduse omamine meie väljatõrjumiseks ehk vajalik (see oleks normatiivse väljasuremise näide).
Millise kuju võiks selline järglane siis võtta? Salong tutvustab näidet geenitehnoloogia kasutamisest inimeste põhjalikuks muutmiseks, kellest saavad seejärel nimesed kes integreerivad tehnoloogia oma kehasse (nt ühendavad oma aju liideste kaudu Internetti); nad võiksid omaks võtta ka “elu pikendamise” tehnoloogiaid, mis võivad anda surematuse.
Ükskõik, millises vormis “uus inimene (masin?)” võib olla, usuvad TESCREAListid, et “neil on kohustus see uus intelligentsuse vorm maailma tuua”, nagu ajakirjanik Ezra Klein hiljuti ütles . Teisisõnu, nad mängivad Jumalat omaenda südametunnistuse heakskiidul.
Ja see, et nad taotlevad oma eesmärke ilma Jumalasse uskumata, võib olla kõige hirmutavam. Tegelikult kasutavad nad selliseid mõisteid nagu “hea” ja “parem” – “üldine hüve” ja “parem maailm” – ilma, et oleks eelnevalt täpselt määratlenud, mis on “hea” või tunnistamata, et objektiivset asja ei saa olla, hea ilma jumalikuta. See meenutab seda, kui GK Chesterton, kritiseerides seda relativistlikku segadust oma 1905. aasta raamatus Heretics , kirjutas, kuidas kaasaegsed rõhutavad “vajadust” hariduse, progressi ja vabaduse järele, ilma et nad kõigepealt “selgitaks, mis on hea”. Samuti inimesed, kes vastaksid tänapäeval soovimatule moraalsele korrektsioonile: “Kes ütleb, mis on “tõde”?” või “Ära suru mulle peale oma väärtusi!” väidavad nüüd, et suudavad luua tehisintellekti, millel on just õiged väärtused.
See on tõeliselt hirmutav, sest lõppude lõpuks, kuidas saab loomuliku rumaluse abil kontrollida mis tahes tüüpi arenenud tehisintellekti?
