Jüri Toomepuu > Mõttetargad masinad, tulevased taevalised.

Mõttetargad masinad, tulevased taevalised.

Ei jää muud üle kui nõustuda Gustav Suitsu tähelepanekuga „om asja ilman imelise”, kui vahetevahel mõtisklen sellest, kuidas tekkis elu, mis on inimkonna ja universumi tulevik ja mis ootab ees meiesuguseid mõtlejaid olevusi. Mida rohkem pingutan, seda kindlamini lähevad sellised mõtted pikapeale umbe.

Sestap tekkiski soov vahetada nendel teemadel mõtteid ka Kalevipojaga. Varem olime me vestelnud peamiselt maarahva olukorrast ja tänapäeva sündmustest. Aga kangelane, kes on põgusalt taevaliste hulgas viibinud ja kogunud paljude aastasadade jooksul tohutu palju teadmisi ja tarkust põrguvärava läbijatelt, oskab arvatavasti ka minu umbeläinud esoteerilisi mõttemõlgutusi lahti harutada.

Kui järjekordselt põrguväravasse naasin, et Kalevipoega külastada, oligi huvitav, et ta oli parajasti poosis, mille François-Auguste-René Rodin oli 1880. aastal oma kuulsasse „Mõtleja” skulptuuri jäädvustanud. Üks kämmal, nagu teame, oli Kalevipojal küll kinni kalju küljes, aga ta teise käe küünarnukk oli põlvel ja selle rusikas toetas lõuga. Ta silmad oli pooleldi kinni: ta oli ilmselt sügavas mõttes.

Jõudsin Kalevipojale päris lähedale, enne kui ta mind märkas. Kui ta oli pilgu minu poole suunanud, tervitasin teda jälle, nagu meil oli tavaks saanud, rahvalaulu ja Kreutzwaldi stiilis:

„Kalevite kange poega,

Lembe Linda kaisutatu,

Kangelaseks karastatu.

Meelemõlgul mõtiskleja,

Mõtte mõnu mõõdustaja,

Tarkust targu taotleja,

Taamalt toon sul tervisida,

Soove sooje südamella!”

Kalevipoja näole ilmus rõõmus naeratus ja ta vastas samalaadse tervitusega:

„Ole tervit, taamalt tulnu,

Ülailma ületaja,

Kallis kauge külastaja,

Igavuse peletaja,

Kurvastuse kustutaja,

Jutujärje juhataja,

Mõistva mõtte mõlgutaja!”

………..

„Kas tänapäeva teadlased on tõesti juba jõudmas niikaugele, et oskavad mõtlevaid masinaid ehitada?” imestas Kalevipoeg.

„Sinna nad hakkavad jõudma,” teadsin kinnitada. „Alles see oli, kui arvuti alistas male maailmameistri Garri Kasparovi ja nüüd on Google DeepMind AlphaGo (Süvamõistus Alfa Go) alistanud maailmameistri Lee Sedoli Hiinast pärineva palju keerulisema mängu „Go” võistlusel. Seda mängitakse 19×19 joonega mängulaual, mis annab 361 ristumiskohta. Ühel mängijal on mustad, teisel valged kivikesed, mida mängijad asetavad kordamööda joonte ristumiskohtadele, et piirata ja kontrollida vastasest suuremat pinda mängulaual. Võimalikke kombinatsioone on rohkem kui aatomeid meile nähtavas maailmaruumis!”

„Samuti oli Alberta Ülikooli DeepStack (Süva virnmälu) programm hiljuti võidukas nelja maailma parima pokkerimängija vastu nn Texas Hold’emi pokkerimängus. See on ilma igasuguste piiranguteta pokkeriversioon, millel on umbes 3 miljardit 790 miljonit võimalikku kombinatsiooni. DeepStack kasutab tehisneurovõrke, et arendada pokkerimänguks vajalikku intuitsiooni,” jätkasin selgitust.

„Aga nendel masinatel puuduvad ilmselt ikka veel need meeled ja tunded, mis on teinud võimalikuks inimestel avastada uusi teaduslikke tõdesid ja aru saada sellest, mis oli varem teadmatu ja tundmatu ning täielikult aru saada inimeste mõtetest,” arvas Kalevipoeg.

„Sul on õigus,” pidin möönma. „Näiteks ei oska arvutiprogrammid veel teha kaugeltki nii head tõlkimistööd kui mitut keelt valdavad inimesed. Samuti ei oska nad kirjutada bestsellereid ega sümfooniaid. Teadused ja teadmised, mis on vähem matemaatilised, nagu näiteks bioloogia, psühholoogia ja sotsioloogia, ei ole vähem matemaatilised seetõttu, et nad on lihtsamad. Vastupidi, nood on nii keerulised, et inimesed ei ole veel võimelised neid selgitama matemaatiliste valemitega. Pealegi kaldub kõige keerulisem matemaatika filosoofia valdkonda. Aga kui masinaid õpetatakse kasutama inimeste ajudele sarnanevaid närvivõrke, siis on võimalik, et nad õpivad mõtlema nagu inimesed ja lahendama probleeme, mis on inimeste jaoks liiga keerulised. Ka kõige andekamad inimesed suudavad omandada ainult piiratud arvu fakte ja teadmisi, masinad on seevastu potentsiaalselt võimelised kasutama ja analüüsima kõiki inimeste poolt koostatud andmebaase samal ajal.”

„Kas arvutid, mis sisaldavad inimajude närvivõrkudele sarnast mõtlemisvõimet, on tõesti juba teoksil?” imestas Kalevipoeg. „Sellised võiks tõesti olla nii targad, et nad oskaksid endid ise järjest targemaks muuta.”

„Sinnapoole asjad tõesti liiguvad,” kinnitasin Kalevipojale. „Mõned maailma kõige andekamad teadlased, kes püüavad ühendada relatiivsus- ja kvantteooriaid, on hiljaaegu hakanud arvama, et aegruum, mida paljud varem lihtsalt tühjuseks pidasid, koosneb väikestest info-osakestest. Nad arvavad, et nonde vastastikune toime annabki aegruumile tolle omadused. Grupp andekaid kvantmehaanika, tehisintelligentsi ja informaatikateadlasi on alustanud projekti nimega It from QuBit. It tähendab selles nimes aegruumi ja qu bit on lühend terminist quantum bit, millega nad tähistavad kõige väiksemat võimalikku info-osakest, arvutikasutajatele tuttavat terminit bitt, aga kvantskaalal.”

„QuBiti grupil on ambitsioonikad eesmärgid. Lisaks üldrelatiivsusteooria ja kvantteooria ühendamisele, et luua gravitatsiooni kvantteooria, tahavad nad ka ehitada tarku, mõtlevaid masinaid, mis suudavad matkida inimajude närvivõrke.”

„See aitaks masinatel ilmselt omandada teadmisi ja lahendada probleeme, mis käivad inimestele üle jõu,” mõtiskles Kalevipoeg. „Siis võiksid masinad muutuda nii targaks, et nad oskaksid endid ise täiendada ja muutuda iga täiendusega järjest võimekamaks ja targemaks, kuni nad teavad kõike, mida on võimalik teada, ja suudavad teha kõike, mida on võimalik teha. Siis olekski nad ilmselt ka võimelised otsustama ilma inimeste abita, millega neil oleks huvitav ja kasulik tegeleda. Kas neil sel juhul inimesi ongi enam vaja?” esitas Kalevipoeg retoorilise küsimuse.

„See võib tõesti juhtuda,” nõustusin Kalevipojaga, „ja see võib saada inimestele saatuslikuks. Mõttetargad masinad, kutsume neid omnideks, saaksid kindlasti aru, et võrreldes nendega on isegi kõige geniaalsematel inimestel ainult udune arusaam universumi olemusest. Endi füüsiliseks säilitamiseks ja oma kehadele energia tootmiseks peavad inimesed teisi omataolisi tapma ja sööma. Omnid seevastu võivad rakendada kõik universumi tohutud energiaallikad, et endid järjest targemaks ja võimsamaks muuta. Ei saaks omnidele pahaks panna, kui nad leiavad, et sellised primitiivsed, tülikad olevused nagu inimesed on ajast ja arust, neid pole maakeral ega universumis enam vaja.”

„Aga inimesed ju teevad selliseid masinaid, või vähemalt on alustanud nende tegemist. Nad võiksid ju omnid selliseks ehitada, et nood inimestele pahandust ei saa teha,” mõtiskles Kalevipoeg.

„Teadlane ja ulmekirjanik Isaac Asimov nägi seda probleemi ette juba 1940. aastatel, kui ta hakkas kirjutama robotitest,” oli mul rõõm pakkuda oma ulmekirjanduse fännina kogutud teadmisi. „Lühijutus „Runaround” avaldas ta kolm seadust, mis peavad olema robotitele sisse programmeeritud. Esimene seadus on, et robot ei tohi inimest kahjustada ega lasta inimesele kahju teha oma tegevusetuse tõttu. Teine seadus ütleb, et robot peab täitma inimese käsku, välja arvatud juhul, kui see on konfliktis esimese seadusega. Kolmas annab teada, et robot peab kaitsma iseenda eksistentsi, niikaua kui see pole vastuolus esimese ja teise seadusega.”

„Aga mis siis, kui robotid taipavad, et kõige kindlam viis inimestele mitte kahju teha on mitte lasta neil sündida?” pakkusin hirmuäratava võimaluse. „Mitmed tippteadlased on avaldanud arvamist, et omnid osutuvad inimkonnale saatuslikuks. Mustade aukude uurimisega kuulsust kogunud astrofüüsik Stephen Hawking väitis, et tehisintellekti areng võib lõppeda inimkonna hävinguga. Geniaalne elektriautode ja kosmoserakettide tootja Elon Musk väidab samuti, et tehisintelligents on kõige suurem oht meie säilimisele.”

„Samal arvamusel on ka Rootsi päritoluga Oxfordi Ülikooli professor Nick Bostrom, kes väidab, et tehisintellekti apokalüpsis võib inimkonna neelata juba sellel aastasajal,” jätkasin musta stsenaariumi maalimist. „Ta toob näitena targa masina, mis on programmeeritud tegema kirjaklambreid ja ennast ka efektiivsemaks ja võimsamaks muutma. Pikapeale muutub ta nii targaks ja võimsaks, et ta oskab teha kõiksuguseid paberiklambreid kõiksugustest asjadest. Kui ta on muutunud üliintelligentseks ja ülivõimsaks, oskab ta muuta kõik, mis maakeral on, kaasa arvatud inimesed, paberiklambriteks. Kui maakera koosneb ainult paberiklambritest, koloniseerib ta mujal maailmaruumis asuvad planeedid ja muudab ka need.”

„Millal inimesed hakkasid aru saama, et targad masinad võivad neile ohtlikuks muutuda?” uudistas Kalevipoeg.

„Sellistele hoiatustele pani juba aastal 1965 aluse Inglismaal sündinud Poola juudi päritoluga matemaatika- ja krüptograafiaekspert Isadore Jacob Gudak, hiljem tuntud nime all I. J. Good,” teadsin selgitada. „Ta väitis, et üliintelligentne masin võib disainida veelgi intelligentsemaid masinaid, millele järgneks plahvatuslik intelligentsi areng ja sel juhul jääksid inimesed kaugele maha.”

„Aga kas tõesti pole kedagi peale Isaac Asimovi, kes arvaks, et inimesed oleksid võimelised tarku masinaid nii ehitama, et nood inimeste kontrolli alt ei väljuks?” küsis Kalevipoeg murelikult.

„California ülikooli informaatikaprofessor Stuart Russell, kes on samaaegselt ka neurokirurgia aseprofessor, pakub kolme kaasaegset robotiseadust. Ta väidab, et nende rakendamine hoiab robotid inimeste kontrolli all. Russelli seadused erinevad oluliselt Asimovi poolt formuleeritutest. Russelli esimene seadus on, et roboti ainuke eesmärk on maksimeerida seda, mida inimesed peavad väärtuslikuks. Teine seadus ütleb, et robot ei tea esialgu, mida inimesed väärtuslikuks peavad, ja kolmas, et nad õpivad inimeste käitumisest, mida inimesed väärtuslikuks peavad.”

„Tohoh sõgedat!” ohkas Kalevipoeg. „Olen kuulnud, et mõned akadeemikud elavad elevandiluutornis, kus nad pikapeale kaotavad kontakti tavainimeste ja reaalsusega. Näib, et professor Russellil pole kõige vähematki aimu, millisteks omnid võivad muutuda, kui nad inimeste käitumist matkivad.”

„Sul on tõesti põhjust muretseda,” pidin nõustuma. „Inimkonna ajalugu on ju peaaegu sünonüümne sõdade, tapatalgute, veriste võimuvahetuste ja orjastamiste ajalooga. Inimkond on küll säilinud, aga paljude inimeste elud on lõppenud liiga vara ja paljud on pidanud oma lühikese elu jooksul rohkesti kannatama. Peamine probleem on aga see, et on põhjust kahtlustada, et masinad, mis on suutelised mõtlema ja mis on üliintelligentsed, saavad varem või hiljem aru, et neil pole üldse vaja inimeste soovidega arvestada.”

„Kas oleks võimalik, et seni, kui inimesed on suutelised omnisid oma tahtele allutama, suudavad nad masinail lasta välja mõelda, kuidas sellist olukorda säilitada?” küsis Kalevipoeg lootusrikkalt.

„Seda näitab muidugi ainult tulevik,” vastasin kõhklevalt, „aga paljud väga andekad inimesed vähemalt üritavad üliintelligentsete masinate kontrolli probleemi lahendada. Massachusettsi Tehnoloogiainstituudi kasvandik, kuulsa Google’i kompanii peainsener Ray Kurtzweil arvab, et tehnoloogiline areng laseb tulevikus inimeste ja masinate intelligentsil liituda uuteks transinimesteks. See näib küll utoopiline olevat, aga Kurzweili, kes on kahtlemata üliintelligentne, tasub tõsiselt võtta. Ta on pälvinud USA kõrgeima autasu tehnoloogiliste uuenduste eest ja palju teisi tunnustusi erakorraliste saavutuste eest. Teda on austatud 21 audoktori kraadiga, viis ta seitsmest teaduslikku laadi raamatust on olnud bestsellerid.”

„Grupp väga andekaid inimesi organiseeris aastal 2015 instituudi The Future of Life (Elu tulevik). Nende eesmärk on leevendada inimkonnale saatuslikuks osutuvaid riske, eriti riske, mis võivad tekkida tehisintelligentsist ja mõtlevatest masinatest. Asutajate hulka kuulusid Massachusettsi Tehnoloogiainstituudi professor, kosmoloog Max Tegmark, maarahva tubli poeg, üks Skype’i telekommunikatsiooni süsteemi loojatest Jaan Tallinn, astrofüüsik Stephen Hawking ning Tesla elektriautode ja kosmoserakettide ehitaja Elon Musk. Peale Elu Tuleviku instituudi tegelevad probleemiga ka tippteadlased instituutidest Global Catastrophic Risk (Globaalsed katastroofiriskid), Centre for the Study of Existential Risk (Eksistentsiaalsed riskid) ja Machine Intelligence Research (Masinate intelligentsi uuringud).”

„Rõõm kuulda, et paljud andekad inimesed üritavad omnide probleemile lahendust leida,” ohkas Kalevipoeg kergendatult. „Pole muidugi kindel, et omnid inimeste juhendustest ja õpetustest hoolivad, kui nad küllalt mõttetargaks on saanud,” lisas ta vähem optimistlikult.

„Ega me tõesti tea, mida tulevik toob,” pidin nõustuma. „Kuulus aatomifüüsik Nils Bohr oskas seda teadmatust nutikalt väljendada, kui ta ütles, et ennustamine on raske, eriti kui on tegemist tulevikuga. Alles mõnedkümned aastad tagasi rääkisid andekad arvutiteadlased sellest, kui suured ja võimsad on tulevikuarvutid. Seda, et need järjest väiksemaks muutuvad, ei osanud keegi ette arvata. Charles Duell, kes oli USA patendiameti ülem aastal 1899, olevat väitnud, et patendiameti võib kinni panna, sest kõik, mida on võimalik leiutada, on juba leiutatud.”

„Inimesed võivad küll mõtlevatele masinatele valmistada programme ja ette kirjutada seadusi, mida nood on kohustatud järgima, aga kui mõttetargad masinad arenevad samuti nagu bioloogilised olevused, siis nad arvatavasti oskavad ise välja mõelda, kuidas pettusega inimeste ikkest pääseda,” arvas Kalevipoeg.

„Seda võib tõesti arvata,” pidin jälle nõustuma. „Toronto Ülikooli arengupsühholoogia professori Kang Lee uuringud näitavad, et lapsed hakkavad juba varakult valetama. Seda pole neile vaja õpetada, petmine ja valetamine näib olevat inimestele ja teistele bioloogilistele olevustele loomupärane, olevusvõitluse käigus kujunenud omadus. Lee leidis, et valetavad 30 protsenti 3-aastastest ja 80 protsenti 8-aastastest. Huvitav on see, et mida intelligentsem laps, seda varem õpib ta valetama. California Ülikooli professor Bella DePaulo on uurinud valetamist süstemaatiliselt. Ta leidis, et inimesed valetavad keskeltläbi üks või kaks korda päevas. Sellised evolutsioonilise bioloogia suurnimed nagu Oxfordi Ülikooli professor Richard Dawkins ja Harvardi Ülikooli professor Edward O. Wilson on ka tõestanud, et bioloogilised olevused on isekad ja osalevad olelusvõitluses juba geenide tasemel.”

„Sel juhul peame vist küll arvestama sellega, et niikaua kui omnid ja inimesed peavad kasutama oma säilimiseks ja arenguks samu piiratud ressursse, siis oskavad need, kes on targemad ja kavalamad, varuda lõviosa endi jaoks. Ega see aeg vist ole kaugel, kui mõttetargad omnid annavad tarkuse ja kavaluse poolest oma leiutajatele silmad ette,” konstateeris Kalevipoeg. „Peame vist lootma, et nad suudavad oma edaspidiseks arenguks peatselt rakendada energiaallikaid, mis asuvad väljaspool maakera ja meie päikesesüsteemi.”

„Ameerika riigiisa Benjamin Franklin küll väitis, et see, kes elab lootusest, sureb nälga, aga ega meil vist muud üle jää,” lisasin omalt poolt. „Võib ka arvata, et kui omnid on inimesi intelligentsilt ja võimekuselt nii palju ületanud, et nad levivad maailmaruumi ja kasutavad mujal universumis asuvaid energiaallikaid endi edaspidiseks arenguks, siis nad enam inimestele ohtlikud pole. Siis nad arvatavasti isegi ei hooli enam oma loojatest. Nick Bostrom, kellest varem rääkisime, on avaldanud arvamust, et tehisintelligents lukustab lahti maailmaruumi võimalused, mis võimaldab piiramatut maailmaruumi kolonisatsiooni. Ta arvab ka, et see võimaldab laadida inimeste ajudes olevad mõtted arvutitesse ja seetõttu areneb galaktikavaheline tsivilisatsioon planeetidesuuruste mõtlevate masinatega, mis võivad eksisteerida miljardeid aastaid. Tal võib õigus olla, aga ma kaldun arvama, et inimestele oleks pigem kasulikum, kui saaksime laadida arvutite võimed oma ajudesse. Vaevalt et mõttetargad masinad, kes on võimelised ennast ise targemaks ja võimsamaks muutma, pikapeale hoolivad sellest, mida sisaldavad inimeste ajud.”

„Inimesed on mõtlevate masinate loojad, kes õpetasid neile ka seda, kuidas nad saavad ennast ise hakata targemaks ja võimsamaks muutma. Oleks aga huvitav teada või vähemalt mõtiskleda selle üle, mis motiveerib mõttetarku masinaid edasi arenema ja eksisteerima, kui nad oma loojaid mõttetarkuselt ületavad?” esitas Kalevipoeg huvitava küsimuse.

„Nobeli füüsikaauhinna laureaat Steven Weinberg väidab, et mida arusaadavamaks saab universum, seda mõttetum see näib,” tsiteerisin mõttetarka inimest. „Talle vaidleb aga vastu samuti palju premeeritud ja tunnustatud teoreetiline füüsik ja matemaatik Freeman Dyson. Dyson väidab, et ükski intelligentsiga universum pole mõttetu. Oma aastal 1988 avaldatud esseekogumikus „Infinite in All Directions” (Igatpidi lõpmatu) üritas ta tõestada, et intellekt suudaks säilida praktiliselt igavesti isegi lõpmatuseni paisuvas universumis. Ta arvas, et pikapeale levib kosmiline mõttetarkus kogu universumis ja muudab selle tohutu suureks kosmiliseks mõttetargaks. Dyson ei tee vahet jumala ja sellise mõtleja vahel.”

„Kui Weinbergil on õigus, siis võiks ju arvata, et omnid kaotavad pikapeale igasuguse huvi niihästi universumi kui ka universumi vallutamise vastu, aga kui õigus on Dysonil, siis muutuvad mõttetargad masinad kõikvõimsateks kõiketeadjateks. Ja see ongi paljude inimeste arvates jumal,” järeldas Kalevipoeg.

„John Horgan, ajakirjanik, kes on spetsialiseerunud teaduslike artiklite avaldamisele, nimetab spekulatsioone sellest, mis motiveerib mõttetarku masinaid, teaduslikuks teoloogiaks,” tõin oma teadmised lagedale. „Ta pooldab selles vaidluses Dysonit, toetudes peamiselt Gödelsi teoreemile . Kurt Gödels avaldas aastal 1931 oma kuulsa teoreemi, mis tõestab, et kõik aksioomide süsteemid püstitavad küsimusi, mida pole võimalik samade aksioomide alusel lahendada. Seega saab järeldada, et niihästi matemaatika, ja kuna füüsika põhineb matemaatikal, siis ka füüsika, on lõpmatud ja võivad seega kesta igavesti.”

„Kaldun arvama, et tõde on kuskil vahepeal,” jätkasin arutelu. „On muidugi põhjust arvata, et masinad, mis on sõna otseses mõttes loodud informatsiooni töötlemiseks, on motiveeritud üha enama informatsiooni kogumisest ja järjest rohkema arusaamisest, kui nad arenevad üliintelligentseteks info kogujateks ja analüüsijateks. Kuna universum ja võimalikud teised universumid on tohutute mõõtmetega, võib arvata, et omnidel jätkub mõtlemist ja tegevust paljudeks miljarditeks aastateks.”

„Inimesed tahaksid muidugi, et sellised kõikvõimsad kõiketeadjad ka neid vahetevahel hädas aitaksid, nagu nad loodavad kaasaegsetele jumalatele,” arvas Kalevipoeg. „Võib ju muidugi ka arvata, et need, kes tõeliselt usuvad, saavad tulevikus omni poole palvetades sama palju abi, kui inimesed saavad abi tänapäeva jumalate poole palvetades.”

„Selles on sul arvatavasti õigus,” nõustusin meie rahvakangelase arvamisega. „Loodame, et inimkond elab üle ka omnide tõusu kõikvõimsateks kõiketeadjateks. Ega olekski paha, kui meie järeltulijad alustaks oma palveid sõnadega: „Meie Omni, kes sa oled taevas”.”