Dr. Robert W. Malone’i poolt
Bioloogiline intelligentsus, riigivõim ja uus biojulgeolekuriik
Anthropic on USA-s asuv tehisintellekti ettevõte, mille asutasid 2021. aastal endised OpenAI juhid ja teadlased, sealhulgas Dario Amodei. See arendab tehisintellekti mudelite perekonda “Claude” ja keskendub suuresti tehisintellekti turvalisusele, ühtlustamisele ja riikliku julgeoleku rakendustele.
Anthropicu hiljutised piirangud avaliku juurdepääsu osas oma kõige arenenumatele tehisintellekti süsteemidele bioloogilisteks uuringuteks näitavad midagi palju olulisemat kui arutelu tehisintellekti üle.
- Need näitavad uue õpetuse teket.
- Avalikkusele mõeldud võimsate funktsioonide kättesaadavust piiratakse.
- Valitsustele ja heakskiidetud institutsioonidele mõeldud võimsad funktsioonid jäävad alles.
- Põhjuseks on toodud bioohutus.
Anthropicu sõnul on selle kõige arenenumad mudelid võimelised keerukateks bioloogilisteks uuringuteks. Ettevõte on väljendanud muret, et neid süsteeme võidakse kasutada täiustatud eksperimentaalses disainis, bioloogilises arutluskäigus ja muudes tegevustes, mida võidakse väärkasutada.
Võimsad tehnoloogiad kannavad endas riske.
Esitatud argument on lihtne. Need oskused on väidetavalt liiga ohtlikud sõltumatutele teadlastele, väikelaboritele, ettevõtjatele, kodanikeadlastele ja laiemale avalikkusele. Kuid valitsuste ja nende usaldusväärsete institutsioonide käes on need kuidagi ohutud.
Millised tõendid seda järeldust toetavad?
Enne kui me anname nende tehnoloogiate kontrolli valitsustele ja nende eelistatud partneritele üle, peaksime ehk uurima nende institutsioonide varasemaid tulemusi, kes seda usaldust nõuavad.
Seesama riigiaparaat, mis nüüd positsioneerib end bioloogilise tehisintellekti kaitsjana, on aastaid rahastanud, juhendanud, kaitsnud ja paljudel juhtudel varjanud vastuolulisi “funktsiooni saavutamise” uurimisprogramme.
Aastaid uuris senaator Rand Paul NIH, EcoHealth Alliance’i, Wuhani Viroloogiainstituudi ja bürokraatliku varimängu finantsvoogude kohta käivaid küsimusi, mis sageli võimaldavad asutustel end vastutusest distantseerida, säilitades samal ajal kontrolli rahastamise ja poliitika üle. Nüüdseks on praktiliselt vaieldamatu, et föderaalsed vahendid liikusid läbi keeruka toetuste, allhankelepingute, välislaborite ja üha riskantsemate viroloogiliste uuringutega tegelevate teaduspartnerite võrgustiku. On ilmnenud tugevaid tõendeid selle kohta, et USA rahastatud uuringud aitasid kaasa SARS-CoV-2 väljatöötamisega seotud tööle ja osa sellest tööst toimus siinsamas Ameerika Ühendriikide laborites.
Selle loo läbinägelik aspekt ei ole mitte uurimistöö ise, vaid pingutus, mis on vajalik selle kohta käivate põhifaktide väljaselgitamiseks.
Vastuste saamine nõudis aastaid kestnud kongressi uurimisi, kohtukutseid, ärakuulamisi, dokumendinõudmisi, vilepuhujaid, kohtuvaidlusi ja pidevat avalikku survet. E-kirju hoiti kinni. Dokumente avaldati vastumeelselt. Definitsioone muudeti. Ikka ja jälle tundusid võimud olevat rohkem huvitatud programmide ja nende maine kaitsmisest kui läbipaistvuse tagamisest.
See ei ole tõend süsteemist, mida iseloomustab avatus ja vastutus.
See on tõestus süsteemist, mis ei allu kontrollile.
Mis meid kongressi toob
Mida Kongress tegelikult avastatud teabega peale hakkas?
On toimunud ärakuulamisi. On olnud aruandeid. On olnud karmi sõnastusega kirju, kohtukutseid, suunamisi ja avalikke vastasseise. Ometi on põhistruktuur jäänud suures osas samaks. Samad asutused jätkavad uuringute rahastamist (välja arvatud USAID, mille „kaheotstarbeline“ uurimistegevus on osaliselt teistele asutustele üle antud). Sama biokaitse bürokraatia tegutseb edasi. Samad rahastamismehhanismid toimivad edasi. Samad järelevalvevead, mis algselt muret tekitasid, jäävad praktiliselt samaks. Need, kes süsteemi vaidlustavad, mitte ainult ei vaigistata, vaid marginaliseeritakse valitsuse poolt. Nende teenuseid enam ei vajata. Nende arvamusi ei tohiks arvestada.
Kongress on näidanud oma uurimisvõimet, kuid mitte valitsemisvõimet.
See ebaõnnestumine on oluline, sest bioloogilise tehisintellekti ümber käiv debatt eeldab pädeva ja vastutustundliku järelevalve olemasolu. Ometi viitab funktsioonivõime uuringute hiljutine ajalugu täpselt vastupidisele. Kui Kongressil on olnud raskusi traditsiooniliste bioloogiliste uurimisprogrammide sisuka järelevalve teostamisega, miks peaks keegi eeldama, et ta on edukam tehisintellekti süsteemide jälgimisel, millel on potentsiaal bioloogilisi uuringuid dramaatiliselt kiirendada?
Tekib küsimus.
Miks lubatakse Anthropicul – või mõnel teisel teedrajaval tehisintellekti ettevõttel – arendada tehnoloogiaid, mis ettevõtte enda juhtide sõnul kujutavad endast enneolematuid bioloogilisi riske?
Ja kui need oskused on tõesti nii ohtlikud, nagu väidetakse, siis kes täpselt järelevalvet teostab?
Praegu näib lahendus olevat väike ring ettevõtteid, föderaalagentuure, töövõtjaid ja valitud partnereid, kes langetavad otsuseid kõigi teiste nimel.
See ei ole bioohutusstrateegia.
See on võimu koondumine.
Siis on veel operatiivse pädevuse küsimus.
Just sel aastal esitasid föderaalprokurörid NIH teadlase Claude Kwe ja NIH teadlase Vincent Munsteri vastu süüdistuse seoses väidetava bioloogilise materjali, sealhulgas Mpoxi proovide salakaubaveoga Ameerika Ühendriikidesse.
Samad institutsioonid, mis kinnitavad meile, et täiustatud bioloogilise tehisintellekti võimekust tuleb rangelt kontrollida, ei suuda usaldusväärselt kontrollida valitsuse teadlaste poolt bioloogilise materjali ebaseaduslikku ja ebaseaduslikku transporti kogu maailmas ega saa nad kontrollida ohtlike patogeenide transporti ja jälgimist oma teadusökosüsteemides.
Avalikkus peaks uskuma, et tulevased tehisintellekti süsteemid, mis on võimelised kiirendama biotehnoloogiaalaseid uuringuid ja biorelvade arendamist, käideldakse kuidagi pädevamalt kui patogeenid ja bioloogiline materjal, mis on juba valitsuse kontrolli all.
Miks peaks keegi seda uskuma?
Põhiprobleem seisneb selles, et bioohutuse argument eeldab, et valitsus on üksainus ja ühtne osaleja.
Ta ei ole.
Valitsus on laialivalguv võrgustik, mis koosneb agentuuridest, alltöövõtjatest, ülikoolidest, sõjaväelaboritest, luureteenistustest, toetuste saajatest, alltöövõtjatest ja rahvusvahelistest partneritest. Paljud USA valitsuse kõrgetasemelistes operatsioonides osalevad eksperdid kirjeldavad seda struktuuri pigem eraldi valitsuste kogumina – iga kabineti tasemel agentuur on poolautonoomne.
Tsentraliseeritud kontrolli pooldajad räägivad sageli nii, nagu lahendaks probleemi vastutuse üleandmine “valitsusele”.
Tegelikkuses nihutab see lihtsalt probleemi asukohta.
- Samad stiimulid jäävad kehtima.
- Samad inimlikud nõrkused jäävad alles.
- Samad bürokraatlikud puudujäägid püsivad.
- Samad huvide konfliktid püsivad.
- Sama salastatuse tase jääb kehtima.
Ja nüüd on toimumas järjekordne areng.
Riikliku luure direktorile omistatud hiljutiste avalduste kohaselt on USA valitsus tunnistanud bioloogiliste uuringute läbiviimist välismaal rahvusvaheliste partnerluste ja laborite võrgustiku kaudu. Näib, et on toimunud aktiivne ja jätkuv kahesuguse kasutusega bioloogiliste uuringute “allhange”. “Kahesugune kasutus” on viisakas ja poliitiliselt korrektne eufemism bioloogiliste uuringute kohta, mida saab kasutada nii bioloogiliseks kaitseks kui ka bioloogiliseks sõjapidamiseks.
See, kas neid programme kirjeldatakse bioloogilise kaitse, rahvatervise ettevaatusabinõude, ohu vähendamise, patogeenide seire või millegi muuna, on peaaegu ebaoluline.
Põhiline fakt on see, et bioloogilisi uuringuid tehakse juba keerulise rahvusvahelise ökosüsteemi kaudu, millest vähesed kodanikud aru saavad ja mida veelgi vähem poliitilisi otsustajaid täielikult mõista suudab. Mingil põhjusel asuvad need biolaborid sageli kriisikolletes, näiteks Ukraina-Venemaa piiril, jättes mulje, et neid kasutatakse varjatud eesmärkidel. Mõiste “kahekordne funktsioon” näib varjavat bioloogilise sõjapidamise valdkonna teadus- ja arendustegevust, mis on tegelikult keelatud. Võib väita, et tegelik põhjus, miks USA valitsus on nii vastumeelne muutma ÜRO bioloogiliste relvade konventsiooni (“bakterioloogiliste (bioloogiliste) relvade ja toksiinrelvade väljatöötamise, tootmise ja varumise keelustamise ning nende hävitamise konventsioon“), et lisada jõustatavaid sanktsioone, on see, et seda saaks kasutada USA valitsuse vastutusele võtmiseks selle valdkonna tegevuse eest.
Sellegipoolest öeldakse meile nüüd, et just neile institutsioonidele tuleks usaldada eksklusiivne juurdepääs tehisintellekti süsteemidele, mis suudavad bioloogilist uurimis- ja arendustegevust – sealhulgas „kahesuguse kasutusega” tegevusi – dramaatiliselt kiirendada.
Samal ajal, piirates avalikkuse teadmisi ja juurdepääsu täiustatud tehisintellekti süsteemidele, kõrvaldavad valitsus ja rahvusvahelised korporatsioonid avalikkuse kontrolli.
See väide väärib skepsist.
Täiustatud tehisintellekt aitab kaasa ohtlike biotehnoloogiliste süsteemide arendamisele. See on fakt.
Ja siin on veel üks ebamugav reaalsus. Täiustatud bioloogiline tehisintellekt kujutab endast reaalseid biojulgeolekuriske, seega juurdepääsu piiramine Ameerika Ühendriikides ei takista vaenulikel riikidel sarnaseid võimeid arendamast või omandamast. Tegelikult võime olla sama kindlad kui idast tõusev päike, et nad seda teevad ja juba teevadki.
DeepSeeki tekkimine oleks pidanud purustama kõik illusioonid, et tehisintellekti täiustatud võimalused võivad jääda püsivalt piiratud käputäie Ameerika ettevõtetega. Mõne kuu jooksul näitas üks Hiina ettevõte, et paljusid võimalusi, mida varem peeti nõudvat tohutuid ressursse ja privilegeeritud juurdepääsu, saab kopeerida palju madalamate kuludega, kui eksperdid olid ennustanud. Olenemata sellest, kas DeepSeeki vaadeldakse innovatsiooni eduloona, riikliku julgeoleku probleemina või turuhäirena, on õppetund sama: teadmised levivad. Informatsioon ja tehnoloogia ei tunne piire.
On ebatõenäoline, et Hiina, Venemaa, Iraan, Põhja-Korea ja teised vastastikuse kasu tahtlikult piiraksid uuringuid tehnoloogiate osas, mis võiksid pakkuda strateegilisi eeliseid biotehnoloogias, bioloogilises kaitses, ravimite väljatöötamises, patogeenide iseloomustamises või potentsiaalsetes bioloogiliste relvade programmides. Kui murrangulised tehisintellekti süsteemid suudavad bioloogilisi uuringuid oluliselt kiirendada, levivad need võimalused paratamatult.
Tulemuseks võib olla maailm, kus USA kodanikud, sõltumatud teadlased ja väiksemad teadusasutused seisavad silmitsi üha suuremate piirangutega, samal ajal kui välisriikide valitsused jätkavad oma programmide edendamist väheste võrreldavate tingimustega.
Sellises stsenaariumis poliitikakujundajad riski ei välista. Nad lihtsalt koondavad ressursid osariikidele ja suurtele institutsioonidele, lootes, et Ameerika geopoliitilised konkurendid otsustavad sama tehnoloogilist teed mitte järgida. DeepSeek viitab sellele, et see lootus tõenäoliselt ei täitu.
Praegu puudub rahvusvaheline raamistik, mis suudaks kontrollida tehisintellektil põhinevaid bioloogilisi uuringuid. Puudub jõustatav leping, nime vääriline inspektsioonisüsteem ja pole põhjust arvata, et geopoliitilised rivaalid vabatahtlikult sellest hoiduvad. Bioloogiliste relvade konventsioon on teise ajastu relikt. See ei sisalda sisulisi kontrollisätteid, tõhusaid jõustamisvolitusi ega paku vahendeid, et takistada riikidel arendada strateegiliselt oluliseks peetavaid võimeid. See jätab küll kontrolli mulje, kuid selle taga on vähe sisu.
Samuti tundub, et džinni pudelisse tagasi panna pole võimalik.
Küsimus on selles, kes need võimed omandab?
Anthropic ja teised näivad töötavat mudeli suunas, kus valitsustel, suurkorporatsioonidel, luureagentuuridel, sõjaväeorganisatsioonidel ja heakskiidetud partneritel on jätkuvalt juurdepääs, samas kui avalikkus saab üha piiratumaid versioone.
Ametlik põhjendus on turvalisus.
Praktiline efekt on võimu koondumine.
Aga enne kui me anname need võimed üle institutsioonidele, mis on meile aastaid tekitanud vaidlusi funktsioonide täitmise, läbipaistmatute biorelvade kaitseprogrammide, rahvusvaheliste uurimisvõrgustike, töövõtjate järelevalve ebaõnnestumiste ja korduvate läbipaistvuse eest peetud lahingute üle, peaksid kodanikud esitama lihtsa küsimuse.
Mida täpselt on see valitsev klass teinud, et seda usaldust teenida?
Palju juttu, Potjomkini stiilis järelevalve ja mitte mingit seadusandlust.
Hiljutine ajalugu viitab lihtsale, läbipaistvale ja selgele vastusele: praktiliselt mitte midagi. Tundub, nagu “tegutsemise stiimulid ei oleks kooskõlas”.
