Kirjutanud Frank Landymore
Levinud arvamus on, et tehisintellekti süsteemid, millel on kümneid miljardeid parameetreid, on põhimõtteliselt arusaamatud: täpsed protsessid, mille kaudu nende põhilised ehitusplokid – sõlmed või “neuronid” – toimivad, on arusaamatu “must kast”, isegi uurijatele, kes neid loovad.
Kuid tehisintellekti uurija Nick Cammarata uus essee on šokeerinud Silicon Valley’d, väites vastupidist. AI mudelid ei ole läbitungimatud mustad kastid, väidab ta ja võib-olla on tegelikult võimalik näha, kuidas nad tegelikult “mõtlevad”.
Peaaegu 26 000-sõnalist teksti on kiitnud tööstuse tuntud isikud, sealhulgas OpenAI tegevjuht Sam Altman. Tuntud teadlane, kes töötab OpenAI-s, nimetas seda “oluliseks hetkeks teaduse ajaloos”.
On selge, miks neile see nii meeldib. AI juhtimise vaatenurgast võib see tähendada, et on olemas viis “lahendada” tehisintellekti joondumist. Kui me mõistame, kuidas tehisintellekti mudelid mõtlevad, siis arvatakse, et saame teada, miks AI agendid lähevad “omapead” ja alustavad häkkimisrünnakuid või miks vestlusrobotid mööduvad nende kaitsetest ja ütlevad midagi ohtlikku – ja sellele lõpu teha. (See on “nii hea uudis, et isegi Eliezer peab oma Pdoomi langetama,” naljatas üks kommentaator, viidates Eliezer Yudkowskyle, kurikuulsale tehisintellekti “doomerile”)
Kõik see kehtib, kui Cammaratal on õigus. Ta töötas varem OpenAI-s ja töötab nüüd tehisintellekti idufirmas Goodfire. Oma essees selgitab ta, et tehisintellekti neuronite reaktsioonid teatud stiimulitele olid aastaid “peaaegu põhimõtteliselt tõlgendamatud”. Miks sama neuron aktiveerus nii kassil kui autopildil, jäi teadmata. Peamine seletus oli, et neuronid näitasid superpositsiooni: kuna tehisintellekti mudelitel on vaid piiratud arv neuroneid, lõpetavad nad “seotud asjade rühmitamise ja hakkavad hoopis mitteseotud asju kokku voltima, lihtsalt seetõttu, et need ei sega üksteist,” selgitas Cammarata.
“Tulemuseks on omamoodi sõlm: võrk oleks võinud kokku kukkuda mitmel peaaegu sama heal moel. Seepärast ei näita see peaaegu üldse, mida neuron kokku võtab,” kirjutas ta.
Aga tegelikult ei ole neuronid “segased sõlmed”, vaid pigem “selgelt struktureeritud”. Ühes näites aktiveerub sama neuron nii kassi näo kujutis kui ka auto esiosa – alguses tunduvad need olevat kaks iseseisvat mõistet. Kuid lähemal vaatlusel ütleb Cammarata, et tehisintellekt näeb tegelikult midagi, mida meie ei näe: sama V-kujulist mustrit piltidel. “See ei ole kassi ja auto neuron, vaid V-kujuline neuron,” kirjutas ta. Kokkuvõttes on tehisintellekti mudelid seega arusaadavamad, kui keegi kunagi arvas, väidab ta.
Kõik ei nõustu täielikult Cammarata optimistlike järeldustega.
“See on huvitav töö, kuid ma ei arva, et see oluliselt muudab meie põhilist hinnangut tõlgendatavusele,” kirjutas Neel Nanda, Google DeepMindi uurija, kes juhib seal mehaanilise tõlgendatavuse algatust, X-is. “Ma usun endiselt, et superpositsioon on reaalne, ja see töö ei muuda tegelikult minu olulisi uskumusi.”
Veelgi enam, pole selge, kas iga üksiku neuroni funktsiooni mõistmine on võrdne võimega ennustada, kuidas nad kõik koos töötavad. See hakkab kõlama praktilise tehnilise lahendusena palju laiemale probleemile. Tehisintellekti mudelite turvaliseks muutmine ulatub kaugemale kaitsemeetmete loomisest – rääkimata terviklikest õiguslikest ja sotsiaalsetest raamistikudest, mis samuti vajavad loomist. Kuid arvestades Cammarata töö tugevat vastukaja, võib see oluliselt muuta seda, kuidas AI sisemisi mehhanisme mõistetakse. Siiani pole tulemusi siiski testitud ega eelretsenseeritud.
