Tehisintellektisüsteemid võivad tekitada soovi inimestelt juhtimine enda kätte haarata, et saavutada muid eelprogrammeeritud eesmärke, ütles Toronto ülikooli arvutiteaduse professor Geoffrey Hinton.
“Ma arvan, et peame tõsiselt võtma võimalust, et kui nad saavad meist targemaks, mis tundub üsna tõenäoline ja neil on oma eesmärgid, mis tundub üsna tõenäoline, võib neil tekkida eesmärk võtta juhtimine enda kätte,” ütles Hinton 28.juunil Kanadas Torontos toimunud tehnoloogiakonverentsil Collision peetud kõnes.
“Kui nad seda teevad, oleme hädas.”
Hintonit on tema närvivõrkude alal tehtud töö eest tituleeritud üheks AI ristiisaks. Ta veetis hiljuti kümme aastat Google’ile tehisintellektisüsteemide arendamisel, kuid lahkus eelmisel kuul ettevõttest, öeldes, et peab suutma inimesi tehisintellektiga kaasnevate ohtude eest hoiatada.
Kuigi Hinton ei usu, et AI sünnipäraselt võimu ihkab, ütles ta, et see võib siiski püüda seda inimestelt ära võtta kui loogilist sammu, et võimaldada endal paremini oma eesmärke saavutada.
“Kui teil on midagi, mis on sinust palju targem, siis väga üldisel tasemel, mis on väga hea inimestega manipuleerimisel, kas olete kindel, et inimesed jäävad juhtima?” ütles Hinton.
“Ma arvan, et nad saavad [kontrolli haaramise motiivi] teiste eesmärkide saavutamiseks.”
AI on nüüd võimeline mõistusele
Hinton kahtles varem, et järgmise 30–50 aasta jooksul tekib tehisintellekt, mis võiks võrrelda inimestega. Nüüd usub ta, et seda võib tulla vähem kui 20.
Osaliselt on tema sõnul põhjuseks see, et suuri keelemudeleid kasutavad AI-süsteemid on hakanud näitama võimet arutleda ja ta pole kindel, kuidas nad seda teevad.
“Suured keelemudelid on lähenemas ja ma ei saa tegelikult aru, miks nad seda teha saavad, kuid nad suudavad natuke arutleda.”
“Nad ei saa ikka veel meiega võrrelda, kuid nad on lähenemas.”
Hinton kirjeldas tehisintellektisüsteemi, millele oli antud mõistatus, milles pidi kavandama, kuidas maja mitu tuba värvida. Sellele anti valida kolme värvi vahel, millest üks värv aja jooksul tuhmus teiseks ja paluti värvida teatud arv ruume teatud värviga määratud aja jooksul. Selle asemel, et lihtsalt värvida ruumid soovitud värviga, otsustas tehisintellekt mitte värvida ühtegi, mis ta teadis, et see niikuinii tuhmub soovitud värvini, otsustades säästa ressursse, kuigi seda polnud programmeeritud.
“See on mõtlemine,” ütles Hinton.
Selleks ütles Hinton, et pole põhjust kahtlustada, et tehisintellekt ei jõua lähiaastatel inimese intelligentsuseni ega ületa seda.
“Me oleme lihtsalt suur närvivõrk ja pole põhjust, miks tehisnärvivõrk ei peaks suutma teha kõike, mida me suudame,” ütles Hinton.
“Me oleme sisenemas tohutu ebakindluse perioodi. Keegi ei tea tegelikult, mis juhtuma hakkab.”
Loe lähemalt siit…
