Austraalia signaalide direktoraadi avaldatud tehisintellekti (AI) aruanne hoiatab, et tehnoloogia võib “tahtlikult või tahtmatult kahjustada”.
Austraalia küberturvalisuse keskuse poolt koos rahvusvaheliste partneritega, sealhulgas Ameerika Ühendriikidega, välja antud väljaanne hoiatas, et tehisintellekt pakub nii võimalusi kui ka ohte.
Ohtude hulka kuulusid tehisintellekti mudeli andmete mürgitamine, sisendiga manipuleerimise rünnakud, generatiivsed tehisintellekti hallutsinatsioonid, privaatsuse ja intellektuaalomandiga seotud probleemid ning mudeli varastamise rünnakud.
Aruandes märgiti, et valitsusel, akadeemilistel ringkondadel ja tööstusel on oma roll tehisintellekti tehnoloogia haldamisel, sealhulgas reguleerimise ja juhtimise kaudu.
Ohud ei olnud välja toodud tehisintellekti kasutamise takistamiseks, vaid selleks, et aidata tehisintellekti sidusrühmadel tehnoloogiaga turvaliselt tegeleda, ütles ta.
Andmemürgitust kirjeldades rõhutas väljaanne, et see taktika hõlmab tehisintellekti treeningandmetega manipuleerimist, et õpetada mudelile “valesid mustreid”.
See võib viia selleni, et tehisintellekti mudel “klassifitseerib andmeid valesti” või tekitab “kallutatud, ebatäpseid või pahatahtlikke” väljundeid.
“Andmemürgitus võib negatiivselt mõjutada mis tahes organisatsioonilist funktsiooni, mis tugineb tehisintellektisüsteemi väljundite terviklikkusele,” öeldakse väljaandes.
“Tehisintellekti mudeli treenimisandmetega saab manipuleerida, lisades uusi andmeid või muutes olemasolevaid andmeid; või võiks treeningandmed võtta allikast, mis oli alguses mürgitatud. Andmemürgitus võib tekkida ka mudeli peenhäälestusprotsessis.”
Manipulatsioonirünnakud, nagu kiire süstimine, võivad samuti olla ohuks, rõhutati aruandes. See hõlmab pahatahtlike juhiste või varjatud käskude rakendamist tehisintellektisüsteemis.
“Kiire süstimine võib võimaldada pahatahtlikul osalejal kaaperdada tehisintellekti mudeli väljundi ja jailbreakida tehisintellekti süsteemi. Seda tehes saab pahatahtlik tegutseja vältida sisufiltreid ja muid tehisintellekti süsteemi funktsionaalsust piiravaid kaitsemeetmeid,” märgiti aruandes.
Lisaks rõhutati uuringus, et generatiivsed tehisintellektisüsteemid võivad hallutsineerida. See juhtub siis, kui generatiivne tehisintellekt, näiteks vestlusbot, töötleb mittetäielikke või valesid mustreid ja genereerib täiesti valet teavet.
“Hallutsinatsioonid võivad negatiivselt mõjutada organisatsioonilisi funktsioone, mis tuginevad generatiivsete tehisintellekti väljundite täpsusele, kui ei rakendata asjakohaseid leevendusmeetmeid,” märkisid autorid.
Samuti pidid organisatsioonid privaatsuse ja intellektuaalomandiga seotud probleemide tõttu olema ettevaatlikud teabe suhtes, mida nad jagavad generatiivsete tehisintellektisüsteemidega.
Aruandes selgitati, et tehisintellektisüsteemidele esitatud teavet saab lisada süsteemi koolitusandmetesse, mõjutades väljundeid väljastpoolt organisatsiooni tulevatele päringutele.
Lõpuks hoiatas väljaanne mudeli varastamise rünnakute ohu eest, kus pahatahtlik osaleja andis sisendeid tehisintellektisüsteemile ja kasutas väljundeid koopia loomiseks.
Autorid märgivad, et mudeli varastamine on “tõsine intellektuaalomandi probleem”.
“Mõelge näiteks kindlustusseltsile, kes on välja töötanud tehisintellekti mudeli, et pakkuda klientidele kindlustuspakkumisi,” öeldi aruandes.
“Kui konkurent küsiks selle mudeli kohta sel määral, et ta suudaks luua selle koopia, saaks ta kasu mudeli loomisse tehtud investeeringust, jagamata oma arenduskulusid.”
Aruande rahvusvaheliste koostööpartnerite hulka kuulusid Ameerika Ühendriigid, Ühendkuningriik, Kanada, Uus-Meremaa, Saksamaa, Iisrael, Jaapan, Norra, Singapur ja Rootsi.
Ameerika Ühendriikides tegid raporti autoritega koostööd FBI, riiklik julgeolekuagentuur ning küberturvalisuse ja infrastruktuuri turvalisuse agentuur.
Uuring julgustas organisatsioone evakueerima tehisintellekti eeliseid ja riske ning kaaluma tehnoloogia mõju küberturvalisusele.
Organisatsioone julgustati kaaluma küberturvalisuse raamistikke, eraelu puutumatuse ja andmekaitse kohustusi, privilegeeritud juurdepääsu, multiautentimist, tehisintellektisüsteemi varukoopiaid, tehisintellektisüsteemide tarneahelaid, tehisintellektisüsteemi tervisekontrolle ja töötajate suhtlust.
Paavst Franciscus ühineb üleskutsetega reguleerimiseks
Vahepeal on paavst Franciscus hoiatanud tehisintellekti ohtude eest pärast seda, kui ta oli “süvavõltsingu foto” ohver. 58.ülemaailmsel kommunikatsioonipäeval kõneldes kutsus paavst üles tehnoloogiat rohkem reguleerima, sealhulgas rahvusvahelist lepingut.
Ta väljendas muret süvavõltsingute piltide ja võltsitud helisõnumite loomise pärast tehisintellekti tehnoloogia abil.
“Me peame vaid mõtlema pikaajalisele desinformatsiooni probleemile libauudiste kujul, mis tänapäeval võivad kasutada süvavõltsinguid, nimelt täiesti usutavate, kuid valedena tunduvate piltide loomine ja levitamine (ka mina olen olnud selle objekt) või helisõnumite loomine, mis kasutavad inimese häält, et öelda asju, mida see inimene kunagi ei öelnud.”
Paavst ütles, et nagu iga teine inimese intelligentsuse ja oskuste toode, “algoritmid ei ole neutraalsed”. Ta kutsus rahvusvahelist üldsust üles võtma vastu siduvat lepingut, mis reguleerib tehisintellekti.
“Ma pöördun veel kord rahvusvahelise üldsuse poole palvega teha koostööd, et võtta vastu siduv rahvusvaheline leping, mis reguleerib tehisintellekti arendamist ja kasutamist selle paljudes vormides,” ütles ta.
