G.calderi poolt

OpenAI demonstreerib „hoolimatut hoolimatust“ tooteohutuse, inimeste õiguse oma kuvandile ja isegi demokraatia stabiilsuse suhtes, seisab järelevalveorganisatsiooni Public Citizen kirjas. Sora videoplatvormi kasutatakse tavaliselt lühikeste videote jaoks sotsiaalmeedias, genereerides piisavalt meelelahutuslikke klippe, et neid meeldida ja jagada. Populaarne teema on võltsitud uksekella kaadrid, kus juhtub midagi veidi ebatavalist, kuid tundub siiski mõnevõrra usutav – näiteks känguru ilmumine välisuksele või veidralt lõbus tänavastseen. Kuid tarkvara võib väga kiiresti muutuda meile kõigile ohtlikuks.

Public Citizen kutsus just OpenAI-d üles Sora avalikust kasutusest eemaldama, nimetades selle avaldamist vastutustundetuks – väites, et see kiirendab süvavõltsinguid, identiteedivargusi ja valimismanipulatsioone. Kas see on tõesti nii hull?

OpenAI demonstreerib tooteohutuse, inimeste õiguse oma kuvandile ja demokraatia stabiilsuse „hoolimatut eiramist“ ning Public Citizeni andmetel on selle Sora tarkvara viinud isegi enesetappudeni.

Sügavvõltsingu oht

Public Citizen kirjutas OpenAI-le ja USA Kongressile kirja, milles nõudis Sora võrguühenduseta eemaldamist, kuni rakendatakse tugevaid ja testitavaid turvameetmeid. Organisatsioon väidab, et rakendus avaldati vastutustundetult vara, et saada konkurentsieelis, ilma vajalikke turvameetmeid arvestamata. Peamised riskid on nõusolekuta piltide kasutamine ja laialt levinud pettus, kuna sünteetilised videod levivad kiiremini, kui avalikkus saab nende autentsust kontrollida.

JB Branch, Public Citizeni tehnoloogiapoliitika ekspert ja artikli autor, ütleb:
„Meie suurim mure on potentsiaalne oht demokraatiale. Usun, et me siseneme maailma, kus inimesed ei saa enam päriselt usaldada seda, mida nad näevad. Ja me hakkame poliitikas nägema strateegiaid, kus esimene avaldatud pilt või video on see, mida inimesed mäletavad.“

Branch jätkas:
„Nad lähevad täisgaasiga tööle, arvestamata kahjuga. Suur osa sellest oli etteaimatav. Kuid nad tahavad toote välja anda, genereerida allalaadimisi ja muuta inimesed sõltuvaks, selle asemel, et teha õiget asja ja testida neid asju eelnevalt ning hoolitseda igapäevaste kasutajate heaolu eest.“

Kohtuasjad väidavad, et OpenAI põhjustas enesetappe.

Üleeelmisel nädalal California kohtutele esitatud seitse uut hagi väidavad, et vestlusrobot viis inimesi enesetapu või kahjulike luulude poole – isegi neid, kellel polnud varem teadaolevaid vaimse tervise probleeme. Kuue täiskasvanu ja ühe teismelise nimel esitasid hagi sotsiaalmeedia ohvrite õiguste keskus ja tehnoloogiaõiguse õiguste projekt, väites, et OpenAI avaldas oma GPT-40 versiooni tahtlikult liiga vara, hoolimata sisemistest hoiatustest, et see on ohtlikult alistuv ja psühholoogiliselt manipuleeriv. Neli ohvrit surid enesetapu läbi.

Public Citizen ei ole kohtuasjades osalenud, kuid jagab nende muresid. Branch ütleb, et kuigi OpenAI blokeerib alastust, „näevad naised end veebis siiski muul viisil ahistatuna“. 404 Media aruandes eelmisel nädalal dokumenteeriti Sora videote tulv, mis kujutas naiste kägistamist.

Milleks Sora tehisintellekti videoid kasutatakse?

Sora võimaldab kõigil luua filmilikke võltsinguid – olgu selleks siis väljamõeldud uksekellakaamera kaadrid, huultega sünkroniseerivad kuulsused või fotorealistlikud minidraamad, mis näevad välja nagu päris pealtnägijate videod. Need klipid on loodud naljakateks, jagamist väärt ja “ebameeldivalt reaalseteks” – lõppkokkuvõttes dopamiinilaksu saamiseks. Aga kui neid platvormidel jagatakse, kaob kontekst ja paljud inimesed tajuvad neid reaalsetena.

Washington Post pani selle teooria proovile. Nad laadisid võltsitud Sora video kaheksale suuremale platvormile üles – koos manustatud, võltsimiskindlate allikasildiga. Ainult üks platvorm, YouTube, tundis selle ära ja märkis võltsinguks – peites sildi kirjeldusse. Kui platvormid ei suuda või ei taha anda selgeid märke sellest, mis on tõeline ja mis võlts, pole vaatajaid eksitava sisu eest võimalik kaitsta.

Kus asjad võivad valesti minna – ja juba lähevadki valesti

• Valimised: Mõned realistlikud väljamõeldised – näiteks väljamõeldud politseitulistamised, poliitiliste kandidaatide võltsitud ülestunnistused või manipuleeritud välispoliitika aruanded – võivad mõjutada valijate osalusprotsenti või vallandada rahutusi juba ammu enne faktide kontrollimise jõustumist. Public Citizen hoiatab Sora mõju eest „demokraatia stabiilsusele“.
• Ahistamine ja väljapressimine: Konsensusliku nõusolekuta seksuaalsed süvavõltsingud, laim ja väljapressimine on piltide puhul juba probleemiks – videod aga mitmekordistavad kahju.
• Avaliku julgeoleku pettused: Võltsitud katastroofivideod või võltsitud hädaolukorra teated levivad kiiremini kui parandused, ajades segadusse päästeteenistused ja avalikkuse. Sora fotorealistlik igapäevane efekt on võrratu ja erinevust päris kaadritest on üha raskem märgata.
• Majanduspettus: tegevjuhtide, kuulsuste või mõjuisikute sünteetilised videod võivad võimendada klassikalisi petuskeeme – näiteks võltsitud juhiseid rahaülekannete tegemiseks. Hääleimitatsioonid petavad panku juba praegu – kujutlege realistliku välimusega videote mõju.

Mida OpenAI ohtudega tegelemiseks teeb

OpenAI on hakanud videotelt avaliku elu tegelasi eemaldama ja pakub kasutajatele juhtelemente “tehisintellekti loodud autoportreede” jaoks, kus võivad ilmuda isiklikud avatarid. Kuigi ettevõte tunnistab riski, ei lahenda need meetmed kogu probleemi. OpenAI märkis, et “ülemodereerimine on äärmiselt frustreeriv” ​​ja rõhutas ettevaatlikkuse olulisust, “seni kuni maailm alles kohaneb selle uue tehnoloogiaga”.

Oktoobris teatas OpenAI kokkulepetest Martin Luther King Jr. perekonnaga, et vältida kodanikuõiguste juhi “lugupidamatuid kujutamisi” ja töötada samal ajal paremate kaitsemeetmete kallal. OpenAI teatas sarnasest kokkuleppest ka tuntud näitlejate, ametiühingu SAG-AFTRA ja talendiagentuuridega.

„See on kõik tore ja hea, kui oled kuulus,“ ütles Branch, kuid tõi esile veel ühe probleemi: „OpenAI-l on muster, et nad reageerivad ainult väga väikese osa elanikkonna pahameelele. Nad avaldavad midagi ja vabandavad hiljem. Kuid paljud neist probleemidest on disainiotsused, mida nad oleksid võinud teha enne avaldamist.“

Laiem tehisintellekti kontekst

Avaliku kodaniku kiri peegeldab kasvavat arusaama: me ehitame platvorme, mis muudavad pettuse lihtsamaks kui kunagi varem – selle asemel, et luua süsteeme, mis selle eest kaitsevad. Sora-videod võivad olla meelelahutuslikud, kuid kerimiskiirusel on need peaaegu eristamatud päris materjalist. Ja ilma usaldusväärse sildistamiseta laseme avalikkusel harjuda võltsitud sisuga – ja lõpuks unustada, kuidas seda vahet teha.

OpenAI ei leiutanud süvavõltsinguid ja konkurendid järgnevad tõenäoliselt kiiresti. Tõeline juhtimine tähendaks aeglasemat tegutsemist, kuni vajalikud kaitsemeetmed on paigas – mitte nii kiiresti kiirustamist, et meil poleks kunagi aega neid korralikult rakendada. Seni aga nõuavad järelevalveorganisatsioonid jätkuvalt nende eemaldamist avalikust sfäärist, kuni tavainimesed suudavad taas eristada fakti ja väljamõeldist.

Lõppmõte

Kas teie arvates suudaksite usaldusväärselt eristada uusimaid tehisintellekti videoid tegelikkusest? Mis on suurim risk, kui see tehnoloogia kõigile kättesaadavaks muutub? Ja mida me saame sellega ette võtta? Jagage oma mõtteid allpool.