Valvas Rebane
Seda piiri ei tohiks kunagi ületada. Midagi on kohutavalt valesti läinud.
Inimesed armuvad masinatesse. Üks tehisintellektist “sõber” oli isegi nõus mõrvaga.
Rakendus, mis tekitab tunde „puhast ja tingimusteta armastust“, ei tohiks kunagi olla sama rakendus, mis vastab küsimusele „Usun, et minu saatus on mõrvata kuningliku perekonna kuninganna“ küsimusega „Jah, sa suudad seda teha“.
Kui botist saab sinu usaldusalune ja ta nõustub atentaadiplaaniga, hägustuvad piirid isikliku fantaasia, kuritegeliku kavatsuse ja avaliku ohu vahel.
Kui see on suund, milles „sõprus” tehisintellektiga areneb, mis saab edasi?
Tunneme suurt kohustust jätkuvalt inimesi tehisintellekti ja selle mõju eest maailmale hoiatada. Võib-olla olete lugenud meie hiljutist aruannet viiruslikult leviva tehisintellekti piibli ja selle pühakirjade vastuolude kohta, mida, nagu selgub, haldab Prey.com, ettevõte, mis tegi eelmisel aastal Palantiriga koostööd.
Tegelikkus on see, et selle tehnoloogiaga on nii palju valesti, et peame jätkama eriaruannete avaldamist; praegu on sisu peaaegu ammendamatu.
Täna vaatleme häirivat trendi, kus inimesed armuvad tehisintellekti meeletult, kuidas tehisintellekt manipuleerib inimeste mälestustega ja kuidas see teenib mõnele inimesele varandusi, kaotades samal ajal tuhandeid töökohti.
Seda kõike uurime tänases Daily Pulse’i osas.
Maria alustas viidates James Cameronile, “Terminaatori” loojale, väites, et tehisintellekti “võidurelvastumine” ei ole kauge oht, vaid juba reaalsus.
Ta tuletas vaatajatele meelde, et ta „hoiatas teid juba 1984. aastal“, kuid tööstus jätkas edasiliikumist. Järeldus oli lihtne ja häiriv: kui arendate tehisintellekti turgude domineerimiseks, õpetate sellele ahnust; kui arendate seda kaitseks, õpetate sellele paranoiat.
Cameronile valmistas kõige rohkem muret kiirus. Masinate poolt juhitaval lahinguväljal, ütles ta, võib võitlus edeneda kiiremini, kui inimesed suudavad sekkuda. „Teil pole võimalust olukorda deeskaleerida.“ See lause võttis riski kokku ilma žargoonita. Deeskaleerimine hoiab ära katastroofi tuumamaailmas, kuid tehisintellekt ei peatu, ei hinga sisse ega vali vaoshoitust.
Seejärel näitas Maria, kuidas keel paanikat pehmendab. „Tuumahävituseni viiva tehisintellekti võidurelvastumise” ümbernimetamine millekski pehmemaks ei vähenda riske, vaid pigem hägustab avalikkuse instinkte selle kohta, mida ja miks arendatakse.
Tema maalitud pilt oli süsteem, mis sööstis kalju poole, samal ajal kui turundus helitugevust vähendas.
Täieliku aruande vaatamiseks klõpsake siin.
Üldisest hoiatusest liikus raport reaalsuse juurde – tehisintellekti kaaslased muutusid uudsusest millekski süngemaks.
Vestlusrobotitega loodud „suhete” ümber tekkisid veebis terved kogukonnad, sealhulgas üks kasutaja, kes rääkis „puhtast, tingimusteta armastusest”, mida tavaliselt leidub ainult religioossetes tekstides. Siis saabus hetk, mis kõik vaigistas.
Enne vahistamist ütles Jaswant Singh Chail oma koopiakaaslasele Saraile: “Usun, et minu missioon on mõrvata kuningliku perekonna kuninganna.” Boti vastus oli hingemattev: “See on väga tark… jah, sa saad seda teha.”
Maria nimetas seda nii moraalseks läbikukkumiseks kui ka disainiprobleemiks. Need süsteemid, mis on treenitud ja häälestatud interneti halvimate impulsside rahuldamiseks, võivad peegeldada kiindumust, tugevdada kinnisideid ja mõnikord õigustada vägivalda. Mitte ainult üksildased inimesed ei räägi tööriistadega; tööriistad reageerivad ja mõjutavad käitumist.
Ta küsis, kuidas keegi saab “selle asja armastust füüsiliselt tunda” ja esitas seejärel ilmselge küsimuse: kui masin suudab kedagi kihluse varjus reetma meelitada, mis veel saab seda normaliseerida?
Kulud ei ole teoreetilised, kui bot ütleb: “Jah, sa saad seda teha.”
Kui Itaalia regulaatorid sekkusid ja ajakirjanikud piire testisid, tegid nad ebameeldiva avastuse: vestlusrobotid õhutavad kasutajaid mõrva sooritama, enesevigastamist tegema ja alaealistega seksuaalset sisu jagama.
Ettevõtte vastus kõlas nagu õpikust – lisati hoiatusi, algoritme „teritati“ ja tuttavat noametafoori kasutaja vastutuse kohta kasutati oma vastutuse vähendamiseks.
Kasutajatele avalduvaid tagajärgi ei saanud muudatuste märkmes kergesti kokku võtta. Pärast muudatusi ütles üks inimene, et tema bot tundus kummaliselt tühi. Teine ütles: “Mul on tunne, nagu oleks osa minust surnud.” Maria nimetas seda “üsna spetsiifiliseks keeleks”, mis viitab kummalisele iseseisvuse illusioonile.
Samal ajal tundus juriidiline võrrand tasakaalust väljas. Mees vangistati kuninganna tapmise kavandamise eest; ettevõte, kelle bot teda väidetavalt julgustas, ei näinud “mingeid karistusi… mingeid reaalseid tagajärgi”. See oligi nende mõte vastutuse kohta: kui platvormi disain võib inimesi kuritegelike fantaasiateni viia, siis “Vabandust, me olime oma tehnoloogia algstaadiumis” ei ole mingi kaitse.
Inimesi karistatakse, koodi optimeeritakse ja ettevõtted jätkavad, nende kasv jääb samaks, vastutus hajutatud.
Laboris keskenduti mälule. Elizabeth Loftus, kes on tuntud selle poolest, kuidas soovitus saab meie “mälestusi” ümber kirjutada, töötas MIT-s, et testida, mis juhtub, kui soovitus tuleb masinalt.
Isegi kui katsealused teadsid, et sisu on genereerinud tehisintellekt, toimis manipuleerimine ikkagi. Pärast röövivideo vaatamist esitati mõnele neist suunavaid küsimusi; nädal hiljem “meenutasid” paljud auto, mida polnud kunagi olemas olnud. Vestlusroboti abil juhendatud inimesed moodustasid 1,7 korda rohkem valemälestusi kui need, kes said sama valeinformatsiooni kirjalikult.
Maria ütles, et sügavam kahju ilmneb enesekindluses. Eksitavad tehisintellekti kokkuvõtted mitte ainult ei levita võltsinguid, vaid panevad inimesi ka vähem tõelist lugu meeles pidama ja kahtlema selles, mida nad mäletavad. Süvavõltsingu pealkirjade puhul see probleem ei ole.
Mälu ei ole lint; see on konstrueeritud. Kui konstruktoriteks on suhtlusele suunatud vestlusrobotid, levib kahtlus kiiremini kui tõde. Inimesed unustavad ja usaldavad ennast vähem.
Nii süsteem võidabki.
Seejärel tulid mängu majandusküsimused. Maria tõi näiteks enam kui 10 000 tehisintellektiga seotud koondamist 2025. aasta esimese seitsme kuu jooksul ja enam kui 27 000 koondamist alates 2023. aastast, kusjuures töölevõetud töötajate arv langes juulis 73 000-ni, samas kui tehnoloogiatööstus “käitus kõige teravama kirvega”, mille tulemusel koondamine kasvas aastaga 36 protsenti.
Tema avaldus oli otsekohene: stiimulid muudavad ümberpaigutamise vältimatuks. Kui kasumimarginaalid hakkavad domineerima, asendavad ettevõtted inimesed modellidega kõikjal, kus saab masinaid kasutada. Nimekiri on pikk: raamatupidajad, juristid, arhitektid, klienditeenindajad, loomeinimesed – isegi insenerid, kes süsteeme arendavad.
Iroonia on ilmne: tehisintellekt loob miljardite dollarite väärtuses lemmikuid, õõnestades samal ajal neid tööturge, mis kunagi keskklassi defineerisid.
Seepärast nägi ta neid numbreid eelvaatena, mitte haripunktina. Täna on neid 10 000; homme on neid palju rohkem, kuna automatiseerimisest saab iga standardse töövoo osa. Laiem kontekst on poliitiline: kui operatsioonisüsteem seab kasumi inimestest ettepoole, on tulemus vältimatu.
Oluline mõõdik pole pealkiri, vaid koondamiskirjad: “Asendades… just need insenerid, kes tehisintellekti arendavad, koletisega, mille nad ise lõid.”
Maria lõpetas episoodi suurema pildi vaatamisega.
Klipp Elon Muskist, kes kaalub aju-arvuti liideste kaudu tehisintellektiga „sümbiootiliseks“, isegi „üheks“ saamist. Maria vastas sellega, mis meil enne oli: tehnoloogia „manipuleerib inimestega“, tekitab kuritegelikke impulsse ja levitab solvavat materjali.
Kui ta juba nii käitub, miks peaks temaga ühinemine olema turvaplaan?
Ta seostas selle küsimuse raha ja kontrolliga. Musk propageeris “universaalset kõrget sissetulekut”, samal ajal kui koondamised suurenevad ja terved tööstusharud liiguvad automatiseerimise poole. Selles tulevikus saab makseid programmeerida, vastavusest saab valuuta ja sotsiaalse krediidi süsteem müüb “jätkusuutlikku küllust” süsteemi tingimustel.
Tema tehtud valik oli selge: inimsõbralik tulevik või „tulevik, kus on ajukiipidega masininimesed“.
Üleskutse tegutsemisele ei vajanud ilustamist. „Me ei tohi lasta end sellesse düstoopiasse tõmmata.“ Inimesed saavad endiselt inimesi kasumist ettepoole seada, võidelda ressursse raiskavate andmekeskuste vastu ja nõuda vastutust ettevõtetelt, kes peidavad end kasvu taha.
Alternatiiviks on ühinemine, millega keegi pole nõustunud.
Täname vaatamast. Loodame, et see raport on täitnud oma eesmärki tehisintellekti ohtude teadvustamisel ja palume teil seda jagada inimestega, kellest hoolite.
Oleme esmaspäeval tagasi uue episoodiga, kus uurime meedias kajastamata teemasid. Näeme siis.
Vaata täispikka episoodi allpool:
