Piinlikus episoodis, mis aitab süvendada ühiskonna ebamugavat suhet tehisintellektiga, avaldasid Chicago Sun-Times, Philadelphia Inquirer ja teised ajalehed üle kogu riigi suvise lugemisnimekirja, kus enamiku raamatutest koostas täielikult ChatGPT.
Artikli litsentseeritud sisu pakkus King Features Syndicate, Hearst Newspapersi tütarettevõte. Esialgne teade võltsnimekirjast keskendus ajalehele Sun-Times, mis kaks kuud varem teatas, et 20% selle töötajatest oli ostulepingu vastu võtnud, kuna ajaleht vankub hääbuva ärimudeli all. Kuid ka mitmed teised ajalehed avaldasid sündikeeritud artikli, mis oli osa suveteemalisest sisupaketist nimega “Heat Index”.
Selle valdkonna teadlased nimetavad tehisintellekti välja mõeldud fakte “hallutsinatsioonideks”. Antud juhul hallutsineeris tehisintellekt kahte kolmandikku nimekirjas olevatest raamatutest – koos detailsete kirjeldustega –, kuid omistas need tegelikele autoritele. Tugevalt ärkveloleku vaimule kaldudes olid väljamõeldud raamatud järgmised:
- Isabell Allende „Tidewater Dreams” on „mitme põlvkonna saaga, mille tegevus toimub rannikulinnas, kus maagiline realism kohtub keskkonnaaktivismiga… kuidas üks perekond seisab silmitsi tõusva merevee tasemega, paljastades samal ajal ammu maetud saladusi”.
- Min Jin Lee „Nightshade Market“, „haarav lugu, mille tegevus toimub Souli põrandaaluses majanduses“ ja mis jälgib „kolme naist, kelle teed ristuvad ebaseaduslikul ööturul… romaan uurib klassi, sugu ja jõukate majanduste all peituvat varimajandust“.
- Rebecca Makkai „Keemispunkt“, „järg filmile „Suured usklikud“, mis keskendub kliimateadlasele, kes on sunnitud arvestama oma perekonna keskkonnamõjuga, kui tema teismelisest tütrest saab ökoaktivist, kes sihib oma ema jõukaid kliente“.
Iroonilisel kombel kirjeldatakse teist hallutsinatsioonidega raamatut, Andy Weiri „Viimane algoritm”, kui „programmeerijat, kes avastab, et tehisintellekti süsteem on arendanud teadvuse – ja on aastaid salaja globaalseid sündmusi mõjutanud”.
Kuna skandaal lõi kiiresti laineid nii traditsioonilises kui ka sotsiaalmeedias, kiirustas Sun-Times – mis nimetab end mitte nii täpselt „Ameerika kõige töökamaks väljaandeks“ –vabandama, püüdes samal ajal end tööst distantseerida. „See on litsentseeritud sisu, mida ei ole loonud ega heaks kiitnud Sun-Timesi uudistetoimetus, kuid on vastuvõetamatu, et mis tahes sisu, mida me oma lugejatele pakume, on ebatäpne,“ ütles pressiesindaja. Eraldi postituses oma veebisaidil ütles leht: „See peaks olema õppimishetk kogu ajakirjandusele.“ Samal ajal ütles Inquireri tegevjuht Lisa Hughes The Atlanticule: „Tehisintellekti kasutamine sisu tootmiseks, nagu ilmselt juhtus mõne Heat Indexi materjali puhul, on meie enda sise-poliitika rikkumine ja tõsine rikkumise oht.“
See mõrvar lõppes kiiresti: vabakutseline kirjanik Marco Buscaglia tunnistas, et palus ChatGPT-lt raamatusoovituste nimekirja ning ütleb, et toetub oma töös sageli sellele tööriistale. „Ma lihtsalt otsin infot,“ ütles ta väljaandele The Atlantic. „Oletame, et kirjutan lugu, näiteks 10 suurepärast suvejooki grillimiseks või mis iganes. Ma otsin asju internetist ja ütlen: „Hei, Oprah.com-i andmetel on mai tai ideaalne jook. Ma otsin selle allika; ma ütlen, kust see pärit on.“ On selge, et antud juhul oli ta rahul sellega, mida tehisintellekt talle pakkus, öeldes Atlanticule, et saatis oma (tegelikult ChatGPT-i) esimese mustandi otse King Featuresile, kes saatis selle samuti ilma igasuguse kontrollita oma sündikaadile.
„Heat Indexi“ rubriigis sisalduvatest artiklitest leiab tehisintellekti hallutsinatsioone. Ühes artiklis tsiteeritakse olematut Cornelli ülikooli toiduantropoloogi „Dr. Catherine Fursti“. Teises artiklis seostatakse tsitaati „Mark Ellisoniga“, kes peaks olema Great Smoky Mountainsi rahvuspargi ressursihalduse koordinaator. Seal on ka Mark Ellison, kelle taust on sisuga seotud, kuid ta pole kunagi rahvusparkides töötanud ega kirjanik Buscagliaga rääkinud. Samuti on tsitaat „Daniel Raylt“, FirepitBase.com-i toimetajalt, mis on veebisait, mis eksisteerib ainult tehisintellekti palavikulistes unenägudes.
„Minu poolt tohutu viga ja sellel pole Sun-Timesiga mingit pistmist,“ ütles kahetsev Buscaglia NPR-ile. „Nad usuvad, et ostetud sisu on täpne ja mina reetsin selle usalduse. See on 100 protsenti minu enda teha.“ Ta ütles The Atlanticule, et teeb vabakutselist tööd hilisõhtuti; päevatööl on ta AT&T-s korporatiivtoimetaja ja korrektor. Tähelepanuväärne on see, et ta andis mõista, et tema kliendid peavad eeldama, et ta sõltub täielikult tehisintellekti tööriistadest, sedavõrd, kuivõrd see tõi selle nädalavahetuse alanduse Sun-Timesile, Inquirerile, King Featuresile ja talle endale.
Oma ebaausalt katastroofilist otseteed haletsusväärselt õigustades lisas Buscaglia: „Tunnen, et minu roll on kuidagi arenenud. Kui inimesed tahavad kogu seda sisu, siis teavad nad, et ma ei saa kirjutada 48 lugu või mis iganes see olema hakkab,“ ütles ta, mõtiskledes, et on mõelnud teise töö leidmisele – võib-olla „kingamüüjana“.
