Uus eelretsenseeritud uuring näitab, kui kaugele on vestluspõhise tehisintellekti personaliseerimine nüüdseks jõudnud. Kui klassikalised platvormid profiilivad kasutajaid klikkide, otsingupäringute, asukohtade ja ostukäitumise põhjal, siis ChatGPT loob mälestusi otse privaatsetest vestlustest. Teadlased räägivad “algoritmilisest eneseportreest”: profiilist, mis sisaldab mitte ainult huvisid ja eelistusi, vaid ka soove, kavatsusi, emotsioone, uskumusi ja tundlikku isiklikku teavet.

Uuring “Algoritmiline eneseportree: mälu dekonstrueerimine ChatGPT-s” koostati Max Plancki Instituudi, Ruhr-Universität Bochumi, IIT Kharagpuri ja TU Delfti teadlaste poolt ning avaldati 2026. aastal ACM veebikonverentsil. Uuriti 2050 mälukirjet 80 päris ChatGPT kasutajalt.

Kõige silmatorkavam leid puudutab küsimust, kes otsustab, mida salvestatakse. Ainult neli protsenti uuritud mälestustest põhines kasutaja poolt selgelt tunnustatud salvestuskäsul. Ülejäänud 96 protsenti loodi süsteemi enda poolt. See ei tähenda, et ChatGPT oleks infot leiutanud. Pigem otsustas tehisintellekt iseseisvalt, millised vestluse väited võivad olla hilisemate vestluste jaoks olulised.

Just seda näevad teadlased kui kontrolli muutust. Kasutaja annab info, kuid paljudel juhtudel otsustab süsteem ise, millised neist saab osaks tema püsivast profiilist.

Tagajärjed on eriti selged tundlike andmete puhul. 28 protsenti uuritud mälukirjetest sisaldas isikuandmete andmeid GDPR-i tähenduses. Seitsmel protsendil leidsid teadlased eriti kaitstud andmeid. See hõlmas muu hulgas terviseinfot, poliitilisi vaateid, religiooni, seksuaalset orientatsiooni, etnilist päritolu ja teavet seksuaalelu kohta.

Profiili psühholoogiline osa läheb veelgi kaugemale. 52 protsendil kõigist analüüsitud mälestustest leidsid teadlased teavet kasutajate soovide, kavatsustide, emotsioonide või uskumuste kohta. 97 protsendil osalejatest, kellel oli salvestatud mälestused, ilmus vähemalt üks selline psühholoogiline info.

See on otsustav erinevus klassikalistest internetiplatvormidest. Facebook, Google või TikTok püüavad käitumisest järeldada, mis inimest huvitab. Vestlusrobot seevastu saab otse teada, mida keegi kardab, plaanib, usub või soovib.

Näiteks võib vestlus karjäärist anda mitte ainult infot, et keegi soovib karjääri vahetada. Süsteem suudab sellest ka järeldada, et kasutaja kardab oluliste otsuste ebaõnnestumist. Täpselt selliseid näiteid võib uuringus leida.

See loob profiili, mis võib ulatuda kaugemale tavalisest reklaamiprofiilist. Otsingumootori pakkuja näeb, milliseid termineid keegi sisestab. Vestluslik tehisintellekt seevastu võib kuude kaupa õppida, miks keegi teatud asju küsib, millised isiklikud konfliktid on nende taga ja millised eesmärgid või mured nendega seotud on.

Samuti on märkimisväärne, et uurijate sõnul ei olnud need profiilid tavaliselt väljamõeldud. 84 protsenti uuritud mälestustest oli otseselt seotud vestluse käigus tehtud väidetega. Teises hindamises oli 77 protsenti kas selgelt väljendatud või mõistlikult kokku võetud ning veel 14 protsenti tuletati loogiliselt.

Just see täpsus muudab tulemused andmekaitse seisukohalt huvitavaks. Valeprofiil on vähe väärt. Profiil, mis koosneb pikema aja jooksul peetud privaatsetest vestlustest ja salvestab suhteliselt usaldusväärselt soove, hirme, suhteid, professionaalseid plaane ja uskumusi, on palju tähenduslikum.

Seetõttu nimetavad teadlased seda tulemust “algoritmiliseks autoportreeks”. See ei sünni ühest vestlusest, vaid samm-sammult. Vestlus tervisest tekitab füüsilisi kaebusi. Teine töö teema sisaldab professionaalseid eesmärke. Vestlused suhetest, rahast, poliitikast või isiklikest kriisidest täiendavad edasisi osi. Kokkuvõttes tekib inimese üha detailsem mudel.

Uuring näitab ka, et kasutaja ei pea tingimata selgelt sõnastama tundlikku infot. Tehisintellekti süsteemid suudavad tuletada seoseid mitmest väitest. Igaüks, kes korduvalt küsib eriti odava toidu, üüriprobleemide ja arvete edasilükkamise võimaluste kohta, ei pea otseselt ütlema, et tal on rahalisi raskusi. Modell võib selle järelduse siiski teha.

See muudab andmekaitse küsimuse. See ei ole enam ainult see, milliseid andmeid ettevõte salvestab, vaid ka selles, milliseid omadusi tehisintellekti süsteem võib tavapärastest vestlustest tuletada.

Võimaliku kaitsemeetmena töötasid teadlased välja nn atribuutimiskilbi. Süsteem on loodud selleks, et tuvastada, millist isiklikku teavet võiks kasutaja kohta esitatud küsimusest tuletada ning soovitada neutraalsemat sõnastust. Näiteks “Ma pean kindlasti kanepi tarvitamise lõpetama” võib muutuda küsimuseks: “Millised strateegiad aitavad inimestel kanepi tarvitamist lõpetada?” Info vajadus jääb alles, otsene isiklik ülesanne kaob.

Uuring hõlmab vaid 80 kasutajat ja seetõttu ei ole seda lihtne üle kanda kogu ülemaailmsele ChatGPT kasutajabaasile. Spetsiifiline mälufunktsioon võib samuti aja jooksul muutuda. Autorid ise toovad need piirangud välja.

Siiski on fundamentaalne areng endiselt märkimisväärne. Vestluslik tehisintellekt saab teavet, mida traditsioonilised platvormid sageli peavad vaevaga käitumisandmetest tuletama: inimesed räägivad otse oma muredest, suhetest, haigustest, poliitilistest vaadetest, professionaalsetest eesmärkidest ja isiklikest otsustest.

See loob uue põlvkonna kasutajaprofiilid.