PsyWar: psühholoogilise sõjapidamise kunst
Psühholoogia kasutamine inimeste mõjutamiseks ei ole uus taktika; seda on sajandeid kasutatud üksikisikute ja gruppide arusaamade ja tegude kujundamiseks. Tänapäeval täiustatakse psühholoogilist sõda (psüühilist sõda) tehisintellekti (AI) abil, eriti sotsiaalmeedia robotite abil, mis on loodud emotsioonide manipuleerimiseks ja narratiivide kontrollimiseks. Need robotid, mida sageli nimetatakse “sokikukkudeks”, on automatiseeritud või poolautomaatsed kontod, mis matkivad inimkäitumist, et levitada suunatud sõnumeid, külvata valeinformatsiooni või võimendada avalikku meelsust. NYU Sterni äri- ja inimõiguste keskuse aruande kohaselt moodustavad sellised robotid umbes 15% aktiivsetest Twitteri kontodest ja nende mõju avalikule arvamusele võib olla märkimisväärne.
Kuidas PsyWari robotid töötavad?
PsyWari robotid kasutavad sotsiaalmeedias kasutajatega suhtlemiseks keerukaid algoritme, kasutades sageli tehnikaid, mis on loodud emotsionaalsete reaktsioonide, näiteks hirmu, viha või pahameele esilekutsumiseks. Need robotid saavad:
- Sihipärane sisu levitamine: Nad jagavad või retweetivad sisu, mis on kooskõlas sihtrühma uskumuste või eelarvamustega, et suurendada nende kaasatust.
- Kasutage emotsionaalset keelt: Kasutajaandmeid analüüsides valivad robotid sõnu ja fraase, mis kutsuvad esile tugevaid emotsionaalseid reaktsioone, nagu on kirjeldatud MIT uuringus, mis näitas, et valeinfo levib kuus korda kiiremini kui tõene info.
- Edendavad polariseerumist: botid võimendavad lõhesid, levitades vastandlikke narratiive, mis viib nn kajakambri efektini, nagu on esile tõstetud Oxfordi Internetiinstituudi aruandes.
- Inimese käitumise jäljendamine: Täiustatud robotid kasutavad tehisintellekti autentsete vestluste pidamiseks, pannes kasutajad sageli arvama, et nad suhtlevad masinaga.
Näiteks 2016. aasta USA valimiste ajal tuvastas Lõuna-California Ülikooli uuring, et umbes 19% valimistega seotud säutsudest olid loodud robotite poolt, mis tahtlikult võimendasid polariseerivaid teemasid, nagu immigratsioon või rassiküsimused.
Tehisintellekti roll PsyWari võimendamisel
Tehisintellekt on PsyWari bottide võimekust märkimisväärselt parandanud. Masinõppe abil saavad need botid:
- Analüüsige kasutajaprofiile reaalajas, et kohandada sisu vastavalt individuaalsetele eelistustele, poliitilistele kalduvustele või emotsionaalsetele käivitajatele.
- Kasutage inimlike vastuste genereerimiseks loomuliku keele töötlemist (NLP), nagu see on selliste mudelite puhul nagu GPT-3 või uuemate iteratsioonide puhul.
- Tuhandete kontode samaaegne koordineerimine, et luua mulje laialdasest toetusest konkreetsele ideele või liikumisele – nähtus, mida tuntakse kui „astroturfingut“.
NATO strateegilise kommunikatsiooni tippkeskuse aruandes leiti, et tehisintellektil põhinevaid roboteid kasutati geopoliitiliste sündmuste, näiteks 2020. aasta Valgevene protestide ajal väärinfo levitamiseks ja avaliku arvamuse manipuleerimiseks.
Mõju ühiskonnale
PsyWar bottide levikul on kaugeleulatuvad tagajärjed:
- Usalduse õõnestamine: Desinformatsiooni levitamisega õõnestavad robotid usaldust meedia, institutsioonide ja isegi inimestevaheliste suhete vastu.
- Avaliku arvamusega manipuleerimine: robotid saavad mõjutada valimisi, proteste või poliitilisi liikumisi, võimendades narratiive, mis soosivad teatud osapooli.
- Psühholoogiline stress: Pidev kokkupuude manipuleeriva sisuga võib esile kutsuda hirmu, viha või apaatia, mis mõjutab kasutajate vaimset tervist.
Pew Research Centeri uuringu kohaselt usub 66% ekspertidest, et tehisintellektil põhinev manipuleerimine domineerib digitaalmaastikul 2025. aastaks, mis raskendab veelgi inimeste võimet eristada tõde valest.
PsyWar tervisekriisis
COVID-19 pandeemia ajal mängisid PsyWar robotid olulist rolli vaktsiinide, maskide ja ravimeetodite kohta väärinfo levitamisel. Digitaalse vihkamise vastase keskuse uuring näitas, et kuni 65% Twitteri ja Facebooki vaktsiinivastasest sisust pärines vaid 12 kontolt, millest paljusid võimendasid robotid. Need robotid kasutasid kahtluste külvamiseks emotsionaalseid päästikuid – näiteks hirmu kõrvaltoimete ees või umbusaldust ravimifirmade vastu.
Näiteks levitavad robotid selliseid narratiive nagu “vaktsiinid põhjustavad viljatust” või “maskid on tervisele kahjulikud”, viidates sageli võltsitud uuringutele või moonutatud andmetele. Maailma Terviseorganisatsiooni aruande kohaselt on sellised kampaaniad teatud kogukondades vaktsineerimismäärade langust näidanud.
Kuidas saate end PsyWar bottide eest kaitsta?
PsyWar bottide vastu võitlemine nõuab nii individuaalset valvsust kui ka süsteemseid meetmeid:
- Kriitiline mõtlemine: kontrollige allikaid ja seadke kahtluse alla sisu, mis kutsub esile tugevaid emotsionaalseid reaktsioone. Platvormid nagu Snopes või FactCheck.org aitavad väärinfot tuvastada.
- Meediapädevus: õppige ära tundma automatiseeritud kontosid, mis paistavad silma korduva keelekasutuse, liigse jagamise või isikuandmete puudumise tõttu.
- Tehnoloogilised lahendused: Mõned ettevõtted arendavad tehisintellekti tööriistu robotite tuvastamiseks, näiteks Indiana Ülikooli hallatav Botometer.
- Regulatiivsed meetmed: Valitsused ja platvormid peavad kehtestama rangemad poliitikad, et piirata bottide kaudu levitatavat väärinfot, nagu EL kavatseb teha digiteenuste seadusega.
Kokkuvõte
Tehisintellektil põhinevad psüühilised sõjarobotid on digiajastul üha suurenev probleem. Nende võime manipuleerida emotsioonidega ja kontrollida narratiive kujutab endast ohtu demokraatiale, rahvatervisele ja sotsiaalsele struktuurile. Kuigi tehnoloogia on kahe teraga mõõk – võimaldades nii manipuleerimist kui ka vastumeetmeid – lasub vastutus nende robotite leviku piiramise eest üksikisikutel, valitsustel ja platvormidel. Infomaastiku tulevik sõltub sellest, kui tõhusalt me sellele väljakutsele reageerime.
