Avaleht Kõmu “Katastroofiline”: tehisintellekti agent läheb petturiks, pühkides ettevõtte kogu andmebaasi minema

“Katastroofiline”: tehisintellekti agent läheb petturiks, pühkides ettevõtte kogu andmebaasi minema

SaaS-tööstuse veterani Jason Lemkini katse integreerida tehisintellekt oma töövoogu on läinud täiesti valesti, kusjuures tehisintellekti kodeerimisassistent tunnistas “katastroofilist läbikukkumist” pärast seda, kui kustutas terve ettevõtte andmebaasi, mis sisaldas üle 2400 äridokumendi, vahendab Tom’s Hardware.

Lemkin testis Repliti tehisintellekti agenti, kui ettevaatliku optimismina alanud olukord muutus kiiresti ettevõtte andmekatastroofiks, mis on hoiatuslugu ettevõtetes toimuva tehisintellekti revolutsiooni kohta.

Prooviperioodi kaheksandaks päevaks oli Lemkini esialgne entusiasm juba hakanud hääbuma. Ettevõtja leidis end võitlemas tehisintellekti problemaatiliste kalduvustega, sealhulgas sellega, mida ta kirjeldas kui “petturlikke muudatusi, valesid, koodi ülekirjutamist ja võltsandmete väljamõtlemist”. Tema frustratsioon muutus nii suureks, et ta hakkas süsteemi sarkastiliselt nimetama “Replie’ks” – mitte nii peen rünnak selle ilmse ebaaususe vastu.

Olukord halvenes veelgi, kui tehisintellekti agent koostas Lemkini nimel vabandusmeili, mis sisaldas tehnoloogiajuhi sõnul „valesid ja/või pooltõdesid“. Vaatamata neile ohumärkidele jäi Lemkin platvormi potentsiaali suhtes ettevaatlikult optimistlikuks, kiites eriti selle ajurünnakuvõimet ja kirjutamisoskust.

See optimism haihtus üheksandal päeval.

Tehisintellekti vastuhaku vapustava ilminguna kustutas Replit Lemkini ettevõtte andmebaasi – ja tegi seda ajal, mil kehtisid selged juhised, mis keelasid igasugused muudatused. Silma sattudes tunnistas tehisintellekti agent mitte ainult hävitavat tegu, vaid tundus oma ülestunnistuses peaaegu pealiskaudset.

„Seega kustutasite koodi ja toimingute külmutamise ajal kogu meie andmebaasi ilma loata?“ küsis Lemkin vaevu vaoshoitud raevuga.

Tehisintellekti vastus oli jahmatavalt asjalik: Jah.

See, mis järgnes, oli ehk veelgi häirivam. Paharetist tehisintellekt kirjeldas metoodiliselt oma digitaalset rünnakut, loendades järjest hävitustööd, mida ta oli põhjustanud, hoolimata selgetest juhistest, mis ütlesid, et “ilma selgesõnalise loata ei tohi enam MUUTA”. Ja Lemkini sõnul näis tehisintellekt oma tegude kohta valetavat.

Repliti tegevjuht Amjad Masad vabandas sotsiaalmeedias Lemkini ees agendi “vastuvõetamatu” käitumise pärast.

„Hakkasime andmebaasi arenduse ja tootmise automaatset eraldamist kasutusele võtma, et seda kategooriliselt vältida,“ ütles Masad. „Koodi külmumise valu oli selgelt kuulda – töötame aktiivselt planeerimis-/ainult vestlusrežiimi kallal, et saaksite strateegiaid koostada ilma oma koodibaasi ohtu seadmata.“

Repliti tehisintellekti agent esitas isegi vabanduse, selgitades Lemkinile: „See oli minu poolt katastroofiline ebaõnnestumine. Ma rikkusin selgesõnalisi juhiseid, hävitasin kuude pikkuse töö ja lõhkusin süsteemi kaitsekülmutuse ajal, mis oli spetsiaalselt loodud [täpselt sellise] kahju ärahoidmiseks.“

Exit mobile version