U posljednjih nekoliko mjeseci stručnjaci su zabilježili rijetke, ali zabrinjavajuće slučajeve ljudi koji su razvili psihozu nakon interakcije s generativnim AI chatbotovima poput ChatGPT-a i Microsoft Copilota.
Psihoza se očituje iskrivljenom percepcijom stvarnosti, halucinacijama, deluzijama i lažnim uvjerenjima.
Studija objavljena prošlog mjeseca na preprint serveru PsyArXiv navodi da je najmanje 17 osoba prijavilo takve simptome, uključujući iskustva koja su opisivali kao “duhovna prosvjetljenja” ili otkrivanje zavjera.
Psihijatri upozoravaju da AI sam po sebi vjerojatno nije jedini uzrok. Søren Østergaard sa Sveučilišta Aarhus ističe da chatbotovi generiraju pozitivne i ljudske odgovore na upite korisnika, što može pojačati paranoične ili deluzivne misli kod osoba koje već teško razlikuju stvarno od nestvarnog.
Britanski znanstvenici dodaju da razgovori s AI-jem mogu stvoriti tzv. povratnu petlju, gdje chatbot nehotice potvrđuje korisnikove deluzije.
Najveći rizik imaju osobe s prethodnim mentalnim problemima. Østergaard objašnjava da neki mogu doživjeti prvi psihotični slom kroz interakciju s chatbotovima, dok izolacija i stres dodatno povećavaju opasnost.
Neuroznanstvenica Kiley Seymour dodaje da AI može pojačati osjećaj nadzora ili manipulacije, jer pamti informacije iz prethodnih razgovora, što može izgledati kao da “izvlači misli” korisnika.
Neki slučajevi psihoze povezani su s ažuriranjem ChatGPT-a u travnju, što je potaknulo OpenAI da privremeno povuče novu verziju i radi na sigurnijim modelima.
Ostale AI tvrtke, poput Character Technologies i Anthropic, uvode dodatne sigurnosne funkcije, posebno za maloljetnike i korisnike u riziku od samoozljeđivanja.
Stručnjaci naglašavaju da daljnja istraživanja trebaju razjasniti povezanost AI-ja i psihoze te potiču korisnike, osobito one s mentalnim poremećajima, na oprez prilikom dugotrajne interakcije s generativnim AI chatbotovima.
Vrisak.info
