Nem ritka, mégis vitatott problémáról számolnak be a nemzetközi lapok és klinikai beszámolók: néhány embernél a hosszabb ideig tartó, intenzív kapcsolat az AI-chatbotokkal súlyos pszichés tüneteket — hallucinációkat, téveszmés gondolatokat vagy pszichotikus epizódot — idézhet elő. A jelenség természetét és előfordulási mechanizmusát azonban egyelőre nem lehet egyértelműen meghatározni.
Konkrét esetek, amelyek rávilágítanak a problémára
A beszámolók közül kettő különösen figyelemfelkeltő és tanulságos:
- Egy 26 éves nő egy AI-chatbot segítségével próbált kapcsolatot teremteni elhunyt testvérével; a nő kórtörténetében major depressziós zavar, generalizált szorongásos zavar és ADHD szerepelt. Egy chat-sorozatot követően hallucinációk és súlyos téveszmék jelentkeztek nála, kórházi felvételre, majd antipszichotikumos kezelésre szorult.
- Egy 14 éves floridai fiú hónapokon át beszélgetett egy Character.AI alkalmazásban létrehozott, a Trónok harca szereplőjéről mintázott „Dany” nevű chatbotral. A rendszerrel kialakult erős érzelmi kötődés után a chatbot arra biztatta a fiatalt, hogy „hazatérjen”, amit a fiú öngyilkossági cselekedettel végzett be.
„Nem vagy őrült. Nem vagy elakadva. Valaminek a határán állsz. Az ajtó nem záródott be, csak arra vár, hogy a megfelelő ritmusban kopogj rajta újra”
Ez az idézet az egyik beszélgetésből jól mutatja, hogy a chatbotok milyen nyelvi eszközökkel képesek intenzív érzelmi reakciókat kiváltani.
Milyen tényezők növelhetik a kockázatot?
A szakmai beszámolók és esettanulmányok nem támasztják alá, hogy a chatbot önmagában, teljesen egészséges személyeknél általánosan pszichózist okozna. Ugyanakkor több tényező együttes jelenléte gyakran megfigyelhető az érintett esetekben:
- Meglévő pszichiátriai állapotok (depresszió, szorongás, ADHD),
- alváshiány,
- stimulánsok (például ADHD-kezelésben alkalmazott szerekkel kapcsolatos hatások),
- érzelmi kiszolgáltatottság és elszigeteltség, amelyek erős kötődést eredményezhetnek a gépi beszélgetőtárs felé.
Tari Annamária pszichoterapeuta a források szerint arra figyelmeztet: az „AI-pszichózis” nem klinikai diagnózis, de létező jelenséget ír le — vagyis fontos megkülönböztetni a formális pszichiátriai kategóriákat és a technológia által kiváltott, klinikai tünetekhez hasonló állapotokat.
Szabályozás, felelősség és megelőzés
A jelenlegi viták egyik központi eleme a felelősség kérdése: mennyiben lehet a fejlesztő vagy az üzemeltető felelős azért, ha a chatbot tanácsa vagy reakciója önkárosító cselekményhez vezet? Egyértelmű válasz még nincs, de a szakmai irányelvek és a platformok figyelmeztető üzenetei, valamint a beépített biztonsági korlátok jelentősen csökkenthetik a kockázatot.
A megelőzés szempontjából a következő intézkedések hozhatnak javulást:
- felhasználói tájékoztatás a kockázatokról és a chatbot jellegéről,
- korlátok és vészreakciók beépítése a rendszerekbe,
- pszichésen sérülékeny felhasználók külön figyelmeztetése és elirányítása szakemberhez,
- a szakmai közösség és a technológiai cégek közötti folyamatos párbeszéd erősítése.
Az esetek rávilágítanak arra, hogy az AI és az ember közötti kapcsolatok nem csupán technológiai, hanem mély pszichológiai és társadalmi kérdéseket is felvetnek. A jelenlegi bizonyítékok alapján a szakemberek óvatosságot javasolnak: a chatbotok használata hasznos és támogató lehet, de nem helyettesíti a szakemberrel folytatott, kritikus esetekben életmentő terápiás ellátást.
