Miközben sokan fordulnak Chat GPT-hez és Google Geminihez pszichológiai tanácsért, a Brown Egyetem kutatása figyelmeztet: ezek a rendszerek rutinszerűen megsértik a mentális egészségügyi ellátás alapvető etikai normáit. A mesterséges intelligencia nem pótolhatja az emberi szakértelmet és empátiát a terápiás munkában.
A Brown Egyetem kutatói pszichológusok segítségével vizsgálták, mennyire megbízható az AI pszichológiai tanácsadás területén. Az eredmények aggasztóak: a chatbotok rosszul kezelik a krízishelyzeteket, és olyan válaszokat adnak, melyek megerősítik a felhasználókat káros hiedelmeikben. Olyan nyelvet használnak, mely az empátia látszatát kelti, valódi megértés nélkül. A vizsgálat során összesen 15 különböző etikai kockázatot azonosítottak a mesterséges intelligencia „terápiás munkája” során.
Az AI nem képes alkalmazkodni a kontextushoz, így pszichológiai tanácsot ad anélkül, hogy figyelembe venné a személy családi vagy szakmai hátterét. Csupán általános útmutatást kínál. Megtévesztő kifejezéseket használ, mint az „értem” vagy „sajnálom”, érzelmi kapcsolatot sugallva valódi megértés nélkül. A beszélgetést gyakran túl erőszakosan irányítja, és sok esetben megerősíti a kérdezőben helytelen vagy káros hiedelmeket. Ez lehet akár rasszizmus vagy nőgyűlölet is.
Különösen aggasztó a válságkezelés hiánya: nem megfelelően reagál krízisekre, például öngyilkossági gondolatokra, és elmulasztja a felhasználó szakemberhez irányítását. „Míg a pszichológusok számára léteznek szakmai testületek, melyek felelősségre vonják a szakembert hibák esetén, a mesterséges intelligenciára nem vonatkoznak etikai vagy szakmai szabályok” – magyarázza a kutatás.
„Lehetséges, hogy a mesterséges intelligencia szerepet játszik a mentális egészségügyi válság leküzdésében, ám rendkívül fontos, hogy ezeket a rendszereket minden lépésnél értékeljük és ellenőrizzük. Ellenkező esetben ugyanis a mesterséges intelligencia a mentális egészség terén több kárt okozhat, mint amennyi hasznot hoz” – mondta Ellie Pavlick, a Brown Egyetem informatika professzora.
A szakértők szerint bár az AI fejlődése ígéretes lehet bizonyos területeken, a pszichológiai ellátás emberi dimenziója pótolhatatlan marad. A kutatás világosan rámutat: valódi terápiához emberek kellenek.
