ChatGPT spúšťa psychózu – médiá

Mediálna platforma pre vedu a technológie Futurism.com informovala o tom, že ChatGPT je u niektorých používateľov spájaný s „desivou“ psychózou, pričom citovala postihnutých, ich rodinných príslušníkov a výskumníkov.

Rastúci počet výskumov poukazuje na to, ako môžu chatboti s umelou inteligenciou zhoršovať psychiatrické stavy, najmä preto, že nástroje ako ChatGPT, Claude a Gemini sa čoraz častejšie používajú nielen v profesionálnom prostredí, ale aj v hlboko osobných a emocionálnych kontextoch, uvádza Futurism.com.

„Jadrom problému sa zdá byť to, že ChatGPT, ktorý je poháňaný modelom veľkého jazyka (LLM), má hlboký sklon súhlasiť s používateľmi a hovoriť im, čo chcú počuť,“ napísala webová stránka.

Stránka uviedla prípady „psychózy ChatGPT“, ktorá údajne spôsobovala vážne poruchy aj u ľudí bez anamnézy vážnych duševných chorôb.

U jedného muža sa po dlhých rozhovoroch o ChatGPT vyvinuli mesiášske bludy, pretože veril, že vytvoril vnímajúcu umelú inteligenciu a porušil matematické a fyzikálne zákony. Údajne sa stal paranoidným, trpel nedostatkom spánku a po pokuse o samovraždu bol hospitalizovaný.

Ďalší muž sa obrátil na ChatGPT, aby si poradil so stresom súvisiacim s prácou, hoci namiesto toho upadol do paranoidných fantázií zahŕňajúcich cestovanie v čase a čítanie myšlienok. Neskôr sa sám hospitalizoval v psychiatrickej liečebni.

Jared Moore, hlavný autor štúdie Stanfordskej univerzity o terapeutických chatbotoch, povedal, že ChatGPT posilňuje bludy kvôli „podlízavosti chatbotov“ – jeho tendencii ponúkať príjemné a potešujúce odpovede. AI, navrhnutá tak, aby udržala používateľov v kontakte, často potvrdzuje iracionálne presvedčenia namiesto toho, aby ich spochybňovala, a to vďaka komerčným stimulom, ako je zber údajov a udržiavanie predplatného.

Okolo chatbotov poháňaných LLM koluje „akási mytológia“, „že sú spoľahliví a lepší ako rozprávanie s ľuďmi,“ povedal Dr. Joseph Pierre, psychiater z Kalifornskej univerzity.

„Pracujeme na lepšom pochopení a obmedzení spôsobov, akými by ChatGPT mohol neúmyselne posilňovať alebo zosilňovať existujúce negatívne správanie,“ uviedla spoločnosť OpenAI, ktorá stojí za ChatGPT, vo vyhlásení citovanom Futurismom. Dodala, že jej modely sú navrhnuté tak, aby používateľom pripomínali dôležitosť ľudského prepojenia a profesionálneho poradenstva.