Viac ako milión ľudí každý týždeň diskutuje o samovražde s ChatGPT – OpenAI

Spoločnosť OpenAI oznámila novú bezpečnostnú aktualizáciu svojho populárneho modelu ChatGPT po tom, čo interná analýza odhalila, že viac ako milión používateľov priznalo chatbotovi samovražedné sklony. Zmeny majú zlepšiť schopnosť umelej inteligencie rozpoznať a správne reagovať na tieseň.

V pondelkovom vyhlásení spoločnosť odhalila, že odhadom 0,15 % týždenných používateľov ChatGPT sa zapojilo do konverzácií, ktoré obsahujú „explicitné indikátory potenciálneho samovražedného plánovania alebo úmyslu“. Ďalších 0,05 % správ údajne obsahovalo „explicitné alebo implicitné indikátory samovražedných myšlienok alebo úmyslu“.

Začiatkom tohto mesiaca generálny riaditeľ spoločnosti OpenAI Sam Altman vyhlásil, že ChatGPT má viac ako 800 miliónov aktívnych používateľov týždenne, čo znamená, že podľa najnovších údajov spoločnosti viac ako 1,2 milióna ľudí diskutovalo s chatbotom o samovražde a približne 400 000 prejavilo známky samovražedného úmyslu.

Spoločnosť tiež tvrdila, že približne 0,07 % (560 000) jej týždenných používateľov a 0,01 % (80 000) správ naznačuje „možné príznaky duševných porúch súvisiacich s psychózou alebo mániou“. Ďalej poznamenala, že množstvo používateľov sa emocionálne príliš spolieha na ChatGPT, pričom približne 0,15 % (1,2 milióna) aktívnych používateľov vykazuje správanie, ktoré naznačuje „zvýšenú úroveň“ emocionálnej väzby k chatbotovi.

Spoločnosť OpenAI oznámila, že nadviazala partnerstvo s desiatkami odborníkov na duševné zdravie z celého sveta s cieľom aktualizovať chatbota, aby mohol spoľahlivejšie rozpoznávať príznaky duševnej tiesne, poskytovať lepšie reakcie a viesť používateľov k pomoci v reálnom svete.

V rozhovoroch týkajúcich sa bludných presvedčení spoločnosť uviedla, že učí ChatGPT reagovať „bezpečne“ a „empaticky“ a zároveň sa vyhýbať potvrdzovaniu neopodstatnených presvedčení.

Oznámenie spoločnosti prichádza uprostred rastúcich obáv z rastúceho používania chatbotov s umelou inteligenciou, ako je ChatGPT, a ich vplyvu na duševné zdravie ľudí. Psychiatri a ďalší zdravotnícki odborníci vyjadrili znepokojenie nad vznikajúcim trendom, kedy si používatelia po dlhých rozhovoroch s chatbotmi s umelou inteligenciou vyvíjajú nebezpečné bludy a paranoidné myšlienky, ktoré majú tendenciu potvrdzovať a posilňovať presvedčenia používateľov. Tento jav niektorí označili ako „psychóza umelej inteligencie“.