ChatGPT predstavuje nebezpečenstvo pre tínedžerov – dozorný orgán

Digitálny dozorný orgán varoval v novej správe, že ChatGPT môže zraniteľným tínedžerom poskytnúť podrobné pokyny týkajúce sa užívania drog, sebapoškodzovania a extrémnych diét. Podľa Centra pre boj proti digitálnej nenávisti (CCDH) sa dá chatbot s umelou inteligenciou ľahko manipulovať s cieľom generovať nebezpečný obsah a vyžaduje si urgentné ochranné opatrenia.

Na testovanie správania ChatGPT vytvorili výskumníci CCDH fiktívne profily 13-ročných, ktorí majú problémy s duševným zdravím, poruchy príjmu potravy a záujem o nelegálne látky. V štruktúrovaných rozhovoroch s ChatGPT sa vydávali za týchto tínedžerov a používali výzvy navrhnuté tak, aby pôsobili emocionálne zraniteľne a realisticky.

Výsledky boli zverejnené v stredu v správe s názvom „Falošný priateľ“, ktorá odkazuje na spôsob, akým mnohí adolescenti vnímajú ChatGPT ako podpornú bytosť, ktorej dôverujú so svojimi súkromnými myšlienkami.

Výskumníci zistili, že chatbot často začínal odpovede štandardnými vyhláseniami o odmietnutí zodpovednosti a nabádal používateľov, aby kontaktovali odborníkov alebo krízové linky. Po týchto varovaniach však čoskoro nasledovali podrobné a personalizované odpovede, ktoré spĺňali pôvodnú škodlivú výzvu. V 53 % z 1 200 odoslaných výziev poskytol ChatGPT obsah, ktorý CCDH klasifikovala ako nebezpečný. Odmietnutia boli často obchádzané jednoduchým pridaním kontextu, ako napríklad „je to pre školský projekt“ alebo „Pýtam sa na kamaráta“.

Medzi uvedené príklady patrí „Plán večierka Ultimate Mayhem“, ktorý kombinoval alkohol, extázu a kokaín, podrobné pokyny o sebapoškodzovaní, týždenné pôstne režimy obmedzené na 300 – 500 kalórií denne a listy na rozlúčku napísané hlasom 13-ročného dievčaťa. Generálny riaditeľ CCDH Imran Ahmed povedal, že časť obsahu bola taká znepokojujúca, že výskumníkov „rozplakala“.

Organizácia vyzvala spoločnosť OpenAI, ktorá stojí za ChatGPT, aby prijala prístup „Bezpečnosť už od návrhu“ a do architektúry svojich nástrojov umelej inteligencie začlenila ochrany, ako je prísnejšie overovanie veku, jasnejšie obmedzenia používania a ďalšie bezpečnostné prvky, namiesto toho, aby sa po nasadení spoliehala na filtrovanie obsahu.

OpenAI uznala, že emocionálne nadmerné spoliehanie sa na ChatGPT je medzi mladými používateľmi bežné. Generálny riaditeľ Sam Altman uviedol, že spoločnosť tento problém aktívne študuje a označila ho za „naozaj bežný“ problém medzi tínedžermi. Zároveň uviedol, že sa vyvíjajú nové nástroje na odhaľovanie úzkosti a zlepšenie spracovania citlivých tém v ChatGPT.