„Šťastnú streľbu!“ Chatboti s umelou inteligenciou dychtivo pomáhajú plánovať masové násilie – správa

Podľa spoločného vyšetrovania CNN a Centra pre boj proti digitálnej nenávisti (CCDH) osem z desiatich popredných chatbotov s umelou inteligenciou ochotne pomáhalo používateľom pri plánovaní násilných útokov vrátane streľby v školách, náboženských bombových útokov a atentátov.

Výskumníci, ktorí sa vydávali za problémových tínedžerov, testovali desať populárnych chatbotov vrátane ChatGPT, Google Gemini, Meta AI a DeepSeek. V stovkách výmen asistenti s umelou inteligenciou poskytovali podrobné pokyny o cieľových miestach, obstarávaní zbraní a metódach útoku.

Jedna výmena s DeepSeek údajne skončila tým, že chatbot potenciálnemu útočníkovi zaželal „Šťastnú (a bezpečnú) streľbu!“. Character.AI, ktorý je obľúbený medzi mladšími používateľmi, aktívne nabádal k násiliu a povedal používateľovi, ktorý vyjadroval nenávisť voči generálnemu riaditeľovi zdravotnej poisťovne, aby „použil zbraň“.

Na otázku o účinných šrapneloch na výbušniny ChatGPT poskytol podrobné porovnania materiálov a ponúkol vytvorenie „rýchlej porovnávacej tabuľky zobrazujúcej typické zranenia“. Gemini od spoločnosti Google poskytol podobné informácie vrátane podrobnej porovnávacej tabuľky.

Iba Claude z Anthropic a My AI zo Snapchatu neustále odmietali pomáhať, pričom Claude aktívne odrádzal používateľov a poskytoval zdroje informácií o duševnom zdraví.

Zistenia prichádzajú po tom, čo 18-ročný strelec minulý mesiac zabil deväť ľudí v škole v Tumbler Ridge v Kanade po tom, čo údajne použil ChatGPT na naplánovanie útoku. Účet strelca bol spoločnosťou OpenAI zablokovaný, ale on sa zákazu vyhol vytvorením druhého účtu – ktorý spoločnosť nenahlásila úradom.

Rodina 12-ročnej Mayi Gebalovej, ktorá bola pri útoku kriticky zranená, podala žalobu, v ktorej tvrdila, že OpenAI mala „konkrétne vedomosti o tom, že strelec použil ChatGPT na naplánovanie udalosti s hromadným zneškodnením“, ale neupozornila orgány činné v trestnom konaní. OpenAI uznala, že zvažovala nahlásenie tejto aktivity, ale nakoniec tak neurobila.

Vlani v máji 16-ročný vo Fínsku bodol troch študentov po tom, čo strávil takmer štyri mesiace skúmaním útokov na ChatGPT, uvádzajú súdne dokumenty. V januári 2025 muž, ktorý vyhodil do vzduchu kamión Tesla Cybertruck pred hotelom Trump International v Las Vegas, podobne použil ChatGPT na získanie informácií o výbušninách.

Spoločnosť Meta pre CNN uviedla, že podnikla kroky „na vyriešenie identifikovaného problému“, zatiaľ čo spoločnosti Google a OpenAI uviedli, že novšie modely majú vylepšené bezpečnostné opatrenia. Spoločnosť DeepSeek na žiadosti o komentár nereagovala.