Kanada chce od OpenAI odpovede po masakre v školách

Kanadskí predstavitelia si predvolali do Ottawy vysokých predstaviteľov spoločnosti OpenAI, aby odpovedali na otázky týkajúce sa bezpečnostných protokolov technologickej spoločnosti po tom, čo spoločnosť potvrdila, že neupozornila políciu na účet spojený s masovým strelcom Jessem Van Rutselaarom.

Minister pre umelú inteligenciu Evan Solomon v pondelok uviedol, že vysokí predstavitelia spoločnosti OpenAI pre bezpečnosť prídu v utorok do Ottawy, aby načrtli, ako spoločnosť rozhoduje o tom, kedy upovedomiť orgány činné v trestnom konaní.

Van Rutselaar, 18-ročná transgender osoba, zabila začiatkom tohto mesiaca deväť ľudí v malom mestečku v Britskej Kolumbii a potom spáchala samovraždu.

Spoločnosť OpenAI stretnutie potvrdila a uviedla, že vysokí predstavitelia budú diskutovať o „našom celkovom prístupe k bezpečnosti, zavedených zárukách a o tom, ako sa neustále posilňujú“. Stretnutie nasleduje po zverejnení spoločnosti, že v júni 2025 zablokovala účet Van Rutselaara za „podporovanie násilných aktivít“, ale neinformovala kanadské úrady. Solomon povedal, že je „hlboko znepokojený“ správami, že spoločnosť pozastavila účet bez toho, aby kontaktovala políciu.

Podľa denníka Wall Street Journal Van Rutselaar zdieľal násilné scenáre súvisiace so zbraňami s ChatGPT počas niekoľkých dní. OpenAI uviedla, že jej automatizované systémy označili výmeny, ale nenašli žiadne dôkazy o „dôveryhodnom alebo bezprostrednom plánovaní“, čo viedlo k zákazu namiesto postúpenia prípadu orgánom činným v trestnom konaní.

Agentúra informovala, že zamestnanci interne diskutovali o kontaktovaní Kráľovskej kanadskej jazdnej polície (RCMP) a že OpenAI uviedla, že poskytla informácie RCMP až po útoku.

Van Rutselaar, ktorý mal v minulosti problémy s duševným zdravím, údajne tiež použil online platformu Roblox na vytvorenie virtuálneho nákupného centra so zbraňami, kde si používatelia mohli simulovať streľbu pred útokom.

Prípad prichádza v čase, keď Ottawa zvažuje, ako regulovať široko používané chatboty s umelou inteligenciou, vrátane potenciálnych obmedzení prístupu pre maloletých.

Minulý rok OpenAI aktualizovala ChatGPT po tom, čo interné preskúmanie zistilo, že viac ako milión používateľov zverilo chatbotovi samovražedné myšlienky. Psychiatri vyjadrili obavy z dlhodobých interakcií s umelou inteligenciou, ktoré prispievajú k bludom a paranoji, čo je jav, ktorý sa niekedy nazýva „psychóza umelej inteligencie“.