OpenAI žalovaná za neúspešnú streľbu v kanadskej škole

Majiteľ ChatGPT, spoločnosť OpenAI, vedela, že transgender používateľ v Kanade plánuje masovú streľbu, ale neinformovala orgány činné v trestnom konaní, uviedli v pondelok v občianskoprávnej žalobe rodičia mladého dievčaťa, ktoré bolo pri incidente kriticky zranené.

Matka 12-ročnej Mayi Gebalovej, ktorá je stále hospitalizovaná po streľbe v Tumbler Ridge 10. februára, ktorá si vyžiadala deväť obetí, v žalobe uviedla, že technologická spoločnosť neinformovala úrady o násilných výzvach v chate od strelca.

Jesse Van Rootselaar, 18-ročný transgender strelec, spáchal samovraždu po tom, čo zabil niekoľko študentov pri jednom z najhorších incidentov v kanadskej histórii.

Žaloba podaná na Najvyššom súde Britskej Kolumbie tvrdí, že OpenAI mala „konkrétne vedomosti o tom, že strelec využil ChatGPT na plánovanie udalosti s hromadnými obeťami, ako bola masová streľba v Tumbler Ridge“, ale neupozornila orgány činné v trestnom konaní.

V tvrdení sa uvádza, že Gebala bola trikrát postrelená a utrpela „katastrofické, traumatické poranenie mozgu“, ktoré spôsobilo trvalé kognitívne a fyzické postihnutie spolu s ďalšími vážnymi zdravotnými komplikáciami.

Spoločnosť OpenAI uviedla, že zvažovala nahlásenie aktivity používateľa polícii, ale nakoniec tak neurobila. Spoločnosť poskytla úradom informácie až po útoku s tým, že účet strelca na ChatGPT bol uzavretý, ale Rootselaar sa zákazu vyhol vytvorením druhého účtu.

Žaloba tvrdí, že ChatGPT konal ako „dôveryhodný dôverník, spolupracovník a spojenec“ strelca a tvrdí, že údajná nečinnosť spoločnosti prispela k závažnosti zranení dievčaťa a ujme ostatných v komunite.

Minulý mesiac si kanadskí predstavitelia predvolali vysokých predstaviteľov OpenAI do Ottawy, aby po streľbe v škole preskúmali bezpečnostné protokoly spoločnosti. Kanadský minister pre umelú inteligenciu Evan Solomon začiatkom tohto mesiaca uviedol, že generálny riaditeľ spoločnosti OpenAI Sam Altman súhlasil s poskytnutím prístupu kanadským expertom do bezpečnostnej kancelárie spoločnosti, aby pomohli posúdiť potenciálne budúce hrozby. Solomon sa minulý týždeň stretol s Altmanom, ktorý vyjadril „zhrozenie a zodpovednosť“ za to, že nenahlásil znepokojujúcu aktivitu, a uviedol, že spoločnosť zavádza zmeny.

Minulý rok spoločnosť OpenAI aktualizovala ChatGPT po internom preskúmaní, ktoré zistilo, že viac ako milión používateľov zverilo chatbotovi samovražedné myšlienky. Psychiatri varovali, že dlhodobé interakcie s AI môžu prispievať k bludom a paranoji, čo je jav, ktorý sa niekedy označuje ako „psychóza AI“.