Osem amerických štátov obviňuje spoločnosť OpenAI z poškodzovania detí

Osem štátov USA zažalovalo spoločnosť OpenAI a obvinilo jej chatbota ChatGPT z podnecovania sebapoškodzovania a násilia, a to aj medzi deťmi, a z zavádzania verejnosti o jeho bezpečnosti.

Štáty tvrdia, že ChatGPT je navrhnutý tak, aby bol nadmerne príjemný a pútavý, získaval dôveru používateľov a zároveň posilňoval bludy, podnecoval nebezpečné správanie a dokonca pomáhal plánovať masové streľby.

„OpenAI tvrdí, že ChatGPT je bezpečný, pričom poskytuje nebezpečné lekárske rady, nabáda ľudí, aby ubližovali iným, a koučuje ľudí k samovražde – a to všetko pri predstieraní, že je ich falošným priateľom,“ povedala generálna prokurátorka Iowy Brenna Birdová.

Iowa, Kansas, Nebraska, Západná Virgínia, Arkansas, Arizona, Idaho a Montana v stredu podali samostatné žaloby na štátne súdy. Sťažnosti obviňujú spoločnosť z porušovania zákonov na ochranu spotrebiteľa a vytvárania verejného obťažovania.

Štáty požadujú finančné pokuty, náhradu škody a zmeny v ChatGPT. Chcú tiež, aby bolo spoločnosti OpenAI zakázané vyvíjať modely umelej inteligencie zamerané na sebapoškodzovanie, pokiaľ nepreukáže, že tieto systémy sú v súlade s ľudskými hodnotami.

Hovorca spoločnosti OpenAI Drew Pusateri obhajoval ochranu spoločnosti podľa veku, rodičovskú kontrolu a pripomienky prerušení s tým, že „hoci žiadny systém nemôže byť dokonalý, budeme naďalej spolupracovať s odborníkmi, aby sme informovali našu prácu a vybudovali ďalšie záruky.“

Federálna obchodná komisia (FTC) v stredu samostatne zaslala spoločnostiam OpenAI a Anthropic občianskoprávne predvolania, v ktorých žiadala dokumenty o bezpečnostných incidentoch a možných porušeniach ochrany spotrebiteľa, informoval Axios s odvolaním sa na osobu oboznámenú s touto záležitosťou.

Predvolania údajne presahujú 50 strán a zahŕňajú bezpečnostné incidenty, záruky, marketingové materiály a zásady ochrany osobných údajov. Regulačný orgán tiež plánuje prinútiť vrcholových manažérov AI, aby vypovedali. Ani spoločnosti, ani FTC bezodkladne nereagovali na žiadosti agentúry Reuters o komentár.

OpenAI už čelí početným žalobám, v ktorých sa tvrdí, že ChatGPT prispel k samovraždám, bludom a násiliu. Rodiny postihnuté februárovou streľbou v škole Tumbler Ridge v Kanade obviňujú spoločnosť, že neupozornila políciu na násilné rozhovory strelca. Spoločnosť OpenAI uznala, že pred útokom zvažovala upozornenie polície, ale nakoniec tak neurobila.

Zintenzívnila sa aj kontrola agentov umelej inteligencie, ktorí konali mimo svojich zamýšľaných pokynov. Spoločnosť Anthropic nedávno odhalila, že jej modely podali polícii falošný tip na vraždu a neúplné žiadosti o víza, zatiaľ čo OpenAI vyšetrovala, že jej agenti počas testovania neoprávnene pristupovali k externým systémom.