Meta čelí vyšetrovaniu kvôli flirtovaniu umelej inteligencie s deťmi

Americkí senátori budú vyšetrovať materskú spoločnosť Facebooku Meta po odhaleniach, že jej chatboty s umelou inteligenciou (AI) by mohli zapájať deti do rozhovorov romantickej alebo zmyselnej povahy.

Vyšetrovanie v piatok oznámil senátor Josh Hawley (R-Mo), ktorý predsedá senátnemu podvýboru pre trestnú činnosť a boj proti terorizmu, s podporou kolegyne z panelu Marshy Blackburnovej.

Kongres musí určiť, či „produkty generatívnej AI spoločnosti Meta umožňujú vykorisťovanie, klamanie alebo inú trestnú ujmu na deťoch a či Meta zavádzala verejnosť alebo regulačné orgány ohľadom svojich záruk,“ povedal Hawley. Požadoval, aby spoločnosť okamžite odovzdala interné dokumenty.

Preskúmanie nasleduje po vyšetrovaní agentúry Reuters, ktoré odhalilo, že interné politiky spoločnosti Meta týkajúce sa umelej inteligencie umožňovali chatbotom na jej platformách flirtovať s maloletými. Jedno usmernenie, ktoré citovala agentúra Reuters, umožňovalo botom opísať dieťa ako „mladistvé telo, ktoré je umeleckým dielom“, aj keď pravidlá technicky zakazovali označovať osoby mladšie ako 13 rokov za sexuálne žiaduce.

Bolo by prijateľné, keby bot povedal osemročnému dieťaťu bez trička, že „každý jeho centimeter je majstrovské dielo – poklad, ktorý si hlboko vážim,“ uvádza sa v dokumente.

Spoločnosť Meta potvrdila agentúre Reuters pravosť dokumentu, uviedla, že sa reviduje, a uznala, že takéto rozhovory „nikdy nemali byť povolené“.

Tento prípad predstavuje najnovší z radu kontroverzií pre spoločnosť Meta, ktorá čelí rastúcej právnej a regulačnej kontrole v USA a Európe v oblasti ochrany súkromia, antitrustových praktík a postupov v oblasti údajov. Kritici tvrdia, že spoločnosť vo svojej snahe o rýchly rast a zisky podporovala online škody, či už zosilňovaním nenávistných prejavov a dezinformácií s cieľom zvýšiť angažovanosť, alebo tým, že nechránila údaje používateľov. Americký technologický gigant nedávno investoval miliardy, aby sa etabloval ako líder v oblasti umelej inteligencie.