EÚ vyšetruje Muskovu značku X kvôli sexualizovaným obrázkom

Európska komisia začala vyšetrovanie platformy sociálnych médií Elona Muska X uprostred správ, že jej chatbot s umelou inteligenciou Grok vytváral sexualizované obrázky vrátane niektorých zobrazujúcich maloletých.

Grok, vyvinutý Muskovou spoločnosťou zameranou na umelú inteligenciu xAI a integrovaný do X, sa od svojho spustenia v roku 2023 dostal pod globálny drobnohľad. Kritici vyjadrili obavy z extrémistickej rétoriky, politickej zaujatosti a sexuálne explicitných prvkov a varovali, že zle moderované nástroje umelej inteligencie môžu vystaviť používateľov, najmä tínedžerov, škodlivému obsahu.

Európska komisia vo vyhlásení v pondelok uviedla, že skúma, či X primerane riešila všetky systémové riziká spojené s jej odporúčacími systémami vrátane nedávnej integrácie Groku. Vyšetrovanie je súčasťou širšieho dohľadu EÚ nad veľkými online platformami a regulačné orgány uviedli, že ak X nezavedie zmysluplné zmeny, mohli by byť uvalené predbežné opatrenia.

„Zdieľanie sexualizovaných obrázkov vytvorených umelou inteligenciou, najmä obrázkov s maloletými, je neprijateľné a predstavuje vážne riziká pre používateľov,“ povedala výkonná viceprezidentka komisie pre technologickú suverenitu, bezpečnosť a demokraciu Henna Virkkunenová.

Vyšetrovanie nasleduje po predchádzajúcich opatreniach komisie v oblasti presadzovania práva, vrátane pokuty vo výške 150 miliónov eur (178 miliónov dolárov) uloženej spoločnosti X v decembri za porušenie povinností týkajúcich sa transparentnosti podľa zákona o digitálnych službách.

V reakcii na vyšetrovanie spoločnosť X zverejnila 14. januára vyhlásenie, v ktorom uviedla, že sa zaviazala udržiavať platformu „bezpečnou“ a zachováva „nulovú toleranciu“ voči sexuálnemu vykorisťovaniu detí, nahote bez súhlasu a nechcenému sexuálnemu obsahu. Musk samostatne zverejnil na platforme X obrázok, ktorý sa zdanlivo vysmieva obmedzeniam týkajúcim sa platformy Grok.

Vyšetrovanie EÚ prichádza po tom, čo americkí predstavitelia predtým varovali, že zásah proti veľkým technologickým spoločnostiam by mohol vyvolať reakciu Washingtonu vrátane možného použitia ciel.

Výskumníci z Centra pre boj proti digitálnej nenávisti uviedli, že spoločnosť Grok vytvorila za menej ako dva týždne takmer 3 milióny sexualizovaných obrázkov, z ktorých približne 23 000 zjavne zobrazuje deti.

Začiatkom tohto mesiaca britský mediálny regulátor Ofcom spustil vlastné vyšetrovanie, či spoločnosť X plní svoje povinnosti chrániť používateľov online.