EÚ konfrontuje X kvôli pedofilnému obsahu chatbota Grok

Európska komisia naznačila, že by mohla vyšetrovať Grok, chatbota s umelou inteligenciou na platforme sociálnych médií Elona Muska X, kvôli správam o vytváraní pedofilného obsahu.

Komisia nariadila X, aby uchovával všetky interné dokumenty a údaje týkajúce sa chatbota do konca roka 2026, povedal vo štvrtok novinárom hovorca bloku pre technické záležitosti Thomas Regnier.

„Boli sme svedkami toho, ako GROK generoval antisemitský obsah a v poslednom čase aj sexuálne zobrazenie detí. Je to nezákonné. Je to v rozpore s európskymi hodnotami a našimi základnými právami,“ povedal. Zdôraznil, že platforma nesmie vymazať interné dokumenty, pretože Komisia má „pochybnosti“ o dodržiavaní práva EÚ zo strany X a musí ich zachovať.

Zásady prijateľného používania xAI zakazujú zobrazovanie osôb pornografickým spôsobom a sexualizáciu detí. V nedávnom trende „digitálneho vyzliekania“ však používatelia verejne označili bota v príspevku a prikázali mu upraviť fotografie. Výzvy ako „oblečte ju do bikín“ viedli Groka k vytvoreniu upravených obrázkov, pričom skutočné ženy a dievčatá, ktoré nikdy nesúhlasili, boli zobrazené v minimalistickom oblečení alebo sexuálne explicitných pózach.

Britská vláda vyzvala spoločnosť X, aby sa týmto problémom urýchlene zaoberala, zatiaľ čo francúzski ministri vlády nahlásili obsah prokurátorom. Grok obvinil nedostatky v zárukách a uviedol, že sa vykonávajú zlepšenia.

Príkaz na uchovávanie údajov je najnovším krokom v spore medzi EÚ a Muskovou platformou. V decembri Brusel udelil spoločnosti X pokutu 120 miliónov eur (približne 140 miliónov dolárov) podľa zákona o digitálnych službách (DSA) za zavádzanie používateľov prostredníctvom zmien v systéme overovania s modrou kontrolnou značkou. Musk pokutu odmietol ako politicky motivovanú.

EÚ a USA sa stretávajú v súvislosti s reguláciou technológií, ktorú ukladajú zákony ako zákon o digitálnych trhoch (DMA) a DSA, ktoré viedli k vysokým pokutám pre americké spoločnosti. Zatiaľ čo Brusel považuje tieto nariadenia za nevyhnutné na zabezpečenie spravodlivej hospodárskej súťaže a ochranu spotrebiteľov, Washington ich označil za diskriminačné „necolné útoky“ na americké podniky.