Juhovýchodná ázijská krajina ako prvá zablokovala Muskov Grok kvôli deepfake pornografii

Indonézia zablokovala Elon Muskovu umelú inteligenciu Grok kvôli rastúcim obavám, že chatbot uľahčuje vytváranie deepfake pornografického obsahu.

Krok ministerstva komunikácií a digitálnych záležitostí krajiny robí z tejto juhovýchodnej ázijskej krajiny prvú krajinu, ktorá dočasne zakázala prístup k nástroju umelej inteligencie.

Grok sa dostal pod celosvetovú kontrolu po tom, čo sa objavili správy, že chatbot dokáže generovať erotické deepfakey z fotografií vrátane obrázkov maloletých. Niektoré regulačné orgány odvtedy začali vyšetrovanie sexualizovaného obsahu vytvoreného aplikáciou, ktorú vyvinula spoločnosť xAI.

Indonézia, domov najväčšej moslimskej populácie na svete, presadzuje prísne pravidlá zakazujúce materiál považovaný za obscénny.

„Vláda považuje nekonsenzuálne sexuálne deepfakey za vážne porušenie ľudských práv, dôstojnosti a bezpečnosti občanov v digitálnom priestore,“ povedal minister komunikácií a digitálnych záležitostí Meutya Hafid a označil zneužívanie umelej inteligencie na vytváranie falošnej pornografie za formu „digitálneho násilia“.

Hafid dodal, že budúcnosť spoločnosti Grok v Indonézii, jednom z najväčších svetových trhov sociálnych médií, bude závisieť od ochoty spoločnosti X zaviesť robustné filtre obsahu a dodržiavať etické štandardy umelej inteligencie. Úradníci spoločnosti X boli predvolaní na rokovania.

Vo štvrtok Európska komisia nariadila spoločnosti X, aby uchovávala všetky dokumenty a údaje týkajúce sa chatbota Grok do konca roka 2026. Toto preventívne opatrenie, prijaté v rámci zákona EÚ o digitálnych službách, má zabrániť strate dôkazov uprostred obáv z potenciálne nelegálneho obsahu.

Vo Veľkej Británii denník The Telegraph začiatkom tohto týždňa informoval, že spoločnosť X by mohla čeliť možnému zablokovaniu kvôli pornografickému obsahu generovanému spoločnosťou Grok. Britský premiér Keir Starmer údajne postúpil túto záležitosť mediálnemu regulátorovi Ofcom, pričom medzi možnosti patrí aj úplný zákaz.

Začiatkom tohto mesiaca francúzski prokurátori začali vyšetrovanie údajného šírenia sexuálne explicitných deepfakeov generovaných spoločnosťou Grok po tom, čo stovky ľudí nahlásili, že ich fotografie boli digitálne „vyzlečené“.

Muskov projekt v oblasti umelej inteligencie čelí od spustenia projektu Grok 4 v júli 2025 narastajúcej kontroverzii, pričom kritici poukazujú na extrémistickú rétoriku, politickú zaujatosť a sexualizované prvky ako dôkaz nedostatočných záruk. Odborníci varujú, že zle moderované nástroje umelej inteligencie riskujú vystavenie používateľov, najmä detí, škodlivému obsahu.