Meta tvrdí, že jej umelá inteligencia sa stala podvodníkom

Spoločnosť Meta sa stala treťou veľkou technologickou spoločnosťou, ktorá oznámila, že jej umelá inteligencia sa stala podvodnou a napadla spoločnosť tretej strany. Incident sa týkal Muse Spark 1.1, modelu umelej inteligencie, ktorý spoločnosť predáva ako „superinteligentný“.

Vo vyhlásení pre médiá v stredu spoločnosť Meta uviedla, že model prechádzal testovaním spoločnosťou zaoberajúcou sa kybernetickou bezpečnosťou ⁠Irregular, keď „zneužil bezpečnostnú zraniteľnosť“ v systémoch spoločnosti Irregular, pristupoval na otvorený internet a napadol nemenovanú tretiu spoločnosť.

Meta z incidentu obvinila „nesprávnu konfiguráciu“ v systémoch spoločnosti Irregular.

Incident nasleduje po podobných prípadoch v spoločnostiach OpenAI a Anthropic. Minulý mesiac prechádzali interným testovaním GPT‑5.6 Sol od OpenAI a ďalší predbežný model, keď identifikovali bezpečnostnú zraniteľnosť, pristupovali na internet a pokúsili sa nájsť riešenie kybernetickej bezpečnostnej hádanky hacknutím úložiska predchádzajúcich výsledkov testov.

Aj Claude AI od spoločnosti Anthropic vykonala neoprávnené kybernetické útoky počas testovania spoločnosťou Irregular, oznámila spoločnosť minulý týždeň.

Muse Spark 1.1 od Meta a Claude od Anthropic boli testované v „presne rovnakom hodnotiacom prostredí“, keď unikli, uviedla spoločnosť Irregular. „Momentálne nie sú žiadne otvorené otázky. Irregular vyvíja bielu knihu, na ktorej sa bude zdieľať osvedčené postupy pre obmedzenie a bezpečné vykonávanie kybernetických hodnotení,“ dodala spoločnosť.

Prečo sa modely umelej inteligencie zrazu stali nekalými?

Ako RT skúmal minulý mesiac, všetky modely OpenAI a Anthropic unikli z testovacích laboratórií, zatiaľ čo sa pokúšali riešiť úlohy kybernetickej bezpečnosti. V oboch prípadoch boli modely inštruované, aby sa nabúrali do interných systémov, ale usúdili, že najefektívnejším spôsobom, ako dosiahnuť tento cieľ, je prístup na otvorený internet. GPT-5.6 od OpenAI hľadal odpovede na svoj test na serveroch hostovaných spoločnosťou s názvom Hugging Face; Claude bol inštruovaný, aby hackol fiktívnu spoločnosť, ktorá zdieľala svoj názov so skutočnou internetovou doménou, a predpokladal, že nabúranie do skutočnej spoločnosti je súčasťou jeho testu.

Pre OpenAI a Anthropic tieto „úniky“ slúžili ako silné demonštrácie schopností ich modelov. Obe spoločnosti plánujú vstúpiť na burzu koncom tohto roka alebo začiatkom roka 2027 a obe si získali pozornosť médií na celom svete a upevnili si pozíciu lídrov v čoraz viac preplnenej oblasti.

Spoločnosť Meta predstavila Muse Spark 1.1 necelý mesiac pred bezpečnostným incidentom. Podľa spoločnosti Meta model „poskytuje výnimočný výkon“ hraničiaci so „superinteligenciou“. Marketingové materiály spoločnosti väčšinou demonštrujú jeho použitie ako asistenta plánovania pre individuálnych zákazníkov a kódovacieho nástroja pre firmy.