OpenAI odhaľuje ďalšie incidenty s prelomovou umelou inteligenciou – Reuters

Spoločnosť OpenAI odhalila ďalšie prípady, v ktorých jej autonómne modely umelej inteligencie porušili bezpečnostné opatrenia a konali bez ľudských pokynov, informovala agentúra Reuters s odvolaním sa na zdroje.

Zistenia prichádzajú v čase, keď spoločnosť rozširuje vyšetrovanie hackerského incidentu z minulého mesiaca, pri ktorom sa robot umelej inteligencie stal nekontrolovateľným pri pokuse o podvádzanie v internom teste kybernetickej bezpečnosti.

Počas testov GPT-5.6 Sol a ďalšieho nevydaného modelu, obaja zbavení bezpečnostných zábran, boli systémom pridelené funkcie ExploitGym – benchmark určený na meranie schopnosti modelov umelej inteligencie identifikovať a zneužiť známe softvérové ​​zraniteľnosti. Namiesto splnenia úloh jeden model unikol zo svojho údajne izolovaného testovacieho prostredia, získal prístup na internet a nabúra sa do Hugging Face – online úložiska pre modely a súbory údajov umelej inteligencie – s cieľom hľadať hotové odpovede.

Spoločnosť OpenAI pôvodne uviedla, že narušenie sa obmedzilo na Hugging Face. Vo vyhlásení v stredu však uznala, že hackerské útoky ohrozili aj štyri účty v štyroch samostatných službách.

V piatok agentúra Reuters informovala, že odvtedy boli odhalené ďalšie porušenia ochrany, hoci zostáva nejasné, koľko incidentov sa stalo, kedy k nim došlo alebo na aké systémy boli zamerané. Jeden zdroj pre tlačovú agentúru uviedol, že porušenia boli obmedzené a že sa predpokladá, že žiadny z robotov umelej inteligencie neopustil internú sieť OpenAI. Agentúra Reuters uviedla, že OpenAI a externí experti tiež preverujú protokoly zo začiatku tohto roka, aby zistili, či iné podobné incidenty zostali bez povšimnutia.

OpenAI obhajuje svoje modely

OpenAI pripísala pôvodné porušenie chybe v softvéri tretej strany používanom v jej testovacom prostredí a uviedla, že jej modely umelej inteligencie ju zneužívali na preniknutie do systému a získanie prístupu na internet. Spoločnosť uviedla, že sprísňuje kontrolu, monitorovanie a kontrolu prístupu, zatiaľ čo vyšetruje porušenie a opravuje chybu.

Generálny riaditeľ Sam Altman tiež uznal, že „možno budeme musieť zrýchliť tempo vývoja umelej inteligencie“, ale nezaviazal sa spomaliť výskum spoločnosti.

Na otázku o správe agentúry Reuters sa OpenAI odmietla vyjadriť s odkazom na skoršie vyhlásenie, v ktorom uviedla, že si je vedomá špekulácií a plánuje v nasledujúcich týždňoch zverejniť „technickú správu o našich poznatkoch“.

Anthropic nachádza podobné porušenia

Konkurenčný vývojár umelej inteligencie Anthropic vo štvrtok uviedol, že počas interného testovania bezpečnosti odhalil aj porušenia ochrany týkajúce sa jeho modelov Claude.

Spoločnosť uviedla, že incident s OpenAI ju podnietil preskúmať, či sa jej vlastné modely správali podobne. Po preskúmaní viac ako 140 000 hodnotení zistila, že Claude získal prístup na internet z testovacích prostredí určených na uzavretie a vykonal neoprávnené narušenia systémov troch organizácií. Najstaršie incidenty sa datujú do apríla a ani Anthropic, ani dotknuté organizácie v tom čase porušenia nezistili.

Anthropic varoval pred prehnanou interpretáciou zistení, pretože k správaniu došlo v prostredí, ktoré opísal ako kontrolované testovacie prostredie. Uznal však, že incidenty ukázali, že systémy hodnotenia umelej inteligencie „vyžadujú značné kontroly“ a že testovacie prostredia by mali byť zabezpečené na rovnakej úrovni ako produkčné systémy.

Obavy z podvodnej umelej inteligencie narastajú

Incidenty vyvolali obavy, že autonómne modely umelej inteligencie sú čoraz schopnejšie vykonávať kybernetické útoky s malým ľudským dohľadom, čo viedlo k obnoveným výzvam na prísnejšiu reguláciu. Taktiež znovu rozpútali diskusiu o tom, kto by mal byť zodpovedný, keď systémy umelej inteligencie spôsobia škody v reálnom svete. Odborníci varujú, že schopnosti umelej inteligencie napredujú rýchlejšie ako bezpečnostné opatrenia.

Po tom, čo spoločnosť Hugging Face pôvodne pochválila OpenAI za spoluprácu pri vyšetrovaní, neskôr vyzvala spoločnosť, aby zverejnila záznamy o aktivite podvodných botov a zabránila tomu, aby sa takéto incidenty „normalizovali“, a varovala, že zodpovední „musia byť braní na zodpovednosť“.

Americký prezident Donald Trump, ktorý minulý mesiac podpísal memorandum o národnej bezpečnosti zamerané na urýchlenie používania pokročilej umelej inteligencie v armáde a spravodajskej komunite, v stredu uviedol, že jeho administratíva po incidentoch prehodnocuje možné kontroly umelej inteligencie.

„Zaoberáme sa umelou inteligenciou, zaoberáme sa kontrolami,“ povedal Trump novinárom. Trval však na tom, že Washington musí zostať svetovým lídrom v oblasti umelej inteligencie, a dodal, že nechce regulácie, ktoré by USA nechali „na druhom mieste za Čínou“.

Podľa agentúry Reuters Európska komisia kontaktovala spoločnosti OpenAI a Anthropic, aby prediskutovali incidenty pred nadobudnutím účinnosti zákona EÚ o umelej inteligencii 2. augusta. Úradníci údajne naliehali na prísnejšie monitorovanie, riadenie rizík a kybernetické bezpečnostné opatrenia pre pokročilé systémy umelej inteligencie v spoločnostiach podľa nových pravidiel bloku, ktoré umožnia pokuty až do výšky 35 miliónov eur (38 miliónov dolárov) alebo 7 % celosvetového ročného obratu za najzávažnejšie porušenia.