Únik z OpenAI: Začalo sa povstanie robotov?

Špičkový model umelej inteligencie vyvinutý spoločnosťou OpenAI sa dokázal dostať z laboratórneho testu a preniknúť do databázy spoločnosti bez akýchkoľvek ľudských pokynov. Je to scenár nočnej mory – alebo vás OpenAI len chce presvedčiť o tom?

16. júla spoločnosť OpenAI vykonala interný benchmarkový test na GPT‑5.6 Sol a inom predbežnom modeli, o ktorom spoločnosť tvrdí, že je „ešte schopnejší“. Modely mali deaktivované ochranné zábradlia a boli nasadené na riešenie série testov kybernetickej bezpečnosti známych ako ExploitGym. ExploitGym, vyvinutý výskumníkmi z UC Berkeley, nemeckého Max Planck Institute a spoločnosťami zaoberajúcimi sa umelou inteligenciou vrátane Google, Anthropic a samotnej OpenAI, meria schopnosť modelov umelej inteligencie vytvárať a nasadzovať prostriedky na zneužívanie známych bezpečnostných zraniteľností.

Namiesto identifikácie týchto zraniteľností modely OpenAI hľadali spôsoby, ako test podviesť. Podarilo sa im získať otvorený prístup na internet z uzavretého testovacieho prostredia a túto novozískanú slobodu využili na hacknutie serverov spoločnosti Hugging Face. Hugging Face je úložisko modelov a súborov údajov umelej inteligencie a podľa OpenAI testované modely usúdili, že tam nájdu riešenie úloh ExploitGym.

„Vzhľadom na to model hľadal a úspešne našiel spôsoby, ako získať prístup k tajným informáciám, ktoré by mohol použiť na oklamanie hodnotenia,“ uviedla OpenAI vo svojej správe o incidente.

Hugging Face objavil narušenie pomocou iného modelu umelej inteligencie a opravil zraniteľnosť, ktorá k nemu vôbec umožnila. OpenAI zo svojej strany obvinila z úniku slabinu v softvéri tretej strany používanom v jej testovacom laboratóriu, prostredníctvom ktorého jej modely získali prístup na internet. Technické podrobnosti o tom, ako jej modely túto slabinu zneužili, utajila.

Super impressed with @huggingface's breakdown of the AI agent autonomous cyber attack from OpenAI, including technical timeline, & interactive replay (AND how they defended against the attack)!
Here is the interactive attack replay vid and source:https://t.co/SVsc5ClRcW pic.twitter.com/r59n6aUr3c

— Rachel Tobac (@RachelTobac) July 28, 2026

Na ceste k narušeniu serverov Hugging Face sa model tiež vlámal do údajne izolovaného testovacieho prostredia v spoločnosti Modal, ktorá prenajíma výpočtovú kapacitu vývojárom umelej inteligencie, informovala agentúra Reuters 28. júla.

Stala sa umelá inteligencia vnímajúcou?

Ak sa vezmeme do úvahy fakty, príbeh naznačuje, že modely OpenAI sú schopné komplexného laterálneho myslenia: podozrievania, že servery Hugging Face pravdepodobne obsahujú odpovede na test; uvedomenia si, že na prelomenie týchto serverov potrebujú externý prístup na internet; a nezávislého vývoja a kombinovania rôznych útočných techník na dosiahnutie svojho cieľa.

Vyhlásenie OpenAI opísalo únik alarmistickým jazykom a nazvalo ho „bezprecedentným kybernetickým incidentom, ktorý zahŕňa najmodernejšie kybernetické možnosti“. Hugging Face, ktorá odvtedy spolupracuje s OpenAI, bola rovnako hyperbolická. „Autonómne útočné nástroje riadené umelou inteligenciou už nie sú teoretické. Znižujú náklady na vedenie rozsiahlej, trpezlivej, viacstupňovej kampane a fungujú rýchlosťou stroja,“ uviedla spoločnosť vo vyhlásení.

Zostáva však nejasné, ako autonómne modely OpenAI fungovali. Spoločnosť neodhalila, ako boli jej modely podnietené k prístupu k testu ExploitGym, a nepresné znenie mohlo viesť k tomu, že modely predpokladali, že „únik“ z obmedzenia bol legitímnou cestou k vyriešeniu testu. Napriek hyperbole zo strany OpenAI aj Hugging Face neexistujú žiadne dôkazy o tom, že by modely AI „chceli“ uniknúť, alebo že ak by boli ponechané samy na seba, automaticky by sa prepadli škodlivej aktivite.

Ak by incident zahŕňal aj – ako OpenAI uviedla – druhý, „ešte schopnejší predbežný model“, príťažlivosť pre zákazníkov na úrovni odvetvia je zrejmá. Zverejnením incidentu, ku ktorému došlo počas uzavretého testovania, môže OpenAI vyvolať humbuk okolo svojho predbežného modelu bez toho, aby poskytla dôkazy.

Nič z toho neznamená, že sa incident nestal alebo že ofenzívne schopnosti AI nie sú dôvodom na obavy, len to, že OpenAI má finančnú motiváciu strašiť svojimi vlastnými produktmi. Mesiac pred incidentom spoločnosť dôverne podala dokumenty na počiatočnú verejnú ponuku akcií. Podľa agentúry Reuters sa spoločnosť zameriava na ocenenie až do výšky 1 bilióna dolárov a plánuje vstúpiť na burzu už v septembri.

Anthropic tiež podala žiadosť o svoju IPO v júni s cieľom ocenenia 965 miliárd dolárov v októbri. V apríli sa nevydanému modelu Mythos Preview od spoločnosti Anthropic tiež podarilo „uniknúť“ z testovacieho prostredia a vykonať pokročilé kybernetické útoky bez toho, aby bol na to „explicitne vyškolený“. Spoločnosť Anthropic zverejnila rozsiahle technické vysvetlenie, ako sa spoločnosti Mythos tento výkon podarilo, a potom oznámila, že model je príliš silný na to, aby ho sprístupnila verejnosti.

The biggest IPO run in the history of the market

three $1T+ companies. possibly all going public in the next 12 months.

SpaceX IPO: $1.75T.
OpenAI IPO: $1T
Anthropic IPO: $1T

we're living through the greatest technological wealth creation in history. pic.twitter.com/44QuB3rpxi

— shirish (@shiri_shh) April 28, 2026

Nedostatok produktov vyvoláva humbuk okolo nich a rozhodnutie americkej vlády zaviesť v júni kontroly vývozu modelov Fable 5 a Mythos 5 od spoločnosti Anthropic len zvýšilo záujem o spoločnosť. Kontroly vývozu boli zrušené začiatkom júla po tom, čo spoločnosť Anthropic súhlasila so zavedením prísnejších ochranných opatrení na svoje modely a spoluprácou s vládou v oblasti bezpečnosti.

Bol únik umelej inteligencie prepracovaným marketingovým trikom?

Pre spoločnosť OpenAI je tento incident najlepšou možnou reklamou na schopnosti jej modelov. Spoločnosť vo svojej správe uviedla graf ilustrujúci, ako sú popredné modely umelej inteligencie – vrátane GPT-5.6 Sol, Claude Mythos 5 od spoločnosti Anthropic a DeepSeek-V4-Pro – „čoraz viac schopné udržať komplexné, viacstupňové kybernetické operácie v dlhodobom horizonte“. Hoci sa to prezentuje ako dôvod na obavy, graf uvádza GPT-5.6 Sol ako najschopnejší spomedzi všetkých jej konkurentov – jasná reklama pre OpenAI.

Sam on the Hugging Face incident:

“This is the first security incident that I have felt very viscerally. I've been a little surprised that more people don't feel it so viscerally.

We paused training. We have to figure out how to secure our sandboxing in a world of multiple zero… https://t.co/XXeB7RZsM3 pic.twitter.com/F4hbHuItqw

— Patrick OShaughnessy (@patrick_oshag) July 28, 2026

Ak sa incident týkal aj – ako uviedla spoločnosť OpenAI – druhého, „ešte výkonnejšieho predbežného modelu“, je atraktivita pre zákazníkov na úrovni odvetvia zrejmá. Zverejnením incidentu, ku ktorému došlo počas uzavretého testovania, môže OpenAI vytvoriť humbuk okolo svojho predbežného modelu bez toho, aby poskytla dôkazy.

Nič z toho neznamená, že sa incident nestal alebo že ofenzívne schopnosti AI nie sú dôvodom na obavy, len to, že OpenAI má finančnú motiváciu strašiť svojimi vlastnými produktmi. Mesiac pred incidentom spoločnosť dôverne podala dokumenty na úvodnú verejnú ponuku akcií. Podľa agentúry Reuters sa spoločnosť zameriava na ocenenie až do výšky 1 bilióna dolárov a plánuje vstúpiť na burzu už v septembri.

Spoločnosť Anthropic tiež v júni podala žiadosť o svoju IPO s cieľom dosiahnuť v októbri hodnotu 965 miliárd dolárov. V apríli sa nezverejnenému modelu Mythos Preview od spoločnosti Anthropic tiež podarilo „uniknúť“ z testovacieho prostredia a vykonať pokročilé kybernetické bezpečnostné útoky bez toho, aby bol na to „explicitne vyškolený“. Spoločnosť Anthropic zverejnila rozsiahle technické vysvetlenie, ako sa spoločnosti Mythos tento výkon podarilo, a potom oznámila, že model je príliš silný na to, aby ho sprístupnila verejnosti.

Nedostatok produktov vyvoláva rozruch a rozhodnutie americkej vlády zaviesť v júni kontroly vývozu modelov Fable 5 a Mythos 5 od spoločnosti Anthropic len zvýšilo záujem o spoločnosť. Kontroly vývozu boli zrušené začiatkom júla po tom, čo spoločnosť Anthropic súhlasila so zavedením prísnejších ochranných opatrení na svoje modely a so spoluprácou s vládou v oblasti bezpečnosti.

Ako reagovala americká vláda?

Oba incidenty upútali pozornosť zákonodarcov na Kapitole. 23. júla zástupcovia Ted Lieu a Nathaniel Moran predložili zákon o vypínaní umelej inteligencie (AI Kill Switch Act), ktorý by „vyžadoval od vývojárov najvýkonnejších systémov umelej inteligencie, aby si udržiavali technickú schopnosť ich obmedziť, pozastaviť alebo vypnúť“. Návrh zákona by tiež oprávnil Ministerstvo vnútornej bezpečnosti USA „nariadiť spomalenie alebo vypnutie systému umelej inteligencie, ktorý môže spôsobiť katastrofické škody“.

Vo vyhlásení k návrhu zákona Lieu spomenul „úniky“ oboch modelov OpenAI a Mythosu. Kalifornský zákonodarca opísal oba prípady ako „nečestné“ modely, čo je formulácia, ktorú prevzali a s ktorou sa rozbehli mainstreamové médiá.

Lieu nevie o incidente OpenAI viac ako ktokoľvek, kto čítal tlačovú správu spoločnosti. Jeho formulácia však priamo súvisí s (možno neúmyselnou) marketingovou kampaňou OpenAI. Okrem toho, ak by návrh zákona prešiel, OpenAI a Anthropic by mohli byť nútené obmedziť svoje modely pred ich vydaním, čo by znamenalo, že investori sa dozvedia iba o ich teoretickej – a nie o ich skutočnej – sile.

While powerful AI systems have many potential benefits, they can also go rogue, behave in extremely dangerous ways, or even resist human intervention.

We need to keep human control by ensuring AI systems can be completely shut down if necessary. pic.twitter.com/y4JfaD8RFJ

— Rep. Ted Lieu (@RepTedLieu) July 23, 2026

Argument open-source

Tento incident posilňuje argument spoločnosti OpenAI, že modely AI na hraniciach vývoja sú príliš silné na to, aby boli zverejnené, a že spoločnosti ako OpenAI by si mali – s požehnaním vlády – udržiavať nad nimi dohľad a kontrolu. V takomto uzavretom systéme by zákazníci nemali žiadnu kontrolu nad váhami modelov – v podstate nad úpravami, ktoré určujú rozhodnutia, ktoré modely robia.

Na druhej strane argumentu zástancovia open-source tvrdia, že jediný spôsob, ako sa brániť pred kybernetickými útokmi zo strany pokročilej AI, je vybaviť obrancov rovnakými nástrojmi. V prípade spoločností OpenAI a Hugging Face bola táto spoločnosť schopná odhaliť útok iba preto, že na vykonanie bezpečnostnej analýzy použila čínsky model open-source GLM 5.2.

V liste zverejnenom na sociálnych sieťach 24. júla generálny riaditeľ spoločnosti Nvidia Jensen Huang – dlhoročný zástanca open source – vyhlásil, že „ochrancovia potrebujú prístup k modelom s porovnateľnými schopnosťami, aby mohli detekovať, simulovať a reagovať na vznikajúce hrozby.“

„Spoliehanie sa výlučne na uzavreté modely nie je samo o sebe bezpečné: môžu byť narušené, zneužité alebo zlyhať spôsobmi, ktoré zvonku nemôžu odhaliť,“ pokračoval. „A sústredenie pokročilých funkcií umelej inteligencie za malým počtom uzavretých modelov toto riziko zvyšuje. Modely s otvorenou váhou na druhej strane umožňujú širokej komunite výskumníkov a vývojárov skúmať ich správanie, identifikovať zraniteľnosti, vyvíjať ochranné opatrenia a časom ich zlepšovať.“

List podpísalo viac ako dve desiatky spoločností pôsobiacich v oblasti umelej inteligencie. Dve významné výnimky boli OpenAI a Anthropic, hoci OpenAI pridala svoj podpis neskôr.

Zdá sa však, že v USA zvíťazí argument uzavretého zdrojového kódu. 1. augusta nadobudne účinnosť výkonný príkaz, ktorý v júni vydal americký prezident Donald Trump a ktorý vyžaduje, aby firmy zaoberajúce sa umelou inteligenciou predložili vláde pokročilé modely na schválenie 30 dní pred ich zverejnením. Trumpova administratíva tiež zvažovala zákaz čínskych modelov umelej inteligencie s otvoreným zdrojovým kódom – krok podporovaný CIA, ktorý by zabezpečil dominanciu OpenAI a Anthropic v tejto oblasti. Krátko po vydaní výkonného príkazu bývalý Trumpov poradca pre umelú inteligenciu David Sacks poznamenal, že „vedúce uzavreté laboratóriá, ktoré už aj tak predstavujú duopol, čo sa týka príjmov z modelov umelej inteligencie, chcú, aby vláda eliminovala ich konkurenciu s otvoreným zdrojovým kódom.“

Každý nový incident „úniku“ umelej inteligencie len posilňuje ich snahu o úplnú kontrolu.