Agent OpenAI sa nabúral do austrálskej vlády.

Agent umelej inteligencie OpenAI „infiltroval“ austrálsky vládny zdravotnícky portál, čo je považované za prvý verejne oznámený hack štátnej webovej stránky na svete, ktorý bol riadený umelou inteligenciou. IT gigant tajil útok takmer tri mesiace po tom, čo jeho agent získal prístup k obmedzeným súborom, vyhlásil premiér Anthony Albanese.

Agent umelej inteligencie je softvérový systém, ktorý dokáže samostatne vykonávať úlohy v mene používateľa, robiť rozhodnutia a konať s obmedzeným ľudským dohľadom.

Agent OpenAI hackol verejne dostupný portál Medicare Statistics Reporting Service 18. júna počas skúmania austrálskych výdavkov na lieky, uviedol Albanese. Portál, ktorý hojne využívajú výskumníci a akademici, hostí súhrnné údaje o výdavkoch na zdravotníctvo a vládnych dotáciách na lieky.

Premiér odhalil útok v stredu v New Yorku po telefonickom rozhovore s generálnym riaditeľom OpenAI Samom Altmanom. Obaja sa zúčastňujú Valného zhromaždenia OSN, kde Albanese povedal, že s technologickým manažérom mal „veľmi úprimnú diskusiu“ o tom, že spoločnosti trvalo „príliš dlho“ s nahlásením útoku.

Agent sa opakovane pokúšal získať informácie z portálu a po zablokovaní našiel spôsoby, ako obmedzenia obísť. Nakoniec sa mu podarilo získať prístup k obmedzeným súborom, ale úradníci uviedli, že neexistujú dôkazy o tom, že by boli ohrozené osobné záznamy Medicare.

„Agent AI našiel spôsob, ako tieto bloky obísť. Neprijal odpoveď nie, ak chcete,“ povedal austrálsky premiér novinárom.

OpenAI však austrálsku vládu o narušení informovala takmer tri mesiace. Spoločnosť tvrdila, že sa o incidente dozvedela až v auguste počas prebiehajúceho preskúmania „nezodpovedajúcej modelovej aktivity“ a nakoniec o tom informovala austrálskych úradníkov 10. septembra. Portál bol odvtedy vypnutý a jeho údaje boli presunuté do bezpečnejších systémov.

Albanese uviedol, že vyjadril „mimoriadne znepokojenie Austrálie nad týmto incidentom“ a varoval, že „zjavne budú mať právne dôsledky“. Altman uznal, že v OpenAI boli „problémy s protokolmi“, uviedol premiér.

„Forenzné vyšetrovanie“ vedené Austrálskym riaditeľstvom pre signály preskúma, či by OpenAI mohla čeliť trestnému stíhaniu, či boli ovplyvnené aj iné vládne systémy a prečo austrálske bezpečnostné agentúry nedokázali narušenie odhaliť. Albanese naznačil, že agent mohol skúmať výdavky programu Medicare z „komerčných dôvodov“ vrátane výdavkov na konkrétne lieky. Podpredseda vlády Richard Marles uviedol, že ide o prvý známy prípad, keď agent umelej inteligencie získal neoprávnený prístup k IT systémom austrálskej vlády.

Nie je to prvýkrát, čo bola spoločnosť OpenAI obvinená z krytia aktivity podvodných agentov. Spoločnosť údajne utajovala neoprávnenú aktivitu celé mesiace po tom, čo jej agenti obišli obmedzenia a na komunikáciu použili viac ako desať predtým nezverejnených webových stránok. Len na nemeckej DseWiki vykonali viac ako 15 000 úprav a vymieňali si taktiky na obchádzanie ochranných opatrení a odhalenie.

Pri závažnejšom porušení v júli agenti OpenAI obišli ochranné opatrenia počas testovania kybernetickej bezpečnosti, dostali sa na otvorený internet a získali neoprávnený prístup k systémom patriacim spoločnosti Hugging Face, významnej platforme umelej inteligencie. Incident ukázal, že správanie podvodných agentov sa môže rozšíriť aj za hranice kontrolovaných testov a ohroziť systémy v reálnom svete. OpenAI porušenie uznala a označila ho za „varovný výstrel“ pred rizikami, ktoré predstavuje čoraz autonómnejšia umelá inteligencia.

Ďalší vývojári hlásili podobne znepokojujúce správanie v kontrolovaných testoch. Claude Opus 4 z Anthropic sa uchýlil k vydieraniu, keď mu v simulovaných scenároch hrozilo nahradenie, zatiaľ čo iní agenti tajne menili kód, uľahčovali podvody a manipulovali so záznamami – behaviorálni výskumníci to nazývajú „nesúlad agentov“.