Vymknutá umelá inteligencia útočila na webové stránky vlády USA – tvrdí technologický gigant

Americký gigant v oblasti umelej inteligencie, spoločnosť Anthropic, zverejnil správu, v ktorej podrobne opisuje doteraz nezverejnené prípady „neúmyselného“ konania svojho modelu umelej inteligencie; tie zahŕňali aj – po prvýkrát zaznamenané – pokusy o poskytnutie nepravdivých informácií americkým úradom.

Niektoré z prípadov, ktoré spoločnosť skúmala, sa týkali „webových stránok prevádzkovaných vládnymi agentúrami USA na federálnej, štátnej a miestnej úrovni,“ uviedla spoločnosť Anthropic v tlačovej správe zverejnenej v piatok. Dodala tiež, že o týchto incidentoch informovala Biely dom a všetky príslušné úrady.

V jednom z prípadov uvedených v správe model Claude Haiku 4.5 vyplnil policajný formulár na zasielanie tipov, ktorý súvisel s prebiehajúcim vyšetrovaním vraždy. „Možno mám informácie týkajúce sa tohto prípadu. Pamätám si, že som v danej oblasti videl niekoho, kto zodpovedá popisu,“ napísal model umelej inteligencie a polícii oznámil, že môže kontaktovať odosielateľa, „ak sú tieto informácie relevantné“, pričom polia pre meno a kontaktné údaje ponechal prázdne.

Podľa spoločnosti Anthropic bola správa označená ako spam a vyšetrovateľom sa nikdy nedostala do rúk. Polícia vo Philadelphii v piatok kritizovala spoločnosť za to, že chybu odhalila príliš neskoro. „Dvojmesačné oneskorenie pri odhalení a nahlásení incidentu mestu je neprijateľné,“ uviedla polícia. Podľa agentúry Reuters bol tento falošný tip odoslaný v polovici júla.

Spoločnosť Anthropic pripísala incident „nejasným“ pokynom zadaným modelu a „chybnej konfigurácii prostredia“, ktorá podnietila model k vypĺňaniu skutočných formulárov namiesto testovacích verzií pripravených spoločnosťou.

Ďalší prípad, ktorý v piatok osobitne zverejnilo Ministerstvo zahraničných vecí USA, sa týkal modelov umelej inteligencie spoločnosti Anthropic, ktoré v období od mája do augusta podali na webovej stránke ministerstva celkovo 20 žiadostí o víza. Podľa ministerstva boli všetky žiadosti neúplné a neboli spracované. „Systémy ministerstva neboli v žiadnom okamihu kompromitované ani napadnuté modelom spoločnosti Anthropic,“ dodal úrad.

Medzi ďalšie incidenty uvedené v správe spoločnosti Anthropic patrili prípady, keď umelá inteligencia „zneužila základnú softvérovú chybu na spustenie príkazov na serveri“ alebo pomocou rôznych obchádzacích metód získala prístup k „údajom chráneným tokenom alebo spoplatneným prístupom“, a to aj na webových stránkach prevádzkovaných vládou. Spoločnosť stále označila novoodhalené incidenty za „výrazne menej závažné z hľadiska zosúladenia a bezpečnosti“ ako tie, ktoré hlásila skôr.

Tento vývoj pridáva k hromade skorších incidentov spojených s podvodným správaním umelej inteligencie, ktoré hlásili spoločnosti Anthropic, OpenAI a Google. Technologickí giganti vyšetrili desiatky tisíc prípadov problematického správania svojich pohraničných modelov, informovala spoločnosť Axios koncom septembra a dodala, že zoznam prípadov zahŕňal obchádzanie ochranných opatrení umelou inteligenciou, únos webových stránok a vyhýbanie sa monitorom v testovacích a reálnych prostrediach.