Americká tajná agentúra stráca prístup ku kľúčovému nástroju umelej inteligencie – NYT

Americká Národná bezpečnostná agentúra (NSA) stratila prístup k pokročilému modelu umelej inteligencie Mythos 5 od spoločnosti Anthropic, ktorý používala na hľadanie slabých stránok softvéru, informoval denník New York Times. Tento vývoj prichádza uprostred niekoľkomesačného sporu Washingtonu s firmou zo Silicon Valley.

K prerušeniu prístupu došlo po tom, čo Trumpova administratíva začiatkom tohto mesiaca uvalila na spoločnosť Anthropic vývozné obmedzenia s odvolaním sa na obavy o národnú bezpečnosť, uviedol denník NYT.

Strata „pripravila“ spravodajskú agentúru o „nástroj, ktorý zapôsobil a znepokojil jej analytikov tým, aký dobrý je v hľadaní slabých stránok softvéru,“ dodal denník.

Počas testov model identifikoval zraniteľnosti vo vysoko zabezpečených vládnych sieťach „v priebehu niekoľkých hodín“, informovala v stredu agentúra AP s odvolaním sa na anonymného amerického predstaviteľa.

Technológia umelej inteligencie od spoločnosti Anthropic sa čoraz viac nasadzuje v utajovaných vládnych sieťach a integruje sa do práce v oblasti národnej bezpečnosti USA, pričom jej modely sa používajú na spravodajskú analýzu, operačné plánovanie a kybernetické operácie.

Vo februári však ministerstvo vojny označilo spoločnosť Anthropic za „riziko dodávateľského reťazca“ po tom, čo odmietla odstrániť obmedzenia týkajúce sa niektorých vojenských aplikácií jej systémov umelej inteligencie. Firma uviedla, že je proti masívnemu domácemu sledovaniu a plne autonómnym zbraniam. Americký prezident Donald Trump následne nariadil federálnym agentúram, aby do šiestich mesiacov postupne vyradili technológiu Anthropic.

Spoločnosť Anthropic zažalovala vládu s argumentom, že tieto opatrenia boli nezákonnou odvetou za jej odmietnutie zmierniť záruky týkajúce sa vojenského využitia umelej inteligencie.

Napriek príkazu o postupnom vyraďovaní a prebiehajúcemu právnemu sporu viaceré médiá neskôr tvrdili, že časti americkej vlády naďalej používajú systémy Anthropic.

Tento vývoj prichádza uprostred varovaní výskumníkov, technologických lídrov a bezpečnostných úradníkov, že systémy umelej inteligencie sa integrujú do vojenských a spravodajských operácií rýchlejšie, ako sa vlády a inštitúcie dokážu prispôsobiť ich rastúcim schopnostiam. Odborníci varovali, že tie isté nástroje, ktoré sa používajú na posilnenie kybernetickej obrany, by mohli automatizovať aj útoky a znížiť bariéry pre škodlivých aktérov.

V pondelok experti na kybernetickú bezpečnosť zo spravodajskej aliancie Five Eyes – USA, Spojeného kráľovstva, Austrálie, Kanady a Nového Zélandu – varovali, že rýchlo sa rozvíjajúce modely umelej inteligencie by mohli hackerom čoskoro umožniť narušiť vlády, podniky a kritickú infraštruktúru v globálnom meradle.