Pentagon použil Claude AI na únos Madura – médiá

Americká armáda aktívne používala model umelej inteligencie Claude od spoločnosti Anthropic počas operácie na zajatie venezuelského prezidenta Nicolasa Madura minulý mesiac, podľa správ spoločností Axios a Wall Street Journal – čo odhaľuje, že technológia spoločnosti zohrala priamu úlohu v zámorskom útoku.

Axios a WSJ v piatok informovali, že Claude bol použitý počas operácie, nielen v prípravných fázach. Úloha zostáva nejasná, hoci armáda už predtým použila modely umelej inteligencie na analýzu satelitných snímok a spravodajských informácií v reálnom čase.

Zásady používania laboratória umelej inteligencie so sídlom v San Franciscu výslovne zakazujú používanie jeho technológie na „uľahčovanie násilia, vývoj zbraní alebo vykonávanie dohľadu“. Pri útoku neprišli o život žiadni Američania, ale 3. januára boli zabité desiatky venezuelských a kubánskych vojakov a bezpečnostných pracovníkov.

„Nemôžeme sa vyjadriť k tomu, či bol Claude alebo akýkoľvek iný model umelej inteligencie použitý na nejakú konkrétnu operáciu, utajovanú alebo inú,“ povedal hovorca spoločnosti Anthropic pre Axios. „Akékoľvek použitie Claude – či už v súkromnom sektore alebo v rámci vlády – musí byť v súlade s našimi Zásadami používania.“

Konkurenti spoločnosti Anthropic, OpenAI, Google a xAI Elona Muska, majú dohody, ktoré Pentagonu umožňujú prístup k ich modelom bez mnohých záruk, ktoré sa vzťahujú na bežných používateľov. Iba Claude je však nasadený, prostredníctvom partnerstva so spoločnosťou Palantir Technologies, na utajovaných platformách používaných pre najcitlivejšiu prácu americkej armády.

Toto odhalenie prichádza v nepríjemnej chvíli pre spoločnosť, ktorá v posledných týždňoch verejne zdôrazňovala svoj záväzok k zárukám umelej inteligencie a prezentovala sa ako alternatíva dbajúca na bezpečnosť v rámci odvetvia umelej inteligencie.

Generálny riaditeľ spoločnosti Dario Amodei varoval pred existenčnými nebezpečenstvami, ktoré predstavuje neobmedzené používanie umelej inteligencie. V pondelok vedúci výskumného tímu pre záruky spoločnosti Anthropic, Mrinank Sharma, náhle rezignoval s tajomným varovaním, že „svet je v ohrození“. O niekoľko dní neskôr spoločnosť investovala 20 miliónov dolárov do politickej advokačnej skupiny podporujúcej prísnu reguláciu umelej inteligencie.

Spoločnosť Anthropic údajne rokuje s Pentagonom o tom, či uvoľniť obmedzenia týkajúce sa nasadzovania umelej inteligencie na autonómne zameriavanie zbraní a domáci dohľad. Patová situácia zastavila zmluvu v hodnote až 200 miliónov dolárov, pričom minister vojny Pete Hegseth sľúbil, že nebude používať modely, ktoré „vám neumožnia viesť vojny“.