USA integrujú Muskovu umelú inteligenciu Grok do utajovaných vojenských systémov – médiá

Americké ministerstvo vojny údajne podpísalo dohodu s Elon Muskovou spoločnosťou xAI o integrácii jej chatbota Grok do utajovaných vojenských systémov, čím sa zvyšuje tlak na konkurenčného dodávateľa Anthropic, ktorý odmieta zrušiť ochranné opatrenia týkajúce sa jeho modelu Claude.

Dohoda, o ktorej prvýkrát informoval denník New York Times a ktorú v pondelok potvrdila spoločnosť Axios, by urobila z Grok druhý systém umelej inteligencie schválený na použitie v najcitlivejších armádnych sieťach, kde prebiehajú spravodajské analýzy, vývoj zbraní a operácie na bojisku. Doteraz bol Claude od spoločnosti Anthropic jediným modelom dostupným na utajovaných platformách vďaka partnerstvu so spoločnosťou Palantir Technologies.

Dohoda prichádza po tom, čo minister vojny Pete Hegseth predvolal generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho na stretnutie, ktoré podľa zdrojov malo byť napäté v utorok v Pentagóne. Podľa Axiosu sa očakáva, že Hegseth predloží ultimátum: súhlasiť so sprístupnením Clauda na „všetky zákonné účely“ bez dodatočných záruk, alebo čeliť následkom vrátane možného označenia za „riziko dodávateľského reťazca“ – označenie, ktoré je zvyčajne vyhradené pre subjekty spojené so zahraničnými protivníkmi.

Anthropic odolal požiadavkám Pentagonu na odstránenie obmedzení, ktoré bránia používaniu jeho technológie na hromadné sledovanie Američanov alebo nasadeniu v plne autonómnych zbraňových systémoch bez ľudskej interakcie.

Spoločnosť xAI údajne s požiadavkami súhlasila, ale spoločnosť sa k správam zatiaľ nevyjadrila. Spoločnosť Google je údajne tiež „blízko“ dohode umožňujúcej utajované používanie jej modelu Gemini, uviedli ľudia informovaní o diskusiách, zatiaľ čo OpenAI „nie je blízko“, pretože pokračuje v práci na bezpečnostnej technológii.

Úradníci Pentagonu uznávajú, že nahradenie Anthropicu v jeho utajovaných systémoch by mohlo spôsobiť krátkodobé narušenia. Model bol použitý počas operácie na zajatie venezuelského prezidenta Nicolasa Madura minulý mesiac – prvý známy prípad, keď umelá inteligencia zohrala priamu úlohu v aktívnom vojenskom útoku.

Spoločnosť Anthropic sa v odvetví umelej inteligencie etablovala ako alternatíva dbajúca na bezpečnosť. Generálny riaditeľ spoločnosti Amodei opakovane varoval pred existenčnými nebezpečenstvami, ktoré predstavuje neobmedzená umelá inteligencia, vrátane „rizík autonómie“. Vedúci výskumného tímu spoločnosti pre záruky, Mrinarnk Sharma, minulý týždeň náhle odstúpil s tajomným varovaním, že „svet je v ohrození“.