Gigant umelej inteligencie Anthropic trpí strategickým krvácaním v kóde

Gigant v oblasti umelej inteligencie Anthropic omylom zverejnil svoj vlastný prísne tajný interný kód, čím spustil virálnu vlnu prepisovania na GitHube a spôsobil potenciálne katastrofálne komerčné škody obchodnému modelu podporovanému Amazonom.

Vývojár chatbota Claude opísal incident ako problém s vydaním „spôsobený ľudskou chybou, nie narušením bezpečnosti“, podľa amerického technologického spravodajského webu VentureBeat v utorok.

Americký minister obrany Pete Hegseth vo februári označil Anthropic za „riziko pre národnú bezpečnosť“ po nezhodách s Pentagonom ohľadom používania jeho systémov umelej inteligencie.

Únik sa týkal viac ako 500 000 riadkov kódu prepojených s Claude Code, kódovacím asistentom umelej inteligencie od Anthropicu, ktorý pomáha používateľom písať a spravovať softvér prostredníctvom príkazov prirodzeného jazyka, uvádzajú Axios a The Verge. Materiál obsahoval nevydané funkcie, údaje o výkone a poznámky vývojárov.

Kód sa rýchlo šíril online, pričom verzie kódu boli umiestnené na platforme na zdieľanie kódu GitHub a replikované tisíckrát v priebehu niekoľkých hodín, uvádzajú Ars Technica a The Verge. Spoločnosť Anthropic sa rozhodla odstrániť materiál a vydala oznámenia o jeho odstránení, ale materiál už bol široko skopírovaný a distribuovaný, uvádzajú správy.

Podľa VentureBeat, odhalením „návrhov“ Claude Code mohol únik poskytnúť „zlým aktérom“ „cestovnú mapu“ na obchádzanie bezpečnostných kontrol alebo na oklamanie nástroja, aby spúšťal skryté príkazy alebo pristupoval k údajom bez vedomia používateľa.

Samostatný únik údajov, o ktorom sa hlásilo vo februári, odhalil interné materiály odhaľujúce podrobnosti o nezverejnenom modeli spoločnosti Anthropic, známom ako Claude Mythos, po tom, čo tisíce návrhov dokumentov zostali prístupné vo verejnej vyrovnávacej pamäti údajov.

Model bol v uniknutých materiáloch opísaný ako doteraz najvýkonnejší systém spoločnosti, ktorý by mohol predstavovať „bezprecedentné kybernetické riziká“, ak by sa široko nasadil. Spoločnosť odložila jeho zverejnenie kvôli obavám o jeho schopnosti a potenciálne zneužitie, uvádza americký obchodný časopis Fortune.