Anthropic odhaľuje päť prípadov rizika biologických zbraní

Spoločnosť Anthropic tvrdí, že prichytila vedcov pri používaní jej modelov umelej inteligencie na výskum, ktorý by mohol pomôcť pri vývoji biologických zbraní, vrátane práce zameranej na zvýšenie prenosnosti a škodlivosti nebezpečných patogénov.

Päť prípadov biologických výskumníkov používajúcich Claude vyvolalo vážne bezpečnostné obavy, uvádza sa v správe spoločnosti o hrozbách zverejnenej vo štvrtok.

Jeden prípad, ktorý sa mal uskutočniť vo vojenskom výskumnom ústave, sa týkal výskumu so ziskom funkcie zameraného na zvýšenie prenosnosti vírusu chikungunya a jeho lepšiu schopnosť uniknúť imunitnému systému.

Ďalší vedec použil Claude pri výskume vysoko nebezpečnej vtáčej chrípky a spôsobov, akými sa vírus mohol adaptovať na cicavce. Ďalšie prípady sa týkali práce na vírusoch súvisiacich s kiahňami a prepracovania nebezpečných toxínov.

Anthropic uviedla, že niektorí výskumníci vynaložili značné úsilie na obchádzanie jej obmedzení, vrátane skrývania svojej identity, smerovania prevádzky cez iné krajiny a používania služieb určených na obchádzanie bezpečnostných kontrol. Dotknuté účty boli zakázané, zatiaľ čo služby používané na obchádzanie ochranných opatrení boli vypnuté.

Spoločnosť sa však nezhodla povedať, že vedci sa určite snažili vytvoriť biologické zbrane. Varovala však, že sofistikovaní aktéri môžu zámerne skrývať škodlivé ciele za legitímne vyzerajúcim výskumom.

Spoločnosť Anthropic uznala, že jej umelá inteligencia sa stáva schopnejšou, a uviedla, že staršie modely boli príliš slabé na to, aby zmysluplne pomáhali sofistikovaným používateľom s nebezpečným biologickým výskumom, ale že už nemôže poskytnúť rovnakú záruku o dnešných systémoch.

Zistenia prichádzajú len niekoľko týždňov po tom, čo americkí vedci použili umelú inteligenciu na navrhnutie kompletných vírusových genómov a úspešne vytvorili 16 funkčných vírusov, ktoré predtým v prírode neexistovali. Hoci tieto vírusy infikovali baktérie a nie ľudí, výskumníci varovali, že experiment demonštruje, ako rýchlo sa biologické schopnosti umelej inteligencie rozvíjajú.

Správa spoločnosti Anthropic tiež podrobne opísala ďalšie údajné zneužitie Claude, vrátane kybernetických útokov, sledovania, propagandy, podvodov a pomoci s konvenčnými zbraňami, ako sú rakety, ozbrojené drony a bomby.

Len niekoľko dní pred zverejnením hodnotenia hrozieb výskumník spoločnosti Anthropic Evan Hubinger verejne vyhlásil, že verí, že existuje viac ako 10 % šanca, že umelá inteligencia by mohla v nasledujúcom desaťročí „zabiť všetkých ľudí“, a dodal, že spoločnosť stále nemá jasný plán na bezpečnú kontrolu superinteligencie.

Jeho priznanie prišlo po tom, čo ďalší výskumník Anthropic, Jacob Coxon, rezignoval a obvinil Anthropic a OpenAI z ignorovania „civilizačných záujmov“ a „priameho rútenia sa k sebazdokonaľovaniu superinteligencie a hazardu s našimi životmi“. Osobitne varoval, že dostatočne vyspelá umelá inteligencia by mohla napadnúť kritickú infraštruktúru alebo pomôcť pri vytváraní „biologických zbraní schopných spôsobiť vyhynutie“.