Súperi s umelou inteligenciou podporujú pravidlá o DNA, aby obmedzili riziko biologických zbraní, čo je zriedkavý prejav jednoty

Vedúci predstavitelia popredných spoločností zaoberajúcich sa umelou inteligenciou sa pripojili k biotechnologickým expertom v naliehavej výzve na zavedenie bezpečnostného skríningu pri nákupoch syntetickej DNA. Vo verejnom liste adresovanom americkému Kongresu signatári tvrdia, že rýchly pokrok v oblasti umelej inteligencie by mohol zvýšiť riziko vývoja biologických zbraní.

Výzvu zverejnenú začiatkom tohto týždňa podpísali Demis Hassabis z Google DeepMind, Sam Altman z OpenAI, Dario Amodei z Anthropic a Mustafa Suleyman a Eric Horvitz z Microsoft AI. Pridali sa k nim desiatky expertov z oblasti biotechnológií, syntézy DNA a národnej bezpečnosti.

Syntetická DNA označuje umelo vyrobený genetický materiál, ktorý je možné objednať online a odoslať podobne ako iné laboratórne potreby. Hoci je list adresovaný Kongresu, signatári zdôraznili, že ide o globálny problém, pretože syntetickú DNA je možné zakúpiť a prepravovať cez hranice.

„Možnosť objednať si syntetickú DNA online urýchlila vývoj vakcín, podporila základný výskum a umožnila malým tímom prístup k kapacitám, ktoré boli predtým obmedzené na veľké inštitúcie,“ uvádza sa v liste.

Hoci má syntetická DNA širokú škálu legitímnych využití vrátane vývoja liekov zachraňujúcich životy, inžinierstva mikroorganizmov a dokonca aj ukladania obrovského množstva digitálnych údajov, podľa výzvy so sebou nesie aj riziká. Podpisatelia varovali, že teoreticky by si zlomyseľní aktéri mohli objednať sekvencie DNA určené na reprodukciu nebezpečných patogénov.

Hoci niektoré spoločnosti už dobrovoľne preverujú zákazníkov a objednávky, neexistuje na to žiadna zákonná požiadavka. Autori listu označili tieto kontroly za „jedno z najlepšie pochopených a najmenej rušivých dostupných opatrení biologickej bezpečnosti“.

Vyzvali tiež na povinné vedenie záznamov, ktoré by pomohlo vysledovať podozrivé aktivity. Okrem pomoci pri vyšetrovaní autori tvrdili, že samotná znalosť sledovateľnosti objednávok by mohla odradiť od zneužitia.

Autori uviedli, že základná hrozba nie je nová, ale tvrdili, že bezprecedentné tempo vývoja umelej inteligencie mení rovnicu. Poznamenali, že dnešné systémy umelej inteligencie už dokážu prekonať virológov s PhD. stupňom v otázkach zahŕňajúcich vysoko zložité laboratórne postupy.

Varovali, že ako sa tieto systémy zlepšujú, bariéry v oblasti vedomostí a zručností, ktoré historicky obmedzovali prístup k biologickým zbraniam, by sa mohli výrazne narušiť.