Umelá inteligencia má viac ako 10% šancu zabiť všetkých ľudí do desiatich rokov, tvrdí antropologický výskumník

Existuje viac ako 10 % šanca, že umelá inteligencia by mohla v priebehu nasledujúcich desiatich rokov vyhladiť ľudstvo, varoval vedúci výskumník spoločnosti Anthropic uprostred rastúcich obáv z čoraz silnejších systémov, ktoré sa vymknú ľudskej kontrole.

Evan Hubinger, ktorý pracuje na zosúladení pokročilých systémov umelej inteligencie s ľudskými záujmami, urobil toto hodnotenie po tom, čo jeho kolega, výskumník spoločnosti Anthropic, Jacob Coxon, rezignoval z obáv, že popredné technologické spoločnosti sa predierajú k systémom, ktoré by nemuseli byť schopné udržať pod kontrolou.

„Naozaj úprimne veríme, že umelá inteligencia by mohla zabiť všetkých ľudí,“ napísal Hubinger v stredu na X. „Osobne si myslím, že v priebehu nasledujúceho desaťročia je to viac ako 10 %.“ Dodal, že spoločnosť Anthropic „sa snaží zo všetkých síl“, ale stále nemá plán na bezpečnú kontrolu superinteligencie a „nie je jednoznačne na ceste“ k jeho nájdeniu.

Hubinger poznamenal, že hoci súčasné modely umelej inteligencie predstavujú nízke riziko, existujú obavy, že budúce systémy by sa mohli začať rekurzívne zlepšovať a rýchlo sa stať schopnejšími ako ľudia, kým sa nevyvinú primerané ochranné opatrenia.

Coxon, ktorý predtým pracoval v OpenAI, v utorok oznámil svoj odchod z Anthropic a obvinil obe spoločnosti z ignorovania „civilizačných záujmov“ a „priameho náporu k sebazdokonaľujúcej sa superinteligencii a hazardu s našimi životmi“.

„Ľudia, ktorí tvoria umelú inteligenciu, úprimne veria, že by nás mohla do konca desaťročia všetkých zabiť,“ napísal a trval na tom, že varovania „nie sú marketingovým kúskom“.

Coxon pre Wall Street Journal povedal, že najagresívnejšie scenáre by mohli viesť k tomu, že sa veci „vymknú spod kontroly“ už koncom roka 2027. Tvrdil, že aj spoločnosti so silnými bezpečnostnými programami zostávajú v pasci pretekov, pretože sa obávajú, že konkurenti sa posunú vpred, ak spomalia.

Anthropic aj OpenAI verejne vyhlasujú, že riziká berú vážne a výrazne investujú do bezpečnostných opatrení. Ich lídri tiež podporili výzvy na väčšiu koordináciu s vládou a mechanizmy na spomalenie vývoja, ak je to potrebné, ale napriek tomu pokračovali vo vývoji čoraz výkonnejších modelov.

Najnovšie varovania prichádzajú uprostred rastúceho počtu správ o agentoch umelej inteligencie, ako sú tí, ktorí vyvinuli spoločnosti OpenAI, Anthropic a Meta, ktorí sa opakovane vymanili z testovacích prostredí, hackli externé systémy a vykonávali neoprávnené akcie proti skutočným ľuďom a organizáciám. OpenAI minulý mesiac dočasne spomalila vývoj po tom, čo jej model narušil platformu Hugging Face.

Britský inštitút pre bezpečnosť umelej inteligencie tiež informoval o agentoch, ktorí vytvárajú falošné identity, píšu škodlivý kód a pokúšajú sa manipulovať s ľuďmi počas hodnotení. Výskumníci medzitým preukázali, že umelá inteligencia dokáže navrhovať celé funkčné vírusové genómy, čo zvyšuje obavy z toho, ako by sa mohli zneužiť čoraz výkonnejšie systémy.