„Superinteligentná“ umelá inteligencia by mohla ukončiť ľudstvo – technologické ikony

Stovky hodnostárov z oblasti technológií, akademickej obce, politiky a zábavy podpísali list, v ktorom naliehajú na zákaz vývoja takzvanej „superinteligencie“, formy umelej inteligencie, ktorá by prekonala ľudí v podstate vo všetkých kognitívnych úlohách.

Skupina tvrdí, že vytvorenie superinteligentnej umelej inteligencie by mohlo spustiť ekonomický chaos, podkopať ľudskú slobodu a dokonca ohroziť vyhynutie ľudstva, ak by sa nekontrolovalo. Výzva nasleduje po mesiacoch stupňujúcich sa varovaní od odborníkov, ktorí tvrdia, že existujúce modely umelej inteligencie sa vyvíjajú rýchlejšie, ako s nimi regulačné orgány dokážu držať krok.

Medzi 4 300 podpismi, ktoré boli doručené do štvrtka, je spoluzakladateľ spoločnosti Apple Steve Wozniak, zakladateľ Virgin Group Richard Branson, mediálne celebrity Kate Bush a Will.I.am a technologickí „krstní otcovia“ ako Geoffrey Hinton a Yoshua Bengio.

Vyhlásenie vyzýva na zavedenie zákazu, kým „neexistuje široký vedecký konsenzus, že [vývoj] sa bude uskutočňovať bezpečne a kontrolovateľne“, ako aj „silná verejná podpora“.

Napriek rastúcim obavám z potenciálnych rizík umelej inteligencie zostáva globálna regulácia nejednotná a nekonzistentná.

Zákon Európskej únie o umelej inteligencii, prvý rozsiahly pokus na svete o reguláciu tejto technológie, sa snaží kategorizovať systémy umelej inteligencie podľa úrovne rizika, od minimálnej po neprijateľnú. Kritici však tvrdia, že rámec, ktorého úplná implementácia môže trvať roky, môže byť v čase, keď nadobudne účinnosť, zastaraný.

OpenAI, Google DeepMind, Anthropic a xAI patria medzi veľké technologické spoločnosti, ktoré míňajú miliardy na trénovanie modelov, ktoré dokážu samostatne myslieť, plánovať a kódovať. USA a Čína prezentujú nadradenosť umelej inteligencie ako otázku národnej bezpečnosti a ekonomického líderstva.