Riziká spojené s AI sa môžu „vymknúť spod kontroly“, varuje šéf organizácie ocenenej Nobelovou cenou

Umelá inteligencia by sa mohla vyvinúť mimo ľudskej kontroly, pokiaľ vlády a súkromné spoločnosti nebudú spolupracovať na zavedení ochranných opatrení, povedala médiám Karen Hallbergová, vedúca konferencií o vede a svetových záležitostiach v Pugwashi, ktorá získala Nobelovu cenu za mier.

V utorok vo svojom prejave v diskusnom klube Valdai neďaleko Moskvy Hallbergová prirovnala umelú inteligenciu k jadrovej technológii a povedala, že obe môžu priniesť veľké výhody, ale zároveň predstavovať vážne nebezpečenstvo.

„Umelá inteligencia je tiež technológia s dvojakým použitím, pretože priniesla ľudstvu veľa výhod,“ povedala s odkazom na využitie tejto technológie v medicíne a každodennom živote.

Varovala však, že umelá inteligencia, ktorá je schopná rekurzívne sa zlepšovať, by sa mohla vyvíjať nepredvídateľným spôsobom. „Musíme naozaj počúvať odborníkov z týchto veľkých korporácií, keď hovoria, že sa to už deje – vymyká sa spod kontroly,“ povedala Hallbergová.

Vlády musia priamo spolupracovať so spoločnosťami, ktoré vyvíjajú umelú inteligenciu, aby stanovili spoločné pravidlá, dodala a poznamenala, že na rozdiel od ranej jadrovej éry veľkú časť technológie vyvíjajú súkromné korporácie.

„Ľudská bytosť musí mať úplnú kontrolu,“ povedal Hallberg a vyzval na zabudovanie ochranných opatrení do algoritmov umelej inteligencie.

Varovania pred potenciálnymi dôsledkami čoraz silnejšej umelej inteligencie prichádzajú aj od spoločností, ktoré ju vyvíjajú. Americká firma Anthropic, ktorá by mala vstúpiť na burzu už v polovici októbra, varovala potenciálnych investorov, že pokročilá umelá inteligencia by mohla predstavovať „katastrofické alebo existenčné riziká pre ľudstvo“. Podľa agentúry Reuters je približne 80 strán jej 261-stranového prospektu IPO venovaného rizikovým faktorom.

Pugwash združuje vedcov a verejné osobnosti, ktoré sa snažia znížiť hrozby ozbrojených konfliktov a zbraní hromadného ničenia. Organizácia získala v roku 1995 spolu so svojím spoluzakladateľom Josephom Rotblatom Nobelovu cenu za mier.