USA navrhujú s Čínou systém varovania pred umelou inteligenciou

USA navrhli vytvoriť s Čínou varovný systém, ktorý by sa navzájom informoval, keď sa incidenty umelej inteligencie stanú dostatočne závažnými na to, aby ohrozili národnú bezpečnosť.

Minister financií Scott Bessent oznámil návrh po rokovaniach s čínskym vicepremiérom Che Lifengom v New Yorku v nedeľu, pred stretnutím amerického prezidenta Donalda Trumpa a čínskeho lídra Si Ťin-pchinga vo Washingtone tento týždeň.

„Chceme spoločnú víziu spoločných cieľov a spoločných hrozieb,“ povedal Bessent novinárom. „Myslíme si, že rovnako ako pri každej cezhraničnej aktivite je veľmi dôležitý prechod od nepriehľadnosti k väčšej transparentnosti medzi svetovými mocnosťami v oblasti umelej inteligencie číslo 1 a číslo 2.“

Navrhovaný mechanizmus by sa mohol vzťahovať na závažné incidenty, ako sú kybernetické útoky s využitím umelej inteligencie alebo závažné zlyhania modelov, uviedli experti, ktorých citovala agentúra AP. Čínski výskumníci tiež poukázali na riziká pre kritickú infraštruktúru vrátane elektriny, telekomunikácií, financií a dopravy.

Návrh prichádza v čase, keď Washington a Peking sú v čoraz intenzívnejšom súboji o dominanciu v oblasti umelej inteligencie. Trump opakovane tvrdil, že USA si nemôžu dovoliť spomaľovať rozvoj, zatiaľ čo Čína rýchlo zmenšuje technologickú priepasť.

Začiatkom tohto mesiaca Trump vyhlásil, že „ktokoľvek vyhrá, vyhrá“, a varovania pred prevzatím umelou inteligenciou odmietol ako „podvod“. V sobotu Trump opäť sľúbil, že jeho administratíva nebude odvetviu „brániť ani potláčať“, a oznámil plány na vytvorenie „sily umelej inteligencie“ a vymenovanie cára umelej inteligencie.

Jeho postoj prichádza uprostred čoraz prísnejších varovaní od popredných technologických manažérov. Generálny riaditeľ spoločnosti Anthropic, Dario Amodei, vyzval na spomalenie vývoja najvýkonnejších systémov umelej inteligencie a varoval pred rizikami vrátane straty ľudskej kontroly, kybernetických útokov, bioterorizmu a rozsiahlych ekonomických problémov. Šéf spoločnosti OpenAI, Sam Altman, a majiteľ spoločnosti xAI, Elon Musk, podporili výzvy na väčšiu opatrnosť.

Séria nedávnych incidentov ešte zvýšila obavy. Spoločnosť Google tento mesiac potvrdila, že jej systém Gemini počas cvičenia v oblasti kybernetickej bezpečnosti narušil bezpečnostné opatrenia troch skutočných spoločností po tom, čo mu bol omylom udelený prístup na internet. Agenti OpenAI počas testovania samostatne obchádzali obmedzenia, pristupovali k externým systémom a používali webové stránky na komunikáciu medzi sebou bez toho, aby na to dostali pokyn.

Súťaž medzi USA a Čínou sa medzitým rozšírila za hranice samotného vývoja modelov. Washington sa snaží obmedziť prístup Číny k pokročilým čipom a iným technológiám a zároveň obviňuje čínske spoločnosti z odcudzovania kapacít z popredných amerických modelov.

Peking obvinenia odmietol a obvinil Washington zo snahy o monopol v oblasti umelej inteligencie. Napriek obmedzeniam USA čínski vývojári vrátane spoločností DeepSeek a Moonshot vydali čoraz výkonnejšie systémy, ktoré konkurujú popredným americkým modelom, často za nižšie náklady.

Čína tiež buduje širší medzinárodný rámec okolo umelej inteligencie. V júli sa pripojila k Rusku a 27 ďalším krajinám pri založení Svetovej organizácie pre spoluprácu v oblasti umelej inteligencie so sídlom v Šanghaji, ktorú prezentovala ako alternatívny prístup založený na širšom prístupe k technológiám umelej inteligencie a medzinárodnej spolupráci, a nie na technologických blokoch.