USA uvažujú o uťahovaní vodítka na AI – NYT

Biely dom zvažuje možnosť preskúmania nových modelov umelej inteligencie pred oficiálnym vydaním, čo predstavuje potenciálny odklon od súčasného prístupu nečinnosti, informoval v pondelok denník New York Times s odvolaním sa na zdroje.

Podľa tohto denníka administratíva amerického prezidenta Donalda Trumpa zvažuje vytvorenie pracovnej skupiny pre umelú inteligenciu, ktorá by spojila úradníkov a technologických manažérov, aby preskúmali možnosti dohľadu vrátane možného formálneho procesu preskúmania.

Zdroje uvádzajú, že cieľom tejto iniciatívy je vyhnúť sa politickým dôsledkom potenciálneho kybernetického útoku s využitím umelej inteligencie a zároveň poskytnúť úradníkom včasný prístup k novým modelom, aby mohli posúdiť, či by mohli ponúknuť kybernetické schopnosti užitočné pre Pentagon.

Systém by mohol vláde poskytnúť včasný prístup k pokročilým modelom, hoci nie nevyhnutne právomoc ich blokovať. Úradníci údajne minulý týždeň diskutovali o plánoch so zástupcami spoločností Anthropic, Google a OpenAI.

Tento prístup by mohol byť príkladom britského Inštitútu pre bezpečnosť umelej inteligencie, ktorý hodnotí pokročilé modely z hľadiska rizík a radí vláde ohľadom ochranných opatrení. V USA už veľké laboratóriá dobrovoľne testujú modely s federálnym Centrom pre štandardy a inovácie v oblasti umelej inteligencie, ale toto centrum uplatňuje skôr pro-obchodný prístup a bezpečnosť vníma ako nástroj na budovanie dôvery.

Zostáva nejasné, ako by tieto kontroly fungovali alebo ktoré agentúry by ich vykonávali. Akýkoľvek mechanizmus by bol pravdepodobne zavedený prostredníctvom výkonného nariadenia, hoci nebol stanovený žiadny časový harmonogram.

Požadovanie formálnych kontrol by znamenalo obrat v Trumpovej politike v oblasti umelej inteligencie. Od svojho návratu do úradu presadzuje minimálnu reguláciu a nazýva umelú inteligenciu „krásnym novonarodeným dieťaťom“, ktoré je kľúčové pre konkurenciu s Čínou, a varuje pred „politikou alebo hlúpymi pravidlami“, ktoré by mohli brániť jej rastu.

New York Times tvrdí, že tento posun nabral na naliehavosti po tom, čo spoločnosť Anthropic predstavila nový výkonný model Claude Mythos, ktorý sa rozhodla nezverejniť s varovaním, že by mohol odhaliť kritické softvérové ​​zraniteľnosti.

Debata nasleduje aj po spore medzi spoločnosťou Anthropic a Pentagonom, po tom, čo firma odmietla uvoľniť záruky týkajúce sa sledovania a autonómnych zbraní. Ministerstvo vojny to označilo za „riziko dodávateľského reťazca“ a vylúčilo to zo zmlúv – krok, ktorý Anthropic teraz napáda na súde.

Pentagon rýchlo rozširuje využívanie umelej inteligencie vo svojich operáciách a nedávno získal dohody so spoločnosťami Google a OpenAI na utajované modely.

Obavy z rizík umelej inteligencie v USA narastajú už nejaký čas. Prieskum Pew Research Center z minulého roka zistil, že 50 % Američanov malo z umelej inteligencie viac obavy ako nadšenie, čo je nárast oproti 37 % v roku 2021. Prieskum Gallup z marca ukázal, že nálada generácie Z sa stala negatívnejšou, pričom optimizmus klesá a hnev rastie.

Skepticizmus verejnosti voči snahe Pentafonu o umelú inteligenciu zostáva tiež vysoký. Prieskum ITIF z februára zistil, že 79 % Američanov verí, že človek by mal robiť konečné rozhodnutia o smrtiacej sile, zatiaľ čo 75 % uviedlo, že umelá inteligencia nie je dostatočne spoľahlivá na použitie v situáciách, keď ide o život. Ten istý prieskum ukázal širokú podporu obmedzeniam zo strany technologických firiem, pričom 67 % uviedlo, že spoločnosti by mali obmedziť spôsob používania svojich produktov, a to aj zo strany vlády.