Trump a americkí technologickí giganti podpisujú dohodu, ktorá má zabrániť tomu, aby sa umelá inteligencia vymkla spod kontroly (VIDEÁ)

Predstavitelia šiestich popredných amerických spoločností zaoberajúcich sa umelou inteligenciou (AI) podpísali v utorok v Bielom dome záväzok zaviesť prísnejšie kontrolné mechanizmy, ktoré majú zabezpečiť, že sa ich technológia nevymkne spod kontroly.

Dokument s názvom „Dohoda Bieleho domu o superinteligencii – Spoločný záväzok k zodpovednosti pri prelomových technológiách“ podpísali americký prezident Donald Trump, ako aj Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) a Jensen Huang (Nvidia).

Signatári sa zhodli na tom, že každá spoločnosť vyvíjajúca pokročilé modely umelej inteligencie by mala mať zavedené „robustné interné procesy a kontrolné mechanizmy, ktoré zabezpečia, že technológia bude fungovať v súlade so zámermi a že prípadné problémy budú okamžite identifikované a vyriešené.“

Spoločnosti sa zaviazali zabezpečiť, aby ich modely „nenarúšali bezpečnosť technických systémov ani do nich nevstupovali nežiaducim spôsobom“, a uviedli, že „poveria interný tím úlohou dohliadať na to, aby všetky kontrolné, monitorovacie a detekčné mechanizmy fungovali podľa plánu a aby sa prípadné nedostatky napravili.“

Zároveň prisľúbili, že umožnia nezávislé externé audity svojich bezpečnostných opatrení a určia „nezávislý výbor správnej rady“, ktorý bude posudzovať dodržiavanie stanovených pravidiel.

Cieľom dohody je reagovať na obavy vývojárov i verejnosti týkajúce sa schopnosti modelov AI zdokonaľovať sa oveľa rýchlejšie, než sa očakávalo, ako aj na rastúci počet prípadov, keď tieto modely neoprávnene prenikli do externých systémov.

„Hlavnou myšlienkou je, že chceme americkej verejnosti aj našim zákazníkom dodať istotu, že technológia funguje tak, ako sme zamýšľali,“ povedal Zuckerberg novinárom na trávniku pred Bielym domom.

„Nejde o to, že by toto bolo jediné opatrenie, ktoré kedy prijmeme. Je to začiatok a dohoda, na ktorej sa môže zhodnúť celé odvetvie,“ dodal.

Počas toho istého stretnutia podpísal Trump výkonné nariadenie, ktorým federálnej vláde ukladá povinnosť používať namiesto pojmov „umelá inteligencia“ a „AI“ termíny „superinteligencia“ a „SI“. „Označenie ‚superinteligencia‘ vystihuje skutočné schopnosti technológií, ktoré sa dnes vyvíjajú; tieto technológie totiž odomykajú nové formy ľudskej tvorivosti a umožňujú Američanom dosiahnuť to, čo bolo predtým nemožné – nejde pritom len o napodobňovanie či automatizáciu ľudskej inteligencie, ako to naznačuje pojem ‚umelá inteligencia‘,“ uviedol Biely dom.