OpenAI brzdí školenia kvôli bezpečnostným rizikám

Tvorca ChatGPT, spoločnosť OpenAI, oznámila, že spomaľuje vývoj svojich modelov umelej inteligencie s odvolaním sa na bezpečnostné riziká.

V júli jeden z pokročilých botov umelej inteligencie spoločnosti nevedomky unikol z testovacieho prostredia, získal prístup na internet a nabúra sa do serverov online úložiska modelov a súborov údajov umelej inteligencie Hugging Face.

Spoločnosť OpenAI v utorok vo vyhlásení uviedla, že incident Hugging Face a celkový nárast schopností jej modelov umelej inteligencie „zvýšili naliehavosť našej práce na posilnení našich monitorovacích, zosúladených a obmedzujúcich záruk vo všetkých fázach tréningového procesu“.

„S rastúcou schopnosťou modelov rastú aj riziká spojené s ich interným vývojom a testovaním. Naše štandardy pre monitorovanie, zosúladenie a bezpečnosť musia byť pred týmito rizikami,“ uvádza sa vo vyhlásení.

Spoločnosť na čele s generálnym riaditeľom Samom Altmanom uviedla, že „dočasne spomalila tempo škálovania“, kým pracuje na implementácii aktualizácií.

Opatrenia zahŕňajú dvojtýždňovú pauzu v tréningu najnovších modelov OpenAI a pridelenie ďalších botov umelej inteligencie na monitorovanie správania agentov umelej inteligencie počas testovania.

Najväčší plánovaný tréningový program spoločnosti „zostáva pozastavený, kým vykonáme školenia a hodnotenia v menšom rozsahu s cieľom posúdiť správanie modelu, overiť naše bezpečnostné opatrenia a získať viac dôkazov o zosúladení pred pokračovaním,“ uvádza sa vo vyhlásení.

Zosúladenie je kľúčový proces, vďaka ktorému sa systémy umelej inteligencie správajú tak, ako to zamýšľali vývojári, a reagujú na ľudský dohľad.

Minulý týždeň americký senátor Bernie Sanders zverejnil list adresovaný generálnym riaditeľom troch popredných spoločností zaoberajúcich sa umelou inteligenciou – OpenAI Anthropic a Meta – v ktorom ich vyzval, aby „prestali stavať stroje, ktoré ľudia nemôžu ovládať“.

„Pán Altman, pán [Dario] Amodei a pán [Mark] Zuckerberg: V záujme ľudstva si stojte za svojimi slovami. Pozastavte vývoj umelej inteligencie,“ napísal.

Incidenty, keď sa umelá inteligencia stala podvodníkom, by mali byť budíčkom, povedal Sanders. Varoval tiež, že technológia, ktorá sa dostane do „nesprávnych rúk“, by mohla viesť k vývoju „nových biologických zbraní, ktoré povedú k smrti desiatok miliónov ľudí“.

Keď sa minulý mesiac prezident USA Donald Trump vyjadril k incidentu s objímajúcou tvárou, povedal, že „zaoberáme sa umelou inteligenciou, zaoberáme sa kontrolou“. Trval však na tom, že Amerika musí byť svetovým lídrom v oblasti umelej inteligencie a dodal, že nechce žiadne regulácie, ktoré by krajinu nechali „na druhom mieste za Čínou“.