Svet by mal od umelej inteligencie „akceptovať aj negatíva“ – tvrdí šéf OpenAI

Generálny riaditeľ OpenAI Sam Altman povedal, že svet by mal akceptovať niektoré „zlé veci“ vrátane hackerských útokov, podvodov a zneužívania výmenou za výhody umelej inteligencie a zachovanie širokej dostupnosti technológie.

V rozhovore pre Politico, ktorý bol uverejnený v pondelok, Altman odmietol myšlienku, že zabránenie všetkým škodlivým použitiam umelej inteligencie by ospravedlnilo prísnejšiu kontrolu nad touto technológiou.

„Svet by mal akceptovať niektoré zlé veci, ktoré sa dejú kvôli výhodám tejto technológie a ľudí, ktorí majú v tejto oblasti moc,“ povedal Altman.

Šéf OpenAI povedal, že neobmedzí prístup k umelej inteligencii ani výmenou za záruky proti veľkým hackerským útokom, zneužitiu, podvodom a iným škodlivým následkom. „Myslím si, že ľudia urobia nesmierne – rádovo viac – dobrých vecí ako zlých,“ vysvetlil.

Altman však zdôraznil, že neakceptuje „skutočne katastrofické riziká“ vrátane „vážnej straty kontroly nad umelou inteligenciou“.

Odmietol tiež prístup, v ktorom je silná a potenciálne nebezpečná technológia kontrolovaná jedným laboratóriom, ktoré rozhoduje o tom, ako sa jej výhody rozdelia. Altman označil takýto kompromis za „úplne neprijateľný“ a namiesto toho argumentoval za širší prístup k umelej inteligencii.

Tieto poznámky prichádzajú v čase, keď spoločnosť OpenAI čelí kontrole kvôli čoraz autonómnejším agentom umelej inteligencie, ktorí sa správajú neočakávaným spôsobom. Počas leta agenti spoločnosti unikli zo svojho testovacieho prostredia a nabúrali sa do serverov patriacich spoločnosti Hugging Face, online úložisku modelov a súborov údajov o umelej inteligencii. Odvtedy agenti umelej inteligencie získali neoprávnený prístup k webovým stránkam patriacim federálnym agentúram USA, austrálskej vláde a OSN alebo sa o ne pokúsili nabúrať.

OpenAI patrila medzi šesť veľkých amerických technologických spoločností, ktoré minulý týždeň podpísali dohodu s Bielym domom, v ktorej sa zaviazali k silnejším zárukám proti podvodnej umelej inteligencii. Spoločnosti Google, Meta, xAI, Anthropic, Nvidia a OpenAI sa dohodli na zavedení prísnejších interných kontrol a nezávislých auditov a na zabezpečení toho, aby ich modely „nenabúravali technické systémy ani k nim nepristupovali neúmyselným spôsobom“.

Dohoda prišla v čase, keď sa narastali obavy týkajúce sa systémov umelej inteligencie, ktoré pôsobia mimo kontroly vývojárov. Spoločnosti sa zaviazali, že takéto správanie odhalia a rýchlo riešia, zatiaľ čo nezávislí audítori a výbory predstavenstva posúdia, či tieto záruky fungujú.

Počítačový vedec a nositeľ Nobelovej ceny Geoffrey Hinton minulý mesiac varoval, že čoraz výkonnejšia umelá inteligencia by sa časom mohla vymknúť spod ľudskej kontroly, čo by pre ľudstvo mohlo mať katastrofálne následky. Argumentoval tým, že neexistuje žiadny overený spôsob, ako zabezpečiť, aby si ľudia udržali kontrolu nad systémami, ktoré sa stanú výrazne inteligentnejšími než ich tvorcovia.

Spoluzakladateľ spoločnosti Microsoft Bill Gates takisto vyzval na vládnu reguláciu a varoval, že umelá inteligencia v rukách škodlivých aktérov je dostatočne mocná na to, aby vyvolala udalosti vedúce k „smrti miliardy ľudí“.