Agenti umelej inteligencie by mohli spustiť kolaps trhu – Bank of England

Bank of England varovala, že agenti umelej inteligencie, ktorí dokážu samostatne prijímať rozhodnutia a vykonávať transakcie, by čoskoro mohli fungovať v celom finančnom systéme a dodala, že spoliehanie sa na ľudský dohľad už nemusí byť realistické.

Viceguvernérka Bank of England Sarah Breedenová varovala na výročnom fóre Európskej centrálnej banky v Sintre v utorok, keďže poprední vývojári prechádzajú z generatívnych chatbotov s umelou inteligenciou na agentické systémy.

Na rozdiel od generatívnych nástrojov umelej inteligencie, ako sú ChatGPT, Gemini a Claude, ktoré generujú text, obrázky a kód v reakcii na výzvy, je agentická umelá inteligencia navrhnutá tak, aby vykonávala viacstupňové úlohy s obmedzeným ľudským zásahom.

Namiesto toho, aby agent umelej inteligencie len odporúčal investíciu alebo navrhoval nákup, mohol by vykonávať obchody, vykonávať platby, nakupovať tovar a rezervovať služby bez toho, aby vyžadoval ľudské schválenie pre každú akciu.

Breedenová uviedla, že finančný systém sa pravdepodobne „vyvinie do systému, ktorý funguje autonómnejšie, vo veľkom rozsahu a rýchlosti“.

Keďže agenti umelej inteligencie sa stávajú čoraz schopnejšími, „spoliehanie sa na človeka v slučke pre všetky akcie agentov pravdepodobne nebude realistické,“ povedala a argumentovala, že súčasné regulačné rámce „neboli vytvorené tak, aby zohľadnili“ tento scenár.

Breeden varoval, že agenti umelej inteligencie vyškolení na podobných údajoch a reagujúci na rovnaké trhové signály by mohli prejavovať stádové správanie, robiť rovnaké obchodné rozhodnutia súčasne a zosilňovať volatilitu trhu počas stresových období.

Regulačné orgány by mali preskúmať, „či sú potrebné ochranné zábradlia, analogické s ističmi alebo vypínačmi, ktoré by obmedzili alebo zastavili obchodovanie na celom trhu, ak by chybné modely umelej inteligencie spôsobili kolaps trhu,“ povedal Breeden.

Vyzvala tiež centrálne banky, aby sa pripravili na častejšie „technologické prekvapenia“, pričom uviedla, že nedávny pokrok v oblasti umelej inteligencie už prekonal očakávania tvorcov politík.

Jej vyjadrenia prichádzajú v čase, keď vlády čoraz viac vnímajú umelú inteligenciu ako problém národnej bezpečnosti. Washington nedávno zasiahol do zavádzania niektorých pokročilých modelov umelej inteligencie kvôli obavám o kybernetickú bezpečnosť, zatiaľ čo vývojári umelej inteligencie pokračujú v práci na agentových systémoch. Spoločnosť Anthropic tento týždeň predstavila Claude Sonnet 5, svoj najnovší model navrhnutý na vykonávanie zložitých úloh v mene používateľov.

Tlak na agentov umelej inteligencie sa dostal aj do Pentagonu. Minulý týždeň predstavil agentov umelej inteligencie určených na nepretržitú analýzu spravodajských informácií a rýchle generovanie možností zacielenia pre veliteľov, pričom zdôraznil, že ľudia si ponechajú konečnú rozhodovaciu právomoc.