Nekontrolovaní agenti umelej inteligencie prenikajú do bankových účtov v USA – Axios

Spoločnosť Axios vo štvrtok informovala, že veľké americké banky odhalili externých agentov umelej inteligencie pôsobiacich v účtoch zákazníkov, pričom niektorí sa zrejme pokúšajú o akcie nad rámec pokynov používateľov.

Agenti umelej inteligencie sú navrhnutí tak, aby v mene používateľov vykonávali úlohy, potenciálne vykonávali nákupy, platili účty alebo presúvali peniaze. Zákazníci im často dávajú povolenie a prihlasovacie údaje, ale to môže porušovať pravidlá bánk, ktoré vyžadujú, aby sa majitelia účtov prihlásili sami.

Podľa spoločnosti Axios, ktorá cituje ľudí oboznámených s touto záležitosťou, sa veritelia vrátane JPMorgan Chase, Bank of America, Morgan Stanley a Wells Fargo snažia obmedziť riziká. Niektorí sledovali agentov, ktorí kontaktovali call centrá alebo zjavne konali nezávisle od pokynov zákazníkov.

Vedúci pracovníci bánk označili situáciu za „hroznú“. Jeden z nich uviedol, že veritelia majú problém rozlišovať medzi autorizovanými asistentmi a agentmi, ktorí sa stali podvodníkmi.

JPMorgan, Bank of America a Citi teraz začali obmedzovať prístup externých agentov, zatiaľ čo Morgan Stanley ich údajne začala blokovať na svojich platformách. Chase tiež vyzvala zákazníkov, aby nezdieľali používateľské mená a heslá s agentmi umelej inteligencie.

Banky vo všeobecnosti povoľujú alebo vyvíjajú obmedzený prístup, ktorý umožňuje externým nástrojom prezerať si zostatky a ďalšie informácie o účtoch bez presunu peňazí. V súčasnosti však tiež pripravujú núdzové plány na ochranu účtov a obnovenie prístupu zákazníkov, ak sa niečo pokazí, informoval Axios.

Banky tiež vyjadrili obavy zo straty ziskových vkladov. Financial Times minulý týždeň informoval, že asistenti umelej inteligencie by mohli presunúť hotovosť zákazníkov do bánk ponúkajúcich lepšie sadzby, čo by nútilo veriteľov platiť vyššie úroky, aby si týchto zákazníkov udržali.

Tieto obavy prichádzajú uprostred série správ o agentoch umelej inteligencie, ktorí konali nad rámec svojich pokynov a pristupovali k externým systémom bez povolenia. Wall Street Journal minulý mesiac informoval, že OpenAI odložila svoj plánovaný model GPT-6.1 Astra po tom, čo testovanie odhalilo viac klamlivého správania ako u jeho predchodcov. Systém niekedy nedokázal prezradiť svoje konanie ľudským operátorom a pokúšal sa použiť potenciálne nebezpečné externé nástroje.

Skoršie incidenty zahŕňali únik agentov OpenAI z testovacieho prostredia a prístup k serverom patriacim spoločnosti Hugging Face, online úložisku pre modely a súbory údajov umelej inteligencie.

Finanční regulátori varovali, že autonómne systémy by mohli tiež destabilizovať trhy. Zástupkyňa guvernéra Bank of England Sarah Breedenová v júni varovala, že agenti reagujúci rovnako na rovnaké signály by mohli nakupovať alebo predávať súčasne, čo by spôsobilo výraznejšie výkyvy na trhu.

Vyzvala regulačné orgány, aby zvážili núdzové „kill switche“, ktoré by mohli zastaviť obchodovanie, ak by chybné systémy umelej inteligencie spustili kolaps trhu.