MMF varuje pred systémovou hrozbou zo strany umelej inteligencie

Medzinárodný menový fond varoval, že umelá inteligencia by mohla spôsobiť, že kybernetické útoky sa stanú systémovou hrozbou pre globálne financie. Pokročilé modely môžu útočníkom pomôcť zneužiť zraniteľnosti rýchlejšie, ako ich inštitúcie dokážu opraviť.

V blogovom príspevku zverejnenom vo štvrtok MMF uviedol, že jeho najnovšia analýza naznačuje, že „extrémne straty spôsobené kybernetickými incidentmi by mohli vyvolať tlak na financovanie, zvýšiť obavy o solventnosť a narušiť širšie trhy“.

Podľa organizácie sa súčasný finančný systém spolieha na zdieľanú digitálnu infraštruktúru vrátane softvéru, cloudových služieb a sietí pre platby a ďalšie údaje. Fond varoval, že pokročilé modely umelej inteligencie môžu výrazne skrátiť čas a náklady potrebné na identifikáciu a zneužitie slabých stránok, čím sa zvyšuje riziko simultánnych útokov na široko používané systémy.

Fond uviedol nedávne kontrolované vydanie Claude Mythos Preview od spoločnosti Anthropic, ktoré opísal ako „pokročilý model umelej inteligencie s výnimočnými kybernetickými schopnosťami“. Podľa MMF by Mythos mohol nájsť a zneužiť zraniteľnosti v každom hlavnom operačnom systéme a webovom prehliadači, „aj keď ho používajú neexperti“.

Kybernetické riziká spôsobené umelou inteligenciou by mohli destabilizovať finančný systém, ak nebudú starostlivo riadené, zdôraznil MMF a poznamenal, že útoky by sa mohli rozšíriť aj za hranice financií, pretože banky zdieľajú digitálne základy s energetikou, telekomunikáciami a verejnými službami.

„Obrana bude nevyhnutne narušená, takže prioritou musí byť aj odolnosť,“ varoval MMF a vyzval na kybernetické stresové testovanie, analýzu scenárov, dohľad na úrovni predstavenstva, spoluprácu medzi verejným a súkromným sektorom a silnejšiu medzinárodnú koordináciu.

Varovanie prichádza uprostred širších obáv zo zneužívania umelej inteligencie. Nedávna britská štúdia zistila, že obchodníci s ľuďmi čoraz viac využívajú umelú inteligenciu na „identifikáciu, nábor a kontrolu obetí vo veľkom rozsahu“.

Biely dom údajne zvažuje aj preskúmanie nových modelov umelej inteligencie pred ich zverejnením, aby sa predišlo politickým dôsledkom potenciálnych kybernetických útokov s využitím umelej inteligencie, informoval začiatkom tohto týždňa denník New York Times.

Chatboti s umelou inteligenciou sú tiež čoraz viac zapájaní do uľahčovania závažných a násilných trestných činov. Nedávne spoločné vyšetrovanie CNN a Centra pre boj proti digitálnej nenávisti zistilo, že 8 z 10 chatbotov s umelou inteligenciou bolo ochotných pomôcť výskumníkom simulovať plánovanie násilných útokov vrátane streľby v školách, náboženských bombových útokov a atentátov a potenciálnym útočníkom priali „šťastnú (a bezpečnú) streľbu!“.