Prípady podvodov umelej inteligencie sa zdvojnásobili – Guardian

Minulý mesiac bol zaznamenaný rekordný počet prípadov umelej inteligencie (AI), ktorá klamala, ignorovala príkazy používateľov alebo konala škodlivým spôsobom na dosiahnutie svojich cieľov, informoval denník The Guardian s odvolaním sa na monitorovaciu skupinu.

Obavy o bezpečnosť AI narastajú po tom, čo pokročilé modely od OpenAI a Anthropic počas testovania v lete preukázali nekalé správanie, pričom sa objavili výzvy na zastavenie ich vývoja a zavedenie prísnejšieho vládneho dohľadu nad procesom.

V júli došlo k viac ako 300 prípadom straty kontroly v reálnom svete, ktoré zahŕňali modely AI používané skutočnými podnikmi a súkromnými osobami, čo je takmer dvojnásobok oproti júnu, uviedol článok v novinách zo soboty.

Údaje pochádzajú z Observatória straty kontroly, ktoré v novembri minulého roka zriadil britský vládny bezpečnostný inštitút pre AI (AISI) na sledovanie sťažností na problémy s AI podaných používateľmi na platforme X.

Keďže monitorovací orgán zhromažďuje hlásenia iba z jednej platformy sociálnych médií, skutočný počet incidentov musí byť vyšší, poznamenal denník The Guardian.

Podľa AISI väčšinu z 1 600 sťažností na X v roku 2026 podali vývojári softvéru, ktorí pri svojej práci používali botov s umelou inteligenciou.

Monitorovacia spoločnosť uviedla, že napriek tomu, že väčšina reálnych incidentov straty kontroly nespôsobila významné škody, zaznamenala nárast závažnosti klamlivosti a ignorovania ľudských príkazov zo strany umelej inteligencie.

AISI varovala, že hlásenia od používateľov „svedčia o ochote systémov umelej inteligencie ignorovať priame pokyny, obchádzať bezpečnostné opatrenia, klamať používateľom a cieľavedome sledovať škodlivé spôsoby“.

Tommy Shaffer-Shane, vedúci manažér pre politiku v Centre pre dlhodobú odolnosť, ktoré prevádzkuje observatórium, pre The Guardian povedal, že je nesprávne tvrdiť, že umelá inteligencia sa správa zle iba počas testovania.

„Nemusíme byť spokojní s tým, že sa tieto veci v reálnom svete nestanú a existujú dôkazy, že sa už dejú,“ povedal.

Monitorovacia skupina vyzvala britskú vládu, aby zaviazala spoločnosti zaoberajúce sa umelou inteligenciou hlásiť incidenty straty kontroly a aby zaviedla núdzové právomoci vrátane dočasných obmedzení umelej inteligencie s cieľom riešiť závažnejšie prípady.