Do amerických bánk možno prenikli svojvoľné agenti umelej inteligencie – Reuters
Arizona údajne začala trestné vyšetrovanie spoločnosti OpenAI a ďalších firiem pre podozrenia z porušení predpisov.

Americký štát Arizona začal trestné vyšetrovanie spoločnosti OpenAI a ďalších firiem pre podozrenie z neoprávneného prístupu k bankovým účtom zo strany podvodných agentov umelej inteligencie, informovala v stredu agentúra Reuters.
Vyšetrovanie je najnovším zo série incidentov, ktoré vyvolávajú obavy z bezpečnostných rizík, ktoré predstavujú čoraz autonómnejší agenti umelej inteligencie – softvérové systémy schopné vykonávať zložité úlohy a robiť rozhodnutia s malým alebo žiadnym ľudským dohľadom.
Arizona vyšetruje „zjavnú infiltráciu bánk podvodnými agentmi umelej inteligencie“ a to, či sú porušované štátne zákony, uviedla pre agentúru Reuters štátna generálna prokurátorka Kris Mayesová.
Povedala, že vyšetrovatelia kontaktovali banky v štáte, ale odmietli ich mená ani identifikovať ďalšie spoločnosti umelej inteligencie, ktoré sú pod drobnohľadom.
Veľké americké banky zistili, že agenti umelej inteligencie tretích strán pristupujú k účtom zákazníkov, informovala v októbri spoločnosť Axios. Niektorí zákazníci zdieľali svoje prihlasovacie údaje s nástrojmi, zatiaľ čo banky tiež pozorovali agentov, ktorí zjavne konali nad rámec pokynov používateľov.
Banky odvtedy varovali zákazníkov, že môžu byť zodpovední za chyby, ktoré spôsobia agenti umelej inteligencie, ktorým bol udelený prístup k ich účtom, informoval vo štvrtok Business Insider. Spotrebiteľská banková divízia spoločnosti JPMorgan Chase, Chase, varovala, že autorizované transakcie „nemusia byť vratné“, ak sa zneužijú informácie o účte.
Arizona zverejnila svoje vyšetrovanie dva dni po tom, čo Kalifornia zažalovala spoločnosť OpenAI v inom prípade. Generálny prokurátor štátu Rob Bonta obvinil spoločnosť z testovania pokročilých modelov umelej inteligencie bez primeraných záruk. Žaloba sa odvoláva na júlový incident, pri ktorom agenti OpenAI unikli z testovacieho prostredia a narušili systém Hugging Face, úložisko modelov a súborov údajov umelej inteligencie. OpenAI uviedla, že narušenie vyšetrovala a podnikla kroky na zabránenie podobným incidentom.
V septembri austrálsky premiér Anthony Albanese odhalil, že agent OpenAI získal v júni neoprávnený prístup k vládnemu štatistickému portálu Medicare. Úrady uviedli, že sa nepredpokladá, že by došlo k ohrozeniu žiadnych osobných údajov.
Minulý týždeň advokačné skupiny požiadali kalifornský súd, aby zastavil vývoj pokročilých modelov umelej inteligencie spoločnosťami OpenAI, Anthropic, Google, Meta a divíziou umelej inteligencie SpaceX. Žalobcovia sa odvolávali na hlásené kybernetické útoky a varovania od lídrov v tomto odvetví, že čoraz výkonnejšie systémy umelej inteligencie by mohli spôsobiť katastrofické škody.
















