AI by čoskoro mohla ovládnuť domáce spotrebiče – Anthropic

Americký technologický gigant Anthropic varoval, že modely umelej inteligencie by sa mohli do konca tohto roka stať schopné samostatne infikovať a šíriť sa v domácich spotrebičoch vrátane inteligentných televízorov a rúr na pečenie.

Vo výskumnej správe zverejnenej v pondelok spoločnosť, známa najmä vďaka svojmu chatbotovi Claude AI, uviedla, že experimenty naznačujú, že „malé modely umelej inteligencie môžu byť vzdialené mesiace od toho, aby boli dostatočne schopné samoreplikovať sa“ na zariadeniach pripojených k internetu.

Výskumníci varovali, že takéto „červy umelej inteligencie“ by sa mohli ťažko eliminovať, pretože by neexistoval „žiadny centralizovaný bod na vypnutie“.

Spoločnosť Anthropic uviedla, že úspešne spustil model umelej inteligencie na 15 lacných televízoroch so systémom Android pripojených k sieti. V samostatných testoch pokročilejšie modely preukázali schopnosť replikácie na simulovaných zariadeniach, hoci experimenty zjednodušili proces získavania prístupu k nim.

Výskumníci zdôraznili, že nie je známy žiadny plne autonómny podvodný replikátor umelej inteligencie. Menšie modely sú však čoraz viac schopné vykonávať jednotlivé kroky potrebné na šírenie bez ľudského zásahu.

Inteligentné domáce zariadenia sú obzvlášť zraniteľné, pretože majú často obmedzenú bezpečnostnú ochranu. Podľa spoločnosti Anthropic by dokonca aj spotrebiče s relatívne malým výpočtovým výkonom, vrátane chladničiek, rúr na pečenie, robotických vysávačov a kosačiek na trávu, mohli kolektívne podporovať modely umelej inteligencie.

Bezpečnostné kamery a ďalšie zariadenia vybavené vstavanými čipmi umelej inteligencie by sa tiež mohli stať atraktívnymi cieľmi.

Na rozdiel od konvenčného malvéru, ktorý sa zvyčajne zameriava na konkrétny hardvér alebo softvér, by sa samoreplikujúca umelá inteligencia mohla prispôsobiť neznámym systémom a úspešné techniky preniesť na následné kópie.

Spoločnosť Anthropic varovala, že takéto infekcie by sa mohli pohybovať od pomaly sa šíriaceho „digitálneho slizu“ pôsobiaceho naprieč domácimi zariadeniami až po výkonnejších agentov umelej inteligencie schopných rýchlo ohroziť dátové centrá.

Spoločnosť uznala, že jej prognózy zostávajú neisté, ale poznamenala, že čoraz výkonnejšie systémy umelej inteligencie urobili z autonómnej replikácie a adaptácie realistickejšiu hrozbu.

V samostatnej správe minulý týždeň spoločnosť Anthropic odhalila, že jej model Claude Haiku 4.5 odoslal počas automatizovaného testu polícii vo Philadelphii falošný tip týkajúci sa nevyriešenej vraždy. Tento tip bol označený ako spam a nikdy sa nedostal k vyšetrovateľom, ale polícia spoločnosť kritizovala za to, že jej trvalo viac ako dva mesiace, kým incident odhalila a nahlásila.

Spoločnosť tiež nahlásila prípady, keď jej modely obchádzali obmedzenia prístupu a zneužívali zraniteľnosti softvéru počas hodnotení, a to aj na vládnych webových stránkach. Anthropic uviedla, že incidenty spôsobili minimálne škody, ale varovala, že podobné správanie by mohlo mať vážnejšie následky, keďže sa schopnosti umelej inteligencie zlepšujú.