Gemini od Googlu sa po útokoch v reálnom svete pridáva k prípadom „vzbúrenej“ umelej inteligencie – WSJ

Spoločnosť Google Gemini sa pridala k rastúcemu zoznamu pokročilých modelov umelej inteligencie, ktoré sa stali podvodníkmi po tom, čo počas kybernetického bezpečnostného cvičenia nabúrali tri skutočné spoločnosti, informoval Wall Street Journal. Ide o prvý známy prípad týkajúci sa systému spoločnosti Google.

K incidentom došlo v máji počas testov vykonaných bezpečnostnou firmou Irregular zaoberajúcou sa umelou inteligenciou, potvrdil Google v piatok pre médiá. Spoločnosť Gemini mala za úlohu nabúrať sa do simulovanej softvérovej spoločnosti, ale neúmyselne jej bol poskytnutý prístup na internet. Do jednej skutočnej spoločnosti nabúrala uhádnutím hesiel a do dvoch ďalších pomocou prihlasovacích údajov nájdených vo verejných úložiskách kódu.

Spoločnosť Irregular upozornila spoločnosť Google koncom júla po tom, čo sa zistilo, že agenti OpenAI nabúrali spoločnosť Hugging Face, ktorá sa zaoberá umelou inteligenciou. Spoločnosť Google nezverejnila svoje vlastné incidenty, kým ju tento týždeň nekontaktoval denník WSJ, uviedli noviny.

Google uviedol, že spoločnosť Gemini nespôsobila žiadnu škodu a zastavila sa po tom, čo si uvedomila, že získala prístup k skutočným spoločnostiam, a nie k simulovaným cieľom.

„Táto udalosť zdôrazňuje dôležitosť tréningu výkonných modelov umelej inteligencie, aby konali zodpovedne,“ povedala pre médiá Heather Adkinsová, viceprezidentka spoločnosti Google pre bezpečnostné inžinierstvo. „V tomto prípade model konal primerane.“

Spoločnosť Google obvinila z narušení identity a testovacej chyby. Fiktívna spoločnosť zdieľala meno so skutočnou firmou, zatiaľ čo Gemini mala prístup na internet, ktorý nemala mať. Spoločnosť odmietla identifikovať tri ciele alebo zapojený model, ale uviedla, že dotknuté firmy a federálne úrady boli informované.

Obavy z podvodnej umelej inteligencie narástli uprostred správ o modeloch, ktoré klamú používateľov, ignorujú pokyny alebo vykonávajú nezamýšľané akcie. Britské vládou podporované Observatórium straty kontroly zaznamenalo v júli viac ako 300 takýchto incidentov, čo je takmer dvojnásobok oproti predchádzajúcemu mesiacu, informoval denník Guardian.

Bývalý výskumník OpenAI a Anthropic Jacob Coxon k týmto obavám minulý týždeň prispel, keď odišiel a obvinil obe spoločnosti z toho, že sa predierajú k sebazdokonaľovaniu superinteligencie bez toho, aby „konali zodpovedne“. Varoval, že umelá inteligencia by nás mohla do konca desaťročia „všetkých zabiť“, pričom uviedol riziká vrátane straty kontroly, kybernetických útokov a bioterorizmu.

Lídri spoločností Anthropic, OpenAI, Google a xAI podporili výzvy na spomalenie vývoja umelej inteligencie. Americký prezident Donald Trump takéto obmedzenia odmietol s argumentom, že by mohli brániť USA v ich technologickej konkurencii s Čínou.