Gigant v oblasti umelej inteligencie sľubuje väčšiu transparentnosť uprostred obáv o národnú bezpečnosť

Americký gigant v oblasti umelej inteligencie Anthropic v stredu oznámil, že zabezpečí väčšiu transparentnosť ochranných opatrení upravujúcich jeho najpokročilejšie modely umelej inteligencie, a to aj zverejnením informácií o tom, kedy sú požiadavky používateľov znížené na nižšiu úroveň alebo zamietnuté. Tento krok nasleduje po kritike obmedzení, ktoré predtým neboli pre používateľov viditeľné.

Predtým mohol Anthropic ticho smerovať požiadavky týkajúce sa oblastí, ako je kybernetická bezpečnosť, biológia a vývoj pokročilej umelej inteligencie, zo svojho modelu Fable 5 na menej výkonný Opus 4.8. Podľa novej politiky budú používatelia upozornení, keď bude žiadosť označená, zatiaľ čo vývojári aplikačných programovacích rozhraní (API) dostanú vysvetlenia v prípade akéhokoľvek zamietnutia alebo prechodu na iný model.

Prístup smerovania niektorých požiadaviek týkajúcich sa vývoja umelej inteligencie na hraniciach vývoja na menej výkonnom modeli vyvolal kritiku zo strany výskumníkov, ktorí tvrdili, že obmedzenia by mohli spomaliť pokrok v tejto oblasti. V reakcii na negatívnu reakciu Anthropic súhlasil so zverejnením ochranných opatrení.

„Od tohto týždňa sa označené požiadavky viditeľne vrátia späť na Opus 4.8 – rovnako ako naše záruky pre kybernetickú bezpečnosť a biológiu. Toto uvidíte vždy, keď sa to stane. Na rozhraní API všetky označené požiadavky vrátia dôvod svojho zamietnutia,“ uviedla spoločnosť Anthropic.

Fable 5 je verejne vydaný model z triedy Mythos od spoločnosti Anthropic, ktorý spoločnosť predstavila v apríli, ale spočiatku ho zadržala s tým, že modely v tejto rodine boli príliš zdatné v obchádzaní kybernetických bezpečnostných záruk a príliš nebezpečné na široké nasadenie. Spoločnosť Anthropic tento týždeň vydala Fable 5 s tým, že jeho schopnosti „prevyšujú schopnosti každého modelu, ktorý sme predtým všeobecne sprístupnili“.

Vo svojom najnovšom vyhlásení spoločnosť Anthropic uviedla, že bude pokračovať v znižovaní úrovne niektorých požiadaviek v rámci politík zakazujúcich používanie jej modelov na vytváranie konkurenčných systémov umelej inteligencie a dodala, že takéto obmedzenia sú v tomto odvetví štandardné a neovplyvňujú väčšinu prác v oblasti kódovania a strojového učenia.

Spoločnosť tiež uviedla ako dôvod zamietnutia alebo zníženia úrovne niektorých požiadaviek národnú bezpečnosť s tým, že chce zabrániť zahraničným protivníkom v používaní jej technológie na posilnenie ich schopností v oblasti umelej inteligencie.

„USA a ich spojenci majú výhodu v oblasti pohraničných čipov a vysoko optimalizovaného softvéru, ktorý ich prevádzkuje na plný potenciál,“ povedal hovorca spoločnosti pre Fortune. „Tieto záruky zabezpečujú, že Claude [rodina modelov umelej inteligencie od Anthropic] nebude zneužitá na narušenie tejto výhody – napríklad optimalizáciou čipov vyvinutých týmito protivníkmi.“