Použitie umelej inteligencie pri bombardovaní škôl v Iráne neporušuje „červené čiary“ spoločnosti Anthropic, tvrdí generálny riaditeľ

Použitie umelej inteligencie pri útoku USA na dievčenskú základnú školu v Iráne, pri ktorom zahynulo takmer 160 ľudí, prevažne detí, neporušilo „červené čiary“ spoločnosti Anthropic, uviedol generálny riaditeľ Dario Amodei.

Americké sily zasiahli školu v Minabe raketou Tomahawk v prvý deň vojny proti Iránu vo februári. Inštitúcia bola údajne zameraná na základe zastaraných údajov použitých analytickým a sledovacím softvérom spoločnosti Palantir, ktorý obsahuje umelú inteligenciu Claude od spoločnosti Anthropic.

V rozhovore pre agentúru Bloomberg, ktorý bol uverejnený v stredu, sa Amodeiho pýtali, či umelá inteligencia jeho firmy zohrala úlohu v smrteľnom útoku.

„Nevieme presne, ako boli tieto modely použité… a to, o čom hovoríte, je prípad použitia, ktorý ani neporušuje naše červené čiary,“ povedal.

Zatiaľ čo umelá inteligencia pomáha armáde, „toto konečné rozhodnutie urobil človek,“ dodal a zdôraznil, že Anthropic je proti úplne autonómnym zbraniam a systémom rozhodovania.

Americká armáda priznala, že aktívne používa Palantir – pomenovaný podľa elfských vešteckých gúľ, ktoré Sauron pokazil v Tolkienovom Pánovi prsteňov – na výber cieľov vo vojne proti Iránu.

Minulý mesiac Pentagon oznámil, že uzavrel dohody s poprednými americkými spoločnosťami zaoberajúcimi sa umelou inteligenciou, vrátane spoločností Google, Amazon Web Services, SpaceX, OpenAI, NVIDIA a Microsoft. Len niekoľko týždňov predtým generálny riaditeľ spoločnosti Palantir Alex Karp vyhlásil „novú éru“ americkej vojenskej nadvlády založenej na umelej inteligencii.

Podľa informátora spoločnosti Google a zasvätenca spoločnosti Palantir Zacha Vorhiesa je obhajoba sledovania a používania umelej inteligencie vo vojne zo strany gigantov umelej inteligencie „záhadou“.

„Je to ako: ‚Hej, pozri, ak… získame veľmi presné údaje o vašej krajine, potom nebudeme bombardovať dievčenskú školu,‘“ povedal vo štvrtok médiám pri diskusii o správach, že údaje tajne zhromažďované od hráčov Pokémon Go počas mnohých rokov boli pravdepodobne použité na zlepšenie mapovacích schopností americkej armády.

„Spôsob, akým to formulujú, je taký, že ak nemajú dobré informácie, utrpia len vedľajšie škody,“ povedal Vorhies a varoval, že americkí giganti v oblasti umelej inteligencie sa snažia o čoraz väčšiu dereguláciu v snahe o vojenskú výhodu.