Pápež žiada „odzbrojenie“ zbraní umelej inteligencie

Pápež Lev XIV. vydal ostré varovanie pred umelou inteligenciou a tvrdil, že táto technológia napomáha „normalizácii vojny“ a prenáša právomoci nad životom a smrťou na nezodpovedných „technologických aktérov“.

Pápež narodený v Amerike prezentoval svoje varovanie v pondelok v encyklike s názvom „Magnifica Humanitas“ (Veľkolepé ľudstvo). V 42 000-slovnom dokumente Lev zdôraznil, ako sa „rast vojensko-priemyselného komplexu stal určujúcim prvkom súčasnej politickej krajiny“, čo viedlo k „znepokojujúcemu oživeniu vojny ako nástroja medzinárodnej politiky“.

V tomto prostredí „musí vývoj a používanie umelej inteligencie vo vojne podliehať najprísnejším etickým obmedzeniam, aby sa zaručila úcta k ľudskej dôstojnosti a posvätnosti života a aby sa predišlo pretekom vo vývoji takýchto zbraní,“ pokračoval.

Pápeži zvyčajne používajú encykliky na prezentovanie svojho učenia o sociálnych otázkach svojej doby. Pápež Lev XIII., ktorý inšpiroval meno súčasného pápeža, sa napríklad v diele „Rerum Novarum“ z roku 1891 venoval priemyselnej revolúcii a nerovnosti medzi vlastníctvom a robotníckou triedou, zatiaľ čo pápež František sa zaoberal klimatickými zmenami v diele „Laudato Si“ z roku 2015.

Od svojho zvolenia v máji minulého roka Lev XIV. opakovane varoval pred ničivou silou technológií a v prejave ku kardinálom minulý rok označil umelú inteligenciu za potenciálnu hrozbu pre „ľudskú dôstojnosť, spravodlivosť a prácu“. Jeho encyklika ide ešte o krok ďalej a vyzýva na globálnu zmluvu, ktorá by „odzbrojila“ túto technológiu, aby sa zabránilo jej „ovládnutiu ľudstva“.

Pápež sa púšťa do Silicon Valley

Hoci pápež nemenoval dodávateľov obrany zo Silicon Valley, ako sú Palantir a Anduril Industries, zdôraznil presun moci od štátu k „hlavným ekonomickým a technologickým aktérom“.

Spoločnosť Palantir sa v posledných rokoch stala obzvlášť mocnou vďaka svojmu softvéru na analýzu údajov založenému na umelej inteligencii, ktorý používa americká armáda na výber cieľov v Iráne a Izraelské obranné sily (IDF) na plánovanie útokov v Gaze. V Iráne softvér spoločnosti Palantir údajne vybral dievčenskú základnú školu v Minabe ako platný cieľ na základe zastaraných, ľudsky zostavených máp. Raketový útok na školu zabil viac ako 160 žiačok v prvý deň vojny.

Pápež odsúdil rastúcu automatizáciu vojen a vyhlásil, že „neprípustné zverovať smrteľné alebo inak nezvratné rozhodnutia umelým systémom“. Systémy s umelou inteligenciou si musia zachovať „reťazec zodpovednosti“, napísal a dodal, že „tí, ktorí navrhujú, školia, povoľujú a používajú technológie, musia byť zodpovední za svoje rozhodnutia“.

Pápežova encyklika je v ostrom kontraste s manifestom, ktorý minulý mesiac vydal generálny riaditeľ spoločnosti Palantir Alex Karp, v ktorom vyhlásil, že americké technologické spoločnosti majú „pozitívnu povinnosť“ pomáhať americkej armáde, vyzval na remilitarizáciu Nemecka a Japonska a argumentoval, že Západ by sa nemal zapájať do „divadelných debát o výhodách vývoja technológií s kritickými vojenskými a národnobezpečnostnými aplikáciami“.

Leo si však našiel spojencov v odvetví umelej inteligencie. Spoluzakladateľ spoločnosti Anthropic Christopher Olah sa v pondelok stretol s pápežom vo Vatikáne a publiku vysokých cirkevných predstaviteľov povedal, že laboratóriá umelej inteligencie fungujú „v rámci súboru stimulov a obmedzení, ktoré môžu byť niekedy v rozpore s konaním správnej veci“ a že regulácia tohto odvetvia je „morálnym imperatívom historických rozmerov“.

Spor s Trumpom

Olah aj Leo sa v posledných mesiacoch dostali do konfliktu s americkým prezidentom Donaldom Trumpom. Trump vo februári zrušil zmluvy Pentagonu so spoločnosťou Anthropic po tom, čo spoločnosť odmietla povoliť použitie jej softvéru na hromadné domáce sledovanie alebo plne autonómne zbrane. O dva mesiace neskôr Trump ostro pokarhal Lea a nazval ho „slabým“ kvôli jeho nesúhlasu s americko-izraelskou vojnou proti Iránu.

Leo označil Trumpovu hrozbu zničenia iránskej civilizácie za „skutočne neprijateľnú“ a pokarhal ministra vojny Peta Hegsetha za to, že nabádal Američanov, aby sa modlili za víťazstvo „v mene Ježiša Krista“. Boh, odpovedal pápež, „nepočúva modlitby tých, ktorí vedú vojnu“.

Pápež tiež odsúdil prebiehajúcu remilitarizáciu Európy a varoval, že znovuzbrojovanie „vyčerpáva investície do vzdelávania a zdravotnej starostlivosti, podkopáva dôveru v diplomaciu a obohacuje elity, ktorým nezáleží na spoločnom dobro“.