Vatikán varuje pred „tieňom zla“ v AI

Globálne centrum katolicizmu vydalo dôrazné varovanie pred nebezpečenstvom technológie umelej inteligencie, varovalo, že jej zneužitie by mohlo destabilizovať spoločnosť, a vyzýva na jej zodpovedný rozvoj.

V práve vydanom dokumente s názvom Antiqua et nova Vatikán skúma vzťah medzi ľudskou a strojovou inteligenciou a varuje, že klamlivý digitálny obsah by mohol „postupne podkopať základy spoločnosti“.

Objavujú sa obavy zo schopnosti pokročilých systémov vytvárať manipulované médiá, ktoré sa veľmi podobajú realite. Dokument varuje, že dezinformácie, aj keď sa šíria neúmyselne, môžu podnietiť politickú polarizáciu a sociálne nepokoje. „Tento problém si vyžaduje starostlivú reguláciu, pretože dezinformácie – najmä prostredníctvom médií kontrolovaných alebo ovplyvňovaných AI – sa môžu šíriť neúmyselne,“ uvádza sa v správe.

Text tiež uznáva výhody technologického pokroku, ale varuje pred etickými rizikami. „Keď sa používajú spôsobmi, ktoré rešpektujú ľudskú dôstojnosť a podporujú blaho jednotlivcov a spoločenstiev, môžu pozitívne prispieť k ľudskému povolaniu. Napriek tomu, ako vo všetkých oblastiach, kde sú ľudia povolaní robiť rozhodnutia, aj tu sa črtá tieň zla,“ píše Antiqua et nova.

Vatikán tiež vyzval vlády a medzinárodné organizácie, aby zaviedli záruky proti zneužitiu technológie a dodal, že musí slúžiť ľudstvu a nie nahrádzať ľudskú inteligenciu.

Pápež František už predtým vyjadril obavy z tohto vývoja. V posolstve pre Svetové ekonomické fórum v Davose varoval, že automatizované systémy by mohli zhoršiť „krízu pravdy“ vytváraním obsahu na nerozoznanie od materiálu vytvoreného ľuďmi. Umelá inteligencia bola tento rok v Davose horúcou témou, pričom na fóre propagovalo svoje produkty mnoho technologických firiem.

Okrem dezinformácií sa Antiqua et nova zaoberá aj etickými dôsledkami v sektoroch, ako je práca, zdravotníctvo a vzdelávanie. Zdôrazňuje tiež nebezpečenstvo, ktoré predstavuje vedenie vojny, najmä vývoj automatizovaných zbraní. Dokument zdôrazňuje, že rozhodnutia o živote a smrti by nikdy nemali byť ponechané na stroje.