Pápež varuje pred „perverznými“ "deepfakes AI"

Pápež František varoval pred možnými nebezpečenstvami, ktoré predstavuje umelá inteligencia, pričom uviedol, že rýchlo napredujúca technológia by mohla viesť k „skresleniu reality“ bez „etickej regulácie“.

V dlhej správe zverejnenej v stredu pápež uviedol, že nedávny vývoj v oblasti umelej inteligencie bol „vzrušujúci a dezorientujúci“, no zároveň vyvolal hlbšie otázky o vzťahu ľudstva k technológii. „Ako môžeme zostať úplne ľuďmi a viesť túto kultúrnu transformáciu tak, aby slúžila dobrému účelu?“ napísal.

„Systémy umelej inteligencie môžu pomôcť prekonať nevedomosť a uľahčiť výmenu informácií medzi rôznymi národmi a generáciami,“ napísal pápež. „Zároveň však môžu byť zdrojom ‚kognitívneho znečistenia‘, skresľovania reality čiastočne alebo úplne falošnými naratívmi, ktorým sa verí a vysielajú, akoby boli pravdivé.

Pápež ďalej citoval „dlhoročný problém dezinformácií vo forme falošných správ“ a poznamenal, že on sám sa stal obeťou „deepfakes“ – veľmi presvedčivých obrázkov alebo zvuku generovaných AI, ktoré sa zvyčajne používajú na vydávanie sa za verejné osobnosti.

„Technológia simulácie za týmito programami môže byť užitočná v určitých špecifických oblastiach, ale stáva sa zvrátenou, keď narúša náš vzťah s ostatnými a s realitou,“ pokračoval Francis.

„Digitálna revolúcia nám môže priniesť väčšiu slobodu, ale nie vtedy, ak nás uväzní v modeloch, ktoré sa dnes nazývajú ‚echo komory‘.

Vodca cirkvi bol minulý rok zobrazený na vymyslenom obrázku, na ktorom mal oblečenú štýlovú bundu po členky. Falošný bol údajne vytvorený pomocou Midjourney, umeleckého nástroja založeného na AI, podľa jeho samoidentifikovaného tvorcu. Obrázok sa stal virálnym na sociálnych sieťach a oklamal mnohých používateľov.

Zatiaľ čo ľudia by mali „odložiť katastrofické predpovede“ o budúcnosti AI, Francis tvrdil, že táto technológia by mohla „skončiť vytváraním nových kást na základe prístupu k informáciám“ a viesť k „novým formám vykorisťovania a nerovnosti“. Aby sa predišlo najhorším výsledkom, zdôraznil potrebu „pochopiť, oceniť a regulovať nástroje, ktoré by v nesprávnych rukách mohli viesť k znepokojujúcim scenárom“.

„Ako každý iný produkt ľudskej inteligencie a zručnosti, ani algoritmy nie sú neutrálne. Z tohto dôvodu je potrebné pôsobiť preventívne, navrhovaním modelov etickej regulácie, aby sa predišlo škodlivým, diskriminačným a sociálne nespravodlivým vplyvom využívania systémov umelej inteligencie a aby sa bojovalo proti ich zneužívaniu,“ povedal s tým, že záväzná medzinárodná zmluva“ upravujúca používanie a rozvoj AI.