Pápež použil umelú inteligenciu na varovanie pred nebezpečenstvami umelej inteligencie, tvrdí výskumník

Analytik Linch Zhang tvrdí, že „významné časti“ nedávnej encykliky pápeža Leva XIV. o nebezpečenstvách umelej inteligencie boli v skutočnosti napísané umelou inteligenciou.

V 42 000-slovnej encyklike „Magnifica Humanitas“ (Veľkolepé ľudstvo) pápež varoval pred rastúcou, štátom podobnou mocou Silicon Valley, nemorálnosťou autonómnych zbraní a nebezpečenstvom, ktoré by umožnilo umelej inteligencii „postaviť novú Babylonskú vežu“ a zredukovať ľudské bytosti na „zdroj, ktorý sa má používať a využívať“.

Napriek výzve na reguláciu a „odzbrojovanie“ umelej inteligencie, veľké časti „Magnifica Humanitas“ vykazujú určité zjavné znaky toho, že boli napísané umelou inteligenciou, tvrdil Zhang v utorok v blogovom príspevku.

„Frázy a interpunkcia, ktoré oveľa častejšie používa umelá inteligencia, sú v tejto pápežskej encyklike oveľa častejšie prítomné ako v predchádzajúcich encyklikách,“ napísal Zhang a poukázal na používanie dlhých pomlčiek v dokumente (127 prípadov v porovnaní s 26 v štyroch encyklikách pápeža Františka) a „trikolónov: série troch paralelných slov, fráz alebo viet používaných na rétorický efekt“.

Po prehľadaní textu cez detektor umelej inteligencie Pangram Zhang zistil, že niektoré odseky boli „v podstate 0 % napísané umelou inteligenciou“, ale iné boli napísané umelou inteligenciou na 40 % až 100 %. Všetky štyri Františkove encykliky boli zaregistrované ako úplne napísané človekom, rovnako ako spisy pápežov Benedikta XVI. a Jána Pavla II. Pangram tiež označil taliansku verziu encykliky za umelú inteligenciu, čo naznačuje, že umelá inteligencia nebola použitá len na preklad dokumentu.

Keď Zhangov experiment zopakoval denník The Verge, približne 46 % encykliky bolo napísaných umelou inteligenciou.

Špecifický model LLM (veľkého jazyka) použitý na vytvorenie textu bol pravdepodobne Claude z Anthropicu, tvrdil Zhang s odvolaním sa na svoju vlastnú znalosť Claudea a nadmerného používania určitých slov, ako napríklad „skutočne“.

Skutočnosť, že niektoré odseky sa zdajú byť úplne bez umelej inteligencie, naznačuje, že „niektorí vysokí predstavitelia Vatikánu vo veľkej miere využívali pomoc umelej inteligencie pre túto encykliku a mnohí (pravdepodobne vrátane samotného pápeža Leva) ju nepoužívali,“ napísal Zhang.

„Moja predbežná hypotéza je, že pápež Lev neschvaľuje používanie umelej inteligencie v encyklikách a pravdepodobne si ani nebol vedomý významného použitia umelej inteligencie vo svojej vlastnej encyklike,“ uzavrel Zhang.

Vatikán sa k Zhangovým tvrdeniam nevyjadril. Ani Anthropic, ktorého spoluzakladateľ Christopher Olah predniesol v pondelok prejav po boku pápeža.