Návrhy zákonov napísané umelou inteligenciou sú plné chýb a zaplavujú americký Kongres – Politico

Americkí kongresoví právnici zápasia so záplavou chybných legislatívnych návrhov generovaných umelou inteligenciou, čo ich núti tráviť čoraz viac času prepisovaním návrhov vytvorených chatbotmi, informoval v pondelok denník Politico.

Zamestnanci a externé skupiny sa čoraz častejšie obracajú na ChatGPT a Claude s cieľom vytvoriť legislatívny text, pričom návrhy plné chýb sa pravidelne dostávajú do Kancelárie legislatívneho poradcu (OLC) Snemovne reprezentantov, uviedlo osem súčasných a bývalých úradníkov, s ktorými viedol rozhovory portál vlastnený spoločnosťou Axel Springer.

V niektorých prípadoch právnici „strávia viac času opravou legislatívy vypracovanej umelou inteligenciou, ako by im trvalo, keby ju vypracovali od základu,“ uviedol jeden človek, ktorý radí zamestnancom Kongresu v oblasti tejto technológie.

OLC pomáha zákonodarcom premeniť politické návrhy na zákony a zabezpečiť, aby zodpovedali existujúcim americkým zákonom. Návrhy generované umelou inteligenciou však údajne prišli s nesprávnymi zákonnými odkazmi, zmätenými právnymi definíciami a formuláciami, ktoré by mohli mať v prípade prijatia nezamýšľané následky.

Jeden príklad, ktorý uviedol denník Politico, definoval „štát“ spôsobom, ktorý by mohol vylúčiť Washington, DC alebo kmeňové národy z federálneho programu. Umelá inteligencia môže tiež zamieňať právne mechanizmy, ako sú daňové úľavy, odpočty a granty.

Tieto chyby prispievajú k už aj tak veľkej pracovnej záťaži. OLC má 61 právnikov a 19 podporných pracovníkov a počas prvých 60 dní súčasného Kongresu dostala 5 623 legislatívnych žiadostí, čo je o 72 % viac ako v rovnakom období pred dvoma rokmi.

Používanie umelej inteligencie sa na Kapitole stáva čoraz bežnejším, uviedli pre Politico štyria kongresoví zamestnanci s tým, že chatboti sa používajú na kontrolu a navrhovanie legislatívy. Zavedenie generatívnych nástrojov však už viedlo k množstvu verejných chýb.

Canadian politician reads AI prompt aloud in legislature without realizing it:

"Here's a more natural, flowing version of that section that reads like a legislative speech rather than a series of short points" pic.twitter.com/S2Q0aV2Ufp

— CR1337 (@CR1337) July 26, 2026

V júni kancelária republikánskej zástupkyne Anny Pauliny Lunovej zverejnila zhrnutie pozmeňujúceho návrhu obsahujúce slová „Claude odpovedal:“ spolu s ďalším textom skopírovaným z chatbota. Luna uviedla, že umelá inteligencia bola použitá na zhrnutie, a nie na samotný pozmeňujúci návrh, a dodala, že zahrnutie Claudových poznámok „nie je prekvapujúce. Väčšina zamestnancov ju používa“.

Podobná epizóda sa nedávno stala v Kanade, kde zákonodarca z New Brunswicku Bill Oliver priznal, že použil umelú inteligenciu na prípravu dlhého prejavu po tom, čo v zákonodarnom zbore nahlas prečítal zvyšné pokyny od chatbota, vrátane: „Tu je prirodzenejšia a plynulejšia verzia tejto časti, ktorá sa číta ako legislatívny prejav, a nie ako séria krátkych bodov.“

Chyby súvisiace s umelou inteligenciou sa dostali aj na americké súdy. Dvaja federálni sudcovia sa minulý rok dostali pod drobnohľad kvôli rozhodnutiam obsahujúcim nepresné citácie, faktické chyby a nesprávne odkazy na prípady, pričom umelá inteligencia bola údajne zapojená do najmenej jedného prípadu.

Ministerstvo zahraničných vecí sa minulý mesiac tiež ospravedlnilo po použití mapy vygenerovanej umelou inteligenciou, ktorá nesprávne umiestnila všetkých šesť afrických krajín, ktoré označila.

Napriek týmto chybám OLC skúma aj to, ako by umelá inteligencia mohla pomôcť jeho vlastnej práci. Úrad v marci oznámil Kongresu, že vytvoril pracovnú skupinu na preskúmanie využití, ako je právny výskum, a už zaviedol špecializovanú technológiu, ktorá pomôže jeho právnikom pri navrhovaní legislatívy.