Spoločnosť Deloitte prichytená pri podávaní vládnej správy v hodnote 50 000 dolárov s chybami umelej inteligencie

Austrálska pobočka britskej „veľkej štvorky“ účtovníckej firmy Deloitte súhlasila s čiastočným preplatením nákladov na správu, ktorú vypracovala pre vládu v Canberre po tom, čo sa zistilo, že dokument obsahuje viacero faktických chýb vytvorených umelou inteligenciou, informoval v nedeľu denník Australian Financial Review.

Ministerstvo práce a pracovných vzťahov (DEWR) potichu nahradilo pôvodnú správu, ktorá bola zverejnená v júli, revidovanou 237-stranovou verziou minulý piatok, tesne pred predĺženým víkendom. Úradníci pôvodne uviedli, že aktualizácia pridala nové informácie a opravila „niektoré poznámky pod čiarou a odkazy“.

Akademik Univerzity v Sydney Chris Rudge predtým poukázal na početné zjavné „halucinácie“ typické pre rozsiahle jazykové modely, čo viedlo spoločnosť Deloitte k spusteniu interného preskúmania v auguste.

Aktualizovaná správa obsahuje nové zverejnenie potvrdzujúce, že pri jej príprave bola použitá umelá inteligencia – konkrétne model Azure OpenAI GPT-4o od spoločnosti Microsoft. Taktiež opravuje viac ako tucet chýb vrátane odkazov na neexistujúce súdne rozhodnutie a akademické práce, ako aj vymyslený citát pripisovaný sudkyni Jennifer Daviesovej (v prvej verzii s chybným napísaním „Davis“), zástupkyni prezidenta Austrálskeho tribunálu pre hospodársku súťaž.

Rudge pre Financial Review uviedol, že priznanie spoločnosti Deloitte premenilo to, čo bolo predtým „silnou hypotézou“, na istotu, aj keď jej priznanie bolo „skryté v metodologickej časti“.

Hovorca DEWR potvrdil, že Deloitte „súhlasil so splatením poslednej splátky podľa svojej zmluvy“, hoci suma nebola zverejnená. Úplná štúdia o počítačovom uplatňovaní automatizovaných sankcií v austrálskom systéme sociálneho zabezpečenia stála 440 000 austrálskych dolárov (približne 290 000 dolárov).

Rudge, expert na sociálne zabezpečenie, si údajne prvýkrát všimol, že niečo nie je v poriadku, keď správa citovala knihu, ktorú údajne napísala jeho kolegyňa zo Sydney University Lisa Burton Crawfordová. Názov sa zdal byť mimo jej oblasti odbornosti a ukázalo sa, že vôbec neexistuje.