Holandský regulačný orgán vydal varovanie pred voľbami v súvislosti s umelou inteligenciou

Holandský úrad na ochranu údajov (AP) varoval voličov, aby sa pred národnými voľbami nespoliehali na rady chatbotov s umelou inteligenciou. Tvrdí, že tieto nástroje poskytujú nespoľahlivé informácie a mohli by používateľov nasmerovať k dvom hlavným opozičným stranám.

Rady poskytované umelou inteligenciou neúmerne uprednostňovali dva vedúce bloky – pravicovú Stranu za slobodu (PVV) a ľavicovú alianciu GroenLinks-PvdA – pričom táto koncentrácia kontrastuje s vysoko fragmentovaným 15-stranovým holandským parlamentom, uviedol regulačný orgán. Prieskumy verejnej mienky predpokladajú, že tieto dva bloky by mohli v voľbách 29. októbra získať niečo vyše tretiny hlasov, dodal.

Podľa správy sa niektoré strany, vrátane stredopravicovej CDA, „takmer nikdy nespomínajú, a to ani vtedy, keď vstup používateľa presne zodpovedá postojom jednej z týchto strán“.

„Chatboti sa môžu zdať ako šikovné nástroje, ale ako pomôcka pri hlasovaní neustále zlyhávajú,“ uviedla podpredsedníčka dozorného orgánu Monique Verdierová a označila ich fungovanie za „nejasné a ťažko overiteľné“.

Povedala, že technológia riskuje, že nasmeruje voličov k strane, ktorá nemusí nevyhnutne odrážať ich politické názory.

„Preto varujeme pred používaním chatbotov s umelou inteligenciou na poradenstvo pri voľbách,“ dodala Verdierová.

Agentúra testovala štyri hlavné chatboty, ktoré nemenovala, a zistila, že niekedy radili voliť jednu z dvoch hlavných strán, aj keď boli explicitne informovaní o volebnom programe menšej strany.

Predčasné voľby v Holandsku boli spustené pred mesiacmi rozpadom pravicovej koalície po tom, čo strana PVV, vedená poslancom Geertom Wildersom, odišla z parlamentu. Hlasovanie sa všeobecne vníma ako súťaž medzi vytvorením novej, čisto konzervatívnej vlády alebo centristickejšej či stredopravicovej koalície.

Medzinárodná štúdia koordinovaná Európskou vysielacou úniou a BBC zistila, že hlavní asistenti s umelou inteligenciou, vrátane ChatGPT a Gemini od spoločnosti Google, skresľovali obsah správ v takmer polovici svojich odpovedí. Výskum analyzoval viac ako 3 000 odpovedí vygenerovaných umelou inteligenciou v 14 jazykoch a dospel k záveru, že 45 % obsahovalo „aspoň jeden významný problém“ pri riešení otázok súvisiacich so správami.

Spoločnosti OpenAI a Microsoft už predtým uznali, že takzvané „halucinácie“ – prípady, v ktorých systém umelej inteligencie generuje nesprávne alebo zavádzajúce informácie – zostávajú problémom, na ktorom pracujú.