Google reaguje na „rasistickú“ kontroverziu AI

Niektoré z odpovedí generovaných umelou inteligenciou Gemini od Google boli „problematické“ a „preukázali zaujatosť“, uviedol generálny riaditeľ Sundar Pichai v stredu v e-maile pre celú spoločnosť a prisľúbil, že tento problém vyrieši.

Pichaiov e-mail sa dostal do viacerých médií vrátane Semafor a Pirate Wires, ktoré ho zverejnili v plnom rozsahu.

„Chcem vyriešiť nedávne problémy s problematickými textovými a obrazovými odpoveďami v aplikácii Gemini (predtým Bard),“ napísal Pichai. „Viem, že niektoré z jeho odpovedí urazili našich používateľov a ukázali zaujatosť – aby bolo jasné, je to úplne neprijateľné a my sme sa mýlili.“

Spoločnosť „nepretržite pracuje na riešení týchto problémov,“ dodal.

„Naša misia organizovať svetové informácie a urobiť ich všeobecne dostupnými a užitočnými je posvätná,“ pokračoval Pichai. „Vždy sme sa snažili poskytnúť používateľom užitočné, presné a nezaujaté informácie v našich produktoch. Preto im ľudia veria.“ To musí byť aj prípad AI, dodal.

Gemini spustili začiatkom tohto mesiaca, ale rýchlo narazili na problémy s obmedzujúcim programovaním „bezpečnosti“ a „diverzity“. Umelá inteligencia bola široko označovaná za „nepresnosti“ pri zobrazovaní rôznych historických postáv, od otcov zakladateľov USA a ruských cisárov až po katolíckych pápežov a dokonca aj nacistických nemeckých vojakov.

Gemini odpovedala na akékoľvek žiadosti o obrázky bielych ľudí slovami, že to „posilňuje škodlivé stereotypy a zovšeobecnenia o ľuďoch na základe ich rasy“. Takéto obrázky stelesňujú „stereotypný pohľad na belosť“, ktorý môže byť „škodlivý“ pre spoločnosť ako celok a ľudí, ktorí nie sú bieli, dodala AI podľa vyšetrovania Fox Business.

Pokiaľ ide o Pichaiove tvrdenia o posvätnosti presnosti, Google dlho cenzuroval a potláčal obsah, ktorý jej vedúci pracovníci neschvaľovali, údajne v mene boja proti „dezinformáciám“ a zlepšovania spoločnosti.

Niektorí kritici zo Silicon Valley už naznačili, že Pichaiov e-mail nebol určený na vnútornú spotrebu, ale bol určený na zverejnenie. Fejetonistka zo Substacku Lulu Cheng Meserveyová poznamenala, že obsahuje „marketingové slogany rozsypané všade“, ako aj „slovnú polievku, ktorá je pravdepodobne navrhnutá tak, aby čitateľa príliš unavila a zmätená na to, aby sa viac hneval“.

Meservey tiež odsúdil Pichaiovo používanie výrazu „problémový“ a obvinil generálneho riaditeľa Google, že zásadne nepochopil problém s Gemini.

„Spoločnosť Google sa zameriavala na to, aby ľudí neurážala namiesto faktickej presnosti, čo v prvom rade SPÔSOBILO problém,“ napísala.

Mike Solana z PirateWires s odvolaním sa na zasvätené zdroje v Google naznačil, že marketingoví a AI produktoví manažéri veria, že polemiku o zjavnom rasizme Gemini „z veľkej časti vymysleli pravicoví trollovia“ na X (predtým Twitter).