Švajčiarska univerzita tajne uskutočnila experiment s umelou inteligenciou na manipuláciu s mysľou

Významná švajčiarska univerzita sa dostala pod paľbu kritiky za vykonanie tajného experimentu na používateľoch platformy sociálnych médií Reddit, ktorého cieľom bolo otestovať, ako by sa umelá inteligencia (AI) mohla použiť na ovplyvnenie ich názorov. Platforma uviedla, že zvažuje právne kroky.

Podľa správ z médií skupina výskumníkov na Univerzite v Zürichu v posledných mesiacoch vykonala neoprávnenú štúdiu na r/ChangeMyView, jednej z najväčších debatných komunít Redditu. Experiment zahŕňal chatboty s umelou inteligenciou, ktoré sa vydávali za bežných používateľov a zapájali sa do diskusií o kontroverzných otázkach.

Boti, ktorých účty boli odvtedy zablokované, zverejnili na subreddite viac ako 1 700 komentárov. Používali falošné identity, ako napríklad mužská obeť znásilnenia, ktorá bagatelizovala traumu zo svojho útoku, černoch, ktorý sa postavil proti hnutiu Black Lives Matter, a poradca pre domáce traumy, ktorý tvrdil, že najzraniteľnejšie ženy sú tie, ktoré „chránia prehnane ochranárski rodičia“.

Ďalší bot bol použitý na skenovanie používateľských profilov a predkladanie personalizovaných argumentov v reakcii.

Výskumníci prezradili experiment moderátorom subredditu niekoľko mesiacov po jeho uskutočnení a nazvali ho „krokom zverejnenia v štúdii“.

Vo vyhlásení zverejnenom minulý týždeň moderátorský tím Redditu uviedol, že platforma zakazuje používanie nezverejneného obsahu alebo botov generovaných umelou inteligenciou. Hlavný právny zástupca Redditu, Ben Lee, uviedol, že ani spoločnosť, ani moderátori r/ChangeMyView nemali predchádzajúce vedomosti o tom, čo nazval „nevhodným a vysoko neetickým experimentom“. Dodal, že Reddit pripravuje formálne právne požiadavky, ktoré zašle Univerzite v Zürichu a zapojeným výskumníkom.

Výskumníci uviedli, že štúdia sa riadila zásadami „etického“ výskumu a transparentnosti. Etická komisia univerzity argumentovala, že výskum spôsobil len malú škodu. Napriek tomu používatelia subredditu reagovali šokovane a hnevom na to, že na nich boli nevedomky vykonávané experimenty.

Časopis Science citoval e-mailové vyhlásenie univerzity, v ktorom sa uvádza, že výskumníci sa rozhodli nezverejniť výsledky. Univerzita uviedla, že incident vyšetrí.

Používanie botov s umelou inteligenciou – falošných účtov navrhnutých tak, aby napodobňovali skutočných používateľov – v posledných rokoch na platformách sociálnych médií neustále rastie. Odborníci tvrdia, že sa čoraz viac používajú na formovanie verejnej mienky, najmä v súvislosti s voľbami.

Západné vlády, predovšetkým USA a Spojené kráľovstvo, už dlho obviňujú Rusko z prevádzkovania rozsiahlych „botových fariem“ s cieľom zasahovať do ich volebných procesov – obvinenia Moskva opakovane poprela. Niektorí západní aktéri sa však sami dostali pod drobnohľad za používanie botov v dezinformačných kampaniach, pričom verejne varovali pred zahraničným zasahovaním.