Umelá inteligencia by mohla deťom uškodiť viac než sociálne siete – tvrdí bývalý manažér Googlu.

Umelá inteligencia by mohla pre deti predstavovať väčšie riziko ako sociálne médiá, keďže technologické spoločnosti nezavádzajú primerané ochranné opatrenia, varoval bývalý výkonný riaditeľ pre bezpečnosť spoločnosti Google.

Tom Siegel, ktorý založil tím pre dôveru a bezpečnosť spoločnosti Google a strávil v spoločnosti 15 rokov, tento týždeň pre agentúru Reuters povedal, že odvetvie opakuje chyby, ku ktorým došlo počas vzostupu sociálnych médií.

„Nachádzame sa v naozaj hroznej situácii, pokiaľ ide o to, čo umelá inteligencia robí deťom,“ povedal Siegel. „Predstava, že odvetvie na to príde samo bez vonkajšej pomoci, je nereálna.“

Varoval pred „veľmi vážnymi scenármi ujmy“, pričom uviedol riziká od samovrážd a psychózy až po „kognitívne preťaženie“ – znížené kritické myslenie spôsobené spoliehaním sa na umelú inteligenciu pri odpovediach. Spoločnosti môžu a mali by podniknúť okamžité kroky vrátane prísnejších kontrol veku, aby zabránili deťom v prístupe k chatbotom, povedal.

Spoločnosť Google trvala na tom, že jej vyhľadávacie funkcie umelej inteligencie pomáhajú mladým používateľom učiť sa a skúmať informácie, a agentúre Reuters povedal, že rodičia môžu úplne zablokovať prístup dieťaťa k jej vyhľadávaču. Avšak interný dokument o politike spoločnosti Meta, ktorý publikácia odhalila minulý rok, umožňoval jej chatbotom zapájať deti do konverzácií, ktoré mohli byť „romantické alebo zmyselné“, čo viedlo k vyšetrovaniu Kongresu.

Veľké platformy sociálnych médií čelia už roky súdnym sporom kvôli tvrdeniam o ujme na deťoch a tínedžeroch. Meta nedávno súhlasila s vyrovnaním vo výške 17 miliárd dolárov s Kaliforniou a 28 ďalšími štátmi USA kvôli obvineniam, že Facebook a Instagram boli zámerne navrhnuté tak, aby udržali maloletých v závislosti od internetu, pričom popierali akékoľvek priestupky. V USA boli podané tisíce podobných prípadov.

Vlády tiež prijali opatrenia na obmedzenie prístupu detí k sociálnym médiám. Austrália sa minulý rok stala prvou krajinou, ktorá od veľkých platforiem vyžadovala, aby zabránili osobám mladším ako 16 rokov vlastniť účty. Krátko po nadobudnutí účinnosti pravidiel bolo obmedzených približne 4,7 milióna účtov maloletých.

EÚ minulý týždeň navrhla zakázať deťom mladším ako 13 rokov prístup na sociálne médiá a umožniť osobám vo veku 13 a 14 rokov používať iba obmedzené účty spravované rodičom alebo zákonným zástupcom. Navrhované pravidlá by sa vzťahovali aj na spoločníkov s umelou inteligenciou a chatbotov.

Siegelovo varovanie prichádza v čase, keď významní technologickí manažéri vrátane generálneho riaditeľa spoločnosti Anthropic Daria Amodeiho, šéfa spoločnosti OpenAI Sama Altmana, šéfa spoločnosti xAI Elona Muska a spoluzakladateľa spoločnosti Google DeepMind Demisa Hassabisa podporili výzvy na spomalenie vývoja čoraz výkonnejších systémov umelej inteligencie. Výskumník spoločnosti Anthropic Evan Hubinger tento mesiac uviedol, že osobne verí, iż existuje viac než 10-percentná pravdepodobnosť, že by umelá inteligencia mohla v priebehu nasledujúceho desaťročia „zahubiť všetkých ľudí“.