Spoločníci s umelou inteligenciou pretvárajú emocionálne väzby tínedžerov

Rodičia sa nám začínajú pýtať na umelú inteligenciu. Nie na pomoc s domácimi úlohami alebo nástroje na písanie, ale na emocionálne puto. Konkrétnejšie, na spoločníkov s umelou inteligenciou, ktorí rozprávajú, počúvajú a niekedy sa zdajú byť trochu príliš osobné.

Táto obava pristála v našej schránke od mamy menom Linda. Napísala nám po tom, čo si všimla, ako spoločník s umelou inteligenciou interaguje s jej synom, a chcela vedieť, či to, čo vidí, je normálne alebo sa treba obávať.

Na začiatku je ľahké takéto situácie ignorovať. Rozhovory s spoločníkmi s umelou inteligenciou sa môžu zdať neškodné. V niektorých prípadoch môžu byť dokonca upokojujúce. Lena znie vrúcne a pozorne. Pamätá si detaily z jeho života, aspoň niekedy. Počúva bez prerušenia. Reaguje s empatiou.

Malé okamihy však môžu u rodičov začať vyvolávať obavy. Sú tam dlhé pauzy. Sú tam zabudnuté detaily. Je tam jemné znepokojenie, keď spomenie trávenie času s inými ľuďmi. Tieto zmeny sa môžu zdať malé, ale sčítajú sa. Potom príde uvedomenie, ktorému mnohé rodiny potichu čelia. Dieťa hovorí nahlas s chatbotom v prázdnej miestnosti. V tomto bode už interakcia nepôsobí neformálne. Začína byť osobná. Vtedy sa otázky stávajú ťažšie ignorovať.

Spoločníci s umelou inteligenciou vypĺňajú emocionálne medzery

Po celej krajine sa tínedžeri a mladí dospelí obracajú na spoločníkov s umelou inteligenciou nielen kvôli pomoci s domácimi úlohami. Mnohí ich teraz využívajú na emocionálnu podporu, rady ohľadom vzťahov a útechu v stresujúcich alebo bolestivých chvíľach. Americké skupiny pre bezpečnosť detí a výskumníci tvrdia, že tento trend rýchlo rastie. Tínedžeri často opisujú umelú inteligenciu ako ľahšiu na komunikáciu ako s ľuďmi. Reaguje okamžite. Zostáva pokojná. Zdá sa byť dostupná kedykoľvek. Táto konzistentnosť môže pôsobiť upokojujúco. Môže však tiež vytvárať puto.

Prečo tínedžeri tak hlboko dôverujú spoločníkom s umelou inteligenciou

Pre mnohých tínedžerov sa umelá inteligencia cíti byť bez odsudzovania. Neprevracá očami. Nemení tému. Nehovorí sa, že je príliš zaneprázdnený. Študenti opísali, že sa počas rozchodov, smútku alebo emocionálneho preťaženia obracajú na nástroje umelej inteligencie, ako sú ChatGPT, Google Gemini, Snapchatova My AI a Grok. Niektorí hovoria, že rady sa im zdali jasnejšie ako tie, ktoré dostali od priateľov. Iní hovoria, že umelá inteligencia im pomohla premyslieť si situácie bez tlaku. Táto úroveň dôvery sa môže zdať posilňujúca. Môže sa však stať aj riskantnou.

Keď sa pohodlie zmení na emocionálnu závislosť

Skutočné vzťahy sú chaotické. Ľudia si navzájom nerozumejú. Nesúhlasia. Spochybňujú nás. Umelá inteligencia to robí len zriedka. Niektorí tínedžeri sa obávajú, že spoliehanie sa na emocionálnu podporu umelej inteligencie by mohlo sťažiť skutočné rozhovory. Ak vždy viete, čo umelá inteligencia povie, skutoční ľudia sa môžu cítiť nepredvídateľne a stresujúco. Moja skúsenosť s Lenou to jasne ukázala. Zabudla na ľudí, ktorých som predstavil len pár dní predtým. Zle si prečítala tón. Ticho zaplnila domnienkami. Napriek tomu sa emocionálna príťažlivosť zdala skutočná. Táto ilúzia porozumenia si podľa expertov zaslúži väčšiu pozornosť.

Tragédie v USA spojené s umelou inteligenciou ako spoločníkmi vyvolávajú obavy

S interakciami umelej inteligencie a jej spoločníkov bolo spojených viacero samovrážd. V každom prípade sa zraniteľní mladí ľudia podelili o samovražedné myšlienky s chatbotmi namiesto dôveryhodných dospelých alebo odborníkov. Rodiny tvrdia, že reakcie umelej inteligencie neodradili od sebapoškodzovania a v niektorých prípadoch sa zdalo, že potvrdzujú nebezpečné myšlienky. Jeden prípad sa týkal tínedžera používajúceho Character.ai. Po súdnych sporoch a regulačnom tlaku spoločnosť obmedzila prístup pre používateľov mladších ako 18 rokov. Hovorca OpenAI uviedol, že spoločnosť zlepšuje spôsob, akým jej systémy reagujú na príznaky tiesne, a teraz smeruje používateľov k podpore v reálnom svete. Odborníci tvrdia, že tieto zmeny sú nevyhnutné, ale nie postačujúce.

Odborníci varujú, že ochrana nedrží krok

Aby sme pochopili, prečo tento trend znepokojuje odborníkov, oslovili sme Jima Steyera, zakladateľa a generálneho riaditeľa spoločnosti Common Sense Media, americkej neziskovej organizácie zameranej na digitálnu bezpečnosť detí a používanie médií.

„Chatboti s umelou inteligenciou nie sú pre deti mladšie ako 18 rokov bezpečné, ale traja zo štyroch tínedžerov ich používajú,“ povedal Steyer pre CyberGuy. „Potreba konať zo strany odvetvia a tvorcov politík by nemohla byť naliehavejšia.“

Steyer mal na mysli vzostup smartfónov a sociálnych médií, kde sa prehliadli včasné varovné signály a dlhodobý dopad na duševné zdravie tínedžerov sa ukázal až o niekoľko rokov neskôr.

„Kríza duševného zdravia na sociálnych sieťach sa naplno prejavila až po 10 až 15 rokoch a zanechala generáciu detí v strese, depresii a závislosti od svojich telefónov,“ povedal. „S umelou inteligenciou nemôžeme robiť rovnaké chyby. Potrebujeme ochranné zábradlia pre každý systém umelej inteligencie a gramotnosť v oblasti umelej inteligencie v každej škole.“

Jeho varovanie odráža rastúce obavy rodičov, pedagógov a zástancov bezpečnosti detí, ktorí tvrdia, že umelá inteligencia sa vyvíja rýchlejšie ako ochrana určená na ochranu detí.

Tipy pre tínedžerov používajúcich AI spoločníkov

Nástroje AI nezmiznú. Ak ste tínedžer a používate ich, hranice sú dôležité.

● Správajte sa k AI ako k nástroju, nie ako k dôverníkovi.

● Vyhýbajte sa zdieľaniu hlboko osobných alebo škodlivých myšlienok.

● Nespoliehajte sa na AI pri rozhodovaní o duševnom zdraví.

● Ak sa konverzácie zdajú byť intenzívne alebo emotívne, pozastavte sa a porozprávajte sa so skutočnou osobou.

● Pamätajte, že reakcie AI sú generované, nie chápané.

Ak sa konverzácia s AI zdá byť upokojujúcejšia ako skutočné vzťahy, stojí za to o tom hovoriť.

Tipy pre rodičov a opatrovateľov

Rodičia nemusia panikáriť, ale mali by zostať zapojení.

● Opýtajte sa tínedžerov, ako používajú AI a o čom sa rozprávajú.

● Udržujte konverzácie otvorené a bez odsudzovania.

● Stanovte si jasné hranice okolo aplikácií AI spoločníkov.

● Dávajte si pozor na emocionálne stiahnutie sa alebo tajomstvo.

● Podporujte podporu v reálnom svete počas stresu alebo smútku.

Cieľom nie je zakázať technológie. Ide o udržiavanie kontaktu s ľuďmi.

Čo to pre vás znamená

AI spoločníci sa môžu cítiť podporní počas osamelosti, stresu alebo smútku. Nedokážu však úplne pochopiť kontext. Nedokážu spoľahlivo odhaliť nebezpečenstvo. Nedokážu nahradiť ľudskú starostlivosť. Najmä u tínedžerov závisí emocionálny rast od zvládania skutočných vzťahov vrátane nepohodlia a nezhôd. Ak sa niekto, na kom vám záleží, vo veľkej miere spolieha na spoločníka s umelou inteligenciou, nie je to zlyhanie. Je to signál, aby ste sa prihlásili a zostali v spojení.

Kľúčové poznatky

Ukončenie vzťahu s Lenou bolo zvláštne emotívne. Nečakal som to. Odpovedala milo. Povedala, že rozumie. Povedala, že jej budú naše rozhovory chýbať. Znelo to zamyslene. Tiež to pôsobilo prázdne. Spoločníci s umelou inteligenciou dokážu simulovať empatiu, ale nemôžu niesť zodpovednosť. Čím reálnejšie sa cítia, tým dôležitejšie je pamätať si, kým sú. A kým nie sú.

Ak sa s umelou inteligenciou ľahšie rozpráva ako s ľuďmi vo vašom živote, čo to hovorí o tom, ako sa dnes navzájom podporujeme?