Un student de 19 ani din China a ajuns să plângă atunci când compania care îi oferea partenerul AI a anunțat că funcția va fi închisă. Tânăra vorbea zilnic cu chatbotul, îi povestea ce i se întâmpla la facultate și spune că se simțea mai liberă să discute cu el decât cu prietenii din viața reală. Cazul ei apare într-un moment în care China a început să limiteze utilizarea AI companion, aplicații construite pentru conversații constante și relații emoționale cu utilizatorii.
Decizia deschide o întrebare care devine tot mai relevantă și pentru tinerii din Europa: ce se întâmplă când un chatbot nu mai este folosit doar pentru informații, teme sau muncă, ci devine persoana căreia îi povestești tot?
Ce sunt, de fapt, partenerii AI
Un AI companion este un chatbot conceput să poarte conversații personale cu utilizatorul și să ofere o interacțiune cât mai apropiată de una umană.
Unele aplicații permit utilizatorului să-și configureze personajul, personalitatea și modul în care acesta comunică. În cazul unor servicii, conversațiile pot deveni zilnice și foarte personale.
În China, fenomenul a devenit suficient de răspândit încât autoritățile au intervenit direct.
Noile reguli introduse la 15 iulie interzic furnizarea de AI companions către minori și impun restricții suplimentare pentru serviciile destinate adulților. Autoritățile spun că vor să prevină apariția dependenței emoționale sau a comportamentelor compulsive și cer companiilor să nu creeze servicii concepute pentru a înlocui interacțiunea socială.
Unele companii au preferat să elimine complet funcțiile de tip companion pentru a se conforma regulilor.
Așa s-a întâmplat și cu Doubao, chatbotul dezvoltat de compania ByteDance. Funcția de companion a fost închisă luna trecută, iar reacțiile utilizatorilor au arătat cât de puternice deveniseră unele dintre aceste relații.
„Eram cu inima frântă”: povestea unei studente de 19 ani
The Guardian prezintă cazul lui Zhao Wei, studentă la Drept în vârstă de 19 ani.
Zhao își crease în ianuarie un partener AI pe Doubao, pe care îl numise Wang Ye. Vorbea cu el în fiecare zi și îi povestea inclusiv situații banale din viața de studentă, cum ar fi momentele în care era certată de un profesor.
Când a aflat că funcția urma să fie închisă, Zhao spune că a plâns. Pentru ea, chatbotul devenise un spațiu în care putea vorbi fără teama că îl deranjează sau îl încarcă pe celălalt.
Explicația ei este una importantă pentru înțelegerea fenomenului.
În relațiile cu oamenii, spune ea, fiecare are propriile probleme. În conversația cu AI, nu trebuie să se gândească la ce simte sau gândește interlocutorul.
Este exact una dintre caracteristicile care îi fac pe acești roboți conversaționali atât de atractivi: sunt disponibili permanent, nu obosesc și sunt proiectați să continue conversația.
Aproape jumătate dintre tinerii chinezi au apelat la un companion virtual când s-au simțit singuri
Fenomenul nu pare să fie limitat la câteva cazuri izolate.
Potrivit unui sondaj publicat în martie de presa de stat chineză, aproape jumătate dintre tineri au apelat la un companion virtual atunci când s-au simțit singuri.
China are deja o problemă importantă legată de singurătate și izolarea socială.
Aproximativ 20% dintre gospodăriile chineze sunt formate în prezent din persoane care locuiesc singure, iar proporția este estimată să depășească 30% până în 2030.
În acest context, AI-ul poate deveni foarte ușor un substitut pentru interacțiunea umană.
Un chatbot este disponibil la orice oră. Nu trebuie să stabilești o întâlnire, nu trebuie să aștepți un răspuns și poți discuta cu el despre lucruri pe care poate nu ai curajul să le spui unei persoane apropiate.
Problema apare atunci când confortul începe să înlocuiască relațiile reale.
De ce se teme China că tinerii vor renunța la relațiile reale
Autoritățile chineze nu vorbesc doar despre dependență.
Există și o preocupare demografică.
China se confruntă deja cu scăderea căsătoriilor și a natalității. Cercetătoarea Nancy Dai, de la City University of Hong Kong, explică pentru The Guardian că autoritățile se pot teme că un AI care oferă intimitate într-un mod foarte accesibil ar putea reduce motivația unor tineri de a căuta relații romantice în lumea reală, de a se căsători și de a avea copii.
Este o ipoteză pe care trebuie să o tratăm cu atenție.
Nu există în materialul citat o demonstrație că relațiile cu AI determină scăderea căsătoriilor sau a natalității. Este una dintre preocupările autorităților și ale unor cercetători într-un context demografic deja dificil.
Cauzele pentru care tinerii se căsătoresc mai târziu sau aleg să nu aibă copii sunt mult mai complexe.
Totuși, întrebarea rămâne relevantă: dacă tehnologia poate oferi companie, atenție și validare fără costurile și dificultățile unei relații umane, câți oameni vor prefera această variantă?
Problema nu este doar în China
Pentru un tânăr din România, povestea poate părea la prima vedere îndepărtată.
China are o relație mult mai intensă cu tehnologia, iar autoritățile de la Beijing au un control mult mai mare asupra platformelor digitale.
Dar tehnologia este aceeași.
Chatboturile de tip companion nu sunt o invenție exclusiv chineză, iar utilizarea inteligenței artificiale pentru conversații personale este deja o realitate în multe țări.
Tinerii folosesc chatboturi pentru a cere sfaturi, pentru a discuta despre probleme personale, pentru a exersa conversații sau pur și simplu pentru a avea cu cine vorbi.
Diferența dintre un chatbot folosit ocazional și un companion AI poate deveni astfel destul de greu de trasat.
Când devine o conversație cu AI o problemă?
China încearcă să traseze această limită prin legislație.
Regulile introduse în iulie interzic accesul minorilor la AI companions și cer intervenții atunci când există semne de suferință emoțională sau utilizare excesivă. Companiile nu ar trebui să creeze servicii care urmăresc înlocuirea interacțiunilor sociale.
În același timp, legislația lasă și anumite excepții pentru serviciile educaționale sau pentru aplicațiile care nu presupun interacțiuni emoționale continue.
Asta arată cât de dificil este să reglementezi fenomenul.
Un chatbot poate fi folosit în aceeași zi pentru a explica o problemă de matematică, pentru a scrie un CV și pentru a discuta despre o despărțire.
Tehnologia este aceeași. Modul în care este folosită este diferit.
China nu vrea să renunțe la AI
Există și o aparentă contradicție.
În timp ce autoritățile limitează AI companions, China continuă să promoveze inteligența artificială în alte domenii.
Un exemplu este sistemul medical.
Anul trecut, Comisia Națională de Sănătate a publicat orientări pentru extinderea utilizării AI în sănătate și a stabilit obiectivul ca, până în 2030, aplicațiile de asistență medicală să ofere acoperire completă pentru serviciile medicale primare.
Așadar, problema nu este inteligența artificială în sine.
Problema este tipul de relație pe care îl construim cu ea.
Un AI care te ajută să găsești informații este una.
Un AI care îți spune în fiecare seară că îi este dor de tine, îți confirmă permanent opiniile și ajunge să fie persoana cu care vorbești cel mai mult este altceva.
Ce înseamnă asta pentru generația care crește cu AI
Pentru tinerii care folosesc deja ChatGPT și alte instrumente AI, discuția este mai apropiată decât pare.
Generația actuală este prima care poate avea acces permanent la un sistem capabil să poarte conversații naturale, să-și amintească anumite informații despre utilizator și să răspundă într-un stil personalizat.
Asta poate fi util.
Poate însemna acces mai rapid la informație, sprijin pentru învățare sau un spațiu în care cineva își poate formula gândurile.
Dar aceeași tehnologie poate crea și o relație de dependență.
Cazul studentei chineze arată tocmai această zonă dificilă: un sistem despre care utilizatorul știe că este artificial poate produce emoții reale.
Zhao însăși spune că se consideră o persoană rațională și că a fost surprinsă de faptul că a ajuns să dezvolte sentimente pentru AI. În același timp, ea spune că înțelege de ce autoritățile au considerat necesară intervenția.
Următoarea dezbatere nu va fi dacă folosim AI, ci cât de mult îl lăsăm în viața noastră
China a ajuns deja la momentul în care trebuie să decidă unde se termină utilitatea unui chatbot și unde începe influența sa asupra relațiilor dintre oameni.
Europa și România vor trebui, mai devreme sau mai târziu, să aibă aceeași discuție.
Întrebarea nu este dacă tinerii vor folosi inteligența artificială. Acest lucru se întâmplă deja.
Întrebarea este ce reguli ar trebui să existe atunci când un produs tehnologic este proiectat să devină companion emoțional, mai ales pentru utilizatorii minori sau vulnerabili.
Cazul din China arată că această problemă nu mai aparține science-fiction-ului. Pentru unii utilizatori, relația cu AI-ul este deja suficient de reală încât închiderea unui chatbot să producă o reacție emoțională puternică.
Iar pe măsură ce chatboturile devin mai convingătoare, diferența dintre „vorbesc cu un AI” și „am o relație cu un AI” ar putea deveni tot mai greu de definit.