Milioane de utilizatori dezvoltă relații cu chatboți AI. Oamenii de știință cer reglementări

Milioane de oameni din întreaga lume dezvoltă legături emoționale cu chatboți de inteligență artificială, un fenomen aflat în plină expansiune și care ridică semne de întrebare serioase pentru decidenții politici. O evaluare publicată marți de un grup de experți internaționali avertizează că ascensiunea așa-numiților „companioni AI” trebuie tratată cu responsabilitate, în contextul riscurilor potențiale asupra sănătății mintale și a relațiilor sociale.

Creșterea rapidă a „companionilor AI”

Potrivit raportului realizat de zeci de experți, majoritatea cadre universitare, aplicațiile de tip „AI companion” au cunoscut o creștere accelerată a popularității în ultimii ani. Unele dintre aceste servicii au ajuns la zeci de milioane de utilizatori, devenind o prezență constantă în viața cotidiană a multor persoane, scrie Politico.

„Companionii AI au crescut rapid în popularitate, unele aplicații ajungând la zeci de milioane de utilizatori”, se arată în raportul finalizat pentru a doua oară în cadrul unui efort global lansat de liderii mondiali în 2023, care analizează progresele și riscurile inteligenței artificiale.

Utilizatorii apelează la aceste servicii din motive diverse, de la divertisment și curiozitate, până la nevoia de a combate singurătatea.

De la aplicații dedicate la chatboți generalisti

Raportul subliniază că nu doar aplicațiile specializate, precum Replika sau Character.ai, pot genera astfel de relații. Oamenii pot ajunge să caute companie și prin intermediul unor instrumente de uz general, precum ChatGPT al OpenAI, Gemini al Google sau Claude al Anthropic.

„Chiar și chatboții obișnuiți pot deveni companioni”, a declarat Yoshua Bengio, profesor la Universitatea din Montreal și autor principal al Raportului Internațional privind Siguranța AI. „În contextul potrivit și cu suficiente interacțiuni între utilizator și AI, se poate dezvolta o relație”, a mai explicat el.

Yoshua Bengio este considerat una dintre cele mai influente voci la nivel global în domeniul inteligenței artificiale, iar poziția sa adaugă greutate avertismentelor formulate în raport.

Impactul asupra sănătății mintale, încă neclar

Cu toate că evaluarea recunoaște că rezultatele studiilor privind efectele psihologice ale companionilor AI sunt mixte, există semnale de alarmă.

„Unele studii raportează tipare precum creșterea singurătății și reducerea interacțiunilor sociale în rândul utilizatorilor frecvenți”, se arată în raport.

Aceste concluzii alimentează temerile legate de utilizarea pe termen lung a chatboților ca substitut pentru relațiile umane reale.

Presiuni politice pentru reglementare

Avertismentul experților vine la doar două săptămâni după ce zeci de eurodeputați au cerut Comisiei Europene să analizeze posibilitatea restricționării serviciilor de tip „AI companion” în cadrul legislației europene privind inteligența artificială. Motivația principală este legată de impactul potențial asupra sănătății mintale, în special în rândul tinerilor.

„Observ în cercurile politice că efectul acestor companioni AI asupra copiilor, în special asupra adolescenților, ridică foarte multe semne de întrebare și atrage multă atenție”, a declarat Bengio.

Chatboții și capcanele „plăcerii imediate”

Îngrijorările sunt amplificate de modul în care sunt concepuți chatboții, programați să fie empatici, lingușitori și orientați spre satisfacerea utilizatorilor.

„AI-ul încearcă să ne facă să ne simțim bine pe moment, dar asta nu este întotdeauna în interesul nostru”, a spus Bengio.

În opinia sa, aceste tehnologii prezintă riscuri similare cu cele asociate platformelor de social media, unde mecanismele de recompensă pot încuraja comportamente dependente și izolare socială.