OpenAI susține că peste un milion de utilizatori își confesează gândurile suicidale către ChatGPT

OpenAi a scos la iveală cifre sumbre în ceea ce privește discuțiile cu celebrul său asistent cu inteligență artificială (IA). Compania, cu sediul în California, estimează că un număr semnificat de utilizatori ChatGPT se confesează chatbotului cu privire la intenții suicidale.

Câti utilizatori ai ChatGPT au purtat conversații care indică intenții suicidale

OpenAI estimează că aproximativ 0,15% dintre utilizatori au „conversații care includ indicatori expliciți de planificare sau potențială intenție suicidară”. Mai exact, peste un milion de persoane i-au confesat asistentului cu inteligență artificială gândurile lor de autovătămare.  Anunțul a fost făcut de OpenAI, luni, printr-o postare pe blogul oficial.

Având în vedere că OpenAI declară 800 de milioane de utilizatori activi săptămânal, înseamnă că aproximativ 1,2 milioane de persoane poartă discuții cu ChatGPT despre intenția de a-și pune capăt vieții. De asemenea, compania estimează că aproximativ 0,07% dintre utilizatorii activi săptămânal ai ChatGPT sunt potențiale cazuri de urgențe prvind sănătatea mintală. Din această categorie fac parte persoane cu episoade psihotice sau maniacale. Numărul lor total este puțin sub 600.000 de oameni, relatează Le Figaro.

De ce a fost dat OpenAI în judecată de părinții unui adolescent

Părinții unui adolescent din California, Adam Raine, au dat în judecată OpenAI, după ce fiul lor s-a sinucis. Aceștia au susținut că ChatGPT i-a oferit sfaturi explictive tânărului despre cum să-și pună capăt vieții.

De atunci, OpenAI a consolidat controalele parentale și a implementat alte măsuri de siguranță. Printre acestea se numără facilitarea accesului la liniile telefonice de urgență sau redirecționarea automată a conversațiilor către modele mai sigure.  De asemenea, utilizatorii care prezintă intentii suicidale primesc mementouri blânde care-i îndeamnă să ia pauze în timpul sesiunilor prelungite.

OpenAI a declarat, de asemenea, că și-a actualizat modelul pentru a recunoaște și a răspunde mai bine utilizatorilor care se confruntă cu o urgență de sănătate mintală. Compania susține că lucrează cu peste 170 de profesioniști în sănătate mintală pentru a reduce semnificativ răspunsurile problematice.