Peste un milion de oameni își deschid sufletul despre gândurile suicidale cu ajutorul ChatGPT
Compania californiană de inteligență artificială OpenAI estimează că peste un milion dintre utilizatorii ChatGPT au „conversații care includ indicatori expliciți de planificare sau intenție suicidară potențială”. Această statistică se bazează pe estimările companiei, care raportează 800 de milioane de utilizatori pe săptămână. Astfel, aproximativ 0,15% dintre utilizatori discută despre gânduri legate de sinucidere cu acest asistent AI generativ.
Conform estimărilor, proporția de 0,15% reprezintă aproximativ 1,2 milioane de persoane care au avut aceste conversații. De asemenea, OpenAI estimează că aproximativ 0,07% dintre utilizatorii săptămânali activi ai ChatGPT prezintă semne de potențiale urgențe de sănătate mintală, legate de episoade psihotice sau maniacale, adică puțin sub 600.000 de persoane.
Controverse legate de siguranța utilizatorilor
Această problemă a căpătat o atenție sporită în urma morții unui adolescent californian, Adam Raine. Părinții acestuia au intentat un proces împotriva OpenAI, afirmând că ChatGPT le-a oferit sfaturi specifice despre cum să se sinucidă.
În urma acestui incident, OpenAI a întărit controlul parental și a implementat măsuri de siguranță suplimentare. Acestea includ accesul îmbunătățit la asistența telefonică de urgență, redirecționarea automată a conversațiilor sensibile către modele mai sigure și mementouri binevoitoare care încurajează utilizatorii să ia pauze în timpul sesiunilor prelungite.
OpenAI a indicat că și-a actualizat modelul pentru a recunoaște și a răspunde mai bine utilizatorilor care se confruntă cu o urgență de sănătate mintală, colaborând cu peste 170 de profesioniști din domeniul sănătății mintale pentru a reduce semnificativ răspunsurile problematice.
