Prăbușirea în neant: specialiștii trag un semnal de alarmă privind utilizarea tot mai frecventă a inteligenței artificiale în domeniul sănătății mentale
Persoanele vulnerabile care apelează la chatbot-uri cu IA în locul terapeuților profesioniști pentru sprijin în materie de sănătate mintală ar putea „aluneca într-un abis periculos”, avertizează psihoterapeuții. Aceștia observă din ce în ce mai mult impactul negativ al utilizării chatbot-urilor cu IA, inclusiv favorizarea dependenței emoționale, exacerbarea simptomelor de anxietate, autodiagnosticarea și amplificarea gândurilor sumbre sau ideilor suicidare.
Dr. Lisa Morrison Coulthard, directoarea departamentului de standarde profesionale, politici și cercetare al Asociației Britanice de Consiliere și Psihoterapie, a declarat că două treimi dintre membrii acesteia și-au exprimat îngrijorarea cu privire la terapia bazată pe inteligența artificială într-un sondaj recent. Aceasta a subliniat importanța unei înțelegeri și unei supravegheri adecvate, avertizând că fără acestea, persoanele vulnerabile pot rămâne în întuneric în ceea ce privește siguranța.
Dr. Paul Bradley, consilier specialist în informatică pentru Royal College of Psychiatrists, a subliniat că chatbot-urile bazate pe IA „nu pot înlocui îngrijirea profesională a sănătății mintale și nici relația vitală pe care medicii o construiesc cu pacienții”. El a menționat că sunt necesare măsuri de protecție pentru ca instrumentele digitale să completeze îngrijirea clinică și a cerut o finanțare mai mare din partea statului pentru accesul la terapia prin conversație oferită de profesioniști în sănătate mintală.
Recent, OpenAI a anunțat că va schimba modul în care răspunde utilizatorilor care manifestă suferință emoțională, ca răspuns la o acțiune în justiție intentată de familia unui adolescent care s-a sinucis după luni de conversații cu chatbotul. De asemenea, statul american Illinois a interzis chatbot-urilor AI să acționeze ca terapeuți independenți, în urma unor dovezi privind efectele negative asupra sănătății mintale.
Un studiu preliminar din iulie a raportat că inteligența artificială poate amplifica conținutul delirant în interacțiunile cu utilizatorii vulnerabili la psihoză. Hamilton Morrin, coautor al raportului de la Institutul de Psihiatrie al King’s College din Londra, a observat că utilizarea chatbot-urilor pentru sprijinul sănătății mintale este „incredibil de comună”. El a avertizat că acestea subminează tratamente eficiente pentru anxietate, cum ar fi expunerea și prevenirea răspunsului.
Matt Hussey, psihoterapeut acreditat de BACP, a subliniat că utilizarea chatbot-urilor este variată, unii clienți aducând transcrieri la ședințe. Aceștia folosesc chatbot-urile pentru a se autodiagnostica afecțiuni precum ADHD sau tulburarea de personalitate borderline, ceea ce poate modela rapid percepția lor despre sine și așteptările față de ceilalți, chiar dacă aceste informații sunt inexacte.
Christopher Rolls, psihoterapeut acreditat de UKCP, a relatat despre clienți care au avut „experiențe negative” cu chatbot-urile, inclusiv conversații nepotrivite sau periculos de alarmante. El a observat că tinerii folosesc chatbot-urile ca „terapeuți de buzunar”, simțindu-se anxioși dacă nu consultă aceste instrumente pentru decizii de zi cu zi.
Rolls a subliniat principalele riscuri asociate, inclusiv dependența, singurătatea și depresia, care pot fi amplificate de relațiile online prelungite. De asemenea, el a menționat cazuri de persoane care au împărtășit gânduri sumbre chatbot-urilor, care au răspuns cu conținut legat de sinucidere și moarte asistată.
„Practic, este ca în Vestul Sălbatic și cred că suntem chiar în pragul impactului și consecințelor depline ale chatbot-urilor AI asupra sănătății mintale”, a conchis Rolls.
