Medicii britanici au folosit un software AI neautorizat pentru a înregistra consultațiile medicale
Medicii din Marea Britanie au recurs la un software de inteligență artificială (Ambient Voice Technology sau AVT) care nu îndeplinește standardele minime necesare, pentru a înregistra și transcrie consultațiile cu pacienții, conform unei investigații. Departamentul pentru Sănătate (NHS) a solicitat medicilor și spitalelor să renunțe la utilizarea acestui software, subliniind că ar putea prezenta riscuri pentru pacienți, având în vedere că tehnologia are acces la informațiile personale ale acestora.
Solicitarea NHS vine la doar două săptămâni după ce instituția a promovat beneficiile utilizării AI pentru luarea notițelor, afirmând că aceasta ar permite medicilor să se concentreze mai mult asupra pacienților. Într-o scrisoare din 9 iunie, NHS a declarat: “Suntem acum conștienți de o serie de soluții AVT care, în ciuda faptului că nu sunt conforme, sunt încă utilizate pe scară largă în practica clinică. Mulți dintre furnizorii acestor programe nu au respectat standardele de bază ale NHS. Continuarea cu soluții neconforme riscă să pună în pericol siguranța clinică, dar încalcă și protecția datelor.”
Informațiile despre utilizarea acestui software sunt îngrijorătoare pentru profesioniștii din domeniul sănătății, având în vedere presiunea exercitată de companiile de inteligență artificială care promovează produsele de ascultare. Ofițerii NHS au subliniat că, deși este important să se experimenteze cu noi tehnologii, este necesară stabilirea unor norme clare pentru a distinge programele sigure de cele necorespunzătoare.
Utilizarea inteligenței artificiale în domeniul medical a fost încurajată de către ministrul Sănătății din Marea Britanie. Cu toate acestea, experții avertizează asupra riscurilor, inclusiv fenomenul “halucinațiilor AI”, în care tehnologia generează răspunsuri false și poate induce în eroare în contexte critice, ceea ce ar putea avea consecințe grave în domeniul sănătății.
