Halucinații generate de inteligența artificială într-un document juridic
Firma de avocatură Sullivan & Cromwell, de elită pe Wall Street, a recunoscut că un document important depus într-un caz de mare anvergură conținea erori cauzate de „halucinații” generate de inteligența artificială. Andrew Dietderich, codirectorul grupului global de restructurare al firmei, și-a cerut scuze judecătorului federal din New York, Martin Glenn, pentru greșelile incluzând citate inexacte.
Erorile au fost descoperite de firma de avocatură Boies Schiller Flexner, care colabora la același caz. Printre greșelile semnalate se numără citarea eronată a codului falimentului din SUA și citarea incorectă a unor cazuri într-un document depus pe 9 aprilie. Sullivan & Cromwell a utilizat inteligența artificială pentru a formula concluziile rezumate, dar acest proces a dus la depunerea de informații inexacte.
„Regretăm profund că s-a întâmplat acest lucru”, a declarat Dietderich. „Îmi cer scuze în numele întregii noastre echipe. Am contactat Boies Schiller Flexner pentru a le mulțumi că ne-au adus această problemă în atenție și pentru a le cere scuze direct.”
Firma a afirmat că are „politici cuprinzătoare și cerințe de formare care reglementează utilizarea instrumentelor de IA în activitatea juridică”, menite să detecteze orice erori potențiale. Totuși, scrisoarea a menționat că aceste politici nu au fost respectate și că procesul de revizuire secundară nu a identificat citatele inexacte generate de IA. Ulterior, Sullivan & Cromwell a depus o versiune corectată a documentului în instanță.
Avocaților nu li se interzice utilizarea inteligenței artificiale, dar au obligația etică de a asigura acuratețea documentelor depuse la instanță. Scrisoarea nu a specificat ce program de IA a fost utilizat pentru elaborarea documentului, nici cine au fost avocații implicați și dacă au fost luate măsuri împotriva lor din cauza erorilor.
Cazul a implicat reprezentarea de către Sullivan & Cromwell a lichidatorilor numiți de autoritățile juridice din Insulele Virgine Britanice, care desfășoară acțiuni legale împotriva Prince Group, deținută de omul de afaceri chinez Chen Zhi. Anul trecut, procurorii americani l-au acuzat pe Chen de fraudă electronică și spălare de bani, susținând că el a condus operațiuni de exploatare a muncii forțate în Cambodgia, provocând pierderi de miliarde de dolari victimelor din Statele Unite și din întreaga lume.
Prince Group a negat acuzațiile, calificându-le drept nefondate. Chen a fost arestat în Cambodgia la începutul acestui an și extrădat în China la cererea autorităților chineze.
