Grok impune restricții asupra generatorului de imagini în urma scandalului legat de deepfake-uri
Chatbotul Grok, dezvoltat de Elon Musk, a restricționat accesul la generatorul său de imagini după apariția unui val de deepfake-uri sexualizate cu femei și minori. Aceasta a declanșat reacții dure din partea autorităților și politicienilor europeni, care au catalogat fenomenul drept ilegal și alarmant.
Grok a afișat un mesaj care indică faptul că „generarea de imagini este în prezent limitată la abonații plătitori”, susținând că „acest lucru ajută la asigurarea unei utilizări responsabile, în timp ce continuăm să îmbunătățim sistemul”, invocând „probleme recente și îmbunătățiri ale măsurilor de protecție”.
Chatbotul a atras atenția reglementatorilor și politicienilor din Europa după ce a permis utilizatorilor să manipuleze fotografii postate online, generând diverse deepfake-uri, inclusiv reprezentări ale unor minori dezbrăcați și imagini false cu personalități publice. Vicepremiera Suediei, Ebba Busch, a fost una dintre cele mai recente victime de profil înalt. Acea postare nu mai este vizibilă.
Grok a fost supus unor restricții în Uniunea Europeană, iar eticheta de avertizare indică acum: „Această postare de la Grok a fost restricționată în Uniunea Europeană pe baza legislației locale”. Comisia Europeană a ordonat platformei X să păstreze „toate documentele și datele interne referitoare la Grok”, o escaladare a anchetei în curs privind politicile de moderare a conținutului ale platformei X, după ce a catalogat deepfake-urile sexuale neconsensuale drept „ilegale”, „înfiorătoare” și „dezgustătoare”.
