Un adolescent de 13 ani, reținut după ce a solicitat ajutorul ChatGPT pentru a-și elimina un coleg
Un elev de 13 ani din Florida a fost arestat după ce a folosit ChatGPT pe laptopul școlii pentru a întreba „cum să-și omoare prietenul în timpul orei”. Sistemul de monitorizare al instituției, bazat pe inteligență artificială, a semnalat imediat mesajul suspect, iar poliția a intervenit pe loc.
Adolescentul a susținut ulterior că „doar glumea”, însă autoritățile au tratat cazul ca pe o potențială amenințare, în contextul numărului ridicat de atacuri armate din școlile americane. Un sistem de monitorizare bazat pe inteligență artificială, numit Gaggle, a trimis automat o alertă polițistului responsabil cu siguranța campusului.
Ofițerul a reușit să îl rețină pe elev la Southwestern Middle School din orașul DeLand, situat la aproximativ o oră nord de Orlando. Autoritățile nu au considerat incidentul o simplă farsă, ținând cont de numeroasele atacuri armate produse în școlile din Statele Unite, cel mai grav fiind masacrul de la liceul Marjory Stoneman Douglas din Parkland, Florida, unde 17 persoane au fost ucise.
Poliția din comitatul Volusia l-a arestat pe adolescent și l-a transportat la centrul local de detenție pentru minori. Autoritățile au avertizat părinții să monitorizeze atent activitățile copiilor pe ChatGPT, subliniind că „o glumă se poate transforma într-o urgență școlară”.
De asemenea, poliția a îndemnat părinții să discute cu copiii lor pentru a evita repetarea unei astfel de greșeli. Deși sistemul Gaggle este considerat eficient în detectarea timpurie a comportamentelor îngrijorătoare, acesta a fost criticat pentru numărul ridicat de alerte false și pentru că generează un mediu asemănător unui „stat de supraveghere” în școli, ridicând întrebări legate de echilibrul dintre siguranța elevilor și dreptul la viață privată.
