Un directeur sportif d’un lycée de la région de Baltimore a été arrêté jeudi après avoir utilisé un logiciel d’intelligence artificielle, a indiqué la police, pour fabriquer un clip audio raciste et antisémite se faisant passer pour le directeur de l’école.
Dazhon Darien, le directeur sportif de l’école secondaire de Pikesville, a fabriqué l’enregistrement – y compris une tirade sur « des enfants noirs ingrats qui ne peuvent pas sortir d’un sac en papier » – dans le but de diffamer le directeur, Eric Eiswert, selon à le département de police du comté de Baltimore.
Le faux enregistrement, qui a été publié sur Instagram à la mi-janvier, s’est rapidement répandu, bouleversant les écoles publiques du comté de Baltimore, qui est le 22e plus grand district scolaire du pays et accueille plus de 100 000 élèves. Pendant que le district enquêtait, M. Eiswert, qui a nié avoir fait ces commentaires, a été inondé de menaces contre sa sécurité, a indiqué la police. Il a également été mis en congé administratif, a indiqué le district scolaire.
M. Darien fait désormais face à des accusations, notamment pour avoir perturbé le fonctionnement de l’école et traqué le directeur.
M. Eiswert a renvoyé une demande de commentaires à un groupe professionnel pour les directeurs, le Conseil des employés administratifs et de surveillance, qui n’a pas répondu à l’appel d’un journaliste. M. Darien, qui a déposé une caution jeudi, n’a pas pu être contacté dans l’immédiat pour commenter.
L’affaire du comté de Baltimore n’est que la dernière indication d’une escalade des abus d’IA dans les écoles. De nombreux cas incluent des deepfakes, ou des vidéos, des fichiers audio ou des images modifiés numériquement qui peuvent sembler réels de manière convaincante.
Depuis l’automne dernier, les écoles à travers les États-Unis se sont efforcées de résoudre des incidents troublants de deepfake dans lesquels des étudiants masculins ont utilisé des applications de « nudification » d’IA pour créer de fausses images nues de leurs camarades de classe, dont certaines étaient des collégiennes âgées d’à peine 12 ans. L’incident de fausse voix dans le comté de Baltimore indique un autre risque d’IA pour les écoles du pays – cette fois pour les éducateurs chevronnés et les dirigeants de district.
Les fausses calomnies de vengeance peuvent se produire sur n’importe quel lieu de travail, mais elles constituent un spectre particulièrement inquiétant pour les responsables des écoles chargés de la protection et de l’éducation des enfants. Un responsable du comté de Baltimore a averti jeudi que la propagation rapide des nouveaux outils d’IA générative dépassait les protections scolaires et les lois de l’État.
“Nous entrons également dans une nouvelle frontière profondément inquiétante”, a déclaré jeudi Johnny Olszewski, l’exécutif du comté de Baltimore, lors de commentaires publics sur l’arrestation. Il a ajouté que les dirigeants communautaires devaient « jeter un regard plus large sur la façon dont cette technologie peut être utilisée et abusée pour nuire à d’autres personnes ».
Le récit de la police sur l’affaire du comté de Baltimore montre à quelle vitesse une désinformation pernicieuse et profonde peut se propager dans les écoles, causant des dommages durables aux éducateurs, aux étudiants et aux familles.
Selon des documents de police, M. Darien a développé un grief contre M. Eiswert en décembre après que le directeur a commencé à enquêter sur lui. M. Darien avait autorisé un paiement du district de 1 916 $ à son colocataire, a indiqué la police, « sous prétexte » que le colocataire travaillait comme entraîneur adjoint pour l’équipe de football féminine de Pikesville.
Peu de temps après, a indiqué la police, M. Darien a utilisé les services Internet du district scolaire pour rechercher des outils d’intelligence artificielle, notamment auprès d’OpenAI, le développeur du chatbot ChatGPT, et de Bing Chat de Microsoft.
(Le New York Times a poursuivi OpenAI et son partenaire Microsoft en décembre pour violation du droit d’auteur sur du contenu d’actualité lié aux systèmes d’IA.)
À la mi-janvier, M. Darien a envoyé par courrier électronique un faux clip audio se faisant passer pour le directeur, à lui-même et à deux autres employés du lycée, selon la police. L’e-mail, dont l’objet était « Principal de Pikesville – Enregistrement dérangeant », a été envoyé à partir d’un compte Gmail qui semblait appartenir à un tiers inconnu mais qui était lié au numéro de téléphone portable de M. Darien, selon les documents de la police.
L’un de ces employés de l’école a ensuite envoyé l’enregistrement fabriqué aux agences de presse et à l’Association nationale pour l’avancement des personnes de couleur, selon des documents de la police. Elle l’a également transmis à un élève dont « elle savait qu’il diffuserait rapidement le message sur divers réseaux sociaux et dans toute l’école », indiquent les documents.
Bientôt, un compte Instagram qui suit la criminalité locale a publié le faux audio raciste, affirmant qu’il s’agissait d’un « discours sur les étudiants noirs » et désignant le directeur comme orateur. Le clip audio, qui dure moins d’une minute, a été partagé plus de 27 000 fois et a généré plus de 2 800 commentaires, dont beaucoup appelant au licenciement du directeur.
La police affirme que cette diatribe deepfake a eu de « profondes répercussions », mettant à rude épreuve la confiance entre les familles, les enseignants et les administrateurs de Pikesville High.
Des parents et des élèves bouleversés et en colère ont inondé l’école d’appels. Certains enseignants, selon la police, craignaient que « des appareils d’enregistrement aient pu être installés à divers endroits de l’école ». Pour répondre aux problèmes de sécurité, la police a accru sa présence à l’école.
La police a également assuré une certaine surveillance de la sécurité de M. Eiswert, qui a reçu une avalanche de messages et d’appels téléphoniques harcelants, certains le menaçant, lui et sa famille, de violence.
Dans des commentaires publics lors d’une réunion du conseil scolaire en janvier, William Burke, directeur exécutif du Conseil des employés administratifs et de surveillance, qui représente le directeur, a déclaré que les médias sociaux et les médias d’information avaient permis aux commentateurs de condamner M. Eiswert sans « aucune preuve et aucune preuve ». aucune responsabilité.
« S’il vous plaît, ne vous précipitez pas pour porter un jugement », a plaidé M. Burke. “S’il vous plaît, rendez l’enquête sûre et équitable.”
Deux experts extérieurs qui ont ensuite analysé l’enregistrement pour le compte du département de police du comté de Baltimore ont conclu que le clip audio avait été manipulé. Un expert a déclaré qu’il contenait « des traces de contenu généré par l’IA avec édition humaine après coup », selon des documents de la police.
Leave a Reply