En Floride, un collégien a été interpellé pour avoir posé une query inquiétante à une IA. Les autorités rappellent la gravité de ce sort de comportements dans un contexte marqué par la multiplication des fusillades scolaires.
Un adolescent de 13 ans a été arrêté aux États-Unis après avoir demandé à ChatGPT remark tuer un camarade de classe « en plein cours ». Le fait s’est produit à la Southwestern Center College de Deland, une ville située au nord d’Orlando, en Floride, rapporte la chaîne locale WFLA.
L’élève s’est connecté depuis un appareil de son établissement pour interroger l’intelligence artificielle. Sa démarche a immédiatement été détectée par Gaggle, un système de surveillance scolaire alimenté par IA, qui a alerté la police. Le bureau du shérif du comté de Volusia a rapidement interpellé le jeune garçon, placé ensuite en détention. Une vidéo diffusée sur les réseaux sociaux montre l’adolescent menotté à sa sortie d’une voiture de police.
Lors de son interrogatoire, le collégien a affirmé qu’il ne faisait que « troller » un ami et qu’il s’agissait d’une easy blague. Mais pour les forces de l’ordre, la scenario était suffisamment grave pour justifier une intervention immédiate. « Mother and father, veillez à parler à vos enfants afin qu’ils ne commettent pas la même erreur », ont déclaré les autorités, déplorant une « scenario d’urgence sur le campus ».
Si Gaggle est présenté comme un outil de prévention destiné à protéger les élèves, son utilisation fait polémique. Le système est accusé de créer un climat de surveillance permanente dans les écoles et d’avoir déjà généré de fausses alertes à plusieurs reprises.
A lire aussi :
Les États-Unis annoncent une offensive contre les gangs, appelant au partage des responsabilités internationales