À l'approche de la rentrée scolaire, plusieurs entreprises technologiques ont lancé de sombres avertissements aux enseignants américains qui envisagent d'utiliser l'intelligence artificielle en classe : les chatbots, ont-elles affirmé, pourraient mettre les élèves en danger et les pousser à l'automutilation. La vigilance est de mise. “ Les risques liés à l'utilisation de l'IA par les élèves peuvent être mortels ”, a averti une entreprise. Une autre a souligné : “ La vie des élèves en dépend. ”
Ce “ logiciel ”, ce sont les outils que ces entreprises vendent : des solutions qui utilisent l’intelligence artificielle pour analyser les conversations des élèves avec des chatbots et alerter les adultes en cas de danger potentiel. Aux États-Unis, de plus en plus d’enseignants et de responsables scolaires se tournent vers des entreprises comme GoGuardian et Lightspeed Systems pour surveiller en temps réel les échanges entre élèves et chatbots, d’après des entretiens avec une douzaine d’éducateurs. L’objectif est de détecter les premiers signes avant-coureurs de situations graves, notamment le suicide chez les adolescents.
“ Je dors mieux en sachant que nous disposons de cet outil pour nos élèves ”, déclare Ian Haight, directeur des systèmes et services technologiques des écoles publiques de Kalamazoo, dans le Michigan.
