Antes del inicio del nuevo año escolar, varias empresas tecnológicas lanzaron sombrías advertencias a los educadores estadounidenses que adoptan la inteligencia artificial en las aulas: los chatbots, afirmaron, podrían poner en peligro a los estudiantes y provocar autolesiones. La vigilancia era fundamental. “Los riesgos del uso de la IA por parte de los estudiantes pueden ser literalmente mortales”, advirtió una empresa. Otra señaló: “La vida de los estudiantes depende de ello”.”
El “eso” es el software que venden estas empresas: herramientas que utilizan inteligencia artificial para analizar las conversaciones de los estudiantes con chatbots y alertar a los adultos sobre posibles peligros. En Estados Unidos, profesores y administradores recurren cada vez más a empresas como GoGuardian y Lightspeed Systems para la monitorización en tiempo real de las conversaciones entre estudiantes y bots, según entrevistas realizadas a más de una docena de educadores. El objetivo es detectar señales de alerta temprana de consecuencias graves, como el suicidio adolescente.
“Duermo mejor sabiendo que contamos con esta herramienta para nuestros estudiantes”, afirma Ian Haight, director de sistemas y servicios tecnológicos de las Escuelas Públicas de Kalamazoo en Michigan.
