Forud for det nye skoleår udsendte en håndfuld tech-virksomheder dystre advarsler til amerikanske undervisere, der omfavnede kunstig intelligens i klasseværelset: Chatbots, sagde de, kunne bringe eleverne i fare og føre til selvskade. Årvågenhed var altafgørende. "Risikoen ved, at elever bruger AI, kan bogstaveligt talt være dødbringende," advarede et firma. Et andet bemærkede: "Elevernes liv afhænger af det."“
"Det" er den software, disse virksomheder sælger – værktøjer, der selv bruger kunstig intelligens til at scanne elevers samtaler med chatbots og advare voksne om potentiel fare. Over hele USA henvender lærere og administratorer sig i stigende grad til virksomheder som GoGuardian og Lightspeed Systems til realtidsovervågning af elev-bot-samtaler, ifølge interviews med mere end et dusin undervisere. Målet er at fange tidlige advarselstegn på alvorlige konsekvenser, herunder teenageselvmord.
“"Jeg sover bedre, velvidende at vi har dette værktøj til vores elever," siger Ian Haight, direktør for teknologisystemer og -tjenester for Kalamazoo Public Schools i Michigan.
