新学年伊始，几家科技公司向美国教育工作者发出严峻警告，指出在课堂上引入人工智能可能会危及学生安全，甚至导致自残行为。他们强调，保持警惕至关重要。“学生使用人工智能的风险可能致命，”一家公司警告说。另一家公司则指出：“学生的生命安全取决于此。”
这里所说的“它”指的是这些公司销售的软件——这些工具本身就利用人工智能技术扫描学生与聊天机器人的对话，并提醒成年人注意潜在的危险。据对十几位教育工作者的采访显示，在美国各地，越来越多的教师和管理人员开始使用GoGuardian和Lightspeed Systems等公司提供的软件，对学生与聊天机器人的对话进行实时监控。他们的目标是及早发现严重后果的预警信号，包括青少年自杀。.
“知道我们有了这个工具供学生使用，我睡得更安心了，”密歇根州卡拉马祖公立学校技术系统和服务主管伊恩·海特说道。.
