قبل بدء العام الدراسي الجديد، أصدرت مجموعة من شركات التكنولوجيا تحذيراتٍ شديدة للمعلمين الأمريكيين الذين يتبنون الذكاء الاصطناعي في الفصول الدراسية: قالوا إن روبوتات الدردشة قد تُعرّض الطلاب للخطر وتؤدي إلى إيذاء أنفسهم. كان الحذر بالغ الأهمية. وحذرت إحدى الشركات قائلةً: "إن مخاطر استخدام الطلاب للذكاء الاصطناعي قد تكون قاتلة بكل معنى الكلمة". وأشارت شركة أخرى إلى أن "حياة الطلاب تعتمد عليه".“
"الشيء" هو البرمجيات التي تبيعها هذه الشركات، وهي أدوات تستخدم الذكاء الاصطناعي لمسح محادثات الطلاب مع روبوتات الدردشة وتنبيه البالغين إلى أي خطر محتمل. في جميع أنحاء الولايات المتحدة، يلجأ المعلمون والإداريون بشكل متزايد إلى شركات مثل GoGuardian وLightspeed Systems للمراقبة الفورية لمحادثات الطلاب مع الروبوتات، وفقًا لمقابلات أجريت مع أكثر من اثني عشر معلمًا. الهدف هو رصد علامات الإنذار المبكر للعواقب الوخيمة، بما في ذلك انتحار المراهقين.
“يقول إيان هيجت، مدير أنظمة وخدمات التكنولوجيا في مدارس كالامازو العامة في ميشيغان: "أنام بشكل أفضل عندما أعلم أن لدينا هذه الأداة لطلابنا".
