新学期を前に、数社のテクノロジー企業が、教室で人工知能（AI）を導入しようとしているアメリカの教育者に対し、厳しい警告を発した。チャットボットは生徒を危険にさらし、自傷行為につながる可能性があるという。警戒を怠らないことが最優先だ。ある企業は「生徒がAIを使うリスクは文字通り命に関わる可能性がある」と警告し、別の企業は「生徒の命がかかっている」と指摘した。“
「それ」とは、これらの企業が販売しているソフトウェアのことだ。AIを活用して生徒とチャットボットの会話をスキャンし、潜在的な危険を大人に警告するツールだ。10人以上の教育関係者へのインタビューによると、全米各地で教師や管理者が、生徒とボットの会話をリアルタイムで監視するために、GoGuardianやLightspeed Systemsといった企業に頼るケースが増えている。その目的は、10代の自殺など、深刻な事態の兆候を早期に察知することにある。.
“「生徒たちにこのツールがあることを知って、安心して眠れます」と、ミシガン州カラマズー公立学校のテクノロジーシステムおよびサービス担当ディレクターのイアン・ヘイト氏は言う。.
