새 학년을 앞두고, 몇몇 기술 회사들은 교실에서 인공지능을 도입하는 미국 교육자들에게 엄중한 경고를 내렸습니다. 챗봇이 학생들을 위험에 빠뜨리고 자해로 이어질 수 있다는 것입니다. 경계가 무엇보다 중요했습니다. 한 회사는 "학생들이 AI를 사용하는 것은 말 그대로 치명적일 수 있습니다."라고 경고했습니다. 또 다른 회사는 "학생들의 생명이 AI에 달려 있습니다."라고 지적했습니다.“

"그것"은 바로 이 회사들이 판매하는 소프트웨어입니다. AI를 활용하여 학생들의 챗봇 대화를 스캔하고 어른들에게 잠재적 위험을 경고하는 도구입니다. 12명 이상의 교육자들과의 인터뷰에 따르면, 미국 전역에서 교사와 관리자들은 학생과 챗봇의 대화를 실시간으로 모니터링하기 위해 GoGuardian이나 Lightspeed Systems 같은 회사에 의존하는 경우가 점점 더 늘고 있습니다. 이러한 회사의 목표는 십 대 자살을 포함한 심각한 결과의 조기 경고 신호를 포착하는 것입니다.

“미시간주 칼라마주 공립학교의 기술 시스템 및 서비스 책임자인 이언 하이트는 "학생들을 위한 도구가 있다는 걸 알고 나니 마음이 편해졌어요."라고 말했습니다.

Bloomberg에서 전체 기사를 읽어보세요.