머신 러닝 모델은 자살, 자해 또는 타인에 대한 폭력 위협의 징후를 식별하는데, 바로 사이버 괴롭힘이 여기에 해당합니다. 사용자 지정 가능한 알림은 상담사, 교사, 학교 안전 담당자 및 기타 이해 관계자의 주의를 끌 수 있습니다.
Lightspeed Systems 제품도 비슷한 방식으로 작동합니다. Jennifer Duer는 "Google Drive 계정, 웹 검색 또는 YouTube 비디오 등 생태계 전반에서 무슨 일이 일어나고 있는지 살펴보기 위해 장치에서 사전 스캐닝을 수행하는 도구가 있습니다."라고 말합니다. "모니터링 도구는 이러한 잠재적으로 우려되는 행동을 스캔하고 식별할 수 있습니다." 그런 다음 AI는 맥락을 살펴보고 우려 수준을 이해합니다. 이것이 농담인가요, 아니면 누군가를 해치려는 의도인가요?
Lightspeed Systems에서는 "실제로 24시간 연중무휴로 검토하는 안전 전문가 팀이 있습니다."라고 그녀는 말합니다. "그들은 학교에 직접 연락하여 '조사해야 할 문제가 있습니다'라고 알립니다."