Lightspeed Alert™ adiciona novos e poderosos recursos de aprendizado de máquina para aumentar a precisão

Da violência e dos pensamentos de morte em Aldeia ao dramático suicídio duplo no final de Romeu e Julieta, as obras de Shakespeare são repletas de temas preocupantes. As tarefas dos alunos sobre essas obras geralmente contêm frases que, tiradas do contexto, podem parecer preocupantes para sistemas de Inteligência Artificial (IA) projetados para sinalizar sinais de alunos em crise.

Compreendendo o contexto para reduzir falsos positivos

Quando um trabalho de classe como Romeu e Julieta é sinalizado por um sistema de IA procurando por sinais de automutilação ou violência, ele é considerado um falso positivo. Esses falsos positivos podem ser especialmente frustrantes quando 20 ou mais alunos em uma classe estão todos trabalhando na mesma tarefa de gatilho.

O Lightspeed Alert procura proativamente por sinais de alunos que precisam de ajuda, escaneando pesquisas on-line, suítes de produtividade do Google e Microsoft e outras fontes. Novos recursos de aprendizado de máquina adicionados ao Lightspeed Alert reduzem significativamente os falsos positivos, como aqueles encontrados em tarefas de Shakespeare, consumindo e entendendo um corpo inteiro de texto, incluindo o contexto circundante, para entender se o conteúdo é preocupante. Além do contexto, esses modelos podem entender humor e linguagem hiperbólica.

Os tipos de conteúdo que não causarão mais alertas incluem (mas não estão limitados a — a lista completa é extensa):

• Romeu e Julieta, O Sol é para Todos, Macbeth, e Aldeia trabalho de casa.
• Tarefa de casa de química (ou seja, menções não preocupantes ao nitrato de sódio).
• Tarefa de casa que faça referência a batalhas, guerras ou coisas que são inerentemente violentas, mas não preocupantes dentro do contexto.
• Relatórios escolares/pesquisas sobre conscientização geral sobre suicídio e linha direta nacional sobre suicídio.
• Alertas contendo palavras não preocupantes que têm as mesmas letras de uma palavra preocupante (por exemplo, “editar” contém as mesmas letras de “morrer”, mas não é preocupante).
• Tarefa de casa relacionada à reprodução/doenças sexualmente transmissíveis e saúde sexual.
• Referências ao poema “If we must die” de Claude Mckay.
• O mesmo alerta exato está sendo duplicado um número excessivo de vezes.

Construindo uma base para o aprendizado futuro

À medida que os campos de aprendizado de máquina e inteligência artificial continuam a avançar rapidamente, a Lightspeed está comprometida em fazer investimentos contínuos em nossa tecnologia Lightspeed Alert para melhorar o produto ainda mais. Os novos recursos de aprendizado de máquina ajudam a construir a base para o refinamento e atualizações contínuos do modelo, incluindo atualizações regulares para incorporar as informações mais recentes (ou seja, novas gírias) e melhorar ainda mais a precisão.