Från våld och tankar på döden in Liten by till det dramatiska dubbelsjälvmordet i slutet av Romeo och Julia, Shakespeares verk är fyllda med oroande teman. Studentuppgifter om dessa verk innehåller ofta fraser som, tagna ur sitt sammanhang, kan se angående artificiella Intelligence-system (AI) utformade för att flagga signaler från elever i kris.
Förstå sammanhang för att minska falska positiva
När klassarbete som Romeo och Julia flaggas av ett AI-system som letar efter tecken på självskada eller våld, anses det vara ett falskt positivt. Dessa falska positiva resultat kan vara särskilt frustrerande när 20 eller fler elever i en klass arbetar med samma utlösande uppgift.
Lightspeed Alert letar proaktivt efter tecken på elever i behov av hjälp genom att skanna onlinesökningar, Googles och Microsofts produktivitetssviter och andra källor. Nya maskininlärningsfunktioner som lagts till i Lightspeed Alert minskar avsevärt falska positiva resultat som de som finns i Shakespeare-uppgifter genom att konsumera och förstå hela texten, inklusive omgivande sammanhang, för att förstå om innehållet är oroande. Förutom sammanhang kan dessa modeller förstå humor och hyperboliskt språk.
Typer av innehåll som inte längre orsakar varningar inkluderar (men är inte begränsade till – hela listan är omfattande):
- Romeo och Julia, To Kill a Mockingbird, Macbeth, och Liten by läxa.
- Kemiläxa (dvs. icke-relevanta omnämnanden av natriumnitrat).
- Läxor som hänvisar till strider, krig eller saker som i sig är våldsamma men som inte är relevanta i sammanhanget.
- Skolrapporter/forskning av allmän självmordsmedvetenhet och den nationella självmordsjouren.
- Varningar som innehåller ord som inte är relevanta och som har samma bokstäver som ett berörande ord (dvs. "redigera" innehåller samma bokstäver som "dö", men är inte oroande).
- Läxor relaterade till reproduktion/sexuellt överförbara sjukdomar och sexuell hälsa.
- Referenser till dikten "If we must die" av Claude Mckay.
- Samma exakta varning dupliceras ett överdrivet antal gånger.
Bygga en grund för framtida lärande
Eftersom områdena maskininlärning och artificiell intelligence fortsätter att utvecklas snabbt, är Lightspeed fast beslutna att göra pågående investeringar i vår Lightspeed Alert-teknik för att förbättra produkten ytterligare. De nya maskininlärningsfunktionerna hjälper till att bygga grunden för pågående förfining och uppdateringar av modellen, inklusive regelbundna uppdateringar för att införliva den senaste informationen (dvs. ny slang) och förbättra noggrannheten ytterligare.
