Väkivallasta ja kuoleman ajatuksista sisään Hamlet lopun dramaattiseen kaksoisitsemurhaan Romeo ja Julia, Shakespearen teokset ovat täynnä huolestuttavia teemoja. Näihin töihin liittyvät opiskelijatehtävät sisältävät usein lauseita, jotka kontekstista irrotettuina saattavat vaikuttaa Artificial Intelligence (AI) -järjestelmiin, jotka on suunniteltu ilmoittamaan signaaleja kriisissä olevista opiskelijoista.
Kontekstin ymmärtäminen väärien positiivisten tulosten vähentämiseksi
Kun luokkatyöt, kuten Romeo ja Julia, merkitsevät tekoälyjärjestelmä etsimään merkkejä itsensä vahingoittamisesta tai väkivallasta, sen katsotaan olevan väärä positiivinen tulos. Nämä väärät positiiviset tulokset voivat olla erityisen turhauttavia, kun vähintään 20 oppilasta luokassa työskentelee kaikki saman laukaisevan tehtävän parissa.
Lightspeed Alert etsii ennakoivasti merkkejä apua tarvitsevista opiskelijoista skannaamalla verkkohakuja, Googlen ja Microsoftin tuottavuusohjelmistoja ja muita lähteitä. Lightspeed Aleriin lisätyt uudet koneoppimisominaisuudet vähentävät merkittävästi vääriä positiivisia, kuten Shakespeare-tehtävissä havaittuja, kuluttamalla ja ymmärtämällä koko tekstin, myös ympäröivän kontekstin, ymmärtääkseen, onko sisältö huolestuttavaa. Kontekstin lisäksi nämä mallit voivat ymmärtää huumoria ja hyperbolista kieltä.
Sisältötyyppejä, jotka eivät enää aiheuta hälytyksiä, ovat (mutta eivät rajoitu niihin – täydellinen luettelo on laaja):
- Romeo ja Julia, Tappaa pilkkaaja, Macbeth, ja Hamlet kotitehtävät.
- Kemian kotitehtävät (eli natriumnitraatin mainitsemattomat).
- Kotitehtävä, jossa viitataan taisteluihin, sotiin tai asioihin, jotka ovat luonnostaan väkivaltaisia, mutta jotka eivät liity asiayhteyteen.
- Kouluraportit/tutkimus yleisestä itsemurhatietoisuudesta ja kansallisesta itsemurhapuhelinpalvelusta.
- Hälytykset, jotka sisältävät ei-koskettavia sanoja, joissa on samat kirjaimet kuin asiaa koskevalla sanalla (eli "muokkaa" sisältää samat kirjaimet kuin "die", mutta ei koske).
- Lisääntymiseen/sukupuolitautiin ja seksuaaliterveyteen liittyvät kotitehtävät.
- Viittaukset Claude Mckayn runoon "Jos meidän täytyy kuolla".
- Sama täsmällinen hälytys toistetaan liian monta kertaa.
Perustan rakentaminen tulevaisuuden oppimiselle
Koska koneoppimisen ja keinotekoisen intelligencen alat kehittyvät edelleen nopeasti, Lightspeed on sitoutunut investoimaan jatkuvasti Lightspeed Alert -teknologiaamme parantaakseen tuotetta entisestään. Uudet koneoppimisominaisuudet auttavat rakentamaan pohjan jatkuvalle mallin tarkennukselle ja päivityksille, mukaan lukien säännölliset päivitykset, jotka sisältävät uusimman tiedon (eli uuden slangin) ja parantavat tarkkuutta entisestään.
