Koulujen on saatava oikea-aikainen näkyvyys vakaviin oppilaiden turvallisuusongelmiin. Mutta näkyvyys lisää vaikuttavuutta vain, jos järjestelmänvalvojat voivat toimia hälytyksiin nopeasti ja luottavaisin mielin, ja tämä edellyttää hälytysten laatua, ei vain hälytysten määrää.

Tämä on jännite useimpien tekoälypohjaisten oppilaiden turvallisuusratkaisujen keskiössä.

Vertaisarvioitu tutkimus koulupohjaisista verkkoseurantayrityksistä havaitsi, että 71% käytti tekoälyä "huolestuttavan toiminnan" automaattiseen merkitsemiseen, kun taas vain 43% raportoi, että sillä oli ihmisistä koostuvia tarkistustiimejä.

Lue tuo väli huolellisesti: Useimmat työkalut tuottavat hälytyksiä nopeammin kuin koulut ehtivät mielekkäästi tarkistaa niitä. Kun automaatio ohittaa valvonnan, vääristä positiivisista ei tule vain haittaa. Niistä tulee rakenteellinen ongelma, joka hidastaa reagointia oppilaille, jotka sitä eniten tarvitsevat.

Miten paremmat työkalut sitten ratkaisevat tämän? Lyhyt vastaus on, että tekoäly vähentää vääriä positiivisia hälytyksiä, kun se käyttää kontekstia, kerrostettuja signaaleja ja ihmisen tekemää tarkistusta erottaakseen korkeamman riskin toiminnan matalan signaalin kohinasta. Mutta pidempi vastaus on tärkeämpi piirikunnille, jotka yrittävät arvioida, mitä oikeasti etsiä.

Mikä aiheuttaa vääriä positiivisia hälytyksiä opiskelijoiden turvallisuuden seurannassa?

Väärät positiiviset tulokset ovat yleensä kontekstiongelma.

Useimmat valvontajärjestelmät perustuvat hahmontunnistukseen: termi, lauseke tai kategoria ilmestyy ja hälytys laukeaa. Tämä malli toimii riittävän hyvin reuna-alueilla ja havaitsee ilmeisiä tapauksia. Mutta K-12-ympäristössä keskimmäinen on valtava.

Yleisiä tilanteita, jotka voivat aiheuttaa vääriä hälytyksiä, ovat:

• Opiskelija tutkii arkaluontoista aihetta historiaan tai ajankohtaisiin tapahtumiin liittyvää tehtävää varten
• Luovassa kirjoittamisessa tai henkilökohtaisessa esseessä käytetty tunnepitoinen kieli
• Opiskelija etsii itsenäisesti mielenterveysresursseja
• Slangi tai epävirallinen kieli, joka kuulostaa huolestuttavalta ilman asiayhteyttä
• Lailliset luokkahuonekeskustelut vaikeista aiheista

Järjestelmä, joka reagoi yksittäisiin signaaleihin ilman minkäänlaista käsitystä niiden ympäristöstä, ylihälyttää jatkuvasti ja vie henkilöstön huomion pois signaaleista, jotka heijastavat aitoa tarvetta.

Tutkimus vahvistaa tämän. Monet palveluntarjoajat määrittelevät "huolestuttavan toiminnan" laajasti tai läpinäkymättömästi, minkä vuoksi piirien on vaikea ennustaa, mikä laukaisee hälytyksen, tai arvioida, onko kyseinen kynnysarvo sopiva heidän oppilailleen, heidän käytännöilleen tai heidän henkilöstönsä reagointikyvylle.

Tämä epäselvyys on se kohta, jossa väärät positiiviset tulokset syntyvät. Ja kun ne kasaantuvat, ne luovat ongelman: valppausväsymys.

Miksi valppausväsymys heikentää opiskelijoiden turvallisuutta

Kun ylläpitäjät ovat hukassa heikkosignaalihälytysten kanssa, opiskelijoiden tukemiseen suunniteltu järjestelmä alkaa toimia heitä vastaan.

Melun triagingiin käytetty aika on aikaa, jota ei käytetä interventioon, seurantaan ja suoraan oppilaiden tukeen. Vielä tärkeämpää on, että hälytysväsymys heikentää tiimien operatiivista luottamusta, jota he tarvitsevat toimiakseen päättäväisesti. Kun henkilöstö on tottunut odottamaan suuria määriä merkityksettömiä hälytyksiä, vasteajat hidastuvat – myös hälytysten kohdalla, jotka heijastavat todellista, kiireellistä tarvetta.

Tämä on ydinongelma, joka tehokkaiden tekoälypohjaisten oppilasturvallisuustyökalujen on ratkaistava: aitojen varoitusmerkkien selkeä ja nopea esiin nostaminen, jotta hallinto voi reagoida tukea tarvitseviin oppilaisiin viipymättä.

Miten Lightspeed Alert™ kuroo umpeen kuilua

Lightspeed Alert™ rakennettiin lähtökohdalle, jonka mukaan pelkkä havaitseminen ei riitä. Alusta yhdistää tekoälypohjaisen skannauksen strukturoituun ihmisen suorittamaan tarkistusprosessiin ja selkeisiin eskalointityönkulkuihin, jotta kun jotain vakavaa ilmenee, oikeat ihmiset saavat tiedon nopeasti ja heidän tarvitsemassaan kontekstissa toimiakseen.

Tekoälyn skannaus: Laaja kattavuus, oikeissa kategorioissa

Lightspeed Alertin tekoäly skannaa jatkuvasti opiskelijoiden vuorovaikutusta verkkodokumenttien ja työpöytäsovellusten kanssa ja tarkkailee sisältöä, joka voi viitata seuraaviin:

• Itsetuhoisuus tai itsemurha-ajatukset
• Väkivalta tai uhkailu muita kohtaan
• Eksplisiittistä sisältöä
• Huumeisiin liittyvä toiminta
• Aseiden viittaukset
• Kiusaaminen

Sen sijaan, että tekoäly luoisi hälytyksen yksittäisestä avainsanaosumasta, se arvioi sisältöä kontekstissa (tarkastellaan ympäröivää materiaalia, lähdettä ja toiminnan luonnetta) ennen kuin merkitsee sen tarkistettavaksi.

Tuo kontekstuaalisen analyysin alkutaso erottaa signaalin kohinasta ennen kuin se saavuttaa ihmisarvioijan tai piirin hallintovirkamiehen.

Ihmisarviointi: Turvallisuusasiantuntijoita 24/7/365, ei vain automaatiota 

Lightspeedin oma tiimi tarkistaa jokaisen hälytyksen Turvallisuusasiantuntijat saatavilla 24 tuntia vuorokaudessa, seitsemän päivää viikossa, 365 päivää vuodessa. Nämä eivät ole yleistä tukihenkilöstöä. He ovat ammattilaisia, joilla on tausta koulutuksessa, lainvalvonnassa, tutkinnassa ja mielenterveydessä, ja heillä on erikoiskoulutus uhkien arvioinnissa ja itsemurhien ehkäisyssä yhteistyössä organisaatioiden, kuten American Foundation for Suicide Prevention ja Turvalliset ja hyvät koulut. 

Kun turvallisuusasiantuntija tarkistaa hälytyksen, hän ei tarkastele vain merkittyä sisältöä erikseen. Hän suorittaa täydellisen riskinarvioinnin hyödyntäen verkkohistoriaa, sähköposteja, keskusteluja ja muuta kontekstia muodostaakseen kokonaiskuvan ennen riskitason määrittämistä. 

Tuo riskitaso määrittää kaiken, mitä seuraavaksi tapahtuu:

• Virheellinen: Konteksti ei osoita, että uhka oli läsnä, eikä myöskään merkkejä menneistä tai tulevista vahingoista (esim. läksyt tai tutkimus). Viestiä ei lähetetä; hälytys voidaan sulkea automaattisesti.
• Voimassa ilman todennäköistä haittaa: Konteksti viittaa siihen, että uhka on saattanut olla läsnä, mutta tahallista vahinkoa ei ole tapahtunut eikä todennäköisesti tapahdu (esim. opiskelijat vitsailevat: "Aion tappaa itseni, koska treenasin niin kovasti tänään"). Viestiä ei lähetetä; hälytys voidaan sulkea automaattisesti.
• Korkean riskin: Konteksti viittaa uhkaan, mutta välitöntä uutta haittaa ei ole tapahtumassa. Esimerkkejä ovat ajatukset itsensä vahingoittamisesta ilman erityistä suunnitelmaa tai todisteet siitä, että hyväksikäyttöä on tapahtunut. Sähköposti lähetetään välittömästi piirikunnan eskalointilistalle.
• Välitön uhka: Konteksti osoittaa, että uusi vahinko on välitön ja tarvitaan välittömiä toimia. Esimerkkejä ovat tarkat suunnitelmat; uhkaukset, joissa on nimetty kohde, aika tai paikka; tai lausunnot, kuten "Minulla on ase repussani". Puhelu soitetaan välittömästi eskalointilistalle (mukaan lukien piirin ja hätätilanteiden yhteyshenkilöt), minkä jälkeen lähetetään sähköpostia ja Tekstiviesti-ilmoitukset (jos käytössä).

Tämä nelitasoinen luokittelujärjestelmä estää merkityksellisten hälytysten hautautumisen hälyn sekaan. Heikkosignaalinen toiminta suodatetaan pois tarkistusvaiheessa, eikä sitä anneta järjestelmänvalvojille lajiteltavaksi.

Kiireellisissä tilanteissa otetaan välittömästi yhteyttä – ei ilmoitusta kojelaudan jonossa.

Kerroksittainen eskalaatio: Oikeat ihmiset oikeaan aikaan

Kun turvallisuusasiantuntija tunnistaa välittömän uhan, hän käy läpi piirikunnan ennalta määritetyn eskalointilistan ja ottaa ensin yhteyttä koulun henkilökuntaan, sitten keskustoimiston yhteyshenkilöihin ja lopuksi hätäyhteyshenkilöihin. He työskentelevät kellon ympäri: jos uhka ilmenee kello 2 yöllä, he ottavat yhteyttä piirikunnan työajan ulkopuolella tavoitettavissa olevaan henkilöön.

Eskalointi-ilmoituksiin sisältyy enemmän kuin vain lipun. Ne sisältävät linkin oppilaan täydelliseen historiaraporttiin, joka kattaa itse hälytyksen, selaushistorian ja sijaintihistorian (jos sijaintiagentti on käytössä), jotta eskalointiyhteyshenkilöillä on koko tarvittava konteksti asianmukaiseen vastaamiseen, ei vain asiayhteydestä irrotettua datapistettä.

Tämä kerrosrakenne (tekoälytarkistus, asiantuntijan tarkistus, porrastettu riskiluokitus ja suora eskalointi) mahdollistaa Lightspeed Alert™ -järjestelmän vähentää vääriä positiivisia tietoja vähentämättä kuitenkaan aitojen uhkien kattavuutta. Jokainen kerros suodattaa ja tiedottaa seuraavalle kerrokselle, jotta järjestelmänvalvojille ja eskalointiyhteyshenkilöille päätyvä tieto on jo arvioitu, priorisoitu ja valmis toimintaan.

Mitä koulun hallinnon tulisi etsiä tekoälyyn perustuvista oppilaiden turvallisuustyökaluista

Alustoja arvioitaessa oikeat kysymykset ulottuvat havaitsemisasteiden ja ominaisuusluetteloiden ulkopuolelle. Tässä on mitä kysyä:

Selkeät hälytysmääritelmät.

Jos toimittaja ei pysty selittämään selkeästi, mikä laukaisee hälytyksen, tämä epäselvyys näkyy henkilökunnallesi kohinana. Kysy erityisesti: mitä käyttäytymismalleja, sisältötyyppejä ja kaavoja järjestelmä merkitsee? Miten kynnysarvot määritellään, ja voiko piirikuntasi muuttaa niitä?

Ihmisen tekemä tarkistus sisäänrakennettuna työnkulkuun.

Kysy, kuka tarkistaa hälytykset, missä vaiheessa prosessia ja miten eskalointi piirin henkilöstölle hoidetaan. Jos ihmisen valvonta on valinnaista tai sitä ei ole määritelty, taakka lankeaa tiimillesi, jolla ei ole rakennetta johdonmukaisen ja asianmukaisen reagoinnin tukemiseksi.

Ikä- ja käytäntökohtaiset rajoitukset.

K–12-koulujen seurannan on heijastettava piirikunnan todellisuutta: oppilaiden ikäjakaumaa, paikallisia poliittisia odotuksia ja turvallisuusprioriteetteja. Se, mikä sopii lukiolle, ei välttämättä sovi alakoululle, ja vahva alusta ottaa huomioon tämän eron.

Raportointia, joka tukee toimintaa, ei pelkästään määrää.

Etsi hälytystyönkulkuja ja koontinäyttöjä, jotka nostavat esiin olennaiset ja toimintakykyiset tiedot, äläkä työkaluja, jotka vaativat järjestelmänvalvojia käymään läpi suuria tietomääriä löytääkseen huomiota vaativat asiat.

Todisteita tuloksista, ei vain kyvyistä.

Kysy suoraan toimittajilta: miten tämä työkalu auttaa vähentämään hälytysväsymystä? Miten se tukee nopeampaa ja varmempaa reagointia? Nämä ovat hyödyllisempiä kysymyksiä kuin laajat väitteet tekoälyn suorituskyvystä.

Viimeisiä ajatuksia

Tekoälyyn perustuvat oppilaiden turvallisuustyökalut vähentävät vääriä hälytyksiä, kun ne on suunniteltu tekemään enemmän kuin yhdistämään sanoja luetteloon. Koulut tarvitsevat kontekstitietoista tunnistusta, kerrostettuja signaaleja, ihmisen suorittamaa tarkistusta ja käytäntöihin mukautuneita kynnysarvoja, jotka kaikki toimivat yhdessä auttaakseen järjestelmänvalvojia reagoimaan nopeasti ja luottavaisesti tukea tarvitseviin oppilaisiin.

Lightspeed Alert™ kehitettiin murtamaan häly tämän standardin mukaisesti: tekoälyllä tehtävä skannaus, joka arvioi kontekstia, turvallisuusasiantuntijat, jotka tarkistavat jokaisen hälytyksen kellon ympäri, ja eskalointiprosessi, joka toimittaa oikeat tiedot oikeille ihmisille – nopeasti.