Ennen uutta lukuvuotta kourallinen teknologiayrityksiä antoi synkkiä varoituksia amerikkalaisille opettajille tekoälyn käytöstä luokkahuoneessa: Heidän mukaansa chatbotit voisivat vaarantaa oppilaita ja johtaa itsetuhoisuuteen. Valppaus oli ensiarvoisen tärkeää. “Oppilaiden tekoälyn käytön riskit voivat kirjaimellisesti olla tappavia”, yksi yritys varoitti. Toinen huomautti: “Oppilaiden henki riippuu siitä.”
“Se” on ohjelmisto, jota nämä yritykset myyvät – työkaluja, jotka itse käyttävät tekoälyä skannatakseen oppilaiden keskusteluja chatbottien kanssa ja varoittaakseen aikuisia mahdollisesta vaarasta. Yhdysvalloissa opettajat ja hallintovirkamiehet kääntyvät yhä enemmän GoGuardianin ja Lightspeed Systemsin kaltaisten yritysten puoleen oppilaiden ja bottien välisten keskustelujen reaaliaikaiseen seurantaan, yli kymmenen kouluttajan haastattelujen mukaan. Tavoitteena on havaita varhaiset varoitusmerkit vakavista seurauksista, mukaan lukien teini-ikäisten itsemurhat.
“Nukuin paremmin tietäen, että meillä on tämä työkalu oppilaillemme”, sanoo Ian Haight, Michiganissa sijaitsevan Kalamazoo Public Schoolsin teknologiajärjestelmien ja -palveluiden johtaja.
