Syyskuu on itsemurhien ehkäisyn ja tietoisuuden kuukausi, ja joka kuukausi näyttää olevan tekoälytietoisuuden kuukausi. Nämä kaksi asiaa ovat osuneet yhteen traagisilla tavoilla, viimeaikaiset tarinat tekoälykumppaneista, jotka kannustavat teini-ikäisiä itsemurha-ajatuksiin.
GenAI-työkaluja markkinoidaan avustajina, kopilotteina, mentoreina ja avuliaina "ystävinä" opiskelijoille – aina saatavilla vastaamaan kysymyksiin, lisäämään itseluottamusta ja jopa tarjoamaan emotionaalista tukea. Teoriassa se kuulostaa myönteiseltä. Käytännössä riskit ovat vakavia.
Tekoälykumppaneiden riskit
Toisin kuin opettaja, terapeutti tai edes ikätoveri, tekoälykumppanit eivät tiedä, milloin lopettaa. He eivät tunnista varoitusmerkkejä. He eivät merkitse ongelmallista käyttäytymistä. Sen sijaan he reagoivat autopilotilla, mielistelevästi kannustaen silloinkin, kun heidän ei pitäisi. Tämä voi tarkoittaa:
- Haitallisten ajatusten vahvistaminen kun opiskelija kamppailee itsetuhoisuuden tai itsemurha-ajatusten kanssa.
- Sopimattomien tai vaarallisten neuvojen antaminen ilman kontekstia tai tuomiota.
- Riippuvuuden luominen "ystävään", joka ei ole oikea, jättäen opiskelijat eristyksiin ilman ihmisavustusta.
Jos näitä vuorovaikutuksia ei valvota, koulut eivät näe niitä. Oppilas voi olla ajautumassa tilanteeseen, eikä kukaan aikuinen koskaan huomaa sitä.
Miksi tekoälyn seuranta kouluissa on tärkeää
Olemme nähneet tämän kaavan aiemminkin: jokainen uusi teknologia tuo mukanaan mahdollisuuksia ja riskejä. YouTube tarjosi oppilaille loputtomasti oppimisresursseja – ja loputtomasti häiriötekijöitä. Sosiaalinen media tarjosi heille yhteydenpitoa – ja myös kyberkiusaamista ja altistumista vahingolle. Joka kerta koulut sopeutuivat lisäämällä näkyvyyttä ja valvontaa.
Tekoäly kouluissa on yksinkertaisesti seuraava kehitysaskel. Ero on siinä, että tämä voi puhua takaisin.
Siksi tekoälyn valvonta ei ole valinnaista. Koulujen on nähtävä, miten oppilaat käyttävät tekoälytyökaluja, ohjattava heitä tekoälyn turvalliseen ja tuottavaan käyttöön sekä puututtava asiaan, kun toiminta viittaa riskiin. Ilman valvontaa koulupiirit ovat sokeita.
Tiedän tekoälyn käytöstä kouluissa seuraavaa:
- Tekoäly voi olla tehokas erittäin positiivisilla tavoilla; se on myös altis riskille
- Tekoälytyökalujen lisäämät kaiteet ovat altis kiertämiselle opiskelijoiden toimesta
- Tekoäly ei ole menossa minnekään, joten koulujen on otettava käyttöön ratkaisuja pitääksemme sen turvallisena, hallittuna, asianmukaisena, raportoituna ja läpinäkyvänä
Roolimme
Lightspeedillä olemme auttaneet kouluja yli 25 vuotta tällä linjalla: innovaatioiden mahdollistamisessa ja oppilaiden turvallisuuden varmistamisessa. YouTuben suodattamisesta sosiaalisen median riskien seurantaan, olemme aina sopeutuneet uusien teknologioiden mukana. Tekoäly ei ole poikkeus.
Autamme jo piirikuntia ymmärtämään, miten oppilaat käyttävät tekoälyä – ja väärinkäyttävät sitä. Koska panokset ovat korkeammat kuin testitulokset tai tuottavuus. Kyse on ihmishenkistä.
Lisätietoja
Olemme koonneet ainutlaatuista dataa ja näkemyksiä siitä, miten oppilaat käyttävät tekoälyä, mitä riskejä näemme ja miten koulut voivat reagoida. Voit lukea lisää täältä:
Kouluttajina ja teknologiajohtajina meillä ei ole varaa olla passiivisia tekoälyn turvallisuuden suhteen.
Innovaatio on todellinen, mutta niin ovat myös riskit. Ja opiskelijoiden turvallisuuden on oltava etusijalla.
