Tekoäly on jo alueellasi. Näin näet sen, hallitset sitä ja pidät oppilaat turvassa.

Webinar with Tech & Learning | The Integrity Infrastructure: How to Ensure AI Solutions are Safe:

3 keskeistä oppimateriaalia

  • Tekoäly on jo alueellasi — Kysymys kuuluu, näetkö sen. Lightspeed Insight™ antaa koulupiireille reaaliaikaisen näkymän jokaisesta oppilaiden laitteilla käytössä olevasta sovelluksesta, mukaan lukien yli 100 tekoälytyökalua, joiden aktiivisuudesta useimmat IT-tiimit eivät tiedä. 
  • Hallinto ilman näkyvyyttä ei ole hallintoa. Lightspeed Filter™ tarjoaa koulupiireille haettavan ja suodatettavan syötteen opiskelijoiden tekoälykehotteista ja -vastauksista Gemini-, ChatGPT- ja Copilot-alustoilla – Clauden tuki on tulossa pian. 
  • Kun opiskelija on kriisissä, jokainen minuutti on tärkeä. Lightspeed Alert™ valvoo automaattisesti tekoälykeskusteluja ja laajempaa verkkotoimintaa turvallisuussignaalien varalta – ihmisasiantuntijoiden, ei vain algoritmien, merkintöjen perusteella – ja ottaa yhteyttä piirikuntiin puhelimitse ja tekstiviestitse reaaliajassa. 

Vietin vuosia K-12-opetuksen eturintamassa opettaen lukiossa, josta valmistuin, ja sitten siirryin alueelliseen johtoon piirikunnan opetusvirastossa Kaliforniassa. Kun teknologian kanssa meni ongelmia, kun oppilaat alkoivat testata hyväksyttävän käytön käytäntöjemme rajoja, minä käsittelin sitä reaaliajassa. Tämä on se näkökulma, jota käytän jokaisessa keskustelussa piirikuntien kanssa tänäkin päivänä.

Tässä on mitä sanon jokaiselle IT-johtajalle, jonka kanssa puhun: Tekoäly on jo ympäristössäsi. Sinulla ei tarvitse olla virallista käytäntöä, jotta se olisi siellä. Olitpa sitten Gemini-piiri, ChatGPT-piiri tai työskentelet edelleen suunnitelmasi parissa, oppilaasi ovat siirtyneet eteenpäin ilman sinua. Ja tarvitset tietoa pysyäksesi ajan tasalla.

Äskettäisessä Teknologia ja oppiminen -webinaarissa, Kävin läpi, miten Lightspeed-järjestelmät lähestyy tätä ongelmaa kytkeytyneen ekosysteemin avulla: näkyvyys, hallinto ja turvallisuus.

Mitä verkossasi oikeasti tapahtuu

Ensimmäinen asia, jota tarkastelemme Lightspeed Insight™ on kokonaiskuva ympäristöstäsi. Ei vain hyväksymistäsi työkaluista — kaikki. Tyypillisesti näemme, että tietyllä piirikunnalla on käytössä noin 3 000 sovellusta viikossa. Jopa pienillä piireillä on yleensä 1 500 tai enemmän. Et yksinkertaisesti voi tietää kaikkea tätä manuaalisesti.

Suodata näkymä tekoälytyökaluihin, niin saatat löytää 128 erilaista tekoälysovellusta, jotka toimivat rakennuksissasi. Yhdessä skenaariossa käyn läpi piirikuntia ja tarkastelemme piirikuntaa, joka on toiminut Geminin ohjelman mukaisesti – se on heidän hyväksymänsä ohjelma, jonka ympärille he ovat rakentaneet koulutusta.

Ja silti 5 000 heidän opiskelijaansa on ChatGPT:ssä. Lisäksi 64 opiskelijaa käyttää Lovable AI:ta, työkalua, josta useimmat IT-tiimit eivät ole koskaan kuulleetkaan.

Kun piirikunnat todella opettavat oppilaita käyttämään tekoälyä hyvin (ei vain antamaan kehotetta ja nappaamaan vastaus, vaan esittämään jatkokysymyksiä ja ajattelemaan kriittisesti), nähdään korkeampia minuutti- ja päiväkohtaisia sitoutumislukuja. Piirikunta, jossa on 5 000 ChatGPT-käyttäjää ja todella alhaiset minuuttikohtaiset luvut? Se on huono tekoälyn käyttömalli.

Mutta sitä ei voi tietää ennen kuin näkee.

Tietosuojakäytännön ajautuminen on todellinen riski

Yksi asia, johon ei kiinnitetä tarpeeksi huomiota tekoälyn hallintaa koskevissa keskusteluissa on tietosuojakäytännön poikkeama. Olet ehkä tehnyt tarvittavat tarkastukset: lukenut käyttöehdot, varmistanut, ettei oppilastietoja käytetä mallien kouluttamiseen, ja ehkä jopa allekirjoittanut tietosuojasopimuksen. Mutta yritykset muuttavat käytäntöjään. Ilman tietosuojasopimusta ne voivat muuttaa sitä milloin tahansa.

Siksi Lightspeed Insight tarkistaa viikoittain kaikkien ympäristössäsi aktiivisten työkalujen tietosuojakäytännöt. Kaikki muutokset (poistettu teksti, lisätty teksti, muotoilun muutokset) näkyvät kojelaudassa. Sinun ei tarvitse valvoa manuaalisesti 3 000 sovellusta. Näet tarkalleen, mikä on muuttunut, ja tärkeiden sovellusten kohdalla voit tarkastella tiettyä kieltä. Se on valtava ajansäästö tiimeille, jotka ovat jo ennestään liian tiukilla.

Hallinto tarkoittaa enemmän kuin vain estämistä

Seuraava kerros on se, mitä kutsuisin ns. hyväksyttävä käyttönäkyvyys: kyky nostaa esiin minkä tahansa yksittäisen opiskelijan ja nähdä syöte heidän tekoälyn kehotteistaan ja vastauksistaan. Tämä on erityisen tärkeää nyt, kun Gemini, ChatGPT ja Copilot ovat yleistyneet luokkahuoneissa.

Kautta Lightspeed Filter™ ja Google-kumppanuutemme ansiosta koulupiirit voivat hakea käyttäjän, työkalun tai päivämäärän mukaan – joten kun vanhempi sanoo, ettei hänen oppilaansa tehnyt jotain verkossa, sinulla on kyseenalaistettava tietue. Kyse ei ole valvonnasta. Kyse on todisteista, joiden avulla voi käydä vaikeita keskusteluja rehellisesti ja rauhallisesti ilman IT-tiimien usein kohtaamaa kieltämis-kieltämis-kieltämiskierrettä.

Tuemme tällä hetkellä Gemini-, ChatGPT- ja Copilot-kehotteenäkyvyyttä, ja Claude on tulossa pian. Nämä ovat jatkuvasti asiakaskuntamme sitoutuneimpia tekoälyalustoja.

Kun kihlauksesta tulee kriisi

Työskentelemme opiskelijasukupolven kanssa, joka koki COVIDin kriittisinä sosiaalisen kehityksen vuosina. Monet heistä ovat nyt toisen, kolmannen ja viimeisen vuoden opiskelijoita – ja heitä vetää puoleensa tekoälytyökalut paitsi akateemisen työn, myös seuran ja tunteiden käsittelyn vuoksi. Olen nähnyt sen tapahtuvan: opiskelija avaa Gemini-sovelluksen, aloittaa rennosti ja jakaa vähitellen jotain aidosti hälyttävää.

Et voi luottaa siihen, että IT-tiimi käy manuaalisesti läpi kehotesyötteitä turvallisuuteen liittyvien signaalien varalta. Se ei ole kohtuullinen odotus. Siinä kohtaa... Lightspeed Alert™ tulee sisään. Hälytys valvoo automaattisesti huolestuttavaa sisältöä verkkotoiminnassa — ja nyt myös tekoälykeskusteluissa. Ihmisturvallisuusasiantuntijamme tarkistavat merkityn sisällön ja ottavat yhteyttä piirikuntiin reaaliajassa, eivätkä sähköpostitse, joka jää huomaamatta. Saat puhelun ja tekstiviestin.

Luotu tapaus sisältää merkityn lausekkeen, lähteen, asiantuntijamme antaman vakavuusluokituksen ja yhteydenoton. Mukana on myös tapahtumahetkeltä otettu kuvakaappaus.

Minulla oli kaksi viikkoa sitten piirikunnassa poliisitoimintaa – kuvakaappaus oli ratkaiseva todiste, koska se oli otettu oppilaan laitteelta ja näytti tarkalleen, mitä tapahtui. Tällainen dokumentaatio tekee emotionaalisesti latautuneista keskusteluista paljon helpommin hallittavia.

Miksi ekosysteemi on tärkeä

Kaikki tämä toimii yhdessä, koska nämä järjestelmät jakavat saman datakerroksen. Kun turvallisuusvaroitus tulee esiin, vastaava henkilökunnan jäsen voi avata sen ja nähdä verkkosuodattimien historian kontekstissa. He voivat siirtyä analytiikkaan ja nähdä, onko kyseessä yksittäinen tapaus vai osa satojen opiskelijoiden kaavaa. He voivat hakea opiskelijoiden tiedot ilman erillisen järjestelmän läpikäymistä.

Nopeus on näissä hetkissä tärkeää, ja niin on myös konteksti. Kun turvallisuusvaroitus tulee esiin, vastaavan ylläpitäjän ei pitäisi joutua avaamaan kolmea muuta välilehteä ymmärtääkseen, mitä tapahtui. Hänen pitäisi voida nähdä tekoälykeskustelu, oppilaan laajempi verkkohistoria ja työkalun käyttötrendit kaikki yhdessä paikassa. Tämä on ero yhdistetyn ekosysteemin ja kokoelman yksittäisten ratkaisujen välillä. Ja jo ennestään niukasti venyneillä alueilla tämä ero ei ole vain toiminnallista – Se ratkaisee, saako opiskelija apua ajoissa.

Oletko valmis näkemään, miten Lightspeedin yhdistetty alusta toimii omassa piirikunnassasi? Katso tallenne, niin näet reaaliaikaisen esittelyn Lightspeed Insightista, Filteristä ja Alertista toiminnassa. Saat vastauksia kysymyksiin, joita piirikunnat tällä hetkellä esittävät tekoälyn hallinnasta.

UKK

Piirilläni ei ole vielä virallista tekoälypolitiikkaa. Miten Lightspeed antaa meille näkyvyyttä siihen, mitä käytetään?

Lightspeed Insight™ näyttää kaikki aktiiviset sovellukset oppilaiden laitteilla (mukaan lukien tekoälytyökalut) yhdistämällä laitetason ohjelmiston osioiden synkronointiin. Ohjelmisto seuraa, missä oppilaat ovat verkossa; osioiden synkronointi yhdistää toiminnan tiettyyn luokka-asteeseen, kampukseen tai yksittäiseen käyttäjään. Tämän yhteyden avulla piirikunnat voivat suodattaa analytiikkaa rakennuksen, luokan tai käyttötrendin mukaan ilman virallista käytäntöä. Sinun ei tarvitse tietää, mitä etsit – alusta näyttää sinulle, mitä on jo olemassa.

Kyllä. Lightspeed Filter™ on tukenut luokka-asteen ja kampustason käytäntöjen eriyttämistä alkuajoistaan lähtien – se oli yleinen tarve jo ennen tekoälytyökalujen yleistymistä. Käytännöt voidaan ulottaa mihin tahansa oppilastietojärjestelmän tai -hakemiston tarjoamaan ulottuvuuteen: luokka-asteelle, rakennukselle, käyttäjäryhmälle tai organisaatioyksikölle. Ainoa nykyinen rajoitus on todellinen ikään perustuva valvonta (esim. tiukka alle 13-vuotiaiden raja), koska Lightspeedillä ei ole pääsyä syntymäaikatietoihin. Useimmat piirikunnat hoitavat tämän rakentamalla käytäntöjä kampus- tai luokka-asteen organisaatioyksikön tehtävien ympärille.

Lightspeed Alert™ valvoo tekoälykeskusteluja (mukaan lukien Gemini, ChatGPT ja Copilot) yleisen verkkotoiminnan rinnalla turvallisuussignaalien varalta. Kun ilmenee pintoihin liittyvä ongelma, Lightspeedin ihmisturvallisuusasiantuntijat tarkistavat sisällön, arvioivat sen vakavuuden ja ottavat yhteyttä piirikuntaan puhelimitse ja tekstiviestillä reaaliajassa. Hälytyspaketti sisältää merkityn lausekkeen, lähdealustan, vakavuusarvioinnin, dokumentaation siitä, mistä yhteydenotosta on kyse, ja kuvakaappauksen tapahtumasta. Tämä on erityisen tärkeää tekoälytyökaluille, joissa opiskelijat voivat jakaa asioita, joita he eivät sanoisi kenellekään muulle – ja joissa ei ole tarpeeksi nopeaa odottaa, että joku tarkistaa kojelaudan.

Lightspeed Alert™ antaa piirikunnille mahdollisuuden rakentaa täysin mukautettavia eskalointityönkulkuja. Sinä päätät, kuka vastaanottaa kiireellisiä ilmoituksia kouluaikana, kuka vastaa aukioloaikojen ulkopuolella ja viikonloppuisin, ja mitä tapahtuu, jos kukaan ei vastaa – siirretäänkö asia piirikunnan keskustoimistolle, kampuksen hallinnolle vai hätäkeskukseen. Esimerkiksi yhdessä suuressa teksasilaisessa piirikunnassa (yli 50 000 oppilasta), jonka kanssa Lightspeed työskenteli, reititetään aukioloaikojen hälytykset kampuksen hallinnolle ja aukioloaikojen ulkopuoliset hälytykset piirikunnan tason päivystystiimille. Työnkulku on rakennettu vastaamaan organisaatiosi todellista toimintaa.

Kyllä, tuetuilla alustoilla. Lightspeed Filterin Google-kumppanuuden ja suorien integraatioiden kautta koulupiirit voivat käyttää haettavaa syötettä yksittäisten oppilaiden tekoälyvuorovaikutuksista – mukaan lukien kehote, vastaus ja aikaleima – Gemini-, ChatGPT- ja Copilot-alustoilla. Claude-tuki on kehitteillä. Tämä näkyvyyden taso on tärkeä paitsi turvallisuuden myös hyväksyttävän käytön vastuullisuuden kannalta: koulupiirit voivat tarkistaa tietyn oppilaan toiminnan tapahtumien perusteella sen sijaan, että he luottaisivat vain siihen, mitä hän sanoi/hän sanoi.

Viimeisimmät viestit