AI finnes allerede i distriktet ditt. Slik ser du det, styrer det og holder elevene trygge.

Webinar with Tech & Learning | The Integrity Infrastructure: How to Ensure AI Solutions are Safe:

3 viktige konklusjoner

  • AI er allerede i distriktet ditt – Spørsmålet er om du kan se det. Lightspeed Insight™ gir skoledistriktene sanntidsvisning av alle apper som er i bruk på elevenes enheter, inkludert over 100 AI-verktøy som de fleste IT-teamene ikke vet er aktive. 
  • Styring uten synlighet er ikke styring. Lightspeed Filter™ gir distrikter en søkbar og filtrerbar feed av elevenes AI-spørsmål og svaraktivitet på tvers av Gemini, ChatGPT og Copilot – med støtte for Claude snart. 
  • Når en student er i krise, teller hvert minutt. Lightspeed Alert™ overvåker automatisk AI-samtaler og bredere nettaktivitet for sikkerhetssignaler – flagget av menneskelige spesialister, ikke bare algoritmer – og kontakter distrikter via telefon og tekstmelding i sanntid. 

Jeg tilbrakte år i frontlinjen innen grunnskole- og videregående utdanning, underviste på videregående skole jeg ble uteksaminert fra, og flyttet deretter til regional ledelse ved et fylkeskontor for utdanning i California. Da ting gikk galt med teknologien, da elevene begynte å teste grensene for våre retningslinjer for akseptabel bruk, var det jeg som håndterte det i sanntid. Det er det perspektivet jeg bruker i alle samtaler jeg har med distrikter i dag.

Her er hva jeg sier til hver IT-direktør jeg snakker med: AI er allerede i miljøet ditt. Du trenger ikke å ha en formell policy for at den skal være der. Enten du er et Gemini-distrikt, et ChatGPT-distrikt eller fortsatt jobber med planen din, har elevene dine gått videre uten deg. Og du trenger informasjonen for å ta igjen det tapte.

I et nylig webinar om teknologi og læring, Jeg gikk gjennom hvordan Lyshastighetssystemer tar for seg dette problemet med et tilkoblet økosystem: synlighet, styring og sikkerhet.

Hva som faktisk kjører på nettverket ditt

Det første vi ser på med Lightspeed Insight™ er hele bildet av hva som er i miljøet ditt. Ikke bare verktøyene du har godkjent — alt. Vanligvis ser vi at et gitt distrikt har rundt 3000 apper totalt i bruk i løpet av en gitt uke. Selv små distrikter har en tendens til å kjøre 1500 eller flere. Du kan rett og slett ikke vite alt dette manuelt.

Filtrer den visningen ned til AI-verktøy, og du kan finne 128 forskjellige AI-applikasjoner som kjører på tvers av bygningene dine. I et scenario jeg går gjennom distrikter, tar vi en titt på et distrikt som har inngått samarbeid med Gemini – det er det de har godkjent, det de har bygget opplæring rundt.

Og likevel er 5000 av studentene deres på ChatGPT. I tillegg bruker 64 studenter Lovable AI, et verktøy de fleste IT-team aldri har hørt om.

Når skoledistrikter faktisk lærer elevene å bruke AI på en god måte (ikke bare for å sende en oppgave og få et svar, men for å stille oppfølgingsspørsmål og tenke kritisk), ser man høyere engasjementstall per minutt per dag. Et skoledistrikt med 5000 ChatGPT-brukere og veldig lave tall per minutt? Det er det dårlige mønsteret for bruk av AI.

Men det kan du ikke vite før du kan se det.

Personvernregler som avviker er en reell risiko

En ting som ikke får nok oppmerksomhet i samtaler om AI-styring er en avvik i personvernreglene. Du har kanskje gjort din due diligence: lest tjenestevilkårene, bekreftet at studentdata ikke brukes til å lære opp modeller, kanskje til og med signert en databehandleravtale. Men selskaper endrer retningslinjene sine. Uten en databehandleravtale kan de endre den når som helst.

Derfor gjennomfører Lightspeed Insight en ukentlig gjennomgang av personvernreglene for alle verktøy som er aktive i miljøet ditt. Enhver delta (tekst fjernet, tekst lagt til, format endret) vises i et dashbord. Du trenger ikke å overvåke 3000 apper manuelt. Du ser nøyaktig hva som er endret, og for de som er viktige, kan du se gjennom det spesifikke språket. Det er en enorm tidsbesparelse for lag som allerede er strukket for tynt.

Styring betyr mer enn bare blokkering

Det neste laget er det jeg vil kalle akseptabel brukssiktbarhet: muligheten til å trekke opp en hvilken som helst enkeltstudent og se en feed av deres AI-spørsmål og -responsaktivitet. Dette er spesielt viktig nå som Gemini, ChatGPT og Copilot har blitt vanlige inventar i klasserom.

Gjennom Lightspeed Filter™ og vårt Google-partnerskap, kan skoledistrikter søke etter bruker, verktøy og dato – slik at når en forelder sier at eleven deres ikke har gjort noe på nettet, har du en søkbar oversikt. Det handler ikke om overvåking. Det handler om å ha bevisene for å ha vanskelige samtaler ærlig og rolig, uten den avvisende og avvisende syklusen som IT-teamene opplever altfor ofte.

Vi støtter for øyeblikket Gemini, ChatGPT og Copilot synlighet på promptnivå, og Claude kommer snart. Disse fremstår konsekvent som de AI-plattformene med høyest engasjement på tvers av kundebasen vår.

Når engasjementet blir til en krise

Vi jobber med en generasjon studenter som gikk gjennom COVID i kritiske sosiale utviklingsår. Mange av dem er nå andre-, tredje- og sisteårsstudenter – og de tiltrekkes av AI-verktøy ikke bare for akademisk arbeid, men for kameratskap og emosjonell bearbeiding. Jeg har sett det skje: en student åpner Gemini, begynner tilfeldig og deler gradvis noe genuint alarmerende.

Du kan ikke stole på at et IT-team manuelt skal kjemme gjennom meldingsfeeder for sikkerhetssignaler. Det er ikke en rimelig forventning. Det er der Lightspeed Alert™ kommer inn. Varselet overvåker automatisk problematisk innhold på tvers av nettaktivitet – og nå, på tvers av AI-samtaler. Våre spesialister på menneskelig sikkerhet gjennomgår flagget innhold og kontakter distrikter i sanntid, ikke via e-post som blir oversett. Du får en telefonsamtale og en tekstmelding.

Saken som opprettes inkluderer den flaggede frasen, kilden, alvorlighetsgraden spesialisten vår ga, og hvilken kontakt som ble tatt. Det er også et skjermbilde tatt i hendelsesøyeblikket.

For to uker siden hadde jeg et distrikt der politiaktivitet var involvert – skjermbildet var viktig bevis fordi det kom fra studentens enhet og viste nøyaktig hva som skjedde. Den typen dokumentasjon gjør følelsesladede samtaler mye mer håndterbare.

Hvorfor økosystemet er viktig

Grunnen til at alt dette fungerer sammen er fordi disse systemene deler et datalag. Når en sikkerhetsadvarsel dukker opp, kan den responderende medarbeideren åpne den og se nettfilterhistorikken i kontekst. De kan hoppe til analyser og se om dette er en isolert hendelse eller en del av et mønster på tvers av hundrevis av elever. De kan hente frem elevinformasjon uten å måtte grave gjennom et separat system.

Hastighet er viktig i disse øyeblikkene, og det samme gjelder kontekst. Når et sikkerhetsvarsel dukker opp, skal ikke administratoren som svarer måtte åpne tre andre faner for å forstå hva som skjedde. De skal kunne se AI-samtalen, elevens bredere netthistorikk og brukstrender rundt det verktøyet, alt på ett sted. Det er forskjellen mellom et tilkoblet økosystem og en samling punktløsninger. Og for distrikter som allerede er strukket tynt, er ikke denne forskjellen bare operasjonell – Det er det som avgjør om en elev får hjelp i tide.

Klar til å se hvordan Lightspeeds tilkoblede plattform fungerer i ditt distrikt? Se opptaket på forespørsel for å se en direkte gjennomgang av Lightspeed Insight, Filter og Alert i aksjon, og få svar på spørsmålene distriktene stiller akkurat nå om AI-styring.

Vanlige spørsmål

Distriktet mitt har ikke en formell KI-policy ennå. Hvordan gir Lightspeed oss innsikt i hva som brukes?

Lightspeed Insight™ avdekker alle apper som er aktive på elevenheter (inkludert AI-verktøy) ved å kombinere programvare på enhetsnivå med en synkronisering av elevliste. Programvaren sporer hvor elevene er på nett; synkroniseringen av elevliste knytter aktivitet tilbake til et bestemt klassetrinn, campus eller individuell bruker. Denne forbindelsen er slik distrikter kan filtrere analyser etter bygning, klassetrinn eller brukstrend uten å ha en formell policy på plass. Du trenger ikke å vite hva du leter etter – plattformen viser deg hva som allerede er der.

Ja. Lightspeed Filter™ har støttet differensiering av retningslinjer på klassetrinn og campusnivå siden de tidlige dagene – det var et vanlig behov selv før AI-verktøy ble utbredt. Retningslinjer kan begrenses til enhver dimensjon som elevinformasjonssystemet eller katalogen din tilbyr: klassetrinn, bygning, brukergruppe eller organisasjonsenhet. Den eneste nåværende begrensningen er ekte aldersbasert håndheving (f.eks. en streng grense på 13 år og yngre), siden Lightspeed ikke har tilgang til fødselsdatodata. De fleste distrikter håndterer dette ved å bygge retningslinjer rundt campus- eller klassetrinnsnivå-OU-tildelinger i stedet.

Lightspeed Alert™ overvåker AI-samtaler (inkludert Gemini, ChatGPT og Copilot) i tillegg til generell nettaktivitet for sikkerhetssignaler. Når noe gjelder overflater, gjennomgår spesialister på menneskelig sikkerhet hos Lightspeed innholdet, vurderer alvorlighetsgraden og kontakter distriktet via telefon og tekstmelding i sanntid. Varslingspakken inneholder den flaggede frasen, kildeplattformen, en alvorlighetsvurdering, dokumentasjon av hvilken kontakt som ble gjort og et skjermbilde av hendelsen. Dette er spesielt viktig for AI-verktøy, der elever kan dele ting de ikke ville sagt til en person – og der det ikke er raskt nok å vente på at noen skal sjekke et dashbord.

Lightspeed Alert™ lar distrikter bygge fullt tilpassbare eskaleringsarbeidsflyter. Du bestemmer hvem som mottar hastevarsler i skoletiden, hvem som dekker fritidsaktiviteter og helger, og hva som skjer hvis ingen svarer – enten det eskalerer til et sentralt distriktskontorteam, campusadministratorer eller en alarmlinje. Et stort distrikt i Texas (over 50 000 elever) som Lightspeed samarbeidet med, ruter for eksempel varsler i skoletiden til campusadministratorer og varsler utenom skoletid til et vaktteam på distriktsnivå. Arbeidsflyten er bygget for å samsvare med hvordan organisasjonen din faktisk opererer.

Ja, for støttede plattformer. Gjennom Lightspeed Filters Google-partnerskap og direkte integrasjoner kan distrikter få tilgang til en søkbar feed av individuelle elevers AI-interaksjoner – inkludert ledeteksten, svaret og tidsstempelet – for Gemini, ChatGPT og Copilot. Claude-støtte er under utvikling. Dette synlighetsnivået er viktig ikke bare for sikkerheten, men også for ansvarlighet for akseptabel bruk: distrikter kan hente frem en bestemt elevs aktivitet for å bekrefte hva som skjedde i stedet for å stole på «han sa/hun sa»-situasjoner.