AI er allerede i dit distrikt. Sådan ser du det, styrer det og holder eleverne sikre.

Webinar with Tech & Learning | The Integrity Infrastructure: How to Ensure AI Solutions are Safe:

3 vigtige konklusioner

  • AI er allerede i dit distrikt — Spørgsmålet er, om du kan se det. Lightspeed Insight™ giver skoledistrikterne et realtidsbillede af alle apps, der er i brug på elevernes enheder, inklusive over 100 AI-værktøjer, som de fleste IT-teams ikke ved er aktive. 
  • Styring uden synlighed er ikke styring. Lightspeed Filter™ giver distrikterne et søgbart og filtrerbart feed af elevernes AI-prompt- og svaraktivitet på tværs af Gemini, ChatGPT og Copilot – med Claude-understøttelse snart. 
  • Når en elev er i krise, tæller hvert minut. Lightspeed Alert™ overvåger automatisk AI-samtaler og bredere webaktivitet for sikkerhedssignaler – markeret af menneskelige specialister, ikke kun algoritmer – og kontakter distrikter via telefon og sms i realtid. 

Jeg tilbragte år i frontlinjen inden for grundskole- og gymnasieuddannelser, hvor jeg underviste på den gymnasium, jeg dimitterede fra, og derefter rykkede jeg op som regional leder i et amtskontor for uddannelse i Californien. Da tingene gik galt med teknologien, da eleverne begyndte at afprøve grænserne for vores politikker for acceptabel brug, var det mig, der håndterede det i realtid. Det er det perspektiv, jeg bruger i alle samtaler, jeg har med distrikter i dag.

Her er hvad jeg siger til hver IT-direktør, jeg taler med: AI er allerede i dit miljø. Du behøver ikke at have en formel politik for at den er der. Uanset om du er et Gemini-distrikt, et ChatGPT-distrikt eller stadig arbejder på din plan, er dine elever kommet videre uden dig. Og du har brug for informationen for at indhente det forsømte.

I et nyligt webinar om teknologi og læring, Jeg gennemgik hvordan Lightspeed systemer griber dette problem an med et forbundet økosystem: synlighed, styring og sikkerhed.

Hvad kører der rent faktisk på dit netværk

Det første vi ser på med Lightspeed Insight™ er det fulde billede af, hvad der er i dit miljø. Ikke kun de værktøjer, du har godkendt — alt. Typisk ser vi, at et givet distrikt har omkring 3.000 apps i brug i en given uge. Selv små distrikter har en tendens til at køre 1.500 eller flere. Man kan simpelthen ikke vide alt det manuelt.

Filtrer den visning ned til AI-værktøjer, og du kan finde 128 forskellige AI-applikationer, der kører på tværs af dine bygninger. I et scenarie, jeg gennemgår distrikter, ser vi på et distrikt, der har allieret sig med Gemini – det er det, de har sanktioneret, det, de har bygget træning omkring.

Og alligevel er 5.000 af deres elever på ChatGPT. Derudover bruger 64 elever Lovable AI, et værktøj de fleste IT-teams aldrig har hørt om.

Når skoledistrikter rent faktisk lærer eleverne at bruge AI ordentligt (ikke bare til at dumpe en prompt og få et svar, men til at stille opfølgende spørgsmål og tænke kritisk), ser man højere engagementstal pr. minut pr. dag. Et skoledistrikt med 5.000 ChatGPT-brugere og virkelig lave tal pr. minut? Det er det dårlige mønster i brugen af AI.

Men det kan man ikke vide, før man kan se det.

Privatlivspolitikdrift er en reel risiko

En ting der ikke får nok opmærksomhed i samtaler om AI-styring er en forskydning i privatlivspolitikken. Du har måske gjort din due diligence: læst servicevilkårene, bekræftet, at studerendes data ikke bruges til at træne modeller, måske endda underskrevet en databeskyttelsesaftale. Men virksomheder ændrer deres politikker. Uden en databeskyttelsesaftale kan de ændre den når som helst.

Derfor foretager Lightspeed Insight en ugentlig gennemgang af privatlivspolitikkerne for alle aktive værktøjer i dit miljø. Enhver afvigelse (tekst fjernet, tekst tilføjet, format ændret) vises i et dashboard. Du behøver ikke manuelt at overvåge 3.000 apps. Du ser præcis, hvad der er ændret, og for dem, der er vigtige, kan du gennemgå det specifikke sprog. Det er en enorm tidsbesparelse for hold, der allerede er for pressede.

Styring betyder mere end blot blokering

Det næste lag er, hvad jeg vil kalde acceptabel brugssynlighed: muligheden for at trække enhver individuel elev op og se et feed af deres AI-prompt- og svaraktivitet. Dette er især vigtigt nu, hvor Gemini, ChatGPT og Copilot er blevet almindelige elementer i klasseværelser.

Ved Lightspeed Filter™ og vores Google-partnerskab kan skoledistrikter søge efter bruger, værktøj og dato – så når en forælder siger, at deres elev ikke har gjort noget online, har man en historik, der kan forespørges på. Det handler ikke om overvågning. Det handler om at have beviserne til at have vanskelige samtaler ærligt og roligt, uden den afvis-afvis-afvis-cyklus, som IT-teams støder på alt for ofte.

Vi understøtter i øjeblikket Gemini, ChatGPT og Copilot prompt-level synlighed, og Claude kommer snart. Disse viser sig konsekvent at være de AI-platforme med det højeste engagement på tværs af vores kundebase.

Når engagement udvikler sig til en krise

Vi arbejder med en generation af studerende, der har oplevet COVID i kritiske sociale udviklingsår. Mange af dem er nu andet-, tredje- og sidsteårsstuderende – og de er tiltrukket af AI-værktøjer, ikke kun til akademisk arbejde, men også til kammeratskab og følelsesmæssig bearbejdning. Jeg har set det ske: en studerende åbner Gemini, begynder afslappet og deler gradvist noget oprigtigt alarmerende.

Du kan ikke stole på, at et IT-team manuelt gennemgår prompt-feeds for sikkerhedssignaler. Det er ikke en rimelig forventning. Det er der Lightspeed Alert™ kommer ind. Alarmen overvåger automatisk for bekymrende indhold på tværs af webaktivitet — og nu, på tværs af AI-samtaler. Vores specialister i menneskelig sikkerhed gennemgår markeret indhold og kontakter distrikter i realtid, ikke via e-mail, der bliver overset. Du får et telefonopkald og en sms.

Den oprettede sag indeholder den markerede frase, kilden, den alvorlighedsgrad, som vores specialist har tildelt, og hvilken kontakt der blev foretaget. Der er også et skærmbillede taget på tidspunktet for hændelsen.

For to uger siden havde jeg et distrikt, hvor politiaktivitet var involveret – skærmbilledet var afgørende bevis, fordi det kom fra elevens enhed og viste præcis, hvad der foregik. Den slags dokumentation gør følelsesladede samtaler meget mere håndterbare.

Hvorfor økosystemet er vigtigt

Grunden til, at alt dette fungerer sammen, er, at disse systemer deler et datalag. Når en sikkerhedsadvarsel dukker op, kan den reagerende medarbejder åbne den og se webfilterhistorikken i kontekst. De kan hoppe til analyser og se, om det er en isoleret hændelse eller en del af et mønster på tværs af hundredvis af elever. De kan hente elevoplysninger frem uden at skulle grave i et separat system.

Hastighed er vigtig i disse øjeblikke, og det samme gælder kontekst. Når en sikkerhedsadvarsel dukker op, burde den administrator, der reagerer, ikke behøve at åbne tre andre faner for at forstå, hvad der skete. De burde kunne se AI-samtalen, elevens bredere webhistorik og brugstendenserne omkring det pågældende værktøj, alt sammen på ét sted. Det er forskellen mellem et forbundet økosystem og en samling af punktløsninger. Og for distrikter, der allerede er strakte, er denne forskel ikke kun operationel – Det er det, der afgør, om en elev får hjælp i tide.

Klar til at se, hvordan Lightspeeds forbundne platform fungerer i dit distrikt? Se on-demand-optagelsen for at se en live gennemgang af Lightspeed Insight, Filter og Alert i aktion, og få svar på de spørgsmål, distrikterne stiller lige nu om AI-styring.

Ofte stillede spørgsmål

Mit distrikt har endnu ikke en formel politik for kunstig intelligens. Hvordan giver Lightspeed os indsigt i, hvad der bruges?

Lightspeed Insight™ viser alle aktive apps på elevernes enheder (inklusive AI-værktøjer) ved at kombinere software på enhedsniveau med en synkronisering af elevlister. Softwaren sporer, hvor eleverne går online; synkroniseringen af elevlister knytter aktivitet tilbage til et bestemt klassetrin, campus eller individuel bruger. Denne forbindelse er, hvordan distrikter kan filtrere analyser efter bygning, klassetrin eller brugstendens uden at have en formel politik på plads. Du behøver ikke at vide, hvad du leder efter – platformen viser dig, hvad der allerede er der.

Ja. Lightspeed Filter™ har understøttet differentiering af politikker på klassetrin og campusniveau siden de tidlige dage – det var et almindeligt behov, selv før AI-værktøjer blev udbredte. Politikker kan omfatte enhver dimension, som dit elevinformationssystem eller din elevmappe stiller til rådighed: klassetrin, bygning, brugergruppe eller organisatorisk enhed. Den eneste nuværende begrænsning er ægte aldersbaseret håndhævelse (f.eks. en hård grænse på 13 år og derunder), da Lightspeed ikke har adgang til fødselsdatodata. De fleste distrikter håndterer dette ved i stedet at opbygge politikker omkring campus- eller klassetrins-OU-tildelinger.

Lightspeed Alert™ overvåger AI-samtaler (inklusive Gemini, ChatGPT og Copilot) sammen med generel webaktivitet for sikkerhedssignaler. Når der opstår noget vedrørende overflader, gennemgår specialister i menneskelig sikkerhed hos Lightspeed indholdet, vurderer dets alvorlighedsgrad og kontakter distriktet via telefon og sms i realtid. Advarselspakken indeholder den markerede sætning, kildeplatformen, en alvorlighedsvurdering, dokumentation af, hvilken kontakt der blev foretaget, og et skærmbillede af hændelsen. Dette er især vigtigt for AI-værktøjer, hvor elever kan dele ting, de ikke ville sige til en person – og hvor det ikke er hurtigt nok at vente på, at nogen tjekker et dashboard.

Lightspeed Alert™ giver distrikter mulighed for at opbygge fuldt brugerdefinerede eskaleringsworkflows. Du bestemmer, hvem der modtager hastebeskeder i skoletiden, hvem der dækker uden for åbningstiden og i weekender, og hvad der sker, hvis ingen svarer – uanset om det eskalerer til et centralt distriktskontorteam, campusadministratorer eller en alarmcentral. Et stort distrikt i Texas (over 50.000 elever), som Lightspeed har arbejdet med, sender for eksempel advarsler inden for åbningstiden til campusadministratorer og advarsler uden for åbningstiden til et vagtteam på distriktsniveau. Arbejdsgangen er bygget til at matche, hvordan din organisation rent faktisk fungerer.

Ja, for understøttede platforme. Gennem Lightspeed Filters Google-partnerskab og direkte integrationer kan distrikter få adgang til et søgbart feed af individuelle elevers AI-interaktioner – inklusive prompten, svaret og tidsstemplet – for Gemini, ChatGPT og Copilot. Claude-support er under udvikling. Dette niveau af synlighed er vigtigt, ikke kun af hensyn til sikkerheden, men også for ansvarlighed i forbindelse med acceptabel brug: distrikter kan se en specifik elevs aktivitet for at bekræfte, hvad der skete, i stedet for at stole på "han sagde/hun sagde"-situationer.