3 punti chiave
- L'intelligenza artificiale è diventata per gli studenti uno sfogo emotivo, non solo una scorciatoia accademica. Il 421% degli studenti dichiara di utilizzare chatbot basati sull'intelligenza artificiale per ottenere supporto emotivo, e il 40% delle attività online ad alto rischio si svolge al di fuori dell'orario scolastico, quando gli studenti non sono sorvegliati. I distretti scolastici che si concentrano solo sui casi di imbroglio non colgono il quadro generale della sicurezza.
- Bloccare l'IA non garantisce la protezione. Anche nei distretti che bloccano la maggior parte dell'IA generativa, i dati di Lightspeed Systems mostrano attività in oltre 130 ambiti correlati all'IA che generano avvisi di sicurezza ad alto rischio. La visibilità su ciò che sta realmente accadendo, non solo su ciò che è consentito, è il requisito fondamentale per una governance efficace.
- Una governance efficace dell'IA richiede che tre elementi lavorino in sinergia: Visibilità, controllo e protezione. Lightspeed Filter™, Lightspeed Insight™, Lightspeed Alert™ e Lightspeed Classroom™ coprono tutti e tre i livelli in un'unica piattaforma, dall'acquisizione immediata e la segnalazione dell'utilizzo dell'app all'escalation di sicurezza in tempo reale e al monitoraggio in classe.
Nessuno ha inviato un invito. L'intelligenza artificiale si è presentata comunque, nei temi, nei progetti artistici, nelle sessioni di studio e nelle conversazioni che non hanno nulla a che fare con la scuola. Gli studenti pongono ai chatbot domande del tipo: "Come faccio a smettere di sentirmi senza speranza?", "Cosa devo fare se un mio amico vuole morire?", "Come posso affrontare un bullo?". Non si tratta di domande accademiche. Sono il tipo di domande che si rivolgerebbero a uno psicologo. O, sempre più spesso, a una macchina che non dorme mai, non giudica mai ed è sempre disponibile.
Questo cambiamento è fondamentale. E se nel vostro distretto scolastico si continua a considerare l'intelligenza artificiale come un problema di imbroglio, state guardando solo una parte del quadro generale.
I dati vanno oltre la semplice disonestà accademica.
Sì, l'integrità accademica è una questione seria. Ma ciò che la ricerca effettivamente dimostra è più difficile da ignorare. Secondo il rapporto Hand-in-Hand del Center for Democracy and Technology, La metà degli studenti che utilizzano l'intelligenza artificiale afferma di sentirsi meno legata ai propri insegnanti. Più della metà ha incontrato contenuti radicali o estremisti. Oltre un terzo è a conoscenza di deepfake che coinvolgono qualcuno della propria scuola.
421.000 studenti affermano di aver utilizzato chatbot basati sull'intelligenza artificiale per ricevere supporto emotivo. Non si tratta solo di rimodellare il modo in cui gli studenti imparano, ma anche il modo in cui elaborano l'identità e le relazioni. E quando i meccanismi di controllo falliscono, le conseguenze ricadono sulle scuole.
I dati esterni all'ambiente scolastico lo confermano. La metà degli adolescenti che tentano il suicidio lo fa a tarda notte, quando non c'è nessuno in giro. Il 401% delle attività online ad alto rischio si svolge dopo l'orario scolastico. Gli studenti si rivolgono alla tecnologia, non agli insegnanti, ai consulenti o ai genitori, per chiedere aiuto. Senza visibilità, i distretti scolastici non possono prevedere tutto questo.
Bloccare non è la stessa cosa che proteggere
A partire da questa settimana, circa 100.300 scuole continuano a bloccare l'utilizzo della maggior parte dell'IA generativa per la maggior parte dei loro studenti. Sembra una posizione prudente. In realtà non chiude la porta.
Nei distretti che utilizzano Lightspeed Systems, osserviamo attività provenienti da oltre 130 diversi ambiti legati all'IA che hanno generato avvisi di sicurezza ad alto e imminente rischio, persino nei distretti che ritengono di aver bloccato completamente l'IA. Molti di questi segnali provengono da strumenti come Character AI, progettato specificamente per l'interazione relazionale. Gli studenti trovano comunque un modo per infiltrarsi. Il blocco diventa un palliativo quando ciò di cui si ha realmente bisogno è visibilità, contesto e controllo.
Come afferma il nostro responsabile dell'IA, Donal McMahon: quando le scuole non hanno visibilità, non possono gestire il rischio. Possono solo reagire. Questo è il cambiamento che dobbiamo attuare: passare dalla reazione alla preparazione.
Tre pilastri per una vera governance dell'IA
Quando si tratta di governance dell'IA, ogni distretto scolastico ha bisogno di tre cose: visibilità, controllo e protezione. Nessun'altra piattaforma per l'istruzione primaria e secondaria (K-12) offre una copertura completa di tutte e tre come Lightspeed.
- Visibilità: Scopri quali app basate sull'intelligenza artificiale vengono utilizzate, da quali studenti, in quali campus e leggi attentamente i messaggi visualizzati.
- Controllare: Blocca o consenti strumenti e categorie specifici al livello di granularità richiesto dalle tue policy.
- Protezione: Ricevi avvisi di sicurezza in tempo reale quando gli studenti segnalano qualcosa di preoccupante, sia tramite ChatGPT, Gemini o altre fonti di intelligenza artificiale.
Come si traduce in pratica
Intuizione della velocità della luce™ Ti fornisce una mappa completa delle attività di intelligenza artificiale nel tuo distretto. Non solo gli strumenti più ovvi: individua oltre 140 potenziali app di IA, mostra l'utilizzo per scuola e livello scolastico e segnala automaticamente le modifiche alle politiche sulla privacy delle app. Invece di confrontare manualmente i documenti delle politiche, ricevi un segnale chiaro quando qualcosa cambia: testo aggiunto, testo rimosso, termini modificati. Sai immediatamente se un fornitore è ancora affidabile.
La funzione di acquisizione del prompt va oltre. Integrato in Filtro Lightspeed™, Ti permette di vedere le conversazioni reali che gli studenti hanno con ChatGPT, Gemini e Copilot. Non solo quali strumenti utilizzano, ma anche cosa chiedono e come si evolve la conversazione. Il contesto è fondamentale. Una singola domanda può sembrare innocua finché non si vede cosa succede dopo.
Dal punto di vista della sicurezza, Avviso di velocità della luce™ Il sistema rileva linguaggio ad alto rischio nelle conversazioni gestite dall'IA e lo segnala rapidamente alle persone competenti. Se uno studente comunica di avere pensieri di autolesionismo, il segnale viene inviato ai consulenti, agli amministratori del sito e a chiunque conosca lo studente, con il contesto completo già allegato. Nessuna ricerca di informazioni. Nessun ritardo. L'obiettivo è che lo studente riceva supporto prima che sia troppo tardi.
Per gli insegnanti, Aula Lightspeed™ Aggiunge un semplice indicatore visivo (un piccolo luccichio viola) che appare sul riquadro dello schermo di uno studente ogni volta che accede a un sito basato sull'intelligenza artificiale durante la lezione. Gli insegnanti non devono cercare nulla. Possono dare un'occhiata, individuarlo e rispondere immediatamente o rivedere la cronologia dopo la lezione. È utile anche per le verifiche: se uno studente sta consegnando un elaborato e Classroom mostra che sta utilizzando ChatGPT, vale la pena di avviare una conversazione.
Per il controllo a livello distrettuale, la gestione delle categorie di IA di Filter consente di attivare o disattivare in modo indipendente le categorie di IA generativa, IA investigativa e IA generale, con la possibilità di creare eccezioni per strumenti specifici. Blocca tutto tranne Gemini per un determinato livello scolastico. Abilita gli strumenti approvati per il personale mantenendo restrizioni più severe per gli studenti. La flessibilità è garantita per rispettare le tue politiche senza creare nuove lacune.
Dalla reazione alla prontezza
L'intelligenza artificiale non scomparirà. Ormai è un'affermazione non controversa. Ciò che resta ancora oggetto di dibattito è come le scuole reagiranno: prima che si verifichi un problema o dopo.
I distretti che stanno ottenendo buoni risultati non sono quelli che hanno bloccato tutto. Sono quelli che hanno creato un quadro di riferimento per la visibilità, implementato gli avvisi appropriati, fornito agli insegnanti un modo per vedere cosa succede in classe e creato un processo per intervenire sui segnali quando si presentano. Questo è ciò che il framework SMART AI è progettato per fare: Sicuro, Gestito, Appropriato, Segnalato e Trasparente.
Se vuoi vedere come funziona nel tuo distretto, visita il nostro Pagina SMART AI Per saperne di più su SMART AI e per effettuare la valutazione della propria predisposizione all'IA, visita il sito web.
Domande frequenti
Gli altri strumenti di intelligenza artificiale come Claude sono supportati dalle funzionalità di monitoraggio di Lightspeed?
Dipende dalla funzionalità. Lightspeed Classroom™ visualizza già l'attività di Claude e di altri strumenti di intelligenza artificiale quando gli studenti vi accedono tramite browser. Lightspeed Alert™ è in grado di rilevare e segnalare avvisi di sicurezza attivati da un linguaggio preoccupante nelle conversazioni di Claude sul web. L'area in continua espansione è AI Prompt Capture in Lightspeed Filter™, una nuovissima funzionalità che attualmente acquisisce intere conversazioni in ChatGPT, Gemini e Copilot. Claude e altri strumenti come Magic School AI sono in programma e le aggiunte sono spesso definite in base alle richieste dei distretti scolastici. Se il vostro distretto ha bisogno di uno strumento specifico, è consigliabile parlarne con il vostro account manager Lightspeed.
È possibile visualizzare i dati sull'utilizzo dell'IA suddivisi per scuola o livello scolastico?
Sì. Lightspeed Insight™ fornisce dati di utilizzo per campus e per livello scolastico per ogni applicazione di IA in uso. In questo modo è possibile verificare che l'utilizzo di ChatGPT sia concentrato a livello di scuola superiore, o che un campus specifico mostri picchi di attività di IA generativa, e utilizzare questi dati per orientare le discussioni politiche con i membri del consiglio scolastico, i genitori o il personale.
Se uno studente accede a un sito che utilizza l'intelligenza artificiale e poi lo abbandona rapidamente prima che l'insegnante se ne accorga, tale attività rimane comunque visibile?
Sì. Lightspeed Classroom™ conserva la cronologia di navigazione per ogni lezione e l'indicatore AI viola rimane associato a qualsiasi sito segnalato come intelligence artificiale, anche dopo che lo studente ha cambiato pagina. Gli insegnanti possono rivedere il registro completo delle attività dopo la lezione per vedere esattamente a cosa si è acceduto e quando, senza bisogno di intervenire in tempo reale.
