3 points clés à retenir
- L'IA est déjà présente dans votre circonscription — La question est de savoir si vous pouvez le voir. Lightspeed Insight™ offre aux établissements scolaires une vue en temps réel de toutes les applications utilisées sur les appareils des élèves, y compris plus de 100 outils d'IA dont la plupart des équipes informatiques ignorent l'existence.
- La gouvernance sans visibilité n'est pas de la gouvernance. Lightspeed Filter™ offre aux districts un flux consultable et filtrable d'activités de questions et de réponses des élèves en matière d'IA sur Gemini, ChatGPT et Copilot — avec la prise en charge de Claude bientôt disponible.
- Lorsqu'un étudiant est en situation de crise, chaque minute compte. Lightspeed Alert™ surveille automatiquement les conversations de l'IA et l'activité Web en général pour détecter les signaux de sécurité — signalés par des spécialistes humains, et non seulement par des algorithmes — et contacte les districts par téléphone et par SMS en temps réel.
J'ai passé des années sur le terrain dans l'enseignement primaire et secondaire, d'abord en enseignant dans le lycée où j'ai moi-même fait mes études, puis en occupant un poste de direction régionale au sein d'un bureau de l'éducation d'un comté californien. Lorsque des problèmes techniques survenaient, lorsque les élèves commençaient à tester les limites de nos règles d'utilisation, c'est moi qui gérais la situation en temps réel. C'est cette expérience que j'aborde aujourd'hui dans tous mes échanges avec les districts scolaires.
Voici ce que je dis à tous les directeurs informatiques à qui je parle : L'IA est déjà présente dans votre environnement. Il n'est pas nécessaire d'avoir une politique formelle pour que cette information soit disponible. Que vous soyez un district Gemini, un district ChatGPT ou que vous soyez encore en train d'élaborer votre plan, vos élèves ont continué leur chemin sans vous. Et vous avez besoin de ces informations pour les rattraper.
Lors d'un récent webinaire sur les technologies et l'apprentissage, J'ai expliqué comment Systèmes Lightspeed aborde ce problème avec un écosystème connecté : visibilité, gouvernance et sécurité.
Qu'est-ce qui fonctionne réellement sur votre réseau ?
La première chose que nous examinons avec Lightspeed Insight™ Il s'agit d'une image complète de votre environnement, et pas seulement des outils que vous avez approuvés. - tout. En général, on constate qu'un district scolaire utilise environ 3 000 applications chaque semaine. Même les petits districts en utilisent souvent 1 500, voire plus. Il est tout simplement impossible de connaître tout cela manuellement.
Si vous filtrez cette vue pour ne retenir que les outils d'IA, vous pourriez découvrir jusqu'à 128 applications d'IA différentes déployées dans vos bâtiments. Lors d'une visite de district, nous examinons par exemple un district qui a opté pour Gemini : c'est le programme qu'ils ont approuvé et sur lequel ils ont bâti leurs formations.
Et pourtant, 5 000 de leurs étudiants utilisent ChatGPT. De plus, 64 étudiants utilisent Lovable AI, un outil dont la plupart des équipes informatiques n’ont jamais entendu parler.
Lorsque les établissements scolaires enseignent aux élèves à bien utiliser l'IA (non pas simplement à poser une question et à obtenir une réponse, mais à approfondir leurs connaissances et à développer leur esprit critique), on observe des taux d'engagement plus élevés par minute et par jour. Un établissement avec 5 000 utilisateurs de ChatGPT et des taux d'engagement très faibles ? C'est un mauvais exemple d'utilisation de l'IA.
Mais vous ne pouvez le savoir que lorsque vous le voyez.
La dérive des politiques de confidentialité représente un risque réel
Un aspect qui n'est pas suffisamment abordé dans les discussions sur la gouvernance de l'IA dérive de la politique de confidentialité. Vous avez peut-être fait preuve de diligence raisonnable : lu les conditions d’utilisation, vérifié que les données des étudiants ne sont pas utilisées pour entraîner des modèles, et même signé un accord de protection des données. Mais les entreprises modifient leurs politiques. Sans accord de protection des données, elles peuvent les modifier à tout moment.
C'est pourquoi Lightspeed Insight analyse chaque semaine les politiques de confidentialité de tous les outils actifs dans votre environnement. Toute modification (texte supprimé, texte ajouté, format modifié) est affichée sur un tableau de bord. Plus besoin de surveiller manuellement 3 000 applications. Vous voyez précisément ce qui a changé et, pour les applications concernées, vous pouvez consulter le texte exact. C'est un gain de temps considérable pour les équipes déjà surchargées.
La gouvernance ne se résume pas au simple blocage.
La couche suivante, c'est ce que j'appellerais visibilité d'utilisation acceptable : la possibilité de consulter le profil de chaque élève individuellement et de voir un flux d'activité de leur IA sollicitant et répondant. C’est d’autant plus important maintenant que Gemini, ChatGPT et Copilot sont devenus des outils courants dans les salles de classe.
À travers Filtre Lightspeed™ Grâce à notre partenariat avec Google, les établissements scolaires peuvent effectuer des recherches par utilisateur, par outil et par date. Ainsi, lorsqu'un parent affirme que son enfant n'a rien fait en ligne, un enregistrement vérifiable est disponible. Il ne s'agit pas de surveillance, mais de disposer des preuves nécessaires pour aborder les sujets délicats avec franchise et sérénité, sans le cycle infernal de dénégations auquel les équipes informatiques sont trop souvent confrontées.
Nous prenons actuellement en charge la visibilité au niveau des invites pour Gemini, ChatGPT et Copilot, et Claude le sera prochainement. Ces plateformes d'IA se distinguent systématiquement par le taux d'engagement le plus élevé parmi nos clients.
Quand les fiançailles se transforment en crise
Nous travaillons avec une génération d'étudiants qui ont vécu la pandémie de COVID-19 pendant des années cruciales de leur développement social. Nombre d'entre eux sont aujourd'hui en deuxième, troisième ou quatrième année d'études supérieures et se tournent vers les outils d'IA non seulement pour leurs travaux scolaires, mais aussi pour nouer des liens et gérer leurs émotions. J'en ai été témoin : un étudiant ouvre Gemini, commence par une conversation informelle, puis partage progressivement quelque chose de véritablement alarmant.
On ne peut pas compter sur une équipe informatique pour analyser manuellement les flux d'alertes à la recherche de signaux de sécurité. Ce n'est pas une attente raisonnable. C'est là que… Alerte Lightspeed™ L'alerte est automatiquement déclenchée. Elle surveille l'activité web à la recherche de contenus préoccupants. et maintenant, dans les conversations sur l'IA. Nos spécialistes en sécurité humaine examinent les contenus signalés et contactent les districts en temps réel, et non par courriel, ce qui risque de les faire passer inaperçus. Vous recevez un appel téléphonique et un SMS.
Le dossier créé comprend la phrase signalée, la source, le niveau de gravité attribué par notre spécialiste et les coordonnées du contact établi. Il contient également une capture d'écran prise au moment de l'incident.
Il y a deux semaines, j'ai eu un cas dans un district où la police est intervenue ; la capture d'écran s'est avérée être une preuve cruciale car elle provenait de l'appareil de l'élève et montrait précisément ce qui s'était passé. Ce type de document facilite grandement les conversations délicates.
Pourquoi l'écosystème est important
L'interopérabilité de ces systèmes repose sur le partage d'une couche de données commune. Lorsqu'une alerte de sécurité est émise, le membre du personnel intervenant peut l'ouvrir et consulter l'historique des filtres web dans son contexte. Il peut accéder aux analyses et déterminer s'il s'agit d'un incident isolé ou d'un problème récurrent touchant des centaines d'élèves. Il peut également consulter les informations relatives aux élèves sans avoir à explorer un système distinct.
Dans ces moments-là, la rapidité est essentielle, tout comme le contexte. Lorsqu'une alerte de sécurité est déclenchée, l'administrateur chargé de la réponse ne devrait pas avoir à ouvrir trois autres onglets pour comprendre ce qui s'est passé. Il devrait pouvoir consulter la conversation avec l'IA, l'historique de navigation de l'élève et les tendances d'utilisation de cet outil, le tout au même endroit. C'est ce qui distingue un écosystème connecté d'une multitude de solutions ponctuelles. Et pour les districts scolaires déjà surchargés, cette différence n'est pas seulement opérationnelle ; C'est ce qui détermine si un élève reçoit de l'aide à temps.
Vous souhaitez découvrir comment la plateforme connectée de Lightspeed fonctionne dans votre district ? Visionnez l’enregistrement à la demande pour une démonstration en direct de Lightspeed Insight, Filter et Alert, et obtenez des réponses aux questions que se posent actuellement les districts scolaires concernant la gouvernance de l’IA.
FAQ
Mon district n'a pas encore de politique officielle en matière d'IA. Comment Lightspeed nous permet-il de savoir ce qui est utilisé ?
Lightspeed Insight™ révèle toutes les applications actives sur les appareils des élèves. (y compris les outils d'IA) en combinant un logiciel installé sur l'appareil et une synchronisation des listes d'élèves. Le logiciel suit l'activité en ligne des élèves ; la synchronisation des listes associe cette activité à un niveau scolaire, un établissement ou un utilisateur individuel. Grâce à cette connexion, les districts scolaires peuvent filtrer les données analytiques par bâtiment, niveau ou tendance d'utilisation sans avoir de politique formelle en place. Inutile de savoir ce que vous cherchez : la plateforme vous montre ce qui est déjà disponible.
Lightspeed peut-il appliquer des politiques différentes aux élèves du secondaire et aux élèves du primaire ?
Oui. Lightspeed Filter™ prend en charge la différenciation des politiques par niveau scolaire et par établissement depuis ses débuts ; c’était un besoin courant bien avant la généralisation des outils d’IA. Les politiques peuvent être définies selon n’importe quelle dimension fournie par votre système d’information ou annuaire scolaire : niveau scolaire, bâtiment, groupe d’utilisateurs ou unité organisationnelle. La seule limitation actuelle concerne l’application stricte des critères d’âge (par exemple, une limite d’âge minimale de 13 ans), car Lightspeed n’a pas accès aux données de date de naissance. La plupart des districts gèrent cette limitation en établissant des politiques basées sur les affectations par établissement ou par niveau scolaire.
Comment Lightspeed gère-t-il la surveillance de la sécurité des outils d'IA comme Gemini et ChatGPT ?
Lightspeed Alert™ surveille les conversations avec l'IA (notamment Gemini, ChatGPT et Copilot) ainsi que l'activité web générale sont analysées afin de détecter les signaux de sécurité. Lorsqu'un élément préoccupant est détecté, les spécialistes de la sécurité de Lightspeed examinent le contenu, évaluent sa gravité et contactent le district scolaire par téléphone et SMS en temps réel. Le dossier d'alerte comprend la phrase signalée, la plateforme source, une évaluation de la gravité, la documentation des échanges et une capture d'écran de l'incident. Ceci est particulièrement important pour les outils d'IA, avec lesquels les élèves peuvent partager des informations qu'ils ne diraient pas à un humain – et où attendre qu'une personne consulte un tableau de bord n'est pas suffisamment rapide.
Comment les districts peuvent-ils mettre en place leurs flux de communication pour les alertes de sécurité urgentes ?
Lightspeed Alert™ permet aux districts de créer des flux de travail d'escalade entièrement personnalisables. Vous décidez qui reçoit les notifications urgentes pendant les heures de classe, qui assure la permanence en dehors des heures de classe et les week-ends, et ce qui se passe en cas d'absence de réponse : transmission à l'équipe du bureau central du district, aux responsables d'établissement ou à une ligne d'assistance téléphonique. Un grand district du Texas (plus de 50 000 élèves) avec lequel Lightspeed a collaboré, par exemple, achemine les alertes pendant les heures de classe vers les responsables d'établissement et celles en dehors des heures de classe vers une équipe d'astreinte au niveau du district. Le processus est conçu pour s'adapter au fonctionnement réel de votre organisation.
Lightspeed peut-il surveiller le contenu des invites et des réponses de l'IA, et pas seulement les sites visités par les étudiants ?
Oui, pour les plateformes prises en charge. Grâce au partenariat de Lightspeed Filter avec Google et à ses intégrations directes, les établissements scolaires peuvent accéder à un flux consultable des interactions individuelles des élèves avec l'IA (Gemini, ChatGPT et Copilot) – incluant la question posée, la réponse et l'horodatage. La prise en charge de Claude est en cours de développement. Ce niveau de visibilité est essentiel non seulement pour la sécurité, mais aussi pour la responsabilisation en matière d'utilisation acceptable : les établissements peuvent consulter l'activité d'un élève en particulier pour vérifier ce qui s'est passé, au lieu de se fier à des versions contradictoires.
