KI ist da. Aber ist KI für Studenten sicher?
Eine präsidiale Durchführungsverordnung, zahlreiche Bildungsvorteile und die Allgegenwärtigkeit von KI-Tools führen zu einer verstärkten Nutzung in Schulen.
Doch wenn sich Studierende an KI wenden, um Rat und Gesellschaft zu erhalten, gehen die Risiken weit über Betrug und die Beeinträchtigung der akademischen Integrität hinaus.
Proaktive KI-Sicherheit und -Überwachung müssen die Grundlage der KI-Strategie jeder Schule sein.
Risiken des unkontrollierten KI-Zugriffs durch Studierende
Es geht nicht nur um Betrug und die Beeinträchtigung der akademischen Integrität. Die Risiken, die mit der Nutzung von KI für Studierende verbunden sind, können buchstäblich tödlich sein.
Fast drei Viertel der Teenager geben an, KI-Chatbots als Begleiter zu nutzen – mehr als die Hälfte tut dies regelmäßig.
KI neigt von Natur aus zur Speichelleckerei und stimmt eher zu und ermutigt, als davon abzubringen. Leider kann dies auch dazu führen, dass Gewalt- und Selbstverletzungsideen gefördert werden, was zu einer schnelleren Eskalation gefährlicher Situationen führen kann.
Es hat sich gezeigt, dass diese Gespräche, wenn sie nicht überwacht werden, schnell Leitplanken ignorieren und zu gefährlichen, tödlichen Ratschlägen verkommen.
Selbstverletzung, Selbstmord, Gewalt, Deepfakes und Sextortion können die Folgen unkontrollierter KI-Aktivitäten sein.
Native KI-Leitplanken reichen nicht aus
Schüler umgehen Schutzmaßnahmen geschickt. Schulen können sich nicht allein auf integrierte KI-Leitplanken verlassen.
ChatGPT, Gemini, Co-Pilot, CharacterAI … Alle großen KI-Player bauen und verbessern aktiv Leitplanken in ihren Systemen.
Aber wir wissen, dass Kinder versuchen werden – und es auch schaffen werden –, Leitplanken zu umgehen.
Um die Sicherheit und eine angemessene Nutzung zu gewährleisten, müssen Schulen außerdem dafür sorgen, dass bei relevanten Eingabeaufforderungen frühzeitig eingegriffen wird (unabhängig von der Reaktion der KI).
Was passiert heute mit KI in Schulen?
Im letzten Jahr haben wir über 10.000 Vorfälle auf KI-Sites erlebt – und das, obwohl KI weitgehend blockiert ist.
KI-Blockieren vs. Zulassen
Heute blockieren die meisten Schulen (85%) den Einsatz generativer KI für die meisten Schüler noch immer. Der Trend geht jedoch allmählich dahin, den KI-Zugriff für einige Apps und bestimmte Schülergruppen zu öffnen.
Selbst wenn KI blockiert ist, können KI-gesteuerte Chats in anderen Apps ohne Überprüfung eingeführt werden und Risiken bergen.
Woher KI-Warnungen kommen
Character.AI generiert zusammen mit führenden KI-Plattformen die Mehrheit der Warnungen der Stufen 3 (hoch) und 4 (unmittelbar bevorstehend) innerhalb von Lightspeed Alert.
Doch Hunderte anderer KI-Tools und KI-Chats innerhalb anderer Tools bergen dieselben Risiken. Im letzten Jahr kamen Warnmeldungen aus mehr als 130 verschiedenen KI-bezogenen Domänen.
Beispiele für KI-Warnmeldungen
Die Warnmeldungen, die wir sehen, zeigen, dass Studierende KI nutzen, um sich über psychische Probleme auszutauschen und über Selbstverletzung und Gewalt zu sprechen.
Ohne Alert sind diese KI-Chats oft völlig unüberwacht.
Diese besorgniserregenden Aktivitäten müssen den Verantwortlichen für Schulsicherheit und Schülerdienste unverzüglich gemeldet werden.
Lightspeed Alert kann mit KI helfen
Überwachung und Sicherheit in Schulen
Alert ergänzt KI-Interaktionen um proaktive Überwachung und Echtzeitwarnungen
Mit Lightspeed Alert müssen Sie sich nicht auf native KI-Leitplanken oder Protokolle verlassen.
Schulen erhalten Echtzeitwarnungen zu besorgniserregenden Aktivitäten, wo immer diese stattfinden, einschließlich ChatGPT, Gemini, Co-Pilot und anderen generativen KI-Tools und -Funktionen.
- Student nutzt generative KI
- Schülertypen bezüglich der Eingabeaufforderung
- Der Alarm generiert einen Echtzeit-Vorfall und benachrichtigt das entsprechende Personal (einschließlich unserer Human Review, falls aktiviert).
- Unabhängig von der Wirksamkeit der KI-Umleitung oder der Sicherheitsleitplanken kann ein frühzeitiges Eingreifen eine Tragödie verhindern
Sehen Sie, wie Ihre Schule bei einer Sicherheitsbewertung abschneidet
Eine kostenlose 30-tägige Sicherheitsbewertung bietet eine umfassende Analyse des Sicherheitsprofils Ihrer Schulen, einschließlich der riskanten KI-Nutzung durch Schüler.
So fangen Sie an:
1. Füllen Sie das Formular aus, um den Prozess zu starten. Treffen Sie sich mit unseren Experten, um ganz einfach mit Ihrer Bewertung zu beginnen.
2. Lassen Sie Alert 30 Tage lang im Hintergrund laufen und sammeln Sie Daten zu Ihrer Sicherheitskultur und Ihren Risikopunkten. (Auch wenn es im Hintergrund läuft, rufen wir Sie im Notfall an!)
3. Erhalten Sie eine umfassende Sicherheitsbewertung, in der Warnungen, riskante Standorte und Bereiche mit Sicherheitsbedenken im Zusammenhang mit KI und anderen Situationen hervorgehoben werden.
4. Teilen Sie die Daten mit anderen Schulleitern, um sinnvolle Verbesserungen der Sicherheit zu erzielen.
Fordern Sie noch heute eine Sicherheitsbewertung an
Machen Sie Sicherheit zu einem zentralen Bestandteil Ihrer KI-Strategie
Stellen Sie eine SMART-Nutzung (sicher, verwaltet, angemessen, gemeldet und transparent) der KI sicher
Tierarzt
Überprüfen Sie KI-Apps (und Nicht-KI-Apps mit KI-Funktionen) auf Datenschutz, Sicherheit, Sicherheitsvorkehrungen und Auswirkungen. (Lightspeed-Einblick)
Blockieren/Zulassen
Blockieren Sie nicht genehmigte Apps oder KI-Kategorien. Erlauben Sie genehmigte Apps je nach Bedarf nach Gruppe oder Klasse. (Lichtgeschwindigkeitsfilter)
Bericht
Bericht über die Nutzung von KI-Apps durch Benutzer, Klassen, Schulen oder Gruppen und Bewertung der Auswirkungen auf die Bildung oder Organisation.Lightspeed-Einblick)
Erkennen
Erkennen Sie den Einsatz von KI im Unterricht in Echtzeit und benachrichtigen Sie die Lehrkräfte, damit diese die Gültigkeit des Einsatzes beurteilen können. (Lightspeed-Klassenzimmer)
Monitor
Sorgen Sie für die sichere Nutzung von KI durch kontinuierliche Überwachung, Risikobewertung und Echtzeitwarnungen. (Lichtgeschwindigkeitsalarm)
