Vor Beginn des neuen Schuljahres warnten einige Technologieunternehmen amerikanische Lehrkräfte eindringlich vor dem Einsatz künstlicher Intelligenz im Unterricht: Chatbots könnten Schüler gefährden und zu Selbstverletzungen führen. Wachsamkeit sei daher unerlässlich. “Die Risiken, die von der Nutzung von KI durch Schüler ausgehen, können buchstäblich tödlich sein”, warnte ein Unternehmen. Ein anderes merkte an: “Das Leben von Schülern hängt davon ab.”
Das “Es” ist die Software, die diese Unternehmen verkaufen – Tools, die mithilfe von KI die Konversationen von Schülern mit Chatbots analysieren und Erwachsene vor potenziellen Gefahren warnen. Laut Interviews mit mehr als einem Dutzend Pädagogen wenden sich Lehrer und Schulleiter in den USA zunehmend an Unternehmen wie GoGuardian und Lightspeed Systems, um die Chatbot-Konversationen von Schülern in Echtzeit zu überwachen. Ziel ist es, frühzeitig Warnzeichen für schwerwiegende Folgen, einschließlich Suizide unter Jugendlichen, zu erkennen.
“Ich schlafe besser, weil ich weiß, dass wir dieses Werkzeug für unsere Schüler haben”, sagt Ian Haight, Direktor für Technologiesysteme und -dienste der Kalamazoo Public Schools in Michigan.
