Inför det nya läsåret utfärdade en handfull teknikföretag dystra varningar till amerikanska lärare som anammar artificiell intelligens i klassrummet: Chatbotar, sa de, kan äventyra elever och leda till självskada. Vaksamhet var av största vikt. “Riskerna med att elever använder AI kan bokstavligen talat vara dödliga”, varnade ett företag. Ett annat noterade: “Elevernas liv beror på det.”
“Det” är programvaran som dessa företag säljer – verktyg som själva använder AI för att skanna elevers samtal med chattrobotar och varna vuxna för potentiell fara. Över hela USA vänder sig lärare och administratörer i allt större utsträckning till företag som GoGuardian och Lightspeed Systems för realtidsövervakning av elev-bot-konversationer, enligt intervjuer med mer än ett dussin lärare. Målet är att upptäcka tidiga varningstecken på allvarliga konsekvenser, inklusive tonårsmord.
“Jag sover bättre i vetskapen om att vi har det här verktyget för våra elever”, säger Ian Haight, chef för tekniksystem och tjänster på Kalamazoo Public Schools i Michigan.
