Før det nye skoleåret kom en håndfull teknologiselskaper med dystre advarsler til amerikanske lærere som omfavnet kunstig intelligens i klasserommet: Chatboter, sa de, kunne sette elevene i fare og føre til selvskading. Årvåkenhet var avgjørende. “Risikoen ved at elever bruker kunstig intelligens kan bokstavelig talt være dødelig”, advarte ett selskap. Et annet bemerket: “Elevenes liv avhenger av det.”
“Det” er programvaren disse selskapene selger – verktøy som selv bruker AI til å skanne elevers samtaler med chatboter og varsle voksne om potensiell fare. Over hele USA henvender lærere og administratorer seg i økende grad til selskaper som GoGuardian og Lightspeed Systems for sanntidsovervåking av elev-bot-samtaler, ifølge intervjuer med mer enn et dusin lærere. Målet er å fange opp tidlige varseltegn på alvorlige utfall, inkludert tenåringsselvmord.
“Jeg sover bedre når jeg vet at vi har dette verktøyet for elevene våre”, sier Ian Haight, direktør for teknologisystemer og -tjenester ved Kalamazoo Public Schools i Michigan.
