Settembre è il mese della prevenzione e della consapevolezza del suicidio, e lately ogni mese sembra essere il mese della consapevolezza dell'intelligenza artificiale. Queste due cose si sono unite in modi tragici, con storie recenti sui compagni di intelligenza artificiale che incoraggiano l'ideazione suicidaria negli adolescenti.
Gli strumenti di GenAI vengono commercializzati come assistenti, copiloti, mentori e "amici" utili per gli studenti, sempre disponibili a rispondere alle domande, aumentare la fiducia in se stessi e persino fornire supporto emotivo. In teoria, questo sembra positivo. In pratica, i rischi sono seri.
I rischi dei compagni di intelligenza artificiale
A differenza di un insegnante, di un consulente o persino di un pari, i compagni di intelligenza artificiale non sanno quando fermarsi. Non riconoscono i segnali d'allarme. Non segnalano comportamenti problematici. Piuttosto, reagiscono in automatico, con tendenze adulatrici che incoraggiano quando non dovrebbero. Questo può significare:
- Rafforzare i pensieri dannosi quando uno studente è alle prese con autolesionismo o ideazioni suicide.
- Dare consigli inappropriati o pericolosi senza contesto o giudizio.
- Creare dipendenza da un “amico” che non è reale, lasciando gli studenti isolati dal supporto umano.
Se non monitorate, queste interazioni sono invisibili alle scuole. Uno studente potrebbe trovarsi in una spirale di squilibrio, e nessun adulto se ne accorgerebbe mai.
Perché è importante monitorare l'intelligenza artificiale nelle scuole
Abbiamo già visto questo schema: ogni nuova tecnologia porta con sé opportunità e rischi. YouTube ha offerto agli studenti infinite risorse di apprendimento e infinite distrazioni. I social media hanno offerto loro connessioni, ma anche cyberbullismo ed esposizione a pericoli. Ogni volta, le scuole si sono adattate aumentando visibilità e controlli.
L'intelligenza artificiale nelle scuole è semplicemente la prossima frontiera. La differenza è che questa può rispondere.
Ecco perché il monitoraggio dell'IA non è facoltativo. Le scuole devono osservare come gli studenti utilizzano gli strumenti di IA, guidarli verso un utilizzo sicuro e produttivo dell'IA e intervenire quando l'attività segnala un rischio. Senza monitoraggio, i distretti scolastici vanno alla cieca.
Ecco cosa so sull'uso dell'intelligenza artificiale nelle scuole:
- L'intelligenza artificiale può essere potente in modi molto positivi; è anche incline al rischio
- I guardrail aggiunti dagli strumenti di intelligenza artificiale sono incline all'elusione dagli studenti
- L'intelligenza artificiale non andrà da nessuna parte, quindi le scuole devono implementare soluzioni per mantenerlo sicuro, gestito, appropriato, segnalato e trasparente
Il nostro ruolo
In Lightspeed, da oltre 25 anni aiutiamo le scuole a seguire questa linea: promuovere l'innovazione garantendo al contempo la sicurezza degli studenti. Dal filtraggio di YouTube al monitoraggio dei rischi sui social media, ci siamo sempre adattati alle nuove tecnologie. L'intelligenza artificiale non fa eccezione.
Stiamo già aiutando i distretti scolastici a capire come gli studenti utilizzano l'intelligenza artificiale, e come la abusano. Perché la posta in gioco è più alta dei punteggi dei test o della produttività. Riguarda le vite degli studenti.
Saperne di più
Abbiamo raccolto dati e approfondimenti unici su come gli studenti interagiscono con l'intelligenza artificiale, quali rischi stiamo riscontrando e come le scuole possono rispondere. Puoi leggere di più qui:
In quanto educatori e leader tecnologici, non possiamo permetterci di essere passivi riguardo alla sicurezza dell'intelligenza artificiale.
L'innovazione è reale, ma lo sono anche i rischi. E la sicurezza degli studenti deve venire prima di tutto.
