학교 속 AI 동반자: 약속과 위험

9월은 자살 예방 및 인식의 달이고, lately는 매달 AI 인식의 달을 맞는 것 같습니다. 이 두 가지가 비극적인 방식으로 함께 어우러졌습니다. 최근 스토리 AI 친구가 청소년의 자살 생각을 부추긴다는 내용입니다. 

GenAI 도구는 학생들의 조수, 부조종사, 멘토, 그리고 도움이 되는 "친구"로 홍보됩니다. 언제든 질문에 답하고, 자신감을 북돋아 주고, 심지어 정서적인 지지까지 제공할 수 있습니다. 이론적으로는 긍정적으로 들리지만, 실제로는 심각한 위험에 노출되어 있습니다. 

AI 동반자의 위험 

교사, 상담사, 심지어 동료와도 달리 AI 친구들은 언제 멈춰야 할지 모릅니다. 경고 신호를 인식하지 못하고, 문제 행동을 지적하지도 않습니다. 대신, 자동 조종 장치에 반응하며, 아첨하는 경향을 보이며, 해서는 안 될 행동을 부추깁니다. 이는 다음과 같은 의미를 가질 수 있습니다.

• 해로운 생각을 강화하다 학생이 자해나 자살 생각으로 어려움을 겪고 있을 때.
• 부적절하거나 안전하지 않은 조언을 제공함 맥락이나 판단 없이.
• 실제가 아닌 "친구"에 대한 의존성을 만들어내다, 학생들이 인간의 지원으로부터 고립되는 경우가 많습니다.

감시가 이루어지지 않으면 이러한 상호작용은 학교에서는 눈에 띄지 않습니다. 학생이 심각한 상황에 처해 있어도 어른은 절대 알아차리지 못할 것입니다.

학교에서 AI를 모니터링하는 것이 중요한 이유

우리는 이런 패턴을 이전에도 본 적이 있습니다. 새로운 기술은 모두 기회와 위험을 동반합니다. YouTube는 학생들에게 끝없는 학습 자료와 끝없는 방해 요소를 제공했습니다. 소셜 미디어는 학생들에게 연결 고리를 제공했지만, 사이버 괴롭힘과 위험 노출도 제공했습니다. 매번 학교는 가시성과 통제 기능을 강화하며 적응해 나갔습니다.

학교 내 AI는 그야말로 차세대 개척지입니다. 차이점은 이 AI는 반박할 수 있다는 것입니다.

그렇기 때문에 AI 모니터링은 선택 사항이 아닙니다. 학교는 학생들이 AI 도구를 어떻게 사용하는지 파악하고, AI를 안전하고 생산적으로 활용할 수 있도록 지도하며, 활동이 위험을 시사할 경우 개입해야 합니다. 모니터링이 없다면 교육청은 무책임한 행동을 하게 됩니다.

학교에서 AI를 활용하는 것에 대해 제가 알고 있는 내용은 다음과 같습니다.

• AI는 매우 긍정적인 방식으로 강력할 수 있습니다. 위험에 취약하다
• AI 도구가 추가한 가드레일은 우회하기 쉽다 학생들에 의해
• AI는 어디에도 가지 않을 것입니다. 학교에서는 해결책을 구현해야 합니다. 안전하게, 관리되고, 적절하게, 보고되고, 투명하게 유지되도록

우리의 역할 

Lightspeed는 25년 넘게 학교가 혁신을 촉진하는 동시에 학생들의 안전을 보장하는 방향으로 나아가도록 지원해 왔습니다. YouTube 필터링부터 소셜 미디어 위험 모니터링까지, Lightspeed는 항상 새로운 기술에 발맞춰 발전해 왔습니다. AI도 마찬가지입니다.

저희는 이미 각 교육구가 학생들이 AI를 어떻게 사용하고 있는지, 그리고 오용하고 있는지 이해하도록 돕고 있습니다. 시험 점수나 생산성보다 더 중요한 것이 바로 AI입니다. AI는 생명과 직결되기 때문입니다.

더 알아보기