要点总结：
- 人工智能带来的伤害是苏格兰学校面临的一个新兴安全风险，深度伪造、自动化欺凌、自残内容和人工智能驱动的诱骗行为增加了伤害发生的规模和速度。.
- 人工智能素养、适度过滤和主动监控现在是有效的数字安全和儿童保护框架的重要组成部分。.
- 在人工智能时代，早期可见性、强有力的治理和自信的保障领导对于确保技术支持学习并保护学生福祉至关重要。.
随着3月9日苏格兰人工智能周的临近，现在正是停下来反思一个关键问题的恰当时机。.
不仅要关注我们如何在教育中使用人工智能，还要关注我们如何理解和防范人工智能带来的危害。.
作为安全保障和数字化转型总监，我认为人工智能既非令人恐惧之物，也非可以不加审视就随意采用之物。它是一种强大的工具。如同任何强大的工具一样，它需要设定界限、掌握相关知识、进行监督和发挥领导作用。.
人工智能造成的危害究竟指的是什么？
人工智能引发的危害是指通过人工智能系统产生、放大或加速的风险。在学校环境中，这可能包括：
• 人工智能生成的性暗示图像，包括同龄人或员工的深度伪造图像
• 利用人工智能聊天机器人来演练或正常化自残想法
• 自动化欺凌内容或操纵媒体
• 接触到被当作权威人士提供的不准确或有害的建议
• 人工智能工具被用于生成暴力或剥削性材料
• 通过人工智能辅助信息传递，提高了客户信息传递的规模和速度。
• 对对话式人工智能系统的情感依赖
人工智能的独特之处在于其规模、实用性和易用性。学生无需具备高深的技术技能。许多工具都是免费、匿名且可在个人设备上使用的。.
为什么这对苏格兰的保障工作至关重要
苏格兰学校通过《苏格兰儿童和青少年教育框架》（GIRFEC）、《苏格兰儿童和青少年法案》以及国家儿童保护指南，在以儿童为中心的框架下运作。人工智能并非游离于这一框架之外，而是身处其中。.
关键保障原则依然不变：
• 早期识别
• 成比例反应
• 多机构协作
• 清晰的记录和管理
然而，人工智能改变了风险存在的环境。.
例如，伤害可能并非来自操场上的同伴，而是来自几秒钟内生成的合成图像。信息披露可能并非始于值得信赖的成年人，而是通过聊天机器人进行的对话。有害的叙事可能由算法系统塑造，这些系统会放大极端内容。.
这就是数字化转型和保障措施必须携手合作的地方。.
为什么这对苏格兰的保障工作至关重要
许多主流人工智能图像工具可以生成不属于真人的逼真人脸，这使得身份识别和责任追究变得更加复杂。.
- 现在，只需少量公开照片即可创建深度伪造技术。.
- 在安全防护措施改进之前，一些人工智能聊天机器人曾生成过有害或与自残相关的内容。.
- 人工智能系统可能会无意中强化偏见，这会影响不同背景的儿童在网络空间中的体验。.
- 学生们越来越多地使用人工智能来获得情感支持，却不了解数据隐私方面的影响。.
- 人工智能生成的虚假信息传播速度更快，因为它可以大规模生成，而且只需极少的投入。.
- 许多人工智能工具并没有像受监管的平台那样进行年龄验证。.
- 合成裸露应用变得越来越容易获取，也越来越难以追踪。.
- 人工智能可用于自动化骚扰，例如生成重复的个性化辱骂信息。.
意识到这些现实情况，我们就能冷静而适度地做出反应。.
作为教育领导者，我们能做些什么？
首先，要加强数字素养。人工智能素养现在必须与网络安全教育并驾齐驱。学生需要了解：
• 生成式人工智能的工作原理
• 什么是深度伪造
算法如何影响它们所看到的内容
• 数字内容的永久性
• 数据隐私和个人信息风险
第二，确保适当的过滤。学校应审查过滤政策，确保对已知的有害人工智能工具进行适当限制，同时允许安全使用合法的教育人工智能平台。.
第三，实施主动监控。仅仅屏蔽并不能起到安全保障作用。尤其是在人工智能领域，风险往往存在于用户输入的文字、提示信息和行为指标中，而不仅仅是网站类别。.
第四，增强支持人员的信心。教师和儿童保护负责人需要接受培训，以便识别人工智能相关的伤害，做出适当的回应，并按照当地儿童保护程序记录相关情况。.
第五，要让家长和监护人参与进来。许多人工智能风险出现在课外时间的个人设备上。清晰的沟通和明确的指导至关重要。.
Lightspeed Systems 如何提供帮助
从系统角度来看，Lightspeed 提供了三个关键层面的支持。.
光速滤镜™ 允许学校在各种设备上应用适合年龄和政策的过滤机制，帮助管理对高风险人工智能工具的访问，同时保持其教育用途。.
光速警报™ 该系统可主动监控学生在支持的设备和云环境中的活动，识别自残、欺凌、暴力、毒品、性虐待和露骨内容等迹象。在人工智能的背景下，这意味着学校可以了解可能预示着脆弱性或潜在危害的令人担忧的语言、提示或模式。.
事件按风险等级分组，并按案件进行优先排序，以便指定的保障负责人能够运用专业判断并及早介入。.
至关重要的是，监控是对人工审核的辅助，而不是取代人工审核。.
在人工智能时代，及早发现问题至关重要。危害可能迅速升级。背景很重要。.
英国和苏格兰主要资源
对于苏格兰的同事们来说，以下几点是重要的路标：
Childnet 和 Internet Matters 家长资源
学校可能也希望审查 英国教育部过滤和监控标准, 随着诸多期望日益影响英国各地的实践，这种情况愈演愈烈。.
平衡的方法
人工智能周不应该充斥恐惧，而应该强调知情的领导力。.
人工智能将继续影响年轻人的学习、创造和交流方式。我们的职责不是摒弃技术，而是确保技术得到安全、合乎伦理且负责任的使用。.
这需要：
比例滤波。.
主动监控。.
清晰的治理。.
教育和意识提升。.
自信的保障型领导力。.
作为保障和数字化转型总监，我认为最有效的做法并非单纯的限制，也并非盲目照搬。而是深思熟虑的整合，辅以透明度，并以儿童为中心原则为指导。.
人工智能时代已经到来。我们的责任是确保儿童在人工智能时代保持安全、获得支持和赋能。.
如果您对 Lightspeed Systems 如何帮助您的学校或多校教育机构打造人工智能教室有任何疑问，请联系我们的团队预约通话。 这里.
