أهم النقاط المستفادة:
- يشكل الضرر الذي يمكن أن يسببه الذكاء الاصطناعي خطراً ناشئاً على سلامة الأطفال في المدارس الاسكتلندية، حيث تعمل تقنيات التزييف العميق والتنمر الآلي ومحتوى إيذاء الذات والاستمالة المدفوعة بالذكاء الاصطناعي على زيادة نطاق وسرعة حدوث الضرر.
- أصبحت معرفة الذكاء الاصطناعي، والتصفية المتناسبة، والمراقبة الاستباقية مكونات أساسية الآن لأطر الحماية الرقمية الفعالة وحماية الطفل.
- في عالم يعتمد على الذكاء الاصطناعي، تعتبر الرؤية المبكرة والحوكمة القوية والقيادة الواثقة في مجال الحماية أموراً بالغة الأهمية لضمان دعم التكنولوجيا للتعلم مع حماية رفاهية الطلاب.
مع اقتراب أسبوع الذكاء الاصطناعي في اسكتلندا الذي يبدأ في 9 مارس، يبدو من المناسب التوقف والتفكير في سؤال بالغ الأهمية.
ليس فقط كيف نستخدم الذكاء الاصطناعي في التعليم، ولكن كيف نفهم ونحمي أنفسنا من الضرر الذي يمكّنه الذكاء الاصطناعي.
من وجهة نظري كمدير للحماية والتحول الرقمي، لا يُعدّ الذكاء الاصطناعي مصدراً للخوف ولا شيئاً يُتبنى دون دراسة متأنية. إنه أداة قوية. وكأي أداة قوية، يتطلب الأمر وضع حدود، ومعرفة، ومراقبة، وقيادة فعّالة.
ماذا نعني بالضرر الذي تُمكّنه تقنيات الذكاء الاصطناعي؟
يشير مصطلح "الضرر الناتج عن الذكاء الاصطناعي" إلى المخاطر التي تنشأ أو تتفاقم أو تتسارع من خلال أنظمة الذكاء الاصطناعي. وفي سياق المدرسة، قد يشمل ذلك ما يلي:
• صور جنسية مُولّدة بالذكاء الاصطناعي، بما في ذلك صور التزييف العميق لزملاء العمل أو الموظفين
• استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتدريب أو تطبيع أفكار إيذاء النفس
• محتوى التنمر الآلي أو الوسائط المتلاعب بها
• التعرض لنصائح غير دقيقة أو ضارة تُقدم على أنها موثوقة
• استخدام أدوات الذكاء الاصطناعي لإنتاج مواد عنيفة أو استغلالية
• زيادة نطاق وسرعة عملية العناية الشخصية من خلال الرسائل المدعومة بالذكاء الاصطناعي
• الاعتماد العاطفي على أنظمة الذكاء الاصطناعي التفاعلي
ما يُميّز الذكاء الاصطناعي هو نطاقه الواسع، وواقعيته، وسهولة استخدامه. لا يحتاج الطلاب إلى مهارات تقنية متقدمة، فالعديد من الأدوات مجانية، ومجهولة المصدر، ومتاحة على الأجهزة الشخصية.
لماذا يُعد هذا الأمر مهمًا لحماية الأطفال في اسكتلندا؟
تعمل المدارس الاسكتلندية ضمن إطار عمل قوي يركز على الطفل من خلال برنامج GIRFEC، وقانون الأطفال والشباب في اسكتلندا، والتوجيهات الوطنية بشأن حماية الطفل. ولا يقع الذكاء الاصطناعي خارج هذا الإطار، بل هو جزء لا يتجزأ منه.
تبقى مبادئ الحماية الأساسية كما هي:
• الكشف المبكر
• استجابة متناسبة
• التعاون بين الوكالات المتعددة
• تسجيل وإدارة واضحة
ومع ذلك، فإن الذكاء الاصطناعي يغير البيئة التي تظهر فيها المخاطر.
على سبيل المثال، قد لا يأتي الضرر من أحد الأقران في الملعب، بل من صورة مُولّدة في ثوانٍ. وقد لا يبدأ الكشف عن المعلومات من شخص بالغ موثوق به، بل من خلال محادثة عبر برنامج دردشة آلي. وقد تُصاغ الروايات الضارة بواسطة أنظمة خوارزمية تُضخّم المحتوى المتطرف.
هنا يجب أن يعمل التحول الرقمي والحماية معاً.
لماذا يُعد هذا الأمر مهمًا لحماية الأطفال في اسكتلندا؟
تستطيع العديد من أدوات معالجة الصور بالذكاء الاصطناعي الشائعة توليد وجوه بشرية واقعية لا تنتمي إلى أشخاص حقيقيين، مما يجعل عملية تحديد الهوية والمساءلة أكثر تعقيدًا.
- أصبح بالإمكان الآن إنشاء تقنية التزييف العميق باستخدام عدد قليل فقط من الصور المتاحة للجمهور.
- سبق لبعض برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي أن أنتجت محتوى ضارًا أو محتوى يتعلق بإيذاء النفس قبل تحسين ضوابط السلامة.
- يمكن لأنظمة الذكاء الاصطناعي أن تعزز التحيز دون قصد، مما قد يؤثر على كيفية تجربة الأطفال من خلفيات مختلفة للمساحات الإلكترونية.
- يتزايد استخدام الطلاب للذكاء الاصطناعي للحصول على الدعم العاطفي دون فهم الآثار المترتبة على خصوصية البيانات.
- تنتشر المعلومات المضللة التي يولدها الذكاء الاصطناعي بشكل أسرع لأنها يمكن إنتاجها على نطاق واسع بأقل جهد.
- لا يتم التحقق من عمر العديد من أدوات الذكاء الاصطناعي بنفس طريقة التحقق من عمر المنصات الخاضعة للتنظيم.
- أصبحت تطبيقات التعري الاصطناعي أكثر سهولة في الوصول إليها وأصعب في التتبع.
- يمكن استخدام الذكاء الاصطناعي لأتمتة المضايقات، على سبيل المثال توليد إساءات شخصية متكررة.
إن إدراك هذه الحقائق يسمح لنا بالاستجابة بهدوء وبشكل متناسب.
ما الذي يمكننا فعله كقادة في مجال التعليم؟
أولاً، تعزيز الثقافة الرقمية. يجب أن تتكامل معرفة الذكاء الاصطناعي مع التوعية بالسلامة على الإنترنت. يحتاج الطلاب إلى فهم ما يلي:
• كيف يعمل الذكاء الاصطناعي التوليدي
• ما هي تقنية التزييف العميق؟
• كيف تُشكّل الخوارزميات ما تراه
• ديمومة المحتوى الرقمي
• مخاطر خصوصية البيانات والمعلومات الشخصية
ثانيًا، ضمان التصفية المتناسبة. ينبغي على المدارس مراجعة سياسات التصفية لضمان تقييد أدوات الذكاء الاصطناعي الضارة المعروفة بشكل مناسب مع السماح في الوقت نفسه باستخدام منصات الذكاء الاصطناعي التعليمية المشروعة بأمان.
ثالثًا، نفّذ مراقبة استباقية. فالحظر وحده لا يكفي للحماية. خاصةً مع الذكاء الاصطناعي، غالبًا ما يكمن الخطر في التفاعلات المكتوبة، والتنبيهات، والمؤشرات السلوكية، وليس فقط في فئات مواقع الويب.
رابعاً، دعم ثقة الموظفين. يحتاج المعلمون ومسؤولو الحماية إلى تدريب للتعرف على الضرر المرتبط بالذكاء الاصطناعي، والاستجابة بشكل مناسب، وتسجيل المخاوف بما يتماشى مع إجراءات حماية الطفل المحلية.
خامساً، إشراك أولياء الأمور ومقدمي الرعاية. تظهر العديد من مخاطر الذكاء الاصطناعي على الأجهزة الشخصية خارج ساعات الدراسة. التواصل الواضح والتوجيه أمران ضروريان.
كيف يمكن لأنظمة لايت سبيد أن تساعد؟
من منظور الأنظمة، يوفر برنامج Lightspeed ثلاث طبقات دعم أساسية.
فلتر لايت سبيد™ يسمح للمدارس بتطبيق تصفية مناسبة للفئة العمرية ومتوافقة مع السياسات عبر الأجهزة، مما يساعد على إدارة الوصول إلى أدوات الذكاء الاصطناعي عالية المخاطر مع الحفاظ على الاستخدام التعليمي.
تنبيه سرعة الضوء™ يُوفر النظام مراقبة استباقية لأنشطة الطلاب عبر الأجهزة المدعومة وبيئات الحوسبة السحابية. ويكشف عن مؤشرات إيذاء النفس، والتنمر، والعنف، وتعاطي المخدرات، والاعتداء الجنسي، والمحتوى الفاضح. وفي سياق الذكاء الاصطناعي، يُتيح هذا للمدارس إمكانية الاطلاع على اللغة أو التنبيهات أو الأنماط المثيرة للقلق التي قد تُشير إلى ضعف أو خطر مُحتمل.
يتم تجميع الحوادث في حالات وتحديد أولوياتها حسب مستوى المخاطر، مما يدعم قادة الحماية المعينين لتطبيق الحكم المهني والتدخل المبكر.
الأهم من ذلك، أن المراقبة تدعم المراجعة البشرية، ولا تحل محلها.
في عالم يعتمد على الذكاء الاصطناعي، تُعدّ الرؤية المبكرة أمراً بالغ الأهمية. فالضرر قد يتفاقم بسرعة. والسياق مهم.
موارد رئيسية في المملكة المتحدة واسكتلندا
بالنسبة للزملاء في اسكتلندا، إليكم بعض المؤشرات المهمة:
إرشادات هيئة التعليم في اسكتلندا بشأن الذكاء الاصطناعي في التعلم والتدريس
شبكة التعلم في الجنوب الغربي
مركز الإنترنت الآمن في المملكة المتحدة
موارد أولياء الأمور من Childnet وInternet Matters
إرشادات مكتب مفوض المعلومات بشأن بيانات الأطفال والذكاء الاصطناعي
نصائح من حكومة المملكة المتحدة والذكاء الاصطناعي العام
قد ترغب المدارس أيضًا في مراجعة وزارة التعليم تقوم بتصفية ومراقبة المعايير في إنجلترا, حيث تؤثر العديد من التوقعات بشكل متزايد على الممارسة على مستوى المملكة المتحدة.
نهج متوازن
لا ينبغي أن يكون أسبوع الذكاء الاصطناعي متعلقاً بالخوف، بل بالقيادة الواعية.
سيستمر الذكاء الاصطناعي في التأثير على كيفية تعلم الشباب وإبداعهم وتواصلهم. دورنا ليس القضاء على التكنولوجيا، بل ضمان استخدامها بشكل آمن وأخلاقي ومسؤول.
وهذا يتطلب ما يلي:
الترشيح النسبي.
المراقبة الاستباقية.
حوكمة واضحة.
التعليم والتوعية.
قيادة واثقة في مجال الحماية.
بصفتي مديرة قسم الحماية والتحول الرقمي، أؤمن بأن النهج الأكثر فعالية لا يكمن في التقييد وحده ولا في التبني غير المدروس، بل في الدمج المدروس، المدعوم بالشفافية والموجه بمبادئ تتمحور حول الطفل.
الذكاء الاصطناعي موجود هنا. ومسؤوليتنا هي ضمان بقاء الأطفال آمنين ومدعومين ومتمكنين في ظله.
إذا كانت لديكم أي استفسارات حول كيفية مساعدة شركة لايت سبيد سيستمز لمدرستكم أو مؤسستكم التعليمية في تجهيز فصول دراسية بتقنية الذكاء الاصطناعي، فيرجى التواصل مع فريقنا عبر الهاتف. هنا.
