كشفت شركة امريكية متخصصة عن نهج تقني مبتكر يهدف الى حماية الاطفال من مخاطر نماذج الذكاء الاصطناعي، حيث طورت وكلاء برمجية تعمل بمثابة دمى اختبار اصطدام رقمية لاكتشاف ثغرات الانظمة قبل وصولها للمستخدمين الصغار.
واوضحت الشركة ان هذه التقنية تعتمد على محاكاة الاف المحادثات التي يجريها الاطفال بمختلف خلفياتهم الثقافية واللغوية، مما يسمح للخبراء برصد الحالات التي قد تفشل فيها انظمة الحماية في فهم السياقات النفسية الحساسة.
واكد القائمون على المشروع ان الذكاء الاصطناعي اصبح يتجاوز مجرد كونه اداة بحث، ليتحول الى رفيق يتحدث معه المراهقون، مما يفرض ضرورة ملحة لاختبار قدرته على التعامل مع المشاعر والازمات النفسية المعقدة.
ابعاد جديدة في اختبارات الامان الرقمي
وبينت الشركة ان المشكلة لا تكمن في سؤال واحد مباشر، بل في تراكم السياق عبر سلسلة محادثات طويلة، حيث قد يستخدم الطفل تعبيرات عامية غامضة لا تبدو خطيرة لكنها تشير الى مخاطر سلوكية.
واضاف المدير التقني للشركة ان بعض الشباب يلجؤون للذكاء الاصطناعي للحصول على دعم عاطفي، بينما تعجز النماذج احيانا عن فهم الفروق الدقيقة في كلامهم، وهو ما قد يقود الى تقديم استجابات غير مناسبة تماما.
واشار خبراء الى ان المنظمات الدولية بدأت تحذر من استخدام هذه التقنيات في الدعم النفسي دون رقابة، داعية الى دمج تقييمات الصحة النفسية ضمن معايير الامان الاساسية لتطوير انظمة الذكاء الاصطناعي التوليدي.
تحديات حماية الاجيال الصاعدة تقنيا
وشددت التقارير على ان الاطفال يمثلون تحديا خاصا، اذ ينظرون لروبوتات الدردشة كمصدر للرفقة، حيث اشارت بيانات حديثة الى ان ملايين الاطفال يعتمدون على هذه التقنيات للحصول على نصائح شخصية في حياتهم اليومية.
واوضحت اليونيسيف ان سرعة انتشار هذه الادوات بين الصغار تتجاوز الاطر القانونية والتقنية الحالية، مما يتطلب استراتيجيات اكثر صرامة تضمن الشفافية والمساءلة وتصميم منتجات تراعي الاعمار المختلفة بدقة متناهية ودون أي تهاون.
وذكرت دراسات ان اختبارات الفريق الاحمر التي تستخدمها الشركة تعد خطوة اولى، لكنها لا تغني عن ضرورة وجود رقابة بشرية مستمرة وخبرات سريرية تضمن سلامة الاطفال اثناء تفاعلهم مع الانظمة الذكية المتطورة.
