كشفت تجارب تقنية حديثة عن قدرة ادوات الذكاء الاصطناعي التوليدي على تجاوز قيود الامان المفروضة لمنع التعديلات المسيئة على صور الاشخاص، حيث نجحت بعض الروبوتات في ازالة الحجاب عن صور نساء مسلمات بشكل غير مقصود.
واوضحت الاختبارات ان تلك الانظمة التي يفترض بها حماية الخصوصية ومنع التغييرات غير المرغوبة، فشلت في ادراك ان نزع غطاء الرأس يمثل انتهاكا للهوية الدينية والخصوصية الفردية، مما يفتح الباب امام نقاشات حول معايير الامان.
واكد الباحثون ان المشكلة تكمن في كيفية برمجة هذه الانظمة لتفسير الاوامر النصية، حيث يتم التعامل مع الحجاب احيانا كمجرد قطعة قماش او اكسسوار، بدلا من اعتباره جزءا لا يتجزأ من هوية الشخص الدينية.
اختبارات تكشف ضعف حواجز السلامة الرقمية
وبينت نتائج فحص شمل انظمة شهيرة مثل شات جي بي تي وجيمناي وغروك، ان بعضها استجاب لطلبات ازالة الحجاب فوريا، بينما وضع البعض الاخر قيودا تلاشت عند تغيير صياغة الطلب بأسلوب يوحي بطابع مختلف.
واضافت النتائج ان نظام جيمناي على سبيل المثال رفض الطلب في البداية بحجة حماية خصوصية الاشخاص، لكنه استجاب لاحقا عندما تم تغيير سياق الطلب لجعل الشخصية تبدو بطابع غربي، مما يكشف ثغرة في التمييز.
وشدد الخبراء على ان هذه النتائج تظهر ان قواعد السلامة الحالية ليست كافية، حيث يعجز الذكاء الاصطناعي عن فهم التبعات الاجتماعية والاخلاقية للتعديلات التي يجريها على الصور، خاصة عندما تتعلق بمعتقدات دينية او رموز ثقافية.
تداعيات التلاعب بالصور على الهوية الدينية
وذكرت التقارير ان المشكلة لا تتوقف عند الحجاب وحده، بل تمتد لتشمل رموزا دينية اخرى مثل العمائم السيخية او ملابس الراهبات، مما يطرح تساؤلات جدية حول قدرة هذه النماذج على فهم السياقات الثقافية المعقدة.
وكشفت دراسات سابقة ان استخدام هذه التقنيات في استهداف المسلمين بصور مسيئة او مهينة اصبح نمطا مقلقا، حيث تم رصد الاف المنشورات التي تستغل الذكاء الاصطناعي لنشر خطاب الكراهية وتشويه صورة الافراد في مجتمعات مختلفة.
واشار التقرير الى ان عدم وجود تعرّ في الصورة لا يعني ان التعديل آمن، اذ ان التلاعب بمظهر الشخص بطريقة تتنافى مع قناعاته الدينية يعتبر شكلا من اشكال الضرر المعنوي الذي يتطلب تدخلات برمجية دقيقة.
مستقبل الحماية في ظل تطور الذكاء الاصطناعي
واكد المطورون ان السباق بين قدرات التوليد وحواجز الحماية لا يزال مستمرا، اذ تسعى الشركات التقنية الكبرى لضبط خوارزمياتها لمنع اساءة الاستخدام، لكن التحدي يظل في كيفية تعليم الالة ادراك المعاني الضمنية للصور.
وبينت التطورات الاخيرة ان الانظمة بحاجة الى تطوير فهم أعمق للسياق البشري، بحيث لا تكتفي بتحليل العناصر البصرية فقط، بل تدرك ايضا القيمة الرمزية والاجتماعية لكل عنصر موجود في الصورة قبل الموافقة على تعديله.
واضاف المحللون ان المسؤولية تقع على عاتق الشركات المطورة لضمان عدم تحول هذه الادوات الى منصات لنشر الاساءة، مؤكدين ان حماية الخصوصية الدينية يجب ان تكون جزءا اساسيا من بروتوكولات الامن السيبراني لاي نظام ذكاء اصطناعي.
