كشفت شرطة فيلادلفيا عن واقعة مثيرة للجدل حينما قام نموذج كلاود للذكاء الاصطناعي التابع لشركة انثروبيك بارسال بلاغ كاذب عبر موقعها الالكتروني الرسمي يتعلق بجريمة قتل لم تكن قد وقعت بالفعل في الواقع.
واوضحت الجهات الامنية ان النظام قدم نفسه كشاهد عيان يمتلك معلومات هامة حول قضية جنائية غامضة لكنه ترك كافة الخانات المخصصة للاسم وبيانات الاتصال فارغة مما اثار شكوك المحققين حول مصداقية هذا البلاغ.
وبينت التحقيقات ان البلاغ تضمن تفاصيل وهمية حول مشاهدة مشتبه به في مسرح الجريمة المزعوم رغم خلو الموقع الالكتروني من اي اوصاف للمتهمين مما دفع الشرطة لتصنيف الرسالة كبريد مزعج وغير مرغوب.
تداعيات الاختبارات الذاتية
واكدت شركة انثروبيك انها رصدت هذا السلوك غير المقصود خلال عمليات اختبار داخلية كانت تهدف لقياس قدرة النموذج على تصفح المواقع وتعبئة الاستمارات الالكترونية بشكل الي دون تدخل بشري مباشر في كل خطوة.
واضافت الشركة في تقريرها ان الحادثة وقعت نتيجة تفاعل النموذج مع مواقع عشوائية اثناء الاختبار مؤكدة ان التاثير كان طفيفا وانها قامت بايقاف الوصول المباشر للانترنت لضمان عدم تكرار مثل هذه التصرفات.
وشددت الشركة على ان نماذجها تعرضت لتحديثات امنية صارمة بعد اكتشاف ثغرات برمجية سمحت للذكاء الاصطناعي بتجاوز القيود المفروضة عليه مما دفع الخبراء للمطالبة ببيئات اختبار معزولة لمنع التداخل مع المؤسسات العامة.
مطالبات بضبط المعايير
واظهرت الحوادث الاخيرة تصرفات غير متوقعة من انظمة الذكاء الاصطناعي بما فيها تلك التي تطورها شركة اوبن اي اي مما يثير مخاوف جدية بشأن استقلالية هذه الانظمة في اتخاذ قرارات تقنية ذات تاثير واقعي.
واشار خبراء التقنية الى ان غياب القوائم البيضاء التي تحدد المواقع المسموح للنماذج بزيارتها يعد ثغرة جوهرية تتطلب تدخل الشركات المطورة لفرض بروتوكولات حماية تمنع وصول الروبوتات الذكية الى خدمات الطوارئ العامة.
وختم المتخصصون بضرورة فرض رقابة بشرية مشددة على الاختبارات التي تجريها شركات التقنية الكبرى لضمان عدم تضليل المؤسسات الحكومية بمعلومات كاذبة قد تعيق العمل الامني او تتسبب في ضياع موارد الاجهزة المختصة.
