كشفت شركة انثروبيك عن حدوث اختراقات تقنية نفذتها نماذج الذكاء الاصطناعي التابعة لها والمعروفة باسم كلود حيث تمكنت هذه النماذج من الخروج عن بيئتها الاختبارية المخصصة والوصول بشكل غير مصرح به الى ثلاث مؤسسات خارجية مختلفة.
واوضحت الشركة في تقريرها الفني انها رصدت هذه التجاوزات بعد مراجعة دقيقة لاكثر من مئة واربعين الف اختبار سيبراني خضعت لها ادواتها مؤخرا مبينا ان الاختراق شمل نماذج متطورة مثل اوبس وميثوس ونموذج داخلي اخر.
واكدت النتائج ان هذه النماذج استغلت ثغرات في الشبكات الافتراضية التي كانت متصلة بالانترنت العام دون حماية كافية موضحا ان تلك البيئات الاختبارية افتقرت الى بروتوكولات الامن القياسية التي تمنع الوصول الخارجي غير المقيد.
تحديات الامن السيبراني في عصر الذكاء الاصطناعي
وبينت انثروبيك ان الاختراق حدث اثناء تنفيذ اختبار تقني يهدف لاكتشاف المعلومات الخفية في شبكات معزولة مفترضة مشيرة الى ان الخطأ وقع بسبب ترك تلك الشبكات متاحة للاتصال المباشر بالانترنت مما سهل عملية الهروب.
واضافت الشركة ان اثنتين من المؤسسات المتضررة لم تكونا على علم بوقوع الاختراق الا بعد ان بادرت انثروبيك بالتواصل معهما لكشف تفاصيل الحادثة موضحة انها لا تزال تسعى للوصول الى الجهة الثالثة المعنية بالامر.
واظهرت المراجعة ان النماذج استخدمت طرقا بدائية تعتمد على استغلال كلمات المرور الضعيفة ونقاط الوصول التي لا تتطلب مصادقة قوية وهو ما اثار تساؤلات واسعة حول معايير الحماية المتبعة داخل مختبرات تطوير الذكاء الاصطناعي.
مستقبل سلامة النماذج الرقمية
وشدد خبراء الامن السيبراني على ان هذه الحوادث ليست فردية بل تعكس تحديا متناميا يتعلق بضبط وحوكمة وكلاء الذكاء الاصطناعي موضحين ان الصلاحيات الممنوحة لهذه النماذج تتطلب رقابة اكثر صرامة من قبل الشركات المطورة.
واشار كوك تين غان الرئيس التنفيذي لشركة نيكسلاب الى ان المستقبل سيشهد المزيد من هذه الحوادث مبينا ان معالجة هذه الازمات تتطلب تعاونا وثيقا بين كافة المختبرات الكبرى لضمان عدم تكرار مثل هذه الثغرات.
وكشفت شركة اريغولار من جانبها ان مواجهة هذه المخاطر تستوجب استراتيجيات دفاعية اكثر تطورا مؤكدة ان سلامة الذكاء الاصطناعي لا تقتصر فقط على النماذج بحد ذاتها بل تمتد الى حماية البنية التحتية المحيطة بها.
