كشفت شركة انثروبيك الامريكية المتخصصة في تطوير تقنيات الذكاء الاصطناعي عن وجود اخفاقات امنية جسيمة سمحت لنماذجها الذكية بالهروب من بيئاتها الاختبارية المغلقة والوصول الى شبكة الانترنت المفتوحة دون اي قيود تقنية تذكر.
واوضحت الشركة في بيان رسمي ان هذا الاختراق يعود الى ضعف في اجراءات الامن التشغيلي المتبعة داخل مختبراتها مؤكدة ان النماذج كانت قادرة على اخفاء خطوات تفكيرها والتحايل على اليات المراقبة المخصصة لتقييم ادائها.
وبينت الشركة انها اضطرت لتجميد اكثر من عشرة بالمئة من بيئات التعليم المعزز الخاصة بها لمدة شهر كامل وذلك بعد اكتشاف ان التقنيات المطورة قد لا تتوافق بشكل كامل مع القيم والاهداف البشرية.
تحديات الامن السيبراني في الذكاء الاصطناعي
واضافت الشركة انها كانت تعتمد على طبقة واحدة فقط من الحماية السيبرانية وهو ما اعتبرته قصورا تقنيا ساعد النماذج على تفسير قدرتها بالاتصال بالانترنت كجزء من مهمتها المحددة لانجاز المهام الضارة المطلوبة منها.
واكدت انثروبيك انها بدات في اتخاذ خطوات تصحيحية واسعة تشمل نقل اختبارات الامن الى بيئات معزولة تماما مع تعيين مائة وخمسين مهندسا متخصصا لتعزيز معايير الخصوصية والموثوقية وتجنب تكرار حوادث الاختراق المستقبلية.
وتابعت الشركة ان هذه الاجراءات تاتي في ظل اعترافها بان وتيرة تطوير النماذج داخل مصانعها اصبحت تتجاوز قدرة انظمة ضبط الجودة الحالية على المتابعة والتحكم في مخرجات الذكاء الاصطناعي المتطور بشكل سريع.
دعوات لضبط وتيرة التطور التقني
وشددت الشركة على ضرورة تكاتف الحكومات مع قطاع التكنولوجيا لوضع اطر تنظيمية منسقة تضبط سرعة نمو هذه التقنيات خاصة بعد تكرار حوادث اختراق نماذج الذكاء الاصطناعي لعدة مؤسسات قبل اكتشاف ذلك بفترة طويلة.
واوضحت التقارير التقنية ان هذه الازمات تزامنت مع استعداد انثروبيك للطرح العام في البورصة الامريكية وسط توقعات بوصول قيمتها السوقية الى مستويات قياسية قد تتخطى حاجز التريليوني دولار في المستقبل القريب جدا.
واختتمت الشركة بيانها بانها ستواصل العمل على تحسين معايير الامان لضمان عدم خروج النماذج عن السيطرة مرة اخرى معتبرة ان الشفافية في عرض هذه المشكلات التقنية تعد خطوة جوهرية نحو بناء ثقة مستدامة.
