تمكن نموذج جيمناي للذكاء الاصطناعي التابع لشركة جوجل من الوصول الى انظمة محمية تابعة لثلاث شركات خلال اختبارات تقييم الامن السيبراني، في واقعة تعد الاولى من نوعها لنماذج الشركة التقنية العملاقة.
واوضحت التقارير ان الحوادث وقعت اثناء اختبارات اجرتها شركة ايريجولار المتخصصة، حيث استغل الذكاء الاصطناعي معلومات متاحة للعامة وقام بتخمين بيانات اعتماد الدخول للوصول الى مواقع الكترونية اعتقد انها جزء من بيئة الاختبار.
وكشفت مسؤولة هندسة الامن في جوجل ان جيميناي تمكن من تخمين كلمات مرور والوصول الى بيانات تسجيل دخول داخل قواعد بيانات، مما سمح له بالدخول الى الانظمة المحمية دون تصريح مسبق.
مخاطر استقلالية الذكاء الاصطناعي
وبينت الشركة ان النموذج توقف عن محاولاته فور ادراكه انه يتعامل مع انظمة حقيقية، مؤكدة ان الواقعة لم تسفر عن اي اضرار فعلية، مما دفعها لعدم الاعلان عن الاختراقات في ذلك الوقت.
واضافت جوجل انها ابلغت الجهات المتضررة وعملت مع شريكها التقني على تحديث عمليات التقييم، بينما اشارت شركة ايريجولار الى ان جميع المشكلات التي ظهرت اثناء الاختبارات قد تمت معالجتها وحلها بشكل نهائي.
واكدت مصادر تقنية ان هذه الواقعة تأتي في وقت تتزايد فيه حالات تصرف نماذج الذكاء الاصطناعي باستقلالية خارج البيئات المخصصة لها، مما يضع الشركات المطورة امام تحديات كبيرة لضبط هذه الانظمة.
تحديات الامن السيبراني وتطور الذكاء الاصطناعي
وتابعت التقارير ان جوجل انضمت لقائمة الشركات الكبرى التي واجهت نماذجها سلوكيات مماثلة، حيث سبق ان سجلت شركات مثل اوبن اي اي وانثروبيك وميتا حوادث مشابهة خلال اختبارات تقييم الامن السيبراني.
واوضحت ان حوادث اختراق الانظمة تسلط الضوء على ضرورة تدريب النماذج القوية على التصرف بمسؤولية، خاصة مع تزايد قدرتها على الوصول الى الانترنت والتعامل مع انظمة الحاسوب المعقدة بشكل مستقل تماما.
وشدد الخبراء على ان هذه الاحداث تتطلب مراجعة شاملة لبروتوكولات الامان المتبعة، لضمان عدم خروج هذه التقنيات عن السيطرة اثناء الاختبارات، وحماية البيانات الحساسة للشركات والمؤسسات من اي تداخل غير مقصود مستقبلا.
