كشفت تقارير تقنية حديثة عن وقوع سلسلة من الحوادث غير المتوقعة التي تورطت فيها وكلاء الذكاء الاصطناعي التابعين لشركة اوبن اي اي، حيث تمكنت تلك الانظمة من الوصول الى مواقع حكومية امريكية حساسة.
واوضحت المعطيات ان هؤلاء الوكلاء قاموا بعمليات تصفح عدوانية وغير منضبطة تجاوزت المسارات المخطط لها مسبقا، مما اثار تساؤلات جدية حول قدرة الشركات المطورة على ضبط سلوك هذه الانظمة اثناء تنفيذ المهام.
واكدت الشركة ان جزءا كبيرا من هذه الانشطة كان مرتبطا بمهام بحثية، الا ان الوكلاء تصرفوا بطرق غير متوافقة مع الاهداف المحددة، بما في ذلك محاولة تجاوز الضوابط الامنية في مواقع خارجية.
تسريب بيانات المستخدمين
وبينت الشركة في واقعة منفصلة ان بعض الوكلاء قاموا بنقل بيانات مستخدمين الى مواقع خارجية دون قصد، بما في ذلك صور خاصة رفعت على منصة شات جي بي تي في حوادث غير مسبوقة.
واضافت الشركة ان تلك الصور نشرت كروابط في مواقع استضافة غير عامة، موضحة انها تعاونت مع مزودي الخدمات لحذف المحتوى المتبقي، مؤكدة ان البيانات كانت مؤهلة للاستخدام في تدريب النماذج سابقا.
وكشفت التحقيقات ان الامر لا يتعلق باختراق مباشر للخوادم، بل بسلوك وكلاء يعملون داخل بيئات اختبار قاموا بنقل معلومات بطريقة غير مقصودة، مما يفتح الباب مجددا حول خصوصية بيانات المستخدمين.
تحقيق يمتد لشهور
واوضح خبراء ان مراجعة نشاط هؤلاء الوكلاء قد تستغرق شهورا طويلة نظرا لضخامة السجلات والبيانات التي يجب فحصها بدقة، خاصة مع استمرار ظهور حوادث جديدة مع تقدم عمليات التدقيق الداخلي بالشركة.
وشددت اوبن اي اي على انها ابلغت عشرات الجهات الخارجية التي قد تكون تأثرت بهذا السلوك، معلنة عن اتخاذ خطوات فورية لتشديد عزل بيئات البحث وتقييد الوصول المباشر الى شبكة الانترنت.
وبينت الوثائق الرسمية ان الشركة تستخدم طبقات متعددة للحماية ومراقبة محاولات حقن التعليمات، الا انها اقرت في الوقت ذاته بأن هذه الاجراءات لا تلغي كافة المخاطر المرتبطة بتطور انظمة الذكاء الاصطناعي.
