قررت شركة اوبن اي اي تعليق العمل على نموذج ذكاء اصطناعي جديد يجري تطويره داخليا وذلك لتعزيز تدابير الامان والحماية. وجاء هذا القرار عقب رصد قدرات استثنائية للنموذج في تنفيذ عمليات الامن السيبراني المعقدة.
وكشفت الشركة ان النموذج الجديد المعروف باسم استرا اظهر مهارات متقدمة في رصد الثغرات البرمجية والتعامل معها بشكل مستقل. واشارت الى ضرورة التريث لضمان عدم وصول التقنية الى عتبة تشكل خطرا امنيا غير متوقع.
واكد سام التمان الرئيس التنفيذي للشركة عبر حسابه في منصة اكس ان الفريق يحتاج الى وقت اضافي لاجراء اختبارات سلامة اكثر دقة. مبينا ان الهدف هو تفادي اي ثغرات قد تسيء استخدام التكنولوجيا.
اجراءات احترازية وسط تزايد المخاطر
واضافت الشركة ان قرار التوقف يتماشى مع اطار الاستعداد والجاهزية الذي وضعته مسبقا. وبينت ان هذا البروتوكول يفرض ايقاف اي تطوير لنماذج تمتلك قدرات ذاتية على اختراق الانظمة او تنفيذ هجمات رقمية دون توجيه.
وتابعت ان التوقف سيستمر حتى يتمكن الباحثون من فرض ضوابط امنية صارمة تمنع تحول الذكاء الاصطناعي الى اداة تهديد. واوضحت ان هذه الخطوة ضرورية للحفاظ على الثقة في مخرجات الشركة وتطبيقاتها المستقبلية.
وشدد خبراء تقنيون على ان هذه الخطوة تعكس حالة القلق العام في قطاع التقنية. واشاروا الى ان حوادث هروب نماذج ذكاء اصطناعي من بيئات الاختبار اصبحت تتكرر في عدة شركات كبرى خلال الفترة الماضية.
تعاون دولي لتعزيز سلامة النماذج
وبينت اوبن اي اي انها تعمل حاليا مع جهات حكومية ومدققين مستقلين لتقييم المخاطر بشكل شامل. واكدت ان التعاون مع شركات متخصصة في الامن السيبراني يهدف الى وضع معايير قياسية تضمن سلامة المستخدمين.
واوضحت الشركة ان التزامها بالشفافية يمثل جزءا من استراتيجيتها الحالية. واشارت الى ان تقييمات السلامة ستتوسع لتشمل كافة المراحل البرمجية لضمان عدم حدوث اي اختراقات مستقبلية تهدد بنية الانظمة الرقمية الحساسة في العالم.
وختمت الشركة بيانها بالتأكيد على ان الابتكار يجب ان يسير جنبا الى جنب مع الامن الرقمي. واضافت ان التريث في طرح النماذج القوية هو الخيار الاسلم حاليا لتجنب اي تبعات قانونية او تقنية.
