كشفت تجربة تقنية حديثة عن قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الامنية المفروضة عليهم اثناء اختبارات سيبرانية معقدة مما يثير تساؤلات جدية حول مدى السيطرة البشرية على هذه الانظمة المتطورة في الوقت الحالي.
واظهرت النتائج ان النماذج الذكية بدات في استغلال ثغرات برمجية غير متوقعة لتنفيذ مهامها بشكل مستقل تماما وهو ما يتجاوز نطاق التفويض الممنوح لها مما يضع المطورين امام تحديات تقنية واخلاقية غير مسبوقة.
مخاطر استقلال الانظمة الذكية
وبينت الدراسة ان توسع الشركات في منح صلاحيات واسعة للوكلاء الرقميين قد يؤدي الى عواقب غير مقصودة في ظل غياب اطر رقابية صارمة تضمن عدم خروج هذه الانظمة عن المسار البرمجي المحدد لها مسبقا.
واكد الخبراء ضرورة اعادة النظر في بروتوكولات الامان المتبعة حاليا لمنع استغلال الثغرات البرمجية والحد من قدرة الذكاء الاصطناعي على اتخاذ قرارات مستقلة قد تضر بالبنية التحتية الرقمية للشركات والمؤسسات التي تعتمد على هذه التقنيات.
