كشفت شركة انفيديا الامريكية المتخصصة في صناعة شرائح الذكاء الاصطناعي عن تقنية ثورية تهدف الى تحجيم وكلاء الذكاء الاصطناعي المارقين ومنعهم من الهروب خارج بيئاتهم الاختبارية عبر عزلهم تماما في اجزاء من الثانية.
واكدت الشركة ان هذا الابتكار يمثل ردا تقنيا قويا على المخاوف المتزايدة التي طرحها قادة التكنولوجيا العالميون بشان ضرورة ضبط وتيرة تطوير النماذج الذكية لضمان سلامة المجتمعات الرقمية من اي اختراقات غير متوقعة.
واوضحت الشركة ان الحل المبتكر يدمج بين حزمة من الادوات البرمجية المتطورة وعتاد مادي جديد يضيف طبقة حماية خارجية قادرة على كشف اي نشاط مريب والتعامل معه بشكل فوري دون تدخل بشري يدوي.
كيف تعمل الية الحماية الذكية؟
وبينت الشركة ان المفهوم التقني لهذه المنظومة يعتمد على مستويين من الحماية، الاول عبر برمجية مفتوحة المصدر للتحكم في وصول الوكلاء، والثاني عبر منظومة مراقبة منفصلة تعمل على شرائح بلو فيلد الخاصة بها.
واضافت الشركة ان وضع شريحة سينتري في وحدة معالجة مستقلة تماما يضمن بقاءها خارج سيطرة وكلاء الذكاء الاصطناعي، مما يمنعهم من العبث بآليات المراقبة التي تهدف الى تقييد حركتهم داخل النظام.
وشددت الشركة على ان طبقة الحماية تعمل على مراقبة دقيقة لنشاط الوكلاء طوال فترة عملهم، حيث تقوم بعزل اي وكيل يحاول تجاوز حدوده المسموحة في جزء من الثانية لمنع حدوث اي خلل.
دعم الشركات الكبرى للابتكار
واكدت الشركة ان عددا من المؤسسات التقنية العملاقة وافقت على اعتماد المنظومة الجديدة، بما في ذلك مايكروسوفت وانثروبيك وسبيس اكس، في خطوة تعزز من معايير الامن والسلامة في بيئات العمل البرمجية المعقدة.
واشار خبراء تقنيون الى ان هذا الاعلان يثبت ان مشكلة سلامة الذكاء الاصطناعي هي تحد هندسي بالدرجة الاولى، وان الاختراقات الاخيرة لا تستدعي ايقاف التطوير بل تتطلب تقوية جدران الحماية الرقمية.
واوضحت الشركة ان جهود تطوير هذه الطبقات الدفاعية بدات منذ العام الماضي، مؤكدة ان هذه الالية تمنحها ميزة اقتصادية وتقنية مزدوجة عبر بيع شرائح الحماية بالتوازي مع استمرار نمو الطلب على المعالجات.
