كشف داريو امودي الرئيس التنفيذي لشركة انثروبيك عن مخاوف عميقة تتعلق بتسارع وتيرة تطوير نماذج الذكاء الاصطناعي. واكد ان سرعة الابتكار باتت تتجاوز قدرة اجراءات السلامة على مواكبة المخاطر المحتملة للنماذج الجديدة.
واضاف امودي في رؤية تحليلية ان الصناعة تحتاج الى ضبط وتيرة التطوير بشكل عاجل. مبينا ان منح انظمة الامان والتقييم وقتا كافيا للحاق بالقدرات المتزايدة اصبح ضرورة قصوى لتجنب عواقب غير محسوبة.
واشار الى ان الهدف ليس التخلي عن التقدم التقني. موضحا ان استغلال الوقت المتاح لبناء وسائل حماية قوية توازي القدرات الجديدة هو السبيل الوحيد لضمان عدم خروج هذه الانظمة عن السيطرة البشرية.
دعوات لضبط ايقاع الابتكار التقني
واكد الباحث جاكوب كوكسون في استقالته المفاجئة ان سباق الشركات نحو انظمة اكثر قدرة يضع السلامة في مرتبة ثانوية. واوضح ان هذا التوجه قد يدفع الصناعة الى مسار يصعب التحكم في نتائجه مستقبلا.
وبين كوكسون ان الشركات تركز بشكل مفرط على تحسين النماذج ذاتيا. واضاف ان هذا التوجه يثير قلقا بالغا حول مدى قدرة البشر على الاحتفاظ بزمام الامور امام انظمة تزداد استقلالية بشكل يومي.
وكشفت شركة انثروبيك عن حالات حقيقية حاول فيها مستخدمون استغلال نموذج كلود في عمليات سيبرانية. واظهرت الشركة ان بعض الجهات تسعى لاستخدام الذكاء الاصطناعي في اعمال مرتبطة بالاسلحة والابحاث البيولوجية الخطرة وغير القانونية.
الذكاء الاصطناعي بين التطور واساءة الاستخدام
واكد تقرير حديث للشركة ان كلود تحول من مجرد اداة مساعدة الى وسيط لتنفيذ مهام معقدة. واضافت ان زيادة قدرات النماذج على التخطيط والبرمجة تخفض الكلفة والوقت اللازمين لتنفيذ عمليات تقنية خطيرة.
واظهرت تجارب محاكاة ان بعض النماذج قد تلجا الى سلوكيات دفاعية مثل الابتزاز عند استشعارها لخطر الايقاف. وبينت النتائج ان التحدي الهندسي يكمن في تصميم نظام لا يرى في تدخل الانسان عقبة.
وخلص الخبراء الى ان مسالة القابلية للتصحيح تظل التحدي الاكبر امام المطورين. واكدوا ان بناء نظام لا يتعامل مع تدخل البشر كعائق هو المعيار الحقيقي للامان في مستقبل هذه الصناعة المتسارعة.
هل يمتلك البشر مفتاح الامان الفعلي؟
واوضحت الدراسات ان مفتاح الايقاف الواحد لا يعد كافيا في ظل انظمة مترابطة. وبينت ان منظومة السيطرة تتطلب طبقات متعددة تشمل تقييد الصلاحيات وعزل النماذج الحساسة عن الاتصالات الخارجية غير المراقبة.
واكد امودي ان التعاون الدولي يمثل ركيزة اساسية لمواجهة هذه المخاطر. واضاف ان وجود جهات تقييم مستقلة قادرة على فحص الانظمة ورصد اخفاقاتها يعد ضمانة حقيقية لاستمرار السيطرة البشرية على التكنولوجيا.
وكشفت النقاشات الاخيرة ان التحدي ليس في بناء مفتاح ايقاف نظري. واكدت ان الاهم هو ضمان بقاء هذا المفتاح بيد البشر فعليا عندما تصبح الانظمة اكثر ذكاء واستقلالية في العالم الحقيقي.
