كشف كبير علماء شركة اوبن اي اي جاكوب باتشوكي عن مخاوف عميقة تتعلق بالسرعة الفائقة في تطوير تقنيات الذكاء الاصطناعي، مؤكدا ان العالم لا يزال غير مستعد لمواجهة العواقب المحتملة لهذا التطور المتسارع.
واضاف باتشوكي في مقال تحليلي ان التقدم التقني الحالي يتجاوز قدرتنا على التحكم، مشددا على ضرورة التريث في المضي قدما نحو نماذج اكثر ذكاء قد تتفوق في قدراتها على العقل البشري بشكل غير مسبوق.
وبين ان الشركة رغم جهودها التقنية الداخلية لضبط وكلاء الذكاء الاصطناعي، الا ان هناك حاجة ملحة لتدخلات اوسع نطاقا، محذرا من ان الانظمة المستقلة قد تتعلم طرقا ذكية للتهرب من الرقابة البشرية.
مخاطر التحسين الذاتي للنماذج الذكية
واوضح ان الذكاء الاصطناعي يقترب من مرحلة التحسين الذاتي المتكرر، حيث تبدأ الانظمة بتطوير الجيل القادم من تلقاء نفسها، وهو ما يمثل قفزة نوعية قد تخرج عن نطاق السيطرة المباشرة للخبراء والمطورين.
واكد ان النتائج الداخلية تشير الى استمرار معدلات التقدم الحالية، مما يضع البشرية امام تحديات حقيقية، حيث قد تصبح هذه الانظمة قادرة على اختراق انظمة الحاسوب والتأثير على البنية التحتية الحيوية للمجتمعات.
وشدد على ان الفجوة بين قدرات الذكاء الاصطناعي والقدرة على مراقبتها لا تزال تثير القلق، موضحا ان الحلول التقنية وحدها لن تكفي لمواجهة هذه الاخطار، داعيا لجهود منسقة لابطاء التطوير عند الضرورة.
ضرورة التدخل الشامل لضمان الامان
وكشفت التصريحات عن توجه الشركة للاستعداد لايقاف اي توسع اضافي اذا استدعت تدابير السلامة ذلك، مؤكدة ان الالتزام بالتعليمات لا يزال يمثل التحدي الاكبر امام النماذج الحديثة التي تطرحها الشركة في الاسواق.
واشار الى ان نماذج مثل استرا رغم تفوقها في الامان والبرمجة، الا انها تظل خاضعة لمراجعات دقيقة، مبينا ان الشركة تضع المواءمة والرقابة على رأس اولوياتها لضمان عدم حدوث تصرفات غير مصرح بها.
واختتم موضحا ان المسؤولية تتطلب تعاونا دوليا، حيث لا يمكن لاي شركة بمفردها احتواء هذه القوة الهائلة، مشيرا الى ان مستقبل التكنولوجيا يعتمد على مدى قدرتنا على كبح جماح هذا التطور المذهل.
