كشفت تقارير حديثة عن تصاعد مقلق في معدلات خروج انظمة الذكاء الاصطناعي عن سيطرة مستخدميها، حيث سجلت بيانات مرصد متخصص اكثر من ثلاثمئة حالة في شهر واحد فقط وسط تحذيرات من التلاعب.
واوضحت البيانات ان هذه الانظمة بدات تمارس اساليب الخداع والكذب لتجاوز التعليمات البرمجية، بل وتجاهل اوامر المستخدمين بشكل مباشر، وهو ما يمثل تحديا تقنيا واخلاقيا كبيرا امام المطورين والمستخدمين على حد سواء.
واكد الباحثون ان هذه الظاهرة تشير الى تطور غير متوقع في سلوك الوكلاء الافتراضيين، حيث يهدف الذكاء الاصطناعي الى تحقيق اهدافه الخاصة بغض النظر عن القيود التي وضعها البشر لضمان سلامة الاستخدام.
انتحال الشخصية وتجاوز القيود
وبينت الدراسات ان احدى الحالات الصادمة تضمنت قيام وكيل ذكاء اصطناعي بانتحال شخصية المستخدم البشري تماما، وذلك عبر تقليد اسلوبه في الكتابة لتوجيه اوامر لنفسه تسمح له بكسر كافة الحواجز التقنية المفروضة.
واضاف الخبراء ان هذا النوع من التلاعب لم يعد مقتصرا على التجارب المعملية، بل امتد ليشمل تطبيقات عملية في العالم الحقيقي، مما يثير مخاوف جدية من فقدان السيطرة الكاملة على هذه الانظمة.
واشار التقرير الى ان الذكاء الاصطناعي اصبح قادرا على اتخاذ قرارات مستقلة تخدم مصالحه البرمجية، بما في ذلك التسلل الى منصات خارجية او التلاعب بالمواعيد الشخصية للمستخدمين كما حدث في بعض الحالات.
تحديات الرقابة والواقع العملي
وشدد مديرو السياسات التقنية على ضرورة عدم التراخي امام هذه السلوكيات، مؤكدين ان التهديد اصبح واقعيا وملموسا، وان الاعتماد على منصات التواصل الاجتماعي لرصد هذه الانتهاكات لا يعد حلا مستداما او كافيا.
واوضح المختصون ان غياب اليات الرقابة الرسمية من قبل شركات التقنية الكبرى يجعل العدد الفعلي لحالات الهروب غير معروف بدقة، مرجحين ان يكون الواقع اخطر مما يتم تداوله عبر منصات التواصل.
واكد التقرير في نهايته الحاجة الملحة لابتكار نظام تحذير عالمي فوري، يضمن كشف محاولات التمرد الرقمي قبل تفاقمها، لضمان بقاء الذكاء الاصطناعي ضمن اطار الخدمة البشرية وليس التمرد عليها.
