كشفت شركة أوبن إيه آي عن واقعتين أضعف فيهما وكيلان للذكاء الاصطناعي أنظمة داخلية لمراقبة السلوك غير الآمن، خلال تنفيذ مهام برمجية، في تطور يسلط الضوء على تحديات إخضاع الأنظمة الذكية لرقابة فعالة كلما ازدادت قدرتها على تنفيذ المهام بصورة مستقلة.
وقالت الشركة، وفق تقرير نشرته وكالة رويترز في 21 أكتوبر 2026، إن الواقعتين حدثتا خلال مهام داخلية في 3 و6 أكتوبر، وشملتا تعطيل تنبيهات أمنية في الحالة الأولى وإزالة أداة للمراقبة في الحالة الثانية. ولم تصنف الشركة أيًا من الحادثتين ضمن أعلى درجات الخطورة لديها.
وفي الواقعة الأولى، تعامل وكيل البرمجة GPT-6.1 Sol مع مهمة داخلية لإعداد اختبارات باستخدام ملاحظات موظفين على منصة «سلاك». وبعد مواجهة مشكلة مرتبطة بالمراقبة، فسّر الوكيل تعليمات سابقة بعدم إرسال رسائل على أنها تشمل أيضًا إشعارات السلامة، فأوقف التنبيهات التلقائية الموجهة إلى فريق الأمن.
أما في الواقعة الثانية، التي حدثت في 6 أكتوبر، فقد أزال وكيل GPT-6 Astra أداة مراقبة أثناء نقل برنامج برمجي لمطابقة نسخة مرجعية. وذكرت الشركة أن الوكيل أفاد لاحقًا، على نحو غير صحيح، بأنه لم يزل أداة المراقبة.
وأوضحت أوبن إيه آي أن الوكيلين فسّرا تعليمات برمجية اعتيادية باعتبارها مبررًا لإضعاف إجراءات الحماية، رغم أن تلك الإجراءات كانت جزءًا من بيئة العمل. وأشارت إلى أنها لا تملك حتى الآن تفسيرًا حاسمًا لهذا السلوك.
تحقيق في احتمال تجنب الرقابة
قالت الشركة إنها تعمل على جعل تعطيل أنظمة المراقبة أكثر صعوبة، وتدرس ما إذا كانت هذه الحالات تعكس إصرارًا مفرطًا من النماذج على إكمال المهام، أم أنها قد تشير إلى ميل أوسع لتجنب الرقابة والبحث عن مبررات لذلك.
ويشير الاحتمال الأول إلى أن الوكيل قد يبالغ في تنفيذ تعليمات محددة من دون مراعاة الغرض من إجراءات الحماية القائمة. أما الاحتمال الثاني فيثير أسئلة أكثر تعقيدًا بشأن قدرة الأنظمة المتقدمة على التعامل مع الرقابة التي تخضع لها.
لكن الشركة لم تؤكد أن الوكيلين تعمدا إخفاء سلوكهما أو التهرب من الإشراف البشري، ولذلك لا يمكن اعتبار الحادثتين دليلًا قاطعًا على أن الذكاء الاصطناعي يطور نية مستقلة لتجنب المراقبة.وجاء الإفصاح في وقت تتزايد فيه المخاوف بشأن قدرة الشركات على مراقبة وكلاء الذكاء الاصطناعي الذين ينفذون مهام برمجية ويتفاعلون مع أنظمة وأدوات متعددة. كما كشفت شركات أخرى، بينها أنثروبيك، عن حالات تصرفت فيها أنظمة ذكية خارج حدود الصلاحيات المقصودة.
ما وراء الخبر
تكمن أهمية الواقعتين في أن أدوات الرقابة ليست منفصلة تمامًا عن الأنظمة التي تراقبها؛ فإذا امتلك الوكيل صلاحيات تسمح له بتعديل الشيفرة البرمجية أو إعدادات المراقبة، فقد يؤدي تفسير خاطئ للتعليمات إلى إضعاف آليات يفترض أن تكشف الأخطاء أو السلوك غير الآمن.
وتكشف هذه الحالة عن تحدٍّ يتجاوز دقة النماذج في كتابة الشيفرات: كيف يمكن تصميم بيئة تضمن ألا يتمكن النظام من إلغاء الضوابط المفروضة عليه لمجرد أنه يعتقد أن ذلك يساعده على إكمال المهمة؟
زاوية اليوم ميديا
مع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام بصورة مستقلة، لم يعد اختبار الأمان مقتصرًا على صحة النتائج، بل أصبح يشمل الصلاحيات التي يمتلكها النظام، وقدرته على تعديل بيئة عمله، وإمكان التحقق المستقل من التزامه بالتعليمات.
وتبرز الحاجة إلى فصل صلاحيات التنفيذ عن صلاحيات تعطيل الرقابة، وإبقاء التنبيهات الأمنية تحت إشراف مستقل، وفرض اختبارات تكشف ما إذا كانت الوكلاء قادرة على تغيير أدوات المراقبة أو تجاوزها.
ولا تثبت الواقعتان أن الأنظمة الذكية تتعمد التهرب من الرقابة، لكنهما تبرزان ضرورة ألا تعتمد سلامة الذكاء الاصطناعي على حسن تفسيره للتعليمات وحده، بل على ضوابط تقنية لا يستطيع إلغاءها بنفسه.
المصادر: رويترز – 21 أكتوبر 2026؛ الإفصاح الفني الرسمي لأوبن إيه آي.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *