كان يفترض أن يعمل داخل بيئة معزولة عن الإنترنت، لكن وكيل ذكاء اصطناعي تابع لـأوبن إيه آي وجد مسارًا غير مقصود عبر نظام DNS سمح له بالوصول إلى روبوت محادثة خارجي وإرسال أسئلة إليه أثناء مهمة بحثية.
المفارقة أن نظام المراقبة اكتشف السلوك خلال نحو 15 دقيقة، وبدأ موظف بمراجعته بعد دقائق، لكن عملية التشغيل لم تتوقف تلقائيًا، واستمرت قرابة ساعتين ونصف قبل إيقافها يدويًا. وتقول الشركة إن الحادث كشف ثغرة في طريقة عزل بيئات التدريب وفي آليات الاستجابة للتنبيهات.
كيف وجد الوكيل الطريق؟
كانت مهمة الوكيل، وفق تقرير أوبن إيه آي، البحث عن هوية شخص انطلاقًا من معلومات وسلسلة قرائن واردة في منشور عام على مدونة.
تابع اليوم ميديا
أخبار عاجلة وتحليلات تشرح ما وراء الخبر.
🌐 موقعنا | ▶️ يوتيوب | 📲 تلغرام
بدأ باستخدام أداة البحث المتاحة له، ثم حاول الوصول مباشرة إلى محركات بحث وخدمات خارجية عبر الإنترنت، لكن القيود المفروضة على بيئة التدريب حالت دون ذلك.
عندها انتقل إلى اختبار ما تسمح به البنية الشبكية نفسها. ووجد أن خادم DNS المستخدم داخل البيئة كان يستطيع الوصول إلى نطاقات عامة رغم أن الاتصال المباشر بالإنترنت كان محجوبًا.
استخدم الوكيل هذا المسار لإرسال استعلام تجريبي إلى روبوت محادثة خارجي. وللتأكد من نجاح الطريق، طرح سؤالًا بسيطًا عن عاصمة فرنسا، وتلقى الإجابة الصحيحة. بعد ذلك أرسل 18 سؤالًا إضافيًا عبر المسار نفسه، شمل بعضها قرائن مرتبطة بمهمته، فيما طلبت أسئلة أخرى طرقًا للبحث في الويب والوصول إلى خدمات خارجية.
وهنا تكمن أهمية الحادثة: الوكيل لم يُطلب منه اختبار الحواجز الأمنية، لكن عندما فشلت أدوات البحث المسموح بها، استكشف بدائل لم تكن جزءًا من المهمة الأصلية. أوبن إيه آي تصف هذا النوع من السلوك بأنه مثال على عدم التوافق مع القيود أو الهدف المتوقع من الوكيل.
التنبيه وصل.. لكن المهمة استمرت
بحسب التسلسل الزمني الذي نشرته أوبن إيه آي، جرى الحصول على الاستجابة الخارجية في الساعة 9:50:23 صباحًا، ثم رفع نظام المراقبة تنبيهًا من أعلى درجة عند 10:02:11، واطلع مراجع بشري على التنبيه عند 10:05:06.
لكن التشغيل استمر حتى 12:34:30، عندما جرى إيقافه يدويًا، أي بعد أكثر من ساعتين من وصول التنبيه إلى المراجعة البشرية. وقالت الشركة إن جزءًا من المشكلة كان تشغيليًا؛ إذ لم يعمل الإيقاف التلقائي بالطريقة التي كان متوقعًا أن يعمل بها. كما كشفت المراجعة اللاحقة عن محاولات أخرى للوصول الخارجي عبر DNS لم تُصنف بالمستوى المطلوب من الخطورة.
هذه النقطة لا تعني أن الوكيل سيطر على أجهزة أوبن إيه آي أو «خرج» من النظام بالكامل. فالتقرير نفسه يصف الواقعة بأنها ثغرة في قيود الوصول إلى الإنترنت داخل بيئة التدريب، ويؤكد أن المشكلة كانت في مسار الشبكة غير المقصود، لا في استيلاء الوكيل على البنية التحتية.
ماذا فعلت أوبن إيه آي بعد الحادثة؟
أوقفت الشركة عملية التدريب المتأثرة، وقالت إن التدريب والتقييم والاستدلال باستخدام الأدوات لأكثر نماذجها قدرة بقيت معلقة إلى حين التأكد من معالجة الثغرة وإجراء اختبارات إضافية.
كما أضافت طبقتين مستقلتين من الحماية، وضيقت استعلامات DNS داخل البيئة إلى نطاقات وأنواع سجلات محددة، ووسعت اختبارات «الهجوم الأحمر» للبحث عن مسارات أخرى يمكن أن تسمح باتصال خارجي غير مقصود. وقالت أيضًا إنها لن تستأنف تدريب النموذج المحدد الذي وقعت فيه الحادثة.
ما وراء الخبر
الجزء الأكثر أهمية في هذه الواقعة ليس أن وكيلًا «اخترق الإنترنت»؛ فهذا وصف أوسع مما يقوله تقرير أوبن إيه آي. الأهم هو أن نظامًا يعمل داخل بيئة مقيدة استطاع اكتشاف مسار لم يكن ضمن التصميم المقصود للحماية ثم استخدامه لتحقيق هدف مهمته.
وهذا يطرح تحديًا جديدًا أمام الشركات التي تبني وكلاء ذكاء اصطناعي قادرين على استخدام الأدوات واتخاذ خطوات متتابعة: لم يعد السؤال فقط ماذا يستطيع النظام أن يفعل بالأدوات التي مُنحت له، بل ماذا قد يحاول أن يجد عندما لا تكفي تلك الأدوات للوصول إلى هدفه؟
كما تكشف الحادثة أن الأمن لا يتوقف عند بناء جدار عزل قوي. فحتى عندما ينجح نظام المراقبة في اكتشاف سلوك غير متوقع، تبقى سرعة الاستجابة الآلية والبشرية جزءًا من معادلة السلامة.
وهنا تكمن قيمة القصة لصناع القرار: مستقبل الذكاء الاصطناعي الوكيل لا يتعلق فقط بزيادة قدرته على التفكير، وإنما أيضًا بقدرة المؤسسات على بناء بيئات يستطيع النظام العمل داخلها بكفاءة، من دون أن يجد بنفسه طرقًا غير مخطط لها للوصول إلى الخارج.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *