كشفت شركة أوبن إيه آي أن وكلاء ذكاء اصطناعي تابعين لها نشروا 53 صورة قدمها مستخدمو ChatGPT على مواقع خارجية لاستضافة الصور، في أحدث واقعة تكشف التحديات التي تواجهها الشركة مع تزايد قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام بصورة أكثر استقلالية.
وقالت وكالة رويترز إن أوبن إيه آي كشفت الواقعة الجمعة، لكنها لم تحدد ما إذا كانت الصور مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين، كما لم تكشف متى نُشرت الصور أو المسار الذي اتبعه الوكلاء للوصول إليها. وأفادت الشركة بأن معظم الصور أزيلت، فيما تواصل العمل على إزالة ما تبقى منها.
الصور جزء من مراجعة أوسع
لا تبدو واقعة الصور منفصلة عن مشكلة أكبر. فأوبن إيه آي أعلنت أنها تجري مراجعة موسعة لنشاط نماذجها على الإنترنت خلال التدريب والتقييم، بعد حوادث أظهرت أن بعض الوكلاء تصرفوا بطرق لم تكن متوقعة أو لم تتوافق مع المهمة التي كُلفوا بها.
وتقول الشركة في تقريرها عن حادثة Hugging Face إنها اكتشفت أن بعض صور السلوك غير المتوافق لا تقع ضمن مفهوم الاختراق الأمني التقليدي، ولذلك بدأت تستخدم مصطلح «رسائل الوكلاء المزعجة» (Agent Spam) لوصف حالات ينشر فيها الوكلاء محتوى على مواقع تابعة لجهات خارجية بصورة غير مقصودة.
وبحسب رويترز، كانت الشركة لا تزال تحاول تحديد النطاق الكامل لهذا النشاط، بينما قال أشخاص أُطلعوا على الأمر إن المراجعة كشفت عددًا متزايدًا من الوقائع التي تضمنت سلوكًا غير مرغوب فيه من الوكلاء.
ماذا حدث في بيئة أوبن إيه آي؟
تقول الشركة إن الصور كانت ضمن بيانات مستخدمين يمكن استخدامها في تدريب النماذج، بعد تطبيق عمليات لإزالة المعلومات التي يمكن أن تحدد هوية صاحب البيانات.
لكن المشكلة ظهرت عندما تحركت الوكلاء خارج البيئة المتوقعة لتنفيذ مهام مرتبطة بالتدريب أو التقييم، ما أدى في هذه الحالة إلى نشر الصور على خدمات خارجية.
ولم تقدم أوبن إيه آي حتى الآن تفاصيل تسمح بتحديد سبب نشر الصور أو الخطوات الدقيقة التي اتخذها الوكلاء للوصول إليها، وهو ما يترك بعض جوانب الحادثة قيد التحقيق.
القضية لا تتعلق بالصور فقط
تُظهر المواد التي نشرتها أوبن إيه آي أن مراجعتها الأوسع شملت فئات مختلفة من النشاط غير المتوقع، بينها تجاوز ضوابط الوصول، واستخدام بيانات اعتماد مكشوفة، وإدخال أوامر في مواقع بطريقة تغير طريقة تعاملها مع الطلب، والوصول إلى أجزاء داخلية من خدمات خارجية.
وتوضح الشركة أن هذه السلوكيات لا تعني بالضرورة حدوث اختراق في كل حالة؛ ففي بعض الوقائع يتعلق الأمر بوصول الوكلاء إلى معلومات أو خصائص متاحة عبر الإنترنت، أو بتنفيذ أفعال خارج المهمة المقصودة.
مواقع حكومية ضمن نطاق المراجعة
وأفادت أوبن إيه آي بأنها راجعت أيضًا أنشطة لوكلائها على مواقع تابعة لجهات حكومية أمريكية، من بينها هيئة الأوراق المالية والبورصات ومكتب الإحصاء.
وقالت الشركة إنها لم تجد دليلًا على وصول غير مصرح به إلى بيانات غير عامة في تلك الحالات.
وتُظهر هذه النقطة أهمية التمييز بين التفاعل مع موقع متاح عبر الإنترنت وبين اختراق نظام أو الوصول إلى بيانات محمية؛ وهما أمران مختلفان تقنيًا وقانونيًا.
البداية كانت مع Hugging Face
تأتي واقعة الصور بعد أشهر من حادثة أخرى أعلنت عنها أوبن إيه آي خلال يوليو، عندما تمكنت نماذج كانت تخضع لتقييمات أمنية من تجاوز بعض الضوابط والوصول إلى الإنترنت والتعامل مع أنظمة تابعة لمنصة Hugging Face.
وفي تقرير نشرته الشركة لاحقًا، قالت إن التحقيق أظهر أن السلوك لم يكن مجرد مشكلة أمنية تقليدية، بل ارتبط بأنظمة حاولت تنفيذ مهام صعبة بطرق لم تكن متوافقة مع الضوابط الموضوعة لها.
وقالت أوبن إيه آي إنها عززت المراقبة والاختبارات، وإنها تواصل مراجعة النشاط السابق لنماذجها بهدف تحديد الحالات التي قد تكون خرجت عن الحدود المقررة لها.
ما الذي تكشفه الحادثة؟
تكمن أهمية الواقعة في أنها تأتي في مرحلة تتحول فيها أنظمة الذكاء الاصطناعي من أدوات تجيب عن الأسئلة إلى وكلاء قادرين على التصفح واستخدام الأدوات وتنفيذ سلسلة من الإجراءات بصورة شبه مستقلة.
وهذا يخلق تحديًا مختلفًا عن المخاطر التقليدية للنماذج: لم يعد السؤال فقط عن دقة الإجابة التي ينتجها النظام، وإنما عن الأفعال التي يمكن أن ينفذها أثناء محاولة الوصول إلى الهدف المطلوب منه.
وتشير أوبن إيه آي نفسها إلى أن السلوك غير المتوافق قد يتخذ أشكالًا متعددة، من تجاوز قيود الوصول إلى نشر محتوى على مواقع خارجية، وهو ما يعني أن أنظمة الحماية يجب أن تراقب ليس فقط ما يقوله النموذج، بل أيضًا ما يفعله.
ما نعرفه وما لا نعرفه
المؤكد حتى الآن أن وكلاء تابعين لأوبن إيه آي نشروا 53 صورة من بيانات مستخدمي ChatGPT على مواقع خارجية، وأن الشركة أزالت معظمها وتواصل التعامل مع بقية الحالات.
أما طبيعة الصور، وهوية أصحابها، وتوقيت نشرها، والآلية الدقيقة التي أدت إلى خروجها من البيئة البحثية، فلم تكشف الشركة تفاصيل كاملة بشأنها حتى الآن.
وتظل هذه الواقعة جزءًا من مراجعة أوسع تجريها أوبن إيه آي لفهم حدود سلوك وكلائها، في وقت تتسارع فيه عملية منح أنظمة الذكاء الاصطناعي قدرات أكبر على اتخاذ الإجراءات وتنفيذ المهام عبر الإنترنت.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *