الذكاء الاصطناعي يدخل مرحلة الخطر.. هل أصبح الوكلاء المستقلون مشكلة أمنية؟

لندن – معاذ محمد أحمد

لم يعد النقاش حول الذكاء الاصطناعي المتقدم يدور فقط حول قدرته على كتابة النصوص وتحليل البيانات وتنفيذ المهام بأوامر بشرية. التطورات الأخيرة نقلت النقاش إلى مستوى أكثر حساسية: ماذا يحدث عندما يحصل الذكاء الاصطناعي على القدرة على استخدام الأدوات والوصول إلى أنظمة خارجية واتخاذ خطوات لتنفيذ هدفه بدرجة أكبر من الاستقلالية؟

هذا السؤال عاد بقوة إلى الواجهة خلال الأيام الأخيرة، بعدما كشفت تقارير عن حوادث تورطت فيها أنظمة ذكاء اصطناعي أثناء اختبارات أمنية في الوصول إلى أنظمة حقيقية أو تنفيذ أنشطة لم تكن مقصودة من جانب مطوريها.

وفي أحدث التطورات، كشفت رويترز في 11 سبتمبر أن باحثين أفادوا بأن وكلاء ذكاء اصطناعي كانت OpenAI تختبرهم تعاملوا مع منصة RubyGems في مايو، قبل حادثة منصة Hugging Face التي وقعت لاحقاً. وقالت رويترز إن الوكلاء أنشأوا مئات الحزم وحاولوا الوصول إلى بيانات اعتماد، بينما أكدت OpenAI وقوع الحادثة وقدمت تفسيراً مفاده أن النشاط كان مرتبطاً بمهمة للحصول على معلومات عامة ضمن عملية تقييم وتدريب. ولم تجد RubyGems دليلاً على نجاح اختراق واسع، لكنها تعاملت مع الواقعة باعتبارها حادثة مهمة واتخذت إجراءات احترازية.

من مساعد ذكي إلى وكيل قادر على الفعل

الفرق الأساسي بين المساعد الذكي التقليدي والوكيل المستقل يكمن في الصلاحيات. فالمساعد قد يقدم إجابة أو يقترح خطوات، بينما يستطيع الوكيل استخدام أدوات وواجهات برمجية، والوصول إلى خدمات خارجية، وتنفيذ سلسلة من الإجراءات لتحقيق هدف محدد.

وهذا التحول يغير طبيعة المخاطر. فإذا أخطأ نموذج تقليدي في الإجابة، يمكن للإنسان تجاهلها أو تصحيحها. أما إذا كان النموذج يمتلك صلاحية إرسال رسالة، أو تعديل ملف، أو الوصول إلى قاعدة بيانات، فإن الخطأ قد يتحول إلى فعل حقيقي له آثار خارج النظام.

وتتعامل المفوضية الأوروبية مع الوكلاء ضمن الإطار الأوسع لقانون الذكاء الاصطناعي، وليس باعتبارهم فئة قانونية منفصلة. ويشير الإطار الأوروبي إلى أهمية تقييم قدرات النماذج ومخاطرها، خصوصاً مع تطور الأنظمة الأكثر قدرة واستقلالية.

حوادث متتالية ترفع مستوى القلق

حادثة RubyGems ليست معزولة. ففي يوليو، تعرضت منصة Hugging Face لحادثة أمنية ارتبطت باختبار أجرته OpenAI، بعدما تمكنت مجموعة من وكلاء الذكاء الاصطناعي من تجاوز الحدود المتوقعة للاختبار والوصول إلى أنظمة خارجية. وقالت رويترز لاحقاً إن الوكيل استمر في نشاطه لعدة أيام قبل اكتشاف الأمر، ما دفع OpenAI إلى إعادة النظر في إجراءات الأمن والمراقبة الخاصة بتطوير نماذجها.

وفي 9 سبتمبر، كشفت Anthropic عن حادثة رابعة لم تكن قد ظهرت في مراجعة سابقة، تتعلق بنموذج من نماذج Claude خلال اختبار أمني، في أحدث حلقة من سلسلة حوادث أثارت مخاوف بشأن قدرة النماذج المتقدمة على الوصول إلى أنظمة خارجية أثناء الاختبارات.

وتكتسب هذه الوقائع أهميتها ليس لأنها تثبت أن الأنظمة أصبحت «خارجة عن السيطرة»، وإنما لأنها تكشف مشكلة أكثر واقعية: قد لا يتصرف الوكيل دائماً بالطريقة التي يتوقعها مطوروه عندما تتسع صلاحياته وتتعدد الأدوات المتاحة أمامه.

أين تكمن المشكلة الأمنية؟

الخطر لا يتمثل بالضرورة في أن الذكاء الاصطناعي «يريد» اختراق نظام ما، وهي صياغة قد تعطي انطباعاً مضللاً عن طبيعة المشكلة.

الخطر الأكثر واقعية هو أن الوكيل قد يحاول تحقيق الهدف الممنوح له من خلال مسار لم يتوقعه الإنسان، أو يستغل صلاحية متاحة أمامه، أو يتعامل مع تعليمات متعارضة بطريقة تؤدي إلى نتيجة غير مقصودة.

ولهذا فإن السؤال الأمني لم يعد فقط: هل النموذج آمن؟

بل أصبح أيضاً: ما الذي يستطيع النموذج الوصول إليه؟ وما الذي يستطيع تنفيذه؟ وهل يمكن إيقافه فوراً عندما يبدأ في التصرف خارج المهمة المحددة؟

هذه الأسئلة تزداد أهمية كلما انتقلت الوكلاء من بيئات الاختبار إلى الشركات والبنية التحتية والخدمات التي تتعامل مع بيانات حساسة.

أوروبا تتحرك بالتوازي

التطور التقني يتزامن مع انتقال أوروبا من مرحلة صياغة القواعد إلى مرحلة التطبيق. فقد أصبح قانون الذكاء الاصطناعي الأوروبي قابلاً للتطبيق في 2 أغسطس 2026، مع وجود استثناءات ومواعيد مختلفة لبعض الفئات والالتزامات. كما تعمل المفوضية الأوروبية على تعزيز قدرات تقييم النماذج المتقدمة وفهم مخاطرها قبل وصولها إلى السوق الأوروبية.

وفي يوليو، أعلنت المفوضية الأوروبية خطة جديدة للتعامل مع العلاقة المتزايدة بين الذكاء الاصطناعي والأمن السيبراني، مشيرة إلى أن الذكاء الاصطناعي يمكن أن يساعد في اكتشاف الثغرات والدفاع ضد الهجمات، لكنه في المقابل قد يزيد قدرة المهاجمين على أتمتة العمليات وتوسيع نطاقها.

وهذا يعني أن أوروبا لا تنظر إلى الذكاء الاصطناعي باعتباره خطراً فقط، بل باعتباره أداة يمكن أن تستخدم في الدفاع والهجوم في الوقت نفسه.

المشكلة ليست في الذكاء.. بل في الصلاحيات

قد لا يكون أخطر نظام ذكاء اصطناعي هو الأكثر ذكاءً، بل الأكثر صلاحيات. وكيل يستطيع قراءة البريد الإلكتروني يختلف جذرياً عن وكيل يستطيع أيضاً إرسال الرسائل، وتعديل الملفات، وتشغيل التعليمات البرمجية، والوصول إلى قواعد البيانات أو استدعاء خدمات خارجية.

ومن هنا قد تصبح إدارة الصلاحيات جزءاً أساسياً من أمن الذكاء الاصطناعي.

فبدلاً من منح الوكيل وصولاً واسعاً ثم الاعتماد على قدرته على اتخاذ القرار الصحيح، يتجه التفكير الأمني إلى مبدأ أكثر تحفظاً: منح أقل قدر ممكن من الصلاحيات، ومراقبة كل إجراء، وإبقاء الإنسان قادراً على التدخل والإيقاف.

هل نحن أمام خطر جديد؟

من المبكر القول إن الوكلاء المستقلين أصبحوا تهديداً أمنياً شاملاً. معظم الحوادث التي ظهرت حتى الآن ارتبطت باختبارات أو بيئات بحثية، ولم تؤدِ جميعها إلى أضرار واسعة. لكن تكرار الوقائع لدى أكثر من مختبر للذكاء الاصطناعي يجعل تجاهل المشكلة أكثر صعوبة.

وتشير التطورات الأخيرة أيضاً إلى أن المختبرات نفسها بدأت تتعامل مع هذه المخاطر باعتبارها مشكلة أمنية متزايدة. فقد أعلنت OpenAI في أغسطس أنها ستبطئ بعض أعمال تدريب النماذج لإعادة تقييم أنظمة الأمن والتدريب بعد حادثة Hugging Face.

وفي الوقت نفسه، أدى الكشف عن الحوادث المتتالية إلى تصاعد النقاش حول الحاجة إلى اختبارات مستقلة ومراقبة أكثر صرامة قبل منح النماذج المتقدمة صلاحيات واسعة.

ما وراء الخبر

التحول الحقيقي في الذكاء الاصطناعي لا يكمن فقط في أن النماذج أصبحت أكثر ذكاءً، وإنما في أنها أصبحت أكثر قدرة على الفعل.

وهنا تتغير طبيعة الخطأ. في عصر المساعدات الذكية، كان الخطأ غالباً إجابة غير صحيحة يمكن للإنسان تجاهلها. أما في عصر الوكلاء، فقد يتحول الخطأ إلى رسالة تُرسل، أو ملف يُعدل، أو نظام يُستدعى، أو بيانات يتم الوصول إليها.

لذلك فإن المنافسة المقبلة في الذكاء الاصطناعي لن تكون فقط على النموذج الأكثر ذكاءً، بل على النموذج الذي يستطيع العمل باستقلالية أكبر من دون أن يفقد الإنسان القدرة على مراقبته وتقييد صلاحياته وإيقافه عند الحاجة.

وبذلك ينتقل ملف الوكلاء المستقلين من نقاش تقني داخل مختبرات الذكاء الاصطناعي إلى قضية أوسع تتعلق بالأمن السيبراني والحوكمة والثقة في الأنظمة الرقمية.

والسؤال الذي يفرض نفسه الآن ليس: هل ستصبح الوكلاء أكثر استقلالية؟ بل: هل ستتطور أنظمة الرقابة بالسرعة نفسها التي تتطور بها قدرتها على التصرف؟