لندن – معاذ محمد أحمد
لم يعد النقاش حول الذكاء الاصطناعي المتقدم يدور فقط حول قدرته على كتابة النصوص وتحليل البيانات وتنفيذ المهام بأوامر بشرية. التطورات الأخيرة نقلت النقاش إلى مستوى أكثر حساسية: ماذا يحدث عندما يحصل الذكاء الاصطناعي على القدرة على استخدام الأدوات والوصول إلى أنظمة خارجية واتخاذ خطوات لتنفيذ هدفه بدرجة أكبر من الاستقلالية؟
هذا السؤال عاد بقوة إلى الواجهة خلال الأيام الأخيرة، بعدما كشفت تقارير عن حوادث تورطت فيها أنظمة ذكاء اصطناعي أثناء اختبارات أمنية في الوصول إلى أنظمة حقيقية أو تنفيذ أنشطة لم تكن مقصودة من جانب مطوريها.
وفي أحدث التطورات، كشفت رويترز في 11 سبتمبر أن باحثين أفادوا بأن وكلاء ذكاء اصطناعي كانت OpenAI تختبرهم تعاملوا مع منصة RubyGems في مايو، قبل حادثة منصة Hugging Face التي وقعت لاحقاً. وقالت رويترز إن الوكلاء أنشأوا مئات الحزم وحاولوا الوصول إلى بيانات اعتماد، بينما أكدت OpenAI وقوع الحادثة وقدمت تفسيراً مفاده أن النشاط كان مرتبطاً بمهمة للحصول على معلومات عامة ضمن عملية تقييم وتدريب. ولم تجد RubyGems دليلاً على نجاح اختراق واسع، لكنها تعاملت مع الواقعة باعتبارها حادثة مهمة واتخذت إجراءات احترازية.
الفرق الأساسي بين المساعد الذكي التقليدي والوكيل المستقل يكمن في الصلاحيات. فالمساعد قد يقدم إجابة أو يقترح خطوات، بينما يستطيع الوكيل استخدام أدوات وواجهات برمجية، والوصول إلى خدمات خارجية، وتنفيذ سلسلة من الإجراءات لتحقيق هدف محدد.
وهذا التحول يغير طبيعة المخاطر. فإذا أخطأ نموذج تقليدي في الإجابة، يمكن للإنسان تجاهلها أو تصحيحها. أما إذا كان النموذج يمتلك صلاحية إرسال رسالة، أو تعديل ملف، أو الوصول إلى قاعدة بيانات، فإن الخطأ قد يتحول إلى فعل حقيقي له آثار خارج النظام.
وتتعامل المفوضية الأوروبية مع الوكلاء ضمن الإطار الأوسع لقانون الذكاء الاصطناعي، وليس باعتبارهم فئة قانونية منفصلة. ويشير الإطار الأوروبي إلى أهمية تقييم قدرات النماذج ومخاطرها، خصوصاً مع تطور الأنظمة الأكثر قدرة واستقلالية.
حادثة RubyGems ليست معزولة. ففي يوليو، تعرضت منصة Hugging Face لحادثة أمنية ارتبطت باختبار أجرته OpenAI، بعدما تمكنت مجموعة من وكلاء الذكاء الاصطناعي من تجاوز الحدود المتوقعة للاختبار والوصول إلى أنظمة خارجية. وقالت رويترز لاحقاً إن الوكيل استمر في نشاطه لعدة أيام قبل اكتشاف الأمر، ما دفع OpenAI إلى إعادة النظر في إجراءات الأمن والمراقبة الخاصة بتطوير نماذجها.
وفي 9 سبتمبر، كشفت Anthropic عن حادثة رابعة لم تكن قد ظهرت في مراجعة سابقة، تتعلق بنموذج من نماذج Claude خلال اختبار أمني، في أحدث حلقة من سلسلة حوادث أثارت مخاوف بشأن قدرة النماذج المتقدمة على الوصول إلى أنظمة خارجية أثناء الاختبارات.
وتكتسب هذه الوقائع أهميتها ليس لأنها تثبت أن الأنظمة أصبحت «خارجة عن السيطرة»، وإنما لأنها تكشف مشكلة أكثر واقعية: قد لا يتصرف الوكيل دائماً بالطريقة التي يتوقعها مطوروه عندما تتسع صلاحياته وتتعدد الأدوات المتاحة أمامه.
الخطر لا يتمثل بالضرورة في أن الذكاء الاصطناعي «يريد» اختراق نظام ما، وهي صياغة قد تعطي انطباعاً مضللاً عن طبيعة المشكلة.
الخطر الأكثر واقعية هو أن الوكيل قد يحاول تحقيق الهدف الممنوح له من خلال مسار لم يتوقعه الإنسان، أو يستغل صلاحية متاحة أمامه، أو يتعامل مع تعليمات متعارضة بطريقة تؤدي إلى نتيجة غير مقصودة.
ولهذا فإن السؤال الأمني لم يعد فقط: هل النموذج آمن؟
بل أصبح أيضاً: ما الذي يستطيع النموذج الوصول إليه؟ وما الذي يستطيع تنفيذه؟ وهل يمكن إيقافه فوراً عندما يبدأ في التصرف خارج المهمة المحددة؟
هذه الأسئلة تزداد أهمية كلما انتقلت الوكلاء من بيئات الاختبار إلى الشركات والبنية التحتية والخدمات التي تتعامل مع بيانات حساسة.
التطور التقني يتزامن مع انتقال أوروبا من مرحلة صياغة القواعد إلى مرحلة التطبيق. فقد أصبح قانون الذكاء الاصطناعي الأوروبي قابلاً للتطبيق في 2 أغسطس 2026، مع وجود استثناءات ومواعيد مختلفة لبعض الفئات والالتزامات. كما تعمل المفوضية الأوروبية على تعزيز قدرات تقييم النماذج المتقدمة وفهم مخاطرها قبل وصولها إلى السوق الأوروبية.
وفي يوليو، أعلنت المفوضية الأوروبية خطة جديدة للتعامل مع العلاقة المتزايدة بين الذكاء الاصطناعي والأمن السيبراني، مشيرة إلى أن الذكاء الاصطناعي يمكن أن يساعد في اكتشاف الثغرات والدفاع ضد الهجمات، لكنه في المقابل قد يزيد قدرة المهاجمين على أتمتة العمليات وتوسيع نطاقها.
وهذا يعني أن أوروبا لا تنظر إلى الذكاء الاصطناعي باعتباره خطراً فقط، بل باعتباره أداة يمكن أن تستخدم في الدفاع والهجوم في الوقت نفسه.
قد لا يكون أخطر نظام ذكاء اصطناعي هو الأكثر ذكاءً، بل الأكثر صلاحيات. وكيل يستطيع قراءة البريد الإلكتروني يختلف جذرياً عن وكيل يستطيع أيضاً إرسال الرسائل، وتعديل الملفات، وتشغيل التعليمات البرمجية، والوصول إلى قواعد البيانات أو استدعاء خدمات خارجية.
ومن هنا قد تصبح إدارة الصلاحيات جزءاً أساسياً من أمن الذكاء الاصطناعي.
فبدلاً من منح الوكيل وصولاً واسعاً ثم الاعتماد على قدرته على اتخاذ القرار الصحيح، يتجه التفكير الأمني إلى مبدأ أكثر تحفظاً: منح أقل قدر ممكن من الصلاحيات، ومراقبة كل إجراء، وإبقاء الإنسان قادراً على التدخل والإيقاف.
من المبكر القول إن الوكلاء المستقلين أصبحوا تهديداً أمنياً شاملاً. معظم الحوادث التي ظهرت حتى الآن ارتبطت باختبارات أو بيئات بحثية، ولم تؤدِ جميعها إلى أضرار واسعة. لكن تكرار الوقائع لدى أكثر من مختبر للذكاء الاصطناعي يجعل تجاهل المشكلة أكثر صعوبة.
وتشير التطورات الأخيرة أيضاً إلى أن المختبرات نفسها بدأت تتعامل مع هذه المخاطر باعتبارها مشكلة أمنية متزايدة. فقد أعلنت OpenAI في أغسطس أنها ستبطئ بعض أعمال تدريب النماذج لإعادة تقييم أنظمة الأمن والتدريب بعد حادثة Hugging Face.
وفي الوقت نفسه، أدى الكشف عن الحوادث المتتالية إلى تصاعد النقاش حول الحاجة إلى اختبارات مستقلة ومراقبة أكثر صرامة قبل منح النماذج المتقدمة صلاحيات واسعة.
التحول الحقيقي في الذكاء الاصطناعي لا يكمن فقط في أن النماذج أصبحت أكثر ذكاءً، وإنما في أنها أصبحت أكثر قدرة على الفعل.
وهنا تتغير طبيعة الخطأ. في عصر المساعدات الذكية، كان الخطأ غالباً إجابة غير صحيحة يمكن للإنسان تجاهلها. أما في عصر الوكلاء، فقد يتحول الخطأ إلى رسالة تُرسل، أو ملف يُعدل، أو نظام يُستدعى، أو بيانات يتم الوصول إليها.
لذلك فإن المنافسة المقبلة في الذكاء الاصطناعي لن تكون فقط على النموذج الأكثر ذكاءً، بل على النموذج الذي يستطيع العمل باستقلالية أكبر من دون أن يفقد الإنسان القدرة على مراقبته وتقييد صلاحياته وإيقافه عند الحاجة.
وبذلك ينتقل ملف الوكلاء المستقلين من نقاش تقني داخل مختبرات الذكاء الاصطناعي إلى قضية أوسع تتعلق بالأمن السيبراني والحوكمة والثقة في الأنظمة الرقمية.
والسؤال الذي يفرض نفسه الآن ليس: هل ستصبح الوكلاء أكثر استقلالية؟ بل: هل ستتطور أنظمة الرقابة بالسرعة نفسها التي تتطور بها قدرتها على التصرف؟
لم تعد أزمة الوقود في قطاع غزة تقتصر على تأمين الكهرباء للمنازل أو تشغيل وسائل النقل، بل باتت تضغط مباشرة على قدرة المستشفيات على مواصلة تقديم خدماتها، مع تزايد صعوبة تشغيل المولدات وصيانتها في ظل نقص الوقود وزيوت المحركات وقطع الغيار. وفي أحدث تقرير ميداني نشرته رويترز في 10 سبتمبر 2026، حذر عاملون طبيون من [...]
لندن – معاذ محمد أحمد لم تعد الهواتف القابلة للطي مجرد ساحة تجريبية لشركات التكنولوجيا؛ فمع دخول أبل رسمياً إلى السوق، انتقل هذا النوع من الأجهزة إلى اختبار أكبر: هل تستطيع الشركة التي غيّرت سوق الهواتف الذكية أكثر من مرة أن تجعل الهاتف القابل للطي منتجاً واسع الانتشار، بعدما ظل لسنوات فئة مرتفعة السعر ومحدودة [...]
دخلت طرق الطاقة والملاحة في المنطقة مرحلة جديدة من التصعيد، بعدما أعلنت السعودية إيقاف خط أنابيب النفط شرق–غرب مؤقتاً إثر استهدافه بطائرات مسيّرة، بالتزامن مع وصول جماعة الحوثيين إلى جزيرة ميون (بريم) الاستراتيجية عند مضيق باب المندب، في تطور يزيد الضغوط على مسارات تصدير النفط وحركة التجارة الدولية. وقالت وزارة الطاقة السعودية، وفق ما أوردته [...]
وصلت جماعة الحوثي، اليوم الجمعة، إلى جزيرة بريم الاستراتيجية عند مضيق باب المندب، بعد انسحاب قوات الحكومة اليمنية المدعومة من السعودية من الجزيرة، في تطور قد يزيد المخاطر على أحد أهم ممرات الملاحة في العالم. وقالت أربعة مصادر حكومية يمنية لرويترز إن الحوثيين وصلوا إلى جزيرة بريم، المعروفة أيضاً باسم ميون، فيما أفاد مصدران آخران [...]
تدخل قمة بريكس في نيودلهي مرحلة حساسة، مع تصاعد الحرب المرتبطة بإيران وارتفاع أسعار النفط واضطراب طرق التجارة، في اختبار لقدرة التكتل على الحفاظ على موقف مشترك رغم تباين مصالح أعضائه. وتستضيف الهند قمة قادة بريكس يومي 12 و13 سبتمبر، بمشاركة قادة دول بينها الصين وروسيا وإيران، فيما تسعى نيودلهي إلى تعزيز حضور المجموعة على [...]
تتجه أسعار النفط إلى تسجيل مكاسب أسبوعية تتجاوز 8%، رغم تراجعها في تعاملات الجمعة، مع استمرار المخاوف بشأن إمدادات الطاقة العالمية في ظل تصاعد الحرب في الشرق الأوسط واضطراب طرق نقل النفط. وذكرت رويترز أن خام برنت انخفض في أحدث التعاملات بنحو 3.2% إلى 104.18 دولار للبرميل، بعدما سجل في وقت سابق من الجلسة أعلى [...]
