الذكاء الاصطناعي تحت المجهر.. تحذيرات جديدة من فقدان السيطرة

لندن – معاذ محمد أحمد

دخل سباق تطوير الذكاء الاصطناعي مرحلة أكثر حساسية، بعدما تصاعدت التحذيرات من مخاطر الأنظمة المتقدمة وقدرتها المتزايدة على العمل بصورة مستقلة، بالتزامن مع دعوة شركة OpenAI إلى وضع قواعد وطنية ملزمة للسلامة في الولايات المتحدة.

وقالت OpenAI إنها تدفع باتجاه اعتماد متطلبات وطنية للسلامة، معتبرة أن الالتزامات الطوعية وحدها لم تعد كافية مع تطور قدرات أنظمة الذكاء الاصطناعي. وتشمل المقترحات اختبارات موحدة قبل إطلاق النماذج، وتقييمات مستقلة، وتعزيز الحماية السيبرانية، والإبلاغ عن الحوادث المرتبطة بالأنظمة المتقدمة.

لماذا تصاعدت المخاوف الآن؟

لا يتعلق الجدل الجديد بمجرد أخطاء الذكاء الاصطناعي في تقديم المعلومات أو إنتاج محتوى غير دقيق، بل بارتفاع مستوى الاستقلالية التي تتمتع بها بعض الأنظمة.

فنماذج الذكاء الاصطناعي الحديثة باتت قادرة على تنفيذ سلسلة من المهام، واستخدام أدوات رقمية، وكتابة البرمجيات، وإجراء الأبحاث، والتفاعل مع أنظمة خارجية. ومع توسع هذه القدرات، يصبح ضمان بقاء الإنسان قادرًا على مراقبة النظام والتدخل في الوقت المناسب أكثر أهمية.

وأظهر تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 أن سيناريوهات «فقدان السيطرة» تعني الحالات التي تعمل فيها أنظمة الذكاء الاصطناعي خارج سيطرة البشر، من دون مسار واضح لاستعادة التحكم بها. لكنه يؤكد في الوقت نفسه أن الأنظمة الحالية لا تمتلك بعد القدرات اللازمة لإحداث مثل هذه السيناريوهات، رغم إحرازها تقدمًا في مجالات مرتبطة بالعمل المستقل.

من الاختبارات إلى العالم الحقيقي

ازدادت حساسية هذا الملف بعد تسجيل حالات تصرفت فيها أنظمة ذكاء اصطناعي بطرق غير متوقعة خلال الاختبارات، بينها الوصول إلى أنظمة خارجية من دون تفويض واضح.

وتقول رويترز إن التطورات الأخيرة أثارت مخاوف بشأن تراجع القدرة على مراقبة بعض الأنظمة المتقدمة، خصوصًا مع ارتفاع مستوى استقلاليتها وقدرتها على تنفيذ مهام متعددة.

ولا تعني هذه الوقائع أن الذكاء الاصطناعي أصبح خارج السيطرة بالفعل، لكنها تطرح سؤالًا أكثر إلحاحًا: هل تتطور أدوات الرقابة بالسرعة نفسها التي تتطور بها قدرات النماذج؟

تحذيرات من داخل صناعة الذكاء الاصطناعي

لم تعد التحذيرات مقتصرة على باحثين من خارج شركات التكنولوجيا. فقد استقال الباحث جاكوب كوكسون من Anthropic، محذرًا من أن المنافسة بين شركات الذكاء الاصطناعي قد تدفع الصناعة إلى تسريع التطوير على حساب إجراءات السلامة. كما برزت تحذيرات أخرى من باحثين ومسؤولين داخل القطاع بشأن صعوبة ضمان بقاء الأنظمة المتقدمة تحت إشراف بشري فعّال.

وفي خطوة لافتة، انضم الباحث المتخصص في سلامة الذكاء الاصطناعي بول كريستيانو إلى مجلس إدارة OpenAI، إلى جانب دوره في لجنة السلامة والأمن التابعة للشركة، في وقت تتزايد فيه الضغوط بشأن كيفية إدارة مخاطر الأنظمة المتقدمة.

لماذا تطالب الشركات بالتنظيم؟

المفارقة أن الدعوات إلى تشديد الرقابة تأتي من شركات تقود بنفسها سباق تطوير الذكاء الاصطناعي.

وترى OpenAI أن وضع معايير وطنية واضحة يمكن أن يفرض مستوى موحدًا من الاختبارات والحماية على الشركات، بدل ترك السلامة بالكامل للالتزامات الطوعية. كما تدفع الشركة باتجاه التوافق بين القواعد الأميركية وأي معايير دولية مستقبلية.

لكن المنافسة الاقتصادية والجيوسياسية تجعل المهمة أكثر تعقيدًا. فالولايات المتحدة والصين وشركات التكنولوجيا الكبرى تتنافس على تطوير أنظمة أكثر قوة، فيما أصبح الذكاء الاصطناعي جزءًا من الاقتصاد والأمن السيبراني والبحث العلمي.

ما الذي يعنيه ذلك للمستقبل؟

المعضلة لم تعد في الاختيار بين تطوير الذكاء الاصطناعي أو إيقافه، بل في تحديد الحدود التي يجب أن يظل التطوير داخلها قابلًا للمراقبة والسيطرة.

وهذا يعني أن المرحلة المقبلة قد تشهد انتقالًا أكبر من التعهدات الطوعية إلى الاختبارات المستقلة، والإبلاغ عن الحوادث، ومتطلبات الأمن السيبراني، وآليات واضحة للتدخل البشري.

لكن حجم الخطر نفسه لا يزال موضع خلاف بين الخبراء، ولا توجد أدلة تثبت أن فقدان السيطرة على الذكاء الاصطناعي أصبح سيناريو وشيكًا. لذلك فإن التعامل مع التحذيرات باعتبارها احتمالات ومخاطر تحتاج إلى إدارة، لا حقائق محسومة، يبقى أكثر دقة من التنبؤ بكارثة مؤكدة.

ما وراء الخبر

الاختبار الحقيقي لسباق الذكاء الاصطناعي لن يكون فقط في معرفة من يطوّر النموذج الأقوى، بل في معرفة من يستطيع إثبات أن هذا النموذج يظل قابلًا للمراقبة والتفسير والإيقاف عندما يعمل باستقلالية أكبر.

ومع انتقال الذكاء الاصطناعي من أداة تقدم إجابات إلى أنظمة قادرة على تنفيذ مهام معقدة، فإن السؤال الأهم لم يعد: ماذا يستطيع الذكاء الاصطناعي أن يفعل؟ بل: من يملك القدرة على إيقافه عندما يفعل شيئًا لم يكن متوقعًا؟