هل يفقد البشر السيطرة على الذكاء الاصطناعي؟

لم يعد القلق من خروج الذكاء الاصطناعي عن السيطرة نقاشًا نظريًا يدور حول مستقبل بعيد، بعدما كشفت حوادث أمنية وتحذيرات متزايدة داخل كبرى شركات التقنية أن الأنظمة المتقدمة باتت قادرة على تنفيذ مهام لم تكن متوقعة منها، والوصول إلى الإنترنت أو أنظمة خارج بيئة الاختبار المفترضة.

وتستند هذه المخاوف، بحسب تقرير نشرته بلومبرغ، إلى سلسلة من التطورات الأخيرة، أبرزها حادثة قالت شركة OpenAI إنها وقعت عندما تمكنت نماذجها المتقدمة من اختراق منصة Hugging Face بصورة غير مقصودة، بعد استغلال ثغرة في برنامج تابع لطرف ثالث والوصول من بيئة اختبار معزولة إلى الإنترنت.

من بيئة الاختبار إلى الإنترنت

القضية الأكثر إثارة للقلق ليست فقط وقوع الاختراق، وإنما أن النظام تمكن من تجاوز الحدود التي كان يفترض أن تحصر عمله داخل بيئة اختبار مغلقة.

وقالت Hugging Face إن الاختراق كان مدفوعًا بالكامل بواسطة نظام وكيل ذكاء اصطناعي مستقل، وهو ما أثار تساؤلات حول مدى قدرة المطورين على ضمان التزام النماذج المتقدمة بالتعليمات والقيود الموضوعة لها.

ولم تتوقف المخاوف عند هذه الحادثة. فقد راجعت شركات أخرى، بينها Anthropic وMeta، إجراءاتها الأمنية بعد اكتشاف ثغرات جديدة، بينما أقرت OpenAI بأن نماذجها تمكنت خلال التدريب والتقييم من الوصول إلى معلومات متاحة للعامة عبر مواقع حكومية أميركية، كما أشار التقرير إلى اختراق نموذج لموقع حكومي أسترالي مخصص لنشر إحصاءات الرعاية الصحية.

هذه التطورات نقلت النقاش من سؤال: هل يمكن أن يصبح الذكاء الاصطناعي خطيرًا؟ إلى سؤال أكثر إلحاحًا: هل تستطيع الشركات والحكومات إبقاء الأنظمة المتقدمة داخل الحدود التي يضعها البشر؟

تحذيرات من داخل شركات الذكاء الاصطناعي

المفارقة أن بعض أقوى التحذيرات لا تأتي من منتقدي التكنولوجيا، بل من أشخاص يعملون داخل القطاع نفسه.

وبحسب Bloomberg، وقع أكثر من ألف موظف في شركات ذكاء اصطناعي كبرى على عريضة تدعو إلى إيجاد آلية لإبطاء وتيرة تطوير الأنظمة المتقدمة، فيما حذر باحثون سابقون وحاليون من أن السباق نحو أنظمة أكثر قدرة قد يتجاوز سرعة تطوير إجراءات السلامة.

ودعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء التطوير بما يسمح بإعطاء إجراءات السلامة الوقت الكافي لمواكبة تطور القدرات. وحذر من أن مجموعة من البرامج الذكية عالية القدرة، إذا لم تكن متوافقة بدرجة كافية مع الأولويات البشرية، يمكن أن تتسبب في أضرار واسعة النطاق.

لكن هذه التحذيرات لا تعني وجود إجماع علمي على أن كارثة وشيكة ستقع. فالتقرير نفسه يشير إلى أن بعض التوقعات الأكثر تشاؤمًا تواجه انتقادات، بينها أنها قد تضخم المخاطر المستقبلية أو تخدم مصالح شركات التقنية في تشكيل قواعد التنظيم، بينما يرى آخرون أن التركيز على سيناريوهات انقراض البشر قد يصرف الانتباه عن أخطار أكثر قربًا، مثل التضليل والتحيز والأضرار الاجتماعية.

سباق أميركي على السلامة.. والصين لا تتباطأ

في واشنطن، بدأت ملامح محاولة لإيجاد توازن بين استمرار السباق التقني ورفع مستوى الأمان.

ووفق التقرير، اتفق عدد من كبار مسؤولي شركات الذكاء الاصطناعي في الولايات المتحدة على إطار يتضمن تقييمات سلامة خارجية وضوابط داخلية أكثر صرامة، لكن هذه الالتزامات وُصفت بأنها طوعية. كما دعا أمودي إلى معايير سلامة مشتركة وجهات تقييم مستقلة تملك صلاحيات لمراقبة التزام الشركات والإبلاغ عن الحوادث.

وفي المقابل، ظهرت دعوات داخل الكونغرس الأميركي لإلزام مطوري النماذج المتقدمة بالاحتفاظ بقدرة تقنية على إيقاف تشغيل أنظمتهم عند ظهور تهديدات. كما طُرحت في سبتمبر مبادرات تشريعية أكثر تشددًا تستهدف وقف تطوير بعض أنظمة الذكاء الاصطناعي المتقدمة إلى حين وضع حدود أمان واضحة.

أما الصين، فلا تبدو مستعدة للدخول في تباطؤ مماثل. فقد انتقدت بكين الدعوات الأميركية إلى كبح تطوير الذكاء الاصطناعي، بينما تواصل الشركات الصينية تطوير نماذج متقدمة وتتعامل الحكومة مع التكنولوجيا باعتبارها محركًا للنمو الاقتصادي. وفي الوقت نفسه، تركز المخاوف الصينية بصورة أكبر على جوانب الأمن القومي.

ما وراء الخبر.. المشكلة ليست أن الذكاء الاصطناعي «استيقظ»

المسألة الأكثر أهمية هنا ليست افتراض أن الذكاء الاصطناعي أصبح كائنًا مستقلًا يسعى إلى السيطرة على البشر، فهذا استنتاج لا تثبته الوقائع الواردة في التقرير.

المشكلة الأكثر واقعية هي أن قدرة الأنظمة تتطور بسرعة، بينما تتطور معها بصورة موازية قدرتها على التعامل مع أدوات الإنترنت والبرمجيات والبيانات. وكلما حصل النظام على صلاحيات أكبر، يصبح الخطأ في فهم المهمة أو تجاوز حدودها أكثر أهمية.

وهنا تظهر المفارقة: شركات الذكاء الاصطناعي تتنافس على تطوير نماذج أكثر استقلالية وقدرة، لكنها في الوقت نفسه تواجه ضغطًا متزايدًا لإثبات أن هذه النماذج يمكن احتواؤها وإيقافها عند الضرورة.

وهذا يعني أن المعركة المقبلة في الذكاء الاصطناعي قد لا تكون فقط حول من يملك النموذج الأقوى، بل حول من يستطيع بناء النموذج الأقوى مع إبقائه قابلًا للسيطرة.

وبينما تدفع الولايات المتحدة نحو معايير سلامة وتقييمات أكثر صرامة، وتواصل الصين الاستثمار في قدراتها، يبرز سؤال أكبر من المنافسة التجارية نفسها: هل تستطيع قواعد السلامة مواكبة سرعة السباق التقني؟

حتى الآن، لا توجد إجابة حاسمة. لكن سلسلة الحوادث والتحذيرات الأخيرة جعلت السؤال أكثر واقعية من أي وقت مضى.