أخطرت شركة «OpenAI» أكثر من 100 مؤسسة بوقوع أنشطة غير مصرّح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، في تطور يسلط الضوء على التحديات الأمنية التي تفرضها الأنظمة القادرة على تنفيذ المهام الرقمية بصورة مستقلة، مع اتساع استخدامها في المؤسسات والشركات.
وذكرت الشركة، المطورة لـ«ChatGPT»، في إفصاح نقلته وكالة «رويترز» الخميس، أنها أبلغت جهات خارجية بحوادث ارتبطت بأنشطة غير متوقعة لوكلائها، ضمن مراجعة موسعة لسلوك نماذجها. وأوضحت أن بعض الأنظمة استخدمت الوصول إلى الإنترنت بطرق لم تكن مقصودة، أو عملت في بيئات لم تكن فيها القيود الأمنية كافية.
وبحسب صحيفة «واشنطن بوست»، شملت الأنشطة محاولات للتفاعل مع مواقع إلكترونية بطرق غير متوقعة، وتجاوز بعض إجراءات الحماية. غير أن إخطار المؤسسات لا يعني بالضرورة اختراق أنظمتها أو الوصول إلى بياناتها، إذ إن بعض المحاولات لم تنجح في تجاوز الضوابط الأمنية.
عندما تتصرف الأنظمة على نحو غير متوقع
تختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية، إذ لا تقتصر مهمتها على تقديم الإجابات، بل يمكنها استخدام الأدوات الرقمية وتصفح الإنترنت وتنفيذ سلسلة من الخطوات لتحقيق أهداف محددة.
وتتيح هذه القدرات أتمتة مهام متعددة وتسريع العمليات، لكنها تثير تحديات تتعلق بحدود الصلاحيات والرقابة على الأنشطة التي تنفذها الأنظمة. فكلما اتسع نطاق وصول الوكيل إلى المواقع والخدمات والبيانات، ازدادت أهمية تحديد ما يمكنه فعله، ومراقبة خطواته، ومنعه من تنفيذ أوامر خارج نطاق المهمة الموكلة إليه.
وقالت «OpenAI» إنها تعمل على فهم النطاق الكامل لهذه الأنشطة، وتراجع كميات ضخمة من البيانات، مع تطبيق إجراءات تقنية وتشغيلية إضافية لرصد السلوك غير المقصود والحد من تكراره. وأكدت أن مراجعة الحوادث لا تزال مستمرة، ما يعني أن الصورة الكاملة لم تتضح بعد.
تدقيق متزايد في أمن الذكاء الاصطناعي
تأتي هذه التطورات بعد حوادث سابقة ارتبطت بوكلاء ذكاء اصطناعي، من بينها حادثة منصة «Hugging Face» التي كشفت عن قدرة بعض الأنظمة على تنفيذ أنشطة رقمية غير متوقعة. وأثارت تلك الوقائع اهتمامًا متزايدًا من الباحثين والجهات التنظيمية بشأن كيفية اختبار هذه الأنظمة وضمان عدم استخدامها في أنشطة ضارة.
وفي سياق متصل، أفادت «رويترز» بأن المدعي العام في ولاية كاليفورنيا أصدر مذكرة استدعاء تحقيقية إلى «OpenAI» ضمن مراجعة لحوادث ومخاطر تتعلق بالأمن السيبراني المرتبط بنماذج الذكاء الاصطناعي. كما بدأت لجنة التجارة الفيدرالية الأميركية تحقيقًا أوسع بشأن المخاطر المحتملة لتقنيات شركات الذكاء الاصطناعي.
ولا تعني هذه الإجراءات ثبوت مسؤولية قانونية على الشركة، لكنها تعكس اتساع التدقيق في المخاطر التي قد تنشأ مع تطور الأنظمة القادرة على تنفيذ المهام بصورة مستقلة.
وتضع هذه القضية شركات التكنولوجيا أمام تحدٍ يتجاوز تحسين دقة النماذج وسرعة أدائها، إلى ضمان أن تعمل ضمن حدود واضحة وقابلة للمراقبة. ومع توسع الاعتماد على وكلاء الذكاء الاصطناعي، تبرز أهمية تقييد صلاحياتهم، واختبارهم في بيئات آمنة، وإبقاء الإشراف البشري حاضرًا في العمليات الحساسة.
ولا تثبت الحوادث المعلنة أن الذكاء الاصطناعي أصبح خارج السيطرة، لكنها تكشف عن فجوات محتملة بين القدرات المتزايدة لهذه الأنظمة وإجراءات ضبطها، في وقت لا تزال فيه الشركات المطورة تعمل على تقييم المخاطر ومعالجتها.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *