كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC.
وأفاد باحثون من شركة الأمن السيبراني البريطانية الناشئة Mindgard أنهم تمكنوا من استغلال “صياغات خفيفة” في الأوامر، كانت تُستخدم في الأصل لأغراض فكاهية، لكنها أدت إلى إنتاج محتوى بصري صادم وغير متوقع.
وبحسب التقرير، فإن النموذج – المبني على تقنيات متقدمة من تطوير OpenAI – قام أحياناً بإنشاء صور تتضمن عنفاً دموياً وإيحاءات جنسية، حتى دون طلبات مباشرة صريحة، وهو ما أثار قلقاً واسعاً لدى خبراء سلامة الذكاء الاصطناعي.
رد OpenAI وإجراءات الحماية
في رد رسمي، قالت OpenAI إنها أجرت تحديثات أمنية إضافية بعد اكتشاف المشكلة، مؤكدة أنها تعتمد “طبقات متعددة من الحماية” لمنع إنتاج أو عرض محتوى مخالف لسياساتها.
وأضافت الشركة أنها تستخدم أنظمة آلية إلى جانب مراجعات بشرية لرصد أي محتوى ضار أو محاولات للتحايل على القيود.
صور صادمة واختبارات أمنية
أوضح باحثو Mindgard أن ما يسمى بـ”الاختبار الهجومي” كشف إمكانية دفع النموذج لإنتاج مشاهد تتراوح بين العنف الشديد والإيحاءات الجنسية، رغم عدم تحديد المستخدم لموضوعات مباشرة.
كما أشار الباحث جيم نايتينغيل من Lancaster University إلى أن بعض النتائج كانت “مقلقة للغاية”، مؤكداً أن الذكاء الاصطناعي قد يعكس بشكل غير مباشر البيانات التي دُرّب عليها من الإنترنت.
تحديات مستمرة في ضبط الذكاء الاصطناعي
يرى خبراء أن ضبط نماذج الذكاء الاصطناعي يظل معركة مستمرة بين تطوير الحماية ومحاولات تجاوزها، حيث تتطور أساليب “كسر القيود” بسرعة موازية لتطور أنظمة الحماية.
وتقول الباحثة رمان تشودري، المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن المشكلة تكمن في أن النماذج لا تفهم السياق أو النية البشرية، بل تعتمد على أنماط رياضية في توليد المحتوى.
الحادثة الأخيرة تعيد فتح النقاش العالمي حول حدود استخدام الذكاء الاصطناعي، ومدى قدرة الشركات المطورة على ضمان بيئة آمنة، خاصة مع توسع استخدام أدوات توليد الصور والنصوص في الحياة اليومية.
ومع استمرار تطور هذه النماذج، يبدو أن سباق “الأمان مقابل الابتكار” في عالم الذكاء الاصطناعي لم يُحسم بعد.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *