كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC.
وأفاد باحثون من شركة الأمن السيبراني البريطانية الناشئة Mindgard أنهم تمكنوا من استغلال “صياغات خفيفة” في الأوامر، كانت تُستخدم في الأصل لأغراض فكاهية، لكنها أدت إلى إنتاج محتوى بصري صادم وغير متوقع.
وبحسب التقرير، فإن النموذج – المبني على تقنيات متقدمة من تطوير OpenAI – قام أحياناً بإنشاء صور تتضمن عنفاً دموياً وإيحاءات جنسية، حتى دون طلبات مباشرة صريحة، وهو ما أثار قلقاً واسعاً لدى خبراء سلامة الذكاء الاصطناعي.
في رد رسمي، قالت OpenAI إنها أجرت تحديثات أمنية إضافية بعد اكتشاف المشكلة، مؤكدة أنها تعتمد “طبقات متعددة من الحماية” لمنع إنتاج أو عرض محتوى مخالف لسياساتها.
وأضافت الشركة أنها تستخدم أنظمة آلية إلى جانب مراجعات بشرية لرصد أي محتوى ضار أو محاولات للتحايل على القيود.
أوضح باحثو Mindgard أن ما يسمى بـ”الاختبار الهجومي” كشف إمكانية دفع النموذج لإنتاج مشاهد تتراوح بين العنف الشديد والإيحاءات الجنسية، رغم عدم تحديد المستخدم لموضوعات مباشرة.
كما أشار الباحث جيم نايتينغيل من Lancaster University إلى أن بعض النتائج كانت “مقلقة للغاية”، مؤكداً أن الذكاء الاصطناعي قد يعكس بشكل غير مباشر البيانات التي دُرّب عليها من الإنترنت.
يرى خبراء أن ضبط نماذج الذكاء الاصطناعي يظل معركة مستمرة بين تطوير الحماية ومحاولات تجاوزها، حيث تتطور أساليب “كسر القيود” بسرعة موازية لتطور أنظمة الحماية.
وتقول الباحثة رمان تشودري، المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن المشكلة تكمن في أن النماذج لا تفهم السياق أو النية البشرية، بل تعتمد على أنماط رياضية في توليد المحتوى.
الحادثة الأخيرة تعيد فتح النقاش العالمي حول حدود استخدام الذكاء الاصطناعي، ومدى قدرة الشركات المطورة على ضمان بيئة آمنة، خاصة مع توسع استخدام أدوات توليد الصور والنصوص في الحياة اليومية.
ومع استمرار تطور هذه النماذج، يبدو أن سباق “الأمان مقابل الابتكار” في عالم الذكاء الاصطناعي لم يُحسم بعد.
اتسعت رقعة المواجهة العسكرية في الخليج مع إعلان الكويت تعرض إحدى محطات القوى الكهربائية وتقطير المياه لهجوم إيراني، في تطور ينقل التصعيد من استهداف القواعد والمنشآت العسكرية إلى البنية التحتية الحيوية التي تمس حياة المدنيين بشكل مباشر، ويعكس اتجاهاً جديداً في مسار الصراع المتصاعد بين طهران وواشنطن. وأعلنت وزارة الكهرباء والماء والطاقة المتجددة الكويتية، في [...]
دخلت المواجهة العسكرية بين إيران والولايات المتحدة مرحلة أكثر خطورة، بعدما أعلنت طهران تنفيذ موجة جديدة من الهجمات استهدفت منشآت وقواعد أمريكية في عدة دول بالشرق الأوسط، في وقت واصلت فيه واشنطن غاراتها المكثفة على مواقع عسكرية إيرانية لليلة السادسة على التوالي، وسط تصاعد المخاوف من اتساع رقعة الصراع وانعكاساته على أمن المنطقة والاقتصاد العالمي. [...]
شهدت العاصمة القطرية الدوحة، فجر الجمعة، حالة استنفار أمني بعد إعلان السلطات القطرية نجاح قواتها المسلحة في التصدي لهجمة صاروخية إيرانية استهدفت البلاد، بينما أسفر سقوط شظايا ناجمة عن عمليات الاعتراض عن إصابة طفل نقل إلى المستشفى لتلقي العلاج. وقالت وزارة الدفاع القطرية إن منظومات الدفاع الجوي التابعة للقوات المسلحة تمكنت من اعتراض الصواريخ الإيرانية [...]
في خضم تصعيد عسكري متسارع مع الولايات المتحدة، رفعت إيران منسوب التحذيرات بشأن مضيق هرمز، مؤكدة أنه يمثل "خطًا أحمر" لا يمكن المساس به، ومتوعدة برد واسع إذا نفذت واشنطن تهديداتها باستهداف البنية التحتية داخل الأراضي الإيرانية. وقالت طهران إن أي هجوم على منشآتها سيقابله استهداف للبنى التحتية في المنطقة، في رسالة تعكس حجم التوتر [...]
نواكشوط – سيدي محمد ولد الحسن تصدر اختفاء الفتاة الموريتانية منى بنت الشيخ محمدو (15 عامًا) اهتمامات الرأي العام في موريتانيا، بعدما أعلنت أسرتها مساء الثلاثاء العثور عليها وعودتها إلى منزلها سالمة، عقب ساعات من البحث والقلق، فيما لا تزال تفاصيل اختفائها والظروف المحيطة بالعثور عليها تثير تساؤلات واسعة في ظل غياب رواية رسمية كاملة [...]
أعلن نادي سندرلاند الإنجليزي تعاقده مع المدافع البلجيكي المخضرم توماس مونييه في صفقة انتقال حر، في خطوة تهدف إلى تعزيز صفوف الفريق بخبرة لاعب خاض أكبر المنافسات الأوروبية ويمتلك مسيرة طويلة مع الأندية الكبرى والمنتخب البلجيكي. وأكد سندرلاند، العائد إلى أجواء المنافسة في الدوري الإنجليزي الممتاز، إتمام اتفاقه مع مونييه لمدة عامين بعد رحيل اللاعب [...]
