كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC.
وأفاد باحثون من شركة الأمن السيبراني البريطانية الناشئة Mindgard أنهم تمكنوا من استغلال “صياغات خفيفة” في الأوامر، كانت تُستخدم في الأصل لأغراض فكاهية، لكنها أدت إلى إنتاج محتوى بصري صادم وغير متوقع.
وبحسب التقرير، فإن النموذج – المبني على تقنيات متقدمة من تطوير OpenAI – قام أحياناً بإنشاء صور تتضمن عنفاً دموياً وإيحاءات جنسية، حتى دون طلبات مباشرة صريحة، وهو ما أثار قلقاً واسعاً لدى خبراء سلامة الذكاء الاصطناعي.
في رد رسمي، قالت OpenAI إنها أجرت تحديثات أمنية إضافية بعد اكتشاف المشكلة، مؤكدة أنها تعتمد “طبقات متعددة من الحماية” لمنع إنتاج أو عرض محتوى مخالف لسياساتها.
وأضافت الشركة أنها تستخدم أنظمة آلية إلى جانب مراجعات بشرية لرصد أي محتوى ضار أو محاولات للتحايل على القيود.
أوضح باحثو Mindgard أن ما يسمى بـ”الاختبار الهجومي” كشف إمكانية دفع النموذج لإنتاج مشاهد تتراوح بين العنف الشديد والإيحاءات الجنسية، رغم عدم تحديد المستخدم لموضوعات مباشرة.
كما أشار الباحث جيم نايتينغيل من Lancaster University إلى أن بعض النتائج كانت “مقلقة للغاية”، مؤكداً أن الذكاء الاصطناعي قد يعكس بشكل غير مباشر البيانات التي دُرّب عليها من الإنترنت.
يرى خبراء أن ضبط نماذج الذكاء الاصطناعي يظل معركة مستمرة بين تطوير الحماية ومحاولات تجاوزها، حيث تتطور أساليب “كسر القيود” بسرعة موازية لتطور أنظمة الحماية.
وتقول الباحثة رمان تشودري، المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن المشكلة تكمن في أن النماذج لا تفهم السياق أو النية البشرية، بل تعتمد على أنماط رياضية في توليد المحتوى.
الحادثة الأخيرة تعيد فتح النقاش العالمي حول حدود استخدام الذكاء الاصطناعي، ومدى قدرة الشركات المطورة على ضمان بيئة آمنة، خاصة مع توسع استخدام أدوات توليد الصور والنصوص في الحياة اليومية.
ومع استمرار تطور هذه النماذج، يبدو أن سباق “الأمان مقابل الابتكار” في عالم الذكاء الاصطناعي لم يُحسم بعد.
في تصعيد خطير يعيد التوتر إلى جنوب لبنان، قُتل 10 أشخاص على الأقل في غارات إسرائيلية استهدفت مناطق متفرقة، وذلك بعد ساعات فقط من إعلان وقف إطلاق النار مع حزب الله، في تطور يهدد بانهيار الاتفاق الهش الذي كان يُفترض أن يوقف القتال. وبحسب مصادر ميدانية وتقارير أولية، شنت الطائرات الحربية والمسيرات الإسرائيلية ضربات على [...]
شهد شمال العاصمة البريطانية لندن حادثًا مأساويًا بعدما اصطدم قطاران للركاب في منطقة تبعد نحو 100 كيلومتر عن المدينة، ما أسفر عن وفاة سائق أحد القطارين وإصابة عشرات الركاب بجروح متفاوتة الخطورة. ووفقًا للبيانات الأولية الصادرة عن السلطات، فإن الحادث وقع خلال رحلة اعتيادية لقطارين كانا متجهين نحو لندن، قبل أن يؤدي التصادم المفاجئ إلى [...]
شهدت أسواق الطاقة العالمية تقلبات لافتة، مع اتجاه خام برنت نحو تسجيل خسارة أسبوعية تقترب من 8%، في ظل تطورات جيوسياسية مرتبطة بوقف إطلاق النار في لبنان بين إسرائيل وحزب الله، وهو ما خفف من حدة المخاوف التي كانت تدعم الأسعار خلال الفترة الماضية. ورغم تسجيل الخام ارتفاعًا طفيفًا في تداولات الجمعة، إلا أن المسار [...]
في خطوة مثيرة للجدل داخل الأوساط التعليمية والرقمية، أعادت الهند فتح ملف تسريب امتحانات الطب من جديد، بعد قرار حكومي بحظر تطبيق “تلغرام” مؤقتًا قبيل إعادة امتحان “نيت” الطبي، الذي يُعد من أكبر وأهم الاختبارات في البلاد ويتقدم له ملايين الطلاب سنويًا. السلطات الهندية بررت القرار بأنه إجراء احترازي يهدف إلى حماية نزاهة الامتحان، بعد [...]
في كل يوم، يعود ملايين الأشخاص إلى منازلهم بعد ساعات طويلة خارجها، يفتحون الأبواب، يدخلون… دون أن يتوقفوا لحظة للتفكير: ماذا تحمل أحذيتهم معهم من العالم الخارجي؟ قد يبدو الأمر عادة عادية لا تستحق الانتباه، لكن دراسة علمية حديثة أعادت فتح نقاش واسع حول ما يحدث فعلياً عندما ندخل منازلنا بالأحذية. بداية القصة: ما الذي [...]
في خطوة وصفت بأنها الأولى من نوعها على مستوى العالم العربي، أعلنت دولة الإمارات حظراً على استخدام منصات التواصل الاجتماعي للأطفال دون سن الخامسة عشرة، في إطار توجه جديد يهدف إلى تعزيز سلامة الأطفال في الفضاء الرقمي وحمايتهم من المخاطر المتزايدة المرتبطة بالعالم الافتراضي. وبموجب القرار الصادر عن مجلس الوزراء، لن يُسمح للأطفال الذين تقل [...]
