الرئيسية/تكنولوجيا وابتكار/ثغرة صادمة في تشات جي بي تي تثير الجدل عالميًا
تكنولوجيا وابتكار

ثغرة صادمة في تشات جي بي تي تثير الجدل عالميًا

كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني.

صورة منقّحة أنتجتها "مايندغارد" بعد إصلاح OpenAI للثغرة المرتبطة بتوليد هذا النوع من الصور.

كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC.

وأفاد باحثون من شركة الأمن السيبراني البريطانية الناشئة Mindgard أنهم تمكنوا من استغلال “صياغات خفيفة” في الأوامر، كانت تُستخدم في الأصل لأغراض فكاهية، لكنها أدت إلى إنتاج محتوى بصري صادم وغير متوقع.

وبحسب التقرير، فإن النموذج – المبني على تقنيات متقدمة من تطوير OpenAI – قام أحياناً بإنشاء صور تتضمن عنفاً دموياً وإيحاءات جنسية، حتى دون طلبات مباشرة صريحة، وهو ما أثار قلقاً واسعاً لدى خبراء سلامة الذكاء الاصطناعي.

رد OpenAI وإجراءات الحماية

في رد رسمي، قالت OpenAI إنها أجرت تحديثات أمنية إضافية بعد اكتشاف المشكلة، مؤكدة أنها تعتمد “طبقات متعددة من الحماية” لمنع إنتاج أو عرض محتوى مخالف لسياساتها.

وأضافت الشركة أنها تستخدم أنظمة آلية إلى جانب مراجعات بشرية لرصد أي محتوى ضار أو محاولات للتحايل على القيود.

صور صادمة واختبارات أمنية

أوضح باحثو Mindgard أن ما يسمى بـ”الاختبار الهجومي” كشف إمكانية دفع النموذج لإنتاج مشاهد تتراوح بين العنف الشديد والإيحاءات الجنسية، رغم عدم تحديد المستخدم لموضوعات مباشرة.

كما أشار الباحث جيم نايتينغيل من Lancaster University إلى أن بعض النتائج كانت “مقلقة للغاية”، مؤكداً أن الذكاء الاصطناعي قد يعكس بشكل غير مباشر البيانات التي دُرّب عليها من الإنترنت.

تحديات مستمرة في ضبط الذكاء الاصطناعي

يرى خبراء أن ضبط نماذج الذكاء الاصطناعي يظل معركة مستمرة بين تطوير الحماية ومحاولات تجاوزها، حيث تتطور أساليب “كسر القيود” بسرعة موازية لتطور أنظمة الحماية.

وتقول الباحثة رمان تشودري، المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن المشكلة تكمن في أن النماذج لا تفهم السياق أو النية البشرية، بل تعتمد على أنماط رياضية في توليد المحتوى.

الحادثة الأخيرة تعيد فتح النقاش العالمي حول حدود استخدام الذكاء الاصطناعي، ومدى قدرة الشركات المطورة على ضمان بيئة آمنة، خاصة مع توسع استخدام أدوات توليد الصور والنصوص في الحياة اليومية.

ومع استمرار تطور هذه النماذج، يبدو أن سباق “الأمان مقابل الابتكار” في عالم الذكاء الاصطناعي لم يُحسم بعد.

"
“كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC. وأفاد باحثون من شركة الأمن”
— اليوم ميديا / تكنولوجيا وابتكار

التعليقات

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

روبوت يضع عينة في جهاز الطرد المركزي بمختبر بكاليفورنيا

الروبوتات تفتح طريقًا جديدًا لاكتشاف الخلايا السرطانية الخفية

في تطور علمي يفتح آفاقًا جديدة في مكافحة السرطان، كشفت دراسة حديثة أن الروبوتات المدعومة بالذكاء الاصطناعي باتت تلعب دورًا متقدمًا في رصد الخلايا السرطانية الكامنة التي قد تبقى في الجسم بعد انتهاء العلاج، وتشكل لاحقًا سببًا في عودة المرض. وتعتمد هذه التقنية على أنظمة روبوتية قادرة على التعامل مع العينات المخبرية بدقة عالية، بما

لندن – خالد ياسر أحمد
الأربعاء، ١٧ يونيو ٢٠٢٦•دقيقتان للقراءة
صورة توضيحية لأذرع تحمل هواتف ذكية أمام شعار تطبيق "تيليجرام". التقطت الصورة التوضيحية

دوروف يتهم الهند بمعاقبة الملايين

في عصر أصبحت فيه تطبيقات المراسلة جزءًا لا يتجزأ من الحياة اليومية، لم يعد إيقاف أحدها مجرد قرار تقني، بل خطوة تمس ملايين المستخدمين وتفتح أبوابًا واسعة للنقاش حول حدود الأمن الرقمي وحرية الوصول إلى المنصات الإلكترونية. هذا الجدل عاد بقوة إلى الواجهة بعدما شنّ مؤسس تطبيق تيليجرام، بافيل دوروف، هجومًا حادًا على السلطات الهندية،

لندن – خالد ياسر أحمد
الثلاثاء، ١٦ يونيو ٢٠٢٦•دقيقتان للقراءة
شعار شركة ميتا في لوس انجليس يوم 20 مايو 2026

عودة خدمات ميتا بعد انقطاع أربك آلاف المستخدمين حول العالم

بعد دقائق من الارتباك والشكاوى المتزايدة من المستخدمين، بدأت منصات التواصل الاجتماعي التابعة لشركة ميتا العودة تدريجياً إلى العمل، منهية انقطاعاً مفاجئاً أثار تساؤلات واسعة حول أسباب الخلل ومدى تأثيره العالمي. ووفقاً لبيانات موقع "داون ديتكتور" المتخصص في تتبع أعطال الخدمات الرقمية، تعرضت منصات ميتا، وعلى رأسها فيسبوك وإنستغرام، لمشكلات تقنية واسعة صباح الجمعة، ما

لندن – خالد ياسر أحمد
الجمعة، ١٢ يونيو ٢٠٢٦•دقيقتان للقراءة
شعار مايكروسوفت

خلافات مالية تؤجل مركز بيانات مايكروسوفت في أفريقيا

في لحظة كانت تُقدَّم بوصفها بداية تحول رقمي تاريخي في شرق أفريقيا، اصطدمت خطط عملاقة التكنولوجيا الأمريكية Microsoft بعقبة مالية معقدة هزّت واحداً من أكبر مشاريع البنية التحتية الرقمية في القارة السمراء. فالمشروع الذي رُوِّج له باعتباره بوابة أفريقيا الجديدة إلى الحوسبة السحابية والذكاء الاصطناعي، دخل الآن مرحلة من الغموض بعد تقارير تحدثت عن تأجيل

لندن – خالد ياسر أحمد
الأحد، ١٠ مايو ٢٠٢٦•دقيقتان للقراءة