فتحت منصة التواصل الاجتماعي إكس (X) تحقيقاً عاجلاً بعد تقارير إعلامية تحدثت عن نشر محتوى عنصري ومسيء أنتجه روبوت الدردشة جروك (Grok)، وهو نموذج ذكاء اصطناعي تابع لشركة xAI التي أسسها الملياردير الأميركي إيلون ماسك.
وذكرت شبكة سكاي نيوز (Sky News)، الأحد، أن فرق السلامة والمحتوى في منصة إكس بدأت تحقيقات داخلية بشأن منشورات قيل إن جروك أنشأها استجابة لطلبات المستخدمين، وتضمنت عبارات اعتُبرت عنصرية أو تحض على الكراهية، بحسب رويترز.
وبحسب تقرير الشبكة، فإن التحقيق يركز على كيفية تمكن نظام الذكاء الاصطناعي من إنتاج مثل هذا المحتوى، وما إذا كان ذلك نتيجة خلل تقني في خوارزميات النموذج أو بسبب إساءة استخدام من قبل بعض المستخدمين.
وقال مراسل سكاي نيوز روب هاريس في مقطع مصور نُشر عبر حساب الشبكة على منصة إكس إن فرق السلامة في الشركة “تجري تحقيقاً عاجلاً في دور جروك في إنتاج منشورات عنصرية تحض على الكراهية على الإنترنت”.
وأضاف أن التحقيق يهدف إلى تحديد ما إذا كانت هذه المنشورات قد تم إنشاؤها مباشرة من خلال النظام، أو أنها جاءت نتيجة تلاعب المستخدمين بطريقة تُمكّنهم من تجاوز ضوابط المحتوى.
ولم تصدر حتى الآن أي تعليقات رسمية من منصة إكس أو شركة xAI بشأن هذه التقارير، كما لم تتمكن وكالة رويترز من التحقق بشكل مستقل من صحة الفيديو الذي أرفقته سكاي نيوز بمنشورها.
تأتي هذه التطورات في وقت تواجه فيه شركات التكنولوجيا الكبرى ضغوطاً متزايدة من الحكومات والهيئات التنظيمية في مختلف أنحاء العالم للحد من المخاطر المرتبطة بالذكاء الاصطناعي.
فقد كثفت الجهات التنظيمية جهودها لمراقبة المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي، خاصة ما يتعلق بالمحتوى المسيء أو العنصري أو الجنسي الصريح، في ظل مخاوف من انتشار مواد غير قانونية عبر الإنترنت.
وفي إطار هذه الحملة العالمية المتنامية، بدأت بعض الحكومات بالفعل تحقيقات رسمية في استخدامات تقنيات الذكاء الاصطناعي، كما طالبت شركات التكنولوجيا بوضع ضوابط أكثر صرامة لمنع إساءة استخدام هذه الأنظمة.
وكانت شركة xAI قد أعلنت في يناير الماضي أنها فرضت قيوداً إضافية على بعض ميزات روبوت جروك، خصوصاً تلك المتعلقة بتوليد الصور.
وقالت الشركة إنها حدّت من قدرة المستخدمين على إنشاء صور لأشخاص يرتدون ملابس فاضحة في مناطق أو مجالات يُحظر فيها مثل هذا المحتوى، مشيرة إلى أن القيود تختلف بحسب الموقع الجغرافي للمستخدمين.
لكن الشركة لم تحدد الدول التي تشملها هذه القيود، الأمر الذي أثار تساؤلات بشأن آليات الرقابة التي تعتمدها الشركة على أدوات الذكاء الاصطناعي الخاصة بها.
ويرى خبراء التكنولوجيا أن هذه الحادثة تسلط الضوء مجدداً على التحديات الكبيرة التي تواجه شركات الذكاء الاصطناعي في ضبط المحتوى الذي تنتجه نماذجها، خصوصاً مع الانتشار السريع لهذه التقنيات واستخدامها على نطاق واسع في منصات التواصل الاجتماعي.
كما تعكس هذه الواقعة المخاوف المتزايدة من إمكانية استخدام أدوات الذكاء الاصطناعي لنشر معلومات مضللة أو محتوى متطرف، وهو ما قد يدفع الحكومات إلى فرض قوانين وتنظيمات أكثر صرامة على هذا القطاع في المستقبل القريب.
مع تسارع انتشار الذكاء الاصطناعي في مختلف القطاعات، يواجه ملايين العاملين سؤالاً واحداً: هل ستبقى وظائفهم موجودة في المستقبل؟ وبينما بدأت الخوارزميات بالفعل في تغيير طريقة أداء العديد من المهام، يرى خبراء أن بعض المهن ستظل بحاجة إلى العنصر البشري، بل قد تشهد نمواً أكبر خلال السنوات المقبلة. ورغم المخاوف من أن يؤدي الذكاء الاصطناعي [...]
أثارت ميزة جديدة أطلقتها شركة Meta Platforms موجة واسعة من الجدل حول الخصوصية، بعدما كشفت الشركة عن نظامها الجديد لتوليد الصور بالذكاء الاصطناعي، الذي يتيح إنشاء صور جديدة اعتماداً على صور منشورة من حسابات عامة على منصة Instagram. ويأتي النظام الجديد، المعروف باسم "ميوز إيميج (Muse Image)"، ضمن استراتيجية ميتا لتوسيع استخدام الذكاء الاصطناعي داخل [...]
بدأ تطبيق واتساب طرح واحدة من أكثر ميزاته انتظارًا، وهي ميزة أسماء المستخدمين (Usernames)، في خطوة تهدف إلى تعزيز الخصوصية وتغيير طريقة التواصل بين المستخدمين داخل التطبيق. ووفقًا لما أُعلن، أصبح بإمكان بعض المستخدمين حجز اسم مستخدم خاص بهم، تمهيدًا لإطلاق الميزة تدريجيًا على نطاق أوسع خلال الفترة المقبلة، حيث ستتاح لبقية المستخدمين بشكل متتابع [...]
كشفت تقارير صحفية أن الإدارة الأمريكية تكثف ضغوطها على شركة “ميتا” من أجل تقديم نماذج الذكاء الاصطناعي الخاصة بها للمراجعة الطوعية، في خطوة تهدف إلى تعزيز الرقابة الحكومية على قطاع الذكاء الاصطناعي المتسارع النمو. ووفق ما نقلته صحيفة “نيويورك تايمز” عن مصادر مطلعة، فإن الطلب الأمريكي تم توجيهه عبر رسائل بريد إلكتروني إلى الشركة، في [...]
في خطوة مثيرة للجدل داخل الأوساط التعليمية والرقمية، أعادت الهند فتح ملف تسريب امتحانات الطب من جديد، بعد قرار حكومي بحظر تطبيق “تلغرام” مؤقتًا قبيل إعادة امتحان “نيت” الطبي، الذي يُعد من أكبر وأهم الاختبارات في البلاد ويتقدم له ملايين الطلاب سنويًا. السلطات الهندية بررت القرار بأنه إجراء احترازي يهدف إلى حماية نزاهة الامتحان، بعد [...]
كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC. وأفاد باحثون من شركة الأمن [...]
