فتحت منصة التواصل الاجتماعي إكس (X) تحقيقاً عاجلاً بعد تقارير إعلامية تحدثت عن نشر محتوى عنصري ومسيء أنتجه روبوت الدردشة جروك (Grok)، وهو نموذج ذكاء اصطناعي تابع لشركة xAI التي أسسها الملياردير الأميركي إيلون ماسك.
وذكرت شبكة سكاي نيوز (Sky News)، الأحد، أن فرق السلامة والمحتوى في منصة إكس بدأت تحقيقات داخلية بشأن منشورات قيل إن جروك أنشأها استجابة لطلبات المستخدمين، وتضمنت عبارات اعتُبرت عنصرية أو تحض على الكراهية، بحسب رويترز.
وبحسب تقرير الشبكة، فإن التحقيق يركز على كيفية تمكن نظام الذكاء الاصطناعي من إنتاج مثل هذا المحتوى، وما إذا كان ذلك نتيجة خلل تقني في خوارزميات النموذج أو بسبب إساءة استخدام من قبل بعض المستخدمين.
وقال مراسل سكاي نيوز روب هاريس في مقطع مصور نُشر عبر حساب الشبكة على منصة إكس إن فرق السلامة في الشركة “تجري تحقيقاً عاجلاً في دور جروك في إنتاج منشورات عنصرية تحض على الكراهية على الإنترنت”.
وأضاف أن التحقيق يهدف إلى تحديد ما إذا كانت هذه المنشورات قد تم إنشاؤها مباشرة من خلال النظام، أو أنها جاءت نتيجة تلاعب المستخدمين بطريقة تُمكّنهم من تجاوز ضوابط المحتوى.
ولم تصدر حتى الآن أي تعليقات رسمية من منصة إكس أو شركة xAI بشأن هذه التقارير، كما لم تتمكن وكالة رويترز من التحقق بشكل مستقل من صحة الفيديو الذي أرفقته سكاي نيوز بمنشورها.
تأتي هذه التطورات في وقت تواجه فيه شركات التكنولوجيا الكبرى ضغوطاً متزايدة من الحكومات والهيئات التنظيمية في مختلف أنحاء العالم للحد من المخاطر المرتبطة بالذكاء الاصطناعي.
فقد كثفت الجهات التنظيمية جهودها لمراقبة المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي، خاصة ما يتعلق بالمحتوى المسيء أو العنصري أو الجنسي الصريح، في ظل مخاوف من انتشار مواد غير قانونية عبر الإنترنت.
وفي إطار هذه الحملة العالمية المتنامية، بدأت بعض الحكومات بالفعل تحقيقات رسمية في استخدامات تقنيات الذكاء الاصطناعي، كما طالبت شركات التكنولوجيا بوضع ضوابط أكثر صرامة لمنع إساءة استخدام هذه الأنظمة.
وكانت شركة xAI قد أعلنت في يناير الماضي أنها فرضت قيوداً إضافية على بعض ميزات روبوت جروك، خصوصاً تلك المتعلقة بتوليد الصور.
وقالت الشركة إنها حدّت من قدرة المستخدمين على إنشاء صور لأشخاص يرتدون ملابس فاضحة في مناطق أو مجالات يُحظر فيها مثل هذا المحتوى، مشيرة إلى أن القيود تختلف بحسب الموقع الجغرافي للمستخدمين.
لكن الشركة لم تحدد الدول التي تشملها هذه القيود، الأمر الذي أثار تساؤلات بشأن آليات الرقابة التي تعتمدها الشركة على أدوات الذكاء الاصطناعي الخاصة بها.
ويرى خبراء التكنولوجيا أن هذه الحادثة تسلط الضوء مجدداً على التحديات الكبيرة التي تواجه شركات الذكاء الاصطناعي في ضبط المحتوى الذي تنتجه نماذجها، خصوصاً مع الانتشار السريع لهذه التقنيات واستخدامها على نطاق واسع في منصات التواصل الاجتماعي.
كما تعكس هذه الواقعة المخاوف المتزايدة من إمكانية استخدام أدوات الذكاء الاصطناعي لنشر معلومات مضللة أو محتوى متطرف، وهو ما قد يدفع الحكومات إلى فرض قوانين وتنظيمات أكثر صرامة على هذا القطاع في المستقبل القريب.
فتحت هيئة تنظيم الاتصالات البريطانية (أوفكوم) تحقيقًا رسميًا مع تطبيق المراسلة الشهير “تيليجرام”، على خلفية مخاوف متزايدة تتعلق بانتشار مواد يُشتبه بأنها مرتبطة باستغلال جنسي للأطفال عبر المنصة. ويأتي هذا التحرك في إطار تشديد بريطانيا إجراءاتها الرقابية على منصات التواصل الاجتماعي، ضمن جهود أوسع لحماية الأطفال من المخاطر الإلكترونية المتصاعدة، وفرض مزيد من المساءلة على [...]
في مشهد يعكس واحدة من أكثر اللحظات دقة في تاريخ استكشاف الفضاء الحديث، هبطت كبسولة الفضاء “أوريون” التابعة لوكالة الفضاء الأميركية NASA، ضمن مهمة “أرتيميس 2”، بنجاح في مياه المحيط الهادئ قبالة سواحل كاليفورنيا، منهية رحلة تاريخية حملت أربعة رواد فضاء في مهمة هي الأهم منذ عقود من حيث العودة المأهولة إلى محيط القمر. وجاء [...]
في لحظة تاريخية تشبه مشاهد الأفلام الخيالية، انطلقت مهمة أرتميس 2 التابعة لوكالة الطيران والفضاء الأمريكية ناسا من مركز كينيدي للفضاء في كيب كانافيرال، فلوريدا، محملة بأربعة من أبرز رواد الفضاء في العالم. هذه البعثة ليست مجرد رحلة عادية، بل خطوة رئيسية في سعي الولايات المتحدة لإعادة البشر إلى القمر بعد أكثر من نصف قرن [...]
لطالما راهنت المملكة المتحدة بقوة على الذكاء الاصطناعي، معتبرةً هذه التكنولوجيا المفتاح لتعزيز الابتكار والنمو الاقتصادي في جميع أنحاء البلاد. وكما صرح كير ستارمر العام الماضي، فقد أرادت الحكومة "إطلاق العنان للذكاء الاصطناعي" لتسريع التقدم في جميع القطاعات، من التعليم إلى الرعاية الصحية، مرورًا بالصناعات التكنولوجية المتقدمة. لكن السؤال الذي يطرحه العديد من المراقبين الآن: [...]
في خطوة لافتة أثارت تساؤلات حول مستقبل استخدام الذكاء الاصطناعي في المعلومات الطبية، أوقفت شركة جوجل بهدوء ميزة بحث جديدة كانت تعرض للمستخدمين نصائح صحية مستندة إلى تجارب أشخاص من حول العالم. الميزة التي حملت اسم "ما يقترحه الناس" (What People Suggest) كانت تعتمد على الذكاء الاصطناعي لتنظيم آراء وتجارب المستخدمين حول الأمراض والعلاجات، بهدف [...]
حذّر خبراء في شركة إدارة المخاطر البريطانية مارش ريسك من أن الهجمات التي استهدفت مراكز بيانات في الشرق الأوسط دفعت المخاوف الجيوسياسية إلى صدارة المخاطر التي تواجه قطاع البنية التحتية الرقمية، في وقت يتزايد فيه الاعتماد على الذكاء الاصطناعي في المنطقة. وقال مسؤولون في الشركة إن ظهور الذكاء الاصطناعي باعتباره "منفعة عامة أساسية" قد يجعله [...]
