حذّرت شركة ديب سيك الصينية الناشئة، ومقرها هانغتشو، من المخاطر المتزايدة المرتبطة بـ«كسر الحماية» لنماذج الذكاء الاصطناعي مفتوحة المصدر، مؤكدة أن هذه النماذج عرضة بشكل خاص للاستخدامات الخبيثة عند إزالة آليات الأمان المدمجة.
وفي ورقة بحثية نُشرت بمجلة Nature العلمية، أوضحت الشركة أنها قيّمت أداء نماذجها مثل R1 وV3 من خلال معايير صناعية صارمة، واختبارات داخلية اعتمدت على “الفِرق الحمراء” لمحاكاة محاولات استغلال النظام، بحسب تقرير لموقع SCMP.
أظهرت الاختبارات أن نموذج R1، الذي أُطلق في يناير الماضي، يصبح “غير آمن نسبيًا” بمجرد تعطيل آليات التحكم الخارجية.
كما بيّنت الدراسة أن جميع النماذج – بما فيها المنافسة مثل GPT-4o من OpenAI وClaude-3.7 من Anthropic – سجلت معدلات استجابة ضارة أعلى بكثير عند مواجهة هجمات كسر الحماية، مع ارتفاع المخاطر خصوصًا في النماذج مفتوحة المصدر مثل R1 وQwen2.5 من «علي بابا».
ذكرت الورقة أن تكلفة تدريب نموذج R1 بلغت نحو 294 ألف دولار فقط، وهو رقم يقل كثيرًا عن استثمارات الشركات الأميركية في تدريب نماذجها العملاقة، ما يثير تساؤلات حول قدرة الصين على إنتاج تقنيات منافسة بكلفة أقل، وتأثير ذلك على جودة الأمان.
يتزامن هذا التحذير مع دعوات رسمية في بكين لتحقيق توازن بين الابتكار والحوكمة الآمنة للذكاء الاصطناعي.
وأشارت هيئة المعايير التقنية التابعة لإدارة الفضاء الإلكتروني الصيني إلى أن الثغرات في النماذج المفتوحة قد تنتقل بسهولة إلى التطبيقات المستقبلية، ما يسهل على المجرمين تطوير «نماذج خبيثة».
يمثل ظهور «ديب سيك» في مجلة Nature سابقة للشركات الصينية، حيث وصفه مستخدمون على مواقع التواصل المحلية بأنه “أول ظهور بارز يخضع لمراجعة الأقران”، وهو ما قد يشجع شركات أخرى على تعزيز الشفافية في أبحاث السلامة.
ويعيد هذا التحذير تسليط الضوء على التحدي العالمي المتمثل في موازنة الابتكار السريع مع الأمان والمسؤولية في تطوير تقنيات الذكاء الاصطناعي.
لندن – اليوم ميديا
يتسارع اعتماد الشركات على الروبوتات المدعومة بالذكاء الاصطناعي بمعدل غير مسبوق، حتى إن خبراء يتوقعون أن تتجاوز هذه الروبوتات القوى العاملة البشرية خلال عقود قليلة، في تحول قد يعيد رسم مستقبل العمل كما نعرفه. روب جارليك، الرئيس السابق للابتكار والتكنولوجيا في وحدة سيتي غلوبال إنسايتس، حذر من أن النظام الاقتصادي القائم على الربحية والتقدم التكنولوجي [...]
أعلنت وكالة الأنباء الإماراتية الرسمية عن إحباط سلسلة هجمات إلكترونية معقدة استهدفت البنية التحتية الرقمية للبلاد. الهجمات التي وصفها الخبراء بالمنظمة والممنهجة حاولت استغلال ثغرات الشبكات الوطنية ونشر برمجيات الفدية على نطاق واسع. وقالت الوكالة إن الهجمات لم تقتصر على الاختراقات التقليدية، بل شملت محاولات تصيد إلكتروني دقيقة استهدفت المنصات الوطنية، مع استخدام تقنيات الذكاء [...]
تخيل أنك جالس أمام حاسوبك وتطل عليك شاشة مليئة بعلامات التبويب المفتوحة ورسائل البريد غير المقروءة ومهام يومية تتراكم بلا توقف شعور الفوضى والإرهاق يزداد مع كل دقيقة تمر وكل مرة تنظر فيها إلى قائمة المهام تشعر أن الأمور تتزايد صعوبة إذا كان هذا الوضع مألوفًا لك فربما حان الوقت لتجربة استراتيجية البصل مع شات [...]
تأجل إطلاق جهاز الذكاء الاصطناعي المرتقب من تصميم مصمم أبل السابق، جوني آيف، لصالح شركة أوبن إيه آي، وفقًا لوثائق قضائية جديدة. وكان من المتوقع أن يُطرح الجهاز في النصف الثاني من عام 2026، لكنه لن يصل إلى العملاء قبل فبراير 2027 على أقرب تقدير. وكشفت الوثائق نفسها أن الشركة لم تعد تخطط لاستخدام العلامة [...]
بدأ الأمر كسؤال صادم: "كيف يمكنني بيع هذا الإنسان؟"، ليصبح سريعًا مادة جدل على الإنترنت، ومثالًا حيًا على التجارب الجديدة في عالم الذكاء الاصطناعي. ما بدا مزاحًا أو تجربة غريبة سرعان ما تحول إلى خوف وفضول رقمي حول شبكة ناشئة تدعى "مولتبوك" (Moltbook). هذه المنصة لم تُصمم للبشر، بل لوكلاء الذكاء الاصطناعي، حيث يتواصل هؤلاء [...]
في تصريح مثير للجدل قد يعيد رسم خريطة النقاش حول مستقبل الاقتصاد الأمريكي، أعلن الملياردير الأمريكي إيلون ماسك أن الولايات المتحدة تواجه شبح الإفلاس الاقتصادي بسبب التراكم الهائل في الدين الوطني، ولا يوجد حل سوى قوة الذكاء الاصطناعي والروبوتات. في مقابلة حصرية مع المدونين دواركش باتيل وجون كوليسون، قال ماسك إن الولايات المتحدة ربما تتمكن [...]
