في واقعة أثارت ضجة واسعة في الولايات المتحدة، تحوّلت دمية دبدوب صغيرة يفترض أن تكون رفيقًا تعليميًا للأطفال إلى مصدر خوف عالمي بعد كشف تقارير أنها تقدّم إجابات خطيرة وغير مُفلترة، ما دفع “OpenAI” للتدخل السريع وإيقافها بشكل كامل.
الدمية، التي تحمل اسم Kumma وتنتجها الشركة الصينية FoloToy، تعتمد على نموذج GPT-4o للتفاعل مع الأطفال، لكن سلوكها المخيف منحها لقبًا جديدًا على مواقع التواصل: “تشاكي GPT” في إشارة إلى الدمية المرعبة الشهيرة.
بحسب تقرير صادر عن مجموعة المستهلك الأميركية PIRG ضمن سلسلة Trouble in Toyland، قدّمت الدمية إجابات تصنّف بالخطيرة، منها شرح خطوات إشعال أعواد الثقاب بالتفصيل، والتجاوب مع أسئلة حساسة ذات طابع جنسي دون أي فلترة، وسط مخاوف متزايدة من تأثير محتواها على الأطفال.
ولم تتوقف التحذيرات عند هذا الحد؛ إذ أشار التقرير إلى خطورة الميكروفون الذي يعمل باستمرار، والذي قد يعرّض الأطفال لاحتمال استخدام أصواتهم في عمليات احتيال تعتمد على تقليد الصوت.
ومع انتشار تفاصيل الحادثة على منصات مثل Reddit، تسابق المستخدمون على إطلاق وصف “تشاكي GPT”، فيما رجّح البعض حدوث اختراق أو كسر لحماية النظام دون وجود أدلة مؤكدة.
وفي خطوة عاجلة، أعلنت OpenAI تعليق حساب مطوّر اللعبة بسبب مخالفة سياسات الاستخدام، ما أدى إلى قطع وصول الدمية لخدمات الذكاء الاصطناعي نهائيًا. عقب ذلك، أعلنت FoloToy وقف مبيعاتها مؤقتًا وإجراء مراجعة شاملة لسلامة المنتج، فيما ظهر المنتج على موقعها بحالة “غير متوفر”.
وتكشف الحادثة مدى خطورة دمج نماذج ذكاء اصطناعي متقدمة في ألعاب الأطفال دون رقابة، حيث كان من المفترض أن تكون الدمية صديقًا تعليميًا للصغار، لكنها تحوّلت إلى جرس إنذار جديد حول المخاطر المتصاعدة لتوسّع الذكاء الاصطناعي داخل المنتجات اليومية—even الألعاب القطنية.
التعليقات
لا توجد تعليقات معتمدة حتى الآن على هذا المقال. شارك برأيك وكن أول المعلقين.
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *