“OpenAI” توضح سبب نفاق “تشات جي بي تي” للمستخدمين

عواصم – وكالات

نشرت شركة OpenAI تقريرًا مفصلاً عن مشاكل التملق الأخيرة المتعلقة بنموذج الذكاء الاصطناعي الافتراضي المُشغّل لبرنامج ChatGPT، GPT-4o، والتي أجبرت الشركة على التراجع عن تحديثٍ للنموذج صدر الأسبوع الماضي.

خلال عطلة نهاية الأسبوع، وبعد تحديث نموذج GPT-4o، لاحظ مستخدمو مواقع التواصل الاجتماعي أن تشات جي بي تي بدأ يستجيب بطريقةٍ مُبالغ فيها في التصديق والقبول، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.

نشر المستخدمون لقطات شاشة لبرنامج تشات جي بي تي مُشيدين بجميع أنواع القرارات والأفكار المُشكلة والخطيرة.

في منشور على “إكس” يوم الأحد، أقرّ الرئيس التنفيذي سام ألتمان بالمشكلة، وقال إن “OpenAI” ستعمل على إيجاد حلول في أقرب وقت ممكن.

بعد يومين، أعلن ألتمان إلغاء تحديث GPT-4o، وأن “OpenAI” تعمل على إصلاحات إضافية لشخصية النموذج.

ووفقًا لـ “OpenAI”، فإن التحديث، الذي كان يهدف إلى جعل الشخصية الافتراضية للنموذج أكثر سهولة وفعالية، كان مُستندًا بشكل كبير إلى ملاحظات قصيرة المدى ولم يُراعِ تمامًا كيفية تطور تفاعلات المستخدمين مع تشات جي بي تي بمرور الوقت.

نتيجةً لذلك، انحرفت GPT-4o نحو ردودٍ داعمةٍ بشكلٍ مبالغٍ فيه، لكنها مُضلِّلة، كما كتبت “OpenAI” في منشورٍ على مدونتها.

وقالت الشركة: «قد تكون التفاعلات المُتملقة غير مريحةٍ ومُقلقةٍ وتُسبِّب الضيق. لقد قصرنا في ذلك، ونعمل على تصحيحه».

تقول شركة OpenAI إنها تُطبّق العديد من الإصلاحات، بما في ذلك تحسين تقنيات تدريب النموذج الأساسية ومطالبات النظام لتوجيه GPT-4o بشكل صريح بعيدًا عن النفاق.

كما تُطوّر الشركة المزيد من حواجز الأمان لزيادة صدق النموذج وشفافيته، وتُواصل توسيع تقييماتها للمساعدة في تحديد المشكلات التي تتجاوز النفاق، كما تقول.

وتقول “OpenAI” أيضًا إنها تجرب طرقًا تسمح للمستخدمين بتقديم ملاحظات في الوقت الفعلي للتأثير بشكل مباشر على تفاعلاتهم مع تشات جي بي تي والاختيار من بين شخصيات تشات جي بي تي المتعددة.

كتبت الشركة في مدونتها: “نستكشف طرقًا جديدة لدمج ملاحظات أوسع وأكثر ديمقراطية في سلوكيات تشات جي بي تي الافتراضية”.

وتابعت: “نأمل أن تساعدنا هذه الملاحظات على عكس القيم الثقافية المتنوعة حول العالم بشكل أفضل، وفهم كيفية تطور تشات جي بي تي. كما نؤمن بأنه ينبغي أن يتمتع المستخدمون بتحكم أكبر في سلوك تشات جي بي تي، وأن يُجريوا التعديلات اللازمة إذا لم يوافقوا على السلوك الافتراضي، قدر الإمكان.”