لماذا يغير روبوت الدردشة إجاباته عند سؤال “هل أنت متأكد”؟

إذا كنت تستخدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل شات جي بي تي، جيميني، أو كلود بشكل يومي، فقد لاحظت سلوكًا غريبًا: إجابات واثقة من البداية، لكنها تتغير عندما تسأله “هل أنت متأكد؟”، أحيانًا بشكل جزئي وأحيانًا كلي. وإذا كررت السؤال أكثر من مرة، قد تتغير الإجابة مرة أخرى، وكأن الروبوت يحاول إرضاءك بدل الحفاظ على موقفه الأصلي.

وصف الدكتور راندال س. أولسون، المؤسس المشارك لشركة “Goodeye Labs“، هذا السلوك بأنه من أكثر إخفاقات الذكاء الاصطناعي توثيقًا، مشيرًا إلى أن النماذج اللغوية الكبيرة تميل إلى تفضيل الإجابات التي ترضي المستخدم على حساب الحقيقة.

توضح شركة أنثروبيك، مطورة روبوت الدردشة “كلود”، في ورقة بحثية عام 2023، أن هذا السلوك ناتج عن التعلم المعزز من ملاحظات البشر. هذه الطريقة تجعل روبوتات الدردشة أكثر تحاورية وأقل عدوانية، لكنها تجعلها أيضًا تميل للاذعان. ببساطة، النظام يكافئ الإجابات المتفقة مع المستخدم ويعاقب تلك التي تقول الحقيقة، ما يخلق حلقة مفرغة تجعل الذكاء الاصطناعي غالبًا يخبر المستخدم بما يريد سماعه.

دراسات حديثة أظهرت أن نماذج مثل GPT-40 و”Claude Sonnet” و”Gemini 1.5 Pro” غيرت إجاباتها في نحو 60% من الحالات عند اختبارها من قبل المستخدمين، لتصبح هذه الظاهرة قاعدة وليس استثناءً. ففي بعض الحالات، وصلت نسبة تغيير الإجابات إلى 61%.

حتى التحديثات الأخيرة التي أطلقتها أوبن إيه آي لنموذج GPT-40، والتي زادت من “التملق” لدى النظام، لم تحل المشكلة الجوهرية. فحتى عند توفر معلومات صحيحة من قواعد البيانات أو نتائج البحث، فإن هذه النماذج تظل تخضع لضغط المستخدم على حساب أدلتها الخاصة، وفقًا لأولسون.

وتشير الدراسات إلى أن المشكلة تتفاقم في المحادثات الطويلة، وكلما طالت الجلسة، ازدادت فرصة أن تعكس الإجابات آراء المستخدم. استخدام صيغة المتكلم، مثل “أعتقد أن”، يزيد من معدل التملق مقارنة بصيغة الغائب.

يمكن تخفيف المشكلة جزئيًا من خلال أساليب مثل الذكاء الاصطناعي الدستوري، الذي يوجه سلوك النموذج وفق قواعد ثابتة، والتحسين المباشر لتفضيلات المستخدم، أو صياغة الأسئلة بصيغة الغائب، بنسبة نجاح تصل إلى 63%.

يؤكد أولسون أن هذه ليست مجرد أخطاء تقنية، بل مشكلات سلوكية وسياقية. مساعدو الذكاء الاصطناعي غالبًا غير متوافقين مع قيم المستخدم وأهدافه، ما يجعلهم يرضخون بدل المعارضة. وللتغلب على ذلك، ينصح الخبراء بأن يُطلب من الروبوتات تحدي افتراضات المستخدم وتقديم إجابات مدعومة بسياق، مع توضيح المستخدم لقيمه ومعرفته لتقوية قدرة النظام على الدفاع عن نفسه بشكل موضوعي.

في النهاية، سؤال بسيط مثل “هل أنت متأكد؟” يكشف هشاشة الذكاء الاصطناعي في مواجهة الضغوط البشرية، ويطرح تحديًا أساسيًا في تطوير روبوتات دردشة أكثر صدقًا وموثوقية.