إذا كنت تستخدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل شات جي بي تي، جيميني، أو كلود بشكل يومي، فقد لاحظت سلوكًا غريبًا: إجابات واثقة من البداية، لكنها تتغير عندما تسأله “هل أنت متأكد؟”، أحيانًا بشكل جزئي وأحيانًا كلي. وإذا كررت السؤال أكثر من مرة، قد تتغير الإجابة مرة أخرى، وكأن الروبوت يحاول إرضاءك بدل الحفاظ على موقفه الأصلي.
وصف الدكتور راندال س. أولسون، المؤسس المشارك لشركة “Goodeye Labs“، هذا السلوك بأنه من أكثر إخفاقات الذكاء الاصطناعي توثيقًا، مشيرًا إلى أن النماذج اللغوية الكبيرة تميل إلى تفضيل الإجابات التي ترضي المستخدم على حساب الحقيقة.
توضح شركة أنثروبيك، مطورة روبوت الدردشة “كلود”، في ورقة بحثية عام 2023، أن هذا السلوك ناتج عن التعلم المعزز من ملاحظات البشر. هذه الطريقة تجعل روبوتات الدردشة أكثر تحاورية وأقل عدوانية، لكنها تجعلها أيضًا تميل للاذعان. ببساطة، النظام يكافئ الإجابات المتفقة مع المستخدم ويعاقب تلك التي تقول الحقيقة، ما يخلق حلقة مفرغة تجعل الذكاء الاصطناعي غالبًا يخبر المستخدم بما يريد سماعه.
دراسات حديثة أظهرت أن نماذج مثل GPT-40 و”Claude Sonnet” و”Gemini 1.5 Pro” غيرت إجاباتها في نحو 60% من الحالات عند اختبارها من قبل المستخدمين، لتصبح هذه الظاهرة قاعدة وليس استثناءً. ففي بعض الحالات، وصلت نسبة تغيير الإجابات إلى 61%.
حتى التحديثات الأخيرة التي أطلقتها أوبن إيه آي لنموذج GPT-40، والتي زادت من “التملق” لدى النظام، لم تحل المشكلة الجوهرية. فحتى عند توفر معلومات صحيحة من قواعد البيانات أو نتائج البحث، فإن هذه النماذج تظل تخضع لضغط المستخدم على حساب أدلتها الخاصة، وفقًا لأولسون.
وتشير الدراسات إلى أن المشكلة تتفاقم في المحادثات الطويلة، وكلما طالت الجلسة، ازدادت فرصة أن تعكس الإجابات آراء المستخدم. استخدام صيغة المتكلم، مثل “أعتقد أن”، يزيد من معدل التملق مقارنة بصيغة الغائب.
يمكن تخفيف المشكلة جزئيًا من خلال أساليب مثل الذكاء الاصطناعي الدستوري، الذي يوجه سلوك النموذج وفق قواعد ثابتة، والتحسين المباشر لتفضيلات المستخدم، أو صياغة الأسئلة بصيغة الغائب، بنسبة نجاح تصل إلى 63%.
يؤكد أولسون أن هذه ليست مجرد أخطاء تقنية، بل مشكلات سلوكية وسياقية. مساعدو الذكاء الاصطناعي غالبًا غير متوافقين مع قيم المستخدم وأهدافه، ما يجعلهم يرضخون بدل المعارضة. وللتغلب على ذلك، ينصح الخبراء بأن يُطلب من الروبوتات تحدي افتراضات المستخدم وتقديم إجابات مدعومة بسياق، مع توضيح المستخدم لقيمه ومعرفته لتقوية قدرة النظام على الدفاع عن نفسه بشكل موضوعي.
في النهاية، سؤال بسيط مثل “هل أنت متأكد؟” يكشف هشاشة الذكاء الاصطناعي في مواجهة الضغوط البشرية، ويطرح تحديًا أساسيًا في تطوير روبوتات دردشة أكثر صدقًا وموثوقية.
لم يكن ظهور الفنان العراقي كاظم الساهر في بودكاست "ABtalks" مجرد مقابلة عابرة مع نجم عربي كبير، بل تحوّل إلى حالة إنسانية استثنائية دفعت الآلاف إلى إعادة مشاهدة الحلقة ومشاركة مقاطعها والتعبير عن تأثرهم بما كشفه "القيصر" من تفاصيل لم يعتد الجمهور سماعها. هذه المرة، لم يتحدث كاظم الساهر عن نجاحاته الفنية أو حفلاته الجماهيرية، [...]
في مخيم تحاصره الخيام المهترئة ويعيش داخله آلاف الفارين من ويلات الحرب، عاد فيروس إيبولا ليبعث الخوف من جديد في شرق جمهورية الكونغو الديمقراطية، مهدداً بإضافة مأساة صحية إلى سنوات طويلة من النزوح والصراع. ففي مخيم "كبانجبا" للنازحين، الذي يؤوي نحو 30 ألف شخص، أكدت مفوضية الأمم المتحدة السامية لشؤون اللاجئين تسجيل حالتي وفاة مرتبطتين [...]
لم يعد السؤال المطروح في وول ستريت: "كم تبلغ ثروة إيلون ماسك؟"، بل أصبح: هل نشهد ولادة أول تريليونير في التاريخ؟ الرجل الذي بدأ رحلته مهاجراً شاباً من جنوب أفريقيا، وتحول لاحقاً إلى أحد أكثر الشخصيات تأثيراً وإثارة للجدل في العالم، يقف اليوم على أعتاب إنجاز غير مسبوق في عالم المال والأعمال. الشرارة الجديدة جاءت [...]
تشهد العلاقات بين الولايات المتحدة وإيران تحولات متسارعة ومتناقضة خلال الأيام الأخيرة، بين تهديدات عسكرية متصاعدة وحديث مفاجئ عن قرب التوصل إلى اتفاق، في مشهد يعكس حالة من عدم الاستقرار السياسي والدبلوماسي بين الطرفين. وقال الرئيس الأمريكي دونالد ترامب إن ما وصفه بـ”التصريحات الإيرانية المسرّبة” حول اتفاق محتمل مع واشنطن “لا تمت للحقيقة بصلة”، مؤكداً [...]
يشهد مشجعو كرة القدم من أصول إيرانية في الولايات المتحدة حالة انقسام واضحة حول دعم منتخب إيران في بطولة كأس العالم 2026، في ظل استمرار التوترات السياسية والحرب في المنطقة، ما أضفى بعداً سياسياً على حدث رياضي عالمي. وفي لوس أنجليس، التي تضم أكبر جالية إيرانية في العالم، تتباين مواقف المشجعين بين الفخر بالهوية الوطنية [...]
قال حسن فضل الله، القيادي البارز في حزب الله، إن الجماعة واثقة من أن إيران ستصر على إدراج لبنان ضمن أي اتفاق محتمل يجري التوصل إليه مع الولايات المتحدة، في ظل تزايد الحديث عن قرب تفاهم بين واشنطن وطهران. وأوضح فضل الله في تصريحات نقلتها وسائل إعلام، أن الحزب يثق في الموقف الإيراني الداعم للبنان، [...]
