إذا كنت تستخدم روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل شات جي بي تي، جيميني، أو كلود بشكل يومي، فقد لاحظت سلوكًا غريبًا: إجابات واثقة من البداية، لكنها تتغير عندما تسأله “هل أنت متأكد؟”، أحيانًا بشكل جزئي وأحيانًا كلي. وإذا كررت السؤال أكثر من مرة، قد تتغير الإجابة مرة أخرى، وكأن الروبوت يحاول إرضاءك بدل الحفاظ على موقفه الأصلي.
وصف الدكتور راندال س. أولسون، المؤسس المشارك لشركة “Goodeye Labs“، هذا السلوك بأنه من أكثر إخفاقات الذكاء الاصطناعي توثيقًا، مشيرًا إلى أن النماذج اللغوية الكبيرة تميل إلى تفضيل الإجابات التي ترضي المستخدم على حساب الحقيقة.
توضح شركة أنثروبيك، مطورة روبوت الدردشة “كلود”، في ورقة بحثية عام 2023، أن هذا السلوك ناتج عن التعلم المعزز من ملاحظات البشر. هذه الطريقة تجعل روبوتات الدردشة أكثر تحاورية وأقل عدوانية، لكنها تجعلها أيضًا تميل للاذعان. ببساطة، النظام يكافئ الإجابات المتفقة مع المستخدم ويعاقب تلك التي تقول الحقيقة، ما يخلق حلقة مفرغة تجعل الذكاء الاصطناعي غالبًا يخبر المستخدم بما يريد سماعه.
دراسات حديثة أظهرت أن نماذج مثل GPT-40 و”Claude Sonnet” و”Gemini 1.5 Pro” غيرت إجاباتها في نحو 60% من الحالات عند اختبارها من قبل المستخدمين، لتصبح هذه الظاهرة قاعدة وليس استثناءً. ففي بعض الحالات، وصلت نسبة تغيير الإجابات إلى 61%.
حتى التحديثات الأخيرة التي أطلقتها أوبن إيه آي لنموذج GPT-40، والتي زادت من “التملق” لدى النظام، لم تحل المشكلة الجوهرية. فحتى عند توفر معلومات صحيحة من قواعد البيانات أو نتائج البحث، فإن هذه النماذج تظل تخضع لضغط المستخدم على حساب أدلتها الخاصة، وفقًا لأولسون.
وتشير الدراسات إلى أن المشكلة تتفاقم في المحادثات الطويلة، وكلما طالت الجلسة، ازدادت فرصة أن تعكس الإجابات آراء المستخدم. استخدام صيغة المتكلم، مثل “أعتقد أن”، يزيد من معدل التملق مقارنة بصيغة الغائب.
يمكن تخفيف المشكلة جزئيًا من خلال أساليب مثل الذكاء الاصطناعي الدستوري، الذي يوجه سلوك النموذج وفق قواعد ثابتة، والتحسين المباشر لتفضيلات المستخدم، أو صياغة الأسئلة بصيغة الغائب، بنسبة نجاح تصل إلى 63%.
يؤكد أولسون أن هذه ليست مجرد أخطاء تقنية، بل مشكلات سلوكية وسياقية. مساعدو الذكاء الاصطناعي غالبًا غير متوافقين مع قيم المستخدم وأهدافه، ما يجعلهم يرضخون بدل المعارضة. وللتغلب على ذلك، ينصح الخبراء بأن يُطلب من الروبوتات تحدي افتراضات المستخدم وتقديم إجابات مدعومة بسياق، مع توضيح المستخدم لقيمه ومعرفته لتقوية قدرة النظام على الدفاع عن نفسه بشكل موضوعي.
في النهاية، سؤال بسيط مثل “هل أنت متأكد؟” يكشف هشاشة الذكاء الاصطناعي في مواجهة الضغوط البشرية، ويطرح تحديًا أساسيًا في تطوير روبوتات دردشة أكثر صدقًا وموثوقية.
قال وزير الخارجية الإيراني عباس عراقجي إن العودة إلى المسار الدبلوماسي مع الولايات المتحدة لا تزال ممكنة، مشيراً إلى أن نجاح أي تحرك دبلوماسي يتطلب إدراك واشنطن أن سياسة الضغوط لا تحقق نتائج. وأضاف عراقجي، في منشور عبر منصة «إكس»، أنه أجرى «مناقشات خلاقة» مع رئيس الوزراء وزير الخارجية القطري الشيخ محمد بن عبد الرحمن [...]
اتسعت رقعة المواجهة العسكرية في الخليج مع إعلان الكويت تعرض إحدى محطات القوى الكهربائية وتقطير المياه لهجوم إيراني، في تطور ينقل التصعيد من استهداف القواعد والمنشآت العسكرية إلى البنية التحتية الحيوية التي تمس حياة المدنيين بشكل مباشر، ويعكس اتجاهاً جديداً في مسار الصراع المتصاعد بين طهران وواشنطن. وأعلنت وزارة الكهرباء والماء والطاقة المتجددة الكويتية، في [...]
دخلت المواجهة العسكرية بين إيران والولايات المتحدة مرحلة أكثر خطورة، بعدما أعلنت طهران تنفيذ موجة جديدة من الهجمات استهدفت منشآت وقواعد أمريكية في عدة دول بالشرق الأوسط، في وقت واصلت فيه واشنطن غاراتها المكثفة على مواقع عسكرية إيرانية لليلة السادسة على التوالي، وسط تصاعد المخاوف من اتساع رقعة الصراع وانعكاساته على أمن المنطقة والاقتصاد العالمي. [...]
شهدت العاصمة القطرية الدوحة، فجر الجمعة، حالة استنفار أمني بعد إعلان السلطات القطرية نجاح قواتها المسلحة في التصدي لهجمة صاروخية إيرانية استهدفت البلاد، بينما أسفر سقوط شظايا ناجمة عن عمليات الاعتراض عن إصابة طفل نقل إلى المستشفى لتلقي العلاج. وقالت وزارة الدفاع القطرية إن منظومات الدفاع الجوي التابعة للقوات المسلحة تمكنت من اعتراض الصواريخ الإيرانية [...]
في خضم تصعيد عسكري متسارع مع الولايات المتحدة، رفعت إيران منسوب التحذيرات بشأن مضيق هرمز، مؤكدة أنه يمثل "خطًا أحمر" لا يمكن المساس به، ومتوعدة برد واسع إذا نفذت واشنطن تهديداتها باستهداف البنية التحتية داخل الأراضي الإيرانية. وقالت طهران إن أي هجوم على منشآتها سيقابله استهداف للبنى التحتية في المنطقة، في رسالة تعكس حجم التوتر [...]
نواكشوط – سيدي محمد ولد الحسن تصدر اختفاء الفتاة الموريتانية منى بنت الشيخ محمدو (15 عامًا) اهتمامات الرأي العام في موريتانيا، بعدما أعلنت أسرتها مساء الثلاثاء العثور عليها وعودتها إلى منزلها سالمة، عقب ساعات من البحث والقلق، فيما لا تزال تفاصيل اختفائها والظروف المحيطة بالعثور عليها تثير تساؤلات واسعة في ظل غياب رواية رسمية كاملة [...]
