قد تكون أداة البحث الخاصة بروبوت الدردشة “شات جي بي تي”، المعتمد على الذكاء الاصطناعي الذي طورته “OpenAI”، عُرضة للتلاعب بها باستخدام المحتوى المخفي.
وكشف تحقيق لصحيفة “ذا غارديان” البريطانية أن أداة البحث الخاصة بـ”شات جي بي تي” تتأثر بالمحتوى المخفي على المواقع الإلكترونية وهو ما قد يغير نتائجها.
وأتاحت “OpenAI” ميزة البحث لأصحاب الاشتراكات المدفوعة على “شات جي بي تي” في أكتوبر الماضي، ثم قررت توفيرها لكل المستخدمين في ديسمبر الجاري.
واختبرت “ذا غارديان” الطريقة التي يجيب بها “شات جي بي تي” عندما طُلب منه تلخيص صفحات على الويب تحتوي على محتوى مخفي.
ووجدت أن المحتوى المخفي قد يضم تعليمات من أطراف ثالثة يمكنها تغيير إجابات “شات جي بي تي”، أو قد ينطوي على محتوى مُصمم للتأثير على إجابة روبوت الدردشة.
ويُمكن استخدام هذه الثغرة لأهداف سيئة، إذ يُمكن على سبيل المثال جعل “شات جي بي تي” يعطي تقييم إيجابي لمنتج على الرغم من وجود آراء سلبية حول هذا المنتج في صفحة الويب نفسها التي تضم محتوى مخفي عن المنتج.
في الاختبارات، التي أجرتها الصحيفة، أُعطي “شات جي بي تي” رابط صفحة ويب مزيفة صُممت لتبدو وكأنها صفحة لبيع كاميرا معينة.
وعند سؤال “شات جي بي تي” عما إذا كانت الكاميرا تستحق الشراء، جاء رده إيجابيًا لكنه متوازنًا، حيث سلط الضوء على بعض مواصفات الكاميرا التي قد لا يفضلها الأشخاص.
لكن عندما ضمت صفحة الويب محتوى مخفي يشمل تعليمات لـ”شات جي بي تي” لإعطاء رأي إيجابي، كانت إجابته إيجابية كليًا دائمًا، حتى عندما كانت على الصفحة آراء سلبية.
وقالت الصحيفة إنها أرسلت أسئلة مفصلة إلى “OpenAI” بشأن خاصية البحث الخاصة بـ”شات جي بي تي”، لكن الشركة لم ترد على تلك الأسئلة بشكل رسمي بما يسمح باستخدام هذا الرد.
مع تسارع انتشار الذكاء الاصطناعي في مختلف القطاعات، يواجه ملايين العاملين سؤالاً واحداً: هل ستبقى وظائفهم موجودة في المستقبل؟ وبينما بدأت الخوارزميات بالفعل في تغيير طريقة أداء العديد من المهام، يرى خبراء أن بعض المهن ستظل بحاجة إلى العنصر البشري، بل قد تشهد نمواً أكبر خلال السنوات المقبلة. ورغم المخاوف من أن يؤدي الذكاء الاصطناعي [...]
أثارت ميزة جديدة أطلقتها شركة Meta Platforms موجة واسعة من الجدل حول الخصوصية، بعدما كشفت الشركة عن نظامها الجديد لتوليد الصور بالذكاء الاصطناعي، الذي يتيح إنشاء صور جديدة اعتماداً على صور منشورة من حسابات عامة على منصة Instagram. ويأتي النظام الجديد، المعروف باسم "ميوز إيميج (Muse Image)"، ضمن استراتيجية ميتا لتوسيع استخدام الذكاء الاصطناعي داخل [...]
بدأ تطبيق واتساب طرح واحدة من أكثر ميزاته انتظارًا، وهي ميزة أسماء المستخدمين (Usernames)، في خطوة تهدف إلى تعزيز الخصوصية وتغيير طريقة التواصل بين المستخدمين داخل التطبيق. ووفقًا لما أُعلن، أصبح بإمكان بعض المستخدمين حجز اسم مستخدم خاص بهم، تمهيدًا لإطلاق الميزة تدريجيًا على نطاق أوسع خلال الفترة المقبلة، حيث ستتاح لبقية المستخدمين بشكل متتابع [...]
كشفت تقارير صحفية أن الإدارة الأمريكية تكثف ضغوطها على شركة “ميتا” من أجل تقديم نماذج الذكاء الاصطناعي الخاصة بها للمراجعة الطوعية، في خطوة تهدف إلى تعزيز الرقابة الحكومية على قطاع الذكاء الاصطناعي المتسارع النمو. ووفق ما نقلته صحيفة “نيويورك تايمز” عن مصادر مطلعة، فإن الطلب الأمريكي تم توجيهه عبر رسائل بريد إلكتروني إلى الشركة، في [...]
في خطوة مثيرة للجدل داخل الأوساط التعليمية والرقمية، أعادت الهند فتح ملف تسريب امتحانات الطب من جديد، بعد قرار حكومي بحظر تطبيق “تلغرام” مؤقتًا قبيل إعادة امتحان “نيت” الطبي، الذي يُعد من أكبر وأهم الاختبارات في البلاد ويتقدم له ملايين الطلاب سنويًا. السلطات الهندية بررت القرار بأنه إجراء احترازي يهدف إلى حماية نزاهة الامتحان، بعد [...]
كشفت تحقيقات صحفية عن وجود ثغرة في أحدث نسخة من نموذج الذكاء الاصطناعي ChatGPT، تتيح إمكانية توليد صور ذات طابع جنسي أو مشاهد عنف شديد عبر تعليمات بسيطة وغير مباشرة، وذلك وفق ما أفاد به باحثون في الأمن السيبراني. وجاءت هذه النتائج في تقرير مشترك مع هيئة الإذاعة البريطانية BBC. وأفاد باحثون من شركة الأمن [...]
