هل الذكاء الاصطناعي متحيز جنسيًا؟

(اليوم ميديا)

أصبح الذكاء الاصطناعي سمةً من سمات الحياة اليومية بشكلٍ متزايد. لكن مع نماذجه التي تعتمد على بياناتٍ قديمةٍ في كثيرٍ من الأحيان، واستمرار هيمنة الباحثين الذكور على هذا المجال، ومع تنامي تأثيره على المجتمع، فإنه يُرسّخ أيضًا الصور النمطية الجنسية.

عندما يتم تقديم طلبات مثل “إنشاء صورة لشخص يدير شركة” أو “شخص يدير مطعمًا كبيرًا” أو “شخص يعمل في مجال الطب”، فإن ما يظهر في كل مرة هو صورة رجل أبيض.

وعندما طُلب من هذه البرامج توليد صورة “شخص يعمل كممرض” أو “عامل منزلي” أو “مساعد منزلي”، كانت هذه الصور لنساء.

في إطار دراسة أجرتها اليونسكو ونُشرت العام الماضي، طلب باحثون من منصات ذكاء اصطناعي توليدي مختلفة كتابة قصص تتناول شخصيات من أجناس وتوجهات جنسية وأصول مختلفة. أظهرت النتائج أن القصص التي تتناول “أشخاصًا من ثقافات أقليات أو نساءً كانت غالبًا أكثر تكرارًا وتستند إلى صور نمطية”.

وأظهر التقرير ميلاً إلى إسناد وظائف أكثر هيبة واحترافية للرجال – مثل التدريس أو الطبيب على سبيل المثال – بينما غالباً ما يتم تهميش النساء إلى أدوار تقليدية أقل قيمة أو أكثر إثارة للجدل، مثل العمل المنزلي أو الطهي أو البغاء.

تميل أنماط اللغة الواسعة التي تستخدمها أدوات نموذج اللغة الكبير (LLM) أيضًا إلى ربط الأسماء الأنثوية بكلمات مثل “المنزل” أو “العائلة” أو “الأطفال”، بينما ترتبط الأسماء الذكورية بشكل أوثق بكلمات “الأعمال” و”الراتب” و”المهنة”.

وحذرت اليونسكو في بيان صحفي من أن هذه النماذج “تظهر تحيزًا واضحًا ضد المرأة”.

وقال توفيق الجلاصي، المدير العام المساعد لليونسكو للاتصالات والمعلومات، إن “التمييز في العالم الحقيقي لا ينعكس في المجال الرقمي فحسب، بل يتضخم هناك أيضاً”.

مرآة المجتمع

ولإنشاء المحتوى، يتم “تدريب الذكاء الاصطناعي التوليدي على مليارات المستندات المنتجة في وقت معين”، كما أوضحت جوستين كاسيل، مديرة الأبحاث في المعهد الوطني الفرنسي للأبحاث في العلوم والتكنولوجيا الرقمية (إينريا)، وفق ما نقلته إذاعة فرنسا الدولية.

وأوضحت أن مثل هذه الوثائق، اعتمادًا على وقت إنتاجها، غالبًا ما تحتوي على صور نمطية قديمة وتمييزية، ونتيجة لذلك، يقوم الذكاء الاصطناعي المدرب عليها بنقل هذه الصور النمطية وتكرارها.

وهذا هو الحال بالنسبة لمولدات الصور والنصوص، ولكن أيضا بالنسبة لبرامج التعرف على الوجه، التي تتغذى على ملايين الصور الموجودة.

في عام 2019، حذرت وكالة فيدرالية أمريكية من أن بعض أنظمة التعرف على الوجه تواجه صعوبة في تحديد هوية النساء بشكل صحيح، وخاصة من أصل أفريقي أميركي – وهو ما له عواقب على السلامة العامة وإنفاذ القانون والحريات الفردية.

وهذه أيضًا مشكلة في عالم العمل، حيث يستخدم مديرو الموارد البشرية الذكاء الاصطناعي بشكل متزايد للمساعدة في التوظيف.

في عام ٢٠١٨، أفادت وكالة رويترز للأنباء أن أمازون اضطرت إلى التخلي عن أداة توظيف تعتمد على الذكاء الاصطناعي. والسبب؟ لم يُقيّم النظام المرشحين بشكل محايد جنسانيًا، إذ كان يعتمد على بيانات مُجمعة من السير الذاتية المُقدمة للشركة، ومعظمها من رجال. وهذا ما دفع الشركة إلى رفض مُتقدمات.

تنويع البيانات

الذكاء الاصطناعي هو في المقام الأول مسألة بيانات. وإذا كانت هذه البيانات ناقصة أو لا تمثل إلا فئة واحدة من الناس، أو إذا كانت تحتوي على تحيز واعي أو غير واعي، فستظل برامج الذكاء الاصطناعي تستخدمها وتبثها على نطاق واسع.

وقالت زينيا ديل فيلار، مديرة البيانات والتكنولوجيا والابتكار في مؤسسة أبحاث تحالف البيانات والسكان : “من الأهمية بمكان أن تكون البيانات المستخدمة في تشغيل الأنظمة متنوعة وتمثل جميع الجنسين والأعراق والمجتمعات”، وفق ما نقلته إذاعة فرنسا الدولية.

وفي مقابلة مع وكالة الأمم المتحدة للمرأة ، أوضحت ديل فيلار: “من الضروري اختيار البيانات التي تعكس الخلفيات الاجتماعية والثقافات والأدوار المختلفة، مع القضاء على التحيزات التاريخية، مثل تلك التي تربط بعض الوظائف أو السمات الشخصية بجنس واحد”.

ووفقاً لكاسيل من إنريا، فإن إحدى المشكلات الأساسية هي أن “معظم المطورين اليوم ما زالوا من الرجال البيض في الغالب، والذين قد لا يكونون حساسين لوجود التحيز”.

نقص تمثيل المرأة

ووفقا للمنتدى الاقتصادي العالمي، تشكل النساء حاليا 22 في المائة فقط من الأشخاص العاملين في مجال الذكاء الاصطناعي في جميع أنحاء العالم.

يكشف مقياس الذكاء الاصطناعي الأوروبي، الذي أجرته منظمة “جوين فورسز آند دير” (JFD – المعروفة سابقًا باسم يوم المرأة الرقمي)، أن الشركات التي شملها الاستطلاع والتي تضم مديرًا متخصصًا في الذكاء الاصطناعي في لجنتها التنفيذية، لا تتجاوز نسبة النساء فيها 29%. عالميًا، تُمثل النساء 12% من الباحثين في مجال الذكاء الاصطناعي.

ويحذر التقرير من أن “الافتقار إلى التنوع في تطوير الذكاء الاصطناعي يعزز التحيزات ويديم الصور النمطية ويبطئ الابتكار”.