خلال العقود الأخيرة شهد العالم تطوُّراً متسارعاً في تقنيات الذكاء الاصطناعي حتى تحوَّلت هذه التقنيات إلى جزء أساسي من الحياة اليومية والاقتصاد والإدارة والتعليم والصحة والإعلام. ويُنظر إلى الذكاء الاصطناعي بوصفه أحد أهم الابتكارات القادرة على إحداث تحولات جذرية في المجتمعات البشرية، لما يُتيحه من إمكانات كبرى في تحليل البيانات واتخاذ القرارات وتحسين الكفاءة والإنتاجية. غير أن هذا التقدّم التقني يُثير في الوقت نفسه تساؤلات أخلاقية واجتماعية عميقة، بخاصة في ما يتعلق بقضايا العدالة والمساواة بين الجنسين في شتى أنحاء العالم.
في بدايات الثورة الرقمية ساد اعتقاد بأن التكنولوجيا تتمتّع بالحياد التام، وبأن الأنظمة الحاسوبية تعتمد الحسابات والمنطق العقلاني بعيداً من التحيُّزات البشرية. إلا أن التجارب والدراسات الحديثة كشفت أن الذكاء الاصطناعي ليس بمنأى عن التأثر بالبنى الاجتماعية والثقافية السائدة، بل قد يسهم أحياناً في إعادة إنتاج أشكال التمييز الموجودة في المجتمع، بما في ذلك التمييز ضد النساء. ويبرز هذا الإشكال بصورة خاصة عندما تعتمد الأنظمة الذكية على بيانات تاريخية تعكس اختلالات قائمة في سوق العمل أو التعليم أو التمثيل السياسي أو الإعلامي. ففي هذه الحالة قد تتعلَّم الخوارزميات أنماطاً تمييزية وتعيد تطبيقها بصورة آلية، ما يؤدي إلى تكريس الفجوات الجندرية بدلاً من تقليصها. كما أن ضعف تمثيل النساء في قطاع التكنولوجيا وفي فِرَقِ تطوير الذكاء الاصطناعي يزيد من احتمال تجاهُل احتياجات النساء وتجاربهن الحياتية عند تصميم الأنظمة الرقمية الحديثة. ومن هنا تبرز أهميّة دراسة العلاقة بين المرأة والذكاء الاصطناعي، والبحث في مدى قدرة التكنولوجيا على تحقيق المساواة أو على العكس إعادة إنتاج التمييز القائم.
الذكاء الاصطناعي وعلاقته بالمجتمع
يُشير الذكاءُ الاصطناعي إلى مجموعة من الأنظمة والبرامج القادرة على مُحاكاة بعض القدرات الذهنية البشرية مثل التعلُّم والاستدلال واتّخاذ القرار والتعرُّف إلى الأنماط. وقد توسَّعت تطبيقاته لتشملَ مجالاتٍ عدّة، مثل: الرعاية الصحيّة، التعليم، التجارة الإلكترونية، الأمن، التوظيف، الخدمات المصرفيّة، الإعلام والترفيه.
لا يعمل الذكاء الاصطناعي في فراغ، بل يَعتمد على البيانات التي يُنتجها البشر وعلى القيَم التي يَضعها المصمّمون والمُبرمجون. لذلك يرى عُلماء الاجتماع أنّ التكنولوجيا هي نتاج اجتماعي وثقافي بقدر ما هي نتاج تقني.
وتؤكّد الدراسات الحديثة أن الأنظمة الذكية قد تَعكس التفاوتات الموجودة في المُجتمع إذا لم تُصمَّم وفق معايير العدالة والمساواة. فالخوارزمية تتعلم من البيانات المتاحة لها، وإذا كانت هذه البيانات متحيزة، فإن النتائج ستكون متحيّزة أيضاً.
التمييز الجندري في العصر الرقمي
يُقصد بالتمييز الجندري المعاملة غير المتساوية للأفراد على أساس الجنس أو النَّوع الاجتماعي، بما يؤدي إلى حرمان فئة معينة من الفُرص أو الحقوق أو الموارد. وفي البيئة الرقمية يُمكن أن يتّخذ التمييز أشكالاً متعددة، منها: التحيُّز في الخوارزميات؛ ضعف تمثيل النساء في البيانات؛ الصور النمطيّة في التطبيقات الذكيّة؛ التمييز في أنظمة التوظيف الآليّة؛ العنف والتحرُّش الإلكتروني؛ الفجوة الرقميّة بين الجنسين.
ومع انتقال العديد من القرارات البشريّة إلى الأنظمة الذكيّة، أصبحتْ هذه الأشكال من التمييز أكثر تعقيداً وأقلّ وضوحاً، لأنّ القرارات تبدو وكأنّها صادرة عن آلةٍ مُحايدة، بينما هي في الواقع نتاج بيانات وتصوّرات بشريّة سابقة. لكن كيف يُعيد الذكاءُ الاصطناعي إنتاجَ التمييز ضدّ المرأة؟
تُعَدّ البيانات المادة الأساسية التي تعتمد عليها أنظمة الذكاء الاصطناعي. وإذا كانت هذه البيانات تَعكس تمييزاً تاريخيّاً ضدّ النساء، فإنّ النظام سيتعلَّم هذا التمييز. فعلى سبيل المثال، إذا دُرِّب نظامُ توظيفٍ على بياناتٍ سابقة تُظهر أنّ معظم الموظّفين النّاجحين كانوا رجالاً، فقد يَستنتج أنّ الذكور أكثر ملاءمة للوظائف المطلوبة، حتّى لو لم يُبرمَج صراحةً على التمييز. ويُطلِق الباحثون على هذه الظاهرة اسم «التحيُّز الخوارزمي»، حيث تُعيد الخوارزميّة إنتاجَ الأنماط الموجودة في البيانات التاريخيّة.
ثمّة أيضاً التحيُّز في أنظمة التوظيف، بحيث باتَ العديدُ من الشركات يَستخدم الذكاء الاصطناعي لفرْزِ السير الذاتيّة واختيار المرشّحين للوظائف. غير أنّ بعض الأنظمة أَظهرت مَيْلاً إلى تفضيل الرجال على النساء. ويَرجع ذلك إلى أنّ الخوارزميّة تتعلّم من قرارات التوظيف السابقة. فإذا كانت المؤسَّسة قد وظَّفت رجالاً أكثر من النساء خلال سنواتٍ طويلة، فإنّ النظام قد يَعتبر الذكور الأنموذج المثالي للنجاح الوظيفي. وقد أثارت إحدى التجارب الشهيرة جَدَلاً واسعاً عندما تبيَّن أنّ نظاماً آليّاً للتوظيف خفضَ تقييم السير الذاتيّة التي تحتوي على مؤشرات تدل على أن المتقدمة امرأة، مثل عضوية أندية نسائيّة أو المُشارَكة في أنشطة مُخصَّصة للنساء.
من ناحيةٍ أخرى، ثمّة التحيُّز في تقنيّات التعرُّف إلى الوجه؛ حيث أَظهرت أبحاثٌ عديدة أنّ بعض أنظمة التعرُّف إلى الوجه تُحقِّق دقّةً عالية في التعرُّف إلى الرجال مُقارَنةً بالنساء، خاصّة النساء ذوات البشرة الداكنة. ويعود ذلك غالباً إلى عدم التوازُن في قواعد البيانات المُستخدَمة للتدريب، والتي تَضمّ صوراً أكثر للرجال أو للأشخاص من مجموعات عرقيّة معيّنة. وينتج عن هذا الخَلل أخطاءٌ قد تؤثِّر على فُرص العمل أو الخدمات أو حتّى الإجراءات الأمنيّة والقانونيّة. أمّا عن المساعدات الصوتيّة والصور النمطيّة، فيُلاحَظ أنّ معظم المساعِدات الرقميّة تَستخدم أصواتاً نسائيّة.
تَستخدم معظم المُساعِدات الرقميّة أصواتاً نسائيّة، مثل المُساعِدات الموجودة في الهواتف الذكيّة والأجهزة المنزليّة. ويرى بعض الباحثين أنّ هذا الاختيار ليس مُحايداً، بل يَعكس صورة نمطيّة تربط المرأة بأدوار الخدمة والمساعدة والطاعة. كما أنّ طريقة تصميم بعض المُساعِدات الذكيّة قد تُشجِّع على التعامل معها بأسلوب يَحمل أبعاداً تمييزيّة أو مهينة للمرأة. وبالتالي يُمكن للتكنولوجيا أن تُسهم بصورة غير مباشرة في ترسيخ الصور التقليديّة المرتبطة بالنّوع الاجتماعي.
في المقابل، تُظهر بعض تطبيقات الترجمة الآليّة تحيُّزات جندريّة عند ترجمة الجُمل من لغاتٍ لا تُميِّز بين الجنسَيْن إلى لغاتٍ أخرى. فقد تميل الخوارزميّات إلى ترجمة المِهن العلميّة أو القياديّة بصيغة المذكّر، بينما تُترجَم المِهن المرتبطة بالرعاية أو التعليم بصيغة المؤنّث؛ ما يَعكس الأنماطَ الاجتماعيّة الموجودة في البيانات النصيّة المُستخدَمة لتدريب النماذج اللغوية.
أسباب استمرار التحيُّز ضدّ المرأة في الذكاء الاصطناعي ،من تلك الأسباب نذكر:
ضعف تمثيل النساء في قطاع التكنولوجيا: بحيث تُشير تقارير دوليّة عديدة إلى أنّ النساء ما زلْنَ أقلّ تمثيلاً في مجالات البرْمجة والهندسة وعلوم الحاسوب مُقارَنةً بالرجال. ويؤدّي هذا النقص إلى غياب وجهات نظر متنوّعة في أثناء تصميم الأنظمة الذكيّة، ما يزيد من احتمال تجاهُل المشكلات التي تواجه النساء.
التحيُّزات الاجتماعية الموروثة: تَعتمد الخوارزميات على بيانات أَنتجها البشر. وبما أنّ المجتمعات تتضمَّن أشكالاً مختلفة من التمييز، فإنّ هذه التحيُّزات تنتقل إلى البيانات ومن ثمّ إلى الأنظمة الذكيّة. وبذلك يُصبح الذكاء الاصطناعي انعكاساً للواقع الاجتماعي بدلاً من أن يكون أداةً لتغييره.
نقْص الشفافيّة: تتميّز بعض أنظمة الذكاء الاصطناعي بالتعقيد الشديد، ما يَجعل من الصعب معرفة كيفيّة اتّخاذ القرارات. وعندما تَظهر نتائج تمييزيّة، يُصبح من الصعب تحديد مصدر الخطأ أو محاسبة الجهات المسؤولة عنه.
غياب الأُطر التنظيمية الكافية: لا تزال التشريعات المتعلّقة بالذكاء الاصطناعي في مراحل التطوُّر في كثير من الدول. وفي ظلّ غياب الرقابة القانونية الصارمة قد تَستمرّ الأنظمة المتحيّزة في العمل من دون تقييم كافٍ لتأثيرها على النساء والفئات المهمَّشة.
ولا بدّ من الإشارة إلى ما للتمييز الخوارزميّ على النساء من آثارٍ سلبيّة نذكر منها: ضعف تمثيل النساء في قطاع التكنولوجيا؛ التأثير على فُرص العمل، إذ يُمكن أن تؤدّي الخوارزميات المُتحيِّزة إلى تقليل فُرص النساء في الحصول على وظائف أو ترقيات، بخاصة في القطاعات التقنية والعِلميّة؛ ناهيك بالتأثير الاقتصادي، ولاسيّما عندما تُواجه النساء عقبات رقميّة في التوظيف أو التمويل أو الوصول إلى الخدمات، بما ينعكس على مشاركتهنّ الاقتصاديّة ويَزيد من الفجوة في الدخل. وهذا من دون تجاهُل التأثير النفسي والاجتماعي النّاجم عن التمييز الرقمي والمُفضي إلى شعور النساء بالإقصاء أو التهميش، وإضعاف ثقتهنّ بالمؤسّسات والتقنيّات الحديثة؛ وكذلك تكريس الصور النمطيّة عَبر إعادة إنتاج التصوُّرات التقليديّة حول أدوار النساء والرجال، الأمر الذي يُعيق التقدُّم نحو المساواة.
الذكاء الاصطناعيّ كأداةٍ لتمكين المرأة.
على الرّغم من المخاطر السابقة، لا يُمكن اختزال الذكاء الاصطناعي في كونه أداةً للتمييز، إذ يَمتلك إمكاناتٍ كبيرةً لدعْم النساء وتمكينهنّ، عَبر:
تعزيز فُرص التعليم نتيجة توافُر المنصّات الذكيّة وما تتيحه من فُرصٍ تعليميّة واسعة للنساء في مختلف أنحاء العالَم، بخاصّة في المناطق التي تعاني من محدوديّة الوصول إلى التعليم التقليدي.
دعْم ريادة الأعمال النسائيّة، بحيث تُساعد تطبيقات الذكاء الاصطناعي صاحبات المشروعات على تحليل الأسواق وإدارة الأعمال والتسويق الرقمي بكفاءةٍ أكبر.
تحسين الخدمات الصحيّة، إذ يُسهم الذكاءُ الاصطناعي في تطوير التشخيص الطبّي والكشْف المبكّر عن الأمراض وتقديم خدمات صحيّة أكثر دقّة للنساء.
مُكافحة العنف الإلكتروني النّاتج عن استخدام تقنيّات الذكاء الاصطناعي لرصْد خطاب الكراهية والتحرُّش الإلكتروني والإبلاغ عنه والحدّ من انتشاره.
وعليه، أدركت المؤسّساتُ الدوليّة خطورةَ التحيُّز الخوارزمي، ولذلك أَطلقت العديد من المُبادرات لمعالجة هذه المشكلة. ومن أبرز هذه الجهود: مبادرات منظّمة الأمم المتّحدة، برامج منظّمة اليونسكو لأخلاقيّات الذكاء الاصطناعي، توصيات منظّمة التعاون الاقتصادي والتنمية، سياسات الاتّحاد الأوروبي المتعلّقة بالذكاء الاصطناعي المسؤول، برامج تشجيع مُشارَكة النساء في مجالات العلوم والتكنولوجيا والهندسة والرياضيّات..إلخ، وهي مبادرات تُركِّز على زيادة تمثيل النساء في قطاع التكنولوجيا، وتطوير بيانات أكثر تنوّعاً وشمولاً، وضمان الشفافيّة والمُساءلة، وتقييم أثر الأنظمة الذكيّة على المُساواة بين الجنسَيْن، ووضْعِ أُطرٍ قانونيّة وأخلاقيّة للذكاء الاصطناعي.
في المحصّلة، لا بدّ من الإقرار بأنّ الذكاءَ الاصطناعي أصبح قوّة مؤثّرة في مختلف جوانب الحياة المُعاصرة، وأنّه ينطوي على إمكاناتٍ كبيرة لتحسين حياة البشر وتعزيز التنمية. غير أنّ هذه التكنولوجيا ليست مُحايِدة بالكامل، إذ يُمكن أن تَعكس التحيُّزات الاجتماعيّة والثقافيّة السائدة في المجتمعات التي تُنتجها وتَستخدمها. فقد أظهر العديد من تطبيقات الذكاء الاصطناعي أشكالاً مختلفة من التحيُّز الجندري، لكنّ ذلك لا يحجب واقع أنّ هذا الذكاء الاصطناعي يُمكن أن يكون وسيلة فعّالة لتمكين النساء وتعزيز مشاركتهنّ الاقتصادية والتعليمية والاجتماعية إذا ما تمَّ تطويره وفق مبادئ العدالة والشمول. وبالتالي، يَعتمد مستقبلُ العلاقة بين المرأة والذكاء الاصطناعي على قدرة الحكومات والشركات والمؤسّسات الأكاديميّة والمُجتمع المدني على بناء أنظمة رقميّة تُراعي حقوق الإنسان وتَضمن المُساواة بين الجنسَيْن. فالتحدّي الحقيقي لا يكمن في التكنولوجيا ذاتها، بل في القيَم والمعايير التي تُوجِّه تصميمَها واستخدامَها.
*كاتبة وروائية من ليبيا
*ينشر بالتزامن مع دورية أفق الصادرة عن مؤسسة الفكر العربي.
في بدايات الثورة الرقمية ساد اعتقاد بأن التكنولوجيا تتمتّع بالحياد التام، وبأن الأنظمة الحاسوبية تعتمد الحسابات والمنطق العقلاني بعيداً من التحيُّزات البشرية. إلا أن التجارب والدراسات الحديثة كشفت أن الذكاء الاصطناعي ليس بمنأى عن التأثر بالبنى الاجتماعية والثقافية السائدة، بل قد يسهم أحياناً في إعادة إنتاج أشكال التمييز الموجودة في المجتمع، بما في ذلك التمييز ضد النساء. ويبرز هذا الإشكال بصورة خاصة عندما تعتمد الأنظمة الذكية على بيانات تاريخية تعكس اختلالات قائمة في سوق العمل أو التعليم أو التمثيل السياسي أو الإعلامي. ففي هذه الحالة قد تتعلَّم الخوارزميات أنماطاً تمييزية وتعيد تطبيقها بصورة آلية، ما يؤدي إلى تكريس الفجوات الجندرية بدلاً من تقليصها. كما أن ضعف تمثيل النساء في قطاع التكنولوجيا وفي فِرَقِ تطوير الذكاء الاصطناعي يزيد من احتمال تجاهُل احتياجات النساء وتجاربهن الحياتية عند تصميم الأنظمة الرقمية الحديثة. ومن هنا تبرز أهميّة دراسة العلاقة بين المرأة والذكاء الاصطناعي، والبحث في مدى قدرة التكنولوجيا على تحقيق المساواة أو على العكس إعادة إنتاج التمييز القائم.
الذكاء الاصطناعي وعلاقته بالمجتمع
يُشير الذكاءُ الاصطناعي إلى مجموعة من الأنظمة والبرامج القادرة على مُحاكاة بعض القدرات الذهنية البشرية مثل التعلُّم والاستدلال واتّخاذ القرار والتعرُّف إلى الأنماط. وقد توسَّعت تطبيقاته لتشملَ مجالاتٍ عدّة، مثل: الرعاية الصحيّة، التعليم، التجارة الإلكترونية، الأمن، التوظيف، الخدمات المصرفيّة، الإعلام والترفيه.
لا يعمل الذكاء الاصطناعي في فراغ، بل يَعتمد على البيانات التي يُنتجها البشر وعلى القيَم التي يَضعها المصمّمون والمُبرمجون. لذلك يرى عُلماء الاجتماع أنّ التكنولوجيا هي نتاج اجتماعي وثقافي بقدر ما هي نتاج تقني.
وتؤكّد الدراسات الحديثة أن الأنظمة الذكية قد تَعكس التفاوتات الموجودة في المُجتمع إذا لم تُصمَّم وفق معايير العدالة والمساواة. فالخوارزمية تتعلم من البيانات المتاحة لها، وإذا كانت هذه البيانات متحيزة، فإن النتائج ستكون متحيّزة أيضاً.
التمييز الجندري في العصر الرقمي
يُقصد بالتمييز الجندري المعاملة غير المتساوية للأفراد على أساس الجنس أو النَّوع الاجتماعي، بما يؤدي إلى حرمان فئة معينة من الفُرص أو الحقوق أو الموارد. وفي البيئة الرقمية يُمكن أن يتّخذ التمييز أشكالاً متعددة، منها: التحيُّز في الخوارزميات؛ ضعف تمثيل النساء في البيانات؛ الصور النمطيّة في التطبيقات الذكيّة؛ التمييز في أنظمة التوظيف الآليّة؛ العنف والتحرُّش الإلكتروني؛ الفجوة الرقميّة بين الجنسين.
ومع انتقال العديد من القرارات البشريّة إلى الأنظمة الذكيّة، أصبحتْ هذه الأشكال من التمييز أكثر تعقيداً وأقلّ وضوحاً، لأنّ القرارات تبدو وكأنّها صادرة عن آلةٍ مُحايدة، بينما هي في الواقع نتاج بيانات وتصوّرات بشريّة سابقة. لكن كيف يُعيد الذكاءُ الاصطناعي إنتاجَ التمييز ضدّ المرأة؟
تُعَدّ البيانات المادة الأساسية التي تعتمد عليها أنظمة الذكاء الاصطناعي. وإذا كانت هذه البيانات تَعكس تمييزاً تاريخيّاً ضدّ النساء، فإنّ النظام سيتعلَّم هذا التمييز. فعلى سبيل المثال، إذا دُرِّب نظامُ توظيفٍ على بياناتٍ سابقة تُظهر أنّ معظم الموظّفين النّاجحين كانوا رجالاً، فقد يَستنتج أنّ الذكور أكثر ملاءمة للوظائف المطلوبة، حتّى لو لم يُبرمَج صراحةً على التمييز. ويُطلِق الباحثون على هذه الظاهرة اسم «التحيُّز الخوارزمي»، حيث تُعيد الخوارزميّة إنتاجَ الأنماط الموجودة في البيانات التاريخيّة.
ثمّة أيضاً التحيُّز في أنظمة التوظيف، بحيث باتَ العديدُ من الشركات يَستخدم الذكاء الاصطناعي لفرْزِ السير الذاتيّة واختيار المرشّحين للوظائف. غير أنّ بعض الأنظمة أَظهرت مَيْلاً إلى تفضيل الرجال على النساء. ويَرجع ذلك إلى أنّ الخوارزميّة تتعلّم من قرارات التوظيف السابقة. فإذا كانت المؤسَّسة قد وظَّفت رجالاً أكثر من النساء خلال سنواتٍ طويلة، فإنّ النظام قد يَعتبر الذكور الأنموذج المثالي للنجاح الوظيفي. وقد أثارت إحدى التجارب الشهيرة جَدَلاً واسعاً عندما تبيَّن أنّ نظاماً آليّاً للتوظيف خفضَ تقييم السير الذاتيّة التي تحتوي على مؤشرات تدل على أن المتقدمة امرأة، مثل عضوية أندية نسائيّة أو المُشارَكة في أنشطة مُخصَّصة للنساء.
من ناحيةٍ أخرى، ثمّة التحيُّز في تقنيّات التعرُّف إلى الوجه؛ حيث أَظهرت أبحاثٌ عديدة أنّ بعض أنظمة التعرُّف إلى الوجه تُحقِّق دقّةً عالية في التعرُّف إلى الرجال مُقارَنةً بالنساء، خاصّة النساء ذوات البشرة الداكنة. ويعود ذلك غالباً إلى عدم التوازُن في قواعد البيانات المُستخدَمة للتدريب، والتي تَضمّ صوراً أكثر للرجال أو للأشخاص من مجموعات عرقيّة معيّنة. وينتج عن هذا الخَلل أخطاءٌ قد تؤثِّر على فُرص العمل أو الخدمات أو حتّى الإجراءات الأمنيّة والقانونيّة. أمّا عن المساعدات الصوتيّة والصور النمطيّة، فيُلاحَظ أنّ معظم المساعِدات الرقميّة تَستخدم أصواتاً نسائيّة.
تَستخدم معظم المُساعِدات الرقميّة أصواتاً نسائيّة، مثل المُساعِدات الموجودة في الهواتف الذكيّة والأجهزة المنزليّة. ويرى بعض الباحثين أنّ هذا الاختيار ليس مُحايداً، بل يَعكس صورة نمطيّة تربط المرأة بأدوار الخدمة والمساعدة والطاعة. كما أنّ طريقة تصميم بعض المُساعِدات الذكيّة قد تُشجِّع على التعامل معها بأسلوب يَحمل أبعاداً تمييزيّة أو مهينة للمرأة. وبالتالي يُمكن للتكنولوجيا أن تُسهم بصورة غير مباشرة في ترسيخ الصور التقليديّة المرتبطة بالنّوع الاجتماعي.
في المقابل، تُظهر بعض تطبيقات الترجمة الآليّة تحيُّزات جندريّة عند ترجمة الجُمل من لغاتٍ لا تُميِّز بين الجنسَيْن إلى لغاتٍ أخرى. فقد تميل الخوارزميّات إلى ترجمة المِهن العلميّة أو القياديّة بصيغة المذكّر، بينما تُترجَم المِهن المرتبطة بالرعاية أو التعليم بصيغة المؤنّث؛ ما يَعكس الأنماطَ الاجتماعيّة الموجودة في البيانات النصيّة المُستخدَمة لتدريب النماذج اللغوية.
أسباب استمرار التحيُّز ضدّ المرأة في الذكاء الاصطناعي ،من تلك الأسباب نذكر:
ضعف تمثيل النساء في قطاع التكنولوجيا: بحيث تُشير تقارير دوليّة عديدة إلى أنّ النساء ما زلْنَ أقلّ تمثيلاً في مجالات البرْمجة والهندسة وعلوم الحاسوب مُقارَنةً بالرجال. ويؤدّي هذا النقص إلى غياب وجهات نظر متنوّعة في أثناء تصميم الأنظمة الذكيّة، ما يزيد من احتمال تجاهُل المشكلات التي تواجه النساء.
التحيُّزات الاجتماعية الموروثة: تَعتمد الخوارزميات على بيانات أَنتجها البشر. وبما أنّ المجتمعات تتضمَّن أشكالاً مختلفة من التمييز، فإنّ هذه التحيُّزات تنتقل إلى البيانات ومن ثمّ إلى الأنظمة الذكيّة. وبذلك يُصبح الذكاء الاصطناعي انعكاساً للواقع الاجتماعي بدلاً من أن يكون أداةً لتغييره.
نقْص الشفافيّة: تتميّز بعض أنظمة الذكاء الاصطناعي بالتعقيد الشديد، ما يَجعل من الصعب معرفة كيفيّة اتّخاذ القرارات. وعندما تَظهر نتائج تمييزيّة، يُصبح من الصعب تحديد مصدر الخطأ أو محاسبة الجهات المسؤولة عنه.
غياب الأُطر التنظيمية الكافية: لا تزال التشريعات المتعلّقة بالذكاء الاصطناعي في مراحل التطوُّر في كثير من الدول. وفي ظلّ غياب الرقابة القانونية الصارمة قد تَستمرّ الأنظمة المتحيّزة في العمل من دون تقييم كافٍ لتأثيرها على النساء والفئات المهمَّشة.
ولا بدّ من الإشارة إلى ما للتمييز الخوارزميّ على النساء من آثارٍ سلبيّة نذكر منها: ضعف تمثيل النساء في قطاع التكنولوجيا؛ التأثير على فُرص العمل، إذ يُمكن أن تؤدّي الخوارزميات المُتحيِّزة إلى تقليل فُرص النساء في الحصول على وظائف أو ترقيات، بخاصة في القطاعات التقنية والعِلميّة؛ ناهيك بالتأثير الاقتصادي، ولاسيّما عندما تُواجه النساء عقبات رقميّة في التوظيف أو التمويل أو الوصول إلى الخدمات، بما ينعكس على مشاركتهنّ الاقتصاديّة ويَزيد من الفجوة في الدخل. وهذا من دون تجاهُل التأثير النفسي والاجتماعي النّاجم عن التمييز الرقمي والمُفضي إلى شعور النساء بالإقصاء أو التهميش، وإضعاف ثقتهنّ بالمؤسّسات والتقنيّات الحديثة؛ وكذلك تكريس الصور النمطيّة عَبر إعادة إنتاج التصوُّرات التقليديّة حول أدوار النساء والرجال، الأمر الذي يُعيق التقدُّم نحو المساواة.
الذكاء الاصطناعيّ كأداةٍ لتمكين المرأة.
على الرّغم من المخاطر السابقة، لا يُمكن اختزال الذكاء الاصطناعي في كونه أداةً للتمييز، إذ يَمتلك إمكاناتٍ كبيرةً لدعْم النساء وتمكينهنّ، عَبر:
تعزيز فُرص التعليم نتيجة توافُر المنصّات الذكيّة وما تتيحه من فُرصٍ تعليميّة واسعة للنساء في مختلف أنحاء العالَم، بخاصّة في المناطق التي تعاني من محدوديّة الوصول إلى التعليم التقليدي.
دعْم ريادة الأعمال النسائيّة، بحيث تُساعد تطبيقات الذكاء الاصطناعي صاحبات المشروعات على تحليل الأسواق وإدارة الأعمال والتسويق الرقمي بكفاءةٍ أكبر.
تحسين الخدمات الصحيّة، إذ يُسهم الذكاءُ الاصطناعي في تطوير التشخيص الطبّي والكشْف المبكّر عن الأمراض وتقديم خدمات صحيّة أكثر دقّة للنساء.
مُكافحة العنف الإلكتروني النّاتج عن استخدام تقنيّات الذكاء الاصطناعي لرصْد خطاب الكراهية والتحرُّش الإلكتروني والإبلاغ عنه والحدّ من انتشاره.
وعليه، أدركت المؤسّساتُ الدوليّة خطورةَ التحيُّز الخوارزمي، ولذلك أَطلقت العديد من المُبادرات لمعالجة هذه المشكلة. ومن أبرز هذه الجهود: مبادرات منظّمة الأمم المتّحدة، برامج منظّمة اليونسكو لأخلاقيّات الذكاء الاصطناعي، توصيات منظّمة التعاون الاقتصادي والتنمية، سياسات الاتّحاد الأوروبي المتعلّقة بالذكاء الاصطناعي المسؤول، برامج تشجيع مُشارَكة النساء في مجالات العلوم والتكنولوجيا والهندسة والرياضيّات..إلخ، وهي مبادرات تُركِّز على زيادة تمثيل النساء في قطاع التكنولوجيا، وتطوير بيانات أكثر تنوّعاً وشمولاً، وضمان الشفافيّة والمُساءلة، وتقييم أثر الأنظمة الذكيّة على المُساواة بين الجنسَيْن، ووضْعِ أُطرٍ قانونيّة وأخلاقيّة للذكاء الاصطناعي.
في المحصّلة، لا بدّ من الإقرار بأنّ الذكاءَ الاصطناعي أصبح قوّة مؤثّرة في مختلف جوانب الحياة المُعاصرة، وأنّه ينطوي على إمكاناتٍ كبيرة لتحسين حياة البشر وتعزيز التنمية. غير أنّ هذه التكنولوجيا ليست مُحايِدة بالكامل، إذ يُمكن أن تَعكس التحيُّزات الاجتماعيّة والثقافيّة السائدة في المجتمعات التي تُنتجها وتَستخدمها. فقد أظهر العديد من تطبيقات الذكاء الاصطناعي أشكالاً مختلفة من التحيُّز الجندري، لكنّ ذلك لا يحجب واقع أنّ هذا الذكاء الاصطناعي يُمكن أن يكون وسيلة فعّالة لتمكين النساء وتعزيز مشاركتهنّ الاقتصادية والتعليمية والاجتماعية إذا ما تمَّ تطويره وفق مبادئ العدالة والشمول. وبالتالي، يَعتمد مستقبلُ العلاقة بين المرأة والذكاء الاصطناعي على قدرة الحكومات والشركات والمؤسّسات الأكاديميّة والمُجتمع المدني على بناء أنظمة رقميّة تُراعي حقوق الإنسان وتَضمن المُساواة بين الجنسَيْن. فالتحدّي الحقيقي لا يكمن في التكنولوجيا ذاتها، بل في القيَم والمعايير التي تُوجِّه تصميمَها واستخدامَها.
*كاتبة وروائية من ليبيا
*ينشر بالتزامن مع دورية أفق الصادرة عن مؤسسة الفكر العربي.
