ما هو تحيّز الذكاء الاصطناعي وكيف يدخل إلى النظام؟

في أبسط تعريف، يحدث التحيّز عندما يولد نظام ذكاء اصطناعي نتائج مختلفة ومنهجية وقد تكون ضارة لبعض الأفراد أو الجماعات.

بالطبع كل اختلاف بين مخرجات نموذج لا يعني بالضرورة تمييزاً. أحياناً ينتج اختلاف النتائج عن فروق حقيقية في البيانات؛ وأحياناً قد يكون مقياس إحصائي مناسباً لتطبيق ما لكنه غير مناسب لتطبيق آخر. لذلك، يتطلب تشخيص التحيّز فحصاً دقيقاً للبيانات وهدف النظام وطريقة التقييم والتبعات العملية للقرارات.

أحد المفاهيم الخاطئة هو الاعتقاد بأنه بما أن النموذج يستخدم صيغاً رياضية فإن نتيجته بالضرورة موضوعية ومحايدة. يمكن للرياضيات أن تجعل اتخاذ القرار أكثر انتظاماً، لكنها لا تضمن أن تكون المسألة التي عُرِّفَت للنموذج أو البيانات المتاحة له محايدة.

من أين يدخل التحيّز إلى نظام الذكاء الاصطناعي؟

قد يتكوّن التحيّز في أي مرحلة من دورة حياة النظام؛ من اختيار المشكلة وجمع البيانات إلى تدريب النموذج وتقييمه وحتى طريقة استخدام البشر للمخرجات.

1. التحيّز في بيانات التدريب

نماذج التعلم الآلي تتعلّم من الأنماط الموجودة في البيانات. إذا لم تكن البيانات ممثلة بشكل مناسب للمجتمع أو البيئة الحقيقية، فقد يكون أداء النموذج متفاوتاً بين مجموعات مختلفة.

على سبيل المثال، إذا تدرب نظام التعرف على الصور على مجموعة تحتوي تمثيلاً أقل لبعض الفئات السكانية، فقد يكون أداؤه أضعف في التعرف على أعضاء تلك الفئات.

المشكلة ليست فقط ندرة البيانات. قد تؤثر جودة البيانات المنخفضة، ووضع العلامات الخاطئة، وقديمة المعلومات، وحتى طريقة تعريف المتغيرات في النتيجة.

2. التحيّز في اختيار العيّنة

أحياناً تبدأ المشكلة من تحديد من الذي يُدرَج في مجموعة البيانات أصلاً. إذا سجل استبيان عبر الإنترنت إجابات الأشخاص الذين لديهم وصول مناسب إلى الإنترنت فقط، فلا يمكن اعتبار نتائجه ممثِّلة للمجتمع بأكمله من دون مزيد من الفحص. في أنظمة الذكاء الاصطناعي أيضاً، قد تبني البيانات التي تمثل بعض المجموعات أقل أو أكثر مما هي عليه في الواقع صورة ناقصة للمجتمع.

3. التحيّز في تصميم الهدف

حتى إن كانت البيانات مناسبة، قد يغيّر اختيار الهدف الذي يجب أن يحسّنه النموذج النتيجة.

تخيّل شركة تريد بناء نظام لاختيار الموظفين وتطلب من النموذج إيجاد الأشخاص «المشابهين للموظفين الناجحين السابقين». إذا لم تكن تركيبة القوى العاملة في الماضي متوازنة، قد يدفع مثل هذا المعيار النموذج لإعادة إنتاج نفس الأنماط.

في هذه الحالة، المشكلة ليست بالضرورة في سطر برمجي محدد؛ فقد تبدأ المشكلة من تعريف «النجاح» وتحويله إلى مقياس حسابي.

عندما يدخل الماضي إلى الخوارزمية

أحد أمثلة التحيّز المعروفة في التوظيف يرتبط بنظام تجريبي لدى أمازون. وفقاً لتقرير رويترز عام 2018، أنشأت الشركة أداة لمراجعة السير الذاتية رتّب المرشحين باستخدام بيانات المتقدمين في السنوات السابقة. أظهر الاختبار أن النظام تعامل بشكل غير ملائم مع السير التي دلّت على أن المتقدم امرأة؛ وهي مسألة نُسبت إلى الأنماط الموجودة في البيانات التاريخية. في النهاية أوقفت أمازون هذا المشروع.

تبيّن هذه الحالة نقطة هامة: النموذج الذي يستخدم الماضي للتنبؤ بالمستقبل قد لا يتعلم أنماط النجاح فحسب؛ بل قد يعيد إنتاج جزء من عدم المساواة في الماضي.

التحيّز في البنوك وتقييم الائتمان

القطاع المالي مجال آخر حيث للقرارات الخوارزمية تبعات جدية. قد تستخدم أنظمة تقييم الائتمان معلومات متنوعة لتقدير احتمال سداد القرض. لكن إذا كانت المتغيرات المختارة أو البيانات التاريخية مختلطة بظروف اجتماعية واقتصادية معينة، فربما تنشأ فروق غير مبرّرة بين مجموعات مختلفة.

لذلك، لا يكفي فحص «الدقة العامة» للنموذج. يجب السؤال عن أي المجموعات تحقّق تلك الدقة وما هي معدلات الخطأ لكل مجموعة.

عندما تدخل الخوارزمية إلى النظام القضائي

من أكثر أمثلة التحيّز الخوارزمي إثارة للجدل أدوات تقييم خطر تكرار الجريمة. في 2016، نشرت ProPublica بحثاً عن أداة COMPAS في فلوريدا بعد فحص أكثر من 10000 ملف، وأبلغت عن اختلافات في أنواع أخطاء النظام بين المتهمين السود والبيض. على سبيل المثال، في البيانات المفحوصة، صنّف النظام المتهمين السود الذين لم يرتكبوا جريمة لاحقاً كعالي الخطورة تقريباً بمقدار ضعف المتهمين البيض المماثلين. مقابل ذلك، وُضِع متهمون بيض ارتكبوا جرائم لاحقة أكثر في مجموعة منخفضة المخاطر مقارنة بالمتهمين السود.

أظهرت هذه القضية أن نقاش «العدالة الخوارزمية» ليس بسيطاً. قد يُظهر النظام أداءً مماثلاً لفئتين وفق مقياس إحصائي، لكنه يختلف بشكل معنيّ وفق مقياس آخر. لذا، وصف خوارزمية بأنها «دقيقة» وحده لا يكفي لتقييم عدالتها.

هل التحيّز يخص الخوارزميات القديمة فقط؟

مع انتشار نماذج اللغة الكبيرة والذكاء الاصطناعي التوليدي، اتسعت مشكلة التحيّز بصور جديدة. تتعلم نماذج اللغة من كميات هائلة من النصوص والبيانات البشرية وقد تعكس الصور النمطية الموجودة في هذه البيانات.

يشير تقرير مؤشر الذكاء الاصطناعي لستانفورد في 2025 أيضاً إلى أبحاث تظهر أن حتى النماذج المصممة لتقليل التحيّز قد تستمر في إظهار أنماط متحيّزة ضمنية في اختبارات معينة؛ بما في ذلك ارتباطات نمطية بين الجنس والمهنة وبعض الجماعات الاجتماعية.

هذا لا يعني أن كل إجابة لنموذج لغوي بالضرورة متحيّزة؛ بل يشير إلى أن التقييم والاختبار المستمرين لهذه الأنظمة ضروريان.

كيف يمكن تقليل تحيّز الذكاء الاصطناعي؟

لا توجد حلّة سحرية واحدة لإزالة التحيّز تماماً، لكن يمكن تقليص مخاطره بإجراءات معينة.

افحص البيانات قبل التدريب

أحد الخطوات الأولى هو فحص جودة البيانات وتمثيلها وبنيتها. يجب على المطورين معرفة مصدر البيانات، وما المجموعات التي تغطيها، وما المجموعات التي تظهر أقل، وما الأخطاء المحتملة عند وسمها.

قِس أداء النموذج للمجموعات المختلفة

قد يعطي متوسط دقة النموذج صورة ناقصة. إذا كان الأمر مرتبطاً بتطبيق عملي، يجب فحص مؤشرات مثل معدل الإيجابيات الكاذبة والسلبيات الكاذبة ومعايير الأداء الأخرى لكل مجموعة.

لا تستبعد العنصر البشري من العملية

في القرارات الحساسة، قد يكون الاعتماد على مخرجات الخوارزمية كحقيقة نهائية أمراً خطيراً. في كثير من التطبيقات عالية المخاطر، يجب أن تكون مخرجات الذكاء الاصطناعي إحدى مدخلات القرار البشري، لا بديلاً كاملاً عن الحكم البشري.

مع ذلك، فإن «الإشراف البشري» وحده لا يكفي. إذا كان صانع القرار يوافق دون تدقيق على كل مخرجات الخوارزمية، فوجود الإنسان عملياً لا يحل المشكلة.

قيّم النموذج بعد النشر أيضاً

التحيّز لا يهم فقط أثناء بناء النموذج. تتغير بيانات العالم الحقيقي، ويظهر المستخدمون بسلوكيات جديدة، وتظهر ظروف لم تكن موجودة أثناء تدريب النموذج. يؤكد إطار إدارة مخاطر الذكاء الاصطناعي لـ NIST على التقييم والمراقبة والتوثيق المستمر، ويوصي بمتابعة أداء النظام ومخاطره بعد النشر أيضاً.

التحيّز ليس دائماً متعمداً

نقطة مهمة عن تحيّز الذكاء الاصطناعي هي أن خلق نتيجة تمييزية لا يتطلب بالضرورة مبرمجة متحيّزة أو خوارزمية «قصدية» للتمييز.

تطرح NIST ثلاث فئات رئيسية من التحيّز: التحيّز النظامي، والتحيّز الحاسوبي والإحصائي، والتحيّز المعرفي البشري. قد يتشكّل هذا التحيّز حتى دون نية تمييزية.

ببساطة، قد لا يكون أحد قد قرّر تجاهل مجموعة معينة؛ ومع ذلك، يمكن لمزيج من بيانات ناقصة، وهدف غير مناسب، وتصميم خاطئ، وحدود تقنية، وطريقة استخدام مخرجات النموذج أن يؤدي في نهاية المطاف إلى مثل هذه النتيجة.

مستقبل الذكاء الاصطناعي؛ الحياد أم المساءلة؟

ربما لا يكون توقع «حياد مطلق» من الذكاء الاصطناعي أمراً واقعياً منذ البداية. هذه التكنولوجيا لا تُبنى في فراغ اجتماعي ولا يمكن لسطرة برمجية واحدة أن تقضي على كل التحيزات الموجودة في العالم. الهدف الأكثر واقعية هو بناء أنظمة تُشخّص تحيّزاتها المحتملة وتُقاس وتُوثّق وتُخضع قدر الإمكان للضبط.

ترى NIST أن الذكاء الاصطناعي الموثوق مجموعة من الخصائص التي تشمل إلى جانب العدالة وإدارة التحيّز، المصداقية والموثوقية والأمن والشفافية والقابلية للتفسير وحماية الخصوصية والمساءلة.

في النهاية، السؤال الرئيسي ليس فقط «هل لدى الذكاء الاصطناعي تحيّز؟»؛ الأسئلة الأهم هي: من أين أتى التحيّز، من هم المتأثرون به، كيف نقيسه، وما الآليات لتصحيحه؟

يمكن للذكاء الاصطناعي أن يجعل اتخاذ القرار أسرع وأرخص وفي كثير من الحالات أكثر دقة؛ لكن السرعة والنطاق الكبير قد يسرعان وينشّران الخطأ أيضاً. كلما لعبت الخوارزميات دوراً أكبر في قراراتنا اليومية، ازداد أهمية فهم آليات تحيّزها.

تبدأ المساءلة في الذكاء الاصطناعي من سؤال بسيط: إذا كان إنسان سيأخذ مثل هذا القرار، كنا سنطلب منه أن يشرح لماذا اتخذه؛ فلماذا نتوقع أقل من خوارزمية؟ / خبرآنلاين