لماذا يتهافت عمالقة التقنية على طلبة الفلسفة زمن الثورة الرقمية؟ الجزء الثاني زهير الخويلدي أنواع التحيز الأخلاقي في الخوارزميات التحيز في البيانات

أغلب النماذج تُدرَّب على بيانات تاريخية تحمل تحيزات المجتمع البشري (عنصرية، جنسية، طبقية). مثال: أنظمة التوظيف التي تفضل السير الذاتية من جامعات معينة أو أجناس معينة لأن البيانات التاريخية كانت كذلك. الخوارزمية لا “تكتشف” الحقيقة، بل تعيد إنتاج الأنماط التاريخية.

التحيز في التصميم

اختيار المهندسين للدوال الهدف يعكس قيمهم. إذا كانت الدالة تهدف فقط إلى “الدقة” أو “الربح”، فإن النموذج يتجاهل العدالة أو الكرامة. مثال: نماذج التوصية التي تعزز المحتوى الاستقطابي لأنها تُكافأ على وقت المشاهدة.

التحيز في التقييم

المقاييس المستخدمة غالبًا ما تتجاهل التأثيرات الاجتماعية غير المتكافئة. نموذج يحقق دقة 95% قد يكون كارثيًا على مجموعات مهمشة.

التحيز الوجودي

النماذج تفترض عالمًا يمكن اختزاله إلى بيانات قابلة للقياس. هذا يهمش الجوانب غير القابلة للقياس: الشعور، المعنى، الغموض الأخلاقي، والقيم غير المنفعية.

الآليات التقنية للتحيز

الانحياز في التعلم المعزز بالتفضيل البشري: حتى عندما يُستخدم بشر لتصحيح النموذج، ينقلون تحيزاتهم الثقافية.

التدريب على بيانات الإنترنت: الإنترنت يعكس عدم المساواة العالمية، فيصبح النموذج “ذكيًا” بطريقة غربية، ذكورية، أو طبقية.

التعميم غير المتكافئ: النماذج تتعلم أفضل على المجموعات المهيمنة وتفشل مع الأقليات (مثل اللهجات العربية أو اللغات منخفضة الموارد).

التحديات الفلسفية

مشكلة “القيم”: من يقرر ما هي “القيم الصحيحة” التي يجب أن تُدمج في النموذج؟ هل هي القيم الليبرالية الغربية؟ أم قيم متعددة ثقافيًا؟

الوعي مقابل المحاكاة: الذكاء الاصطناعي يحاكي اللغة الأخلاقية دون أن يمتلك وعيًا أخلاقيًا. هذا يخلق خطر “النفاق الآلي” — آلة تقول الشيء الصحيح وتفعل العكس.

السلطة: من يملك القدرة على تعديل التحيزات؟ الشركات؟ الحكومات؟ المجتمع؟

حلول ممكنة (مع حدودها)

التدريب الدستوري: جعل النموذج يتبع “دستورًا” أخلاقيًا مكتوبًا.

التنوع في فرق التطوير: إدخال فيلسوف، عالم اجتماع، وممثلين عن ثقافات مختلفة.

الشفافية والتدقيق: جعل الخوارزميات قابلة للتفسير والمراجعة.

الحدود: كل هذه الحلول تبقى داخل إطار الشركات الرأسمالية، فلا تحل المشكلة الجذرية: السلطة المركزية على الذكاء الاصطناعي.

العدالة التفسيرية في التعلم الآلي

العدالة التفسيرية مفهوم فلسفي-تقني يتجاوز مجرد “العدالة الخوارزمية” التي تركز على النتائج الإحصائية. إنها تطالب بأن تكون عمليات التفسير نفسها عادلة: كيف يُفسر النموذج قراراته؟ لمن يُفسرها؟ وهل يُعطي تفسيرًا صادقًا ومتساويًا لجميع الأطراف المتأثرة؟

في التعلم الآلي، معظم النماذج “صندوق أسود”. حتى عندما نستخدم تقنيات مثل شاب أو ليمون لتفسير القرارات، فإن هذه التفسيرات غالبًا ما تكون غير عادلة تفسيريًا.

أشكال عدم العدالة التفسيرية

التحيز في التفسير

النماذج تميل إلى تقديم تفسيرات أبسط وأكثر إقناعًا للمجموعات المهيمنة، بينما تقدم تفسيرات معقدة أو غامضة للمجموعات المهمشة. مثال: نظام يرفض قرضًا لشخص من أقلية، فيقدم تفسيرًا “موضوعيًا” (تاريخ الائتمان)، بينما يخفي التحيزات الهيكلية.

عدم المساواة في الوصول إلى التفسير

الشركات والحكومات تمتلك أدوات تفسير متقدمة، بينما المواطن العادي يحصل على تفسير سطحي أو مضلل (“بسبب سياساتنا”). هذا يخلق فجوة معرفية بين من يملكون القدرة على فهم الآلة وبين من يتأثرون بها.

التفسير الزائف

النماذج تُنتج تفسيرات تبدو معقولة لكنها لا تعكس السبب الحقيقي للقرار. هذا “نفاق تفسيري” يُستخدم لتهدئة الرأي العام دون إصلاح حقيقي