أعلن موقع تويتر أنه تم التحقيق في المشكلة بعد أن كشف المستخدمون أن خوارزمية الصور تفضل أحيانًا الوجوه البيضاء على الوجوه السوداء.
لاحظ المستخدمون أنه عند وجود صورتين في المنشور ، غالبًا ما تظهر تطبيقات الهاتف المحمول على Twitter الوجه الأبيض.
ذكر موقع تويتر أنه تم إجراء اختبارات التحيز ضد العرق والجنس أثناء تطوير الخوارزمية.
ومع ذلك ، قالت الشركة: “من الواضح أنه ينبغي إجراء المزيد من التحليلات”.
قال باراج أغراوال ، كبير مسؤولي التكنولوجيا في تويتر ، “قمنا بتحليل نموذجنا ووضعناه قيد الاستخدام ، لكنه يحتاج إلى تحسين مستمر. نحن نحب هذه الاختبارات العامة والصعبة ونعتزم التعلم منها.”
بيرد
بدأت المناقشة الأخيرة عندما حاول كولين مادلاند ، مدير جامعة في فانكوفوير ، كندا ، حل مشكلة اختفاء رأس زميل في تطبيق مؤتمرات الفيديو Zoom.
اكتشف البرنامج عن طريق الخطأ رأس الزميل الأسود كخلفية ودمره.
عندما شارك Madland هذا الموضوع على Twitter ، لاحظ أن المعاينة على تطبيق Twitter للهاتف المحمول أظهرت صورته ، وليس صديقه الأسود. على الرغم من أن Madland غير ترتيب الصور ، إلا أن الوضع كان هو نفسه.
بعد اكتشاف Madland ، أجرى المستخدمون الآخرون أيضًا تجارب وظهرت النتائج التالية
قال كبير مسؤولي التصميم في تويتر ، دانتلي ديفيس ، إن إزالة لحية Madland ونظاراته أصلحت المشكلة ، بسبب التباين مع لون بشرته. .
رداً على الانتقادات ، قال دانتلي: “إنه لمن الممتع إلقاء اللوم عليّ هنا ، لكنني غير مرتاح له مثل أي شخص آخر. ومع ذلك ، أنا في وضع يسمح لي بإصلاحه ، وسأفعل ذلك. إنه خطأ مائة بالمائة. لا ينبغي لأحد أن يقول العكس.”
في العام الماضي ، وجدت دراسة حكومية أمريكية أن خوارزميات التعرف على الوجه أقل احتمالا بكثير للكشف عن الوجوه السوداء والآسيوية مقارنة بالبيض.
في العام الماضي ، قال ضباط الشرطة في المملكة المتحدة إن الخوارزميات “تضخم” التحيزات وطالبوا بمبادئ توجيهية واضحة لاستخدام التكنولوجيا.
أخيرًا ، أعلنت شركة IBM في الأشهر الماضية أنها لن تنتج برامج التعرف على الوجه ذات المخاوف المماثلة.
