من المرجح أن يتم إخبار النساء ذوات البشرة الداكنة بأكثر من الضعف بأن صورهن تخفق في قواعد جوازات السفر البريطانية عند تقديمها عبر الإنترنت مقارنة بالرجال ذوي البشرة الفاتحة ، وفقًا لتحقيق أجرته هيئة الإذاعة البريطانية.
قالت طالبة سوداء إنها قيل لها خطأً إن فمها بدا مفتوحًا في كل مرة تقوم فيها بتحميل خمس صور مختلفة على موقع الحكومة على الإنترنت.
وقالت إيلين أوسو إن هذا يوضح كيف يمكن أن تنتشر "العنصرية المنهجية".
قالت وزارة الداخلية إن الأداة ساعدت المستخدمين في الحصول على جوازات سفرهم بسرعة أكبر.
وقالت متحدثة باسم "الشيك الإرشادي [يساعد] عملائنا على تقديم صورة صحيحة في المرة الأولى".
"استخدم أكثر من تسعة ملايين شخص هذه الخدمة وأنظمتنا في تحسن.
"سنواصل تطوير وتقييم أنظمتنا بهدف جعل التقدم للحصول على جواز سفر بسيطًا قدر الإمكان للجميع."
لون البشرة
يستخدم موقع تطبيق جواز السفر فحصًا آليًا لاكتشاف الصور ذات الجودة الرديئة التي لا تتوافق مع قواعد وزارة الداخلية. يتضمن ذلك التعبير المحايد وفم مغلق والنظر مباشرة إلى الكاميرا.
وجد بحث بي بي سي أن هذا الفحص أقل دقة على الأشخاص ذوي البشرة الداكنة.
تم إدخال أكثر من 1000 صورة لسياسيين من جميع أنحاء العالم في المدقق عبر الإنترنت.
أشارت النتائج إلى:
- يتم إخبار النساء ذوات البشرة الداكنة بأن صورهن رديئة الجودة بنسبة 22٪ من الوقت ، بينما تبلغ نسبة النساء ذوات البشرة الفاتحة 14٪
- يُقال للرجال ذوي البشرة الداكنة أن صورهم رديئة الجودة بنسبة 15٪ من الوقت ، بينما تبلغ نسبة الرجال ذوي البشرة الفاتحة 9٪
كانت صور النساء ذوات البشرة الداكنة أكثر عرضة بأربع مرات لأن تكون متدرجة الجودة مقارنة بالنساء ذوات البشرة الفاتحة.
قالت أوسو إنها تمكنت من الحصول على صورة تمت الموافقة عليها بعد الطعن في حكم الموقع ، والذي تضمن كتابة ملاحظة تقول إن فمها مغلق بالفعل.
وقالت الفتاة البالغة من العمر 22 عاما من لندن لبي بي سي: "لم أرغب في الدفع مقابل التقاط صورتي".
"إذا لم تستطع الخوارزمية قراءة شفتي ، فهذه مشكلة في النظام وليست معي."
لكنها لا ترى هذا على أنه قصة نجاح.
"لا ينبغي أن احتفل بتجاوز نظام لم يتم إنشاؤه لي".
وأضافت أنه ينبغي أن تكون القاعدة أن تعمل هذه الأنظمة بشكل جيد للجميع.
تتضمن الأسباب الأخرى التي تم ذكرها للحكم على جودة الصور رديئة "وجود انعكاسات على وجهك" و "يصعب التمييز بين صورتك والخلفية"
كات هالام ، التي تصف بشرتها بأنها ذات بشرة داكنة ، هي من بين أولئك الذين عانوا من المشكلة.
وقالت لبي بي سي إنها حاولت تحميل 10 صور مختلفة على مدار أسبوع ، وصنف الموقع كل منها على أنها "رديئة".
وقالت لبي بي سي: "أنا خبيرة في التعلم ، لذا لدي فهم جيد للتحيز في الذكاء الاصطناعي".
"لقد فهمت أن البرنامج يمثل مشكلة - لم تكن الكاميرا الخاصة بي.
"يتم التغاضي عن تأثير الأنظمة الآلية على مجتمعات الأقليات العرقية بشكل منتظم ، مع عواقب وخيمة.
كشفت المستندات التي تم إصدارها كجزء من طلب حرية المعلومات في عام 2019 أن وزارة الداخلية كانت على علم بهذه المشكلة ، لكنها قررت أن "الأداء العام" كان جيدًا بما يكفي لإطلاق المدقق عبر الإنترنت.
كيف يمكن للكمبيوتر أن يكون متحيزا؟
بقلم ديفيد ليزلي ، معهد آلان تورينج
بدأت قصة التحيز في تقنيات اكتشاف الوجه والتعرف عليه في القرن التاسع عشر مع تطور التصوير الفوتوغرافي. لسنوات ، تم تصميم المكياج الكيميائي للفيلم ليكون الأفضل في التقاط البشرة الفاتحة.
كان الفيلم الملون غير حساس لمجموعة واسعة من أنواع البشرة غير البيضاء وغالبًا ما فشل في إظهار تفاصيل الوجوه ذات البشرة الداكنة.
كان التغيير الكبير الذي أحدثه التصوير الرقمي هو تسجيل الصور كشبكات من الأرقام التي تمثل كثافة البكسل.
يمكن لأجهزة الكمبيوتر الآن التقاط الأنماط في هذه الصور والبحث عن الوجوه فيها ، لكنها تحتاج إلى تغذية الكثير من صور الوجوه "لتعليمهم" ما الذي يبحثون عنه.
هذا يعني أن دقة أنظمة اكتشاف الوجه تعتمد جزئيًا على تنوع البيانات التي تم تدريبهم عليها.
لذا فإن مجموعة البيانات التدريبية التي تحتوي على تمثيل أقل للنساء والأشخاص الملونين ستنتج نظامًا لا يعمل بشكل جيد لتلك المجموعات.
يجب اختبار أنظمة التعرف على الوجوه من أجل الأداء العادل عبر المجتمعات المختلفة ، ولكن هناك مجالات أخرى مثيرة للقلق أيضًا.
يمكن أيضًا تضمين التمييز في طريقة تصنيفنا للبيانات وقياس أداء هذه التقنيات. تعكس التسميات التي نستخدمها لتصنيف المجموعات العرقية والإثنية والجنسية المعايير الثقافية ، ويمكن أن تؤدي إلى دمج العنصرية والتحيز في الأنظمة الآلية.
وقالت باحثة مقرها الولايات المتحدة وأجرت دراسات مماثلة خاصة بها إن مثل هذه الأنظمة كانت نتيجة "لامبالاة" المطورين.
قالت إينيولوا ديبورا راجي ، زميلة موزيلا وباحثة في رابطة العدالة الخوارزمية: "هذا يضيف فقط إلى الكومة المتزايدة من المنتجات التي لم يتم تصميمها للأشخاص الملونين وخاصة النساء ذوات البشرة الداكنة".
وأضافت أنه إذا كان النظام "لا يعمل مع الجميع ، فهو لا يعمل".
"حقيقة أن وزارة الداخلية كانت تعلم بوجود مشاكل هي دليل كاف على مسؤوليتها".
تم توفير المدقق الآلي للحكومة من قبل مزود خارجي رفض ذكر اسمه.
ونتيجة لذلك ، لم تتمكن بي بي سي من الاتصال بها للتعليق.
طرق
استند الإجراء إلى دراسة ظلال النوع التي أجرتها جوي بولامويني وتيمنيت جيبرو.
تم جمع صور السياسيين من البرلمانات حول العالم. تم تسجيل الجنس ولون البشرة لكل صورة باستخدام مقياس درجة لون البشرة فيتزباتريك. تفي كل صورة بمعايير وزارة الداخلية لصورة جواز السفر.
أعطى هذا قاعدة بيانات من 1130 صورة على غرار جواز السفر مع توازن لون البشرة والجنس تم إدخال كل صورة في مدقق الصور الآلي وتم تسجيل نقاط الجودة. لم يتم تقديم طلبات جواز السفر.
قامت Kirstie Whitaker ، قائدة برنامج الأدوات والممارسات والأنظمة في معهد Alan Turing Institute ، بمراجعة التعليمات البرمجية الخاصة بنا وإعادة إنتاج نتائجنا بشكل مستقل ، وقدمت مدخلات حول صحة النتائج المبلغ عنها.