قال متحدث باسم شركة Cognitec إنهم لم يتمكنوا من التعليق على عملهم مع وزارة الداخلية؛ ومع ذلك، أشاروا إلى أن “الفروق الديموغرافية” في الأداء تنطبق على جميع خوارزميات مسح الوجه. “أسباب التحيز معقدة للغاية وغالبًا ما تكون مرتبطة بمشكلات جودة الصورة” كما يقول المتحدث.
“تحيز خوارزميات Cognitec منخفض مقارنة بخوارزميات أخرى ذات دقة شاملة مماثلة، وكن مطمئنًا أننا نعمل بجد ودائمًا على تقليل التحيز من خلال تطوير منهجيات اختبار محددة، وتصميم دوال خسارة في تدريب شبكتنا، ومن خلال تنويع بيانات التدريب والاختبار” كما يقول المتحدث.
اختبار الضغط
حتى لو يمكن تحسين الدقة، نادرًا ما يتم تشغيل التكنولوجيا بالطريقة التي ينويها مبتكروها. تعني الأخطاء، والعيوب التقنية، وأخطاء المستخدم أن الأنظمة غالبًا ما تنتج أخطاء. عند اقترانها بقرارات حساسة قد تغير حياة الناس، يمكن أن تتفاقم تلك المخاطر.
لطالما، وفقًا لـتقارير من مفتش الحدود والهجرة المستقل في المملكة المتحدة، تضمنت تقديرات وزارة الداخلية للسن التي يقودها البشر مشكلات. كانت هناك حالات من “سوء” حفظ السجلات، و”تقييمات بصرية” سريعة، وأحيانًا نقص في التفسير من موظفي الحدود حول العمليات القائمة. لم يتم تزويد الموظفين الذين يقومون بتقديرات العمر بأي تدريب محدد لهذه المهمة حتى عام 2023، وفقًا لتقرير التفتيش الأخير.
“اتخاذ قرارات العمر الأولية هو عمل صعب ومعقد، حيث يعمل موظفو الهجرة في ظروف صعبة، وغالبًا تحت ضغط لمعالجة الكثير من الوافدين الجدد بسرعة” كما تقول وزارة الداخلية فيإرشادات تم نشرها مؤخرًا حول الاستخدام المحتمل لذكاء تقدير أعمار الوجه. “هذا يسمح لموظفي الهجرة باختبار حكمهم ضد تقدير التكنولوجيا.”
ومع ذلك، في التقرير المسرب من العام الماضي، قالت وزارة الداخلية كيف أن كيفية استخدام تكنولوجيا مسح الوجه في “سياق عملياتي” لا تزال قيد الاستكشاف. التقرير، الذي رفضت الحكومة سابقًا إصدار في طلبات السجلات، يسلط الضوء أيضًا على الاختبارات التي وجدت أن “الشيخوخة المؤقتة” المتعلقة بالصدمات و”ضغط السفر” يبدو أنها تؤثر على دقة أنظمة تقدير أعمار الوجه، مما يثير مزيدًا من التساؤلات حول استخدام التكنولوجيا في عملية اللجوء.
