إن الوباء يختبر حدود التعرف على الوجوه

حدود فن مفهوم التعرف على الوجه

السيدة تك | بيكسلز



للوهلة الأولى ، ربما لا يبدو JB ، وهو فنان مقيم في لوس أنجلوس ، مثل الصورة الموجودة في رخصة قيادته. لسبب واحد ، صورة الهوية منذ بضع سنوات. الشعر الذي كان طويلًا ومظلمًا أصبح الآن متذبذبًا ومبيض. وهناك حقيقة أن JB متحول جنسيًا ويتناول هرمون التستوستيرون منذ أكثر من عامين ، مما أدى إلى تغيير ملامح الوجه ، وزيادة كثافة الحواجب ، وحب الشباب الذي لم يكن موجودًا من قبل. (لقد طلبوا عدم الكشف عن هويتهم إلا بالأحرف الأولى من اسمهم الأول بسبب مخاوف تتعلق بالخصوصية.)

خسر JB وظيفة تجزئة بدوام جزئي عندما بدأ الإغلاق في آذار (مارس) الماضي ، وحاول ، مثل ملايين الأمريكيين الآخرين ، التقدم بطلب للحصول على إعانات بطالة - ولم يشك أبدًا في أن مظهرهم المتغير سيعيق طريقهم. بعد أشهر من تقديم الأوراق إلكترونيًا ، وإجراء مكالمات متعددة إلى خط ساخن لم يذهب إلى أي مكان ، تمت دعوة JB أخيرًا لاستخدام نظام التعرف على الوجه في كاليفورنيا للتحقق من هويتهم. ولكن حتى بعد عدة محاولات ، لا يمكن للنظام مطابقة وجه JB وصورة الهوية ، مما يحرمهم من المزايا التي تأهلوا لها. في النهاية ، توقف JB عن المحاولة: كانت العملية محبطة للغاية.





كيف أعيد فتح هذه المدارس الأمريكية دون إثارة تفشي فيروس كورونا

المدارس التي أبقت الحالات منخفضة العام الماضي ، على الرغم من الفوضى الوبائية ، تشترك في بعض الاستراتيجيات. إليك ما يمكن أن يعلمونا إياه حول القيام بذلك بشكل صحيح.

استخدمت جهات إنفاذ القانون والشركات الخاصة التعرف على الوجوه لسنوات ، لكن استخدام التكنولوجيا في توزيع المساعدات الحكومية قد توسع بسرعة خلال الوباء. الدول و وكالات فيدرالية تحولت إلى التعرف على الوجوه كطريقة آلية للتحقق من هوية الأشخاص المتقدمين للبطالة والمزايا العامة الأخرى.

يشعر الخبراء والنشطاء بالقلق من أن فشل هذه التكنولوجيا يمكن أن يمنع الناس من الحصول على الفوائد التي هم في أمس الحاجة إليها - وأنه قد يكون أكثر خطورة إذا عملت كما تم تصميمها.



استخدام وجهك للدنيوية

سرَّع الوباء استخدام العديد من أدوات جمع البيانات البيومترية - فحوصات درجة الحرارة عند الأبواب ، الكاميرات الحرارية في المدارس ، مسح الوجه في المطارات. عندما يتعلق الأمر بفوائد مثل البطالة ، تتجه حكومات الولايات بشكل خاص إلى التعرف على الوجه للتحقق من هوية الأشخاص قبل الإفراج عن الأموال التي يحق لهم الحصول عليها. تطلبت الموجة الثانية من أموال التحفيز الأمريكية ، التي تم تمريرها في ديسمبر 2020 ، من الولايات التحقق من الأشخاص المتقدمين للحصول على مساعدة البطالة الوبائية - وهي عبارة عن مجموعة من الأموال الفيدرالية.

لا يزال قانون مور ساري المفعول

الآن 27 دولة وكالات البطالة (من بينهم كاليفورنيا) يعملون مع ID.me ، وهي شركة تقدم تقنية التعرف على الوجوه ، كما يقول الرئيس التنفيذي بليك هول. قدمت وزارة العمل الأمريكية أيضا ملايين في التمويل للدول لتنفيذ تدابير منع الاحتيال ، والتي لديها ضخ المزيد من الدولارات في التعرف على الوجه. في الأشهر الأخيرة كان هناك تقارير في جميع أنحاء البلاد من الحوادث التي فشلت فيها أنظمة البطالة في التعرف على عمليات مسح الوجه لمقدمي الطلبات ، مما وضع أشخاصًا مثل JB في مواقف مالية غير مستقرة. لا يتم توزيع مخاطر الخطأ في تحديد الهوية بالتساوي: فقد ثبت أن التعرف على الوجوه أقل دقة الناس من اللون من الأشخاص البيض ، ومن المرجح أن يتم التعرف على الرجال بدقة أكثر من النساء ، وفقًا لـ دراسة فيدرالية نشرت في عام 2019. تم استكشاف النتائج بشكل أكبر في أ دراسة العام الماضي.

يقول هول في عينة من 700 مستخدم ، لم تجد ID.me ارتباطًا بين لون البشرة واحتمال فشل خطوة المطابقة الفردية.

بدأت برامج التعرف على الوجوه تصبح أكثر شيوعًا قبل سنوات من انتشار الوباء ، وقد تم توثيق عيوبها المحتملة جيدًا: كشف الصحفيون عن كيفية استخدام أقسام الشرطة في جميع أنحاء الولايات المتحدة قواعد بيانات واسعة من الوجوه في التحقيقات بدقة مشكوك فيها. شركات توقفت أو حدت استخدام التكنولوجيا وسط أدلة على أنها لا تعمل بشكل جيد مع الأشخاص الملونين. ومع ذلك ، فإنه يستمر في الانتشار: وكالات فيدرالية أخرى خطة على توسيع استخدامه ، بينما يتم استخدامه أيضًا في كل مكان من مراكز التسوق إلى أماكن الحفلات الموسيقية. كان ميسي رفع دعوى قضائية العام الماضي بسبب استخدامه المزعوم للتعرف على الوجوه على عملاء المتجر. لكن الاستخدامات المرتبطة بالوباء للتكنولوجيا للكشف عن أشياء مثل أهلية الفوائد تثير قلق النقاد بشكل خاص.



ما يبقيني مستيقظًا هو أنه مع تسارع الوباء للأمور ، سنبدأ في رؤية هذا المنبثق في كل مكان ، كما يقول إيفان جرير ، مدير Fight for the Future ، وهي مجموعة حقوق رقمية. سيكون في المتاجر ، وسيكون لديك خيار الدفع بوجهك. سيتم تطبيعه في النقل العام. سيتم استخدامه في مقابلات العمل.

كيف أدت استجابة الولايات المتحدة للوباء إلى زيادة عدم المساواة؟ انظر إلى صالونات العناية بالأظافر في نيويورك.

بينما بقي العديد من العاملين في المنزل لتجنب فيروس كورونا ، واجه موظفو الصالون معدلات إصابة عالية ، وخيارات مستحيلة بشأن البقاء بأمان ، وقليل من المساعدة الحكومية.

يتم استخدامه أكثر فأكثر في ما يتم تقديمه على أنه مصلحة للصحة العامة. استراليا مؤخرا توسيع البرنامج استخدام التعرف على الوجه لفرض احتياطات السلامة الخاصة بفيروس كوفيد -19. يخضع الأشخاص الذين يخضعون للعزل لعمليات تسجيل وصول عشوائية ، حيث يُطلب منهم إرسال صورة ذاتية لتأكيد اتباعهم للقواعد. كما يتم جمع بيانات الموقع ، وفقًا لرويترز.

عندما يتعلق الأمر بضروريات مثل المزايا الطارئة لدفع تكاليف السكن والطعام ، يجب أن تكون الأولوية الأولى هي التأكد من أن الجميع قادر على الوصول إلى المساعدة ، كما يقول جرير. وتضيف أن منع الاحتيال هدف معقول ظاهريًا ، لكن الهدف الأكثر إلحاحًا يجب أن يكون الحصول على الفوائد التي يحتاجون إليها.

يجب أن تُبنى الأنظمة مع مراعاة حقوق الإنسان ومع مراعاة احتياجات الأشخاص المستضعفين منذ البداية. يقول جرير إن هذه لا يمكن أن تكون مجرد أفكار لاحقة. لا يمكن أن تكون إصلاحات للأخطاء بعد أن يحدث خطأ بالفعل.

يقول ID.me’s Hall إن خدمات شركته أفضل من الأساليب الحالية للتحقق من الهوية وساعدت الدول في الحد من عمليات الاحتيال الضخمة المتعلقة بالبطالة منذ تنفيذ عمليات التحقق من الوجه. ويقول إن معدلات النجاح الحقيقية تبلغ 91٪ في مطالبات البطالة - إما من تلقاء نفسها أو من خلال مكالمة فيديو مع ممثل ID.me.

[هذا] كان هدفنا ، كما يقول. إذا استطعنا أتمتة 91٪ من هذا ، فإن الدول التي تفوقت للتو من حيث الموارد يمكنها استخدام تلك الموارد لتوفير خدمة الكونسيرج ذات القفازات البيضاء لـ 9٪.

عندما لا يتمكن المستخدمون من اجتياز عملية التعرف على الوجوه ، يرسل ID.me بريدًا إلكترونيًا إليهم للمتابعة ، وفقًا لهول.

كل ما يتعلق بهذه الشركة يدور حول مساعدة الأشخاص في الوصول إلى الأشياء التي هم مؤهلون لها ، كما يقول.

التكنولوجيا في العالم الحقيقي

كانت الأشهر التي عاشها JB بدون دخل صعبة. كان القلق المالي كافيًا للتسبب في الإجهاد ، كما أدت مشاكل أخرى مثل الكمبيوتر المعطل إلى تفاقم القلق. حتى صاحب العمل السابق لم يستطع أو لن يساعد في تجاوز الروتين.

يقول JB إنه أمر منعزل للغاية أن تقول ، 'لا أحد يساعدني في أي موقف'.

على الجانب الحكومي ، يقول الخبراء إنه من المنطقي أن يكون الوباء قد جلب التكنولوجيا الجديدة إلى الواجهة ، لكن حالات مثل قضية JB تُظهر أن التكنولوجيا في حد ذاتها ليست الحل الكامل. تقول Anne L. Washington ، الأستاذة المساعدة لسياسة البيانات في جامعة نيويورك ، إنه من المغري اعتبار تقنية حكومية جديدة ناجحة عندما تعمل معظم الوقت خلال مرحلة البحث ولكنها تفشل بنسبة 5٪ من الوقت في العالم الحقيقي. قارنت النتيجة بلعبة الكراسي الموسيقية ، حيث سيبقى خمسة دائمًا بدون مقعد في غرفة بها 100 شخص.

تكمن المشكلة في أن الحكومات تحصل على نوع من التكنولوجيا وتعمل بنسبة 95٪ من الوقت - يعتقدون أنها تم حلها ، كما تقول. بدلاً من ذلك ، أصبح التدخل البشري أكثر أهمية من أي وقت مضى. تقول واشنطن: إنهم بحاجة إلى نظام للتعامل بانتظام مع الأشخاص الخمسة الواقفين.

هناك طبقة إضافية من المخاطر عند مشاركة شركة خاصة. تقول واشنطن إن أكبر مشكلة تنشأ في طرح نوع جديد من التكنولوجيا هي مكان حفظ البيانات. بدون أ كيان موثوق به التي لديها واجب قانوني لحماية معلومات الأشخاص ، قد ينتهي الأمر بالبيانات الحساسة في أيدي الآخرين. كيف سنشعر ، على سبيل المثال ، إذا عهدت الحكومة الفيدرالية إلى شركة خاصة بأرقام الضمان الاجتماعي الخاصة بنا عند إنشائها؟

تكمن المشكلة في أن الحكومات تحصل على نوع من التكنولوجيا وتعمل 95٪ من الوقت - يعتقدون أنها تم حلها

آن ل.واشنطن ، جامعة نيويورك

الاستخدام الواسع النطاق وغير الخاضع للرقابة لأدوات التعرف على الوجوه يمكن أن يؤثر أيضًا على الفئات المهمشة بالفعل أكثر من غيرها. المتحولين جنسيا ، على سبيل المثال ، بالتفصيل ، مشكلات متكررة مع أدوات مثل صور Google ، والتي قد تتساءل عما إذا كانت صور ما قبل الانتقال وبعده تظهر الشخص نفسه. هذا يعني الحساب مع البرنامج مرارًا وتكرارًا.

[هناك] عدم دقة في قدرة التكنولوجيا على عكس اتساع نطاق التنوع الفعلي والحالات المتطورة الموجودة في العالم الحقيقي ، كما يقول دالي بارنيت ، وهو تقني في مؤسسة Electronic Frontier Foundation. لا يمكننا الاعتماد عليها لتصنيف وحساب وعكس تلك الحالات الحادة الجميلة بدقة.

أسوأ من الفشل

عادة ما تناقش المحادثات حول التعرف على الوجوه كيف يمكن أن تفشل التكنولوجيا أو تميز. لكن بارنيت يشجع الناس على التفكير فيما إذا كانت أدوات القياسات الحيوية تعمل أم لا ، أو ما إذا كان التحيز يظهر في التكنولوجيا. إنها تتراجع عن فكرة أننا بحاجة إليها على الإطلاق. في الواقع ، يحذر نشطاء مثل جرير ، من أن الأدوات يمكن أن تكون أكثر خطورة عندما تعمل بشكل مثالي. تم بالفعل استخدام التعرف على الوجوه لتحديد المتظاهرين أو معاقبتهم أو خنقهم ، على الرغم من أن الناس يقاومون. في هونغ كونغ ، ارتدى المتظاهرون أقنعة ونظارات واقية إخفاء وجوههم ق من مراقبة الشرطة هذه. في الولايات المتحدة ، النيابة العامة الفيدرالية إسقاط التهم ضد متظاهر تم التعرف عليه باستخدام التعرف على الوجوه اتُهم بالاعتداء على ضباط الشرطة.

أرقام البطالة الرسمية مرعبة. الوضع الحقيقي أسوأ. تشير أرقام البطالة القياسية فقط إلى الأزمة التي يواجهها الكثيرين بلا عمل.

أعتقد أنه من المفهوم أننا نركز على هذه العيوب والتحيزات ، لأن هذه التكنولوجيا يتم استخدامها الآن ، كما يقول جرير. ولكن عندما تأخذ تقنية ... وتضعها على قمة مجتمع غير عادل على الإطلاق ، حتى لو كانت التكنولوجيا نفسها 'محايدة' أو لا يوجد بها أي نوع من التحيز ، فسيكون لها تأثير الأتمتة ومفاقمة هذا التمييز.

الكفاح من أجل المستقبل و EFF كلاهما يدعمان حظر استخدام الحكومة لأدوات التعرف على الوجوه. ويقول بارنيت إنه حتى عند استخدام التكنولوجيا ، لا ينبغي للوكالات الحكومية أن تعتمد على نظام واحد كحارس البوابة للوصول - خاصة للحصول على الأشخاص الأساسيات التي يحتاجون إليها للبقاء على قيد الحياة.

ليس بعيدًا أن نتخيل كيف ، حتى لو كانت النوايا الحسنة الآن ، يمكن استخدام [هذه التقنيات] كسلاح ضد الناس لأغراض مختلفة في وقت لاحق ، كما تقول.

ومع ذلك ، بالنسبة للأشخاص المهمشين ، فإن الفرشاة المزودة بميزة التعرف على الوجوه تسبب بالفعل مشاكل. بعد مرور أكثر من عام على تقديم JB لأول مرة لطلب البطالة ، لا تزال تفاصيل العملية الشاقة محفورة في ذاكرتهم. عندما انتهت صلاحية المطالبة الأصلية هذا الربيع ، كان ذلك بمثابة ارتياح. لقد حصلوا مؤخرًا على وظيفة جديدة ، وعادت الأمور أخيرًا إلى مسارها الصحيح.

كانوا يقولون ، أنا أخيرًا سأستعيد حياتي معًا. أنا سعيد حقًا لأنني لست مضطرًا للتعامل مع هذا النظام. وآمل حقًا ألا أضطر للتعامل مع هذا النظام مرة أخرى.

هذه القصة جزء من مشروع تكنولوجيا الوباء ، بدعم من مؤسسة روكفلر.

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به