كيفية محاربة الكراهية على الإنترنت

تعتقد عالمة البيانات جينيفر تشايس أنه يمكننا استخدام الأدوات الحسابية لاستئصال السلوك السيئ عبر الإنترنت.



27 أكتوبر 2021 جينيفر تشايس

كريستي هناك كلوك

نيويورك تتطلب جواز سفر لقاح

خلال فترة عملها في Microsoft وفي الأوساط الأكاديمية ، كانت جينيفر تشايس تكافح من أجل استخدام علوم البيانات والحوسبة لجعل الذكاء الاصطناعي أكثر عدلاً وأقل تحيزًا.





من التسرب من المدرسة في سن 15 إلى أن يصبح عميد علوم البيانات في جامعة كاليفورنيا ، بيركلي ، كان تشايس يتمتع بالمسار الوظيفي تمامًا. انضمت إلى جامعة كاليفورنيا في لوس أنجلوس في عام 1987 كأستاذة جامعية للرياضيات. بعد عشر سنوات ، جذبتها مايكروسوفت للمشاركة في تأسيس مجموعة نظرية البحث متعددة التخصصات.

قضية الحوسبة

كانت هذه القصة جزءًا من إصدارنا في نوفمبر 2021

  • انظر إلى بقية القضية
  • يشترك

اكتشف الباحثون في مختبرها التابع لشركة Microsoft في مدينة نيويورك التحيز في برنامج التعرف على الوجه الخاص بالشركة ، مما يدل على أن النظام يصنف الوجوه البيضاء بدقة أكبر من تصنيف الوجوه البنية والسوداء. تسبب هذا الاكتشاف في قيام الشركة برفض عقد مربح مع قسم الشرطة والبدء في العمل لإزالة التحيز من مثل هذه الخوارزميات. ال مجموعة FATE (العدالة والمساءلة والشفافية والأخلاق في الذكاء الاصطناعي) تم إنشاؤه في المختبر.



أنيل أنانثاسوامي سأل تشايس ، الذي يشغل الآن منصب العميد المساعد لقسم الحوسبة وعلوم البيانات والمجتمع وعميد كلية المعلومات في بيركلي ، كيف يعمل علم البيانات على تغيير الحوسبة وغيرها من المجالات.

س: كيف كان شكل الانتقال من الأوساط الأكاديمية إلى الصناعة؟

ج: كانت تلك صدمة كبيرة. اتصل بي دان لينج ، نائب رئيس الأبحاث في Microsoft ، لمحاولة إقناعي بالذهاب إلى مقابلة. تحدثت معه لمدة 40 دقيقة. وقلت أخيرًا ، هل تريد حقًا أن تعرف ما الذي يضايقني؟ إن Microsoft عبارة عن مجموعة من الفتيان المراهقين ، ولا أريد أن أقضي حياتي مع مجموعة من الفتيان المراهقين.

س: كيف كان رد فعله على ذلك؟



ج: قال آه لا لسنا. تعال وقابلنا. التقيت ببعض النساء الرائعات هناك عندما زرت ، والتقيت بأشخاص منفتحين بشكل كبير أرادوا تجربة أشياء لتغيير العالم.

س: كيف غير علم البيانات الحوسبة؟

ل: مع حصولنا على المزيد من البيانات ، بدأت علوم الكمبيوتر تتطلع إلى الخارج. أعتقد أن علم البيانات هو زواج من الحوسبة ، والإحصاء ، والأخلاق ، وتركيز مجال أو تركيز تخصصي ، سواء كان ذلك في الطب الحيوي والصحة ، أو المناخ والاستدامة ، أو رفاهية الإنسان والعدالة الاجتماعية ، وما إلى ذلك. إنه يحول الحوسبة.

س: هل هناك اختلاف في كيفية حل علماء البيانات للمشكلات؟

ج: مع ظهور كل هذه البيانات ، لدينا الفرصة للتعلم من البيانات دون أن يكون لدينا نظرية عن سبب حدوث شيء ما. خاصة في عصر التعلم الآلي والتعلم العميق هذا ، يمكننا من استخلاص النتائج والتنبؤ دون وجود نظرية أساسية.

س: هل يمكن أن يسبب ذلك مشاكل؟

ل: يعتبرها البعض مشكلة في الحالات التي يكون لديك فيها ، [على سبيل المثال] ، بيانات طبية حيوية. تتنبأ البيانات بدقة شديدة بما سينجح وما لن ينجح ، بدون آلية بيولوجية أساسية.

س: أي مزايا؟

ل: ما سمحت لنا البيانات بفعله الآن ، في كثير من الحالات ، هو تشغيل ما يسميه الاقتصادي بالواقع المضاد ، حيث ترى في الواقع تباينًا عشوائيًا في البيانات يسمح لك باستخلاص النتائج دون إجراء التجارب. هذا مفيد بشكل لا يصدق.

هل أرغب حقًا في تجربة تعليم مختلف على مجموعات سكانية مختلفة؟ أو هل أريد أن أرى [أن] كان هناك تباين عشوائي في مرحلة ما من شأنه أن يسمح لي باستخلاص استنتاج سببي جيد حقًا ، وبالتالي يمكنني بناء السياسة عليه؟

س: هل ترى مشكلة في كيفية استخدام البيانات ، خاصة من قبل الشركات الكبرى؟

ج: هناك مشاكل لا تعد ولا تحصى. لا يتم استخدامه فقط من قبل الشركات التقنية. يتم استخدامه من قبل شركات التأمين. يتم استخدامه بواسطة الأنظمة الأساسية الحكومية ومنصات الصحة العامة والأنظمة الأساسية التعليمية. إذا لم تفهم بوضوح ما يمكن أن تتسلل إليه التحيزات ، سواء في مجموعات البيانات نفسها أو في الخوارزميات ، فمن المحتمل أن تؤدي إلى تفاقم التحيز.

تتسلل هذه التحيزات إلى [عندما] لا يوجد الكثير من البيانات. ويمكن أيضًا أن ترتبط بعوامل أخرى. أنا شخصياً عملت على تفسير السير والسير الذاتية تلقائيًا. لا يسمح لنا باستخدام الجنس أو العرق. حتى لو لم ألقي نظرة على [هذه] السمات المحمية ، فهناك العديد من الأشياء [في البيانات] التي تمثل وكلاء للجنس أو العرق. إذا كنت قد التحقت بمدارس معينة ، أو نشأت في أحياء معينة ، وإذا لعبت بعض الألعاب الرياضية ولديك أنشطة معينة ، فإنها مرتبطة [بالجنس أو العرق].

س: هل تلتقط الخوارزميات هذه الوكلاء؟

ل: إنهم يفاقمونه. يجب أن تفهم هذا صراحة ، ويجب أن تمنعه ​​صراحة في كتابة الخوارزمية.

س: كيف يمكننا معالجة مثل هذه القضايا؟

ل: هناك مجال FATE بالكامل: العدل والمساءلة والشفافية والأخلاق في الذكاء الاصطناعي ، وهو تصميم هذه الخوارزميات وفهم ماهيتها. ولكن هناك الكثير مما يتعين علينا القيام به.

س: وعلم البيانات يساعد؟

ج: هذا علم بيانات تمامًا. هناك جزء من الويب يسمى مانوسفير ، حيث ينشأ الكثير من الكراهية. إنه نوع من الصعب تتبعه. ولكن إذا كنت تستخدم معالجة اللغة الطبيعية وأدوات أخرى ، يمكنك معرفة مصدرها. يمكنك أيضًا محاولة بناء واجهات تسمح لمجموعات المناصرة وغيرها بالعثور على ذلك والمساعدة في استئصاله. هذا يتجاوز مجرد العدل. هذا يقلب الجداول حول الطريقة التي تم بها اغتصاب هذه المنصات لزيادة التحيز والكراهية والقول ، سنستخدم قوة الحوسبة وعلوم البيانات لتحديد الكراهية وتخفيفها.

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به