كنت هناك عندما: وضع Facebook الأرباح على الأمان



في الشهر الماضي ، كان المصدر الأساسي لبرنامج ملفات Facebook الخاصة بـ Wall Street Journal ، كشفت عن هويتها في حلقة من 60 دقيقة . تقول فرانسيس هاوجين ، مديرة المنتجات السابقة في الشركة ، إنها تقدمت بعد أن رأت أن قيادة Facebook تعطي الأولوية بشكل متكرر للربح على السلامة. ثم مثلت أمام المشرعين في الولايات المتحدة والمملكة المتحدة للحديث عما تعلمته خلال فترة عملها في الشركة.

لكن Haugen لم يكن أول مُبلغ عن المخالفات على Facebook يدق ناقوس الخطر بشأن عدم قدرة الشركة - أو عدم رغبتها - في التعامل مع المشكلات الخطيرة التي تسببها خوارزميات النظام الأساسي. في عام 2020 ، علمنا بصوفي زانج ، التي تم تعيينها رسميًا كعالمة بيانات منخفضة المستوى في الشركة. عندما استقالت ، كشفت مذكرة الخروج من المذكرة التي تبلغ 8000 كلمة أنها قد حددت عشرات البلدان ، بما في ذلك الهند والمكسيك وأفغانستان وكوريا الجنوبية ، حيث كانت الحسابات والإعجابات المزيفة تسمح للسياسيين بتضليل الجمهور والحصول على السلطة. كما كشفت عن مدى ضآلة ما قامت به الشركة للتخفيف من المشكلة ، على الرغم من جهود تشانغ المتكررة للفت انتباه القيادة إليها.





في الحلقة الأخيرة من كنت هناك عندما ، مشروع التاريخ الشفوي الجديد من البودكاست In Machines We Trust ، نتحدث إلى Zhang حول جهودها.

الاعتمادات:

هذه الحلقة من إنتاج جينيفر سترونج وأنتوني جرين وإيما سيليكنز. تم تحريره بواسطة مايكل رايلي ومات هونان. لقد مزجها غاريت لانغ بتصميم الصوت والموسيقى لجاكوب غورسكي.

نسخة كاملة:

[معرف TR]



الصوت المتزامن مع اللقطات: فرانسيس هوغن: خلال الفترة التي أمضيتها في Facebook ، أدركت حقيقة مدمرة. لا يعرف أحد تقريبًا خارج Facebook ما يحدث داخل Facebook.

جينيفر: فرانسيس هوغن هو مدير منتج سابق في Facebook. لقد تقدمت بشكاوى إلى سلطات إنفاذ القانون الفيدرالية مدعية أن قيادة عملاق وسائل التواصل الاجتماعي وضعت مرارًا الأرباح على حساب السلامة.

الصوت المتزامن مع اللقطات: فرانسيس هوغن: تخفي الشركة عن عمد معلومات حيوية عن الجمهور ومن حكومة الولايات المتحدة ومن الحكومات في جميع أنحاء العالم.

جينيفر: جاءت شكاواها مع مجموعة من الوثائق التي جمعتها Haugen قبل الاستقالة ... في محاولة لإثبات أن الشركة اختارت عمدًا عدم إصلاح المشاكل على نظامها الأساسي.



من بينها ... أن الخوارزميات مثل تلك الموجودة خلف ملف الأخبار على Facebook تضخم الكراهية والمعلومات المضللة والاضطرابات السياسية.

وهي ليست المخبر الوحيد الذي يتهم الشركة بغض الطرف عن حملات التضليل على المنصة.

عملت Sophie Zhang كعالمة بيانات على Facebook ... وحتى تم فصلها ، كانت تشغل نفسها بالعثور على الحسابات والتعليقات والإعجابات المزيفة وإزالتها والتي كانت تُستخدم للتأثير في الانتخابات على مستوى العالم. كانت مذكرة الخروج الضخمة الخاصة بها عبارة عن 8 آلاف كلمة ... وكشفت عن مدى ضآلة ما قام به Facebook للتخفيف من المشكلة.

أنا جينيفر سترونج ، وهذا هو كنت هناك عندما .

إنه مشروع تاريخ شفوي يعرض قصصًا عن كيفية حدوث اللحظات الفاصلة في الذكاء الاصطناعي والحوسبة ... كما رواها الأشخاص الذين شهدوها.

سحر ألعاب التجمع

[إظهار المعرف]

صوفي تشانغ: أنا صوفي زانغ. في Facebook كنت عالم بيانات وعملت في فريق المشاركة. أعني بالحسابات المزيفة ، على سبيل المثال ، الحسابات المزيفة ، ولكن أيضًا الحسابات المخترقة. وبالمشاركة ، أعني الإعجابات والتعليقات والمشاركات وما إلى ذلك. لكن في أوقات فراغي ، عندما بدأت العمل الإضافي في مجال البحث عن نشاط سياسي غير حقيقي. غالبًا ما يكون نشاطًا سياسيًا متطورًا للغاية وغير أصيل. يمكنني القول أن هذا كان أيضًا ارتباطًا مزيفًا ، لكنه لم يكن ما كان متوقعًا أن أعمل عليه.

عندما بدأت أبحث في التقاطعات بين المشاركة الزائفة والنشاط المدني ، سرعان ما وجدت النتائج في جميع أنحاء العالم. لقد وجدت نتائج في البرازيل والهند وإندونيسيا والعديد من الدول ، ولكن أيضًا في هندوراس ، إلى حد ما في هندوراس بالنسبة لحجمها. وكنت أقوم بإعداد تقرير للقيادة حول المشكلة. قصدت أن ألتقط لقطة شاشة لصفحة المستلم الرئيسي في هندوراس ، خوان أورلاندو هيرنانديز ، الذي بعد أن بحثت عنه تبين أنه رئيس هندوراس.

كنت ذاهبًا إلى صفحته لأخذ لقطة شاشة عندما توقفوا فجأة ، لأنني لاحظت شيئًا غير عادي للغاية لأن الأشخاص الذين كانوا ، والذين كانوا يحبون صفحته ويعلقون عليها ، لم يكونوا أشخاصًا على الإطلاق. كانت صفحات تتظاهر بكونها مستخدمين. ولكي نعود هنا ، ما هي الصفحات؟ من هم المستخدمون؟ الصفحات هي إحدى ميزات Facebook المخصصة للشخصيات العامة والمؤسسات العامة وما إلى ذلك ، لذلك على سبيل المثال ، لدى MIT Tech Review صفحة على Facebook. MIT Tech Review ليس شخصًا. الصفحة يديرها شخص آخر على Facebook.

وبالتالي فإن القصد من كيفية عمل صفحات Facebook هو أنها من المفترض أن تعكس الكيانات العامة ويمكن لمستخدم واحد التحكم في العديد من الصفحات. لذلك على سبيل المثال ، يمكن للمسؤول نفسه التحكم في صفحة CNN وكذلك CNN والفلبين و CNN Europe ، إلى آخره. ولكن لم يكن هناك ما يمنع المستخدم من إنشاء مئات الصفحات ، ومنحهم أسماء وصور ملفات شخصية مثل الأشخاص الحقيقيين وجعلهم يتصرفون كأشخاص حقيقيين. في الواقع ، كان الأمر أسهل من جانبهم لأنه كان بإمكانهم التبديل بسهولة بين هذه الصفحات دون الحاجة إلى تسجيل الدخول وتسجيل الخروج في كل مرة.

سرعان ما أدركت أن هذه الصفحات المزيفة تتظاهر بأنها مستخدمين ، وكان هناك الآلاف منها في هندوراس. وقد تم تشغيل بضع مئات منهم شخصيًا من قبل مسؤول الصفحة لرئيس هندوراس. كان من الواضح أن هذا الشخص لديه قدر كبير من الثقة على وسائل التواصل الاجتماعي في حكومة هندوراس. ولم يخفوا حتى حقيقة أنهم كانوا يستخدمون آلاف الأصول المزيفة للتلاعب بمواطنيهم.

من اخترع البطارية الذرية

وهكذا منذ البداية ، كنت ساذجًا جدًا. اعتقدت ، حسنًا ، لقد وجدت هذا. هؤلاء الناس كانوا أغبياء. أمسكنا بهم. سأسلمهم للآخرين. سوف يتولون الأمر. يمكنني تقليص وظيفتي الفعلية وسيكون كل شيء على ما يرام. بدلاً من ذلك ، كانت بداية محنة عبثية لمدة عامين ، لأن ما حدث عندما قمت بتربيته كان اتفق الجميع على أن هذا أمر فظيع. لم يكن مثيرًا للجدل أن هذا كان سيئًا. اتفق الجميع على أنه لا ينبغي السماح بذلك ، لكن السؤال كان ماذا نفعل حيال ذلك؟ هل لدينا القدرة على التصرف حيال ذلك؟ هل من ضمن سياساتنا التصرف بناءً عليه ، وما إلى ذلك. منذ البداية ، تحدثت عن ذلك إلى كل من يبدو على صلة به. لقد تحدثت عن ذلك إلى Pages Integrity ، إلى Group Integrity. تحدثت عن ذلك إلى فريق النزاهة المدنية. حاولت إثارة اهتمام استخبارات التهديد. في النهاية كنت أتحدث إلى كل من سيستمع. لقد تحدثت إلى الجميع حتى نائب الرئيس جاي روزين. في الأساس كان الأمر أشبه بالتحدث مع الريح ، مثل محاولة إفراغ المحيط بمصفاة. في النهاية ، اكتشفت أن أفضل طريقة للحصول على النتائج لم تكن غالبًا من خلال محاولة المرور عبر القنوات المناسبة ، ولكن من خلال تقديم شكوى علنية داخل الشركة على Workplace ، وهو موقع Facebook للمكتب بشكل أساسي ، ونشر منشورات Workplace حول الموقف الذي يفعله الآخرون في الشركة يمكن أن ترى. وكان الكثير منهم بالطبع منزعجًا من ذلك لأن هذا لم يكن نوع الشركة التي اعتقدوا أنهم يعملون بها ويريدون العمل من أجلها. لا أعرف ما إذا كان الأمر كذلك بهذه الطريقة ، من قبل الآخرين ، لكن في النهاية قام Facebook في النهاية بإلغاء عملية الحكومة الهندورية ، والتي كانت أخبارًا دولية.

بعد أسابيع قليلة ، عادت العملية بطريقة مختلفة. عندما حصلنا على قرار الإنزال في هندوراس ، كنت لا أزال ساذجًا ومثاليًا في البداية. اعتقدت ، حسنًا ، قبل هذا كان الجميع يقول أنه ليس لدينا سابقة ، لم نكن نعرف ماذا نفعل ، لكن الآن لدينا السابقة. الآن يمكننا القول ، لقد أنشأنا هذه السابقة للقيام بذلك. يمكننا حلها بهذه الطريقة. وبعد ذلك فكرت ، حسنًا ، يمكنني إرسالها فوق كل الآخرين الذين وجدتهم. سوف يعتنون بها. لم يهتموا به. عندما استخدمت القنوات المناسبة لإرسالها ، ذهبوا بشكل أساسي إلى آلة تمزيق الصندوق الأسود حيث تم تجاهلهم.

في النصف الثاني من عام 2019 ، رفعت وعلمت حوالي ثلاثين شبكة أخرى من الأنشطة السياسية الزائفة من أفغانستان إلى ألبانيا ، ومن البرازيل إلى بوليفيا ، ومن الهند إلى إندونيسيا. ولذا فقد استغرق الأمر بعض الوقت لمعرفة الطريقة الصحيحة للحصول على النتائج فعليًا وجعل الناس يستجيبون بالفعل. كان يعتمد على ما إذا كانوا مرتبطين بالسياسيين والشخصيات البارزة ، لأنه إذا كان هناك شيء مرتبط بشخصية سياسية ، يصبح من الصعب للغاية إزالته. سأعطيك رقمًا الآن لأنني لم أغادر عندما رأوه لأول مرة. نظرًا لأن أذربيجان تضم أقل من 3٪ من سكان العالم ، وهي نسبة أصغر بكثير ، فقد كانت شبكتها تنشئ ربما مليون تعليق كل شهر. وشكل هذا ما يقرب من 3٪ من جميع التعليقات بواسطة Pages على منشورات الصفحات الأخرى في جميع أنحاء العالم ، سواء كانت مدنية أو غير مدنية.


لكن حتى عندما ألقي القبض على الحكومة الأذربيجانية متلبسة بالجرم ، استغرق الأمر أكثر من عام حتى تم إنهاء العملية. عندما وجدت أن الحكومة الأذربيجانية قد أقامت مزرعة حصيلة ضخمة من النشطاء المأجورين لمضايقة المعارضة بكميات كبيرة. كان هذا سيئا بشكل واضح جدا. من الواضح أنها مرتبطة بحكومة أذربيجان. وكان حجمه هائلاً. لكن عندما قمنا بإزالتها ، أنا متأكد من وجود فريق في مكان ما على Facebook ، كان منزعجًا جدًا من سبب انخفاض الأرقام فجأة دون سبب تمكنهم من اكتشافه. بين اكتشافي وانسحاب أذربيجان ، قامت بقمع المعارضة ، واعتقلت شخصيات معارضة غير محسّنة ، وبدأت حربًا مع أرمينيا.

أصبح العمل على هذه القضية أكثر إرهاقًا. من الصعب ، بشكل فردي ، رؤية التأثير الذي أحدثه أي من هذا ، ولكن سرعان ما أصبح واضحًا أنه مرتبط بالنشاط في الدول التي كانت تكافح بسبب وجود الكثير مما يحدث. وكنت أنا الشخص الذي يتخذ القرارات بشأن ما هو مهم بشكل شخصي. لقد كان الأمر متروكًا تمامًا لي تمامًا لما اخترت المضي قدمًا فيه ، وما اخترت تحديده حسب الأولوية ومحاولة جذب الانتباه إليه. وقد اخترت عدم إعطاء الأولوية لبوليفيا لأنها كانت صغيرة جدًا من الناحية الموضوعية وليست ذكية جدًا. بعد فترة طويلة من الانتخابات ، كانت هناك احتجاجات جماهيرية تصاعدت إلى ما سمي بدلاً من ذلك بانقلاب أو انتفاضة شعبية أدت إلى سقوط الحكومة البوليفية. أعلم أن هذا لم يكن ينبغي أن يكون مسؤوليتي شخصيًا ، لكن في نهاية المطاف ، لم يكن هناك أي شخص آخر تقدم. ولذا اخترت أن أفعل ذلك بنفسي. ولأنني وضعت نفسي في هذا الموقف ، كان الأمر متروكًا لي بشكل أساسي ، ما كان مهمًا بدرجة كافية للتركيز عليه ، وأريد أن أكون واضحًا. كان هناك دائمًا أشخاص آخرون كانوا مسؤولين عن صقل نتائجي ومسؤولين عن إزالتها بالفعل في النهاية.

قررت منذ البداية أنني سأكون المدعي العام فقط ، وبصورة أساسية ، سأبذل قصارى جهدي حتى لا أكون قاضياً ، وهيئة محلفين ، وجلاداً ، لأنني كنت أمتلك بالفعل الكثير من السلطة بين يدي. لا أعتقد أن أي شخص يجب أن يكون في موقع يقرر ما إذا كانت ألبانيا أهم من أذربيجان أو أسئلة من هذا القبيل. لأنهم وجدوا أيضًا في ذلك دفتر الحسابات التي كانت مرتبطة بدعم أعضاء الحكومة الألبانية. لكن ما وجدته في أذربيجان كان أسوأ من الناحية الموضوعية من حيث الحجم والحجم. ولذا علمت أنني أمتلك رأس المال السياسي فقط للدفع ببطء شديد من خلال واحد تلو الآخر. ولذا اخترت التركيز على أذربيجان. ما زال يحدث في ألبانيا. أجرت ألبانيا انتخابات عامة في وقت سابق من هذا العام ، وكانت لا تزال جارية في ذلك الوقت. أعني ، بعد أكثر من عامين من اكتشافه ، ما زال Facebook لم يفعل شيئًا.

ولا يسعني إلا أن أعتذر بغزارة للشعب الألباني. لم يكن ينبغي أن أكون في موقف أحتاج أن أختار فيه ، هل ألبانيا أو أذربيجان أكثر أهمية. أنا متمسك بقراري لأن ما وجدوه في أذربيجان كان أسوأ من الناحية الموضوعية ، ولكن لا ينبغي أن يكون هناك شخص واحد مسؤول عن مثل هذه الأسئلة. كانت هناك العديد من التقارير الإخبارية حول كيف أن Facebook يعاني من نقص الموارد في مجال النزاهة. لم أر أي تقارير إخبارية تشكو من أن Facebook لديه موارد قليلة جدًا في تسويق الإعلانات. وأعتقد أن ذلك يوضح مجلدات حول أولويات الشركة في النهاية.

ما وجدته أصعب كان في بعض البلدان الاستبدادية. كانت المعارضة الديمقراطية تستفيد من تكتيكات التوظيف والمالحة. وكان لدي أكثر من التفكير في تلك الحالات. لكنني ما زلت أحبطهم دون تردد لأنني كنت أؤمن بشدة أن ولائي كان لأفكار الديمقراطية وسيادة القانون. وتلك الديمقراطية بشكل أساسي لا يمكن أن تقف على سرير من الأكاذيب. كموظف بمستوى منخفض للغاية في أوقات فراغي ، دون أي رقابة على الإطلاق كنت أتخذ القرارات بشكل شخصي ، والتي أثرت بشكل مباشر على الحكومات الوطنية.

من الصعب الإجابة على ما أعتقد أنه يجب أن يحدث ، لأن جزءًا منه يشبه ، يشبه السؤال عما إذا كان بإمكانك جعل السماء بأي لون ، وما اللون الذي تريده أن يكون؟ لأنه سؤال نظري في الغالب ولن يكون لإجابتك أي تأثير حقيقي على العالم الحقيقي.

لا يمكنني أن أجعل مارك يغير رأيه أكثر مما يمكنهم جعل السماء وردية بين عشية وضحاها. هذا متروك للأشخاص الذين يستمعون إلي ، لأشخاص مثلك ، لأنني لا أستطيع تغيير أي شيء بنفسي. لدي فقط القوة التي يمنحها لي الآخرون. إذا كنت تريد تغيير الأشياء ، فيجب أن تسأل ممثليك شخصيًا لأن هذه مشكلة في النهاية لا يعاني منها عدد قليل من الأفراد. هذه هي المشكلة التي يتحمل فيها المجتمع ، والديمقراطية ، والخطاب المدني ككل التكاليف. وكشركة ، ليس لدى Facebook أي حافز لإصلاح هذا بعد الآن أكثر مما توقعنا أن تقوم شركة Philip Morris بتطوير سجائر غير مسببة للإدمان.

جينيفر: كنت هناك عندما هو مشروع تاريخ شفوي يعرض قصص الأشخاص الذين شهدوا أو حققوا اختراقات في الذكاء الاصطناعي والحوسبة.

هل لديك قصة تروى؟ تعرف شخصا يفعل؟ أرسل لنا بريدًا إلكترونيًا على podcasts في مراجعة التكنولوجيا دوت كوم.

[ميدرول]

[الائتمانات]

جينيفر: أنتج هذه الحلقة بمساعدة أنتوني جرين وإيما سيليكنز. تم تحريرنا بواسطة نيال فيرث ومات هونان. مهندس المزيج لدينا هو Garret Lang ... وموسيقانا الرئيسية هي Jacob Gorski.

شكرًا على الاستماع ، أنا جينيفر سترونج.

[معرف TR]

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به