أظهر تقرير داخلي أن مزارع ترول وصلت إلى 140 مليون أمريكي شهريًا على Facebook قبل انتخابات 2020

استعراض تكنولوجيا معهد ماساتشوستس للتكنولوجيا | عناصر Envato



تحديث: بعد نشر هذه القصة ، حذف Facebook صفحتين من صفحات مزرعة الترول الخمس التي حددناها.

في الفترة التي سبقت انتخابات عام 2020 ، وهي الأكثر إثارة للجدل في تاريخ الولايات المتحدة ، كانت أكثر صفحات فيسبوك شيوعًا للمحتوى المسيحي والأمريكي الأسود تديرها مزارع ترول في أوروبا الشرقية. كانت هذه الصفحات جزءًا من شبكة أكبر وصلت بشكل جماعي إلى ما يقرب من نصف الأمريكيين ، وفقًا لتقرير داخلي للشركة ، وحققت هذا الوصول ليس من خلال اختيار المستخدم ولكن في المقام الأول كنتيجة لتصميم منصة Facebook الخاصة وخوارزمية المتعطشة للمشاركة.



كيف أدمن Facebook على نشر المعلومات الخاطئة

أعطتها خوارزميات الذكاء الاصطناعي للشركة عادة نهمة للأكاذيب وخطاب الكراهية. الآن الرجل الذي بناها لا يستطيع حل المشكلة.

وجد التقرير ، الذي كُتب في أكتوبر 2019 وحصلت عليه MIT Technology Review من موظف سابق في Facebook غير مشارك في البحث عنه ، أنه بعد انتخابات عام 2016 ، فشل Facebook في إعطاء الأولوية للتغييرات الأساسية لكيفية ترويج منصته للمعلومات وتوزيعها. وبدلاً من ذلك ، اتبعت الشركة استراتيجية whack-a-mole التي تضمنت مراقبة وقمع نشاط الفاعلين السيئين عندما انخرطوا في الخطاب السياسي ، وإضافة بعض الحواجز التي حالت دون حدوث أسوأ الأسوأ.

وأشار التقرير إلى أن هذا النهج لم يفعل الكثير لوقف المشكلة الأساسية. كانت مزارع ترول - وهي مجموعات محترفة تعمل بطريقة منسقة لنشر محتوى مثير للاستفزاز ، وغالبًا ما تكون دعاية ، على الشبكات الاجتماعية - تبني جماهير ضخمة من خلال إدارة شبكات من صفحات الفيسبوك. وصل المحتوى الخاص بهم إلى 140 مليون مستخدم أمريكي شهريًا - 75٪ منهم لم يتابع أيًا من الصفحات مطلقًا. كانوا يشاهدون المحتوى لأن نظام التوصية بالمحتوى في Facebook دفعه إلى خلاصات الأخبار الخاصة بهم.



بدلاً من اختيار المستخدمين لتلقي المحتوى من هؤلاء الممثلين ، فإن منصتنا هي التي تختار منح [مزارع الترول هذه] نطاقًا هائلاً ، كما كتب مؤلف التقرير ، جيف ألين ، عالم البيانات السابق رفيع المستوى في Facebook.

قال جو أوزبورن ، المتحدث باسم Facebook ، في بيان إن الشركة كانت تحقق بالفعل في هذه الموضوعات وقت تقرير Allen ، مضيفًا: منذ ذلك الوقت ، قمنا بتشكيل فرق ، ووضع سياسات جديدة ، وتعاوننا مع نظرائنا في الصناعة للتصدي لها. هذه الشبكات. لقد اتخذنا إجراءات إنفاذ صارمة ضد هذه الأنواع من المجموعات الأجنبية والمحلية غير الأصلية وشاركنا النتائج علنًا على أساس ربع سنوي.

في عملية التحقق من صحة هذه القصة قبل وقت قصير من نشرها ، وجدت MIT Technology Review أن خمس صفحات من صفحات troll-farm المذكورة في التقرير ظلت نشطة.

هذه هي أكبر صفحة مزرعة ترول تستهدف الأمريكيين من أصل أفريقي في أكتوبر 2019. ولا تزال نشطة على Facebook.



وجد التقرير أن مزارع الترول كانت تصل إلى نفس المجموعات الديموغرافية التي حددتها وكالة أبحاث الإنترنت المدعومة من الكرملين (IRA) خلال انتخابات عام 2016 ، والتي استهدفت المسيحيين والأمريكيين السود والأمريكيين الأصليين. 2018 تحقيق BuzzFeed News وجدت أن عضوًا واحدًا على الأقل من الجيش الجمهوري الإيرلندي ، متهم بالتدخل المزعوم في الانتخابات الأمريكية لعام 2016 ، قد زار أيضًا مقدونيا حول ظهور أول مزارع ترول ، على الرغم من أنه لم يعثر على دليل ملموس على وجود صلة. (قال فيسبوك إن تحقيقاته لم تكشف عن وجود صلة بين الجيش الجمهوري الإيرلندي ومزارع الترول المقدونية أيضًا).

هذا امر غير طبيعي. كتب ألين أن هذا ليس بصحة جيدة. لقد قمنا بتمكين الجهات الفاعلة غير الأصلية من تجميع المتابعين الهائلين لأغراض غير معروفة إلى حد كبير ... تشكل حقيقة أن الجهات الفاعلة التي لها روابط محتملة مع الجيش الجمهوري الإيرلندي إمكانية الوصول إلى أعداد ضخمة من الجمهور في نفس المجموعات الديموغرافية المستهدفة من قبل الجيش الجمهوري الإيرلندي تشكل خطرًا هائلاً على انتخابات الولايات المتحدة لعام 2020 .

طالما وجدت مزارع الترول نجاحًا في استخدام هذه التكتيكات ، فإن أي فاعل سيئ آخر يمكنه ذلك أيضًا ، تابع: إذا كانت Troll Farms تصل إلى 30 مليون مستخدم أمريكي بمحتوى يستهدف الأمريكيين من أصل أفريقي ، فلا ينبغي أن نتفاجأ على الإطلاق إذا اكتشفنا الجيش الجمهوري الإيرلندي يوجد حاليًا أيضًا جماهير كبيرة هناك.

كتب ألين التقرير باعتباره الدفعة الرابعة والأخيرة من جهد دام عام ونصف لفهم مزارع الترول. غادر الشركة في نفس الشهر ، ويرجع ذلك جزئيًا إلى الإحباط من تجاهل القيادة لأبحاثه بشكل فعال ، وفقًا للموظف السابق في Facebook الذي قدم التقرير. رفض ألين التعليق.

هذه الشركة في كاليفورنيا يمكن أن تجعلها عفا عليها الزمن

يكشف التقرير عن الحالة المقلقة التي تركت فيها قيادة فيسبوك المنصة لسنوات ، على الرغم من الوعود العامة المتكررة بالتعامل بقوة مع التدخل الأجنبي في الانتخابات. تقوم MIT Technology Review بإتاحة التقرير الكامل ، مع تنقيح أسماء الموظفين ، لأنه يخدم المصلحة العامة.

تشمل آياته:

  • اعتبارًا من أكتوبر 2019 ، تم تشغيل حوالي 15000 صفحة على Facebook مع غالبية جمهور الولايات المتحدة من كوسوفو ومقدونيا ، وهما جهات فاعلة سيئة خلال انتخابات عام 2016.
  • بشكل جماعي ، وصلت صفحات المزرعة - التي يتعامل معها التقرير على أنها صفحة واحدة لأغراض المقارنة - إلى 140 مليون مستخدم أمريكي شهريًا و 360 مليون مستخدم عالمي أسبوعيًا. وصلت صفحة وول مارت إلى ثاني أكبر جمهور في الولايات المتحدة حيث بلغ عدد المشاهدين 100 مليون.
  • تم دمج صفحات مزرعة القزم أيضًا لتشكيل:
    • أكبر صفحة مسيحية أمريكية على Facebook ، 20 مرة أكبر من الصفحة التالية - تصل إلى 75 مليون مستخدم أمريكي شهريًا ، 95٪ منهم لم يتابع أيًا من الصفحات مطلقًا.
    • أكبر صفحة أمريكية من أصل أفريقي على Facebook ، أكبر بثلاث مرات من الصفحة التالية الأكبر - تصل إلى 30 مليون مستخدم أمريكي شهريًا ، 85٪ منهم لم يتابع أيًا من الصفحات مطلقًا.
    • ثاني أكبر صفحة للأمريكيين الأصليين على Facebook ، تصل إلى 400000 مستخدم شهريًا ، 90 ٪ منهم لم يتابعوا أيًا من الصفحات.
    • خامس أكبر صفحة نسائية على Facebook ، حيث تصل إلى 60 مليون مستخدم أمريكي شهريًا ، 90٪ منهم لم يتابعوا أيًا من الصفحات مطلقًا.
  • تؤثر مزارع ترول في المقام الأول على الولايات المتحدة ولكنها تستهدف أيضًا المملكة المتحدة وأستراليا والهند ودول أمريكا الوسطى والجنوبية.
  • أجرى Facebook العديد من الدراسات التي تؤكد أن المحتوى الذي من المرجح أن يتلقى تفاعل المستخدم (الإعجابات والتعليقات والمشاركات) من المرجح أن يكون من النوع المعروف بأنه سيء. ومع ذلك ، استمرت الشركة في ترتيب المحتوى في ملفات الأخبار الخاصة بالمستخدم وفقًا لما سيحصل على أعلى تفاعل.
  • يحظر Facebook الصفحات من نشر المحتوى الذي يتم نسخه ولصقه من أجزاء أخرى من النظام الأساسي ، ولكنه لا يفرض السياسة ضد الجهات الفاعلة السيئة المعروفة. هذا يجعل من السهل على الممثلين الأجانب الذين لا يتحدثون اللغة المحلية أن ينشروا محتوى منسوخًا بالكامل ولا يزالون يصلون إلى جمهور عريض. في وقت من الأوقات ، ذهب ما يصل إلى 40٪ من مشاهدات الصفحات على صفحات الولايات المتحدة إلى تلك التي تعرض محتوى غير أصلي أو مواد ذات أصالة محدودة.
  • شقت مزارع ترول طريقها سابقًا إلى برامج الشراكة للمقالات الفورية و Ad Breaks على Facebook ، والتي تم تصميمها لمساعدة المؤسسات الإخبارية والناشرين الآخرين على تحقيق الدخل من مقالاتهم ومقاطع الفيديو الخاصة بهم. في مرحلة ما ، وبفضل الافتقار إلى فحوصات الجودة الأساسية ، ذهب ما يصل إلى 60٪ من قراءات المقالات الفورية إلى محتوى تم سرقته من مكان آخر. هذا جعل من السهل على مزارع الترول الاختلاط دون أن يلاحظها أحد ، وحتى تلقي مدفوعات من Facebook.

كيف يمكّن Facebook مزارع الترول ويزيد جمهورهم

يبحث التقرير بشكل خاص في مزارع الترول الموجودة في كوسوفو ومقدونيا ، والتي يديرها أشخاص لا يفهمون بالضرورة السياسة الأمريكية. ومع ذلك ، نظرًا للطريقة التي تم بها تصميم أنظمة المكافآت الإخبارية على Facebook ، فلا يزال بإمكانها التأثير بشكل كبير على الخطاب السياسي.

لقد خاطرت بكل شيء لفضح Facebook. الآن هي تحكي قصتها.

كشفت صوفي زانج ، عالمة البيانات السابقة في فيسبوك ، أنها تتيح التلاعب السياسي العالمي ولم تفعل شيئًا يذكر لإيقافه.

في التقرير ، حدد ألين ثلاثة أسباب تجعل هذه الصفحات قادرة على اكتساب مثل هذا العدد الكبير من الجماهير. أولاً ، لا يعاقب Facebook الصفحات على نشر محتوى غير أصلي تمامًا. إذا كان شيء ما قد انتشر من قبل ، فمن المحتمل أن ينتشر مرة أخرى عند نشره مرة ثانية. هذا يجعل من السهل حقًا على أي شخص تكوين عدد كبير من المتابعين بين الأمريكيين السود ، على سبيل المثال. يمكن للممثلين السيئين ببساطة نسخ المحتوى الفيروسي من صفحات الأمريكيين السود ، أو حتى Reddit و Twitter ، ولصقه في صفحتهم الخاصة - أو أحيانًا عشرات الصفحات.

ثانيًا ، يدفع Facebook المحتوى الجذاب على الصفحات إلى الأشخاص الذين لا يتابعونها. عندما يعلق أصدقاء المستخدمين على منشورات أو يعيدون نشرها على إحدى هذه الصفحات ، فسيشاهدها هؤلاء المستخدمون في ملفات الأخبار الخاصة بهم أيضًا. كلما زاد التعليق على محتوى الصفحة أو مشاركته ، زاد انتقالها إلى ما وراء متابعيها. وهذا يعني أن مزارع الترول ، التي تركز استراتيجيتها على إعادة نشر المحتوى الأكثر جاذبية ، لديها قدرة هائلة على الوصول إلى جماهير جديدة.

ثالثًا ، يدفع نظام التصنيف في Facebook مزيدًا من المحتوى الجذاب إلى أعلى في ملفات الأخبار للمستخدمين. بالنسبة للجزء الأكبر ، فإن الأشخاص الذين يديرون مزارع الترول لديهم دوافع مالية وليست سياسية ؛ ينشرون كل ما يحظى بأكبر قدر من المشاركة ، مع القليل من الاهتمام بالمحتوى الفعلي. ولكن نظرًا لأن المعلومات المضللة ، والاطلاع على النقرات ، والمحتوى المثير للانقسام سياسيًا من المرجح أن يتلقى تفاعلًا كبيرًا (كما تقر تحليلات Facebook الداخلية) ، ينجذب المتصيدون إلى نشر المزيد منه بمرور الوقت ، كما يقول التقرير.

نتيجة لذلك ، في أكتوبر 2019 ، كانت جميع الصفحات الخمسة عشر الأولى التي تستهدف الأمريكيين المسيحيين ، و 10 من أفضل 15 صفحة على Facebook تستهدف الأمريكيين السود ، وأربع من أفضل 12 صفحة على Facebook تستهدف الأمريكيين الأصليين تديرها مزارع ترول.

كتب ألين أن منصتنا أعطت أكبر صوت في المجتمع المسيحي الأمريكي إلى حفنة من الممثلين السيئين ، الذين ، بناءً على ممارساتهم في الإنتاج الإعلامي ، لم يذهبوا إلى الكنيسة أبدًا. لقد أعطت منصتنا أكبر صوت في مجتمع الأمريكيين من أصل أفريقي إلى حفنة من الممثلين السيئين ، الذين ، بناءً على ممارساتهم في الإنتاج الإعلامي ، لم يتفاعلوا مطلقًا مع أمريكي من أصل أفريقي.

مراجعة: لماذا لا يستطيع Facebook أبدًا إصلاح نفسه

في حقيقة قبيحة ، كشفت المراسلتان شيرا فرنكل وسيسيليا كانغ عن عيوب Facebook الأساسية من خلال سرد مفصل للسنوات التي انقضت بين عمليتين انتخابيتين في الولايات المتحدة.

كتب لي دائمًا أنه سيكون غريبًا للغاية ... ومروعًا حقًا. يبدو واضحًا تمامًا أنه حتى يتم إصلاح هذا الموقف ، سنشعر دائمًا بالرياح المعاكسة الخطيرة في محاولة إنجاز مهمتنا.

كما اقترح التقرير حلاً محتملاً. هذه ليست المرة الأولى التي تحارب فيها البشرية جهات فاعلة سيئة في أنظمة وسائطنا البيئية ، كما كتب ، مشيرًا إلى استخدام Google لما يُعرف باسم مقياس السلطة المستند إلى الرسم البياني - والذي يقيم جودة صفحة الويب وفقًا لعدد مرات الاستشهاد بها و يتم الاستشهاد بها من قبل صفحات الويب الأخرى ذات الجودة — لتقليل الجهات الفاعلة السيئة في تصنيفات البحث الخاصة بها.

هل يمكنك شراء حبوب الإجهاض عبر الإنترنت

وتابع: لدينا تطبيقنا الخاص لمقياس سلطة قائم على الرسم البياني. إذا أعطى النظام الأساسي مزيدًا من الاهتمام لهذا المقياس الموجود في صفحات الترتيب ، فقد يساعد ذلك في قلب الاتجاه المزعج الذي تصل فيه الصفحات إلى أكبر عدد من الجماهير.

كتب ألين أنه عندما تعطي تصنيفات Facebook الأولوية للمشاركة ، تتفوق صفحات المزرعة على الصفحات الأصلية. لكن 90٪ من صفحات Troll Farm لديها 0 بالضبط سلطة رسم بيانية ... من الواضح أن [الصفحات الأصلية] تفوز.

قضايا منهجية

يكشف البحث في جميع صفحات troll-farm المدرجة في التقرير أن خمس صفحات لا تزال نشطة بعد عامين تقريبًا:

  • صفحة تسمى My Baby Daddy Ain't Shit ، والتي كانت أكبر صفحة على Facebook تستهدف الأمريكيين من أصل أفريقي في أكتوبر 2019.
  • صفحة تسمى سافاج هود ، تستهدف الأمريكيين من أصل أفريقي.
  • صفحة تسمى مقاطع فيديو هود ، تستهدف الأمريكيين من أصل أفريقي.
  • صفحة تسمى الغرض من الحياة تستهدف المسيحيين.
  • صفحة تسمى روح النسر تستهدف الهنود الحمر.

صفحة مزرعة ترول تستهدف المسيحيين الأمريكيين.

أحدث موقع فيسبوك مثير للجدل تقرير المحتوى المعروض على نطاق واسع يشير إلى أن بعض نقاط الضعف الأساسية التي استغلتها مزارع الصيد لا تزال قائمة. خمسة عشر من أصل 19 وظيفة الأكثر مشاهدة المدرجة المدرجة في التقرير تم سرقتهم من المنشورات الأخرى التي انتشرت سابقًا على Facebook أو منصة أخرى ، وفقًا لتحليل من Casey Newton في The Verge.

تقول سامانثا برادشو ، زميلة أبحاث ما بعد الدكتوراه في جامعة ستانفورد والتي تدرس تقاطع المعلومات المضللة ووسائل التواصل الاجتماعي والديمقراطية ، إن التقرير يتحدث عن الكثير من المشاكل النظامية الأعمق في النظام الأساسي وخوارزمياتهم بالطريقة التي يروجون بها لأنواع معينة من المحتوى لمستخدمين معينين ، كل ذلك يعتمد فقط على هذه القيمة الأساسية للنمو. إذا لم يتم إصلاحها ، فستستمر في خلق حوافز اقتصادية مشوهة للأطراف السيئة ، كما تضيف: هذه هي المشكلة.

اقرأ التقرير الكامل هنا:

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به