كيف يمول فيسبوك وجوجل المعلومات المضللة العالمية

يدفع عمالقة التكنولوجيا ملايين الدولارات لمشغلي صفحات clickbait ، ويمولون تدهور النظم البيئية للمعلومات في جميع أنحاء العالم.



الضوء والظل على الأرض

جيتي

20 نوفمبر 2021

ميانمار ، مارس 2021.





شهر بعد سقوط الحكومة الديمقراطية.

متصفحك الحالي لا يدعم تشغيل الفيديو. متصفحك الحالي لا يدعم تشغيل الفيديو.

أظهر مقطع فيديو مباشر على فيسبوك مئات الأشخاص يحتجون على الانقلاب العسكري في شوارع ميانمار.

كان لديها ما يقرب من 50000 سهم وأكثر من 1.5 مليون مشاهدة ، في بلد يزيد عدد سكانه قليلاً عن 54 مليون شخص.



استخدم المراقبون ، غير القادرين على رؤية الأحداث على الأرض ، اللقطات ، إلى جانب مئات البث المباشر الأخرى ، لتتبع وتوثيق الوضع الذي يتكشف. (قامت MIT Technology Review بتعتيم أسماء وصور الملصقات لتجنب تعريض سلامتها للخطر).

ولكن بعد أقل من يوم واحد ، تم بث نفس الفيديو مرة أخرى عدة مرات ، ولا يزال كل واحد يدعي أنه مباشر.

في خضم أزمة سياسية ضخمة ، لم تعد هناك طريقة لتمييز ما هو حقيقي وما هو غير حقيقي.

في عام 2015 ، كانت ستة من 10 مواقع في ميانمار التي حصلت على أكبر قدر من المشاركة على Facebook من وسائل الإعلام الشرعية ، وفقًا لبيانات من CrowdTangle ، وهي أداة تديرها Facebook. بعد مرور عام ، عرض Facebook (الذي تم تغيير علامته التجارية مؤخرًا إلى Meta) وصولاً عالميًا إلى المقالات الفورية ، وهو برنامج يمكن أن يستخدمه ناشرو البرامج لتحقيق الدخل من محتواهم.



بعد عام واحد من هذا الطرح ، كان الناشرون الشرعيون يمثلون اثنين فقط من أفضل 10 ناشرين على Facebook في ميانمار. بحلول عام 2018 ، كانوا يمثلون صفرًا. وبدلاً من ذلك ، ذهب كل التفاعل إلى مواقع الأخبار المزيفة ومواقع النقر. في بلد حيث يعتبر Facebook مرادفًا للإنترنت ، طغى المحتوى منخفض الدرجة على مصادر المعلومات الأخرى.

خلال هذا التدهور السريع للبيئة الرقمية في ميانمار ، هاجمت مجموعة مسلحة من الروهينجا - وهي أقلية عرقية يغلب عليها المسلمون - وقتلت عشرات من أفراد قوات الأمن ، في أغسطس من عام 2017. عندما بدأت الشرطة والجيش في قمع الروهينجا ودفع الدعاية المعادية للمسلمين ، انتشرت المقالات الإخبارية الكاذبة التي تستفيد من هذه المشاعر. لقد زعموا أن المسلمين كانوا مسلحين ، وأنهم كانوا يتجمعون في حشود 1000 شخص ، وأنهم كانوا قاب قوسين أو أدنى لقتلك.

لا يزال من غير الواضح اليوم ما إذا كانت الأخبار المزيفة تأتي بشكل أساسي من جهات فاعلة سياسية أو من جهات ذات دوافع مالية. لكن في كلتا الحالتين ، كان الحجم الهائل للأخبار المزيفة والطعم المرئي بمثابة وقود لإشعال نيران التوترات العرقية والدينية الشديدة الخطورة بالفعل. لقد حولت الرأي العام وصعدت الصراع ، مما أدى في النهاية إلى مقتل 10000 من الروهينجا ، وفقًا لتقديرات متحفظة ، وتشريد 700000 آخرين.

في عام 2018 ، توصل تحقيق أجرته الأمم المتحدة إلى أن العنف ضد الروهينجا يشكل إبادة جماعية وأن فيسبوك لعب دورًا حاسمًا في الفظائع. بعد أشهر ، اعترف Facebook بأنه لم يفعل ما يكفي للمساعدة في منع استخدام منصتنا لإثارة الانقسام والتحريض على العنف خارج الإنترنت.

خلال الأسابيع القليلة الماضية ، أعادت الكشف عن أوراق فيسبوك ، وهي مجموعة من الوثائق الداخلية المقدمة إلى الكونجرس وكونسورتيوم من المؤسسات الإخبارية من قبل المخبرين فرانسيس هوغن ، تأكيد ما كانت مجموعات المجتمع المدني تقوله منذ سنوات: تضخيم خوارزميات فيسبوك للمحتوى التحريضي. إلى جانب فشلها في إعطاء الأولوية للاعتدال في المحتوى خارج الولايات المتحدة وأوروبا ، أدى ذلك إلى انتشار خطاب الكراهية والمعلومات المضللة ، مما أدى إلى زعزعة استقرار البلدان بشكل خطير في جميع أنحاء العالم.

لكن هناك قطعة مهمة مفقودة من القصة. لا يقوم Facebook فقط بتضخيم المعلومات المضللة.

تقوم الشركة أيضًا بتمويلها.

مراجعة تقنية معهد ماساتشوستس للتكنولوجيا وجد التحقيق ، استنادًا إلى مقابلات الخبراء ، وتحليل البيانات ، والوثائق التي لم يتم تضمينها في أوراق Facebook ، أن Facebook و Google يدفعان ملايين الدولارات للإعلان لتمويل الجهات الفاعلة clickbait ، مما يؤدي إلى تدهور النظم البيئية للمعلومات في جميع أنحاء العالم.

تشريح مزرعة طعم النقر

موقع التواصل الاجتماعي الفيسبوك أطلقت برنامج المقالات الفورية في عام 2015 مع عدد قليل من الناشرين الأمريكيين والأوروبيين. وصفت الشركة البرنامج بأنه وسيلة لتحسين أوقات تحميل المقالات وخلق تجربة مستخدم أكثر رشاقة.

كيف أدمن Facebook على نشر المعلومات الخاطئة

أعطتها خوارزميات الذكاء الاصطناعي للشركة عادة نهمة للأكاذيب وخطاب الكراهية. الآن الرجل الذي بناها لا يستطيع حل المشكلة.

كان هذا هو البيع العام. لكن هذه الخطوة أيضًا استحوذت بسهولة على دولارات الإعلانات من Google. قبل المقالات الفورية ، كانت المقالات المنشورة على Facebook تعيد التوجيه إلى متصفح ، حيث يتم فتحها على موقع الويب الخاص بالناشر. يقوم موفر الإعلانات ، عادةً Google ، بالاستفادة من أي مشاهدات أو نقرات للإعلان. مع المخطط الجديد ، ستفتح المقالات مباشرة داخل تطبيق Facebook ، وستمتلك Facebook المساحة الإعلانية. إذا قام ناشر مشارك أيضًا بالاشتراك في تحقيق الدخل من خلال شبكة إعلانات Facebook ، المسماة Audience Network ، فيمكن لـ Facebook إدراج الإعلانات في قصص الناشر والحصول على 30٪ من الأرباح.

سرعان ما فقدت المقالات الفورية شعبية مع مجموعتها الأصلية من كبار الناشرين. بالنسبة لهم ، لم تكن المدفوعات عالية بما يكفي مقارنة بأشكال تحقيق الدخل الأخرى المتاحة. لكن هذا لم يكن صحيحًا بالنسبة للناشرين في العالم الجنوبي ، الذي بدأه Facebook القبول في البرنامج عام 2016 . في عام 2018 ، أعلنت الشركة عن الدفع 1.5 مليار دولار للناشرين ومطوري التطبيقات (الذين يمكنهم أيضًا المشاركة في Audience Network). بحلول عام 2019 ، وصل هذا الرقم عدة بلايين .

في وقت مبكر ، كان فيسبوك يمارس القليل من مراقبة الجودة على أنواع الناشرين المنضمين إلى البرنامج. كما أن تصميم النظام الأساسي لم يعاقب المستخدمين بشكل كافٍ على نشر محتوى متطابق عبر صفحات Facebook - بل إنه في الواقع يكافئ السلوك. قد يؤدي نشر نفس المقالة على صفحات متعددة إلى مضاعفة عدد المستخدمين الذين نقروا عليها وحققوا أرباحًا من الإعلانات.

استولت مزارع Clickbait حول العالم على هذا الخلل كاستراتيجية - وهي استراتيجية لا تزال تستخدمها حتى اليوم.

ستقوم المزرعة بإنشاء موقع ويب أو مواقع ويب متعددة ...

... لنشر محتوى مسروق في الغالب.

يسجل لهم معالعناصر الفوريةوشبكة الجمهورو

الذي يقوم بإدراج الإعلانات في مقالاتهم.

ثم تنشر هذه المقالات عبر مجموعة تصل إلى عشرات من صفحات Facebook في وقت واحد.

ظهرت الجهات الفاعلة Clickbait في ميانمار بين عشية وضحاها. من خلال الوصفة الصحيحة لإنتاج محتوى جذاب ومثير للذكريات ، يمكن أن يدروا آلاف الدولارات شهريًا من عائدات الإعلانات ، أو 10 أضعاف متوسط ​​الراتب الشهري - الذي يدفعه لهم Facebook مباشرةً.

وثيقة داخلية للشركة أولا ذكرت من قبل MIT Technology Review في أكتوبر ، يوضح أن Facebook كان على دراية بالمشكلة في وقت مبكر من عام 2019. وجد المؤلف ، عالم بيانات Facebook السابق جيف ألين ، أن هذه التكتيكات الدقيقة سمحت لمزارع clickbait في مقدونيا وكوسوفو بالوصول إلى ما يقرب من نصف مليون أمريكي قبل عام من انتخابات 2020 . شقت المزارع أيضًا طريقها إلى المقالات الفورية وفواصل الإعلانات ، وهو برنامج تسييل مشابه لإدراج إعلانات في مقاطع فيديو فيسبوك. في وقت ما ، كان ما يصل إلى 60 ٪ من المجالات المسجلة في المقالات الفورية تستخدم أساليب الكتابة غير المرغوب فيها التي تستخدمها مزارع clickbait ، وفقًا للتقرير. لم يعلق ألين ، الملتزم باتفاقية عدم إفشاء مع فيسبوك ، على التقرير.

على الرغم من ضغوط الباحثين الداخليين والخارجيين ، كافح فيسبوك لوقف الانتهاكات. في غضون ذلك ، كانت الشركة تطرح المزيد من برامج تحقيق الدخل لفتح مصادر جديدة للإيرادات. إلى جانب Ad Breaks لمقاطع الفيديو ، كان هناك IGTV Monetization لـ Instagram و In-Stream Ads لمقاطع الفيديو الحية. تلك الدفعة المتهورة من أجل زيادة عدد المستخدمين التي رأيناها - نشهد الآن دفعًا متهورًا لنمو الناشرين ، كما تقول فيكتوار ريو ، باحثة في الحقوق الرقمية تكافح الأضرار التي تحدثها الأنظمة الأساسية في ميانمار ودول أخرى في جنوب الكرة الأرضية.

وجدت MIT Technology Review أن المشكلة تحدث الآن على نطاق عالمي. ظهرت الآلاف من عمليات clickbait ، بشكل أساسي في البلدان التي توفر فيها مدفوعات Facebook مصدر دخل أكبر وأكثر ثباتًا من أشكال العمل الأخرى المتاحة. البعض عبارة عن فرق من الأشخاص والبعض الآخر أفراد ، يتم تحريضهم بواسطة أدوات آلية رخيصة تساعدهم في إنشاء المقالات وتوزيعها على نطاق واسع. لم تعد تقتصر على نشر المقالات أيضًا. يقومون بدفع مقاطع الفيديو المباشرة وتشغيل حسابات Instagram ، والتي يستثمرونها مباشرة أو يستخدمونها لجذب المزيد من الزيارات إلى مواقعهم.

جوجل هو أيضا مذنب. لقد غذى برنامج AdSense الخاص بها المزارع الموجودة في مقدونيا وكوسوفو والتي استهدفت الجماهير الأمريكية في الفترة التي سبقت الانتخابات الرئاسية لعام 2016. إنه برنامج AdSense الذي يحفز الممثلين الجدد في مجال اصطياد النقرات على YouTube لنشر محتوى فظيع ومعلومات مضللة فيروسية.

العديد من مزارع clickbait اليوم تربح من خلال المقالات الفورية و AdSense ، وتتلقى دفعات من كلتا الشركتين. ونظرًا لأن خوارزميات Facebook و YouTube تعزيز كل ما يجذب المستخدمين ، لقد أنشأوا نظامًا إيكولوجيًا للمعلومات حيث غالبًا ما يتم إعادة تدوير المحتوى الذي ينتشر على نظام أساسي على الآخر لزيادة التوزيع والأرباح إلى أقصى حد.

لم يكن هؤلاء الممثلون موجودين لولا المنصات ، كما يقول ريو.

أظهر تقرير داخلي أن مزارع ترول وصلت إلى 140 مليون أمريكي شهريًا على Facebook قبل انتخابات 2020

هذا امر غير طبيعي. هذا ليس بصحة جيدة.

ردًا على الأدلة التفصيلية التي قدمناها لكل شركة عن هذا السلوك ، عارض المتحدث باسم Meta Joe Osborne النتائج الأساسية التي توصلنا إليها ، قائلاً إننا قد أسأنا فهم المشكلة. وبغض النظر عن ذلك ، فقد استثمرنا في بناء حلول جديدة بقيادة الخبراء وقابلة للتطوير لهذه القضايا المعقدة لسنوات عديدة ، وسنواصل القيام بذلك ، على حد قوله.

أكدت Google أن هذا السلوك انتهك سياساتها وأنهت جميع قنوات YouTube التي تم تحديدها على أنها تنشر معلومات مضللة. قال المتحدث باسم YouTube ، Ivy Choi ، إننا نعمل بجد لحماية المشاهدين من محتوى مضلل أو محتوى مضلل عبر منصاتنا وقد استثمرنا بكثافة في الأنظمة المصممة لرفع مستوى المعلومات الموثوقة.

لا تستهدف مزارع Clickbait بلدانهم الأصلية فقط. باتباع مثال الجهات الفاعلة من مقدونيا وكوسوفو ، أدرك المشغلون الجدد أنهم بحاجة إلى فهم لا السياق المحلي للبلد ولا لغته لتحويل الغضب السياسي إلى دخل.

أقامت MIT Technology Review شراكة مع Allen ، الذي يقود الآن منظمة غير ربحية تسمى معهد النزاهة التي تجري بحثًا عن إساءة استخدام المنصة ، لتحديد الجهات الفاعلة المحتملة في خدمة clickbait على Facebook. ركزنا على نفاد الصفحات من كمبوديا وفيتنام - وهما دولتان من البلدان التي تعمل فيها عمليات clickbait الآن على جني الأموال من الوضع في ميانمار.

حصلنا على البيانات من CrowdTangle ، فريق التطوير الخاص به انفصلت الشركة في وقت سابق من هذا العام ، و من قوائم الناشرين على Facebook ، والتي تسجل الناشرين المسجلين في برامج تحقيق الدخل. كتب ألين خوارزمية تجميع مخصصة للعثور على الصفحات التي تنشر المحتوى بطريقة منسقة للغاية وتستهدف المتحدثين باللغات المستخدمة بشكل أساسي خارج البلدان التي تتم فيها العمليات. قمنا بعد ذلك بتحليل المجموعات التي لديها صفحة واحدة على الأقل مسجلة في برنامج تحقيق الدخل أو كانت تروّج بشدة لمحتوى من صفحة مسجلة في أحد البرامج.

وجدنا أكثر من 2000 صفحة في كلا البلدين متورطة في هذا السلوك الشبيه بـ clickbait. (قد يكون هذا أقل من العدد ، لأنه لا يتم تتبع جميع صفحات Facebook بواسطة CrowdTangle.) لدى العديد ملايين المتابعين ومن المحتمل أن يصلوا إلى المزيد من المستخدمين. في تقريره لعام 2019 ، وجد ألين ذلك 75٪ من المستخدمين الذين تعرضوا لمحتوى اصطياد النقرات من مزارع تعمل في مقدونيا وكوسوفو لم يتابعوا أبدًا أيًا من الصفحات. بدلاً من ذلك ، دفع نظام توصية المحتوى الخاص بـ Facebook إلى موجز الأخبار الخاص بهم.

عندما أرسلت MIT Technology Review إلى Facebook قائمة بهذه الصفحات وشرحًا تفصيليًا لمنهجيتنا ، وصف أوزبورن التحليل بأنه معيب. على الرغم من أن بعض الصفحات هنا قد تكون مدرجة في قوائم الناشرين الخاصة بنا ، إلا أن العديد منها لم يحقق دخلًا فعليًا على Facebook ، على حد قوله.

في الواقع ، لا تشير هذه الأرقام إلى أن جميع هذه الصفحات قد حققت أرباحًا من الإعلانات. بدلاً من ذلك ، يعد تقديرًا ، استنادًا إلى البيانات التي أتاحها Facebook للجمهور ، لعدد الصفحات المرتبطة بممثلي clickbait في كمبوديا وفيتنام التي جعلها Facebook مؤهلة لتحقيق الدخل على النظام الأساسي.

أكد أوزبورن أيضًا أن عددًا أكبر من الصفحات التي تديرها كمبوديا والتي تشبه clickbait والتي وجدناها مسجلة مباشرةً في أحد برامج تحقيق الدخل على Facebook مما كنا نعتقد في السابق. في تحليلنا ، وجدنا أن 35٪ من الصفحات في مجموعاتنا قد فعلت ذلك في العامين الماضيين. أما الـ 65٪ الآخرون فسيكون لديهم بشكل غير مباشر جلبت عائدات الإعلانات من خلال الترويج المكثف للمحتوى من الصفحة المسجلة إلى جمهور أوسع. قال أوزبورن ذلك في الواقع عن نصف من الصفحات التي وجدناها ، أو ما يقرب من 150 صفحة أخرى ، قد تم تسجيلها مباشرة في وقت ما باستخدام برنامج تحقيق الدخل ، وبشكل أساسي المقالات الفورية.

بعد فترة وجيزة من اتصالنا بـ Facebook ، بدأ مشغلو صفحات clickbait في ميانمار في الشكوى في المنتديات عبر الإنترنت من أن صفحاتهم قد تم طردها من المقالات الفورية. رفض أوزبورن الرد على أسئلتنا حول إجراءات الإنفاذ الأخيرة التي اتخذتها الشركة.

سعى Facebook باستمرار إلى إخراج هؤلاء الممثلين من برامجه. على سبيل المثال ، لا تزال 30 صفحة فقط من الصفحات التي تديرها كمبوديا تحقق الدخل ، على حد قول أوزبورن. لكن بياناتنا من قوائم ناشري Facebook تُظهر أن الإنفاذ غالبًا ما يتأخر وغير مكتمل - يمكن أن تظل صفحات clickbait ضمن برامج تحقيق الدخل لمئات الأيام قبل إزالتها. سيقوم نفس الممثلين أيضًا بتدوير صفحات جديدة بمجرد إلغاء تداول صفحاتهم القديمة.

ألين الآن المصدر المفتوح للكود اعتدنا على تشجيع الباحثين المستقلين الآخرين على تحسين عملنا والبناء عليه.

لدعم الصحافة في MIT Technology Review ، يرجى التفكير في أن تصبح مشتركًا.

وباستخدام نفس المنهجية ، وجدنا أيضًا أكثر من 400 صفحة مدارة في الخارج تستهدف جمهورًا أمريكيًا في الغالب في مجموعات ظهرت في قوائم ناشري Facebook على مدار العامين الماضيين. (لم نقم بتضمين صفحات من بلدان لغتها الأساسية هي الإنجليزية.) تتضمن المجموعة مجموعة تحقيق الدخل تم تشغيلها جزئيًا خارج مقدونيا تستهدف النساء ومجتمع LGBTQ. لديها ثماني صفحات على Facebook ، بما في ذلك صفحتان تم التحقق منهما مع أكثر من 1.7 مليون و 1.5 مليون متابع على التوالي ، وتنشر محتوى من خمسة مواقع ويب ، كل منها مسجل في Google AdSense و Audience Network. كما أن لديها ثلاثة حسابات على Instagram ، والتي تحقق الدخل من خلال متاجر الهدايا والتعاون وتوجيه المستخدمين إلى نفس مواقع الويب المسروقة إلى حد كبير. لم يستجب مديرو صفحات Facebook وحسابات Instagram لطلباتنا للتعليق.

تنشر صفحات LGBT News وأخبار حقوق المرأة على Facebook محتوى متطابقًا من خمسة من المواقع التابعة لها والتي تحقق الدخل من خلال المقالات الفورية و Google AdSense ، وكذلك من المنافذ الإخبارية الأخرى التي يبدو أنها قد أبرمت شراكات معها.

قال أوزبورن إن Facebook يحقق الآن في الحسابات بعد أن لفتنا انتباه الشركة إليها. قال تشوي إن Google أزالت إعلانات AdSense من مئات الصفحات على هذه المواقع في الماضي بسبب انتهاكات السياسة ولكن لا يزال يُسمح للمواقع نفسها بالاستثمار بناءً على المراجعات المنتظمة للشركة.

في حين أنه من المحتمل أن المقدونيين الذين يديرون الصفحات يهتمون بالفعل بالسياسة الأمريكية وبشأن حقوق المرأة والمثليين ، فإن المحتوى يدر أرباحًا بلا شك. وهذا يعني أن ما يروجون له يتم توجيهه على الأرجح بما يفوز ويخسر باستخدام خوارزمية موجز الأخبار على Facebook.

يقول كاميل فرانسوا ، الباحث في جامعة كولومبيا الذي يدرس حملات التضليل المنظمة على وسائل التواصل الاجتماعي ، إن نشاط صفحة واحدة أو مجموعة من الصفحات قد لا يبدو مهمًا. ولكن عندما يقوم المئات أو الآلاف من الممثلين بالشيء نفسه ، مما يؤدي إلى تضخيم نفس المحتوى والوصول إلى الملايين من أفراد الجمهور ، يمكن أن يؤثر ذلك على المحادثة العامة. يقول فرانسوا إن ما يراه الناس على أنه محادثة محلية حول موضوع ما يمكن في الواقع أن يكون شيئًا مختلفًا تمامًا. إنهم مجموعة من الأشخاص الذين يتقاضون رواتبهم يتظاهرون بعدم وجود أي علاقة مع بعضهم البعض ، ويحسّنون ما ينشرونه.

قال أوزبورن إن Facebook قد أنشأ العديد من السياسات الجديدة وبروتوكولات الإنفاذ في العامين الماضيين لمعالجة هذه المشكلة ، بما في ذلك معاقبة الصفحات التي تنفد من بلد تتصرف كما لو كانت محلية إلى أخرى ، وكذلك معاقبة الصفحات التي تبني جمهورًا على أساس موضوع واحد ثم يتمحور إلى موضوع آخر. لكن كلا من ألين وريو يقولان إن إجراءات الشركة فشلت في سد الثغرات الأساسية في سياسات وتصميمات المنصة - نقاط الضعف التي تغذي أزمة المعلومات العالمية.

يقول ريو إنه يؤثر على البلدان أولاً وقبل كل شيء خارج الولايات المتحدة ولكنه يمثل خطرًا كبيرًا على الولايات المتحدة على المدى الطويل أيضًا. سيؤثر إلى حد كبير في أي مكان في العالم عندما تكون هناك أحداث مشددة مثل الانتخابات.

معلومات مضللة للتأجير

استجابةً للتقرير الأولي لـ MIT Technology Review حول تقرير Allen الداخلي لعام 2019 ، والذي قمنا به نشرت بالكامل ، ديفيد أغرانوفيتش ، مدير اضطراب التهديد العالمي في Facebook ، غرد ، الصفحات المشار إليها هنا ، استنادًا إلى بحثنا الخاص لعام 2019 ، هي مرسلي رسائل غير مرغوب فيها بدوافع مالية ، وليست عمليات ذات تأثير علني. كلاهما يمثلان تحديين جديين ، لكنهما مختلفان. الخلط بينهما لا يساعد أحدا. كرر أوزبورن أننا كنا نخلط بين المجموعتين استجابة لنتائجنا.

لكن خبراء المعلومات المضللة يقولون إنه من المضلل رسم خط متشدد بين مرسلي البريد العشوائي ذوي الدوافع المالية وعمليات التأثير السياسي.

هناك فرق في النية: مرسلي البريد العشوائي ذوي الدوافع المالية لا يعرفون المحتوى الذي ينشرونه. يذهبون أينما كانت النقرات والمال ، مما يسمح لخوارزمية موجز الأخبار في Facebook بتحديد الموضوعات التي سيغطونها بعد ذلك. وبدلاً من ذلك ، تستهدف العمليات السياسية دفع أجندة محددة.

لكن في الممارسة لا يهم : في تكتيكاتهم وتأثيرهم ، غالبًا ما يبدون متشابهين. في يوم عادي ، قد يتم ملء موقع clickbait ذي الدوافع المالية بأخبار المشاهير أو الحيوانات اللطيفة أو القصص العاطفية - وكلها عوامل موثوقة لحركة المرور. بعد ذلك ، عندما تضرب الاضطرابات السياسية ، فإنهم ينجرفون نحو الأخبار الحزبية المتشددة والمعلومات المضللة والطعم الغاضب لأنه يحصل على مزيد من المشاركة.

مجموعة الصفحات المقدونية هي مثال رئيسي. في معظم الأحيان ، يروج المحتوى لحقوق المرأة و LGTBQ. ولكن في وقت قريب من أحداث مثل انتخابات 2020 ، وتمرد 6 يناير ، وإقرار قانون نبضات القلب المناهض للإجهاض في تكساس ، ضاعفت الكتلة المحتوى السياسي المحدد بشكل خاص. تم توزيع العديد من مقالاتها على نطاق واسع من خلال صفحات شرعية لها عدد كبير من المتابعين ، بما في ذلك تلك التي تديرها احتل ديموقراطيون ، واتحاد العلماء المهتمين ، وومنز مارش غلوبال.

مثال على مقال سياسي للغاية تم حذفه في النهاية من أحد المواقع الخمسة التابعة للمجموعة. غالبًا ما تقوم مواقع Clickbait بتنظيف المقالات القديمة من صفحاتها.

وفي الوقت نفسه ، قد تنشر عمليات التأثير السياسي محتوى المشاهير والحيوان لإنشاء صفحات على Facebook ذات متابعين كبيرين. بعد ذلك ، ينتقلون أيضًا إلى السياسة خلال الأحداث السياسية الحساسة ، مستفيدين من الجماهير الضخمة الموجودة بالفعل تحت تصرفهم.

يدفع الناشطون السياسيون في بعض الأحيان أيضًا مرسلي البريد العشوائي المتحمسين مالياً لبث الدعاية على صفحاتهم على فيسبوك ، أو شراء صفحات لإعادة توظيفها في حملات التأثير. لقد شاهدت ريو بالفعل دليلاً على وجود سوق سوداء حيث يمكن لممثلي clickbait بيع جماهيرهم الكبيرة على Facebook.

بعبارة أخرى ، تبدو الصفحات غير ضارة حتى لا تبدو كذلك. كتب ألين في التقرير ، لقد قمنا بتمكين الجهات الفاعلة غير الأصلية من تجميع عدد كبير من المتابعين لأغراض غير معروفة إلى حد كبير.

حدث هذا التحول عدة مرات في ميانمار منذ ظهور مزارع النقر ، لا سيما خلال أزمة الروهينجا ومرة ​​أخرى في الفترة التي سبقت الانقلاب العسكري هذا العام وبعده. (وقد عجلت هذا الأخير بأحداث تشبه إلى حد كبير تلك التي أدت إلى تمرد 6 يناير الأمريكي ، بما في ذلك ادعاءات كاذبة منتشرة على نطاق واسع بسرقة الانتخابات .)

في أكتوبر 2020 ، أزال Facebook عددًا من الصفحات والمجموعات المنخرطة في سلوك clickbait المنسق في ميانمار. في تحليل من بين هذه الأصول ، وجدت شركة Graphika البحثية التي تدرس انتشار المعلومات عبر الإنترنت ، أن الصفحات ركزت في الغالب على أخبار المشاهير والقيل والقال لكنها دفعت الدعاية السياسية والخطاب الخطير المعاد للمسلمين والمعلومات الخاطئة حول فيروس كورونا خلال اللحظات الرئيسية للأزمة. . عشرات الصفحات كان لها أكثر من مليون متابع لكل منها ، أكبرها يصل إلى أكثر من 5 ملايين.

ظهرت نفس الظاهرة في الفلبين في الفترة التي سبقت انتخابات الرئيس رودريغو دوتيرتي لعام 2016. تمت مقارنة دوتيرتي مع دونالد ترامب بسبب سياساته الشعبوية وخطابه المنمق وميوله الاستبدادية. خلال حملته ، تحولت مزرعة النقر ، المسجلة رسميًا باسم شركة Twinmark Media ، من تغطية المشاهير والترفيه إلى الترويج له ولإيديولوجيته.

في ذلك الوقت ، كان يُعتقد على نطاق واسع أن السياسيين قد استأجروا Twinmark لإجراء حملة تأثير. لكن في المقابلات مع الصحفيين و الباحثين ، اعترف موظفو Twinmark السابقون أنهم كانوا يسعون ببساطة لتحقيق الربح. من خلال التجريب ، اكتشف الموظفون أن المحتوى المؤيد لـ Duterte قد تفوق خلال انتخابات ساخنة. حتى أنهم دفعوا لمشاهير ومؤثرين آخرين لمشاركة مقالاتهم للحصول على المزيد من النقرات وتحقيق المزيد من عائدات الإعلانات ، حسب البحث من علماء الإعلام والاتصال جوناثان أونج وجيسون فينسينت إيه كابانيز.

في الأشهر الأخيرة من الحملة ، سيطر دوتيرتي على الخطاب السياسي على وسائل التواصل الاجتماعي. أطلق عليه Facebook نفسه اسم ملك بلا منازع لمحادثات الفيسبوك عندما وجدت أنه كان موضوع 68٪ من جميع المناقشات المتعلقة بالانتخابات ، مقارنة بـ 46٪ لأقرب منافس له.

بعد ثلاثة أشهر من الانتخابات ، ماريا ريسا ، المديرة التنفيذية لشركة الإعلام رابلر ، الحائزة على جائزة نوبل للسلام هذا العام لعملها في مكافحة التضليل الإعلامي ، نشرت قطعة يصف كيف يؤدي حفل موسيقي من إعلانات النقرات المنسقة والدعاية على Facebook إلى تغيير الرأي العام حول القضايا الرئيسية.

إنها استراتيجية 'الموت بألف تخفيضات' - تقطيع الحقائق ، باستخدام أنصاف الحقائق التي تختلق واقعًا بديلًا من خلال دمج قوة الروبوتات والحسابات المزيفة على وسائل التواصل الاجتماعي للتلاعب بأشخاص حقيقيين ، كما كتبت.

في عام 2019 الفيسبوك أخيرًا 220 صفحة على Facebook و 73 حسابًا على Facebook و 29 حسابًا على Instagram مرتبطة بـ Twinmark Media. بحلول ذلك الوقت ، كان Facebook و Google قد دفعوا بالفعل للمزرعة ما يصل إلى 8 ملايين دولار ( 400 مليون بيزو فلبيني ).

لم يؤكد Facebook ولا Google هذا المبلغ. عارض أوزبورن من Meta التوصيف بأن Facebook قد أثر في الانتخابات.

تهديد متطور

بذل Facebook جهدًا كبيرًا لإزالة مزارع clickbait من المقالات الفورية وفواصل الإعلانات في النصف الأول من عام 2019 ، وفقًا لتقرير Allen الداخلي. على وجه التحديد ، بدأت في فحص الناشرين للتحقق من أصالة المحتوى وشيطنة أولئك الذين نشروا محتوى غير أصلي إلى حد كبير.

لكن هذه الفحوصات الآلية محدودة. إنهم يركزون بشكل أساسي على تقييم أصالة مقاطع الفيديو ، وليس ، على سبيل المثال ، ما إذا كانت إحدى المقالات مسروقة. حتى لو فعلوا ذلك ، فإن مثل هذه الأنظمة ستكون جيدة فقط مثل قدرات الذكاء الاصطناعي للشركة في لغة معينة. البلدان ذات اللغات التي لم يحددها مجتمع أبحاث الذكاء الاصطناعي حسب الأولوية تحظى باهتمام أقل بكثير ، إن وجد على الإطلاق. في حالة إثيوبيا هناك 100 مليون شخص وست لغات. قالت Haugen خلال شهادتها أمام الكونجرس إن Facebook يدعم لغتين فقط من هذه اللغات لأنظمة النزاهة.

تقول ريو إن هناك ثغرات في التنفيذ. يتم إخراج المخالفين من البرنامج ولكن ليس خارج النظام الأساسي ، ويمكنهم الطعن في إعادتهم. تتم معالجة طلبات الاستئناف من قبل فريق منفصل عن الفريق الذي يقوم بالإنفاذ ويقوم بإجراء فحوصات موضعية أساسية فقط قبل إعادة الممثل. (لم يرد Facebook على الأسئلة حول ما تبحث عنه هذه الفحوصات بالفعل.) ونتيجة لذلك ، قد يستغرق الأمر ساعات فقط حتى يعود عامل clickbait للانضمام مرارًا وتكرارًا بعد الإزالة. بطريقة ما ، لا تتحدث جميع الفرق مع بعضها البعض ، كما تقول.

هكذا وجدت ريو نفسها في حالة ذعر في مارس من هذا العام. بعد شهر من اعتقال الجيش للزعيم الديمقراطي السابق أونغ سان سو كي وسيطرته على الحكومة ، ما زال المتظاهرون يشتبكون بعنف مع النظام الجديد. كان الجيش يقطع بشكل متقطع الوصول إلى الإنترنت وشبكات البث ، وكانت ريو خائفة على سلامة صديقاتها في البلاد.

بدأت في البحث عنهم في مقاطع الفيديو المباشرة على Facebook. كان الناس يشاهدون مقاطع الفيديو هذه بنشاط حقًا لأن هذه هي الطريقة التي تتبع بها أحبائك ، كما تقول. لم تكن مهتمة برؤية أن مقاطع الفيديو تأتي من صفحات بها مشكلات تتعلق بالمصداقية ؛ كانت تعتقد أن المشغلين يستخدمون صفحات مزيفة لحماية هويتهم.

ثم حدث المستحيل: شاهدت نفس الفيديو المباشر مرتين. تذكرت ذلك لأنه كان مرعبًا: مئات الأطفال ، الذين بدا أنهم لم يتجاوزوا العاشرة من العمر ، يقفون في طابور وأيديهم على رؤوسهم ، يتم تحميلهم في شاحنات عسكرية.

عندما تعمقت في الأمر ، اكتشفت أن مقاطع الفيديو لم تكن حية على الإطلاق. تهدف مقاطع الفيديو الحية إلى الإشارة إلى البث في الوقت الفعلي وتضمين بيانات وصفية مهمة حول وقت النشاط ومكانه. تم تنزيل مقاطع الفيديو هذه من مكان آخر وإعادة بثها على Facebook باستخدام أدوات تابعة لجهات خارجية لجعلها تبدو وكأنها بث مباشر.

لقد خاطرت بكل شيء لفضح Facebook. الآن هي تحكي قصتها.

كشفت صوفي زانج ، عالمة البيانات السابقة في فيسبوك ، أنها تتيح التلاعب السياسي العالمي ولم تفعل شيئًا يذكر لإيقافه.

كان هناك المئات منهم ، وحققوا عشرات الآلاف من المشاركات ومئات الآلاف من المشاهدات. اعتبارًا من أوائل نوفمبر ، وجدت MIT Technology Review العشرات من مقاطع الفيديو المباشرة المزيفة المكررة من هذا الإطار الزمني لا تزال قائمة. زوج واحد مكرر بأكثر من 200000 و 160.000 مشاهدة ، على التوالي ، تم الإعلان عنه في البورمية ، أنا الوحيد الذي يبث البث المباشر من جميع أنحاء البلاد في الوقت الفعلي. قام Facebook بحذف العديد منها بعد أن لفتنا انتباهه إليها ، لكن عشرات الصفحات الأخرى ، بالإضافة إلى الصفحات التي نشرتها ، لا تزال موجودة. قال أوزبورن إن الشركة على دراية بالمشكلة وقد قللت بشكل كبير من هذه الأرواح المزيفة وتوزيعها خلال العام الماضي.

ومن المفارقات ، كما تعتقد ريو ، أن مقاطع الفيديو من المحتمل أن تكون قد انتُزعت من لقطات للأزمة تم تحميلها على موقع يوتيوب كدليل على حقوق الإنسان. بعبارة أخرى ، المشاهد هي بالفعل من ميانمار - لكنها نُشرت جميعًا من فيتنام وكمبوديا.

على مدار نصف العام الماضي ، قامت ريو بتتبع وتحديد عدة مجموعات من الصفحات التي نفذت من فيتنام وكمبوديا. استخدم الكثيرون مقاطع الفيديو المباشرة المزيفة لبناء أعداد متابعينهم بسرعة ودفع المشاهدين للانضمام إلى مجموعات فيسبوك متنكرة في شكل مجتمعات مؤيدة للديمقراطية. تخشى ريو الآن أن يؤدي طرح Facebook الأخير للإعلانات أثناء البث في مقاطع الفيديو المباشرة إلى تحفيز ممثلي clickbait لتزييفهم. بدأت إحدى المجموعات الكمبودية المكونة من 18 صفحة في نشر معلومات مضللة سياسية مدمرة للغاية ، ووصلت إلى إجمالي 16 مليون مشاركة وجمهور بلغ 1.6 مليون في أربعة أشهر. أوقف Facebook جميع الصفحات الـ 18 في مارس ، لكن المجموعات الجديدة استمرت في الدوران بينما بقيت مجموعات أخرى.

لكل ما يعرفه ريو ، هؤلاء الممثلون الفيتناميون والكمبوديون لا يتحدثون البورمية. من المحتمل أنهم لا يفهمون الثقافة البورمية أو سياسة الدولة. المحصلة النهائية هي أنهم ليسوا بحاجة إلى ذلك. ليس عندما يسرقون المحتوى الخاص بهم.

ومنذ ذلك الحين ، عثرت ريو على العديد من مجموعات Facebook و Telegram الخاصة للكمبوديين (واحدة تضم أكثر من 3000 فرد) ، حيث يتبادلون الأدوات والنصائح حول أفضل استراتيجيات كسب المال. استعرضت MIT Technology Review المستندات والصور ومقاطع الفيديو التي جمعتها ، وظفت مترجمًا من لغة الخمير لتفسير مقطع فيديو تعليمي يرشد المشاهدين خطوة بخطوة عبر مسار عمل clickbait.

توضح المواد كيف يقوم المشغلون الكمبوديون بجمع الأبحاث حول المحتوى الأفضل أداءً في كل بلد وانتحالهم من أجل مواقع الويب الخاصة بهم. يحتوي مجلد Google Drive المشترك داخل المجتمع على أكثر من عشرين جدول بيانات من الروابط إلى مجموعات Facebook الأكثر شيوعًا في 20 دولة ، بما في ذلك الولايات المتحدة والمملكة المتحدة وأستراليا والهند وفرنسا وألمانيا والمكسيك والبرازيل.

يُظهر مقطع الفيديو التعليمي أيضًا كيف يعثرون على أكثر مقاطع فيديو YouTube انتشارًا بلغات مختلفة ويستخدمون أداة آلية لتحويل كل مقطع إلى مقال لموقعهم. وجدنا 29 قناة على YouTube تنشر معلومات سياسية مضللة حول الوضع السياسي الحالي في ميانمار ، على سبيل المثال ، والتي تم تحويلها إلى مقالات clickbait وإعادة توزيعها على جماهير جديدة على Facebook.

هل يمكنك المشي على كوكب المشتري

إحدى قنوات اليوتيوب التي تنشر معلومات سياسية مضللة في ميانمار. قامت Google في النهاية بإزالتها.

بعد أن لفتنا انتباهه إلى القنوات ، أنهى YouTube جميع هذه القنوات لانتهاكها إرشادات المجتمع ، بما في ذلك سبع منها قرر أنها جزء من عمليات التأثير المنسقة المرتبطة بميانمار. أشار تشوي إلى أن YouTube قد توقف في السابق أيضًا عن عرض الإعلانات على ما يقرب من 2000 مقطع فيديو عبر هذه القنوات. وقالت إننا نواصل مراقبة منصاتنا بنشاط لمنع الجهات الفاعلة السيئة التي تتطلع إلى إساءة استخدام شبكتنا من أجل الربح.

ثم هناك أدوات أخرى ، بما في ذلك أداة تسمح لمقاطع الفيديو المسجلة مسبقًا بالظهور كمقاطع فيديو بث مباشر على Facebook. يولد آخر بشكل عشوائي تفاصيل الملف الشخصي للرجال في الولايات المتحدة ، بما في ذلك الصورة والاسم وتاريخ الميلاد ورقم الضمان الاجتماعي ورقم الهاتف والعنوان ، لذا يمكن لأداة أخرى إنشاء حسابات وهمية على Facebook باستخدام بعض هذه المعلومات.

من السهل جدًا القيام بذلك الآن حيث يعمل العديد من الممثلين الكمبوديين منفردين. ريو تسميهم أصحاب المشاريع الصغيرة. في السيناريو الأكثر تطرفًا ، رأت أفرادًا يديرون ما يصل إلى 11000 حساب على Facebook بأنفسهم.

يقوم أصحاب المشاريع الصغيرة الناجحون أيضًا بتدريب الآخرين على القيام بهذا العمل في مجتمعهم. تقول إنها ستزداد سوءًا. يمكن أن يؤثر أي شخص في العالم على بيئة معلوماتك دون أن تدرك ذلك.

الربح على السلامة

خلال شهادتها أمام مجلس الشيوخ في أكتوبر من هذا العام ، سلطت Haugen الضوء على العيوب الأساسية في نهج Facebook القائم على المحتوى لإساءة استخدام النظام الأساسي. وقالت إن الإستراتيجية الحالية ، التي تركز على ما يمكن وما لا يمكن أن تظهر على المنصة ، يمكن أن تكون تفاعلية وغير شاملة أبدًا. لا يتطلب الأمر من Facebook فقط تعداد كل شكل ممكن من أشكال إساءة الاستخدام ، ولكنه يتطلب أيضًا أن تكون الشركة بارعة في الاعتدال في كل لغة. وقالت إن Facebook فشل في كلا الأمرين - وقد دفع الأشخاص الأكثر ضعفًا في العالم الثمن الأكبر.

قال Haugen إن السبب الرئيسي وراء ذلك هو رغبة Facebook في زيادة المشاركة إلى أقصى حد ، والتي حولت الخوارزمية وتصميم النظام الأساسي إلى أداة عملاقة لخطاب الكراهية والمعلومات المضللة. ان تحقيق MIT Technology Review منذ وقت سابق من هذا العام ، استنادًا إلى عشرات المقابلات مع المديرين التنفيذيين في Facebook ، والموظفين الحاليين والسابقين ، وأقران الصناعة ، والخبراء الخارجيين ، يؤكد هذا التوصيف.

رددت شهادتها أيضًا ما كتبه ألين في تقريره - وما شاهدته ريو وخبراء التضليل الآخرون مرارًا وتكرارًا من خلال أبحاثهم. بالنسبة لمزارع clickbait ، يعد الدخول في برامج تحقيق الدخل هو الخطوة الأولى ، ولكن المبلغ الذي تدفعه يعتمد على مدى تعزيز أنظمة توصية المحتوى في Facebook لمقالاتها. لن يزدهروا ، ولن يسرقوا مثل هذا المحتوى الضار ، إذا لم تكن تكتيكاتهم المشبوهة تعمل بشكل جيد على المنصة.

ونتيجة لذلك ، فإن التخلص من المزارع نفسها ليس هو الحل: فالممثلون ذوو الحافز العالي سيكونون دائمًا قادرين على إنشاء مواقع ويب وصفحات جديدة للحصول على المزيد من الأموال. وبدلاً من ذلك ، فإن الخوارزميات وآليات مكافأة المحتوى هي التي تحتاج إلى معالجة.

في تقريره ، اقترح ألين طريقة واحدة ممكنة يمكن لـ Facebook القيام بذلك: باستخدام ما يُعرف باسم مقياس السلطة المستند إلى الرسم البياني لترتيب المحتوى. سيؤدي ذلك إلى تضخيم الصفحات عالية الجودة مثل الأخبار والوسائط وتقليل الصفحات منخفضة الجودة مثل clickbait ، مما يعكس الاتجاه الحالي.

أكد Haugen أن فشل Facebook في إصلاح منصته لم يكن بسبب نقص الحلول أو الأدوات أو القدرات. قالت إن فيسبوك يمكن أن يتغير ولكن من الواضح أنه لن يفعل ذلك من تلقاء نفسه. ما أخشاه هو أنه بدون فعل ، فإن السلوكيات الانقسامية والمتطرفة التي نراها اليوم ما هي إلا البداية. ما رأيناه في ميانمار ونراه الآن في إثيوبيا ليس سوى الفصول الافتتاحية لقصة مرعبة للغاية ولا يريد أحد أن يقرأ نهايتها.

(قال أوزبورن إن Facebook لديه نهج مختلف تمامًا عن ميانمار اليوم مع خبرة أكبر في قضايا حقوق الإنسان في البلاد وفريق متخصص وتكنولوجيا لاكتشاف المحتوى المخالف ، مثل خطاب الكراهية ، في بورما.)

في أكتوبر / تشرين الأول ، قال المبعوث الخاص للأمم المتحدة المنتهية ولايته إلى ميانمار إن بلاده فعلت ذلك تدهورت إلى حرب أهلية . وفر آلاف الأشخاص منذ ذلك الحين للدول المجاورة مثل تايلاند والهند. اعتبارًا من منتصف نوفمبر ، كان ممثلو clickbait يواصلون نشر أخبار مزيفة كل ساعة. في أحد المناصب ، تم اغتيال الزعيمة الديمقراطية الأم سو. وفي حالة أخرى ، تم إطلاق سراحها أخيرًا.

شكر خاص لفريقنا. تصميم وتطوير راشيل شتاين وأندريه فيتوريو. الإخراج الفني والإنتاج من قبل إميلي لونج وستيفاني أرنيت. تحرير نيال فيرث ومات هونان. تدقيق الحقائق بواسطة مات ماهوني. تحرير النسخ بواسطة ليندا لوينثال.

تصحيح: ذكرت نسخة سابقة من المقال بشكل غير صحيح أنه بعد أن تواصلنا مع Facebook ، بدأ ممثلو clickbait في كمبوديا في الشكوى في المنتديات عبر الإنترنت من طردهم من المقالات الفورية. الممثلون كانوا في الواقع في ميانمار.

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به