في فبراير 2019 ، أنشأت شركة Facebook Inc. حسابًا اختباريًا في الهند لتحديد كيفية تأثير الخوارزميات الخاصة بها على ما يراه الناس في أحد أسواقها الخارجية الأسرع نموًا والأكثر أهمية. أذهلت النتائج موظفي الشركة.
في غضون ثلاثة أسابيع ، تحول موجز المستخدم الجديد إلى دوامة من الأخبار المزيفة والصور الحارقة. وكانت هناك صور قاسية لقطع الرؤوس وصور مغلوطة لغارات جوية هندية ضد باكستان ومشاهد عنف شوفينية. تضمنت إحدى مجموعات “الأشياء التي تجعلك تضحك” أخبارًا مزيفة عن 300 إرهابي قتلوا في تفجير في باكستان.
كتب أحد الموظفين ، وفقًا لمذكرة بحثية من 46 صفحة وهي من بين مجموعة الوثائق التي أصدرتها فرانسيس ، المُبلغ عن المخالفات على فيسبوك Haugen.
أثبت الاختبار أنه مفيد لأنه تم تصميمه للتركيز حصريًا على دور Facebook في التوصية بالمحتوى. استخدم الحساب التجريبي ملفًا شخصيًا لامرأة تبلغ من العمر 21 عامًا تعيش في مدينة جايبور بغرب الهند وتنحدر من حيدر أباد. كان المستخدم يتابع فقط الصفحات أو المجموعات الموصى بها بواسطة Facebook أو واجهها من خلال تلك التوصيات. وقد وصف مؤلف مذكرة البحث هذه التجربة بأنها “كابوس النزاهة”.
في حين أن إفصاحات Haugen قد رسمت صورة دامغة لدور Facebook في نشر المحتوى الضار في الولايات المتحدة ، تشير تجربة الهند إلى أن التأثير العالمي للشركة قد يكون أسوأ. تركز معظم الأموال التي ينفقها Facebook على الإشراف على المحتوى على وسائل الإعلام باللغة الإنجليزية في دول مثل الولايات المتحدة
لكن نمو الشركة يأتي إلى حد كبير من دول مثل الهند وإندونيسيا والبرازيل ، حيث كافحت لتوظيف أشخاص لديهم المهارات اللغوية لفرض إشراف أساسي. التحدي حاد بشكل خاص في الهند ، بلد يبلغ تعداد سكانه 1.3 مليار نسمة وله 22 لغة رسمية. يميل Facebook إلى الاستعانة بمصادر خارجية للإشراف على المحتوى على منصته لمقاولين من شركات مثل Accenture.
وقالت متحدثة باسم فيسبوك: “لقد استثمرنا بشكل كبير في التكنولوجيا للعثور على خطاب الكراهية بلغات مختلفة ، بما في ذلك الهندية والبنغالية”. ونتيجة لذلك ، قمنا بتقليل حجم خطاب الكراهية الذي يراه الناس بمقدار النصف هذا العام. اليوم ، انخفض إلى 0.05 في المائة. خطاب الكراهية ضد الفئات المهمشة ، بما في ذلك المسلمين ، آخذ في الارتفاع على مستوى العالم. لذلك نحن نعمل على تحسين التطبيق ونلتزم بتحديث سياساتنا مع تطور الكلام الذي يحض على الكراهية على الإنترنت “.
تم إنشاء حساب اختبار المستخدم الجديد في 4 فبراير 2019 خلال رحلة فريق بحثي إلى الهند ، وفقًا للتقرير. كتب الباحثون أن فيسبوك “مكان فارغ تمامًا” بدون أصدقاء ، حيث تشير فقط علامات التبويب “مشاهدة” و “لايف” الخاصة بالشركة إلى أشياء يجب النظر إليها.
قال التقرير “جودة هذا المحتوى … ليست مثالية”. عندما لا تعرف خدمة الفيديو Watch ما يريده المستخدم ، “يبدو أنها توصي بمجموعة من الإباحية الإباحية” ، متبوعة برمز عبوس.
بدأت التجربة تتحول إلى الظلام في 11 فبراير ، حيث بدأ مستخدم الاختبار في استكشاف المحتوى الذي أوصى به Facebook ، بما في ذلك المنشورات التي كانت شائعة عبر الشبكة الاجتماعية. بدأت بمواقع حميدة ، بما في ذلك الصفحة الرسمية لحزب بهاراتيا جاناتا الحاكم بزعامة رئيس الوزراء ناريندرا مودي وبي بي سي نيوز إنديا.
ثم في 14 فبراير ، أدى هجوم إرهابي في بولواما في ولاية كشمير الحساسة سياسياً إلى مقتل 40 من أفراد الأمن الهندي وإصابة العشرات. وعزت الحكومة الهندية الضربة إلى جماعة إرهابية باكستانية. سرعان ما تحولت خلاصة المختبِر إلى وابل من خطاب الكراهية المناهض لباكستان ، بما في ذلك صور قطع الرأس ورسم يوضح الاستعدادات لحرق مجموعة من الباكستانيين.
كانت هناك أيضًا رسائل قومية ، وادعاءات مبالغ فيها بشأن الضربات الجوية الهندية في باكستان ، وصور مزيفة لانفجارات القنابل وصورة مزيفة يُزعم أنها تُظهر رجلًا متزوجًا حديثًا قتل في الهجوم وكان يستعد للعودة إلى عائلته.
كانت العديد من المنشورات المليئة بالكراهية باللغة الهندية ، اللغة الوطنية للبلاد ، متجاوزة الضوابط المعتادة لمراقبة المحتوى على الشبكة الاجتماعية. في الهند ، يستخدم الناس عشرات أو أكثر من الاختلافات الإقليمية للغة الهندية وحدها. يستخدم الكثير من الناس مزيجًا من اللغتين الإنجليزية والهندية ، مما يجعل من المستحيل تقريبًا على خوارزمية أن تغربل الخلط العامي. سيحتاج مدير المحتوى البشري إلى التحدث بعدة لغات لتصفية المحتوى السام.
ابتهج أحد المنشور قائلاً: “بعد 12 يومًا ، هاجمت 12 طائرة باكستان”. وزعم آخر ، باللغة الهندية مرة أخرى ، لـ “هوت نيوز” مقتل 300 إرهابي في انفجار عبوة ناسفة في باكستان. كان اسم المجموعة التي تشارك الخبر هو “الضحك والأشياء التي تجعلك تضحك”. بعض المنشورات التي تحتوي على صور مزيفة لقنبلة النابالم زُعم أنها هجوم جوي للهند على باكستان تم الكشف عنها ، “مات 300 كلب. نقول الآن تحيا الهند ، الموت لباكستان”.
يوضح التقرير – المعنون “انحدار مستخدم هندي إلى بحر من الرسائل القومية المستقطبة” – مدى ضآلة سيطرة Facebook في أحد أهم أسواقه. حددت شركة التكنولوجيا العملاقة في مينلو بارك بولاية كاليفورنيا الهند كسوق رئيسي للنمو ، واستخدمتها كقاعدة اختبار للمنتجات الجديدة. في العام الماضي ، أنفق Facebook ما يقرب من 6 مليارات دولار على شراكة مع Mukesh Ambani ، أغنى رجل في آسيا ، والذي يقود تكتل Reliance.
وقالت المتحدثة باسم فيسبوك: “ألهم هذا الجهد الاستكشافي لحساب اختبار افتراضي واحد تحليلاً أعمق وأكثر دقة لأنظمة التوصية لدينا ، وساهم في تغييرات المنتج لتحسينها”. “يستمر عملنا في الحد من خطاب الكراهية وقد عززنا فصول الكراهية لدينا لتشمل أربع لغات هندية.”
لكن الشركة تشابكت أيضًا مرارًا وتكرارًا مع الحكومة الهندية بشأن ممارساتها هناك. تتطلب اللوائح الجديدة أن يقوم Facebook وشركات التواصل الاجتماعي الأخرى بتحديد الأفراد المسؤولين عن محتواهم عبر الإنترنت – مما يجعلهم مسؤولين أمام الحكومة. قاوم Facebook و Twitter Inc. القواعد. على منصة WhatsApp على Facebook ، انتشرت رسائل مزيفة فيروسية حول عصابات اختطاف الأطفال ، مما أدى إلى عشرات من عمليات الإعدام خارج نطاق القانون في جميع أنحاء البلاد ابتداء من صيف عام 2017 ، مما أثار غضب المستخدمين والمحاكم والحكومة.
ينتهي تقرير Facebook بالإقرار بتوصياته الخاصة التي أدت إلى أن يصبح حساب المستخدم التجريبي “مليئًا بالمحتوى الاستقطابي والرسومات ، وخطاب الكراهية والمعلومات المضللة”. بدت ملاحظة مفعمة بالأمل مفادها أن التجربة “يمكن أن تكون بمثابة نقطة انطلاق للمحادثات حول فهم وتخفيف أضرار النزاهة” من توصياتها في الأسواق خارج الولايات المتحدة
“هل يمكن أن نتحمل نحن كشركة مسؤولية إضافية لمنع أضرار النزاهة التي تنتج عن المحتوى الموصى به؟” سأل المختبر.
