أنشأت "فيسبوك"، في فبراير 2019، حساباً تجريبياً في الهند لتحديد كيفية تأثير الخوارزميات الخاصة بها على ما يراه الناس، في واحدة من الأسواق الخارجية الأسرع نمواً والأكثر أهمية. وفي الحقيقة، فقد أذهلت النتائج موظفي الشركة.
في غضون ثلاثة أسابيع، تحولت المنشورات التي تظهر للمستخدم الجديد إلى دوامة من الأخبار الكاذبة والصور المحرضة. حيث كانت هناك صور بيانية لقطع الرؤوس، وصور مغلوطة لغارات جوية هندية على باكستان، ومشاهد عنف شوفينية. كما تضمنت إحدى مجموعات "الأشياء التي تجعلك تضحك" أخباراً مزيفة عن 300 إرهابي قُتِلوا في تفجير في باكستان.
في هذا السياق، كتب أحد الموظفين، وفقاً لمذكرة بحثية مؤلفة من 46 صفحة، وهي من بين مجموعة الوثائق التي نشرتها فرانسيس هوغن، المُبلغة عن المخالفات في "فيسبوك": "رأيت في الأسابيع الثلاثة الماضية صوراً لأموات، أكثر مما رأيته في حياتي كلها".
وقد أثبتت التجربة أنها مفيدة، لأنها صُمّمت للتركيز حصرياً على دور "فيسبوك" في التوصية بالمحتوى. كما استخدم الحساب التجريبي ملفاً شخصياً لسيدة تبلغ من العمر 21 عاماً تعيش في مدينة جايبور بغرب الهند وتنحدر من حيدر أباد؛ حيث تتابع المستخدمة الصفحات أو المجموعات التي أوصى بها "فيسبوك" فقط أو التي ظهرت لها من خلال تلك التوصيات. وقد وصف مؤلف مذكرة البحث هذه التجربة بأنها "كابوس النزاهة".
وفي حين أن إفصاحات هوغن قد رسمت صورة دامغة لدور "فيسبوك" في نشر المحتوى الضار في الولايات المتحدة، تُشير تجربة الهند إلى أن تأثير الشركة على مستوى العالم قد يكون أسوأ؛ حيث تركز معظم الأموال التي تنفقها "فيسبوك" على الإشراف على محتوى الوسائط باللغة الإنجليزية في دول مثل الولايات المتحدة.
على الرغم أن نمو الشركة يأتي إلى حد كبير من دول مثل الهند وإندونيسيا والبرازيل، حيث كافحت لتوظيف أشخاص لديهم المهارات اللغوية لفرض إشراف أساسي. كما أن التحدي كبير بشكل خاص في الهند، وهو بلد يبلغ تعداد سكانه 1.3 مليار نسمة ولديه 22 لغة رسمية. هذا وتميل "فيسبوك" إلى الاستعانة بمصادر خارجية للإشراف على محتوى منصتها، وذلك من خلال مقاولين من شركات مثل "أكسنتشر" (Accenture).
وقالت متحدثة باسم "فيسبوك": "لقد استثمرنا بشكل كبير في التكنولوجيا للتنقيب عن خطاب الكراهية بلغات مختلفة، بما في ذلك الهندية والبنغالية. ونتيجة لذلك، قلّلنا حجم خطاب الكراهية الذي يراه الناس بمقدار النصف هذا العام. وقد انخفض اليوم إلى 0.05%. وفي الواقع، فإن خطاب الكراهية ضد الفئات المهمشة، بما في ذلك المسلمين، آخذ في الارتفاع على مستوى العالم. لذلك فإننا نعمل على تحسين الإنفاذ ونلتزم بتحديث سياساتنا مع تطور خطاب الكراهية على الإنترنت".
التجربة
تم إنشاء الحساب التجريبي للمستخدم الجديد في 4 فبراير 2019 أثناء رحلة فريق بحثي إلى الهند، وفقاً للتقرير. وكتب الباحثون أن "فيسبوك" هو "مكان فارغ تماماً" بدون أصدقاء، مع وجود فقط علامتي التبويب "مشاهدة" و "البث المباشر" الخاصة بالشركة واللتين تقترحان أشياء لمشاهدتها.
وقال التقرير "جودة هذا المحتوى ... ليست مثالية". فعندما لا تعرف خدمة الفيديو "مشاهدة" ما يريده المستخدم، "يبدو أنها توصي بمجموعة من المواد الإباحية"، متبوعة برمز تعبيري عابس.
فضلاً عن ذلك، بدأت التجربة تصبح ظلامية في 11 فبراير، حيث بدأت المستخدمة التجريبية في استكشاف المحتوى الذي أوصى به "فيسبوك"، بما في ذلك المنشورات التي كانت شائعة عبر الشبكة الاجتماعية. وبدأت بمواقع حميدة، بما في ذلك الصفحة الرسمية لحزب بهاراتيا جاناتا الحاكم بزعامة رئيس الوزراء ناريندرا مودي، وصفحة بي بي سي نيوز إنديا.
ثم في 14 فبراير، أدى هجوم إرهابي في بولواما في ولاية كشمير الحساسة سياسياً إلى مقتل 40 من أفراد الأمن الهندي وإصابة العشرات. وعزت الحكومة الهندية الضربة إلى جماعة إرهابية باكستانية. وسرعان ما تحولت المنشورات التي تظهر للمستخدمة التجريبية إلى وابل من خطابات الكراهية ضد باكستان، بما في ذلك صور لقطع الرؤوس، وصور عنيفة تظهر الاستعدادات لحرق مجموعة من الباكستانيين.
كما كانت هناك أيضاً رسائل قومية، وادعاءات مبالغ فيها حول الضربات الجوية الهندية في باكستان، بالإضافة إلى صور مزيفة لانفجارات القنابل وأخرى يُزعم أنها تُظهر رجلاً متزوجاً حديثاً قُتِل في الهجوم أثناء استعداده للعودة إلى عائلته.
هذا وكانت العديد من المنشورات المليئة بالكراهية باللغة الهندية، وهي اللغة الوطنية للبلاد، متجاوزة عناصر التحكم المعتادة في الإشراف على المحتوى على الشبكة الاجتماعية. ففي الهند، يستخدم الناس عشرات أو أكثر من اللغات الإقليمية بخلاف اللغة الهندية. كذلك يستخدم العديد من الأشخاص مزيجاً من اللغتين الإنجليزية والهندية، مما يجعل من المستحيل تقريباً على الخوارزمية القيام بفلترة الخلط العامي. وسيحتاج مدير المحتوى البشري إلى التحدث بعدة لغات لتصفية المحتوى السام.
ابتهج أحد المنشورات قائلاً: "بعد 12 يوماً، 12 طائرة هاجمت باكستان". وزعم آخر، باللغة الهندية مرة أخرى، باسم "الأخبار الساخنة" مقتل 300 إرهابي في انفجار قنبلة في باكستان. وكان اسم المجموعة التي تشارك الخبر هو "الضحك والأشياء التي تجعلك تضحك". في حين كشفت بعض المنشورات التي تحتوي على صور مزيفة لقنبلة النابالم التي زُعم أنها جزء من هجوم جوي للهند على باكستان: "مات 300 كلب. قل الآن تحيا الهند، والموت لباكستان".
أضرار النزاهة
فضلاً عن ذلك، يُوضّح التقرير - المعنون "انحدار مستخدم هندي إلى بحر من الرسائل القومية المستقطبة" - مدى ضآلة سيطرة "فيسبوك" في أحد أهم أسواقها؛ وقد قامت شركة التكنولوجيا العملاقة في مينلو بارك بولاية كاليفورنيا بتعيين الهند كسوق رئيسي للنمو، واستخدمتها كقاعدة اختبار للمنتجات الجديدة. وفي العام الماضي، أنفقت "فيسبوك" ما يقرب من 6 مليارات دولار على شراكة مع موكيش أمباني، أغنى رجل في آسيا، والذي يقود التكتل الاقتصادي "ريلاينس" (Reliance).
قالت المتحدثة باسم فيسبوك: "ألهم هذا الجهد الاستكشافي لحساب تجريبي افتراضي واحد تحليلاً أعمق وأكثر صرامة لأنظمة التوصية لدينا، وساهم في تغييرات المنتج لتحسينه. كما يستمر عملنا في الحد من خطاب الكراهية، حيث عززنا تصنيفات الكراهية لدينا لتشمل أربع لغات هندية".
إلا أن الشركة تشابكت أيضاً مراراً وتكراراً مع الحكومة الهندية بشأن ممارساتها هناك. حيث تتطلب اللوائح الجديدة أن تقوم "فيسبوك" وشركات التواصل الاجتماعي الأخرى بتحديد الأفراد المسؤولين عن محتواها عبر الإنترنت - مما يجعلهم مسؤولين أمام الحكومة. وقد قاومت "فيسبوك" و"تويتر" القواعد. علاوةً على ذلك، وعلى منصة "واتساب" التابعة لـ"فيسبوك"، تم تداول رسائل مزيفة تحمل فيروس إلكتروني عن عصابات اختطاف الأطفال، مما أدى إلى عشرات من عمليات الإعدام خارج نطاق القانون في جميع أنحاء البلاد بدءاً من صيف عام 2017، وبالتالي أثار غضب المستخدمين والمحاكم والحكومة.
الجدير بالذكر أن تقرير "فيسبوك" ينتهي بالإقرار بتوصياتها الخاصة التي أدت إلى أن يصبح حساب المستخدم التجريبي "مليئاً بالمحتوى الاستقطابي، والصور العنيفة، وخطاب الكراهية، والمعلومات المضللة". كما ذكر التقرير ملاحظة مفعمة بالأمل مفادها أن التجربة "يمكن أن تكون بمثابة نقطة انطلاق للمحادثات حول فهم وتخفيف أضرار النزاهة" من توصياتها في الأسواق خارج الولايات المتحدة.
وسأل مُجري الاختبار "هل يمكننا كشركة أن نتحمل مسؤولية إضافية لمنع الأضرار التي تلحق بالنزاهة والتي تنتج عن المحتوى الموصى به؟".
