المصدر:
بلومبرغ
لا تدرك خوارزمية "تيك توك" أن تشيس ناسكا قد توُفّي، فلا يزال حسابه على منصة التواصل الاجتماعي نشطاً بعد مضي أكثر من عام على انتحار المراهق عن 16 عاماً. إن تصفحت المحتوى المقترح في حساب ناسكا، فسترى سيلاً لا يكاد ينتهي من مقاطع مصورة حول موضوعات مثل الحب من طرف واحد واليأس والألم والانتحار، الذي تمجّده منشورات عديدة باعتباره مهرباً مثالياً من المعاناة النفسية.
قال أحد المقاطع الذي دفعت به خوارزمية التطبيق إلى حساب ناسكا في فبراير الماضي، قبل أيام من الذكرى السنوية الأولى لوفاته: "تَخلَّص من الألم... الموت هبة"، فيما يتحدث صوت ذكوري في مقطع آخر قائلاً: "سأضع فوهة مسدس في فمي وأفجّر رأسي"، فيجيب صوت أنثوي بأن ذلك "رائع".
عكس ما طرحه التطبيق على ناسكا خلال الأيام التي سبقت وفاته، أفكاره مشابهة لتلك بدرجة كبيرة، فقد أتاه في 13 فبراير 2022 بمقطع مصور يظهر فيه قطار مقبل مع شرح جاء فيه: "ذهبت في نزهة قصيرة ليلاً ليصفو ذهني".
بعد ذلك بخمسة أيام، توقف ناسكا عند سكك لونغ آيلاند الحديدية الممتدة عبر منطقة بايبورت السكنية على بعد كيلومتر تقريباً من منزله بولاية نيويورك وأسند دراجته إلى سياج ثم دخل إلى مسار القطارات وأرسل رسالة إلى صديق حين بلغ تقاطعاً مستتراً كان والداه يحذرانه منه منذ بدأ بالمشي طفلاً. كتب في رسالته: "آسف، لم أعد قادراً على تحمُّل ذلك بعد الآن". ثم أتى قطار عبر المنعطف جالباً أجل ناسكا.
غالباً ما تتضافر عدة عوامل مسببة الانتحار، لكن يستحيل معرفة سبب انتحار ناسكا، فهو لم يترك رسالة وداع. لكن والدته ميشيل بدأت تبحث في حساباته على مواقع التواصل الاجتماعي بعد أسبوعين من وفاته بيأس سعياً وراء إجابات.
حين فتحت تطبيق "تيك توك" على "آيباد" ابنها الراحل، وجدت مكتبة فيها أزيد من ثلاثة آلاف مقطع مصور كان ابنها ميزها بإشارة مرجعية تفيد بإعجابه بها أو حفظها أو جعلها ضمن ما يفضل.
أمكنها الاطلاع على اهتمامات نجلها التي تضمنت بحثاً عن موضوعات مثل "باتمان" وكرة السلة ورفع الأثقال والخطب التحفيزية، كما تبين لها ما جلبته الخوارزمية، وقد كان عديداً من المقاطع حول الاكتئاب واليأس والموت.
رواج في أميركا
كان الناس يحاولون فهم منصة المقاطع المصورة القصيرة وتأثيرها في الأطفال منذ توغلت "تيك توك" في الثقافة الشعبية في 2018. تخطّت مرات تنزيل التطبيق، الذي تملكه شركة الإنترنت الصينية "بايت دانس"، حاجز المليار، بوتيرة أسرع من أي منتج وسائط اجتماعية سابق.
يكمن سر نجاح "تيك توك" في جاذبيته، إذ تقدّم الخوارزمية التي يقوم عليها جانب التزكية محتوى مثيراً من مقاطع مصورة ينشئها مستخدموه لإبقاء الناس مسمَّرين يحدّقون إلى شاشاتهم. انتشر "تيك توك" بشدة، فبلغ عدد مستخدميه الأميركيين 150 مليوناً، وفقاً لأرقام "بايت دانس"، حتى إن منافساتها في وادي السيليكون باتت تحاول تقليده.
يؤجّج السياسيون بدورهم مخاوف إمكانية استغلاله كأداة تنشر عبرها حكومة الصين معلومات مضللة، وكانت إدارة بايدن هدّدَت بحظر التطبيق في مارس، وهو ما سبق أن لوّحَت به إدارة ترمب ما لم تبِع "بايت دانس" حصتها فيه.
يراقب باحثون وعلماء نفس متخصصون بالأطفال الأمر بقلق بالغ، فيما يستمرّ الجدل السياسي حول مخاطر التطبيق. كشفت دراسات استقصائية لمراهقين عن وجود علاقة بين وسائل التواصل الاجتماعي والاكتئاب وإيذاء النفس والانتحار.
تظهر بيانات مراكز السيطرة على الأمراض والوقاية منها أن واحداً من كل أربعة مراهقين تقريباً قال إنه فكّر جدياً في الانتحار في 2021، أي زهاء ضعف المعدلات المسجلة قبل عقد. تنسب جمعية علم النفس الأميركية وسلطات أخرى ارتفاع تلك المعدلات جزئياً إلى وسائل التواصل الاجتماعي.
تناول أحد أعضاء الكونغرس وفاة ناسكا خلال جلسة استماع في مارس، عندما عرض بعض المقاطع التي أرسلها التطبيق إلى تشيس على الرئيس التنفيذي لمنصة "تيك توك"، شو تشيو، وسأله عما إذا كان سيسمح لأطفاله بمشاهدة مثل هذا المحتوى.
أقام والدا ناسكا في ذلك الشهر دعوى قضائية لدى محكمة ولاية نيويورك مطالبين بتوجيه تهمة القتل الخطأ إلى كل من "تيك توك" و"بايت دانس" وشركة السكك الحديدية مجتمعين.
خوارزمية سرية
قالت منصة "تيك توك" إنها لا تستطيع التعليق على قضية تنظرها محكمة، لكن المتحدثة باسم الشركة جيمي فافاتزا أكّدَت أن الشركة ملتزمة سلامة وطيب حال مستخدميها، بخاصة المراهقون منهم: "قلوبنا تنقبض تعاطفاً مع أي عائلة تعاني مثل هذه الخسارة المأساوية. نسعى جاهدين لتوفير تجربة إيجابية ومُثرِية، وسنواصل استثماراتنا الضخمة في حماية منصتنا".
صمّم فريق مهندسين من "بايت دانس" في الصين الخوارزمية الأصلية المسؤولة عمّا يزكّيه تطبيق "تيك توك" لمشاهدته، لكن رغم أنه صُمّم في الدولة الآسيوية فقد استُخدم في جميع أنحاء العالم عدا موطن الشركة المالكة، ولا يمكن حتى تنزيله هناك.
قالت "تيك توك" إن فرقاً من المهندسين في جميع أنحاء العالم تساهم في صيانة خوارزميتها، بما في ذلك عاملون في أمريكا الشمالية وأوروبا وآسيا. مع ذلك قال أكثر من 12 موظفاً سابقاً في فريق الثقة والأمان لديها لمجلة "بلومبرغ بيزنس ويك" في مقابلات، إن المديرين التنفيذيين والمهندسين في بكين هم أصحاب القرار.
يُعنَى فريق الثقة والأمان بتصميم خصائص وسياسات من شأنها الحفاظ على سلامة مستخدمي "تيك توك"، فيما ينظّم الفريق، من مقارِّه في الولايات المتحدة وأيرلندا وسنغافورة، مليارات المقاطع المصورة التي تُرفع يومياً على المنصة.
كما أنه مسؤول عن المشكلات المتعلقة بأمان المستخدمين مثل المحتوى الذي يوجّه القُصّر جنسياً، ومقاطع التحدي سريعة الانتشار التي تدفع الأطفال على المشاركة في ألعاب تنافسية خطيرة.
يضطلع أعضاء فريق الثقة والأمان أيضاً بإزالة المشاركات التي تنتهك المعايير، وبتصميم أدوات لمساعدة المستخدمين على إقصاء الموادّ الضارة.
مع ذلك يقول الموظفون السابقون، الذين تحدثوا شريطة عدم كشف عن هوياتهم لكونهم وقّعوا اتفاقيات عدم إفصاح، إن تأثيرهم ضئيل على الخوارزمية التي تشغل صفحة التزكية "لك"، وإن طلباتهم للحصول على معلومات حول كيفية عملها كانت غالباً ما تُقابَل بالتجاهل.
أصر هؤلاء الموظفون على أن فخّاً نُصب لهم ليفشلوا في مهمتهم، إذ طُلب منهم تعزيز أمان تطبيق لم يُمكَّنوا من فهم دعائمه التقنية.
تعديلات قاصرة
قالت "تيك توك" في 2021 إنها كانت تختبر طرقاً لمنع خوارزميتها من إرسال مقاطع مصورة متعددة حول موضوعات مثل اتباع نظام غذائي صارم أو الحزن الشديد، ثم أعلنت المنصة عبر مدونة في 2022: "لقد طوّرنا تجربة المشاهدة بحيث يشاهد المستخدمون الآن عدداً أقلّ من المقاطع المصورة حول هذه الموضوعات في وقت واحد"، مشيرة إلى أنها "لا تزال تثابر لتطوير هذا الجانب".
صرّحَت الشركة في بيان صحفي في 16 مارس، بعدما تقدمت "بلومبرغ بيزنس ويك" بطلبات توضيح وقبل استجواب تشيو في الكونغرس، إنها أجرت 15 تحديثاً للنظام خلال العام الماضي، بما في ذلك تفريق الموضوعات المكررة ضمن المجموعة الواحدة من المقاطع المرشحة للمستخدمين.
تظهر تسجيلات شاشة لحساب ناسكا بدايةً من أبريل أن هذه الجهود، على الأقل في بعض الحالات، شابها القصور. قالت ميشيل: "لا أفهم لماذا يستمرون في إرسال هذه الأشياء إليه". في كل مرة تفتح فيها حساب نجلها، تجد دفقاً منتظماً من مقاطع مصورة تتناول الاكتئاب والانفصال بين الأحبَّة والموت والانتحار.
لا تزال الأم الثكلى تتذكر بجلاء محتوى أول مقطع شاهدته حين باشرت حساب نجلها، وجاء فيه: "إنني عالق في حياة لم أطلب أن أعيشها". تصفحت ميشيل موجز "لك" على مدى أكثر من ساعة ولم تستطع فهم سبب عدم وجود أي مقاطع مبهجة أو مضحكة، وهي ما كانت تعتقد أنها محور "تيك توك".
سألت الأم واحداً من شقيقَي تشيس الأكبر سنّاً عن سبب الكآبة التي يتشح بها حساب أخيهم الراحل، فأجاب: "تشيس لم يفعل ذلك يا أمي، تلك كانت الخوارزمية".
الخوارزميات هي مجموعة قواعد في البرمجيات تساعد على تمييز ما يثير اهتمام المستخدم وما لا يلقي له بالاً في عالم بلا نهاية من المعلومات. خوارزمية "تيك توك" مدربة على تتبع جميع تفاعلات المستخدم عبر التطبيق، بما يشمل التصفح والإعجاب والتعليق وإعادة المشاهدة والمتابعة.
تستخدم تلك المعلومات لاختيار المحتوى بغرض الإبقاء على استمرارية تفاعل المستخدمين، من ثم تتزايد المشاركة والتفاعل فترتفع عائدات الإعلانات. لقد صقلت الشركة نظام التزكية لديها لدرجة جعلت المستخدمين يفترضون أحياناً أن التطبيق يقرأ أفكارهم.
مخاوف داخلية
تستخدم منصات التواصل الاجتماعي الأخرى آليات تزكية مشابهة، إلا أن محرك "تيك توك" يتميز بمدى نفاذه، حسب قول غيوم شاسلو، وهو عالم بيانات فرنسي عمل على تصميم خوارزمية "يوتيوب"، ويعمل حالياً مستشاراً لحكومة بلاده بشأن جهود تنظيم المنصات عبر الإنترنت.
يعتقد شاسلو، استناداً إلى خبرته في هذا المجال، أن خوارزمية "تيك توك" تتحكم بحصة أكبر من المحتوى الذي يصل إلى موجز اهتمامات المستخدم مقارنة مع معظم منصات الوسائط الاجتماعية الأخرى. قال: "عندما يكون المحتوى الكئيب مفيداً للتفاعل، تروّجه الخوارزمية بفاعلية".
أُثيرت مخاوف بشأن محرك توصيات "تيك توك" داخلياً منذ 2020 على الأقل. كان ذلك عندما قال تشارلز بار، مدير مبيعات الإعلانات السابق بمكتب "تيك توك" في ألمانيا، إنه حذر رؤساءه من إرسال الخوارزمية سيلاً من مقاطع مثيرة للاكتئاب وتمجد فكرة الانتحار إلى مستخدمي التطبيق من الجيل "زد".
أمضى بار عاماً ونصفاً مع الشركة منذ انضمّ إلى فريق عملها في يوليو 2020 حين كان في الثامة عشرة من عمره. كان بار أسّس شركتين تقنيتين ناشئتين لدى بلوغه تلك السنّ، وبات يقدّم المشورة لسياسيين وشركات حول كيفية إتقان استخدام "تيك توك" بعد أن وظفته الشركة.
قال بار إنه عندما بدأ استخدام التطبيق لأول مرة كانت صفحة "لك" مسلية وممتعة، فأحب المنتج وكان فخوراً بارتداء قميصٍ يحمل شعار "تيك توك". لكن بمجرد أن نشر مقاطع عرّف فيها عن نفسه كموظف لدى المنصة، بدأ عديد من متابعيه المتزايدين يعيدون توجيه مقاطع مزعجة تنتهك قواعد "تيك توك" إليه ويحثونه على إزالتها.
يتذكر بار أن أحد أوائل المقاطع المصورة المخيفة التي أُرسلَت إليه كانت لرجل يطلق النار على رأسه.
بدأ ما يقترحه حساب بار ينحرف لمَّا صار يشاهد هذه المقاطع، وكان أحياناً يمرّرها إلى فريق الثقة والأمان سعياً للمساعدة. قال مدير المبيعات السابق: "ظهر مزيد وأزيد من المحتوى المتعلق بالاكتئاب والانتحار وإيذاء النفس" لدرجة كانت تدفعه إلى البكاء أحياناً.
عقّدت صفحة المقترحات في حساب بار بيع الإعلانات عبر المنصة، فقد كان يعقد لقاءات عمل مع عملاء محتملين بانتظام، وطلب كثير منهم الاطلاع على كيفية عمل التطبيق. قال مدير المبيعات السابق إنه لم يستطِع عرض صفحة "لك" في حسابه كيلا يفزعهم: "في كل مرة أبدأ لقاء عمل، كنت أنتقل من حسابي المحزن الكئيب إلى حساب تجريبي آخر يعرض موجزاً طبيعياً تماماً. لقد استغرقني الأمر طويلاً لأدرك أنني ربما لست الوحيد الذي لديه صفحة موجز شديدة الكآبة".
ثمن المكاشفة
عندما دُعي بار للتحدث في الاجتماع السنوي لفريق الاتصالات الأوروبية لدى "تيك توك" في نوفمبر 2020، رأى في ذلك فرصة لإثارة القضية، فقال مدير المبيعات السابق للحاضرين خلال عرض تقديمي عبر "باوربوينت" اطّلعت عليه مجلة "بلومبرغ بيزنس ويك"، إنه على "تيك توك" أن تجعل مهمتها الأساسية الاستماع إلى مستخدميها، بخاصة من يعانون مشكلات تتعلق بالصحة النفسية.
اقترح بار عبر إحدى شرائح العرض التقديمي أنه "رغم أننا نلهم الشباب ليطرحوا أكثر أفكارهم إبداعاً عبر (تيك توك)، يُوجَد مجتمع لا متناهٍ من شباب لا يعرف إلى أين يتَّجه".
ثم عرض ثلاثة منشورات لمستخدمين شباب يعانون الاكتئاب. قال بار إنه أوصى ألا يفرض التطبيق رقابة على مثل هذا المحتوى وأن يطرح مقاطع أكثر إيجابية للمستخدمين الأصغر سناً.
بعد سبعة أشهر نشرت صحيفة "وول ستريت جورنال" تحقيقاً اسنتد إلى مراقبة أكثر من 100 حساب آلي لاقتفاء كيفية عمل خوارزمية "تيك توك". نقلت الصحيفة أن روبوتاً مبرمجاً للتفاعل مع مقاطع مصورة حول الاكتئاب تَلقَّى تزكيات بعد 36 دقيقة لمشاهدة محتوى يتضمن موضوعات محزنة بنسبة 93%. قالت منصة التواصل الاجتماعي حينها إن روبوتات الجريدة لا تمثل السلوك البشري.
دفعت تجربة "وول ستريت جورنال" بار إلى إجراء تجربة بنفسه، فأنشأ حساباً جديداً على "تيك توك" وسجّل شاشة جهازه ليعرض تفاعله مع محتوى حزين بغية معرفة المدة التي ستستغرقها الخوارزمية لتصبح المقترحات في الحساب المختلَق سلبيةً. استغرق ذلك 17 دقيقة فقط.
قال بار إنه عبّر عن مخاوفه عبر نظام مراسلة داخلي مع الفريق القائم على استراتيجية الخوارزمية في أوروبا، لكنه لم يتلقَّ أي ردّ، ثم فُصل من عمله بعد بضعة أشهر متّهَماً بالتلاعب في حساب نفقاته وإساءة استخدام أجهزة الشركة.
رفع بار، الذي يصرّ على براءته من التهم المنسوبة إليه، دعوى قضائية متّهِماً الشركة بفصله تعسُّفياً. تراجعت "تيك توك" عن ملاحقة مدير المبيعات السابق قضائياً وتوصلت إلى اتفاق تسوية معه خارج المحكمة.
لم تستجب الشركة لطلبات تعليق على العرض التقديمى الذي ناقشه بار في 2020، قائلةً إنها لا تستطيع الرد على انتقاداته العامة أو المخاوف التي أثارها داخلياً، محتجة بأنها "لا تستطيع التحقق من صحتها".
تداعيات الوباء
عزّز الوباء الجدل حول تأثير تصميم الخوارزميات على الأطفال في ظلّ تخوُّف الآباء من العزلة والقلق الناجمَين عن الإغلاق وتعطيل المدارس وتزايد استخدام وسائل التواصل الاجتماعي.
نشر رئيس خدمات الصحة العامة في الولايات المتحدة فيفيك مورثي تحذيراً في ديسمبر 2021 بشأن سلامة المستخدمين، متطرقاً إلى أزمة وشيكة تتعلق بالصحة النفسية للشباب، وقال إن ارتفاع معدلات اليأس والأفكار الانتحارية بين المراهقين يمكن ربطها بالإغلاق بسبب "كوفيد-19" من جهة، ووسائل التواصل الاجتماعي من أخرى.
قال مورثي إن كثيراً من الشباب قيل لهم عبر هذه المنصات إنهم لم يكونوا "جميلين أو مشهورين أوأذكياء أو أغنياء بما يكفي"، داعياً الشركات القائمة على منصات وسائل التواصل الاجتماعي إلى تصميم خوارزمياتها بطرق من شأنها تعزيز الصحة العقلية للشباب، بدلاً من إضعافها.
قال علماء النفس إنه يصعب على المراهقين تحمُّل خصائص الخوارزميات التي تبلغ جاذبيتها حد الإدمان، لأن نمو القشرة الجبهية الأمامية، المسؤولة عن اتخاذ القرارات وتقييم الأمور والتحكم في الانفعالات، لم يكتمل.
يستخدم ثلثا المراهقين الأميركيين "تيك توك" يومياً، وفقاً لاستطلاع أجراه مركز "بيو" للأبحاث في 2022، إذ قال 16% إنهم على المنصة باستمرار تقريباً، فيما قالت غالبية من شملهم الاستبيان إن لديهم تجربة إيجابية على وسائل التواصل الاجتماعي عموماً، وإنها منحتهم شعوراً بالانتماء.
غير أن ما يقرب من نصفهم قال إن المآسي التي وجدوها في هذا العالم أرهقتهم نفسياً، فيما قال أكثر من ربعهم إن وسائل التواصل الاجتماعي جعلتهم يستاؤون من حياتهم أكثر من ذي قبل.
"فورت نوكس" جديدة
تسود صناعة وسائل التواصل الاجتماعي منافسة ضارية، لكونها قائمة على جمهور شابّ وشديد التقلب. تعتمد الشركات على الخوارزميات للإبقاء على جاذبية منصاتها بين المراهقين، ما يدفعها إلى حماية هذه الملكية الفكرية بشراسة.
لكن الافتقار إلى الشفافية قيّد البحث الأكاديمي وزاد الادعاءات المتضاربة. توفّر المنصات فرصاً مهمة للتواصل بين المراهقين، إلا أنها تشجعهم على مقارنة أنفسهم بالآخرين ليصبحوا مدمنين على التقنية وعلى استكشاف المحتوى الذي يحتفي بالسلوكيات الضارة.
قال أعضاء سابقون في فريق الثقة والأمان لدى "تيك توك" إنهم يخشون أن يكون لمنصتهم تأثير سلبي على المراهقين، وإنهم لم يفهموا سبب عدم استعانة الشركة بعلماء نفس الأطفال للعمل على تصميم الخوارزمية.
لقد قرأ كثيرون الوثائق التي سرّبتها فرانسيس هوغين، خبيرة البيانات لدى "فيسبوك" في 2021، وقد أظهرت أن الشركة كانت تدرك أن منتجاتها تضرّ بالأطفال. قال موظفو "تيك توك" السابقون إنهم يعتقدون أن أضرار تطبيقهم يمكن أن تكون أسوأ من أضرار "فيسبوك"، لكنهم لم يتمتعوا بالنفوذ اللازم لمعالجة المشكلة أو حتى دراستها.
فيما تلتزم جميع شركات التقنية السرية بشأن بياناتها، فإن هؤلاء المطّلعين الذين لديهم أيضاً خبرة في العمل لدى شركات مثل "غوغل" و"ميتا بلاتفورمز" و"تويتر"، يعتبرون "تيك توك" أشبه بحصن "فورت نوكس" لدى مقارنتها بنظيراتها.
لقد كانت السرية واضحة بشكل خاص في ما يتعلق بالخوارزمية. قال أعضاء فريق الثقة والأمان السابقون إنهم لم يطّلعوا على معلومات حول كيفية عملها وموازنتها وكيف يمكن تعديلها، وإن قادة الفريق لم يتمكنوا من الحصول على إجابات من المهندسين الذين صمموها.
قال أكثر من عشرة أشخاص، بعضهم كان يعمل لدى "تيك توك" حتى وقت قريب من العام الماضي، إن عراقيل عاقت جهودهم حين حاولوا الوصول إلى المعلومات الأساسية حول الخوارزمية. يتذكر أحد قادة فريق الأمان في أوروبا أنه طلب من رئيس القطاع الهندسي في بكين استضافة اجتماع موسَّع مع فريق الثقة والأمان ليتمكنوا من طرح الأسئلة وفهم طريقة عمل آلية التزكية بشكل أفضل، لكن طلبه قُوبل بالتجاهل.
قال عديد من العاملين في مجال الثقة والأمان إن بعض المستندات كُتب بلغة الماندرين وإن الترجمات لم تتضمن ملاحق أو روابط لمجموعات البيانات الأصلية في كثير من الأحيان، مما صعّب وضع المعلومات في سياقها وتحليلها بفاعلية. فيما عزا خمسة أعضاء سابقين في الفريق استقالاتهم إلى السرية التي منعتهم من أداء عملهم.
خطر قومي
بيّنت "تيك توك" أنها تأخذ المخاوف التي أعرب عنها الموظفون على محمل الجد، وأن أعضاء فريق الثقة والأمان يعملون مباشرة مع فرق مهندسين، وأن أي شخص غادرها قبل 2021 لن يكون على دراية بالتغييرات التي أُدخلَت على الخوارزمية منذ ذلك الوقت.
كما قالت منصة التواصل الاجتماعي إن جميع المستندات المهمة حول تغييرات الخوارزمية وأهمّ التعليقات المصاحبة لشفرة التعليمات البرمجية مكتوبة بالإنجليزية، لكن بعض الملاحظات حول التعليمات ذاتها قد تتضمن لغات أخرى يستخدمها مهندسوها في آسيا ومناطق أخرى.
تعرّضَت جميع منصات وسائل التواصل الاجتماعي لانتقادات بسبب ضخ محتوى يعتاده المراهقون إلى حد الإدمان للإضرار بصحتهم العقلية وجمع بياناتهم خلسة. لكن عندما تأتي هذه الأفعال من شركة صينية، يميل المشرعون الأميركيون إلى تصويرها كعدو شرير على نحو استثنائي.
كانت المخاوف بشأن مطالبة الحكومة الصينية المنصة بتسليم بيانات مستخدميها، أو جعل محرّك توصيات التطبيق يعمل لخدمة المصالح الصينية، دفعت الاتحاد الأوروبي والولايات المتحدة وكندا ودولاً أخرى إلى حظر التطبيق من الأجهزة الحكومية.
فيما حظر بعض الجامعات الأميركية "تيك توك" من شبكات الإنترنت اللا سلكية الخاصة بها، وبات المجلس التشريعي في ولاية مونتانا أول من يقرّ مشروع قانون يحظر استخدام التطبيق على جميع الأجهزة الشخصية في أبريل.
"دوين" شقيق "تيك توك"
تلقى تشيو، الرئيس التنفيذي للشركة الصينية، وابل أسئلة حول علاقة "تيك توك" ببكين وبالحزب الشيوعي الصيني خلال جلسة الاستماع التي عُقدت بالكونغرس في مارس. لكن محاولاته لتفادي الضربات على غرار تأكيده أن "هذه بيانات مواطنين أميركيين مملوكة لشركة وطنية يشرف عليها موظفون أميركيون على الأراضي الأميركية" قوبلت بالتشكيك.
طرح غس بيليراكيس عضو الكونغرس الجمهوري عن ولاية فلوريدا، معاناة والدَي تشيس اللذين كانا بين الحضور خلال الجلسة. أشار بيليراكيس إلى الوالدين المكلومين قائلاً: "تشيو، لقد دمرت شركتكم حياتهم. هل يمكن أن تشارك طفليك هذا المحتوى؟"، ثم عرض تسجيل شاشة مدته 30 ثانية لحركة حساب ناسكا على "تيك توك"، وسأل الرئيس التنفيذي عما إذا كان يتحمل مسؤولية خوارزمية التطبيق والإجابة بنعم أو لا فقط. بدأ تشيو يجيب، لكن بيليراكيس قاطعه مطالباً بإجابة قاطعة قائلاً: "نعم أم لا؟",
قال تشيو: "نوفّر الموارد لأي شخص يبحث عن أي معلومة مثل الانتحار"، فقاطعه عضو الكونغرس مجدداً معلناً: "أرى أنك غير مستعد للإجابة عن السؤال أو تَحمُّل أي مسؤولية بصفتك ممثلاً عن الشركة الأم وتقنيتها وما تخلفه من ضرر".
كان أحد الموضوعات التي أثيرت في جلسة الاستماع أيضاً محطّ اهتمام في ما يتعلق بمتطلبات الثقة والأمان: لماذا لم تستطع "تيك توك" تعديل خوارزميتها لتصبح أشبه بخوارزمية منصة "دوين" الشقيقة، التي تعمل في الصين فقط وتشاركها في جزء من مصدر الشفرة البرمجية؟
تشتهر خوارزمية "دوين" بإرسال محتوى إيجابي إلى المراهقين، مثل المشاركات التعليمية حول التجارب العلمية ومعروضات المتاحف. كما أن لديها حدّاً زمنيّاً إلزاميّاً لإتاحة استخدامها قدره 40 دقيقة يوميّاً للأطفال دون 14 عاماً.
تحديثات الخصوصية
لم تردّ "تيك توك" على أسئلة حول الجزء الذي تتشاركه مع الشقيقة "دوين" من مصدر الشفرة البرمجية تحديداً، بل قالت إن "دوين" هو "تطبيق منفصل تحكمه سياسات وأسواق تنظيمية مختلفة"، كما قالت الشركة إنها كانت تعمل خلال الأشهر الأخيرة على إزالة بعض الغموض الذي يكتنف خوارزمية "تيك توك" وتحديث النظام الأساسي لجعلها أكثر أماناً للأطفال.
على سبيل المثال، بات بإمكان الآباء مراقبة ما يفعله أطفالهم في أثناء استخدام "تيك توك" في 2020. كما شددت المنصة تدابير الخصوصية خلال العام التالي على حسابات من تقلّ سنّهم عن 16 عاماً لتصبح حساباتهم خاصة تلقائياً، ما يعني أنه لن يمكن لأي شخص متابعة حساباتهم أو مشاهدة مقاطعهم المصورة دون موافقتهم.
ثم أعلنت في فبراير أنها ستمنح الباحثين الأميركيين حق الوصول إلى بعض البيانات المتعلقة بالحسابات والمحتوى، لكنها تُلزِمهم إرسال نتائج أبحاثهم لتطّلع عليها قبل النشر.
كما أضافت الشركة خاصية تنبيه للمستخدمين الذين تقلّ سنّهم عن 18 عاماً عندما يقضون أكثر من ساعة مشاهدة على المنصة، وتجعلهم يُدخِلون رمز مرور ليبقوا عليها. ثم بدأت السماح للمستخدمين بإعادة تعيين توصيات صفحة "لك" الخاصة بهم كأنهم أنشأوا حسابات جديدة بالضبط في حال شعروا بأن المحتوى الذي يشاهدونه كئيب جدّاً.
قالت رين لينثيكوم، مديرة سياسات الصحة العقلية لدى "تيك توك"، إن الشركة تحظر منشورات تمجّد موضوعات مثل الانتحار وإيذاء النفس، وإنها تدرّب أنظمة الذكاء الاصطناعي و40 ألف مشرف من البشر على إزالتها.
كما نجحت "تيك توك" في تنقيح أكثر من 97% من المحتوى الذي يروّج مثل هذه الموضوعات قبل أن يشاهده مستخدمون آخرون، من بين أكثر من 85 مليون مقطع مصور أزالته عموماً خلال الربع الأخير من 2022، وفقاً لبيانات الشركة.
قالت لينثيكوم، التي تولّت دورها منذ عام وتشير إلى نفسها بصيغة الجمع رغبةً في عدم التأطير حسب الجنس، إن الإشراف على تنقيح المقاطع تَحدٍّ مستمرّ، وإنه يصعب تدريب خوارزمية للتمييز بين البكاء من الحزن والبكاء من الفرح أو بين مقطع مصور يرفع الوعي بالاكتئاب أو فقدان الشهية وآخر يشجّع على ذلك.
قالت مديرة سياسات الصحة العقلية: "إنه فضاء معقد بشكل لا يصدَّق، وما قد يكون ضاراً أو مؤذياً لشخص ما، ليس بالضرورة كذلك لآخر".
هوة الوسائط
من وجهة نظرها، لا ينبغي مراقبة بعض موادّ المحتوى، لأن ذلك يمكن أن تساعد المراهقين الأسرع تأثراً على تقليل شعورهم بالوصم. قالت لينثيكوم: "يمرّ الأشخاص بتقلبات، بالتالي يكون لديهم تجارب حياتية حزينة".
قال براندون مافي، أحد أصدقاء ناسكا، إن المقاطع المصورة لأشخاص يقولون إنهم لا يريدون العيش وجدت طريقها إلى صفحة "لك" على حساب الراحل في أواخر 2021. التقى مافي، الطالب في السنة الأخيرة من المرحلة الثانوية بمدرسة "بايبورت بلو بوينت"، ناسكا عندما كانا في الصف الثالث. كان مافي الطفل الجديد في المدرسة، وانجذب إلى ناسكا الذي بدا ودوداً ومرحاً ويتمتع بروح حرة.
عندما أُغلقَت مدرستهم إبان الوباء، بدأوا، كما فعل عديد من المراهقين الأميركيين، يقضون مزيداً من الوقت بالمشاهدة عبر منصة "تيك توك"، وتبادل المقاطع المصورة المضحكة في وقت متأخر من الليل.
لاحظ مافي أن المقاطع التي يشاركها ناسكا عبر حسابه باتت أكثر كآبة قرب نهاية 2021، حتى إنه أرسل مقطعاً حول الانتحار قبل أسابيع قليلة من وفاته.
قال مافي: "فتحت المقطع المصور، وقلت تبّاً، لا أعرف ما الذي جعله يرسل إليّ هذا المقطع". يتذكر صديق ناسكا محتوى المقطع بوضوح لأنه جعله يبكي، فقد كانت الموسيقى محبطة، وكان عنوانه التوضيحي الذي يظهر على الشاشة "لم يعُد الأمر يستحقّ مزيداً من العناء".
بدأ مافي يخبر الناس، ومنهم ناسكا، أن التطبيق عرض كثيراً من المحتوى المزعج وأنه يريد حذفه. قال الطالب البالغ من العمر الآن 17 عاماً: "إنه أمر سيئ حقّاً للصحة العقلية، لأنه يقحم مشاعر الاكتئاب الحزينة في حياتك، رغم أنك لن تشعر بذلك".
أرسلت مجلة "بلومبرغ بيزنس ويك" في فبراير تسجيل شاشة مدته تسع دقائق لصفحة "لك" من حساب ناسكا إلى جينيفر هاريغر، أستاذة علم النفس بجامعة ببردين في كاليفورنيا. كانت هاريغر قضت السنوات الخمس الماضية تدرس تأثير وسائل التواصل الاجتماعي في المراهقين، بخاصة رضاهم عن صورتهم الجسدية.
أظهرت تجاربها مع مئات من طلاب الجامعات أن التعرُّض لمحتويات تُظهِر شكل الجسم المثالي عبر وسائل التواصل الاجتماعي قد يُضعِف رضا المرء عن مظهره. ركزت هاريغر على خوارزمية "تيك توك" في الآونة الأخيرة، لكنها تقول إن أبحاثها كانت محدودةً بسبب افتقار الشركة إلى الشفافية. قالت أستاذة علم النفس: "لا طريقة فعالة لدراسة الخوارزمية، لأننا لا نعرف كيف تعمل".
وقفت هاريغر تسجيل شاشة حساب ناسكا بعد بضع دقائق من المشاهدة على هاتفها قائلةً: "إنه هجوم من المحتوى المحزن والمحبط واليائس"، حتى بالنسبة إليها "كان المقطع مثيراً عاطفياً للغاية، رغم أنني أقدَر على استيعاب ما رأيت منطقيّاً. لكن عندما يشاهد مراهق عقله سريع التأثر هذا المحتوى، سيُظهِر استجابة أقوى. هذا أمر مخيف جداً"، وأضافت أن موجز صفحة ناسكا "بالتأكيد لا يلائم مراهقاً".
كتبت هاريغر وثلاثة من زملائها، في ورقة بحثية صدرت في 2022 تحت عنوان "مخاطر السقوط في هوة الوسائط"، أن "مسؤولية حماية مستخدمي المنصات من الضرر تقع في النهاية على عاتق شركات الوسائط الاجتماعية التي تنشئ وتطبّق الخوارزميات".
يحاول بعض المشرعين الأميركيين توصيل هذه الرسالة، فقد تقدموا بمشاريع قوانين على مستوى ولاية والمستوى الاتحادي لإجبار شركات التقنية على تقديم سلامة الأطفال على المصالح التي تحرّكها الأرباح.
معارك قانونية
كما يُتوقع أن تفصل المحكمة العليا الأميركية هذا العام في دعوى الطعن على دستورية المادة 230 من قانون آداب الاتصالات التي تحمي شركات وسائل التواصل الاجتماعي من الملاحقة القضائية بسبب المحتوى المنشور على مواقعها.
رُفع أكثر من 200 دعوى قضائية ضد منصات التواصل الاجتماعي منذ بداية 2022، وقد حاجَّ معظمها بأنه وإن تعذر تحميل الشركات مسؤولية المحتوى المنشور على منصاتها، فهي مسؤولة عن الأضرار التي تنطوي عليها منتجاتها.
تشمل الدعاوى ما لا يقلّ عن عشرين قضية رفعتها الدوائر التعليمية ضد مجموعة شركات مثل "إنستغرام" و"سنابشات" و"تيك توك" و"يوتيوب" والشركات التي تملكها، زاعمين أن تلك الشركات مسؤولة عن أزمة الصحة العقلية التي يعانيها شباب البلاد.
فيما رفع غالبية القضايا الأخرى "المركز القانوني لضحايا منصات التواصل الاجتماعي"، وهو شركة محاماة مقرها سياتل، تمثل عائلة ناسكا. يزعم المركز أن وسائل التواصل الاجتماعي تسببت في معاناة الضحايا من الحرمان من النوم واضطرابات الأكل وإدمان المخدرات والاكتئاب والانتحار في أكثر من 65 حالة.
قالت لورا ماركيز غاريت، إحدى محاميات المركز، إن الدعاوى المرفوعة ضد "تيك توك" تجادل بأن الخوارزمية مصممة لاستهداف نقاط الضعف لدى المراهقين: "لمنصة (تيك توك) جانب مظلم حقاً لا يراه معظم البالغين. يمكن أن يكون لديك طفل ووالده يشاهدان منصة التواصل الاجتماعي على هاتفيهما في نفس الغرفة، وسيشاهدان منتجين مختلفين تماماً".
كانت بين الدعاوى التي أقامها المركز قضية رفعها نيابة عن فتاتين مراهقتين تتعافيان من اضطرابات الأكل، هما نوالا مولين من نيويورك، 18 عاماً، وكاتي من فرجينيا، 14 عاماً. طلبت كاتي عدم ذكر اسمها كاملاً حتى لا تظل مشكلة معاناتها من فقدان الشهية تلاحقًها طوال حياتها.
قالت الفتاتان إنهما أحبتا مشاهدة مقاطع الرقص المضحكة والغريبة على "تيك توك"، لكن في 2021 لاحظتا أن صفحة "لك" على حسابَيهما بدأت تعرض مقاطع غير مرغوبة حول كيفية الحصول على سيقان نحيفة واستهلاك سعرات حرارية أقلّ في يوم واحد. قالت كاتي: "لا أتذكر أنني بحثت عن أي من تلك الموضوعات على الإطلاق. مع ذلك، ظهرت لي مقاطع حولها".
تتذكر الفتاتان إنهما صارتا مهووستين بالتطبيق، وانعزلتا عن أصدقائهما وعائلتيهما بمرور الوقت. قالت كاتي: "لقد شعرت بالوحدة الشديدة، لكن (تيك توك) كان يشغل الفراغ نوعاً ما". في يناير 2022 اضطُرّت كاتي إلى دخول المستشفى في اليوم الذي تلا احتفالها بعيد ميلادها الثالث عشر، بسبب انخفاض معدل ضربات قلبها في أثناء الراحة، لدرجة هدّدَت حياتها.
نُقلت مولين إلى المستشفى في نفس الشهر، وكانت تعاني الأعراض نفسها. قالت مولين التي تقاضي "ميتا" و"فيسبوك" أيضاً، إن "هذه الخوارزمية صُمّمَت لجعل الأطفال يؤذون أنفسهم بطرق لا يدركونها من حيث الأساس". لا تزال القضيتان قيد النظر.
قالت ماركيز غاريت: "أطفالنا يموتون. إنهم يطورون اعتمادية ضارة على هذه المنتجات، ومن ثم يعانون معدلات غير مسبوقة من الاكتئاب والقلق والانتحار. كم مراهقاً منتحراً في سنّ 16 عاماً سيتطلب الأمر كي يدرك الناس أن الأمر ليس مقبولاً؟"
حادثة مفاجئة
جلست ميشيل ناسكا إلى طاولة المطبخ في منزل عائلتها المطليّ باللون الأزرق في لونغ آيلاند في فبراير لتشاهد مقاطع مصورة من حساب نجلها "تشيس" على منصة "تيك توك".
عرض أحدها رجلاً يصرخ: "حياتي بائسة للغاية! إنني أكره حياتي، أكرهها". قالت ميشيل فيما انسابت الدموع على خديها: "هذا ما أجده في كل مرة أفتح فيها حساب تشيس". واصل الرجل خطبته عبر الشاشة فيما كانت يدا ميشيل ترتعشان. كان زوجها دين يراقبها متجهماً، وعلّق: "إنه أمر مقزّز، هذه هي حقيقة الأمر. أين المقاطع المبهجة؟ لا شيء مبهج هنا".
كانت عائلة ناسكا تعيش حياة هادئة في الضواحي قبل وفاة تشيس، إذ أقامت ميشيل، وهي مضيفة طيران، مع زوجها دين الذي يعمل محاسباً، في منزل من خمس غرف نوم برفقة أولادهما الثلاثة. أمضى أطفالهما فصول الصيف يركبون الدراجات حول المدينة أو في الإبحار إلى جزيرة فاير.
كان تشيس متفوقاً حتى إنه كان يحل أسئلة الحساب المطلوبة من أخيه الأكبر عندما كان في الرابعة من عمره. كان الراحل طالباً متفوقاً، وشارك في فريق السباحة في المدرسة الثانوية وفي فريق كرة قدم للتنمية الأولمبية. قال مدرب كرة القدم كورت كيلي: "لم تظهر عليه أي مؤشرات للاكتئاب... كان عضواً جيداً في الفريق، وقائداً جيداً لزملائه، بل وصديقاً جيداً أيضاً".
كان تشيس يحب هاري بوتر والمطاعم التي تقدّم شرائح اللحم المشوي وتَصفُّح وسائل التواصل الاجتماعي. اعتاد الطالب واللاعب المتفوق الجلوس في السيارة ملتصقاً بشاشة هاتفه معتمراً سماعات الرأس في طريقه إلى تدريب كرة القدم.
لم يعتقد والداه أنه أمر يستدعى اهتمامهما، ولم يطلبا تَفقُّد محتويات هاتفه، لا سيما في ظلّ استمرار تلقيه تقييمات دراسية مرتفعة ومواظبته على التدريبات الرياضية، فلم يرغبا بالتدخل في شؤونه احتراماً للقدر القليل من الحرية الذي يحظى به.
لكنهما استخدما الهاتف لاقتفاء أثره، وهكذا علمت والدته أن أمراً مريباً حدث ذلك المساء في فبراير 2022. تقصّت الأم موقع تشيس قبل الساعة السابعة بقليل لمعرفة موعد عودته إلى المنزل. أظهرت النقطة الزرقاء الصغيرة التي تمثل مكانه على الخريطة أنه غادر الصالة الرياضية، لكنه لم يكن يتحرك.
كبّرت ميشيل الخريطة ورأت أنه كان عند مفترق طرق السكك الحديدية. هاتفته والدته، لكنه لم يرد وأُحيلَت مكالمتها إلى البريد الصوتي مباشرةً.
قادت ميشيل سيارتها واتجهت صوب موقع تشيس قرب تقاطع مسارات السكك الحديدية. عندما وصلت رأت قطاراً متوقفاً فيما تومض أضواؤه. طلب قائد القطار الذي وقف خارجه، من والدة الراحل التراجع بعيداً عن القطار، فهُرعَت الأم الحائرة تجري ذهاباً وإياباً بين القضبان تبحث حتى تحت عجلات القطار وتنادي تشيس.
تقصّي الأسباب
كانت الأيام الأولى بعد وفاته بمثابة دوامة من الإنكار والحزن والأرق. عندما أعادت الشرطة دراجته وهاتف "آيفون" الخاص به ، فتحت ميشيل الهاتف ووجدت أنه لا يزال يعمل رغم تَحطُّم شاشته متأثرةً بحادثة القطار، لكنها لم تكن تعرف رمز مرور تشيس المؤلف من ستة أرقام.
كانت احتمالات مجموعة الأرقام الستة لا نهائية، إلا أنها استمرت في محاولة فتح الهاتف على أي حال، وقد منحها ذلك هدفاً مرحباً به لكونه يجلب شيئاً من الإلهاء.
أخذت الأم الهاتف إلى أحد متاجر "أبل"، لكن المدير قال إنه لا يمكنه فتح الهاتف لأسباب تتعلق بالخصوصية، كما لم يتمكن إخصائي تقنية معلومات محلي من فتح الهاتف أيضاً، ولم تساعدها الشرطة على فك شفرة الهاتف، لكون تشيس مات منتحراً لا مقتولاً.
أخيراً، تذكرت ميشيل أنها تستطيع إعادة تعيين كلمات مرور حسابات "تيك توك" و"سناب شات" الخاصين بنجلها عبر اختيار "نسيان كلمة المرور"، وبالتالي سيرسل الموقع رابطاً إلى عنوان البريد الإلكتروني الاحتياطي، وهو بريدها الشخصي.
لم تكُن ميشيل تعرف عمَّ تبحث تحديداً، لكنها عندما فتحت حساب "تيك توك" وجدت ما كانت تبحث عنه، فقد كان التطبيق "يمجّد الانتحار ويجعله يبدو طبيعياً".
قرّرَت عائلة ناسكا إقامة دعوى قضائية ضد منصة "تيك توك" بعد التشاور مع "مركز ضحايا جرائم وسائل التواصل الاجتماعي". قدمت الشركة طلباً بإحالة القضية إلى محكمة اتحادية، بدلاً من أن تنظر فيها محكمة الولاية، وعليها تبرير طلبها للقاضي.
قال دين: "الناس بحاجة إلى معرفة مخاطر وسائل التواصل الاجتماعي... تشيس لم يتعرّض للتنمر وكان لديه أصدقاء كُثر، وكان متفوقاً أكاديمياً ورياضياً، ولم يكن يتعاطى المخدرات أو يشرب الخمور، فما المتغير الذي استجد في حياته ودفعة إلى حافة الانتحار؟ لا يمكنني استنتاج شيء سوى مشاهدة هذا الفيض المستمر من المقاطع المصورة على منصة تيك توك".
بغضّ النظر عن الدور الذي لعبته المقاطع التي رشحتها خورازمية "تيك توك" في انتحاره، فإن مقتطفات من حديث تبادله تشيس مع شخص عبر منصة التواصل الاجتماعي تقدّم تصوراً شاملاً عن حالته النفسية يوم وفاته.
المحادثة الأخيرة
أرسل تشيس رسالة إلى مستخدم يتابعه وينشر كثيراً من المحتوى المتعلق بالاكتئاب في الساعة 9:09 صباحاً خلال وجوده في فصل دراسي. لم يسبق أن التقى تشيس هذا المستخدم ولم يكن يعرف اسمه الحقيقي، مع ذلك وجد الطالب المتفوق شيئاً من السلوى بحديثه مع هذا الغريب، إذ استمرت محادثتهما طوال اليوم الدراسي.
كتب تشيس لهذا الغريب: "قد لا أستمر يوماً آخر، لقد سئمت تحمل هذه المعاناة". ردّ ذاك الشخص الآخر: "أدرك شعورك تماماً... آمل حقّاً أن تبقى حيّاً، الأمر لا يستحقّ أن تغادر".
أضاف تشيس في رسائله إلى هذا الغريب: "لقد كنت أقول ذلك لنفسي لفترة طويلة. لم أعد أجد متعة في أي شيء، فكل تمرين كرة قدم أخوضه أشعر بالقلق لأني قد أفشل، حتى الذهاب إلى صالة الألعاب الرياضية أو ممارسة ألعاب الفيديو باتت أموراً مملة".
ردّ عليه المستخدم الآخَر: "صعب بالتأكيد العثور على الفرح والسعادة في الحياة عموماً. شخصياً، أنا لا أزال أبحث عنهما. أدرك أنك قد بلغت أقصى درجات اليأس، لكن عدم الاستسلام هو ما يجعلك قويّاً. لا يجب أن يعرف أحد المعاناة التي تمر بها".
أجابه تشيس: "أنا بخير ما دم لا أحد يعرف أحد شيئاً عني. أعتقد أنني أفضّل إبقاء الأمر على هذا النحو. عندما أفكّر بمستقبلي لا أستطيع تخيُّل نفسي سعيداً، أو أن لديّ زوجة وأسرة. لقد فقدت الشغف لأني مكتئب طوال الوقت".
انتهت المحادثة بنهاية اليوم الدراسي، ثم أرسل تشيس رسالة أخيرة إلى ذلك الغريب في الساعة 6:29 مساءً، قبل 10 دقائق تقريباً من وفاته: "مرحباً يا أخي، إذا لم أكن هنا غداً، فأرجو أن تتذكرني وتسامحني".
(إن كنت بحاجة إلى مساعدة في التغلب على أفكار الانتحار أو إيذاء النفس، أنت أو شخص تعرفه، فستجد في هذا الرابط قائمة عالمية بخطوط المساعدة على تخطي هذه الأفكار السلبية).
تصنيفات
