خوارزميات "فيسبوك" أكبر من أن يتم إصلاحها
قدمت شهادة فرانسيس هوغن في الكونغرس هذا الأسبوع رسالة مهمة للوطن، وهي أن "فيسبوك" تضر بشكل مستمر بملايين وربما مليارات من المستخدمين في جميع أنحاء العالم، عبر استخدام مجموعة من الخوارزميات المصممة لرفع نسب المشاركة وعوائد الإعلانات.هذا يطرح سؤالا مفاده: ما الذي يجب عمله؟ فحجم المهمة الكبير وتعقيدها يحولان دون الإجابة ببساطة عن هذا السؤال، لكن بصفتي متخصصة في صنع خوارزميات التدقيق المباشر، وأسعى للحد من الضرر الذي يمكن أن تحدثه تلك الخوارزميات، يمكنني طرح بعض الأفكار في هذا الصدد.أصحاب المصلحةعندما أقوم بمهمة عمل، أفكر أولاً في الفئات التي تؤثر عليها الخوارزمية. فعلى سبيل المثال، قد يشمل أصحاب المصلحة في خوارزمية لتصحيح الامتحانات، الطلاب والمعلمين والمدارس، بالإضافة إلى المجموعات الفرعية التي يتم تحديدها وفقاً للعرق والجنس والدخل.وعادةً ما يكون هناك عدد من الفئات التي يمكن تتبعها، ويكون عددها حوالي 10 أو 12 فئة. ثم أقوم بتطوير اختبارات إحصائية لمعرفة ما إذا كانت الخوارزمية تعالج، أو من المحتمل أن تعالج، أي مجموعات بشكل غير عادل، وأطرح أسئلة مثل: هل هي متحيزة ضد الطلاب السود أو الفقراء، أو ضد المدارس في أحياء معينة؟. وفي نهاية المطاف، أقترح طرقاً للتخفيف من هذه الأضرار أو استبعادها تماماً.اقرأ أيضا: دليل "الواشية" لإصلاح "فيسبوك"للأسف، يصعب تطبيق هذا النهج على خوارزمية تحديث الأخبار على "فيسبوك"، أو في هذا السياق، على الخوارزميات الأساسية في أي شبكة اجتماعية كبيرة أو محرك بحث مثل "غوغل". لأنها كبيرة جداً. وقائمة أصحاب المصلحة المحتملين لا حصر لها. بالتالي، لن تكتمل عملية التدقيق أبداً، وستفتقد لا محالة شيئاً مهماً دائماً. فعلى سبيل المثال، لا أستطيع أن أتخيل أن المدقق كان ليتوقع بشكل منطقي في عام 2016 كيف سيصبح "فيسبوك" أداة للإبادة الجماعية في ميانمار، وأن يطور طريقة لمنع انتشار المعلومات المضللة حول الأقلية المسلمة في البلاد. وبسبب ذلك قُلت منذ فترة طويلة إن إصلاح خوارزمية "فيسبوك" هو عمل لن أقبل القيام به أبداً.بقلم: Cathy O'Neilغوغل (ألفابت)
163.65 USD+1.46
غوغل (ألفابت)
163.65 USD+1.46