انتشر "التزييف العميق" (deepfakes) مؤخراً على مواقع التواصل الاجتماعي بشكل ملحوظ – يجري هذا التزييف على مقاطع الفيديو أو الصوت أو الصور التي تجعل الناس يبدون وكأنهم يفعلون أو يقولون أشياء لم يفعلوها بالفعل، أو في مكان ما لم يكونوا فيه. صُمم عدد كبير منها لإضفاء المزيد من المصداقية على الأكاذيب والإضرار بسمعة السياسيين وغيرهم في نظر الجمهور. لكن معظم التزييف العميق عبارة عن مقاطع فيديو وصور تم تلفيقها عن طريق إجراء تعديل رقمي على وجه الشخص أو جسده لجعله شبيهاً بشخص آخر.
انتحال الشخصية بـ"التزييف العميق" يقود موجة جديدة من جرائم الاحتيال
هذا ما حدث في أواخر يناير، عندما انتشرت صور مزيفة فاضحة لنجمة البوب الأميركية تايلور سويفت عبر وسائل التواصل الاجتماعي. فبعد أن سمح الذكاء الاصطناعي لأي شخص تقريباً باستحضار صور وصوت حقيقي ببضع نقرات على لوحة المفاتيح، أصبح من الصعب معرفة ما إذا كان ما تراه وتسمعه عبر الإنترنت حقيقياً أم مزيفاً.
1- ماذا حدث لتايلور سويفت؟
تمت مشاركة الصور الزائفة لسويفت على نطاق واسع على مواقع التواصل الاجتماعي، ما أثار غضب معجبيها. وظهر العديد منها على منصة "إكس"، المعروفة سابقاً باسم "تويتر"، والتي أكدت أنها تعمل بشكل نشط على إزالة جميع الصور المحددة وستتخذ الإجراء المناسب بحق الحسابات المسؤولة عن نشرها.
بقي منشور واحد لمدة 17 ساعة تقريباً وحصل على أكثر من 45 مليون مشاهدة، وفقاً لـ"ذا فيرج" (The Verge)، وهي علامة على أن مثل هذه الصور قد تنتشر قبل وقت طويل من اتخاذ الإجراء لإيقافها.
في وقت لاحق، حظرت منصة "إكس" البحث عن "سويفت"، حيث تلقى المستخدمون عند بحثهم رسالة "حدث خطأ ما. حاول إعادة التحميل".
وزير الذكاء الاصطناعي في الإمارات لـ"الشرق": التزييف العميق أبرز التحديات
أثار حادث "سويفت" قلق البيت الأبيض، الذي شدد على ضرورة اتخاذ الكونغرس إجراء تشريعي بشأن القضية للحد من انتشار الصور المزيفة والمسيئة على الإنترنت.
2- أين ظهرت تقنية التزييف العميق في الأخبار؟
في وقت سابق من شهر يناير، تحدثت زوتشيل غوميز (Xochitl Gomez)، الممثلة البالغة من العمر 17 عاماً في سلسلة "مارفل" (Marvel)، عن عثورها على دلائل تُظهر "التزييف العميق" من خلال صور جنسية فاضحة بوجهها على وسائل التواصل الاجتماعي وعدم النجاح في حذفها، حسبما ذكرت "إن بي سي نيوز" (NBC News). كما ظهرت تقنية التزييف العميق بشكل ملحوظ في الانتخابات الرئاسية الأميركية لعام 2024. حيث تلقى سكان "نيو هامبشاير" مكالمات آلية قبل الانتخابات التمهيدية الرئاسية للولاية، وكأن الرئيس جو بايدن يحثهم من خلالها على التزام منازلهم و"احفظ صوتك لانتخابات نوفمبر". حتى أن الصوت عبر المكالمة نطق بإحدى عبارات "بايدن" المميزة: "يا له من كلام فارغ ".
3- كيف تعمل تقنية التزييف العميق على مقاطع الفيديو؟
غالباً ما يتم تصميمها باستخدام خوارزمية الذكاء الاصطناعي التي تم تدريبها على التعرف على الأنماط في تسجيلات الفيديو الحقيقية لشخص معين، وهي عملية تعرف باسم "التعلم العميق". من الممكن بعد ذلك تبديل عنصر من مقطع فيديو واحد، مثل وجه الشخص، إلى جزء آخر من المحتوى دون أن يبدو وكأنه مفبرك أو مزيف. تكون عمليات التلاعب مضللة للغاية عند استخدامها مع تقنية استنساخ الصوت، والتي تقسم مقطعاً صوتياً لشخص ما يتحدث أجزاء مقطع لفظي يمكن إعادة تجميعها في كلمات جديدة، ليبدو بذلك أن الشخص تحدث بها في التسجيل الأصلي.
4. كيف بدأت تقنية التزييف العميق؟
كانت التكنولوجيا في البداية مجالاً مخصصاً للأكاديميين والباحثين. ومع ذلك، ذكرت "موذر بورد" (Motherboard)، وهي مجلة أطلقتها "فايس" (Vice)، عام 2017 أن مستخدماً لـ"ريديت" (Reddit) يسمى "التزييف العميق" (deepfakes) قد ابتكر خوارزمية لإنشاء مقاطع فيديو مزيفة باستخدام شفرة مفتوحة المصدر. حظر "ريديت" حساب المستخدم، لكن هذه الممارسة انتشرت بسرعة. في البداية، تطلب التزييف العميق فيديو موجود بالفعل وأداء صوتي حقيقي، إلى جانب مهارات التحرير الذكية. تسمح أنظمة الذكاء الاصطناعي التوليدية اليوم للمستخدمين بإنتاج صور ومقاطع فيديو مقنعة من مطالبات بسيطة مكتوبة.
صندوق النقد: الذكاء الاصطناعي سيؤثر على 40% من الوظائف
اطلب مثلاً من جهاز كمبيوتر إنشاء مقطع فيديو لشخص ينطق بكلمات معينة وسيظهر أمامك. أصبح من الصعب اكتشاف عمليات التزييف الرقمي، حيث تطبق شركات الذكاء الاصطناعي الأدوات الجديدة على مجموعة كبيرة من المواد المتاحة على الويب، بدءاً من الـ"يوتيوب" وصولاً إلى مكتبات الصور والفيديو.
5. ما هي بعض الأمثلة الأخرى على التزييف العميق؟
تداول المتصيدون أو "الترولز" (trolls) في الصين صوراً مزيفة لحرائق الغابات في أغسطس بجزيرة ماوي في هاواي للتأكيد على أن هذه الحرائق ناجمة عن "سلاح طقس" سري تختبره الولايات المتحدة.
تراجعت الأسهم الأميركية لفترة وجيزة في مايو 2023، بعد انتشار صورة مزيفة لانفجار البنتاغون على مواقع التواصل الاجتماعي. أشار الخبراء إلى أن الصورة المزيفة تحمل بصمات الذكاء الاصطناعي. وفي فبراير من ذلك العام، ظهر مقطع صوتي مزيف للمرشح الرئاسي النيجيري وكأنه يخطط لتزوير نتائج الانتخابات الرئاسية. في عام 2021، انتشر مقطع فيديو مدته دقيقة على وسائل التواصل الاجتماعي يظهر الرئيس الأوكراني فولوديمير زيلينسكي وهو يطلب من جنوده إلقاء أسلحتهم والاستسلام لروسيا.
6- ما هو خطر هذه التقنية؟
يكمن الخوف من أن "التزييف العميق" سيصبح في نهاية المطاف مقنعاً لدرجة أنه سيكون من المستحيل التمييز بين ما هو حقيقي وما هو مزيف. تخيل أن يتلاعب المخادعون بأسعار الأسهم من خلال إنتاج مقاطع فيديو مزيفة لرؤساء تنفيذيين يصدرون تحديثات للشركات، أو مقاطع فيديو مزيفة لجنود يرتكبون جرائم حرب.
الحرب والذكاء الاصطناعي وتغير المناخ تهدد التجارة العالمية
يعتبر السياسيون وقادة الأعمال والمشاهير الأكثر عرضة لخطر هذه التقنية، نظراً إلى عدد التسجيلات التابعة لهم. تجعل هذه التكنولوجيا ما يسمى بـ"الإباحية الانتقامية" ممكنة حتى لو لم تكن هناك صورة أو مقطع فيديو عار بشكل فعلي، وغالباً ما تستهدف النساء. بمجرد انتشار مقطع فيديو على الإنترنت، يكاد يكون من المستحيل احتواؤه. ما يثير القلق أيضاً هو أن نشر الوعي حول تقنية "التزييف العميق" ستسهل على الأشخاص الذين يتم القبض عليهم حقاً بتهمة تزييف، أو فبركة بعض الصور، أو المقاطع، أو القيام بأشياء مرفوضة، أو غير قانونية الادعاء أن الأدلة ضدهم مزيفة أيضاً. هناك بعض الناس يستخدمون بالفعل دفاعاً مزيفاً في المحكمة.
7 - هل تُتخذ الإجراءات اللازمة؟
لا يمكن بسهولة عكس نوع التعلم الآلي الذي ينتج "التزييف العميق" لاكتشافها. لكن تعمل مجموعة من الشركات الناشئة مثل "سنسيتي" (Sensity) للذكاء الاصطناعي والتي يقع مقرها في هولندا، و"سنتينال" (Sentinel) التي يقع مقرها في إستونيا على تطوير تكنولوجيا الكشف عن التزييف، إلى جانب عدد كبير من شركات التكنولوجيا الأميركية الكبرى. أطلقت شركة "إنتل" (Intel) منتج "فيك كاتشر" (FakeCatcher) في نوفمبر 2022، حيث تُشير الشركة إلى أن بإمكان هذا التطبيق اكتشاف الفيديو المزيف بدقة 96% من خلال مراقبة التغيرات الدقيقة في اللون على جلد الشخص بسبب تدفق الدم.
"OpenAI" تبني أداة لكشف الصور المولدة بالذكاء الاصطناعي
تعهدت الشركات بما في ذلك شركة "مايكروسوفت" (Microsoft) بتضمين علامات مائية رقمية في الصور التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي الخاصة بها من أجل تمييزها على أنها مزيفة.
كما تحركت المجالس التشريعية للولايات الأميركية بشكل أسرع من الكونغرس للحد من الأضرار المباشرة الناجمة عن أدوات الذكاء الاصطناعي. سنت العديد من الولايات قوانين تنظم التزييف العميق، معظمها في سياق المواد الإباحية والانتخابات. سيتطلب قانون الذكاء الاصطناعي المقترح للاتحاد الأوروبي من المنصات تصنيف التزييف العميق على هذا النحو.
