يبحث مجرمو الإنترنت باستمرار عن سبل خداع جديدة، وكانت برمجيات محاكاة الأصوات إحدى الإضافات الحديثة على الترسانة التي يستخدمونها.
في 2019، حوّل الرئيس التنفيذي لشركة طاقة بريطانية 220 ألف يورو (249 ألف دولار) إلى أحد المحتالين بعدما تلقى مكالمة من شخص بدا صوته كصوت رئيس الشركة الألمانية التي تملك الوحدة البريطانية، وطلب منه تحويل مبلغ من المال إلى مورّد في المجر.
قال روديغر كيرتش، خبير كشف عمليات الاحتيال في "يولر هيرميس" (Euler Hermes)، وهي الشركة المؤمّنة على شركة الطاقة، إن المجرمين ولّدوا الصوت باستخدام الذكاء الاصطناعي. رفضت شركة التأمين الكشف عن هوية شركة الطاقة، لكنها قالت إنها دفعت لها التعويض الذي طلبته.
يخشى بعض خبراء الأمن السيبراني منذ فترة طويلة مما يمكن لقراصنة الإنترنت فعله باستخدام الذكاء الاصطناعي في مقاطع الفيديو، إذ قد يمكنهم مثلاً تصميم نسخة مقنعة من مسؤول بشركة ما يود بشدة أن يعرف كلمة المرور الخاصة بك. أضحت برمجيات الذكاء الاصطناعي قادرة الآن على فعل ذلك بخاصة في المكالمات الأنية، ما يعني أنه يمكن لأحد القراصنة أن يدّعي أنه مديرك في مكالمة عبر تطبيق "زووم".
في 17 أغسطس، وثّق باحثون في تابعة "غوغل" للأمن السيبراني "مانديانت" (Mandiant) أولى الحالات المعروفة من استخدام تقنية التزييف العميق في مقاطع الفيديو صُممت وبيعت بغرض الاحتيال. تباهت إعلانات على منتديات القراصنة وقنوات تطبيق "تليغرام" بالإنجليزية والروسية بإمكانات البرمجيات في استنساخ شبيه بشخص ما، وذلك لكي تبدو أي محاولة ابتزاز أو احتيال أو تلاعب لغاية شريرة "ذات طابع شخصي". السعر المتعارف عليه ضئيل وقد يصل إلى 20 دولاراً للدقيقة، أو 250 دولاراً لمقطع فيديو كامل أو 200 دولار لجلسة تدريب.
خطر حقيقي
قال لوك ماكنامارا، وهو محلل رئيسي في "مانديانت"، إن الباحثين لم يتمكنوا من التأكد مما إذا كانت الخدمات التي تمكّنوا من كشفها على منتديات القراصنة حقيقية، وما إذا كانت تقنية التزييف العميق استُخدمت في أي عملية احتيالية، لكن خطر الهندسة الاجتماعية باستخدام التزييف العميق حقيقي.
اكتشف أودي موكادي، رئيس مجلس إدارة شركة "سايبر آرك سوفتوير"التي تعمل في مجال أمن المعلومات، أخيراً مدى القوة التي قد يبلغها هذا النوع من الهجمات. في رسالة بالفيديو على "مايكروسوفت تيمز" (Microsoft Teams) في 20 يوليو، وجد موكادي نفسه يحملق في نسخة طبق الأصل منه مصنوعة بتقنية التزييف العميق. قال: "شعرت بصدمة. ها أنا هناك، أجلس منحنياً وأرتدي سترة بغطاء رأس ويبدو مكتبي في الخلفية".
ماذا تفعل لو كنت رئيس شركة تتعرض لهجوم سيبراني؟
كان أحد موظفي موكادي وراء تنفيذ تلك الحيلة. استخدام غال زرور، وهو مدير أبحاث الثغرات الأمنية في "سايبر آرك"، أدوات ذكاء اصطناعي توليدي متاحة مجاناً لإنتاج صورة موكادي. كان هدف زرور مبدئياً هو اكتشاف ما يمكن تحقيقه باستخدام تلك الأدوات، لكن سرعان ما تحول ذلك إلى تحذير لمديريه.
كانت أول أداة استخدمها زرور لمشروعه، الذي لم يكن من ضمن مهام عمله، هي منصة على الإنترنت يشيع استخدامها بين مصوري المقاطع الإباحية المزيفة. حصل زرور على مجموعة نصائح على تلك المنصة بشأن أدوات التزييف العميق الآني، واكتشف أن وجود جهاز كمبيوتر به معالِجات قوية للرسوميات، مثل تلك التي تصنعها شركة "إنفيديا"، أمر ضروري.
كما احتاج إلى كميات كبيرة من البيانات لتدريب أداة التزييف العميق، وقد عثر عليها في مكالمات مسجلة لإعلانات الأرباح وعروض تقديمية بالفيديو وصور لرئيس مجلس إدارة "سايبر آرك".
إمكانيات كافية للخداع
بمجرد أن أنجز نسخة موكادي المزيفة، قرر زرور اختبار محدودياتها. تنكّر في هيئة موكادي ووجد أن استخدام كلمات بها أحرف علّة طويلة جعل الكلام غريباً بعض الشيء، لكنه لم يعتقد أنها مشكلة كبيرة. قال: "بما أننا اعتدنا جميعاً على الجودة الرديئة للصوت والصورة في المكالمات الافتراضية، فهي ما تزال جيدة بما يكفي لشن هجوم خطير باستخدام الهندسة الاجتماعية".
قال زرور إن هذا المشروع تطلّب عدة أيام لإكماله، وقد يتمكن شخص دون خبرة تقنية لكن بإمكانه الحصول على أدوات ذات قوة حاسوبية من تنفيذه خلال أسابيع.
بعد هجمات إلكترونية متكررة.. كيف نوقف قراصنة "برامج الفدية"؟
عرض زرور نتاج عمله في مؤتمر "ديف كون" (Def Con) للقرصنة في 11 أغسطس في لاس فيغاس. صفق الحضور حين حوّل زرور شكله إلى هيئة منظّم المؤتمر، وهو جيف موس، أحد قراصنة الإنترنت المعروفين، مباشرةً على الشاشة.
لم يحاول زرور إطلاقاً خداع زملائه باستخدام شخصيات زائفة. يعتقد موكادي أن كل من يعمل في "سايبر آرك"، التي تضم نحو 2800 موظف، بارع في استخدام التقنية وكانوا على اتصال كافٍ به شخصياً بما يُمكِّنهم من التمييز بينه وبين نسخة مصنوعة بالتزييف العميق.
قال زرور:"لو كنّا بحجم شركة مثل (أي بي إم) أو (والمارت) أو أي شركة من شركات (فورتشن 500)"، لكان هناك سبب مشروع للقلق. أضاف: "ربما يمكن خداع الموظف رقم 30005".
