عيوب أمان تشوب نموذج الذكاء الاصطناعي الثوري من "ديب سيك"

سببت "ديب سيك“ ذعراً في وادي السيليكون في نهاية يناير حين أثبتت إمكانية بناء ذكاء اصطناعي قوي بميزانية محدودة. لكن من بعض النواحي لم يكن كل ذلك حقيقياً.

لقد أظهرت اختبارات حديثة أن نماذج الذكاء الاصطناعي من"ديب سيك" أكثر عرضة للتلاعب من نماذج منافسيها الأكثر تكلفة من وادي السيليكون، وهذا يخالف مشهد تكرار قصة داود وجالوت عبر الذكاء الاصطناعي ”الديمقراطي"، الذي نشأ بسبب الاختراق الذي حققته الشركة.

إن مليارات الدولارات التي أنفقتها ”أوبن إيه آي“ و“جوجل“ تابعة ”ألفابيت“ و“مايكروسوفت“ وغيرها من الشركات على البنية الأساسية لنماذجها الخاصة تبدو الآن أبعد عن حالة تضخم مؤسسات، وأشبه بتكلفة لريادة سباق الذكاء الاصطناعي والحفاظ على الصدارة بخدمات أكثر أماناً. وعلى الشركات الراغبة في تجربة أداة ذكاء اصطناعي رخيصة ومبهجة أن تفكر مرتين قبل الانخراط في ذلك.

تعديلات افتقرت للأمان

تقول ”لاتيس فلو إيه آي“ (LatticeFlow AI)، وهي شركة برمجيات سويسرية تقيس مدى امتثال نماذج الذكاء الاصطناعي للوائح، إن نسختين من نموذج (R1) من "ديب سيك" تحتلان المرتبة الأدنى بين الأنظمة الرائدة الأخرى لناحية الأمن السيبراني. يبدو أن الشركة الصينية عندما عدلت نماذج مفتوحة المصدر من ”ميتا بلاتفورمز“ و“علي بابا“، وهي معروفة باسم ”لاما“ (Llama) و ”كوين“ (Qwen)، لجعلها أكثر كفاءة، فقد تكون كسرت بعض ميزات الأمان الرئيسية لتلك النماذج خلال ذلك.

قالت ”لاتيس فلو إيه آي“ إن نماذج "ديب سيك" يعتريها ضعف بشكل خاص أمام "اختطاف الهدف" والتسريب الفوري. وهذا يعني خداع الذكاء الاصطناعي ليتجاهل حواجز الأمان لديه فإما أن يكشف عن معلومات حساسة أو يقدم على أفعال ضارة يُفترض أن يمنعها. لم يتسن الوصول إلى "ديب سيك" للتعليق.

"ديب سيك" تقيد الوصول إلى نموذجها للذكاء الاصطناعي تحت وطأة طفرة الطلب

عندما تقوم شركة ما بتوصيل أنظمتها بالذكاء الاصطناعي التوليدي، فإنها عادة ما تأخذ نموذجاً أساسياً من شركة مثل "ديب سيك" أو“أوبن إيه آي“ وتضيف بعض بياناتها ومطالباتها ومنطقها، أي التعليمات التي تضيفها على نموذج الذكاء الاصطناعي، مثل "لا تتحدث عن خفض ميزانية الشركة بمقدار 5 ملايين دولار عن العام الماضي".

لكن بيتر تسانكوف، الرئيس التنفيذي لشركة ”لاتيس فلو إيه آي“، يقول إن المتسللين قد يتمكنون من الوصول إلى تلك الأوامر الحساسة.

كسر الحماية

كان باحثون أمنيون آخرون يستكشفون نماذج "ديب سيك" ويجدون نقاط ضعف، خاصة في جعل النماذج تفعل أشياء لا ينبغي أن تفعلها، مثل إعطاء تعليمات خطوة بخطوة حول كيفية بناء قنبلة أو تشغيل سيارة بلا مفتاح، وهي عملية تُعرف باسم كسر الحماية.

قال أليكس بولاكوف، رئيس ”أدفيرسا إيه آي“ (Adversa AI)، وهي شركة أمن ذكاء اصطناعي إسرائيلية اختبرت نماذج "ديب سيك“: إنها ”غير آمنة إطلاقاً ضد جميع طرق كسر الحماية، في حين أصبحت نماذج (أوبن إيه آي) و(أنثروبيك) أكثر أماناً مقارنةً مع إصداراتها الأقدم المفتقرة للمنطقية التي اختبرناها العام الماضي".

استطلاع: تأثير "ديب سيك" على أسهم "العظماء السبعة" سيكون محدوداً

قال تسانكوف إن الشركات التي ترغب في استخدام "ديب سيك" على أي حال بفضل سعره المنخفض يمكنها أن تضع حلولاً مؤقتة للمشكلة. أحد الأساليب هو تكييف نموذج "ديب سيك" عبر تدريب إضافي، وهي عملية قد تكلف مئات آلاف الدولارات.

ثمة نهج آخر ينطوي على إضافة مجموعة كاملة جديدة من التعليمات التي تأمر النموذج بعدم الاستجابة لمحاولات سرقة المعلومات، وقال تسانكوف إن إخفاء العيوب بهذه الطريقة أرخص، فهو يكلف آلافاً فقط.

حلول متفاوتة التكلفة

عندما تريد الشركات استخدام الذكاء الاصطناعي التوليدي للمهام ذات المخاطر المنخفضة، مثل تلخيص تقارير البيانات للاستخدام الداخلي، فقد تكون مشاكل الأمان هذه ثمناً ضئيلاً. لكن على نطاق أوسع، قد تؤدي عيوب الأمان في "ديب سيك" إلى إضعاف ثقة الشركات في وقت التقدم البطيء نسبياً في تنفيذ الذكاء الاصطناعي.

برغم أن نحو 50 بنكاً كبيراً كثفت استخدامها للذكاء الاصطناعي التوليدي في 2024 إلى حوالي 300 تطبيق، فإن أقل من ربع الشركات كانت قادرة على الإبلاغ عن بيانات ملموسة تشير إلى وفورات في التكاليف أو مكاسب في الكفاءة أو عائدات أعلى، وفقاً لشركة ”إيفيدنت إنسايتس“ (Evident Insights)، وهي شركة أبحاث مقرها لندن.

"OpenAI" تطرح نموذج ذكاء اصطناعي أرخص عقب ظهور "ديب سيك"

لا شك أن أدوات الذكاء الاصطناعي التوليدي ذكية وستكون تحويلية. عبر إيثان موليكو، المعلق الرائد في مجال الذكاء الاصطناعي، عن ذلك بما مفاده أن أغبى أداة ذكاء اصطناعي ستستخدمها على الإطلاق هي التي تستخدمها الآن.

لكن اعتماد الذكاء الاصطناعي لدى الشركات كان متقطعاً وبطيئاً، وجزء من سبب ذلك هو المخاوف بشأن الأمان والامتثال. تميل استطلاعات الرأي بين قادة الأعمال إلى نتيجة أن ما بين ثلثهم ونصفهم يعتبرون الأمان هماً رئيسياً بشأن الذكاء الاصطناعي.

لا شيء من هذا يبطل إنجازات "ديب سيك". لقد أثبتت الشركة أن تطوير الذكاء الاصطناعي يمكن القيام به بتكلفة أقل - ومع نشرها لمخططات تصميمها على الإنترنت، يُرجح أن نشهد مختبرات الذكاء الاصطناعي الأكبر حجماً تكرر نتائجها لإعداد ذكاء اصطناعي أكثر كفاءة لديها.

 لكن "الأرخص" لا يعني دائماً "الأفضل" عندما يتعلق الأمر بتقنيات المؤسسات. فالبنية الأساسية للأمن باهظة الثمن لسبب ما، وهذا يمنح عمالقة وادي السليكون لحظة إنصاف. حتى في ثورة الذكاء الاصطناعي مفتوح المصدر، لن تحصل إلا على ما تدفع ثمنه.