كشفت شركة ميتا (Meta) النقاب عن إطار عمل مفتوح المصدر باسم “لياما فايروول” (LlamaFirewall)، مصمم لحماية أنظمة الذكاء الاصطناعي من مخاطر إلكترونية ناشئة مثل:
-
حقن الأوامر (Prompt Injection)
-
اختراق أنظمة الذكاء الاصطناعي (Jailbreaks)
-
توليد أكواد برمجية غير آمنة
مكونات الإطار الجديد
يتكون “لياما فايروول” من ثلاث طبقات حماية رئيسية:
-
“برومبت جارد 2” (PromptGuard 2): يرصد محاولات اختراق الذكاء الاصطناعي أو حقن أوامر ضارة في الوقت الفعلي.
-
“فحوصات محاذاة الوكيل” (Agent Alignment Checks): يكشف محاولات تحريف أهداف الذكاء الاصطناعي أو الهجمات غير المباشرة.
-
“كود شيلد” (CodeShield): محرك تحليل ثابت يمنع توليد أكواد خطرة بواسطة وكلاء الذكاء الاصطناعي.
وصفت ميتا الإطار بأنه “مرن وقابل للتخصيص”، حيث يسمح للمطورين وفرق الأمن ببناء دفاعات متعددة الطبقات، بدءًا من معالجة المدخلات وحتى تنفيذ المخرجات، سواء في نماذج الدردشة البسيطة أو أنظمة الذكاء الاصطناعي المعقدة.
تحديثات إضافية تعزز الأمن السيبراني
بالتوازي مع إطلاق “لياما فايروول”، أصدرت ميتا نسخًا محدثة من أداتين أخريين:
-
“لياما جارد” (LlamaGuard): لتحسين كشف المحتوى المخالف.
-
“سايبر سيك إيفال 4” (CyberSecEval 4): لقياس قدرات الذكاء الاصطناعي الدفاعية، مع معيار جديد يُدعى “أوتو باتش بنش” (AutoPatchBench)، المصمم لتقييم قدرة نماذج الذكاء الاصطناعي على إصلاح الثغرات في لغات C/C++ تلقائيًا.
برنامج “لياما للدفاع” لمكافحة التهديدات الحديثة
أطلقت ميتا أيضًا برنامج “لياما للدفاع” (Llama for Defenders)، الذي يهدف إلى مساعدة المنظمات والمطورين في الوصول إلى حلول ذكاء اصطناعي مفتوحة المصدر أو مغلقة لمجابهة تحديات أمنية محددة، مثل:
-
كشف المحتوى المُنشأ بالذكاء الاصطناعي المستخدم في عمليات الاحتيال والتزييف.
-
مواجهة هجمات التصيد الإلكتروني (Phishing).
ميتا تعزز الخصوصية مع معالجة البيانات الآمنة
جاءت هذه الإعلانات بالتزامن مع الكشف عن تقنية “المعالجة الخاصة” (Private Processing) في واتساب، التي تتيح للمستخدمين الاستفادة من ميزات الذكاء الاصطناعي دون المساس بخصوصيتهم، عبر معالجة الطلبات في بيئة مؤمنة.
وأكدت ميتا تعاونها مع الباحثين الأمنيين لتدقيق التقنية وتحسينها قبل إطلاقها رسميًا.
