منصة Pillar لأمن الذكاء الاصطناعي تقدم نهجاً شاملاً لتأمين دورة حياة تطوير ونشر تطبيقات الذكاء الاصطناعي، بدءًا من مرحلة ما قبل التخطيط وصولاً إلى مرحلة التشغيل. وتهدف المنصة إلى بناء الثقة في أنظمة الذكاء الاصطناعي من خلال توفير رؤى عميقة في الوضع الأمني للتطبيقات وتعزيز التنفيذ الآمن للذكاء الاصطناعي في المؤسسات.
تأسست Pillar على يد دور ساريغ، خبير الأمن السيبراني ذو الخلفية الهجومية، وزيف كارلينغر، المتخصص في الدفاع السيبراني ضد الجرائم المالية وتأمين سلاسل التوريد. يجمع هذا الثنائي بين تقنيات الهجوم والدفاع، ما يشكّل الأساس لمقاربة فريدة في التعامل مع تهديدات الذكاء الاصطناعي.
الفلسفة الأمنية لمنصة Pillar
تعتمد Pillar نهجاً تكاملياً بدلاً من المقاربات المعزولة، حيث تتفاعل مكونات المنصة مع بعضها البعض ضمن حلقة تغذية راجعة ديناميكية. على سبيل المثال، تُستخدم البيانات التي يتم اكتشافها في مرحلة اكتشاف الأصول لتعزيز قدرات إدارة الوضع الأمني، كما تُبنى أدوات الحماية الفورية خلال وقت التشغيل على نتائج النمذجة التهديدية وأنشطة الاختبار الهجومي.
AI Workbench: نمذجة التهديدات قبل كتابة السطر الأول من الكود
تبدأ منصة Pillar من مرحلة الـAI Workbench، وهي بيئة آمنة تُتيح لفِرق الأمن السيبراني تجربة حالات استخدام الذكاء الاصطناعي وتحديد السيناريوهات التهديدية قبل البدء بكتابة الكود. يتم ربط هذه التهديدات بسياق العمل وتقييمها ضمن أطر عالمية مثل STRIDE، ISO، MITRE ATLAS، OWASP Top Ten لـ LLMs، بالإضافة إلى إطار SAIL الخاص بـ Pillar.
AI Discovery: اكتشاف الأصول والانتشار غير المنضبط للذكاء الاصطناعي
تتعامل Pillar مع مشكلة الانتشار العشوائي للذكاء الاصطناعي من خلال التكامل مع مستودعات الكود، منصات البيانات، بيئات التطوير، وأطر الذكاء الاصطناعي. وتوفر المنصة جرداً كاملاً لكل الأصول المرتبطة بالذكاء الاصطناعي، مثل النماذج، مجموعات البيانات، الخوادم، الوكلاء البرمجيين، وأوامر التشغيل.
AI-SPM: إدارة المخاطر وتحليل الوضع الأمني
بعد اكتشاف الأصول، تقوم المنصة بتحليل شامل لحالة الأمن باستخدام تقنيات تحليل ثابت وديناميكي. وتُظهر الرسومات البيانية التفاعلية الأنظمة الوكيلية (Agentic Systems) وعلاقاتها والهجمات المحتملة مثل تسميم البيانات والمخاطر المرتبطة بالنماذج والأوامر.
AI Red Teaming: اختبار واقعي للهجمات قبل حدوثها
توفر Pillar اختبارات هجومية مخصصة لمحاكاة السيناريوهات الواقعية مثل هجمات حقن الأوامر والتحايل على التعليمات. ويتم فحص التفاعل مع أدوات خارجية وواجهات برمجة التطبيقات، ما يساعد على كشف الثغرات التي لا يمكن اكتشافها باختبارات تقليدية.
وتقدم المنصة اختبارات “الصندوق الأسود” للتطبيقات التي لا تمتلك المؤسسات صلاحية الوصول إلى شيفرتها المصدرية، مما يُتيح تقييم الأمان للتطبيقات من خلال محاكاة الهجمات الواقعية باستخدام عنوان URL وبيانات اعتماد الدخول فقط.
Guardrails: فرض السياسات الأمنية في وقت التشغيل
تتيح Pillar مجموعة من أدوات الحماية التكيفية خلال التشغيل، وهي مصممة لتأمين التطبيقات دون التأثير على الأداء. وتُبنى هذه الحواجز على البيانات المستقاة من الاختبارات التهديدية والتحليلات السلوكية لتكييف الاستجابات بشكل ديناميكي مع طبيعة كل تطبيق.
Sandbox: احتواء المخاطر الناجمة عن الوكلاء البرمجيين
تعتمد المنصة على تقنيات العزل (Sandboxing) لتقييد الأنظمة الوكيلية داخل بيئات تشغيل آمنة، مما يحد من تأثير السلوك غير المتوقع أو الضار، مع تسجيل جميع الأحداث لأغراض التحليل الجنائي اللاحق.
AI Telemetry: مراقبة كاملة من الأوامر إلى التنفيذ
توفر Pillar قدرات ملاحظة شاملة تشمل تسجيل الأوامر، استجابات الوكلاء، استدعاءات الأدوات، والبيانات السياقية، ما يُمكّن الفرق الأمنية من تحليل أي حادثة من جذرها وتحديد السبب الرئيسي واتخاذ تدابير وقائية مستقبلية. كما يمكن نشر المنصة على السحابة الخاصة بالمؤسسة للحفاظ على السيطرة الكاملة على البيانات الحساسة.
