يَعِد الذكاء الاصطناعي بتحويل عمل فرق الأمن — من تقليل إرهاق التنبيهات إلى كشف الأنماط بمعدلات وسرعات تفوق الإمكانات البشرية — لكن هذا الوعد لن يتحقق إلا إذا أُمّنَت الأنظمة التي تُشغِّل الذكاء الاصطناعي بنفس مستوى الصرامة المفروض على أي بنية تحتية حرجة. كل تجربة أو نشر لنموذج أو وكيل ذكي توسع سطح الهجوم، ومن دون حوكمة وهوية ورقابة واضحة قد تتحول مبادرات الدفاع القائمة على الذكاء الاصطناعي إلى مصدر مخاطرة.
الهوية والثقة لأنظمة الذكاء الاصطناعي الوكيلة (Agentic AI)
أصبحت أمنية الهوية أساسًا لا غنى عنه عند إدماج الذكاء الاصطناعي في خطوط الدفاع. فكل نموذج أو سكريبت أو وكيل يُشغَّل في بيئة إنتاجية يمثل هوية جديدة قادرة على الوصول إلى البيانات وإصدار أوامر تؤثر في نتائج الأمن. الأنظمة الوكيلية التي قد تتخذ إجراءات بدون تدخل بشري تزيد من هذا الخطر: عمليّة كل إجراء تصنيفًا للثقة يجب أن تُقترَن بهوية مُحددة، سياسات مصادقة صارمة، وقدرة على التدقيق في كل خطوة.
التدابير العملية الواجب تطبيقها تشمل منح صلاحيات محدودة حسب مبدأ أقل الامتيازات، تنفيذ مصادقة قوية وتدوير مفاتيح منتظم، تسجيل أصول النشاط (provenance) ومراقبة شاملة لجميع الإجراءات، وعزل وقطع المسارات بين وكلاء الذكاء الاصطناعي لمنع تأثير اختراق واحد على الآخرين. كما يجب أن تُعامَل كل هوية ذكية كحساب من فئة المستخدم/الخدمة ضمن إطار إدارة الهوية والوصول (IAM) مع مالك واضح وسياسة دورة حياة ومجال مراقبة.
ستة مجالات تحكم عملية لتأمين الذكاء الاصطناعي
تبدأ حماية الذكاء الاصطناعي بتأمين العناصر التي يبني عليها — النماذج، سلاسل البيانات، وواجهات التكامل — وتطبيق دفاع متعدد الطبقات كما نفعل على الشبكات والخوادم:
-
ضوابط الوصول: تطبيق أقل الامتيازات، المصادقة القوية، ومراجعات وصول مستمرة لكل نموذج ومجموعة بيانات وواجهة برمجية.
-
ضوابط البيانات: التحقق من مصادر البيانات، تنظيفها، تصنيف الحساسية، وتتبع نسبيتها لمنع تسميم النماذج أو تسرب المعلومات.
-
استراتيجيات النشر: عزل بيئات التدريب والاختبار، فرض بوابات CI/CD، وإجراء اختبارات حمراء (red-teaming) قبل الإتاحة الإنتاجية، مع جعل النشر حدثًا مراقبًا وقابلًا للتدقيق.
-
أمن الاستدلال (Inference Security): صون المخرجات من هجمات حقن التعليمات عبر تحقق صارم للمدخلات والمخرجات، حواجز أمان، ومسارات تصعيد واضحة للإجراءات عالية المخاطر.
-
المراقبة المستمرة: رصد انحراف سلوك النماذج ومؤشرات التلاعب أو الانحراف قبل أن تتسرب الأخطاء أو تُستغل.
-
أمن النموذج: إصدار نسخ، توقيع رقمي، وفحص سلامة مستمر لضمان أن النماذج أصلية ولم تُستبدل أو تُعاد تدريبه دون إذن.
هذه المجالات تتوافق عمليًا مع أطر مثل NIST AI RMF وملفات OWASP الخاصة بالنماذج اللغوية، وتُترجم التوجيهات إلى ضوابط تشغيلية قابلة للتنفيذ.
الموازنة بين الأتمتة والتعزيز البشري
لا يعني اعتماد الذكاء الاصطناعي حذف العنصر البشري، بل وضعه في حلقة مناسبة: فالمهام المتكررة والقابلة للقياس (إثراء التهديدات، فرز السجلات، إزالة التكرار في التنبيهات) صالحة للأتمتة الكاملة، بينما تبقى مهام مثل تحديد نطاق الحوادث، نسب المسؤولية، واتخاذ قرارات الاستجابة الحساسة بحاجة إلى حكم بشري. على فرق الأمن تصنيف العمليات بحسب تحمّلها للخطأ وتكاليف الفشل، وإبقاء البشر في الحلقة حين تكون السياقات دقيقة أو ذات تبعات أخلاقية أو قانونية.
متطلبات الحوكمة والمساءلة التشغيلية
لا يكفي مجرد تطبيق ضوابط تقنية؛ فالحكم على نجاح الذكاء الاصطناعي في الأمن يعتمد على حوكمة واضحة: من يملك الوكلاء، من يقرّر نقاط الوصول، كيف تُختبر التحديثات، وما هي آليات المحاسبة عند الخطأ؟ يجب وضع سياسات دورة حياة للنماذج، قواعد لإدارة البيانات، وعمليات تدقيق دورية تشمل اختبارات سلوكية ومحاكاة إساءة الاستخدام. بالإضافة إلى ذلك، تطوير إجراءات استجابة للحوادث تتضمن استرجاعًا قابلاً للتتبع والتراجع عن قرارات ذكية خاطئة.
