يشهد أمن وكلاء الذكاء الاصطناعي مسارًا مشابهًا لتطورات الأمن في السحابة والهوية والأنظمة، يبدأ بالاعتماد، ثم الرصد، وأخيرًا التحكم. لكن ما اكتشفته المؤسسات هو أن تطبيق مبدأ “أقل قدر من الامتياز” على الوكلاء أصعب بكثير مما كان متوقعًا. فالوكلاء ليسوا كيانات ساكنة، بل أدوات قادرة على التفكير والتخطيط وتنفيذ الأوامر والوصول إلى البيانات دون تدخل بشري مباشر. التحدي الأكبر لا يكمن في عدد الوكلاء، بل في قدرتهم على العمل عبر أنظمة متعددة دون هوية واضحة أو نية محددة أو ملكية مسؤولة أو ضوابط إنفاذ متسقة. ولهذا فإن مجرد الاكتشاف لا يكفي، بل يجب الانتقال إلى مرحلة الإنفاذ.
لماذا تفشل النماذج التقليدية
تعتمد أنظمة التحكم في الوصول التقليدية على افتراضات ثابتة: الموظف له وظيفة محددة، والحساب الخدمي له مهمة معينة. لكن وكلاء الذكاء الاصطناعي يتجاوزون هذه الحدود، إذ يُعرّفون بأهدافهم لا بمهامهم الثابتة. قد يستخدم وكيلان نفس الأذونات لكن يختلفان جذريًا في مستوى المخاطر تبعًا لما يسعيان لتحقيقه. هذا يعني أن النماذج الساكنة لم تعد كافية، لأن الوكلاء قد يُستخدمون بطرق لم تكن متوقعة عند منحهم الصلاحيات. الخطر لا يقتصر على السلوك الخبيث، بل يشمل أيضًا الغموض الذي قد يؤدي إلى توسع المهام خارج نطاقها الأصلي.
الإنفاذ يبدأ بالفهم
لتحقيق إنفاذ فعّال، يجب على فرق الأمن فهم الوكلاء عبر عدة أبعاد: الملكية، المستهلكون، الهوية، النية، الوصول، الاستخدام، الأصل، ودورة الحياة. المشكلة أن هذه البيانات مشتتة بين أنظمة الهوية والسحابة والتطبيقات والبنية التحتية، ما يجعل الربط بينها أمرًا صعبًا. من دون هذا الربط يصبح الإنفاذ مجرد تخمين، بينما يتيح الربط وضع قواعد واقعية تعكس كيفية عمل الوكلاء فعليًا. وهنا تتحول مهمة الأمن من معالجة المخاطر بعد وقوعها إلى ضبط ما يُسمح للوكيل بفعله منذ البداية.
من المعالجة إلى القواعد
العديد من أدوات الأمن ت equate الإنفاذ بالمعالجة: اكتشاف خطر ثم تعطيل هوية أو إزالة صلاحية. لكن مع وكلاء الذكاء الاصطناعي، المطلوب هو وضع قواعد مسبقة مثل:
- وكيل دعم العملاء يمكنه قراءة سجل التذاكر لكن لا يحق له تصدير بيانات العملاء بالجملة.
- مساعد برمجي يقترح تعديلات لكنه لا يستطيع دفعها إلى الإنتاج دون موافقة.
- وكيل مالي يُنشئ تقارير لكنه لا يملك صلاحية تغيير تفاصيل الموردين أو تنفيذ المدفوعات.
هذه القواعد يجب أن تُدار عبر بيئة موحدة، لأن المؤسسات ستستخدم منصات متعددة للوكلاء، ولكل منها نماذج أذونات وسجلات خاصة. الحل هو بناء طبقة تحكم موحدة قائمة على الهوية والسياق والنية، قادرة على فرض القواعد بشكل متسق عبر جميع البيئات.
دور النية في الإنفاذ
الهوية تجيب عن “من هو الوكيل”، والأذونات تجيب عن “ما الذي يمكنه الوصول إليه”، لكن النية تجيب عن “لماذا يجب أن يُسمح له بهذا الوصول”. الإنفاذ المبني على النية يمنح المؤسسات نموذجًا أكثر دقة، حيث تُقيّد الأفعال عالية المخاطر وفقًا لدور الوكيل ومالكه ومهمته والبيئة التي يعمل فيها. هذا يتماشى مع توصيات OWASP Top 10 لوكلاء التطبيقات التي تحذر من مخاطر إساءة استخدام الهوية والامتيازات، وسوء استخدام الأدوات، وفشل التواصل بين الوكلاء، والوكيل المارق.
ما الذي يجب أن يفعله القادة الآن
الخطوة الأولى هي التوقف عن اعتبار الرصد نهاية المطاف. يجب أن يُربط كل وكيل بمالك، وغرض، وهوية، وصلاحيات، وحالة دورة حياة. الوكلاء غير المملوكين يجب التحقيق فيهم، والوكلاء ذوو الصلاحيات المفرطة يجب تقليصها، والوكلاء الخاملون يجب إنهاؤهم. كما ينبغي دمج حوكمة وكلاء الذكاء الاصطناعي مع إدارة الهوية والوصول، وأمن السحابة، وأمن التطبيقات، وعمليات DevOps. فهذه الوكلاء ليسوا مجرد تطبيقات، بل فاعلون لهم سلطة وتأثير مباشر على الأعمال. مبادرات مثل معايير NIST لوكلاء الذكاء الاصطناعي تؤكد الاتجاه نفسه، مركزة على البروتوكولات والمصادقة والبنية التحتية للهوية والتفاعل الآمن بين الإنسان والوكيل.
