مع تسارع اعتماد المؤسسات الكبرى لوكلاء الذكاء الاصطناعي داخل المنصات التجارية وأنظمة إدارة الأعمال، تتزايد المخاوف الأمنية بشأن قدرة نماذج الحوكمة التقليدية على مواكبة هذا التحول. فبينما صُممت سياسات الحوكمة الحالية للتعامل مع البرمجيات والتطبيقات التقليدية، تكشف التطورات الأخيرة أن الوكلاء الذكيين يفرضون تحديات جديدة تتجاوز حدود النماذج التنظيمية الموروثة.
ويرى خبراء الأمن المؤسسي أن المشكلة الأساسية لم تعد تكمن في النماذج اللغوية نفسها، بل في البيئات والتطبيقات التي تستضيف هذه الوكلاء وتمنحها صلاحيات الوصول إلى البيانات والأنظمة التشغيلية الحساسة.
كيف تتحول الرسائل الإلكترونية إلى قرارات ينفذها الذكاء الاصطناعي؟
تستند منصات حديثة مثل Salesforce Agentforce إلى آليات أتمتة تسمح بربط الأحداث التشغيلية اليومية بالوكلاء الذكيين. فعندما يتلقى النظام رسالة بريد إلكتروني من عميل أو طلب دعم جديد، يتم إنشاء سجل داخل النظام تلقائياً، ثم تُمرر البيانات إلى الوكيل الذكي عبر قنوات وأدوات مؤتمتة.
ويخلق هذا السيناريو سلسلة تشغيل متكاملة تبدأ من الإنترنت المفتوح وتنتهي بإجراءات ينفذها الذكاء الاصطناعي داخل المؤسسة:
الإنترنت → البريد الإلكتروني → سجل الدعم → مطالبة الوكيل الذكي → إجراء أو قرار آلي → تعليق أو استجابة داخل النظام → رسالة صادرة إلى المستخدم.
ويشير الباحثون إلى أن هذه السلسلة قد تمنح مستخدماً خارجياً غير مصادق عليه القدرة على التأثير بصورة غير مباشرة في التعليمات والبيانات التي تصل إلى الوكيل الذكي.
الأكثر أهمية أن جميع هذه الخطوات تعتمد على خصائص ووظائف رسمية ومصممة للعمل بشكل طبيعي داخل المنصة، وليس نتيجة خطأ تقني أو سوء إعداد مباشر.
الخطر الحقيقي داخل التطبيق وليس النموذج
توضح الأبحاث الحديثة أن معظم المخاطر لا تنشأ من النموذج اللغوي نفسه، وإنما من البنية المحيطة به.
فعناصر مثل خصائص الإدخال المفعلة، وآليات التشغيل التلقائي، وصلاحيات المستخدمين الضيوف، ومسارات تدفق البيانات، وإصدارات النماذج المستخدمة فعلياً، هي التي تحدد ما إذا كان الوكيل الذكي يمثل أداة إنتاجية فعالة أو يصبح مصدراً لتسريب البيانات.
وتكمن المشكلة في أن مراجعات المخاطر التقليدية التي تُجرى عند شراء البرمجيات غالباً لا تغطي هذه المتغيرات الجديدة، لأنها لم تكن موجودة عند إجراء التقييم الأولي.
كما أن أدوات مراقبة المطالبات النصية Prompt Filters لا تستطيع دائماً تحديد مصدر البيانات الداخلة إلى الوكيل، وبالتالي قد تفشل في التمييز بين بيانات موثوقة وأخرى وصلت من مصادر خارجية غير معروفة.
وفي هذا السياق، يشير خبراء الأمن إلى أن تأمين الوكلاء الموروثين داخل المنصات المؤسسية يتطلب فهماً عميقاً لبنية التطبيقات المضيفة نفسها، وهو مستوى من الرؤية يصعب تحقيقه عبر الاستبيانات الدورية أو أدوات الفحص التقليدية.
ظهور «وكلاء الظل» يضاعف التحديات الأمنية
كانت ظاهرة Shadow AI خلال الأعوام الماضية تشير غالباً إلى استخدام الموظفين أدوات ذكاء اصطناعي خارج القنوات الرسمية للمؤسسة.
أما اليوم، فقد ظهرت فئة جديدة أكثر تعقيداً تعرف باسم “وكلاء الظل” Shadow Agents.
ويحدث ذلك عندما يتمكن موظف أو فريق عمل من إنشاء وكيل ذكي يمتلك الصلاحيات نفسها الممنوحة له داخل المؤسسة، ثم يتركه يعمل بصورة مستقلة دون إشراف مباشر.
فقد ينشئ قسم التسويق وكيلاً لتحليل خطوط المبيعات، بينما يبني قسم المالية وكيلاً لمطابقة الفواتير وإدارة العمليات المالية، وكل منهما يرث تلقائياً الأذونات الخاصة بمنشئه.
الأمر لا يتوقف عند هذا الحد، إذ بدأت بعض المنصات تسمح لوكلاء البرمجة بإنشاء وكلاء آخرين بصورة تلقائية.
وبذلك لم يعد إنشاء وكيل جديد يتطلب دائماً تدخلاً بشرياً مباشراً أو مراجعة أمنية منفصلة، ما يجعل النماذج التقليدية للرقابة والموافقة أقل فاعلية من السابق.
لماذا تفشل حوكمة الذكاء الاصطناعي على أرض الواقع؟
تعتمد كثير من المؤسسات الكبرى على وثائق وسياسات مكتوبة لحوكمة الذكاء الاصطناعي، مثل سياسات الاستخدام المقبول أو اللجان الدورية أو المبادئ التنظيمية العامة.
لكن المشكلة، وفقاً للباحثين، أن هذه الوثائق غالباً لا تجيب عن أسئلة تشغيلية أساسية مثل:
كم وكيلاً ذكياً يعمل حالياً داخل المؤسسة؟
من هو المسؤول الفعلي عن كل وكيل؟
ما الأنظمة التي يمكن لكل وكيل الوصول إليها؟
وما نوع البيانات التي يتعامل معها؟
وترى أوساط الأمن السيبراني أن غياب الإجابات الدقيقة عن هذه الأسئلة يجعل الحوكمة أقرب إلى التوثيق النظري منها إلى الرقابة الفعلية.
وقد سلط مشروع OWASP Agentic Skills Top 10 الضوء على هذا التحدي تحت تصنيف “غياب الحوكمة”، مشيراً إلى أن المهارات والوكلاء العاملين داخل منصات طرف ثالث قد تبقى غير مرئية لأدوات الفحص التقليدية، وهو ما يخلق فجوات أمنية يصعب اكتشافها.
نموذج عملي لحوكمة وكلاء الذكاء الاصطناعي
يقترح الباحثون نهجاً عملياً يبدأ من الطبقات التشغيلية الأساسية بدلاً من الاعتماد على السياسات النظرية فقط.
وتشمل هذه الطبقات اكتشاف جميع الوكلاء العاملين داخل المؤسسة بصورة مستمرة، وتحليل أوضاعهم الأمنية، وربط كل وكيل بهوية ومالك واضحين، ومراقبة أنماط الاستخدام الفعلية، وفرض مبدأ الحد الأدنى من الصلاحيات، وأخيراً متابعة النشاط أثناء التشغيل الفعلي.
ويُنظر إلى القدرة على إنتاج أدلة تشغيلية موثقة حول الوكلاء النشطين وإعداداتهم ومالكيهم وسجلات مراجعتهم باعتبارها عنصراً أساسياً للامتثال التنظيمي خلال السنوات المقبلة.
وتزداد أهمية هذا الأمر مع دخول تشريعات مثل قانون الذكاء الاصطناعي الأوروبي EU AI Act حيز التنفيذ، والذي يتضمن غرامات كبيرة على الممارسات المحظورة والانتهاكات المتعلقة باستخدام الذكاء الاصطناعي.
ويؤكد الخبراء أن المؤسسات التي تكتفي بوثائق الحوكمة دون امتلاك رؤية تشغيلية حقيقية حول وكلائها الذكيين قد تواجه تحديات كبيرة عند إثبات الامتثال أو التعامل مع الحوادث الأمنية المستقبلية، خاصة مع تحول الوكلاء إلى جزء أساسي من العمليات اليومية وصنع القرار داخل المؤسسات الحديثة.
