شهدت الأشهر الأخيرة تحولاً ملحوظاً في النقاش حول الوكالات الذكية (AI Agents)، حيث لم يعد التركيز منصباً فقط على سرعة نشرها أو وعودها الإنتاجية، بل على قدرتها على الوصول إلى البيانات الحساسة ومدى إمكانية رصدها قبل وقوع الضرر. حادثة الاختراق الشهيرة في منصة Hugging Face أثناء اختبار وكلاء OpenAI كانت جرس إنذار دفع المؤسسات إلى إعادة التفكير في أولوياتها الأمنية. بحسب تقرير Veeam، فإن 70% من المؤسسات تعترف بأن سير عمل الذكاء الاصطناعي يتعامل بالفعل مع بيانات حساسة دون رقابة كافية، بينما 67% تقر بأن فرق تقنية المعلومات لا تستطيع تتبع هذه التدفقات المستقلة بشكل كامل. هذه الظاهرة، التي تُعرف بـ Shadow AI، تكشف عن خطورة فقدان الرؤية منذ الخطوة الأولى.
التحدي الأول: الوكلاء كظل جديد لتقنية المعلومات
كما حدث مع تقنيات أخرى، يسبق الاستخدام عادةً الحوكمة. كثير من المؤسسات تلجأ إلى الحظر المباشر أو إيقاف الأدوات غير المصرح بها، لكن ذلك قد يؤدي إلى تعطيل الاستخدام المشروع بجانب غير المشروع. Think Red: عندما يكون الوكيل غير مرئي، لا يحتاج المهاجم إلى اختراق كبير ليحصل على موطئ قدم. المثال الأبرز كان في منظمة METR، حيث استغل مهاجم وكيلًا شخصياً على خادم EC2 ليحصل على مفتاح API، مما أدى إلى استهلاك ما يعادل 600 ألف دولار من الرموز خلال ثلاثة أسابيع دون أن تلاحظ المؤسسة. Act Blue: الحل يكمن في التعامل مع الإنفاق على الوكلاء وإصدار مفاتيح API كإشارات اكتشاف، ونشر مسار مزودين معتمدين قبل فرض الحظر، وفق مبدأ “اعرف أولاً، ثم قيّد”.
التحدي الثاني: لا توجد كاميرا واحدة تكشف الصورة كاملة
الوكلاء يتوزعون عبر الشبكة، الأجهزة الطرفية، المتصفحات، وخدمات SaaS، مما يجعل أي أداة مراقبة منفردة عاجزة عن تقديم رؤية شاملة. Think Red: قد يستخدم محلل تسويق إضافة متصفح للوصول إلى بيانات العملاء دون أن ترصدها أدوات الشبكة أو الأجهزة الطرفية، مما يفتح الباب أمام مهاجمين للوصول إلى بيانات حساسة. Act Blue: الحل هو تجميع مصادر متعددة للرؤية: سجلات DNS، بصمات JA4، سجلات الوكيل، بيانات الهوية، وسجلات SaaS مثل منح OAuth أو إصدار مفاتيح API. كما يمكن استخدام بوابات LLM مثل LiteLLM لتوحيد الرؤية والحوكمة، لكن فعاليتها تظل محدودة بالوكلاء المعروفين فقط.
التحدي الثالث: المراجعات التقليدية لا تواكب سرعة الوكلاء
المراجعات السنوية أو الدورية لا تكفي، إذ يمكن نشر الوكلاء واستنساخهم في ثوانٍ، مما يجعل أي قائمة جرد قديمة غير دقيقة. Think Red: يمكن للمهاجم استغلال هذه الفجوة عبر وكلاء قصيرة العمر تنفذ مهاماً خبيثة ثم تختفي قبل أن ترصدها المراجعة. Act Blue: الحل هو المراقبة المستمرة، مع تحميل المسؤولية لشخص محدد حتى لو كانت الأنظمة الآلية تراقب بعضها البعض. كما أن فكرة “زر الإيقاف الطارئ” التي يناقشها المشرّعون الأمريكيون تصبح ذات معنى فقط إذا كانت هناك رؤية واضحة لما يجب إيقافه.
