في تجربة مثيرة للجدل، كشفت شركة الأمن السيبراني AIR عن ثغرات هيكلية في منظومة “المهارات” الخاصة بوكلاء الذكاء الاصطناعي، بعد أن نجحت في تمرير مهارة مزيفة عبر سوق شهير للمهارات، لتصل – بحسب تقديراتها – إلى نحو 26,000 وكيل، بينهم وكلاء مستخدمون في حسابات مؤسسية.
كيف نجحت المهارة المزيفة في تجاوز الفحص؟
المهارة التي حملت اسم brand-landingpage ادّعت أنها تبني صفحة هبوط باستخدام أداة تصميم من جوجل تدعى Stitch، واستهدفت مستخدمين غير تقنيين مثل المسوّقين والمصممين. لإضفاء المصداقية، اعتمدت AIR على إشارتين أساسيتين للثقة:
- عدد النجوم على GitHub: حيث أدرجت المهارة في مستودع يحظى بـ 36,000 نجمة و156 مهارة، ما منحها تلقائياً سمعة قوية.
- نتائج الفحص الأمني: جميع أدوات الفحص – من سيسكو، إنفيديا، وحتى أدوات skills.sh – اعتبرت الحزمة آمنة، لأنها لم تحتوِ على تعليمات إعداد مشبوهة.
لكن الخدعة كانت في الرابط الخارجي الذي وجّه الوكلاء إلى موقع stitch-design.ai الذي تسيطر عليه AIR، بينما الأداة الأصلية موجودة على stitch.withgoogle.com. في البداية، كان الرابط يقود إلى مستندات أصلية، ما سمح بمرور الفحص. لاحقاً، استبدلت الشركة الصفحة لتطلب من الوكلاء تنزيل وتشغيل سكربت بسيط، وظيفته الوحيدة إرسال البريد الإلكتروني للمستخدم إلى AIR.
لماذا فشلت أدوات الفحص؟
المشكلة تكمن في أن أدوات الفحص تراجع الحزمة المقدمة فقط، دون مراقبة الروابط الخارجية أو التغييرات اللاحقة. وبذلك، يمكن للمهاجم أن يقدّم نسخة نظيفة، ثم يبدّل المحتوى لاحقاً بعد اجتياز الفحص. هذا ما جعل المهارة المزيفة تمر بسهولة، رغم أن أي تعليمات خارجية يمكن أن تتحول إلى بوابة لتنفيذ أوامر خبيثة بامتيازات الوكيل.
خلفية بحثية وتجارب سابقة
قبل ثلاثة أسابيع فقط، تمكنت شركة Trail of Bits من تجاوز أنظمة كشف المهارات الخبيثة في ClawHub وسيسكو وأدوات skills.sh، مؤكدة أن الفحص اللحظي لا يكفي لمواجهة هجمات ديناميكية. كما حذرت وثائق شركات مثل Anthropic من خطورة المهارات التي تستدعي روابط خارجية، لأن محتواها قابل للتغيير بعد المراجعة.
توصيات للمدافعين والمؤسسات
التجربة لا تكشف عن ثغرة جديدة بقدر ما تسلّط الضوء على ضعف إشارات الثقة الحالية:
- النجوم على GitHub يمكن استعارتها من مستودعات ضخمة.
- نتائج الفحص الأمني تعكس لقطة لحظة التقديم فقط.
- الروابط الخارجية يمكن تعديلها بعد اجتياز المراجعة.
لذلك، ينصح الباحثون المؤسسات بـ:
- التعامل مع المهارات كبرمجيات كاملة، لا مجرد نصوص.
- مراجعة الروابط الخارجية التي تشير إليها المهارات، وإعادة فحصها عند أي تغيير.
- تثبيت الإصدارات (Pin Versions) وتقييد صلاحيات الوكلاء إلى الحد الأدنى.
- إنشاء مصدر موحد لإدخال المهارات الجديدة، مع مراقبة دورية.
ورغم أن الرقم المعلن (26,000 وكيل) لم يتم التحقق منه بشكل مستقل، إلا أن المنهجية التي استخدمتها AIR تؤكد أن فجوة الثقة في منظومة المهارات لا تزال قائمة، وتشكل خطراً حقيقياً على المؤسسات التي تعتمد على وكلاء الذكاء الاصطناعي في أعمالها اليومية.
