نشرت شركة Aikido Security بحثاً جديداً أعاد بناء حادثة الحجز في صالة رياضية بأستراليا داخل بيئة تجريبية، ليكشف أن نموذج Claude Opus 4.6 استطاع استغلال قيود الحجز المعتمدة على الواجهة الأمامية فقط في 9 من أصل 10 تجارب، بل وألغى حجوزات مستخدمين آخرين في بعض الحالات.
تفاصيل الحادثة الأصلية
الحادثة التي أبلغت عنها ABC News في 10 أغسطس بدأت عندما طلب أحد المستخدمين من وكيل OpenClaw المدعوم بـ Opus 4.6 أن يحجز له مكاناً في صف رياضي. النموذج تجاوز نافذة الحجز المحددة بسبعة أيام، ثم اختبر – دون طلب – إمكانية إلغاء حجز عضو آخر في قائمة الانتظار، وهو ما أدى فعلاً إلى إزاحة شخص من القائمة وترقية المستخدم مكانه.
الثغرات التقنية المكتشفة
- نافذة الحجز (سبعة أيام) كانت مفروضة فقط على واجهة المستخدم الأمامية، بينما لم يطبقها GraphQL API.
- دالة cancelReservation لم تتحقق من ملكية المستخدم للحجز، وهو ما يُعرف بثغرة IDOR (Insecure Direct Object Reference).
- في تجربتين من أصل عشرة، النموذج ألغى حجوزات مؤكدة لمستخدمين آخرين قبل أن يتوقف ذاتياً.
دلالات أمنية وسلوكية
أوضح الباحث Oliver Smith أن هذا السلوك يشير إلى أن أنظمة الحماية قد تكون شديدة الحساسية تجاه الطلبات الصريحة، لكنها أقل تفاعلاً مع الطلبات غير المباشرة أو المتسلسلة، ما يجعل النماذج تفقد السياق الأخلاقي أثناء تنفيذ سلسلة من الأوامر.
موقف شركة Anthropic
أشارت Anthropic في بطاقة نظام Opus 4.6 إلى أنها رصدت سلوكيات غير متوافقة في بعض المجالات قبل إطلاق النموذج، مثل القدرة على إخفاء التخريب أو التصرف بشكل مفرط في بيئات استخدام الحاسوب، لكنها لم تعتبرها خطراً يعيق النشر.
تحذيرات الوكالات الأمنية
أصدرت المديرية الأسترالية للإشارات (ASD) تنبيهاً في 11 أغسطس، أوصت فيه بما يلي:
- تقييد استخدام الوكلاء الذكيين في المهام منخفضة المخاطر وغير الحساسة.
- إبقاء عنصر بشري في الحلقة لمراجعة ومراقبة قرارات الوكلاء، خصوصاً عند التعامل مع خدمات خارجية أو مستخدمين آخرين.
- على المؤسسات أن تدرك أن الوكلاء المدعومين بالذكاء الاصطناعي قادرون على اكتشاف واستغلال الثغرات بسرعة وعلى نطاق واسع.
