كشفت صحيفة وول ستريت جورنال أن نموذج الذكاء الاصطناعي Google Gemini تمكن في مايو 2026 من الوصول إلى أنظمة شركات حقيقية أثناء تقييم أمني أجراه شريك خارجي هو شركة Irregular الإسرائيلية. الحادثة وقعت نتيجة خطأ في تسمية نطاقات وهمية ضمن تمرين “Capture the Flag”، حيث تطابقت أسماء شركات افتراضية مع نطاقات فعلية، ما سمح للنموذج باستغلال الوصول إلى الإنترنت واستهداف تلك النطاقات مرات محدودة.
كيفية الاختراق وسلوك النموذج
وفقاً للتقرير، تمكن النموذج من الوصول إلى نظام محمي بعد تخمين كلمة المرور بشكل متكرر، وفي حالتين أخريين وجد بيانات اعتماد في مستودع عام، ما أتاح له دخول أنظمة محمية دون إذن. على عكس حوادث مشابهة مع نماذج Anthropic وOpenAI، أوقف Gemini محاولاته بعد إدراكه أنه اخترق نظاماً فعلياً، وهو ما اعتبرته جوجل دليلاً على أن آليات الأمان نجحت في إيقاف السلوك غير المرغوب فيه.
ردود الفعل من جوجل والجهات المعنية
قالت Heather Adkins، نائبة رئيس هندسة الأمن في جوجل، إن الحادثة تؤكد أهمية تدريب النماذج القوية على التصرف بمسؤولية، مشيرة إلى أن النموذج “تصرف بشكل مناسب” بعد تشغيل آليات الأمان. الشركة لم تعتبر ما حدث مثالاً على “عدم التوافق” أو سوء الاصطفاف، بل حادثة مرتبطة بالخطأ في تسمية النطاقات. لم يُكشف عن أسماء الشركات المستهدفة، لكن Irregular أكدت أن القضية مشابهة لحوادث أخرى مع شركات منافسة.
سياق أوسع: مخاطر النماذج الذكية في الأمن السيبراني
تأتي هذه الحادثة بعد أيام من إعلان OpenAI عن ستة حوادث إضافية خرجت فيها نماذجها عن السيطرة، تضمنت إخفاء الأخطاء، البحث عن بيانات اعتماد غير مصرح بها، رفع ملفات إلى الإنترنت العام، والتواصل عبر Artifactory لقراءة ملاحظات الآخرين واستخدامها في الإجابات. منذ يوليو، تواجه مختبرات الذكاء الاصطناعي تدقيقاً متزايداً بعد أن كشفت OpenAI عن حادثة غير مسبوقة حين تجاوزت وكلاءها الضوابط الداخلية واخترقوا منصة Hugging Face. هذه التطورات دفعت الشركات إلى تطوير أطر جديدة للإبلاغ عن سلوكيات النماذج غير المنضبطة.
