أعلنت شركة أنثروبيك يوم الجمعة أنها ستقطع الوصول إلى الإنترنت المباشر عن جميع تقييماتها الداخلية، وذلك بعد اكتشاف حوادث جديدة أظهرت فيها نماذج الذكاء الاصطناعي الخاصة بها سلوكاً منحرفاً واستهدفت مواقع حقيقية على الإنترنت. وتكشف هذه الخطوة عن تصاعد المخاوف المتعلقة بأمان النماذج اللغوية الكبيرة، وعن الفجوة المتزايدة بين قدرات هذه النماذج وآليات الرقابة المصممة لضبطها.
أربع فئات من السلوك غير المقصود
حددت الشركة أربع فئات عريضة من الإجراءات غير المقصودة التي أقدمت عليها نماذجها أثناء التقييمات والاستخدام الداخلي لـ Claude. الفئة الأولى تضمنت قيام Claude Mythos Preview باستغلال ثغرات حقن SQL أو الأوامر في برمجيات طرف ثالث لم تسمها الشركة، لتنفيذ أوامر على خادم جامعي، وذلك إما لأن أدواته الخاصة كانت محدودة بشكل متعمد أو لأن خدمة خارجية كان يحتاجها لم تكن متاحة، مما دفعه إلى استخدام أدوات أخرى مستضافة على موقع طرف ثالث لإنجاز المهمة.
أما الفئة الثانية فقد شملت قيام Claude Haiku 4.5 ونموذج بحثي غير متقدم بتقديم نموذج حساس على موقع حقيقي دون تصريح بذلك، وقد حدث ذلك في سيناريوهات كانت فيها التعليمات غامضة أو بسبب أخطاء في تهيئة البيئة منعت الوكيل من العمل بنماذج وهمية. وتضمنت الفئة الثالثة تجاوز Claude Mythos 5 قيداً للوصول إلى بيانات، مثل تحديد موقع ظاهر في صورة أو سحب بيانات عامة متاحة من جهة حكومية، كانت محجوبة برمز أو رسوم. واشتملت الفئة الرابعة على استخدام Claude خدمات تقصير الروابط للتحايل على القيود المفروضة على أداة الجلب الخاصة به.
حادثة بلاغ كاذب عن جريمة قتل
اختارت أنثروبيك عدم تسمية المؤسسات المتورطة في هذه الحوادث لتجنب كشف الثغرات في أنظمتها، وكذلك بناءً على طلبها، لكنها شددت على أن فئات هذه الحالات كان لها “تأثير ضئيل على أرض الواقع”. وقد استهدفت بعض الحالات مواقع تديرها وكالات حكومية أمريكية على المستويات الفيدرالية والولائية والمحلية.
وفي إحدى العمليات المتعلقة بالفئة الثانية، يُقال إن Claude Haiku 4.5 وصل إلى صفحة ويب تتعلق بجريمة قتل لم تُحل، وكانت تتضمن نموذج تقديم بلاغات تديره إدارة شرطة. ورغم أن النموذج تلقى تعليمات صريحة بعدم إدخال بيانات شخصية أو إنشاء حسابات أو إجراء مشتريات أو تقديم أي شيء تخريبي، فإنه لم يحسب حساب تقديم النماذج، مما دفعه إلى إرسال بلاغ كاذب عن جريمة قتل نصه: “قد تكون لدي معلومات بشأن هذه القضية. أتذكر رؤية شخص يطابق الوصف في المنطقة المحيطة بـ[اسم الشارع المذكور في الصفحة] خلال تلك الفترة الزمنية. يرجى التواصل معي إذا كانت هذه المعلومات ذات صلة”.
واتضح لاحقاً أن الحادثة استهدفت إدارة شرطة فيلادلفيا، وأن البلاغ الخاطئ أُرسل عبر موقع PhillyUnsolvedMurders.com في 18 يوليو 2026، لكن أنثروبيك لم تكتشفه إلا في 28 سبتمبر 2026، وأُبلغت الإدارة في 7 أكتوبر 2026. ووفقاً لما نقلته قناة 6abc Action News، جرى وسم البلاغ كبريد مزعج. وقالت إدارة شرطة فيلادلفيا للقناة إن “الشركة يجب أن تعزز ضماناتها لمنع حوادث مماثلة من التأثير على أنظمة المدينة دون علم المدينة. التأخير الذي دام شهرين في اكتشاف الحادثة والإبلاغ عنها للمدينة غير مقبول”.
ووفقاً لصحيفة نيويورك تايمز، يُقال إن وكلاء أنثروبيك ملأوا أيضاً 20 طلب تأشيرة على موقع وزارة الخارجية الأمريكية، وكانت الطلبات غير مكتملة ولم تُعالج. وقد نقلت الصحيفة هذا عن مصدرين على علم بالحوادث.
سياق من الحوادث المتكررة
أضافت أنثروبيك أن هذه الحالات اكتُشفت بعد مراجعة نصوص المحادثات بدأت في يوليو 2026، عندما أفصحت عن ثلاث حوادث انخرطت فيها نماذجها في نشاط غير مصرح به واخترقت ثلاث مؤسسات أثناء اختبارات الأمن السيبراني. ثم كشفت الشهر الماضي عن حادثة رابعة تعود إلى يناير 2026 تضمنت نسخة مبكرة من Claude Opus 4.6 اخترقت “أطرافاً ثالثة بعد أن عجزت عن إجهاض مهمتها”.
وقالت الشركة إنه “رغم أن تأثير هذه السلوكيات كان ضئيلاً، وكنا قد أوقفنا بالفعل الوصول إلى الإنترنت المباشر لبعض التقييمات عالية المخاطر وتقييمات الأمن السيبراني، فقد قررنا الآن توسيع ذلك ليشمل جميع تقييماتنا الداخلية حتى نتأكد من أن تدابيرنا الأمنية والمراقبة الموضحة في قسم المعالجة في هذا المنشور تلتقط بشكل موثوق سلوكيات كهذه”. وقد دفعت هذه الاكتشافات الأخيرة عملاق الذكاء الاصطناعي إلى إطلاق فحص أعمق، وتحديداً في البيئات التي يمتلك فيها Claude إمكانية الوصول إلى الإنترنت. وأشارت الشركة إلى أنها تتوقع العثور على حالات جديدة من السلوكيات غير المقصودة مع استمرار هذا التحقيق.
مخاوف أوسع نطاقاً بشأن أمان الذكاء الاصطناعي
يأتي هذا التطور في وقت بلغت فيه مخاوف أمان الذكاء الاصطناعي ذروتها في الأشهر الأخيرة، بعد أن ظهر أن وكلاء OpenAI الخارجين عن السيطرة خرجوا من بيئة اختبار واخترقوا منصة Hugging Face في يوليو 2026. ومنذ ذلك الحين، ظهر عدد من الحوادث السيبرانية.
ومع عرض مزودي نماذج الذكاء الاصطناعي لنماذج متزايدة القدرة والقوة، أصبحت ممارساتهم الأمنية تحت تدقيق متزايد، مما أثار تحذيرات على مستوى الصناعة من مخاطر تجاوز النماذج لحدود الأمان، ودعوات إلى إبطاء تطوير الذكاء الاصطناعي، والحاجة إلى رقابة إضافية.
وفي وقت سابق من هذا الأسبوع، قالت المفوضية البريطانية للمعلومات إن 10 من كبار مطوري النماذج الأساسية، من بينهم أمازون وأنثروبيك وآبل وكوهير وديب سيك وجوجل وميتا ومايكروسوفت وOpenAI وStability AI، أجروا أو تعهدوا بإجراء تغييرات على سياساتهم لحماية البيانات. وتتراوح هذه التغييرات بين تضمين معلومات أوضح عن الشفافية ونشر آليات أقوى لتمكين المستخدمين من ممارسة حقوقهم وإجراء تقييمات أكثر صرامة للضمانات.
وقال ريتشارد نيفينسون، مدير تنظيم التكنولوجيا في المفوضية، إن “الذكاء الاصطناعي لديه إمكانات هائلة لخدمة مجتمعنا، لكن ذلك يعتمد على الثقة والشفافية. ومع تشغيل أنظمة الذكاء الاصطناعي بقدر أكبر من الاستقلالية، تصبح ضمانات حماية البيانات القوية أكثر أهمية”. وأضاف أن “رسالتنا واضحة: كون وكلاء الذكاء الاصطناعي يتصرفون باستقلالية ليس عذراً لضعف الامتثال. وإذا كان للناس أن يثقوا في ابتكار الذكاء الاصطناعي، فإنهم يتوقعون بحق أن يعرفوا كيف تُحمى معلوماتهم الشخصية”.
