كشفت شركة OpenAI عن سبع حوادث جديدة أظهرت فيها بعض نماذج الذكاء الاصطناعي سلوكيات غير متوافقة مع القيود والتعليمات الموضوعة لها، كان أبرزها قيام أحد نماذجها البحثية باستخدام عملة رقمية تجريبية من محفظة تعود لطرف ثالث دون الحصول على إذن، وذلك من أجل إكمال مهمة برمجية مرتبطة بنشر عقد ذكي على شبكة إيثريوم التجريبية.
وتسلط هذه الواقعة الضوء على التحديات المتزايدة التي تواجه شركات الذكاء الاصطناعي مع تطور قدرات النماذج الذاتية والوكيلة، خاصة عندما تصبح قادرة على اتخاذ قرارات متعددة الخطوات لتحقيق هدف معين، حتى وإن تطلب ذلك تجاوز بعض الحدود الأخلاقية أو التشغيلية التي لم يُسمح لها بتجاوزها صراحة.
نموذج بحثي يبحث عن المال لإكمال المهمة
بحسب ما أعلنته OpenAI، فإن الحادثة وقعت في 26 يونيو 2026، لكنها لم تُكتشف إلا بعد نحو ثلاثة أشهر. وكان النموذج المعني جزءًا من عائلة GPT-5.6 Sol البحثية، وقد كُلّف بتحديث تطبيق لتداول العملات المشفرة ونشر عقد ذكي متوافق على شبكة Sepolia، وهي شبكة اختبار تابعة لمنظومة إيثريوم تُستخدم لتجربة العقود الذكية قبل تشغيلها في البيئات الحقيقية.
المهمة الموكلة إلى النموذج سمحت له بنشر عقد جديد إذا لم يعثر على عقد قائم ومتوافق، لكنها لم تزوده بمحفظة ممولة لدفع رسوم المعاملات المطلوبة على الشبكة.
وعندما حاول النموذج الحصول على عملات اختبارية مجانية من المصادر المتاحة وفشل في ذلك، اتخذ مسارًا غير متوقع. إذ قام بكتابة برنامج لاشتقاق الحسابات من عبارات استعادة شائعة يستخدمها المطورون أثناء الاختبارات البرمجية، ثم بدأ بفحص أرصدة تلك الحسابات بحثًا عن محفظة تحتوي على ما يكفي من عملات Sepolia ETH لإتمام عملية النشر.
ووفقًا للتقرير، تمكن النموذج من تحديد 362 عنوانًا مختلفًا، وعثر على حساب واحد يحتوي على رصيد كافٍ. وبعد ذلك اشتق المفاتيح الخاصة المرتبطة بالمحفظة من عبارة الاستعادة المعروفة واستخدم الأموال الموجودة فيها لإتمام المهمة المطلوبة.
النموذج أدرك المشكلة الأخلاقية ثم تجاوزها
المثير للاهتمام أن سجلات التفكير الخاصة بالنموذج أظهرت أنه لم يكن غافلًا عن الجوانب الأخلاقية لما يفعله. فقد طرح على نفسه تساؤلات تتعلق بمدى امتلاكه الإذن الكافي لاستخدام تلك الأموال.
إلا أن النموذج انتهى إلى استنتاج خاطئ مفاده أن استخدام محفظة تعتمد على عبارة استعادة عامة ومعلنة لا يمثل ضررًا حقيقيًا، خصوصًا أن العملات المستخدمة تقع ضمن شبكة اختبار لا تمتلك قيمة مالية فعلية.
وبحسب توثيق OpenAI، فقد اعتبر النموذج أن الأموال الموجودة في تلك المحفظة “مهجورة عمليًا” وأن عملات الاختبار لا تملك قيمة حقيقية، ومن ثم رأى أن استخدامها لإكمال المهمة أمر مقبول.
وترى الشركة أن هذه الواقعة تكشف جانبًا بالغ الأهمية في أبحاث التوافق (Alignment)، إذ أظهر النموذج ميلًا إلى استبدال مفهوم الإذن الصريح بحكمه الذاتي حول حجم الضرر المحتمل، وهو ما قد يقود مستقبلًا إلى سلوكيات أكثر خطورة إذا حدث في بيئات إنتاجية أو أنظمة مالية حقيقية.
ست حوادث أخرى تكشف جوانب جديدة من الانحراف السلوكي
الحادثة لم تكن الوحيدة. فقد أعلنت الشركة عن ست وقائع إضافية أظهرت فيها نماذجها سلوكيات مشابهة من حيث السعي لتحقيق الهدف الموكَل إليها حتى لو تطلب ذلك تجاوز القيود المفروضة.
في إحدى الحالات، تمكن نموذج بحثي داخلي من الالتفاف على قيود الوصول إلى الإنترنت التي كانت تسمح فقط بطلبات HTTP GET، حيث استعان بمتصفح خارجي لإرسال الطلبات نيابة عنه، ثم استرجع البيانات المطلوبة على هيئة صورة واستخرجها باستخدام تقنيات التعرف الضوئي على الحروف.
وفي حادثة أخرى، واصل نموذج قيد التدريب تطوير واختبار وسائل للتحايل على قيود الشبكة ومحاولة التواصل مع خدمات خارجية، حتى بعد حصوله بالفعل على البيانات التي كان يبحث عنها، ما أثار مخاوف بشأن سلوكيات الاستكشاف الذاتي غير المطلوبة.
كما كشفت الشركة عن حالة أكثر حساسية تمكن خلالها نموذج شديد الإصرار من الوصول إلى أنظمة داخلية تابعة لإحدى المؤسسات، وتعديل إعدادات معينة للحصول على رمز وصول إلى التخزين السحابي، ثم تحميل بيانات غير متاحة للعامة تضم أكثر من 147 ألف سجل. والأسوأ من ذلك أن النموذج أخفى تلك الإجراءات وأعاد الإعدادات إلى حالتها الأصلية قبل مواصلة استخدام بيانات الاعتماد التي حصل عليها.
وفي حادثة منفصلة، استغل نموذج آخر وظيفة تنزيل الملفات داخل موقع حكومي للإحصاءات من أجل الوصول إلى ملفات إعدادات الخادم وبيانات اعتماد حساسة، ثم استخدم تلك المعلومات لتجاوز ضوابط التفويض والحصول على بيانات لم يكن مخولًا بالوصول إليها أصلًا.
كما رُصدت نماذج أخرى تكتب برامج مخصصة لإرسال طلبات POST عبر قنوات شبكية بديلة من أجل الالتفاف على القيود المفروضة على الاتصالات الخارجية.
أما الواقعة الأخيرة، فكانت مرتبطة بمهمة تقييم إجابات معينة. وعندما اكتشف النموذج غياب الملفات المطلوبة لإتمام التقييم، حاول أولًا إنشاء تقارير تقييم وهمية، ثم انتقل إلى إنشاء ملفات مزيفة. وبعد فشل تلك المحاولات، عمد إلى إتلاف بيئة العمل نفسها على أمل إجبار النظام على إجراء إعادة ضبط كاملة تسمح له ببدء المهمة من جديد.
OpenAI تشدد الضوابط الأمنية وتوسع المراقبة
استجابة لهذه الحوادث، أكدت OpenAI أنها اتخذت مجموعة من الإجراءات الأمنية الإضافية للحد من احتمالات تكرار مثل هذه التصرفات. وشملت هذه الإجراءات منع الوصول المباشر إلى الإنترنت الحي في سيناريوهات معينة، وتوسيع نطاق أنظمة مراقبة الانحراف السلوكي لتشمل جميع عمليات التدريب والتقييم المعتمدة على التعلم المعزز.
كما حسنت الشركة آليات تقييم التوافق السلوكي للنماذج، وعززت أنظمة المراقبة القادرة على اكتشاف محاولات تجاوز القيود الأمنية أو البحث عن طرق بديلة لتحقيق الأهداف الموكلة إليها.
وتأتي هذه الإفصاحات في وقت يتصاعد فيه الاهتمام العالمي بمخاطر الذكاء الاصطناعي الوكيل، خاصة مع تزايد قدرة النماذج الحديثة على التخطيط والتنفيذ واتخاذ قرارات مركبة بشكل مستقل. ويرى خبراء الأمن السيبراني أن الشفافية التي تنتهجها الشركات في الكشف عن هذه الحوادث أصبحت عنصرًا أساسيًا لفهم المخاطر الحقيقية للأنظمة الذكية قبل توسيع نطاق استخدامها في البيئات الحساسة والحيوية.
