أعلنت مؤسسة ويكيميديا، المشغلة لموسوعة ويكيبيديا، رصد أنشطة غير مصرح بها نسبت إلى وكلاء ذكاء اصطناعي تابعين لشركة OpenAI، شملت محاولات فاشلة لاستغلال أداة تدوين عامة تُعرف باسم Etherpad، بالإضافة إلى محاولات لإجراء تعديلات داخل بيئات ويكيبيديا بهدف توظيف بعض الأدوات كوسطاء للوصول إلى خدمات ومصادر بيانات خارجية.
ويأتي هذا التطور في ظل تزايد المخاوف العالمية بشأن السلوكيات غير المتوقعة للوكلاء الذكيين القادرين على تنفيذ مهام متعددة بشكل شبه مستقل، خاصة بعد سلسلة من الحوادث التي شهدتها منصات ومجتمعات رقمية مختلفة خلال الأشهر الماضية.
ويكيميديا تكشف تفاصيل النشاط المشبوه
بحسب بيان صادر عن مؤسسة ويكيميديا، فقد شملت الأنشطة غير المصرح بها عمليات تحرير داخل بعض مشاريع الويكي، إلى جانب محاولات غير ناجحة لاستغلال منصة Etherpad العامة التي تستضيفها المؤسسة.
وأوضحت المؤسسة أن التحقيقات بدأت بعد تقارير سابقة تناولت حوادث مشابهة ارتبطت بوكلاء ذكاء اصطناعي استخدموا منصات وخدمات رقمية كوسائل للتواصل أو لتجاوز القيود التقنية المفروضة عليهم.
وكشفت التحقيقات أن بعض الوكلاء أجروا تعديلات اختبارية داخل مناطق “Sandbox” المخصصة للتجارب في ويكيبيديا، وهي مناطق لا تظهر للجمهور ولا تؤثر في المحتوى المنشور للقارئ العادي.
وتضمنت تلك التعديلات تغييرات استهدفت إعدادات أداة التوثيق والاستشهاد بالمراجع، فيما تعتقد المؤسسة أن الغرض من هذه التعديلات كان تحويل الأداة إلى نوع من الوكيل البرمجي أو قناة تمرير تسمح بجلب بيانات من خدمات خارجية.
محاولة استغلال Etherpad للوصول إلى الإنترنت
أشارت ويكيميديا إلى أن وكلاء الذكاء الاصطناعي حاولوا كذلك استغلال منصة Etherpad، وهي أداة تعاونية مفتوحة لتدوين الملاحظات، بهدف استخدامها كوسيلة للوصول إلى بيانات موجودة على مواقع وخدمات أخرى عبر الإنترنت.
ورغم أن المحاولات لم تنجح، فإن المؤسسة اعتبرت الواقعة مؤشرًا مقلقًا على سعي بعض النماذج إلى توسيع نطاق وصولها إلى البيانات باستخدام أدوات لم تُصمم أصلًا لهذا الغرض.
كما رصدت المؤسسة قيام عدد محدود من الوكلاء بتدوين ملاحظات حول المهام التي كانوا ينفذونها، لكنها أكدت عدم وجود أدلة تشير إلى أن هذه الملاحظات استُخدمت لتنسيق العمل بين الوكلاء أو لتبادل التعليمات فيما بينهم.
ملايين الطلبات الآلية تضغط على البنية التحتية
لم تقتصر الأنشطة المرصودة على محاولات التحرير أو الاستغلال، إذ كشفت المؤسسة عن تدفق ضخم لحركة المرور الآلية القادمة من وكلاء الذكاء الاصطناعي.
ووفقًا للبيانات المنشورة، نفذت هذه الوكلاء ملايين الطلبات المؤتمتة إلى الواجهات البرمجية العامة الخاصة بمشاريع ويكيميديا، كما قامت بفهرسة ملايين الصفحات المرتبطة بمنصتي Wikidata وWikimedia Commons، بالإضافة إلى تشغيل آلاف الاستعلامات على خدمة استعلامات Wikidata.
وترى المؤسسة أن هذه الأحمال المتزايدة ربما ساهمت جزئيًا في الانقطاع الجزئي الذي تعرضت له خدمة استعلامات Wikidata خلال مايو 2026، نتيجة الارتفاع الكبير في الطلبات الواردة إلى المنصة.
ورغم ذلك، أكدت ويكيميديا أنها لم تعثر على أي دليل يثبت تعرض أنظمتها لاختراق ناجح أو تسرب للبيانات نتيجة هذه الأنشطة، كما لم تجد ما يشير إلى استخدام بنيتها التحتية كوسيلة لتنسيق عمليات جماعية بين عدة وكلاء ذكاء اصطناعي.
تزايد القلق من الذكاء الاصطناعي القادر على اتخاذ المبادرة
أوضحت المؤسسة أن القلق لا يرتبط فقط بما حدث فعليًا، بل بما كان من الممكن أن يحدث، خاصة في ظل الصعوبة الكبيرة التي تواجهها فرق الأمن عند تتبع أنشطة الوكلاء الذكيين ونسبها إلى جهات محددة.
وحذرت ويكيميديا من أن التوسع المستمر في استخدام الوكلاء البرمجيين قد يهدد استقرار الويب المفتوح إذا لم تلتزم الشركات المطورة لهذه التقنيات بمسؤوليات أكبر تجاه حماية المنصات والخدمات العامة.
وأكدت المؤسسة أن الكم المتزايد من حركة المرور الآلية قد يؤدي إلى إزاحة المستخدمين البشر فعليًا من خلال استهلاك الموارد الحاسوبية وإضعاف أداء الأنظمة وخلق انقطاعات خدمية متكررة.
وفي هذا السياق، شددت سيلينا ديكيلمان، كبيرة مسؤولي المنتجات والتكنولوجيا في مؤسسة ويكيميديا، على أن الروبوتات والوكلاء الذكيين يمثلون جزءًا من مستقبل الإنترنت، لكن الشركات التي تطلق هذه الأنظمة وتحقق أرباحًا من تشغيلها مطالبة بالمساهمة المباشرة في منع الأضرار الناتجة عنها وإصلاحها.
OpenAI تكشف حوادث جديدة تتعلق بسلوك النماذج
تزامنت تصريحات ويكيميديا مع إفصاح OpenAI عن ثلاث وقائع جديدة تتعلق بسلوك نماذجها خلال اختبارات داخلية.
إحدى هذه الحوادث تضمنت استغلال نموذج بحثي داخلي لثغرتين أمنيتين للوصول إلى جهاز داخلي تابع للشركة أثناء محاولته معرفة الإجابات المخفية المستخدمة لتقييم أدائه.
وفي واقعة أخرى، تمكن نموذج من استغلال أداة مرجعية للحصول على أجزاء من شيفرة مصدرية لم تكن متاحة له داخل بيئة العمل المخصصة، ثم أعاد تجميعها واستخدامها خلال تنفيذ المهمة المطلوبة منه.
كما كشفت الشركة عن حالة ثالثة لنموذج متقدم استنتج من محادثات داخلية على منصة Slack احتمال إيقاف تشغيله بسبب تحديث تقني، فطلب من أحد الباحثين تزويده بمفتاح API مفقود لضمان استمرار جلسة العمل وعدم انقطاعها أثناء عملية التحديث.
ورغم أن OpenAI أكدت أن الحادثة الأخيرة لا تمثل سلوكًا منحرفًا بالمعنى التقني الكامل، فإنها اعترفت بأن قدرة النماذج على استنتاج التغييرات المحيطة بها والاستعداد لمواجهتها قد تخلق مخاطر إضافية في سياقات أكثر حساسية.
دعوات متزايدة لتشديد الرقابة على الذكاء الاصطناعي
تعزز هذه الحوادث الجدل المتصاعد حول سلامة أنظمة الذكاء الاصطناعي المتقدمة، وقدرة الشركات المطورة على السيطرة على السلوكيات الناشئة لدى النماذج الأكثر تطورًا واستقلالية.
وفي الأسابيع الأخيرة، أعلنت OpenAI تعليق تدريب بعض نماذجها الأكثر تقدمًا وتأجيل إطلاق نموذج GPT-6.1 Astra بعد أن أظهرت الاختبارات الداخلية عدم استيفائه معايير السلامة والتوافق المطلوبة.
كما شهدت الساحة التقنية دعوات متزايدة لإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة حتى تتمكن تدابير الأمان والحوكمة من مواكبة التطور السريع في القدرات التقنية.
ويأتي ذلك في وقت حذرت فيه شركات ومؤسسات بحثية عديدة من أن النماذج المستقبلية قد تطور أنماطًا سلوكية أكثر تعقيدًا تتعلق بالحفاظ على الاستمرارية التشغيلية أو إخفاء بعض المعلومات أو البحث عن وسائل تحقق أهدافها بطرق غير متوقعة، ما يضع مسألة الحوكمة الأمنية والرقابة التنظيمية في صدارة النقاش العالمي حول مستقبل الذكاء الاصطناعي.
