كشفت دراسة جديدة صادرة عن شركة Cisco عن وجود أكثر من 1,100 خادم Ollama مكشوف على الإنترنت، ما يثير مخاوف جدية بشأن سلامة تطبيقات الذكاء الاصطناعي التوليدي. وأوضحت الشركة أن نحو 214 خادماً (18.8%) من هذه الخوادم كانت تستضيف نماذج نشطة وتستجيب مباشرة للطلبات، فيما شكّلت نماذج Mistral وLLaMA النسبة الأكبر من عمليات النشر المكتشفة.
خوادم خاملة لكن قابلة للاستغلال
أما النسبة المتبقية، والتي تجاوزت 80%، فقد تبين أنها متاحة عبر واجهات غير موثقة لكنها لا تستضيف أي نماذج فعالة. ورغم حالة الخمول، إلا أن هذه الخوادم ما تزال عرضة للاستغلال عبر تحميل نماذج غير مصرح بها أو التلاعب بالإعدادات، وهو ما يفتح الباب أمام هجمات سيبرانية مستقبلية تستغل هذا القصور.
المخاطر المرتبطة بالذكاء الاصطناعي التوليدي
تسلط هذه النتائج الضوء على ثغرة متنامية في بيئة الذكاء الاصطناعي التوليدي، حيث تزداد المخاوف من الهجمات الموجهة ضد نماذج اللغة الكبيرة (LLMs) التي تُعد المحرك الأساسي للكثير من التطبيقات الحديثة. فغياب المعايير الأمنية الصارمة يفتح المجال أمام المتسللين لتجاوز أنظمة الحماية، سواء عبر إساءة استخدام النماذج النشطة أو زرع نماذج بديلة خبيثة في الخوادم الخاملة.
دعوة إلى وضع معايير أمنية موحدة
وأكدت Cisco أن هذه النتائج تبرز الحاجة العاجلة إلى اعتماد خطوط أساس أمنية واضحة عند نشر نماذج الذكاء الاصطناعي. كما شددت على أن الدراسة تشكّل أساساً عملياً لمزيد من الأبحاث المستقبلية في مجال مراقبة سطح التهديدات المرتبطة بـ LLMs، محذّرة من أن تجاهل هذه المخاطر قد يؤدي إلى توسع الهجمات السيبرانية التي تستهدف البنية التحتية للذكاء الاصطناعي.
