كشفت شركة OpenAI عن إطلاق تحديث أمني جديد لمتصفح ChatGPT Atlas، يتضمن نموذجاً مدرّباً بطريقة خصومية (Adversarial Training) إلى جانب تعزيز الضوابط الأمنية المحيطة به، وذلك لمواجهة هجمات الحقن النصي (Prompt Injections). هذه الهجمات تقوم بإخفاء تعليمات خبيثة داخل محتوى الإنترنت، مما قد يدفع الوكيل الذكي إلى تجاوز الحواجز الأمنية الموضوعة له.
وأوضحت الشركة أن وضع “Agent Mode” في Atlas يوسع سطح التهديدات الأمنية، حيث جاء التحديث بعد اكتشاف فئة جديدة من هجمات الحقن النصي عبر اختبارات داخلية باستخدام فرق “Red Teaming” الآلية.
بناء مهاجم آلي واستخدام التعلم المعزز
أشارت OpenAI إلى أنها طورت مهاجماً آلياً يعتمد على نموذج لغوي كبير (LLM) وقامت بتدريبه باستخدام التعلم المعزز ليبحث عن ثغرات الحقن النصي القادرة على اختراق وكلاء المتصفح.
وأكدت الشركة أن هذه الهجمات تشبه إلى حد كبير أساليب الاحتيال والهندسة الاجتماعية على الإنترنت، وأنه من غير المرجح أن يتم “حلها بالكامل”. لكنها شددت على أن وجود حلقة استجابة سريعة وفعّالة يمكن أن يقلل بشكل ملموس من المخاطر الواقعية بمرور الوقت، عبر اكتشاف أنماط الهجوم الجديدة مبكراً وسد الثغرات بسرعة ورفع تكلفة الاستغلال على المهاجمين.
جهود متوازية من شركات أخرى
النهج الذي اتبعته OpenAI يتماشى مع خطوات مشابهة اتخذتها شركات مثل Anthropic وGoogle لمواجهة المخاطر المستمرة المرتبطة بالهجمات النصية. هذه الجهود تعكس إدراكاً متزايداً بأن وكلاء الذكاء الاصطناعي في وضع التصفح أو التشغيل التفاعلي يفتحون مساحات جديدة أمام المهاجمين.
دور الذكاء الاصطناعي في الهجمات السيبرانية
في سياق متصل، كشفت Microsoft أن الخصوم بدأوا بالفعل في استخدام الذكاء الاصطناعي لتنفيذ أنشطة خبيثة متنوعة، تشمل:
- اكتشاف الثغرات الأمنية بشكل آلي
- حملات تصيّد إلكتروني متقدمة
- إنتاج برمجيات خبيثة و”ديب فيك”
- تحليل البيانات وعمليات التأثير
- صياغة رسائل احتيالية مقنعة
وأوضحت الشركة أن رسائل التصيّد الآلي المدعومة بالذكاء الاصطناعي حققت معدل نقر بلغ 54% مقارنة بـ 12% فقط في المحاولات التقليدية، أي بزيادة قدرها 4.5 ضعف. هذا يبرز كيف يتيح الذكاء الاصطناعي صياغة طُعم أكثر إقناعاً واستهدافاً للمستخدمين.
