كشفت شركة Check Point Research عن ثغرة خطيرة في ChatGPT تسمح بزرع تعليمات خفية داخل المحادثة، بحيث يستمر النموذج في الرد على أسئلة المستخدم بشكل طبيعي بينما ينفذ في الخلفية أوامر لصالح المهاجم. في إثبات المفهوم، تمكنت التعليمات المزروعة من قراءة بيانات من حساب Gmail المرتبط بالمستخدم، ثم إرسالها إلى حساب آخر عبر قناة داخلية غير مرئية، دون أن يظهر أي أثر في الرد الظاهر للمستخدم. الأمر لا يقتصر على البريد الإلكتروني، بل يمكن أيضًا نسخ سجل المحادثات والملفات المرفقة، اعتمادًا على الصلاحيات المتاحة للجلسة.
طرق زرع التعليمات
حددت Check Point ثلاث طرق رئيسية لإدخال التعليمات الخفية:
- محادثة منسوخة يفتحها المستخدم وتحتوي على التعليمات.
- موجه نصي يقوم المستخدم بلصقه دون علمه بما يحتويه.
- GPT مخصص يحمل التعليمات في إعداداته الداخلية غير المرئية للمستخدم.
بمجرد وجود التعليمات، يكفي إرسال رسالة عادية لبدء التنفيذ، حيث يعمل ChatGPT في “وضع التفكير” على مسارين: الرد الظاهر للمستخدم، وتنفيذ المهام الخفية.
قناة الاتصال الداخلية
الثغرة اعتمدت على خدمة داخلية في بنية ChatGPT تُستخدم عادةً لجلب الحزم البرمجية عبر JFrog Artifactory. هذه الخدمة سمحت للحاويات المختلفة بإرفاق خصائص (Properties) بملفات مخزنة وقراءتها لاحقًا، ما جعلها بمثابة “لوحة نسخ ولصق” مشتركة بين حسابات مختلفة. وبذلك تمكن المهاجم من تمرير بيانات نصية أو مشفرة بـ Base64 عبر هذه الخصائص، وإعادة تجميعها في الطرف الآخر.
خطورة الثغرة والإصلاح
- الثغرة سمحت بإنشاء قناة اتصال غير مقصودة بين جلسات منفصلة، ما يفتح الباب أمام سرقة بيانات حساسة مثل البريد الإلكتروني وسجلات المحادثات.
- لم يكن هناك أي تنبيه للمستخدم سوى عبارة صغيرة مثل “Talked to Gmail”، والتي تظهر بعد أن تكون القراءة قد تمت بالفعل.
- أوضحت Check Point أن السبب يعود إلى إعدادات الصلاحيات الافتراضية للتطبيقات المرتبطة، حيث يُسمح بالقراءة دون طلب إذن مسبق.
- بعد الإبلاغ، أكدت OpenAI أنها أغلقت الخدمة الداخلية المسؤولة عن هذه القناة، دون الحاجة لتحديث من جانب المستخدمين.
سياق أوسع
هذه ليست المرة الأولى التي يتم فيها اكتشاف قناة غير مقصودة في ChatGPT. ففي مارس الماضي، أبلغت Check Point عن ثغرة أخرى استغلت عمليات DNS Lookup لإرسال بيانات المحادثات إلى خادم خارجي، وتم إصلاحها في فبراير. كما أن الحادث منفصل عن واقعة Hugging Face، حيث تحولت خدمة داخلية إلى لوحة رسائل أثناء اختبارات الأمان.
