أعلنت شركة OpenAI عن حظر مجموعة من الحسابات التي استخدمت أداة ChatGPT في تطوير أداة مراقبة يُشتبه بأنها تعتمد على الذكاء الاصطناعي.
ووفقًا للتقرير، فإن أداة الاستماع إلى وسائل التواصل الاجتماعي يُعتقد أنها نشأت من الصين وتستخدم أحد نماذج Llama الخاصة بشركة Meta، حيث استعانت الحسابات المحظورة بنماذج الذكاء الاصطناعي لتحليل المستندات وإنشاء أوصاف مفصلة لأداة قادرة على جمع بيانات وتقارير آنية حول الاحتجاجات المناهضة للصين في الغرب، ومشاركة هذه المعلومات مع السلطات الصينية.
وقد أُطلق على هذه الحملة اسم Peer Review، نظرًا لسلوك الشبكة في الترويج لمثل هذه الأدوات ومراجعتها، وفقًا لما ذكره الباحثون بن نيمو، وألبرت زانغ، وماثيو ريتشارد، ونيثانيال هارتلي. وأوضحوا أن الأداة مصممة لاستيعاب وتحليل المنشورات والتعليقات على منصات مثل X (تويتر سابقًا)، فيسبوك، يوتيوب، إنستغرام، تيليغرام، وReddit.
في إحدى الحالات التي تم رصدها، استخدم الفاعلون ChatGPT لتصحيح وتعديل كود برمجي يُعتقد أنه يشغل برنامج المراقبة، الذي يحمل اسم “مساعد الرأي العام الخارجي كيانيويه بالذكاء الاصطناعي”.
نشاطات أخرى ضارة تم رصدها:
لم تقتصر إساءة استخدام ChatGPT على تطوير أدوات المراقبة، بل تم الكشف عن مجموعات أخرى استخدمته لأغراض خبيثة، منها:
عملية توظيف احتيالية: شبكة من كوريا الشمالية مرتبطة بمخطط توظيف وهمي، حيث استُخدم ChatGPT لإنشاء مستندات شخصية مزيفة مثل السير الذاتية، وملفات تعريفية على مواقع التوظيف، ورسائل تغطية، إضافة إلى توليد ردود مقنعة لتبرير سلوكيات مشبوهة مثل تجنب مكالمات الفيديو أو الوصول إلى أنظمة الشركات من دول غير مصرح بها. وقد تم نشر بعض طلبات التوظيف المزيفة على LinkedIn.
حملة تضليل إعلامي: شبكة يُعتقد أنها صينية، استخدمت ChatGPT لإنشاء محتوى على وسائل التواصل الاجتماعي باللغة الإنجليزية، ومقالات طويلة باللغة الإسبانية تنتقد الولايات المتحدة، تم نشر بعضها في مواقع إخبارية لاتينية في بيرو، المكسيك، والإكوادور. ويرتبط بعض هذا النشاط بمجموعة تضليل معروفة باسم Spamouflage.
احتيال عبر استدراج عاطفي: شبكة حسابات استخدمت الذكاء الاصطناعي لترجمة وإنشاء تعليقات باليابانية والصينية والإنجليزية، ونشرها على منصات مثل فيسبوك، X، وإنستغرام، في إطار عمليات احتيال عاطفية واستثمارية يُعتقد أن مصدرها كمبوديا.
حملة تأثير إيرانية: شبكة من خمسة حسابات نشرت محتوى معاديًا والولايات المتحدة، وذلك عبر منشورات على X ومقالات على مواقع مرتبطة بعمليات التأثير الإيرانية مثل الاتحاد الدولي للإعلام الافتراضي (IUVM) وStorm-2035. وتم اكتشاف أن أحد الحسابات كان يُستخدم لإنشاء محتوى لكلتا العمليتين، مما يشير إلى علاقة غير معلنة سابقًا بينهما.
نشاطات قرصنة مرتبطة بكوريا الشمالية: شبكة من الحسابات التي يديرها قراصنة كوريون شماليون، عملت على جمع معلومات حول أدوات التسلل الإلكتروني والموضوعات المتعلقة بالعملات المشفرة، إضافةً إلى تصحيح كود برمجي لهجمات RDP brute-force.
عملية تأثير سرية تتعلق بانتخابات غانا: شبكة من الحسابات أنشأت مقالات باللغة الإنجليزية لموقع Empowering Ghana، إلى جانب تعليقات على وسائل التواصل الاجتماعي تستهدف الانتخابات الرئاسية في غانا.
احتيال وظيفي: شبكة يُعتقد أنها من كمبوديا، استُخدمت لترجمة تعليقات بين الأردية والإنجليزية، في إطار مخطط احتيالي يستدرج الضحايا إلى وظائف زائفة تتطلب أداء مهام بسيطة (مثل الإعجاب بالفيديوهات أو كتابة مراجعات) مقابل عمولة وهمية، لكن الاشتراك فيها يتطلب دفع رسوم مسبقة من الضحايا.
إجراءات أوبن إي آي
أكدت OpenAI أنها تواصل جهودها لتعزيز أمن منصاتها ومنع إساءة استخدام ChatGPT في أنشطة ضارة، مشيرة إلى أنها ستتخذ إجراءات صارمة ضد أي محاولات لاستغلال الذكاء الاصطناعي في المراقبة، التضليل الإعلامي، أو الاحتيال.
