أصدرت مديرية الإشارات الأسترالية (ASD) تحذيرًا شديد اللهجة إلى الشركات المحلية بشأن المخاطر الأمنية الناجمة عن الاستخدام غير المنضبط لتقنيات الذكاء الاصطناعي التوليدي (GenAI) والدردشة الآلية. وأكدت الوكالة أن رفع بيانات العملاء أو الملفات الحساسة إلى منصات الذكاء الاصطناعي دون إخفاء الهوية أو تطبيق ضوابط صارمة قد يؤدي إلى إعادة استخدام هذه البيانات أو كشفها في سياقات غير متوقعة لاحقًا، وهو ما يشكل تهديدًا مباشرًا لخصوصية المستخدمين وسلامة المؤسسات.
مخاطر استخدام البيانات في تدريب النماذج
أوضحت الوكالة أن بعض مزوّدي خدمات الذكاء الاصطناعي قد يستخدمون البيانات التي يرفعها العملاء لتدريب نماذجهم أو تحسينها، وذلك بحسب إعدادات الاشتراك أو تكوين الخدمة. هذا يعني أن المعلومات الحساسة التي تدخلها الشركات في هذه المنصات قد تُستغل لاحقًا بشكل غير مقصود، مما يفتح الباب أمام تسريبات أو إعادة استخدامها في مخرجات أخرى، وهو ما قد يعرّض المؤسسات لمخاطر قانونية وأمنية جسيمة.
تهديدات “الهلاوس” وحقن الأوامر الخبيثة
من بين أبرز المخاطر التي حذرت منها ASD ما يُعرف بـ”الهلاوس” في أنظمة الذكاء الاصطناعي، حيث قد تنتج هذه الأنظمة إجابات خاطئة أو مضللة تبدو صحيحة للوهلة الأولى. الأخطر من ذلك هو إمكانية تعرضها لهجمات حقن الأوامر (Prompt Injections)، وهي مدخلات خبيثة تُصاغ على هيئة طلبات مشروعة لكنها تهدف إلى تضليل النظام أو دفعه للكشف عن معلومات حساسة أو تقديم إجابات غير آمنة. هذه الهجمات تمثل تهديدًا متزايدًا في ظل اعتماد المؤسسات على الذكاء الاصطناعي في عملياتها اليومية.
مخاطر سلاسل التوريد والدمج غير الآمن
لم تقتصر التحذيرات على البيانات والهلاوس، بل امتدت لتشمل المخاطر المرتبطة بسلاسل التوريد الناتجة عن دمج تقنيات الذكاء الاصطناعي في البنى التحتية للشركات. إذ يمكن أن يؤدي الاعتماد غير المدروس على منصات الذكاء الاصطناعي إلى إدخال ثغرات في أنظمة الشركات، مما يتيح للمهاجمين استغلالها عبر نقاط ضعف في الموردين أو الشركاء التقنيين. وأكدت ASD أن النشر الآمن لتقنيات الدردشة الآلية يجب أن يكون أولوية قصوى، مع ضرورة تطبيق معايير صارمة للأمن السيبراني قبل دمج هذه الأدوات في بيئات العمل.
