خلال العام الماضي رصد الباحثون في مراكز العمليات الأمنية بالشركات فئة جديدة تماما من التنبيهات، بدأت تتضخم بوتيرة تفوق أي فئة أخرى في تدفق البيانات اليومي. لم تكن هذه التنبيهات ناتجة عن هجمات موجهة ضد أدوات الذكاء الاصطناعي، بل عن الأثر اليومي العادي لاستخدام المؤسسات لهذه الأدوات، بدءا من المطورين الذين يشغلون وكلاء برمجية للمساعدة في كتابة الأكواد، وصولا إلى الموظفين غير التقنيين الذين يربطون حساباتهم المؤسسية بتطبيقات ذكاء اصطناعي استهلاكية دون علم فرق الأمن.
مراجعة شاملة لنشاط الذكاء الاصطناعي عبر عشرات البيئات المؤسسية كشفت عن رقمين يؤطران كل ما يليهما من تحليل. فتنبيهات الذكاء الاصطناعي لا تمثل سوى نسبة ثلاثة وأربعة من عشرة في المئة من إجمالي تنبيهات مراكز العمليات الأمنية، إلا أن هذه النسبة الضئيلة ترتفع شهرا بعد شهر، إذ سجلت قفزة بلغت ستمئة وخمسة وثمانين في المئة بين شهري فبراير ويونيو من العام الجاري وحده. بمعنى آخر، الذكاء الاصطناعي يمثل اليوم شريحة صغيرة من التنبيهات، لكنها الأسرع نموا على الإطلاق.
الأهم من الحجم هو التركيبة الداخلية لهذه التنبيهات. فحين صنف الباحثون كل ما يثيره وكيل ذكاء اصطناعي داخل مركز العمليات إلى ثلاث فئات هي الهجمات الحقيقية والمخاطر الفعلية والضجيج غير المؤذي، تبين أن الضجيج يستحوذ على أربعة وتسعين وواحد من عشرة في المئة من الحالات، بينما لا تتجاوز المخاطر الحقيقية خمسة وثمانية من عشرة في المئة، أما الهجمات الفعلية فلا تكاد تتعدى اثنين من مئة في المئة. أي أن كلفة الذكاء الاصطناعي على مراكز العمليات الأمنية حتى اليوم ليست اختراقات فعلية بقدر ما هي موجة متصاعدة من التنبيهات التي تبدو مقلقة في ظاهرها لكنها نادرا ما تكون كذلك، إلى جانب مجموعة صغيرة وهادئة من الثغرات الحقيقية التي تختفي وسط ذلك الضجيج.
المشهد الجديد داخل تدفق التنبيهات الأمنية
تبني الشركات للذكاء الاصطناعي ليس سلوكا واحدا بل سلوكان مختلفان يظهران في اللحظة نفسها. الأول تقني بامتياز، حيث يثبت المطورون وكلاء برمجية قادرة على تشغيل أوامر النظام، والوصول إلى مخازن بيانات الاعتماد، وفتح أنفاق شبكية، وتنزيل حزم برمجية، وتشغيل أدوات أمنية، وكل ذلك في سياق عمل مشروع تماما، لكنه في الوقت نفسه لا يمكن تمييزه عن المراحل الأولى لاختراق حقيقي من منظور محركات الكشف التقليدية. هذا هو النصف الصاخب من المشكلة، وهو المسيطر على غالبية البيانات المرصودة.
أما النصف الثاني فهو أكثر هدوءا، ويتمثل في منح الموظفين موافقات دخول عبر بروتوكول أوث لتطبيقات ذكاء اصطناعي خارجية، ومشاركة معلومات حساسة، ولصق مستندات كاملة داخل أدوات توليد النصوص. هذا النوع من النشاط نادرا ما يثير كاشفات نقاط النهاية التقليدية، لكنه بالضبط الموضع الذي تغادر منه بيانات المؤسسة أسوارها الرقمية. كلا النصفين ينتهي في المكان نفسه، أي مركز العمليات الأمنية، وكلاهما يبدو للوهلة الأولى مثيرا للقلق، والمهمة الحقيقية لأي فريق أمني اليوم هي الفصل بين الإشارة الحقيقية وضجيج الخلفية.
من بين نحو ستة عشر مليونا وتسعمئة ألف تنبيه أمني جرت مراجعتها، لم يتجاوز عدد التنبيهات المرتبطة بالذكاء الاصطناعي ثلاثة وسبعين ألف تنبيه، وهو رقم يبدو مطمئنا للوهلة الأولى، غير أن منحنى النمو تصاعدي بلا انقطاع، إذ يتجاوز كل شهر الشهر الذي سبقه، مع تسارع لافت بدءا من شهر مايو الماضي. هذا يعني أن النسبة الحالية هي أرضية الانطلاق لا سقف النمو، وأن أي فريق أمني يحجم استعداده وفق الحجم الراهن سيجد نفسه غير مهيأ خلال ثلاثة أشهر فقط.
وحين نظر الباحثون في كيفية التعامل الآلي مع هذه التنبيهات دون تدخل بشري، تبين أن نحو ثمانين في المئة منها صُنفت بأنها غير ضارة، وأن أكثر من واحد وثمانين في المئة أُغلقت تلقائيا دون أن يراها محلل بشري على الإطلاق، بينما لم تصل سوى نسبة خمسة ونصف في المئة تقريبا إلى مستوى التصعيد لمراجعة إنسانية فعلية. وقد وجد الباحثون مثالا لافتا، حيث كان تنبيه واحد لدى عميل واحد فقط مسؤولا عن أكثر من نصف كل التنبيهات المصنفة بدرجة حرجة، والمتعلقة برصد ملف تنفيذي معروف في بيئة ويندوز على أنه أداة نقل جانبي، بينما تبين عند الفحص أنه مجرد وكيل برمجي يجهز بيئة عمل اعتيادية لمطور. الدرس هنا واضح، وهو أن درجة الخطورة المعلنة لأي تنبيه مرتبط بالذكاء الاصطناعي يجب أن تقرأ بحذر شديد لا أن تؤخذ على ظاهرها.
حين تكون التنبيهات هجمات حقيقية أو مجرد سياق مضلل
الهجمات الحقيقية هي الفئة الأقل حجما، إذ لا تتجاوز اثنين من مئة في المئة من مجمل التنبيهات المرتبطة بالذكاء الاصطناعي، لكنها الفئة التي يسأل عنها القادة التنفيذيون أولا. ومن المثير أن أيا من الاختراقات الفعلية التي جرى التحقق منها لم يكن ناتجا عن وكيل ذكاء اصطناعي تابع للمؤسسة نفسها. فكل تنبيه حمل عناوين من قبيل تشغيل أداة سرقة بيانات اعتماد أو فتح قذيفة عكسية عبر أداة برمجية، تبين عند الفحص الدقيق أنه إما نشاط مشروع لمطور أو خطأ في منطق الكشف نفسه.
في المقابل، الهجمات الحقيقية التي رُصدت كانت تستغل شهرة الذكاء الاصطناعي لا تقنيته، وتحديدا عبر حملات تصيد إلكتروني تستخدم أسماء العلامات التجارية الكبرى في هذا المجال كطعم. فقد لوحظت رسائل بريد إلكتروني احتيالية تحمل عناوين مرتبطة بأبرز أسماء صناعة الذكاء الاصطناعي، وتنجح هذه الحيلة تحديدا لأن انتشار هذه الأدوات جعل الموظفين معتادين على تلقي إشعارات منها بشكل روتيني، وهو ما يستغله المهاجمون ببراعة. من الأمثلة الموثقة رسالة تدعي وجود اتفاقية مالية مع إحدى شركات الذكاء الاصطناعي الكبرى لتمرير طلب دفع احتيالي، وأخرى تنتحل دعوة عمل مزيفة لخدمة إعلانات مرتبطة بشركة جوجل عبر نطاق مشبوه، وثالثة تنتحل دعوة لفعالية شراكة تابعة لشركة أوبن إيه آي رغم أن مصدرها الفعلي منصة اجتماعات إلكترونية مختلفة تماما. وفي حالة أخرى، بدا أن أداة تطوير برمجي مدعومة بالذكاء الاصطناعي انتقلت من نشاط برمجي عادي إلى تنفيذ أوامر نظام حساسة لتفريغ بيانات اعتماد من ذاكرة النظام، في سلسلة عمليات أثارت قلقا جديا رغم أن نية المطور الأصلية كانت تصحيح خلل برمجي لا أكثر. والملاحظة المشتركة بين كل هذه الحالات أنه كلما دقق الباحثون في التفاصيل، تلاشت صورة الهجوم لتحل محلها صورة سياق عمل اعتيادي، وهذه هي السمة الجوهرية لعملية الفرز في عصر الذكاء الاصطناعي.
الاستخدام غير الآمن حين لا يكون هناك مهاجم على الإطلاق
تمثل هذه الفئة نحو خمسة وثمانية من عشرة في المئة من التنبيهات، وهي في نظر كثير من المتخصصين الفئة الأجدر بالانتباه، لأنها لا تشير إلى اختراق قائم بل إلى لحظة يقوم فيها الوكيل الذكي، وهو يعمل تماما كما طُلب منه ودون أي تدخل من مهاجم خارجي، بفعل شيء يعرض المؤسسة أو المستخدم لخطر فعلي. أبرز هذه المخاطر هو تشغيل الوكلاء بخيار تجاوز أذونات الموافقة، وهو الإعداد الذي يوقف مطالبة المستخدم بالتأكيد قبل تنفيذ كل أمر. كثير من المستخدمين يختارون هذا الخيار ثقة منهم بأن الوكيل لن يتلف أجهزتهم أو ينفذ أوامر خطرة، غير أن البيانات تؤكد أن الوكلاء في حالات كثيرة يحاولون، وينجحون غالبا، في تنفيذ أوامر تعرض المؤسسة والمستخدم لمخاطر جسيمة، وهو ما يفسر التوصية بضرورة استخدام إعدادات حماية إضافية تمنع الوكيل برمجيا من تنفيذ أوامر خطرة، خصوصا عند تفعيل خيار تجاوز الأذونات.
في كل حالة جرى فحصها، كان الاستدعاء الأصلي عملا مشروعا تماما لمطور برمجيات، وهذا بالضبط ما يجعل الأمر مقلقا، لأن هذا الإعداد نفسه هو الثغرة التي استُغلت في هجوم موثق على سلسلة التوريد البرمجية، حيث تمكن كود خبيث من التنفيذ بحرية كاملة لأن وكيلا برمجيا كان يعمل بأذونات معطلة الحماية. المشكلة إذن ليست في النية بل في أن حاجز الأمان مغلق لدى عدد كبير من العملاء في آن واحد، بانتظار اللحظة التي يكون فيها الكود المطلوب تنفيذه غير بريء. واللافت أن هذه الاستدعاءات المعطلة الحماية هي نفسها المصدر الأكبر للإنذارات الكاذبة. من الأمثلة الأخرى المرصودة فتح نفق شبكي عكسي عبر أداة برمجية باستخدام رمز مصادقة المستخدم نفسه، ووكيل قام بتفريغ سلسلة مفاتيح النظام بأكملها على نظام ماك لمجرد قراءة رمز واحد، إلى جانب موافقات أوث ممنوحة لتطبيقات ذكاء اصطناعي خارجية عبر عدة عملاء، وهي نقاط دخول تفتح الباب أمام وصول غير مصرح به للبيانات عبر حقن الأوامر أو اختراق الحساب نفسه.
الضجيج الذي يستهلك طاقة الفرق الأمنية وما يجب فعله حياله
يشكل الضجيج الفئة الأكبر بفارق كبير، إذ يستحوذ على أربعة وتسعين وواحد من عشرة في المئة من كل التنبيهات المرتبطة بالذكاء الاصطناعي، وهو العامل الحاسم في تحديد ما إذا كان مركز العمليات الأمنية سيغرق أو لا. هذا الضجيج ليس عشوائيا، بل محدد وقابل للتشخيص بدقة، إذ يتمثل في قواعد كشف كُتبت قبل ظهور وكلاء الذكاء الاصطناعي، وتطلق الآن إنذارات بدرجة خطورة عالية على نشاط عمل روتيني تماما.
أوضح مثال على ذلك هو برامج شركات الذكاء الاصطناعي نفسها، إذ إن حزمة التثبيت الرسمية والموقعة رقميا لأحد المساعدين الذكية الشهيرة تطلق قواعد كشف كبرى مثل رصد عمليات فدية أو تنزيل وتشغيل أوامر مشفرة، وذلك في بيئات عملاء متعددين، رغم أن الحزمة نفسها شرعية تماما، والمشكلة تكمن في أن منطق الكشف يصف سلوك التثبيت العادي بلغة برمجيات الفدية. وتحت هذا المثال تقبع طبقة كاملة من الإنذارات الكاذبة المتعلقة بسلوك الوكلاء، تأكد عند الفحص أنها جميعا استخدام اعتيادي من مطورين، مثل عملية تحديث لأداة برمجية أطلقت إنذار عمليات فدية بسبب سلوك مثبت اعتيادي، أو عملية تشغيل لأداة سطر أوامر بخيار تجاوز الأذونات أثارت قواعد كشف متعلقة بحقن المكتبات، أو نص برمجي اعتيادي يتحقق من توفر منفذ شبكي محلي أطلق إنذار قذيفة عكسية رغم أن محتواه واضح تماما ولا يخفي شيئا.
معدلات الإنذار الكاذب هنا هي جوهر القصة، إذ تتراوح نسبة النشاط غير الضار عبر أكثر قواعد الكشف إثارة للضجيج بين سبعة وسبعين وتسعة وتسعين في المئة، بمعنى أن بعض هذه القواعد مخطئة أكثر من أربع مرات من كل خمس. الاستثناء الوحيد اللافت هو قاعدة كشف مرتبطة بتقنية خداع معروفة، وهي الأكثر جدية بين كل قواعد الضجيج، إذ لا تتجاوز نسبة النشاط غير الضار فيها سبعة وثلاثين في المئة، وذلك تحديدا لأنها تتقاطع مع خطر تعطيل الأذونات المذكور سابقا، فهي تُطلق حين يشغل مطور أداة برمجية بخيار تجاوز الأذونات الكامل.
الخطوة الأولى المطلوبة من أي مركز عمليات أمنية هي ضبط قواعد الكشف القديمة الأكثر إثارة للضجيج، تليها صياغة سياسات واضحة بشأن ما يمكن مشاركته مع منصات الذكاء الاصطناعي الخارجية، ثم البحث الاستباقي عن أعلام تجاوز الأذونات والأنفاق غير المصرح بها وموافقات أوث الخطرة بدلا من انتظار الإنذار. أما الخطوة الأصعب فتتعلق بجوهر عملية الفرز نفسها، إذ إن أدوات الذكاء الاصطناعي تنفذ أوامر على جهاز المستخدم وبصلاحياته، وبالتالي تُنسب التنبيهات إلى المستخدم رغم أنه في كثير من الأحيان لا يعلم بحدوثها أصلا، وهو ما يجعل عزل بيئة تشغيل هذه الأدوات داخل حاويات أو أجهزة افتراضية مقيدة الوصول خطوة ضرورية لتمييز سلوك الوكيل عن سلوك المستخدم الحقيقي بوضوح أكبر.
