في خطوة استباقية تهدف إلى مواكبة التطورات التقنية المتسارعة وتأمين البنية التحتية الرقمية للمملكة، طرحت الهيئة الوطنية للأمن السيبراني مشروع “إرشادات الأمن السيبراني للذكاء الاصطناعي”، الذي يقدم إطاراً شاملاً يضم 42 إرشاداً تنظيمياً لـ تحصين أنظمة الذكاء الاصطناعي. وتأتي هذه المبادرة الهامة لاستطلاع مرئيات العموم والجهات المعنية، بهدف الحد من المخاطر السيبرانية الناشئة عن استخدام هذه التقنيات المتقدمة، وضمان تكاملها الآمن ضمن منظومة العمل في مختلف الجهات الوطنية.
تأتي هذه الإرشادات في سياق عالمي يشهد سباقاً محموماً نحو تبني الذكاء الاصطناعي، حيث تضعه المملكة العربية السعودية في صميم استراتيجيتها التنموية ضمن رؤية 2030. فمع التوسع في استخدام تطبيقات الذكاء الاصطناعي في قطاعات حيوية مثل الطاقة، والصحة، والخدمات الحكومية، والمالية، تزداد الحاجة إلى أطر تنظيمية قوية تضمن استخداماً مسؤولاً وآمناً لهذه التقنيات. إن الاعتماد المتزايد على الخوارزميات والنماذج الذكية يفتح الباب أمام نواقل هجوم جديدة وغير تقليدية، مما يجعل المبادرات التنظيمية مثل هذه الإرشادات ضرورة ملحة وليست مجرد خيار.
إطار وطني شامل لتعزيز الصمود السيبراني
أوضحت الهيئة أن الوثيقة الجديدة تستهدف جميع الجهات في المملكة التي تتبنى أو تخطط لتبني أنظمة الذكاء الاصطناعي، سواء كانت توليدية أو توكيدية. وتتكون الإرشادات من أربعة مكونات أساسية تتفرع منها 15 مكوناً فرعياً، لتشكل بمجملها 42 إرشاداً تنظيمياً دقيقاً. تغطي هذه المكونات جوانب حيوية تشمل حوكمة وإدارة مخاطر الأمن السيبراني المتعلقة بالذكاء الاصطناعي، وتعزيز حماية الأنظمة، وضمان صمودها في وجه الهجمات، بالإضافة إلى إدارة المخاطر المرتبطة بالأطراف الخارجية والموردين، لضمان تغطية شاملة لكافة مراحل دورة حياة النظام.
مواجهة التهديدات المستجدة في عصر الذكاء الاصطناعي
أكدت الهيئة أن التطور المتسارع في تقنيات الذكاء الاصطناعي أفرز ثغرات وتهديدات غير تقليدية تتطلب تعاملاً دقيقاً وحماية مستمرة. وشملت التهديدات التي تم رصدها هجمات التهرب (Evasion Attacks) التي تهدف إلى خداع النموذج لتقديم مخرجات خاطئة، وهجمات تسميم البيانات (Data Poisoning) التي تعبث ببيانات التدريب لتقويض دقة النموذج، بالإضافة إلى هجمات حقن الأوامر (Prompt Injection) التي تستغل نماذج اللغة الكبيرة لتنفيذ أوامر خبيثة. كما حذرت الإرشادات من مخاطر تسريب بيانات التدريب أو المعلومات الحساسة التي يتعامل معها النموذج.
أهمية تحصين أنظمة الذكاء الاصطناعي من التصميم إلى التشغيل
شددت الوثيقة التنظيمية على ضرورة دمج متطلبات الأمن السيبراني في جميع مراحل دورة حياة أنظمة الذكاء الاصطناعي، بدءاً من التصميم والتطوير، ووصولاً إلى التشغيل، وانتهاءً بمرحلة التخلص الآمن من النظام. وتتطلب الإرشادات تطبيق ضوابط فنية صارمة مثل عزل شبكات المكونات الداخلية للذكاء الاصطناعي، وإجراء تقييمات دورية للثغرات، وتنفيذ اختبارات اختراق مستمرة لاكتشاف السلوكيات غير الطبيعية. كما لفتت الهيئة الانتباه إلى أهمية إجراء مسح أمني للعاملين ذوي الصلاحيات الحساسة في بيئات الذكاء الاصطناعي، وتطبيق عمليات تحقق وتطهير للبيانات قبل إدخالها لمنع تنفيذ الأوامر الخبيثة.
تستند هذه الإرشادات إلى اختصاصات الهيئة الوطنية للأمن السيبراني بصفتها المرجع الوطني في شؤون الأمن السيبراني، وتأتي لتعزيز دورها في وضع السياسات والمعايير اللازمة لدعم قدرة المملكة على الصمود في مواجهة الهجمات السيبرانية المتزايدة، مما يرسخ مكانتها كمركز تقني عالمي آمن وموثوق.
