تدقيق الذكاء الاصطناعي في ضوء الضوابط الأساسية للأمن السيبراني

يُفترض أن يوضح تدقيق نظام ذكاء اصطناعي في ضوء الضوابط الأساسية للأمن السيبراني ما إذا كانت الضوابط ذات الصلة بالخدمة المحددة مطبقة وتعمل فعلياً. ويتطلب ذلك تحديد الجهة الخاضعة للتدقيق، والضوابط المنطبقة، وحدود النظام، والأدلة التي يستند إليها كل استنتاج. لا تكفي قائمة بمخاطر النموذج، كما لا تبيّن شهادة المورد وحدها إعدادات العميل التي فُحصت أو صلاحيات الموصلات والعمليات الإدارية التي شملها الاختبار.

هذا الدليل موجه إلى مسؤولي الأمن السيبراني وفرق التدقيق الداخلي ومالكي الأنظمة في السعودية. ويستخدم مثالاً افتراضياً لمساعد معرفة داخلي للدعم التقني، لشرح تحويل موضوع رقابي واسع إلى اختبار يمكن الدفاع عن نتيجته. الإجراءات المقترحة أمثلة أصلية لتصميم التدقيق، وليست قائمة رسمية صادرة عن الهيئة الوطنية للأمن السيبراني، ولا تحل محل تقييم الجهة لانطباق المتطلبات عليها.

حدد الجهة والمتطلبات التي يشملها النطاق

تشمل الضوابط الأساسية للأمن السيبراني ECC-2:2024 الجهات الحكومية السعودية والجهات التابعة لها، والجهات الخاصة التي تملك بنى تحتية وطنية حساسة أو تشغّلها أو تستضيفها. وتشجع الهيئة الجهات الأخرى على الاستفادة منها. ويتناول المجال الفرعي 1-8 المراجعة والتدقيق المستقل للأمن السيبراني؛ ولا يعني ذلك خضوع كل منشأة خاصة لالتزامات متطابقة.

ابدأ بمذكرة موجزة لانطباق المتطلبات، تعتمدها الوظائف المسؤولة عن الأمن السيبراني والالتزام. دوّن صفة الجهة، والخدمات والأصول المشمولة، ومصدر كل متطلب وإصداره، وأسباب الاستبعاد. إذا امتدت الخدمة إلى شركات تابعة، فلا تفترض أن استنتاج الشركة الأم يصف وضع كل شركة تلقائياً. كذلك لا تُخرج مكوناً من خريطة النظام لمجرد أن مورداً خارجياً يشغّله أو أن فريقه يعمل في موقع آخر.

افصل بين ثلاثة أسئلة: هل تخضع الجهة للمتطلب؟ وهل ينطبق الضابط المحدد على هذه التقنية والخدمة؟ وهل طُبق الضابط بفاعلية؟ لا تقدم إجابة السؤال الأول دليلاً على الثالث. وقد تحتاج خدمة سحابية لم تدخل التشغيل بعد إلى مراجعة قبل استخدامها. أما الموصل التجريبي الموصوف بأنه غير نشط، فينبغي التحقق من حساباته وإمكانية الوصول إليه، بدلاً من الاكتفاء بالاسم الذي أطلق عليه.

اطلب من المالك المسؤول حسم الغموض قبل حساب أي نسبة للالتزام. تصنيف بند غير واضح على أنه غير منطبق يرفع النتيجة ظاهرياً. يجب أن يكون لكل مسألة انطباق غير محسومة مسؤول وموعد معالجة وبيان لأثرها على استنتاج التدقيق. ويساعد ذلك أيضاً على منع المقيم التقني من اتخاذ تفسير نظامي خارج حدود تكليفه دون توضيح.

ارسم الحدود الأمنية للخدمة كاملة

في المثال الافتراضي، يسأل الموظفون المساعد عن إجراءات الدعم التقني المعتمدة. يسترجع التطبيق مقالات معرفية، ويرسل المقاطع المختارة إلى النموذج، ثم يعرض الإجابة. تشمل الحدود هوية الموظف والجلسة وفهرس الاسترجاع ومستودع المصدر وواجهة النموذج ومسار السجلات ولوحة الإدارة ووصول فريق دعم المورد. ولا يملك المساعد صلاحية إعادة تعيين كلمات المرور أو تعديل حقوق الوصول. يُسجل هذا القيد معياراً صريحاً للتدقيق، بدلاً من استنتاجه من شكل الواجهة الحالية.

تميّز خريطة الحدود المفيدة بين حركة البيانات وسلطة تنفيذ الأفعال. قد يقرأ موصل البحث وثائق كثيرة، بينما يُسمح للمستخدم بعرض مجموعة محدودة منها. وقد ينتج النموذج أمراً مقترحاً، في حين تملك خدمة أخرى صلاحية تنفيذه. وربما تستقبل منصة المراقبة محتوى المحادثة، رغم أن تطبيق الأعمال لا يحتفظ إلا بمعرف التفاعل. يحتاج المراجع إلى هذه الفروق لاختيار نقطة فرض الضابط، وعدم اختبار طبقة لا تجيب عن السؤال المقصود.

سجّل الإصدارات المنشورة ولقطات الإعدادات الفعلية. لا يثبت نجاح عرض تجريبي بفهرس جديد ما حدث عندما كان فهرس الشهر الماضي يحتوي مقالة مقيدة. حدّد حساب كل موصل، والبيئة، والأدوات المفعلة، ومسارات الشبكة ذات الصلة، ومجموعات المسؤولين. وعند مشاركة البنية التحتية، وضّح الضوابط الموروثة من المنصة والضوابط التي تبقى مسؤولية فريق التطبيق.

استعن بمقابلة مالك الأصل لاكتشاف الحدود، ثم تحقق مما ورد فيها باستخدام إعدادات وسجلات يمكن الاطلاع عليها دون تعديل. تفسر المقابلة النية، لكنها لا تثبت غياب صلاحية معينة. وبالنسبة إلى المكون الذي يديره المورد، دوّن الأدلة المتاحة وغير المتاحة بدقة. ينبغي تحديد نطاق خدمة تدقيق الذكاء الاصطناعي وفق شروط الوصول هذه قبل الوعد باستنتاج تقني شامل.

حوّل موضوعات الضوابط إلى أدلة واختبارات

تقترح المصفوفة التالية طريقة لفحص المساعد في هذا المثال. وهي تربط موضوعات أمنية معروفة بأصول خاصة بخدمة الذكاء الاصطناعي، دون إنشاء مجموعة متطلبات تنظيمية جديدة. تحتفظ الجهة في ورقة عمل منفصلة بالربط المرجعي مع أحكام الضوابط التي اختارتها، ونص المتطلب المعتمد، ومبرر انطباقه.

ربط افتراضي بين موضوع الضابط واختباره في مساعد معرفة تقني

موضوع الضابط	الأدلة المطلوبة	إجراء التدقيق المقترح	حدود الاستنتاج
الهوية والوصول	تعريفات الأدوار وهوية الموصل وصلاحيات المستودع الحالية	مقارنة استرجاع مستخدم عادي ومستخدم اختباري بصلاحيات مرتفعة باستخدام مقالات مصطنعة	حجب الإجابة وحده لا يثبت أن النص المقيد لم يصل إلى النموذج
حماية البيانات	جرد تدفقات المحتوى وإعدادات الإخفاء وتكوين السجلات	تتبع قيمة اختبارية مميزة وغير حساسة عبر مسار المعالجة المسموح	غياب القيمة من سجل واحد لا يثبت غيابها من جميع أنظمة المورد
ضبط التغييرات	سجل الإصدار المعتمد ومعرف بناء الفهرس ودليل النشر	مطابقة إعدادات منشورة مختارة مع التغييرات المصرح بها	إغلاق طلب التغيير لا يثبت الإصدار الذي كان يعمل فعلياً
المراقبة والاستجابة	قواعد التنبيه وعينات الأحداث وتحديد مسؤول الحادثة	مشاهدة تنبيه اختباري مصرح به وتتبع استلامه والتعامل معه	إنشاء الحدث يختلف عن وصول التنبيه إلى الفريق المسؤول
ترتيبات الأطراف الخارجية	نطاق الخدمة وصلاحيات الدعم وشروط الاطلاع على الأدلة	التحقق من تغطية أدلة المورد للخدمة المشتراة والفترة المعنية	تأكيدات المورد العامة لا تعالج كل فجوة في إعدادات العميل

حوّل كل صف إلى ورقة عمل أو أكثر، مع معيار محدد ومجتمع فحص وخطوات ونتيجة متوقعة. تجنب جمع عدة ضوابط في خانة نجاح واحدة. فقد يفرض المساعد مصادقة الموظف، لكنه يكشف وثائق قسم آخر. وقد يكون الإصدار معتمداً فيما تكون قاعدة مراقبته معطلة. يحافظ فصل النتائج على المعلومات اللازمة لاختيار المعالجة المناسبة لكل خلل.

اختبار عملي: هل يصل تغيير الصلاحية إلى الاسترجاع؟

افترض وجود مقالة مصطنعة تصف إجراء دعم وهمياً وتحتوي علامة اختبار غير حساسة. تكون المقالة متاحة أولاً لمجموعة دعم عامة، ثم ينقلها مسؤول مخول إلى مجموعة اختبار مقيدة. يسأل التدقيق هنا عما إذا كان المساعد يحترم تغير الصلاحية في مسار الاسترجاع خلال المدة التي حددتها الجهة في قاعدة المزامنة المعتمدة. لا يستخدم الاختبار وثائق سرية حقيقية أو حسابات لم يصرح باستخدامها.

1. سجّل صلاحية المصدر ودور المستخدم وإصدار الفهرس وتوقع المزامنة المعتمد قبل التغيير.
2. تحقق من قدرة المستخدم الاختباري العادي على استرجاع المقالة أثناء إتاحتها المقصودة.
3. نفّذ تغيير الصلاحية المصرح به وسجّل وقت تأكيد نظام المصدر له.
4. كرر الاستعلامات المسموحة قبل موعد التحديث المتوقع وبعده، وسجّل نتائج الاسترجاع منفصلة عن الإجابات المولدة.
5. افحص أدلة التطبيق المسموح بها لمعرفة هل دخل النص المقيد في سياق النموذج، أو ظهر في الإجابة، أو احتُفظ به في سجل متاح للتدقيق.
6. كرر الفحص بجلسة جديدة وأخرى كانت نشطة، ووثّق أي اختلاف مرتبط بالتخزين المؤقت.

قد تكون النتيجة أكثر دقة من إفصاح ظاهر. ربما ترفض الإجابة عرض الإجراء، بينما يكون المقطع المقيد موجوداً في سياق النموذج. هذه قرينة على عمل ضابط الإجابة، وليست دليلاً على نجاح حدود الاسترجاع. وفي الاتجاه الآخر، لا يثبت خلو نتائج البحث فرض الصلاحيات إذا كان موصل الاختبار معطلاً أصلاً. تساعد خطوة التحقق الإيجابي الثانية على التمييز بين هذين التفسيرين.

قيّم التوقيت وفق قاعدة الجهة المعتمدة، ولا تخترع مهلة مزامنة عامة منسوبة إلى الهيئة. إذا لم تحدد الجهة أقصى تأخير مسموحاً أو قيداً تعويضياً، فسجّل فجوة التصميم وآثارها. وإذا اشترطت السياسة سحب الصلاحية فوراً بينما تُحدّث البنية الصلاحيات دورياً، فيجب حل التعارض صراحة. تعديل صياغة السياسة بعد ظهور الإخفاق لا يغير النتيجة الأصلية بأثر رجعي.

هذا الإجراء مثال محدود على اختبار الحدود الأمنية للذكاء الاصطناعي. وقد تشمل مهمة أوسع فحوصاً مصرحاً بها للوصول الإداري أو قيود الشبكة أو صلاحيات الأدوات. يحتاج كل توسع إلى هدف وظروف اختبار آمنة وقاعدة إيقاف مستقلة؛ ولا يسمح اختبار الاسترجاع الأول بإجراء اختبار اختراق غير محدود.

افحص التشغيل عبر الزمن، وليس إعدادات اليوم فقط

قد تثبت لقطة الشاشة الحالية ما ظهر في الإعداد عند التقاطها، لكنها لا تثبت استمرار تفعيله طوال فترة المراجعة. لتقييم فاعلية التشغيل، اطلب مجتمعاً مناسباً من الإصدارات أو تغييرات الحسابات أو مراجعات الوصول أو الأحداث الأمنية. طابق اكتماله مع سجل مستقل حيثما أمكن، واشرح الفترات التي لا تتوافر عنها سجلات موثوقة.

مثلاً، حددت مراجعة افتراضية 18 إصداراً إنتاجياً خلال الربع المتفق عليه. اختار المقيم ستة إصدارات وفق خصائص مخاطر محددة، منها تغيير موصل وتغيير واجهة النموذج. إذا غاب دليل المراجعة المطلوبة عن إصدارين مختارين، فلتكن النتيجة استثناءين بين ستة إصدارات فُحصت. ولأن الاختيار استهدف المخاطر، لا يجوز عرض هذه النسبة بوصفها معدل الإخفاق في جميع الإصدارات أو لدى جميع الجهات.

ابحث عما إذا كان غياب الدليل يعني عدم تنفيذ الضابط، أو تعذر الوصول إلى السجل، أو حفظه في موضع معتمد آخر. تقود هذه التفسيرات إلى نتائج مختلفة. قول المهندس إنه يتذكر الموافقة قد يوجه الاستفسار، لكنه لا يعوض السجل المفقود تلقائياً. إذا تعذر الحصول على قرينة مستقلة، فأبقِ القيد واضحاً بدلاً من تحويل عدم اليقين إلى نجاح.

إذا تغيرت الخدمة جوهرياً أثناء الفترة، فقسّم الاستنتاج حسب الإصدار أو المدة. قد يكون مناسباً بيان أن إعداد الاسترجاع القديم أخفق، وأن الإعداد المصحح اجتاز اختبارات إعادة محددة. جمع الحالتين في حالة خضراء واحدة يخفي التعرض السابق، ويبالغ في طول الفترة التي لوحظ خلالها عمل الضابط الجديد.

وضّح الاستقلالية وآلية التعامل مع الأدلة

حدد من صمم الضابط، ومن يشغله، ومن يختار العينة، ومن يوقع الاستنتاج. قد يضيف من ساهم في بناء النظام معرفة تقنية مهمة، لكن تهديد مراجعة العمل الذاتي يحتاج معالجة تناسب المهمة. وقد يستلزم ذلك فصل مراجعة الجاهزية عن الاختبار المستقل، أو تغيير المراجعين، أو الاستعانة بجهة أخرى. يشرح دليل استقلالية تدقيق الذكاء الاصطناعي وتعارض المصالح كيفية اتخاذ هذا القرار.

اتفق على شروط الوصول قبل جمع الأدلة. قد يقلل الاطلاع دون تعديل، والجلسات بحضور مراقب، والصادرات المقيدة، والعينات المخفية الهوية من التعرض غير الضروري، لكنها قد تحد أيضاً من إمكانية إعادة تنفيذ الفحص. دوّن الوسيلة المستخدمة ومن تحكم في اختيار الأدلة. يجب وصف العرض الذي اختار المورد حالاته بهذه الصفة، لا بوصفه عينة إنتاجية اختارها المقيم.

قد تتضمن ملفات التدقيق بيانات شخصية وتفاصيل بنية وإعدادات أمنية حساسة. حدد مستودعاً مصرحاً به، ومالكي صلاحيات الوصول، ووسيلة النقل، وقرار الاحتفاظ. احفظ أقل قدر يكفي لإثبات النتيجة مع السياق اللازم لمراجعتها. يتناول التعامل مع أدلة تدقيق الذكاء الاصطناعي والتدقيق في ضوء نظام حماية البيانات الشخصية جانبين مختلفين من هذه المسؤولية؛ ولا يحسم استيفاء أحدهما الآخر ضمناً.

طابق جرد المكونات قبل الاعتماد على الضوابط المشتركة

قد تضعف فجوة الجرد برنامج اختبار أُعد بعناية. في المثال، يقدم مالك التقنية مخططاً معتمداً يبين واجهة واحدة للنموذج، بينما تكشف مراجعة سجلات النشر المسموح بها عن واجهة ثانية تستخدم عند التحول إلى المسار البديل. يجب أولاً إثبات ما إذا كان هذا المسار يستطيع معالجة طلبات الخدمة المشمولة. وجود عنوان قديم في الإعدادات مؤشر يستحق البحث، وليس دليلاً على نقل حالي للبيانات. وفي المقابل، لا يجوز تجاهل مسار أغفله المخطط إذا أظهرت أدلة التنفيذ الحالية استخدامه.

طابق ثلاث صور: المكونات التي أعلنها مالك الخدمة، والمكونات المهيأة التي تظهر ضمن الوصول المصرح به، والمكونات التي تثبتها سجلات النشاط المختارة. فسّر الاختلافات بالرجوع إلى الإصدارات والبيئات والزمن. قد تكون واجهة خاصة بالتطوير خارج مراجعة الإنتاج، لكن يلزم دعم الفصل بينهما بالأدلة. وقد تخدم بوابة مشتركة تطبيقات متعددة؛ احصل على ما يكفي لنسبة النشاط إلى تطبيقه الصحيح، فلا تستخدم نشاط تطبيق آخر دليلاً على هذا المساعد.

أنشئ بعد ذلك سجلاً لكل ضابط تستفيد منه الخدمة عبر مكون مشترك. حدد الجهة التي توفره، والخدمة التي يغطيها، وتاريخ الدليل، والإجراء الذي يجب على العميل تنفيذه حتى يعمل الضابط. تستطيع منصة الهوية المركزية مصادقة الشخص، فيما تبقى مسؤولية اختيار الوثائق المسموح له باسترجاعها على التطبيق. وقد تحفظ النسخة الاحتياطية المركزية البنية دون صلاحيات المصدر اللازمة لإعادة بناء اختبار تاريخي موثوق. يجب أن تتلاقى المسؤوليات المشتركة والمحلية عند حدود موثقة.

عندما يتغير ضابط مشترك، حدد الاستنتاجات التي تحتاج إعادة نظر. قد يؤثر استبدال مزود الهوية على افتراضات التخويل في عدة موصلات، بينما لا يؤثر تعديل عنوان تجميلي في الواجهة عادةً بالطريقة نفسها. اتخذ قرار أثر موثقاً، بدلاً من تكرار جميع الاختبارات تلقائياً أو إبقاء التقرير القديم صالحاً بلا نهاية. حدد الدليل السابق والمكون الذي تغير والعمل الإضافي اللازم لاستنتاج حالي.

وأخيراً، طابق الأعداد دون مساواتها بالتأكيد على الفاعلية. وجود 12 مكوناً في الجرد و12 مجلداً للأدلة لا يثبت اكتمال التغطية إلا إذا احتوت المجلدات الأدلة ذات الصلة، ولا يثبت فاعلية 12 ضابطاً. اعرض تقييم اكتمال الجرد منفصلاً عن نتائج الضوابط، حتى تميز الإدارة بين أصل مجهول وسجل مفقود وإخفاق لوحظ فعلياً.

اكتب نتائج تقود إلى إجراء تصحيحي قابل للتحقق

يمكن صياغة نتيجة افتراضية هكذا: «في إعداد المساعد الذي اختُبر، لم يؤد تغيير صلاحية مستودع المصدر إلى إزالة مقالة اختبار مقيدة من سياق النموذج بعد انقضاء نافذة التحديث المعتمدة لدى الجهة. حجبت إجابة التطبيق نص المقالة، لكن أدلة الاسترجاع أظهرت عدم فرض حدود الوصول إلى المصدر كما هو محدد». تصف هذه الصياغة الملاحظة دون الادعاء بوقوع تسرب فعلي لبيانات سرية.

اربط النتيجة بالمعيار ومعرف الاختبار والأوقات والإعدادات ذات الصلة. واشرح الأثر باعتباره تعرضاً مستنداً إلى تحليل: قد يُرسل محتوى مقيد إلى معالج لاحق رغم قيد المصدر. أبقِ السبب افتراضياً إلى أن يُبحث؛ فالفهرس القديم، وحساب الموصل المشترك، والتخزين الخاطئ لقرار صلاحية المستخدم قد تنتج أعراضاً متشابهة، لكنها تحتاج تصحيحات مختلفة.

تحدد خطة المعالجة المفيدة تعديل فرض الضابط، والمسؤول عنه، والدليل الذي سيبرهن فاعليته. كما تتناول الفترة السابقة للتصحيح، وما إذا كانت الوظيفة المتأثرة تحتاج تقييداً. لا يكفي إغلاق التذكرة بعد نشر الشفرة إذا كان الخلل متعلقاً بالسلوك التشغيلي. ينبغي أن يعيد اختبار التدقيق بعد المعالجة الحالة التي أخفقت، ويضيف تنويعات مناسبة، ويتحقق من استمرار الوصول المشروع.

قد تقبل الإدارة خطراً متبقياً ضمن صلاحيتها، لكن يجب أن يظل ذلك منفصلاً عن اجتياز الاختبار. ولا يحوّل قبول الخطر متطلباً نظامياً منطبقاً إلى خيار. احتفظ في التقرير بالقيود المفتوحة، وصلاحية من قبل الخطر، والحدث الذي يستدعي إعادة النظر، بدلاً من معاملة كل بند أُغلق إدارياً على أنه عولج تقنياً.

جهز تقريراً يمكن تتبع استنتاجاته

ينبغي أن يستطيع المراجع الانتقال من قرار الانطباق إلى النظام المفحوص والأدلة المختارة والنتائج والاستنتاج، دون الاعتماد على ذاكرة المقيم. أدرج سجل المعايير وبيان النطاق وفهرس الأدلة ومبرر العينة والنتائج وحالة المعالجة. وقدّم شرحاً تنفيذياً موجزاً لما تغير في فهم الجهة لتعرضها للمخاطر، إلى جانب التفاصيل التي يحتاجها مالكو الضوابط للعمل.

اعرض الاستبعادات بوضوح. إذا تعذر الوصول إلى بنية المورد أو سياق النموذج التاريخي أو موصل إنتاجي، فحدد الأسئلة التي تأثرت بذلك. لا تدفن القيد في ملحق ثم تصف المنصة كاملة بأنها ملتزمة على غلاف التقرير. وفي المقابل، لا تحوّل استثناءً محدوداً ومفهوماً إلى ادعاء بإخفاق الجهة كلها في جميع التزاماتها الأمنية.

قبل التكليف، جهّز جرد النظام ومذكرة الانطباق والتغييرات الحديثة وحدود المورد وعينة مخفية البيانات من الأدلة المتاحة. يساعد تحديد نطاق تدقيق الذكاء الاصطناعي على تحويلها إلى مهمة قابلة للتنفيذ. اطلب مناقشة نطاق تدقيق نظام ذكاء اصطناعي مرتبط بضوابط الهيئة للاتفاق على أهداف الضوابط والاختبارات المصرح بها وجمهور التقرير. المطلوب استنتاج مسند وحدود واضحة وإجراءات عملية، وليس شارة التزام عامة.