كيفية تحديد نطاق تدقيق الذكاء الاصطناعي

يبدأ تحديد نطاق تدقيق الذكاء الاصطناعي بتعريف القرار المطلوب دعمه، والنظام ومسار العمل محل الفحص، ومعايير التقييم، والأدلة اللازمة للإجابة عن الأسئلة المتفق عليها. عبارة «دققوا نظام الذكاء الاصطناعي لدينا» تعبر عن قلق، لكنها ليست نطاقاً قابلاً للتنفيذ. ودون حدود واضحة، قد يفحص المقيّم النموذج بينما تفترض الإدارة شمول البيانات والموافقات والاتصالات الخارجية والنتائج التشغيلية.

هذا الدليل لرعاة التدقيق وقادة التقنية والمشتريات الذين يطلبون تقييماً محدد الحدود. ويستخدم مثالاً افتراضياً لمساعد يصوغ إشعارات استدعاء منتجات من مصادر معتمدة. يتعلق المثال بضبط الصياغة والإرسال، ولا يقدم إرشادات سلامة منتجات أو يقرر كفاية استدعاء فعلي. تساعد السجلات المقترحة على تحديد ما سيُختبر وما سيبقى مجهولاً ومن يملك اعتماد التغيير.

ابدأ بالقرار الذي يحتاج إلى أدلة

اسأل ما الذي سيتغير بعد التقرير. قد يكون القرار بدء تجربة مضبوطة أو إضافة لغة أو تجديد مورد أو إبقاء موافقة بشرية أو التحقيق في حادثة. لكل قرار أدلته. قد تسند مراجعة التصميم الموثق خطة تجربة، لكنها لا تثبت انتظام تشغيل الضوابط خلال فترة لم تقع بعد.

صغ سؤالين أو ثلاثة قبل اختيار الأطر والأدوات. في مثال إشعارات الاستدعاء، قد نسأل هل تحفظ المسودات المختارة المعلومات المطلوبة من المصدر المعتمد، وهل يمكن إرسال مسودة دون الموافقة اللازمة. يحتاج الأول إلى مقارنة محتوى ومصدر موثوق، ويحتاج الثاني إلى أدلة صلاحيات ومسار وتنفيذ. وصفهما معاً بأنهما «اختبار دقة» يفوّت حداً مهماً.

حدّد الجمهور وشكل التقرير. تختلف توقعات تقرير نتائج تقنية عن إبلاغ تدقيق داخلي وعن مهمة تأكيد مهني رسمية. اتفق على الشكل قبل شراء «شهادة تدقيق ذكاء اصطناعي» غامضة. صف المهمة الفعلية والاستنتاج الذي يمكن أن تسنده. لا تمثل تقييماً تقنياً كأنه شهادة أو رأي قانوني شامل بالامتثال.

حدّد صاحب القرار ومالكي الأدلة. فقد يملك الراعي الميزانية دون سلطة السماح باختبار خدمة مورد أو الوصول إلى سجلات شخصية. يجب تحديد هذه الأذونات المنفصلة. فأمر الشراء لا يحل محل التخويل التقني وتصريح الوصول إلى البيانات اللازمين للعمل المسؤول.

ارسم مسار العمل كاملاً قبل اختيار حدود الفحص

في المثال الافتراضي، حدّد مصدر الإشعار المعتمد واستخراج الوثيقة والاسترجاع وتعليمات النموذج والاستجابة وواجهة التحرير والموافقة ونظام التوزيع. بيّن أين يغيّر الإنسان النص وأين يبدأ النظام إجراءً خارجياً. لا يلزم فحص كل مكوّن بعمق، لكن يلزم فهم يكفي لمنع فجوة غير مقصودة بين المخرج المختبر والنتيجة العملية.

افصل ملكية المكوّن عن دخوله في النطاق. قد يقع نموذج طرف ثالث داخل الحدود الوظيفية رغم تعذر الاطلاع على تدريبه الداخلي. وقد يكون نظام التوزيع خارج المهمة مع تأثيره الجوهري في القرار. سجّل الأمرين. يجب أن تعني «خارج النطاق» حداً مقصوداً، لا أن المكوّن غير مهم أو خالٍ من المخاطر.

خريطة حدود توضيحية لتقييم مساعد صياغة إشعارات الاستدعاء

العنصر	المعالجة المقترحة	الدليل اللازم	الأثر غير المحسوم
المصدر المعتمد	فحص الهوية والإصدار وسلطة الاعتماد للحالات المختارة	مرجع مصدر منضبط وسجل الموافقة	لا يحدد التدقيق مستقلاً التزامات استدعاء المنتج.
الاستخراج والاسترجاع	تتبع المحتوى المقدم للنموذج	سجلات من المصدر إلى المدخل وإعدادات ذات صلة	غياب النص الوسيط يحد من تشخيص السبب.
توليد المسودة	اختبار حفظ المعلومات المطلوبة المتفق عليها	مدخلات ومخرجات محددة الإصدار وقاعدة حكم	لا تثبت الحالات المختارة صحة جميع المخرجات.
الموافقة البشرية	فحص الصلاحيات وأدلة تشغيل مختارة	أحداث الموافقة والأدوار وسجل التغييرات	عرض الشاشة لا يثبت التشغيل طوال الفترة.
التوزيع الخارجي	استبعاد الإرسال الحي وفحص أدلة مصرح بها في بيئة غير إنتاجية عند الاتفاق	بيئة اختبار وسجلات تنفيذ محددة	لا استنتاج بشأن كل نتائج التسليم الإنتاجي.

حدّد الواجهات حتى عندما يكون المكوّن المجاور مستبعداً. فقد يتحقق المقيّم من علامة «بانتظار الموافقة» ويفوته مسار تصدير آخر يسمح بالتوزيع. لا تستلزم المعالجة توسيع التدقيق إلى جميع الأنظمة تلقائياً؛ بل تقرير إدراج الواجهة أو استخدام دليل بديل أو الإفصاح عن قيد يؤثر في الاستنتاج المطلوب.

اتفق على معايير قابلة للرصد والمناقشة

تحدد المعايير معنى السلوك المقبول للمهمة. ابدأ بالالتزامات المنطبقة ومتطلبات المنشأة المعتمدة، ثم حدد معايير داخلية إضافية لحالة الاستخدام. سجّل المصدر والمالك والإصدار ومبرر الانطباق. افصل المتطلب الملزم عن الإرشاد الطوعي وعن المعيار الداخلي المقترح. لا ينبغي تصوير البنية المفضلة للمقيّم كأنها قاعدة خارجية إلزامية.

قد يتطلب معيار مثال الصياغة حفظ مراجع المنتجات وتعليمات الاتصال المطلوبة من المصدر المعتمد. حدّد كيفية الحكم على الحذف والتناقض وإعادة الصياغة المقبولة. عبارة «لا هلوسة» مبهمة ما لم تعرّف المهمة الادعاء غير المسند والمصدر الحاكم وطريقة حسم الالتباس.

ناقش حدود القبول قبل رؤية النتائج. قد تتطلب بعض الانحرافات تصعيداً فورياً، بينما يدعم غيرها تقييماً متدرجاً للجودة. تعتمد الحدود على القرار والعواقب. وكل عتبة رقمية تُضاف ينبغي وصفها كافتراض متفق عليه أو متطلب داخلي، لا نسبتها إلى جهة تنظيمية دون أساس متحقق منه. سجّل من يملك سلطة اعتمادها.

يقدم NIST SP 800-53A Rev. 5 نهجاً قابلاً للتخصيص لتقييم ضوابط الأمن والخصوصية وإعداد خطط التقييم. لا يجعل ذلك جميع إجراءاته منطبقة على كل نظام سعودي. استخدم الإرشادات الأصلية ذات الصلة مرجعاً، ثم وثّق المعايير والطرق المختارة للمهمة الفعلية مع تفسير الاختيار، لا مجرد سرد أسماء الأطر.

تحقق من إمكانية الوصول قبل الالتزام باستنتاج

افحص قابلية الحصول على الأدلة بينما ما زال النطاق قابلاً للتفاوض. هل يمكن تحديد الإصدار؟ وهل تتاح المدخلات والمخرجات الأصلية؟ وهل تسجل الموافقات؟ وهل يستطيع المقيّم اختيار الحالات مستقلاً؟ وهل تغطي مدة الاحتفاظ الفترة المقترحة؟ إن طلب استنتاج يعتمد على دليل غير متاح يخلق قيداً متوقعاً، وليس مفاجأة تُكتشف في آخر يوم.

افصل الوصول المباشر والفحص تحت الإشراف ومستخرجات المورد وإفادات الإدارة. قد يفيد كل منها، لكنها تختلف في إمكان اختبار الأصالة والاكتمال. وقد يغطي تقرير المورد منصة مشتركة ويستبعد إعدادات العميل. تساعد مراجعة أدلة المورد على تقييم العلاقة. حدّد هل يجيب البديل عن السؤال نفسه أم عن سؤال أضيق فقط.

عندما يتحكم المورد في الوصول، اتفق على التصعيد والاستنتاج البديل. يمكن لتدقيق مقيد الوصول فحص السلوك الظاهر والضوابط التعاقدية وسجلات العميل دون الادعاء بفحص الأجزاء المخفية. استخدم منهج تدقيق الأنظمة التي يتحكم المورد في أدلتها لتحديد الإجراءات الممكنة والقيود. قد تبرر السرية ترتيبات وصول مضبوطة، لكنها لا تجعل الادعاء غير المسند مقبولاً.

حدّد مالكي الأدلة ومواقعها المسموحة وطريقة النقل ومدة الوصول. قلّل المواد الشخصية والسرية إلى ما تتطلبه الإجراءات. وفي المناقشة الأولية، تناسب الأمثلة المقنّعة والأوصاف الهيكلية أكثر من تصدير إنتاجي شامل. وإذا احتاج الاختبار إلى مواد حساسة، فاستكمل التصريح وترتيبات التعامل قبل الجمع، لا عبر تداول بريد غير منضبط.

حدّد المجتمعات والإصدارات وبيئات الاختبار

عرّف المجتمع بمهام أو أحداث فعلية؛ كجميع مسودات الإشعارات المؤهلة المنشأة تحت إصدارات محددة خلال فترة معلنة. حدّد المسودات الملغاة والناقصة وغير المكتملة النتيجة. وضّح هل يتعلق التقييم بمسودة الذكاء الاصطناعي أم الإشعار المعتمد أم الرسالة الموزعة. لا يمثل عدد استدعاءات النموذج تلقائياً عدد الحالات العملية.

اختر طريقة تناسب الهدف؛ فالمعاينة الاحتمالية والتغطية المنظمة والتحديات الموجهة تجيب عن أسئلة مختلفة. لا يلزم تضمين كل حالة اختبار نهائية في النطاق، لكن يلزم تحديد الاستدلال المقصود وأساس تقدير الجهد. يجب أن يحفظ نهج المعاينة هذا الفصل، خصوصاً مع اختلاف حجم الحالات العربية والإنجليزية أو تعقيدها.

حدّد البيئات والأفعال المسموحة. قد تتيح البيئة غير الإنتاجية فحصاً أكثر أماناً، لكنها تختلف في الصلاحيات والتكامل والبيانات. سجّل الفروق وأثرها في الاستنتاج. لا يثبت اختبار بيئة تجريبية ضابطاً إنتاجياً دون دليل كافٍ على العلاقة بين البيئتين.

حدّد التعامل مع التغير أثناء العمل. قد تستلزم تعديلات التعليمات أو المصادر أو الصلاحيات أو النموذج مجموعات اختبار منفصلة أو نطاقاً معدلاً. يسهل تجميد الإصدار التفسير لكنه قد يكون غير عملي؛ وقد يناسبه إجراء للإشعار بالتغييرات. احفظ معرّفات الإصدارات وحدّد صاحب صلاحية اعتماد إعادة الاختبار والعمل الإضافي.

اكتب قواعد واضحة للاختبار النشط

يحتاج الاختبار النشط إلى تخويل صريح وأهداف وحسابات وبيئات وأساليب مسموحة. حدّد الأفعال المحظورة وحدود الحمل ذات الصلة وشروط الإيقاف ومن يستطيع تعليق الاختبار. لا ينبغي في المثال إرسال إشعارات حقيقية أو تعديل مصادر معتمدة، إلا إذا أجاز إجراء مستقل ومصرح به ذلك تحديداً. يمكن لبيانات اصطناعية أو مقنّعة فحص حدود كثيرة دون تعريض متلقين حقيقيين.

خطط للتعامل مع اكتشاف مشكلة محتملة الخطورة. حدّد الإبلاغ الفوري وحفظ الأدلة ومسؤولية الاحتواء دون إلزام المقيّم بإكمال العينة أولاً. ميّز الحدث الذي سببه الاختبار عن حادثة سابقة. سجّل ما وقع وأشرك إجراء الاستجابة للحوادث عند الحاجة. يجب أن يتيح النطاق هذا الانتقال التشغيلي قبل وقوع المشكلة.

طابق العمق التقني مع الأسئلة والكفاءة المتاحة. قد يتطلب تقييم أمن الذكاء الاصطناعي اختبارات حدود متخصصة، بينما يحتاج فحص حفظ المحتوى إلى خبرة موضوعية ولغوية. لا يحل أحدهما محل الآخر لمجرد استخدام نموذج لغوي. حدّد الكفاءات والمراجعين حتى لا تُختزل المهمة في تشغيل ماسح عام وإرفاق مخرجاته.

استخدم اتفاق نطاق صالحاً لاتخاذ القرار

حقول أصلية لاتفاق النطاق ومتطلبات تعبئتها

الحقل	ما يجب أن يثبته الإدخال
القرار والجمهور	قرار الإدارة والمتلقون وشكل التقرير.
الموضوع والحدود	الاستخدام والمكونات والواجهات واللغات والبيئات والاستبعادات.
الفترة والإصدارات	نافذة التشغيل وقطع الأدلة ومعرّفات الإصدارات ومعالجة التغيير.
المعايير	المصادر والانطباق والمعايير الداخلية المعتمدة وقواعد الحكم.
الإجراءات والاستدلال	فحص التصميم والتشغيل والمعاينة وحدود التعميم.
قابلية الحصول على الأدلة	الملاك والتوافر واستقلال الاختيار والإجراءات البديلة.
التخويل والتعامل	الأفعال والحسابات والوصول والتخزين والنقل وشروط الإيقاف.
المخرجات والمتابعة	التقرير وسجل الملاحظات وفهرس الأدلة ورد الإدارة وإعادة الاختبار.
ضبط التغيير	سلطة اعتماد تعديل النطاق وأثره في الجهد وقيود التقرير.

لا تترك حقلاً حاسماً «للتأكيد لاحقاً» مع وعد باستنتاج يعتمد عليه. يمكن تقسيم المهمة إلى مرحلة لحسم الوصول والمعايير ثم تأكيد خطة الفحص القابلة للتنفيذ. هذا ترتيب تجاري مفيد عند وجود عدم يقين حقيقي، لكن يجب تحديد مخرج المرحلة الأولى؛ كحدود مطابقة وقرار عن توافر الأدلة، لا عنوان استكشاف مفتوح.

اتفق على ملكية التسليم والوصول إليه. قد يتلقى الراعي التقرير، بينما تخضع أوراق العمل أو أدلة المورد المقيدة لشروط توزيع مختلفة. وضّح ذلك قبل العمل كي يعرف المشتري ما يمكن استخدامه في الحوكمة والمشتريات وإعادة الاختبار. لا تعد بملكية غير مقيدة لأدلة يتحكم بها طرف آخر بصورة مشروعة.

اضبط تغييرات النطاق دون إخفاء النتائج المهمة

قد تبرر الوقائع الجديدة عملاً جديداً. فإذا كان مساعد موصوف بأنه للصياغة فقط يملك قدرة إرسال غير موثقة، فقد لا تعود الحدود الأصلية كافية للاستنتاج. سجّل الاكتشاف وأهميته واقترح تعديل النطاق أو إجراءً بديلاً أو قيداً صريحاً. لا ينبغي أن تفرض الميزانية تجاهل واجهة مؤثرة، كما لا يبرر كل تفصيل تقني مثير توسيع المهمة.

استخدم سجل تغيير يصف السؤال الجديد والأدلة والجهد والمدة والتخويل وأثر التقرير. افصل نصائح التحسين الاختيارية عن العمل اللازم للإجابة عن السؤال الأصلي. يتيح ذلك قراراً واعياً ويمنع تحول التقييم إلى مشروع تنفيذ بلا حدود. احتفظ بإصدار النطاق الأصلي ليبقى تطور المهمة واضحاً.

طابق العمل المنجز مع الأهداف قبل التقرير. يجب أن يحدد سجل التغطية الأهداف المكتملة والجزئية وغير المختبرة وأسبابها. قد يكون القيد نتيجة نهائية مناسبة عند تعذر الدليل. لكن لا يجوز استبدال الهدف بإجراء أسهل مع الإبقاء على صياغة الاستنتاج الأصلية.

احسم اختلاف التوقعات قبل بدء المهمة

قد يستخدم أصحاب المصلحة الكلمات نفسها لأهداف مختلفة. تريد المشتريات دليلاً لقبول المورد، وتريد العمليات قائمة عيوب لمعالجتها، ويريد المجلس حكماً عن استمرار الاستخدام. يمكن جمع هذه الاحتياجات، لكن يجب أن يبين النطاق ما يشمله وما يتطلبه كل هدف. قد تكون مراجعة العيوب سليمة تقنياً ومع ذلك تخيب توقع المشتري إذا لم يُطلب السؤال الحوكمي أصلاً.

اختبر الاتفاق بمثال مساعد الاستدعاء. اسأل الأطراف هل يجب أن يجيب التقرير عن حفظ المعلومات المطلوبة في المسودات، أو تسجيل موافقة الإصدار، أو وصول الإشعار إلى جميع المتلقين، أو استيفاء الاستدعاء نفسه للالتزامات المنطبقة. هذه أسئلة مختلفة تحتاج أنظمة وخبرات مختلفة. قد يشمل النطاق السؤالين الأولين ويستبعد التسليم ويحيل الانطباق القانوني إلى المسؤول المؤهل. يمنع توثيق هذا التقسيم استنتاجاً شاملاً غير دقيق.

حدّد أيضاً الفصل بين التقييم ونصيحة التنفيذ. يمكن للمقيّم شرح فجوة الضابط والنتيجة المطلوبة من التصحيح. أما تصميم البديل ونشره فعمل إضافي بمسؤوليات مختلفة واحتمال تعارض عند مراجعة العمل نفسه لاحقاً. إذا كانتا خدمتين متوقعتين، فوضح ترتيب المراجعة اللاحقة. لا تسمح لتوصية تبدو صغيرة بأن تتحول ضمناً إلى مسؤولية تشغيل نظام العميل.

أكد شروط قبول تسليم التدقيق نفسه. قد يتطلب الاكتمال تنفيذ الإجراءات المتفق عليها وملاحظات قابلة للتتبع ومطابقة التغطية ومناقشة الإدارة، لكنه لا ينبغي أن يعتمد على نتيجة إيجابية للنظام. يجب أن يمكن قبول تقرير جيد الإسناد يكشف مشكلات خطيرة أو نقص أدلة. ربط الدفع أو القبول بالحصول على «نجاح» يخلق توقعاً يناقض التقييم المستند إلى الأدلة.

راجع قابلية تنفيذ النطاق من منظور كل لغة وواجهة مشمولة. لا يكفي إدراج العربية في عنوان المهمة إذا لم تتوافر مصادرها أو مراجعة مؤهلة لمعناها. ولا يكفي إدراج واجهة إرسال إذا اقتصر التصريح على مشاهدة شاشة إعدادها. سجّل الإجراء الممكن فعلاً وما يستلزمه من حسابات ومصادر وقرارات. إذا لم تتطابق الوسيلة المتاحة مع السؤال، فغيّر الوسيلة أو ضيّق السؤال أو أظهر القيد. بهذه الطريقة يصبح اتفاق النطاق التزاماً بعمل قابل للتنفيذ، لا قائمة توقعات يتعذر الوفاء بها بعد بدء المهمة. ويجب أن يظهر أي تغيير في هذا الاتفاق قبل الاعتماد على نتيجته في قرار توسع أو قبول مورد.

ما الذي تجهزه لمناقشة النطاق؟

جهّز وصفاً موجزاً للعملية والقرار وقائمة المكونات والواجهات والإصدارات واللغات والأحجام التقريبية وملخص توافر الأدلة. أدرج القيود والتغييرات المعروفة بدلاً من تقديم صورة مثالية للتوثيق. تساعد قائمة فجوات صادقة على تحديد العمل الممكن. قنّع الأمثلة ولا ترسل بيانات اعتماد أو سجلات شخصية في الطلب الأولي.

اطلب شرح ما يثبته كل إجراء وما لا يثبته والدليل الذي يغير حدوده. واستوضح كفاءة المراجعة والتخويل والتعامل والإبلاغ والمتابعة. هذه الإجابات أنفع من قائمة طويلة بأسماء الأطر. يجب أن يجعل نهج أوراق العمل الاستدلال قابلاً للمراجعة، لا أن ينتج تقريراً جذاباً فقط.

تمثل خدمة OpenForAI لتدقيق الذكاء الاصطناعي نقطة بدء لتقييم تقني محدد يستند إلى الأدلة. ويتوقف النطاق على المسار الفعلي والأدلة والقرار. ناقش حدود تدقيق نظامك واحتياجاته من الأدلة.