خدمات تدقيق الذكاء الاصطناعي

لا تسأل هل يبدو نظامك مقنعاً. اسأل ماذا تثبت الأدلة.

يقول المورّد إن النظام دقيق. ويقول الفريق إن الإنسان يوافق على الإجراءات المهمة. وتنص السياسة على بقاء المعلومات المقيّدة محمية. قبل أن تسند هذه الادعاءات قراراً تجارياً، يجب تحديد ما اختُبر، وأي إعداد خضع للاختبار، وهل تعمل الضوابط في الظروف المهمة فعلاً.

تقدّم Open for AI خدمات تدقيق الذكاء الاصطناعي وتقييم الضمان التقني في السعودية. نفحص أنظمة وأدلة وضوابط تشغيلية مختارة وفق أساس تقييم متفق عليه، ثم نرفع نتائج تستطيع فرق الأعمال والهندسة التعامل معها. والمخرج بيان محدد لما تدعمه الأدلة، وما أخفق، وما تعذّر التحقق منه، وما ينبغي فعله لاحقاً.

هذا تقييم للنظام تقوده الأدلة، وليس إعلاناً شاملاً بأن منتج الذكاء الاصطناعي آمن أو خالٍ من التحيز أو متوافق مع جميع الأنظمة.

ابدأ بالقرار الذي سيخدمه التدقيق

يختلف تدقيق ما قبل الإطلاق عن مراجعة ما بعد الحادث. وقد يحتاج تقييم الشراء إلى اختبار ادعاءات المورّد، بينما تحتاج المراجعة الدورية إلى إثبات استمرار تشغيل الضوابط المعتمدة. أما نقاش مجلس الإدارة فقد يحتاج إلى تفسير واضح للتعرض للمخاطر غير المحسوم.

نتفق على القرار أولاً، ثم نحدّد حدود النظام، والاستخدام المقصود، والإصدار، والبيئة، والمصادر، والأدوات، والمستخدمين، والفترة ذات الصلة. النموذج المستضاف مكوّن واحد فقط؛ فالاسترجاع وقواعد التطبيق والصلاحيات والمراجعة البشرية والتنفيذ اللاحق يمكن أن تغيّر النتيجة.

كما تحدّد وثيقة الارتباط معايير التقييم، والوصول المتاح، ومنهج اختيار العينة، وصلاحية الاختبار، والجمهور المستهدف بالتقرير. ويصبح التكامل غير المتاح أو سجل الإنتاج المفقود قيداً ظاهراً، لا نتيجة نجاح ضمنية.

الأسئلة التي يمكننا اختبارها

أسئلة التدقيق والأدلة اللازمة للإجابة عنها

السؤال	الأدلة المفحوصة	التمييز اللازم في الاستنتاج
هل ينجز المهمة المقصودة؟	حالات تمثيلية، وإجابات مرجعية، ومعايير المراجعين، ونتائج ملحوظة	طلاقة النموذج مقابل الإكمال الصحيح لمهمة العمل
هل يرى المعلومات المسموحة فقط؟	الهويات، وصلاحيات المصادر، ونتائج الاسترجاع، واختبارات رفض الوصول	قاعدة وصول موثّقة مقابل حدّ مُنفّذ فعلياً
هل تُعتمد الإجراءات ذات الأثر؟	سجلات الموافقة، وطلبات الأدوات، وضوابط التنفيذ، وسجلات الوجهة	شاشة تأكيد مقابل موافقة مرتبطة بالإجراء المحدد
هل يستطيع الفريق التحقيق في إخفاق؟	مراجع الإصدارات، والسجلات، ونطاق التتبع، والاحتفاظ، وصلاحيات الوصول	لوحة متاحة مقابل أدلة كافية للتحقيق
هل تعالج التصحيحات الملاحظة؟	الضوابط المعدّلة، وإعادة الاختبار، والحالات الرجعية المناسبة	قبول التوصية مقابل معالجة جرى التحقق منها

قد يشمل التدقيق تطبيقات الذكاء الاصطناعي التوليدي، والمساعدات المعتمدة على الاسترجاع، والوكلاء المستخدمين للأدوات، والأنظمة التنبؤية. وتختلف الأساليب: في النموذج التنبؤي قد تكون سلامة فصل البيانات والعتبات والأداء للفئات ذات الصلة أساسية؛ وفي الوكيل قد تكون صلاحية الأداة ونتيجة التنفيذ والتعافي حاسمة. ولا نفرض قائمة فحص روبوت محادثة واحدة على كل نظام.

يجب أن تربط الملاحظة بين ادعاء وحالة مرصودة

تأمل هذه الملاحظة التوضيحية، التي لا تمثّل نتيجة مشروع عميل. يدّعي مسؤول النظام أن مستخدم وحدة أعمال لا يستطيع استرجاع مستندات وحدة أخرى. لكن مستند اختبار مقيّداً يظهر في إجابته أثناء اختبار مصرح به.

تسجّل الملاحظة المفيدة الحد المتوقع، وهوية الاختبار، والإعداد، وصلاحيات المستند، والاسترجاع الذي لوحظ، وأدلة منقّحة، وشروط إعادة التجربة. وتشرح الأثر المحتمل دون عرض المحتوى المقيّد في تقرير واسع التوزيع.

تعالج التوصية حدود التفويض ومسارات الاسترجاع المتأثرة. وتشمل إعادة الاختبار الحالة الأصلية، وحالة وصول مسموحة، وحالات مجاورة مثل صلاحية سُحبت حديثاً. ولا تثبت تعليمات أقوى للنموذج وحدها أن حدّ الاسترجاع أصبح منفّذاً.

تُحدّد الخطورة وفق معايير متفق عليها للأثر والتعرض. ونميّز بين إخفاق مرصود، وخطر أوسع مستنتج، واحتمال لم يُختبر. وبذلك تستطيع الإدارة تقرير الاحتواء والمعالجة بناءً على فهم واضح للأدلة.

أربع طبقات للفحص تُختار وفق نظامك

١. الأداء وسلامة منهج التقييم

نفحص تعريف النجاح، وتجميع الحالات، واختيار حدود القبول. ونبحث عن تداخل أمثلة التطوير مع التقييم، وغموض الإجابات المرجعية، والاستبعادات غير المعلنة، والمقاييس التي تخفي اختلافات جوهرية بين النتائج.

عندما تتغير مخرجات النظام، قد تحتاج حالات مختارة إلى تكرار التشغيل وشرح التفاوت المرصود. وفي المقيم الآلي، نفحص المعايير ومعايرتها مقابل المراجعة البشرية. درجته دليل صادر عن عملية قياس أخرى، وليست حقيقة مرجعية لا تقبل النقاش.

إذا كانت العربية والإنجليزية ضمن النطاق، يشملهما التقييم. ويمكن فحص اللهجات ذات الصلة، والمعرّفات المختلطة لغوياً، وترجمة الشروط التجارية، والتصعيد الخاص باللغة. وتُعرض التغطية وفق المهمة واللغة المختبرتين بدلاً من إخفائها داخل رقم عام واحد.

٢. حدود الأمن والبيانات

نراجع سطح الهجوم ذي الصلة، ونجري اختبارات مصرحاً بها لمسائل مثل التعليمات غير الموثوقة، وانكشاف المعلومات، والصلاحيات المفرطة، وإساءة استخدام الأدوات. وتمثّل قائمة OWASP لأهم مخاطر التطبيقات الوكيلة مرجعاً لتنظيم الأسئلة الأمنية الخاصة بالوكلاء، لا النطاق الكامل لتدقيق الذكاء الاصطناعي.

تُنفّذ الاختبارات وفق قواعد ارتباط متفق عليها وحدود صريحة للبيئات والبيانات والإجراءات والأطراف الثالثة. ونفضّل بيانات اصطناعية أو معتمدة، وإجراءات محدودة، وبيئات قابلة للاستعادة. ولا نفترض وجود إذن لاختبار بنية المورّد أو لتنفيذ إجراءات مؤثرة في الإنتاج.

٣. الرقابة البشرية والضوابط التشغيلية

نتتبع المسار من الإجراء المقترح إلى اعتماده ونتيجته المرصودة. هل يرى المراجع الأدلة المناسبة؟ هل ترتبط الموافقة بالمستلم أو المبلغ أو المحتوى أو السجل الفعلي؟ هل يستطيع تغيير لاحق تجاوزها؟ وماذا يحدث إذا لم يتوفر المراجع؟

ونفحص المراقبة وملكية الحوادث والإيقاف الآمن والتراجع والتعامل مع تكرار الإجراءات حيث يلزم. ويُقيّم تصميم الضابط بصورة منفصلة عن أدلة تشغيله خلال الفترة المحددة. عرض ناجح واحد لا يثبت تشغيله دون انقطاع.

٤. الحوكمة وأدلة المورّدين

نقيّم مسؤوليات وموافقات وقرارات مخاطر وسجلات تغيير وادعاءات مورّدين مختارة مقابل المعايير المتفق عليها. وتُفحص صلة الوثائق بالنظام المنشور فعلاً، لا مجرد وجودها.

تدعم إرشادات القياس ضمن NIST AI RMF القياس الملائم للسياق وتوثيق المخاطر التي لا يمكن قياسها. ونلتزم بهذا التمييز عند عرض التغطية: مختبر، وغير مختبر، وغير حاسم، وغير مسنود نتائج مختلفة.

يحدّد الوصول قوة الاستنتاج الممكن

قد تكشف مراجعة الوثائق فجوات في الضوابط المعلنة والأدلة المقدمة، لكنها لا تثبت عمل فحوص وقت التشغيل التي لا يمكن الوصول إليها. وقد تكشف اختبارات الواجهة إخفاقاً سلوكياً دون إظهار سببه. أما الوصول إلى الشيفرة والإعدادات والسجلات التشغيلية فقد يدعم تحقيقاً أعمق، وفق نطاق المواد واكتمالها.

نتفق على نموذج الوصول قبل تسعير العمل. وفي التطبيق الذي يتحكم فيه المورّد، قد يجمع الارتباط بين السلوك المرصود والإعدادات المتاحة وأدلة المورّد. ويسمّي التقرير الضوابط غير المتاحة والضمان الإضافي الذي يحتاج إلى مشاركة المورّد.

كما نتفق على التعامل مع الأدلة: صلاحية الجمع، والتنقيح، والتخزين، والوصول، والاحتفاظ، والإتلاف. فلا ينبغي أن ينشئ التدقيق مستودعاً جديداً غير منضبط للمحادثات الحساسة أو بيانات الاعتماد أو سجلات الأعمال.

تقرير يدعم القرار والتصحيح

يشرح التقرير التنفيذي غرض التقييم وحدوده المختبرة وأبرز النتائج والقيود والقرارات اللازمة. ولا يقدّم «درجة ذكاء اصطناعي» واحدة بديلاً عن فهم التعرض الفعلي.

يتضمن سجل الملاحظات التقنية المعيار والحالة المرصودة ومرجع الدليل والمكوّن المتأثر والعاقبة ومبرر الخطورة والإجراء المقترح وطريقة إعادة الاختبار. وتحدّد خطة المعالجة المسؤولين والأولويات. وعندما تحتاج مشكلة محتملة إلى وصول أو تحقيق إضافي، تُسجّل بهذه الصفة.

في النتائج الكمية، نكشف حجم العمل والعينة والمقام والاستبعادات ومنهج التقييم. وتحتاج الادعاءات الإحصائية إلى تصميم مناسب؛ فمجموعة طلبات ملائمة للاختبار لا تسند تلقائياً نسبة دقة على كامل مجتمع الاستخدام. وفي الأحداث النادرة أو عالية العواقب، عدم ظهورها في عينة محدودة ليس دليلاً على انعدامها.

عند التسليم، ينبغي أن تتمكن الفرق المسؤولة من العثور على الأدلة وفهم النقاط المختلف عليها أو غير المؤكدة وإعادة الاختبارات المصرح بها متى أمكن. ولا ينبغي أن يعتمد الاستنتاج على قبول رأي المقيم دون تفسير.

إعادة الاختبار جزء من الإغلاق، لا تغيير في الصياغة

قبول الملاحظة، والتخطيط للتصحيح، ونشر التغيير، والتحقق من المعالجة حالات منفصلة. ويمكن تحديد تقييم لاحق لفحص الحالة الأصلية والحالات المرتبطة المتفق عليها. وتُلحق أدلة إعادة الاختبار بإعدادها وتاريخها الخاصين.

إذا غيّر التصحيح الاسترجاع أو الصلاحيات أو مسار الموافقة، يفحص الاختبار استمرار العمل المشروع أيضاً. وقد يكون تعطيل الخاصية احتواءً صالحاً، لكنه لا يُعرض باعتباره استعادةً لقدرتها الأصلية.

لا يحل التدقيق في نقطة زمنية محل التشغيل المستمر للوكلاء AgentOps. فقد تنتج تغييرات لاحقة في النموذج أو البيانات أو الأدوات أو السياسات سلوكاً خارج الإعداد المختبر.

الاستقلالية والشهادات والانطباق في السعودية

قبل قبول الارتباط، نفصح عن العمل السابق ذي الصلة بالنظام ونتفق على علاقة المراجع. وإذا صمّمت Open for AI الضوابط المفحوصة أو نفذتها، يُوصف العمل بمراجعة التنفيذ أو تقييم الجاهزية الداخلي، ما لم يُنشأ ترتيب ضمان منفصل مناسب. ولا نصف عملنا بأنه حاصل على اعتماد مستقل منّا.

التقييم التقني والرأي القانوني والشهادة المعتمدة خدمات مختلفة. هذا الارتباط لا يصدر موافقة تنظيمية أو شهادة ISO. وتوضح ISO أن جهات خارجية تمنح الشهادات. ويجب تحديد أي متطلب لإفادة رسمية قبل تكليف التقييم.

في المؤسسات السعودية، تُتفق متطلبات الخصوصية والقطاع والعقود الواجبة التطبيق مع المختصين المسؤولين. وتمثل إرشادات سدايا لجهات التحكم والمعالجة مرجعاً لمسائل البيانات الشخصية. نستطيع تقييم أدلة تقنية وتنظيمية مختارة مقابل متطلب متفق عليه؛ ولا نستنتج امتثالاً شاملاً لنظام حماية البيانات من مجموعة اختبارات.

حدّد نطاق الفحص قبل شراء الطمأنينة

أحضر القرار الذي تحتاج إلى اتخاذه، والنظام والبيئة المراد تقييمهما، والمخططات ومواد الاختبار المتاحة، وقيود المورّد، ومخاوفك الجوهرية. يعتمد التسعير على الحدود والوصول وعدد مسارات العمل واللغات وتصميم التقييم والاختبارات الأمنية المصرح بها ومتطلبات إعادة الفحص. وقد يترك سعر ثابت جذاب دون نطاق واضح أهم الأسئلة بلا إجابة.

إذا كانت حاجتك الفورية إنشاء الضوابط، فاستخدم تأسيس حوكمة الذكاء الاصطناعي. وإذا كانت المعلومات لا تدعم التقييم بعد، فقد تكون جاهزية البيانات والذكاء الاصطناعي للمؤسسات البداية المناسبة.

اطلب مناقشة نطاق تدقيق الذكاء الاصطناعي. سنحدّد الادعاءات التي سنفحصها والأدلة المطلوبة وحدود الاستنتاج قبل بدء الاختبارات.