إطار إدارة مخاطر الذكاء الاصطناعي

يوفر إطار إدارة مخاطر الذكاء الاصطناعي طريقة قابلة للتكرار لتحديد عدم اليقين الذي تقبله المنشأة، والنتائج التي يجب منعها، والأدلة المطلوبة قبل تغيير العمل الفعلي. وتتمثل المهمة العملية للمنشأة السعودية في ربط هذه الطريقة بقرارات المخاطر القائمة والالتزامات المنطبقة وحالات الاستخدام الحقيقية. يبدأ العمل باختيار مرجع مناسب، وتظهر قيمته في اتساق القرارات وإمكان فحص أدلتها.

يخاطب هذا الدليل مسؤولي المخاطر ومالكي التقنية والقيادات الذين يقارنون الأطر أو يجمعون بينها. ويوضح ترجمتها إلى عملية واحدة قابلة للاستخدام دون افتراض تطابق مصطلحاتها أو درجاتها أو وضعها النظامي. ويمكن الرجوع إلى أدلة الذكاء الاصطناعي للأعمال والامتثال في السعودية لتحديد موقع هذه المهمة ضمن البرنامج الأوسع.

اختر الإطار وفق القرار الذي يجب أن يدعمه

اسأل عن القرار المطلوب تسهيله. قد تحتاج لجنة الاستثمار إلى التمييز بين تجربة مقبولة واستخدام غير مناسب للإنتاج، ويحتاج مالك المنتج إلى تقييم مصدر بيانات جديد، بينما يريد فريق التأكيد تتبع ضابط معلن إلى دليله. تتشارك هذه القرارات معلومات، لكنها تختلف في الغرض ومستوى التحليل المطلوب والجهة المسؤولة عن نتيجتها.

اكتب بياناً مختصراً قبل مقارنة المعايير: من يقرر، وما الذي يقيّمه، وما المعلومات اللازمة، وما النتائج المتاحة، ومتى يعيد النظر. إذا كانت الموافقة هي النتيجة الوحيدة الممكنة، فلن تتوافر طريقة فعلية لتقييد الاستخدام أو رفضه. وإذا احتاج كل تعديل إلى أعلى لجنة، فقد تصبح العملية أبطأ من قدرة الفريق على إبقاء السجلات محدثة.

حدد موضوع التقييم بدقة. يختلف النموذج الأساسي عن التطبيق الذي يستخدمه وعن سير العمل المنشور. ولا يثبت تقييم النموذج صحة أذونات الوصول أو قدرة الموظف على إيقاف إجراء مؤثر. حافظ على تعريف المكونات التقنية، مع إبقاء استخدام الأعمال وحدة المسؤولية الأساسية حتى لا تضيع النتيجة النهائية بين فرق متخصصة تنظر كل منها إلى جزء منفصل.

افهم وضع المراجع الرئيسية والغرض منها

ينظم إطار NIST لإدارة مخاطر الذكاء الاصطناعي العمل حول الحوكمة وتحديد السياق والقياس والإدارة، ويبين أنها نتائج وأنشطة وليست قائمة خطوات مرتبة. ويقدم ISO/IEC 23894:2023 إرشادات لدمج إدارة مخاطر الذكاء الاصطناعي في أنشطة المنشأة. ووُصف الإطار الوطني السعودي لإدارة مخاطر الذكاء الاصطناعي عند إعلانه بأنه مرجع استرشادي. ولا تعني هذه الأوصاف أن تبني وثيقة يثبت الامتثال لجميع الأنظمة المنطبقة.

أسئلة تحول اختيار الإطار إلى قرار عملي

سؤال الاختيار	الدليل المفيد	القرار المدعوم
هل تتسق المصطلحات مع ممارسة المخاطر القائمة؟	مثال مطبق على عملية مألوفة	اعتماد المصطلحات أو توثيق ترجمتها
هل يغطي الاستخدام كاملاً؟	البيانات والنموذج والأشخاص والأدوات والآثار	تحديد الضوابط والخبرات المكملة
هل يميز الدليل من الحكم المهني؟	سجل يوضح الافتراضات ومالكيها	وضع شروط قبول عدم اليقين
هل تستطيع المنشأة المحافظة عليه؟	مراجعون محددون ومحفزات تحديث ومواقع أدلة	اختيار طريقة تشغيل متناسبة

من المفيد تطبيق نهجين مرشحين على حالة واحدة ومقارنة القرارات الناتجة. لا يُعد طول الوثيقة أو كثرة الضوابط ميزة تلقائية. افحص الحالة التي يكشف فيها أحد النهجين مسألة مؤثرة يغفلها الآخر، وحدد هل يرجع الفرق إلى النطاق أو المصطلحات أو الأدلة أو اختلاف فعلي في تقدير التعرض المقبول. تساعد هذه المقارنة على اختيار ما يحتاجه الفريق بالفعل.

صف الخطر بمساره السببي بدلاً من الاكتفاء بعنوان

تساعد عناوين مثل الهلوسة والتحيز والخصوصية والأمن على ترتيب النقاش، لكنها لا تصف وحدها خطراً تجارياً. يربط البيان المفيد مصدر عدم اليقين بحدث وأطراف متأثرة ونتيجة، ويحدد ظروف وقوعه. تختلف إجابة خاطئة داخل مسودة عن الإجابة نفسها حين تُستخدم لتقديم مستند ملزم؛ لذلك يجب إبقاء الاستخدام والنتيجة ظاهرين في الوصف.

لنفترض أداة ثنائية اللغة تفحص اكتمال مستندات منافسة. تقارن الأداة العرض المقترح بالمتطلبات وتبرز الأدلة الناقصة. يتمثل خطر في اعتماد ملف متطلبات استُبدل بإصدار أحدث، فتغفل الأداة ملحقاً إلزامياً ويعتمد المراجع نتيجتها قبل التقديم. ويتمثل خطر آخر في عرض أسعار سرية تخص منافسة مختلفة لمستخدم غير مخول. يتعلق الأول بصلاحية المصدر واكتماله، والثاني بالأذونات وفصل المعلومات.

قد يرتبط كلاهما باسترجاع المعلومات، لكن جمعهما في بند عام يخفي اختلاف الضوابط والمالكين. وفي المقابل، قد يسبب حدث المصدر القديم إعادة عمل وفوات موعد وخلافاً تجارياً. هذه آثار متصلة لسيناريو واحد؛ وقد يؤدي احتسابها أحداثاً مستقلة إلى تضخيم مجموع التعرض. سجّل العلاقة بينها، وبيّن متى تتراكم الآثار ومتى تكون بدائل لبعضها.

أنشئ مفردات مشتركة قبل دمج الأطر

أنشئ جدول ترجمة للمصطلحات المؤثرة في القرار: النظام وحالة الاستخدام وحدث الخطر والأثر والاحتمال والتعرض قبل الضوابط وبعدها والضابط والمعالجة والقبول والمراجعة. ضع صياغة المرجع بجانب التعريف العملي للمنشأة. واترك المصطلح دون مطابقة إذا لم تثبت المساواة؛ فالفجوة الظاهرة أنفع من تطابق شكلي يخفي لاحقاً اختلاف المسؤولية أو المطلوب إثباته.

اربط النتائج والأدلة، ولا تكتفِ بعناوين الأقسام. قد يتداخل تقييم الأثر مع فهم الأطراف المتأثرة دون أن يتطابقا. وتدعم خريطة الأطراف المهمتين، لكن القرار قد يحتاج أدلة إضافية عن الشدة أو البدائل أو الاعتراض. يجب أن يبين الربط ما تغطيه الوثيقة المشتركة وما يبقى غير محسوم، حتى لا تتحول إعادة استخدامها إلى ادعاء باستيفاء متطلبات لم تُفحص.

استخدم سجلاً مرجعياً واحداً للمخاطر مع إحالات إلى الأطر المساندة. قد يؤدي إنشاء سجل لكل معيار إلى اختلاف المالك ومواعيد المعالجة لنفس المسألة. ويجب فهم السجل دون حفظ أرقام بنود المعايير. يستطيع المراجع تتبع السيناريو التجاري وفحص الدليل وفهم سبب اعتبار المعالجة كافية، ثم الانتقال إلى المرجع عند الحاجة إلى تفاصيل إضافية.

افصل الشدة والاحتمال وعدم اليقين

تصف الشدة نتيجة السيناريو إذا وقع، ويصف الاحتمال وقوعه في ظروف محددة، بينما تعبر الثقة عن قوة الأدلة وراء التقدير. لا تعني قلة الأدلة انخفاض الاحتمال؛ فقد يكون سير العمل غير المختبر مجهولاً أكثر مما هو آمن. سجّل المعلومات المثبتة والاستنتاجات والدليل الذي يمكن أن يغير التقييم بدلاً من إخفاء الضعف داخل درجة مطمئنة.

استخدم مقاييس نتائج تصف أحداثاً عملية. في مثال فحص المنافسة، فرّق بين اقتراح داخلي يسهل تصحيحه ومتطلب مفقود يُكتشف بعد انتهاء موعد التقديم. يستطيع مالك العمل عندئذ تفسير الحاجة إلى منع أقوى أو حدود نشر مختلفة. أما وصف متوسط فلا يساعد وحده ما لم يُعرّف معناه التشغيلي وما يستدعيه من قرار.

لا تحسب متوسط درجات ترتيبية مأخوذة من مصفوفات مختلفة. لا تتساوى مقاييس من ثلاث فئات وأخرى من خمس بمجرد تحويل المسميات إلى أرقام. وحتى داخل المصفوفة الواحدة، قد تخفي الدرجة حدثاً شديد الأثر وغير مؤكد الاحتمال. احتفظ بالسيناريو والقيود الملزمة، ووضح افتراضات أي تقدير مالي، وتجنب احتساب الأثر نفسه مرتين بسبب تعدد طرق وصفه.

استخدم حالات تحدٍّ موجهة دون المبالغة في دلالتها

ينشئ الفريق في المثال 15 حالة تحدٍّ مقصودة: خمساً بإصدارات مصادر قديمة، وخمساً تتضمن مستندات منافسة أخرى، وخمساً يُعبّر فيها عن الملحق الإلزامي بصورة مختلفة بالعربية والإنجليزية. تستكشف هذه الحالات ثلاث مشكلات معروفة. وهي ليست عينة عشوائية من العروض المقبلة، ولا تثبت معدل الخطأ في الاستخدام الإنتاجي كله.

إذا أخفقت حالتان من خمس حالات المصدر القديم، فالنتيجة المباشرة أن الضابط غير كافٍ لهاتين الحالتين المختبرتين. ولا يثبت ذلك إخفاق 40% من جميع المنافسات. يشخّص الفريق الآلية ويصححها ويعيد التحديات المناسبة، ثم يستخدم تقييماً منفصلاً يمثل العمل المعتاد لدراسة الأداء التشغيلي وفق افتراضات العينة وحدودها المعلنة.

احتفظ بالمصدر والقرار المتوقع وإعداد النموذج والاسترجاع والنتيجة الفعلية وتفسير المراجع لكل اختبار. وإذا اختلف المعنى النظامي أو العملي بين النصين العربي والإنجليزي، فلا تفرض جواباً موحداً دون معالجة الاختلاف. حدد المتطلب المرجعي واعرض مسألة التفسير على المختص المسؤول؛ فلا تكفي الطلاقة اللغوية لحسم تعارض في المتطلبات أو ترتيب حجية المستندات.

اختر معالجة تغير المسار السببي للخطر

توضح المعالجة كيف تمنع الحدث أو تحد أثره أو تكشفه مبكراً أو تتيح التعافي. يقلل ضبط اختيار إصدار المصدر احتمال المقارنة بملف قديم، وتمنع فحوص الأذونات كشف مستندات منافسة أخرى، وتساعد مطابقة الملاحق قبل التقديم على اكتشاف المتطلب المفقود. تعالج هذه التدابير آليات مختلفة، وتحتاج إلى اختبارات منفصلة حتى لا يُنسب نجاح أحدها إلى الآخر.

قد يفيد تدريب المراجع، لكنه لا يحل المشكلة إذا أخفت الواجهة إصدار المصدر أو لم يسمح العبء بمقارنة المستندات. كما لا يثبت شريط التحذير أن المستخدم يفهم أهميته. استخدم تصميم الإشراف البشري لفحص المعلومات والقدرة اللازمة للمراجعة، وحدد كيف يتصرف الشخص عندما لا يستطيع التحقق أو عندما تتعارض المصادر.

حدد التعرض المتبقي بعد المعالجة ودليله. قد يقبل المالك تجربة داخلية مقيدة مع حجب الإذن بالاعتماد على النتائج في تقديم نهائي؛ وهذا قرار محدد النطاق. اربط المعالجة بشرط انتهاء أو محفز مراجعة، حتى لا يتحول استثناء مؤقت إلى ترتيب دائم بفعل النسيان. وأظهر من يراجع الشرط وكيف يعرف أن موعده أو سببه قد تحقق.

اجعل القبول والتصعيد واضحين

يسمي قبول المخاطر صاحب الصلاحية على النتيجة المتأثرة، والنطاق المسموح، وعدم اليقين المتبقي. لا تعني قدرة مدير المشروع على إدارة التسليم امتلاكه صلاحية قبول تعرض يتعلق بالسرية أو التزام تجاري. يحدد الإطار متى يلزم اشتراك عدة مالكين وكيف يُحل الاختلاف، بدلاً من ترك صاحب أسرع توقيع يتحمل قراراً خارج نطاقه.

افصل القيود النظامية عن شهية المخاطر الاختيارية. لا يتحول الالتزام المنطبق إلى تفضيل بمجرد إعطائه درجة مناسبة. وإذا بقي التفسير غير محسوم، فسجّل السؤال واطلب الرأي المختص. وتعالج أدلة حماية البيانات الشخصية في السعودية والذكاء الاصطناعي المسؤول في تصميم الخدمة والمفاضلات الأخلاقية أجزاء مختلفة من القرار، ولا يحل أحدها محل الآخر.

اجعل معايير التصعيد قابلة للملاحظة، مثل مصدر غير معتمد أو تعذر تحديد السجلات المتأثرة أو تغيير صلاحيات التنفيذ أو دليل على عدم عمل ضابط. وتجنب معياراً غامضاً من قبيل التصعيد عند الشعور بخطورة المسألة. الغرض هو سرعة القرار وإمكان تكراره، مع المحافظة على مساحة للحكم المهني المفسر عندما تكون الوقائع غير مكتملة.

حدّث التقييم عندما يتغير النظام

يحدد الإطار التغييرات التي تستدعي إعادة النظر. في المثال، قد تغير بوابة منافسات جديدة أو أذونات مستندات مختلفة أو السماح بالتقديم التلقائي أو استبدال أسلوب الاسترجاع مسارات مخاطر متباينة. وقد يكفي فحص أضيق لتعديل شكلي في الواجهة. صنف التغيير وأثره الفعلي بدلاً من اعتبار كل إصدار تافهاً أو سبباً لإعادة التقييم كاملاً.

اربط مؤشرات التشغيل بالسجل. قد تدل تصحيحات إصدار المصدر المتكررة على ضعف الإدخال، وقد تشير حالات رفض الوصول غير المفسرة إلى تعارض أذونات، وقد تكشف اعتراضات المراجعين المتكررة على التوصية نفسها تفسيراً خاطئاً. هذه أدلة تستحق التحقيق وليست إثباتاً تلقائياً لسبب بعينه. ويجب الاحتفاظ بالسياق الذي يسمح بالمقارنة بين التفسير المحتمل والبدائل.

راجع الإطار ذاته بعد الخبرة الفعلية. إذا اختلف المقيمون باستمرار، فافحص وضوح التعريفات وتوافر الدليل قبل إضافة فئات درجات. وإذا تعذر العثور على الاختبارات، فحسّن مسار الأدلة. وإذا اعتُمدت جميع الحالات بالشروط نفسها، فاختبر قدرة العملية على التمييز بين الفروق المؤثرة؛ فقد تكون المشكلة في السؤال المطروح أكثر من مستوى التفصيل في النموذج.

افحص الاعتماد المشترك قبل تجميع المحفظة

قد تعتمد استخدامات متعددة على مستودع مصادر أو خدمة هوية أو مزود خارجي واحد. ولا يجعل تقييمها منفصلة اعتمادها مستقلاً. فإذا استخدمت أداة المنافسات ومساعد بحث العقود تغذية الأذونات نفسها، فقد يؤثر خلل فيها على كليهما. يحدد عرض المحفظة الشرط المشترك والجهات القادرة على تصحيحه، مع إبقاء النتائج المختلفة في كل سير عمل ظاهرة للمسؤولين عنها.

اسأل عن الضوابط المستقلة فعلاً. لا يوفر تطبيقان حماية مستقلة إذا اعتمدا على وسم مستند واحد لم يُتحقق منه، حتى لو اختلفت الشاشات. وقد تكرر المطابقة اليدوية الخطأ إذا استخدمت المصدر القديم نفسه. اختبر مصدر الدليل وراء الضابط، ولا تكتفِ بوجود علامة تفيد اكتمال خطوة المراجعة في النظام أو تقرير المشروع.

يجيب التجميع عن سؤال عملي: أين يمكن لتغيير واحد إبطال عدة موافقات، وأي اعتماد يستحق معالجة مشتركة؟ ولا ينبغي أن ينتج رقماً كبيراً بجمع درجات غير قابلة للمقارنة. توضح خريطة الاعتماد الاستخدامات المتأثرة والضوابط المشتركة والبدائل ونتائج عدم التوافر. وتساعد هذه المعلومات على ترتيب المعالجة وتحديد الجهة التي تملك القدرة على تنفيذها بدلاً من تكرار الطلب نفسه من فرق متعددة.

حدد أيضاً حدود ما يستطيع الإطار حسمه. يكشف عدم اليقين وينظم القبول المبرر، لكنه لا ينشئ تفسيراً نظامياً مفقوداً ولا يثبت خاصية تقنية غير مختبرة ولا يحدد الأولويات التجارية بمفرده. أسند الأسئلة المتخصصة غير المحسومة وأظهر شروطها. وقد ينتهي تقييم جيد إلى عدم كفاية الدليل، وهو قرار مفيد يحدد العمل التالي وليس إخفاقاً في أداء التقييم.

أعد حزمة قرار مختصرة وقابلة للفحص

تضم الحزمة حدود الاستخدام والسيناريوهات السببية والأطراف المتأثرة والقيود والأدلة والمعالجات المقترحة وعدم اليقين والقرارات المسماة. أحل إلى التفاصيل بدلاً من نسخ جميع الوثائق. يفهم التنفيذي الاختيار غير المحسوم، ويستطيع المختص تتبع الأدلة وراءه. وحافظ على تاريخ الإصدار والنطاق حتى لا تُستخدم موافقة سابقة على ترتيب مختلف دون ملاحظة.

في مثال الأداة، ميّز الإذن بالمقارنة الداخلية المقيدة عن الإذن بدعم التقديم النهائي. اذكر مجموعات المصادر المختبرة وحالات الإخفاق المتبقية ومن يطابق المتطلبات والتغييرات التي تبطل الاعتماد. هذه الدقة أنفع من عبارة عامة تفيد اتباع إطار معروف، لأنها تبين ما يمكن فعله الآن وما يحتاج إلى دليل أو قرار إضافي.

إذا احتجت إلى تأسيس العملية ومسؤوليات تشغيلها، فاستكشف خدمة تأسيس حوكمة الذكاء الاصطناعي. أحضر حالة استخدام حقيقية وطريقة المخاطر القائمة. أول مخرج مفيد هو تقييم متماسك يستطيع الأشخاص التصرف بناءً عليه والمحافظة على تحديثه والاعتراض على استنتاجاته بأدلة واضحة.