حوكمة الذكاء الاصطناعي للشركات السعودية

تمنح حوكمة الذكاء الاصطناعي المنشأة إجابة قابلة للتبرير عن سؤال عملي: من يملك السماح للنظام بأن يفعل ماذا، وبأي معلومات، واستناداً إلى أي دليل؟ وعند اعتماد الذكاء الاصطناعي الوكيلي في شركة سعودية، ينبغي أن تشمل الإجابة التوصية والتنفيذ معاً. فمساعد يصوغ رسالة لمورّد يختلف في أثره عن وكيل يغيّر تعليمات الدفع، حتى إن استخدما النموذج نفسه.

هذا الدليل موجّه إلى الراعي التنفيذي ومسؤول المخاطر أو الشؤون القانونية ومالك التقنية الذين يبنون الحوكمة لمحفظة من الاستخدامات. الغاية نظام لاتخاذ القرار: حصر للاستخدامات، وملاك مسؤولون، ومراجعات متناسبة، وحدود واضحة للصلاحيات، وسجل يفسّر قبول كل تشغيل. وتصبح السياسة مفيدة حين تظهر هذه القرارات في العمل اليومي.

ابدأ بالأنشطة التي تحتاج إلى الحوكمة

احصر أدوات الذكاء الاصطناعي المشتراة، والخصائص المدمجة في البرامج الحالية، والحلول المطوّرة داخلياً، والاستخدام عبر الحسابات الشخصية للموظفين. اسأل المشتريات عن التغييرات البرمجية، والعمليات عن الإجراءات المؤتمتة، وقادة الفرق عن الحلول غير الرسمية. اجمع الحقائق بطريقة لا تدفع الموظفين إلى إخفاء التجارب المشروعة، مع مسار واضح لتسجيل الأداة والحصول على قرار في وقت مناسب.

سجّل الغرض التجاري والمستخدمين المتأثرين والمالك والمورّد وفئات البيانات والأنظمة المتصلة والإجراءات المتاحة والمرحلة الحالية. حدّد كيف تصل المخرجات إلى العملاء أو إلى قرارات الموظفين. فقد ينشأ أثر جوهري عندما ينسخ إنسان توصية النظام، دون أن يملك النظام صلاحية الكتابة المباشرة. وقد يستلزم إجراء محدود ومتحقق منه مراجعة مختلفة عن أداة استشارية مفتوحة الاستخدام.

أنشئ سجلاً لكل استخدام ذي معنى، بدلاً من سجل واحد لكل منتج. فقد يدعم التطبيق نفسه مسودات تسويق عامة وتحليلاً سرياً لاستحواذ. المورّد واحد، لكن المعلومات والآثار تختلف. ويتحمل مالك الاستخدام مسؤولية الإبلاغ عن تغيير الغرض أو الصلاحيات.

افصل الانطباق النظامي عن معايير المنشأة

يشمل نظام حماية البيانات الشخصية المعالجة داخل المملكة، وحالات محددة لمعالجة بيانات المقيمين من أطراف خارجها. وتتحدد صلته بالمعالجة الفعلية، لا بوصف المورّد منتجه بأنه ذكاء اصطناعي.

احتفظ بمذكرة انطباق لكل استخدام جوهري: الجهة والقطاع، والمعلومات، ومواقع المعالجة، والالتزامات التعاقدية، والجهة المختصة، ومن راجع التفسير. وتحدد المادة 25 من اللائحة التنفيذية حالات تستلزم تقويم الأثر، ومنها معالجة البيانات الحساسة. اطلب من مسؤول الخصوصية فحص تلك الحالات بدلاً من معاملة جميع مشاريع الذكاء الاصطناعي بالطريقة نفسها.

قسّم سجل الالتزامات إلى متطلب منطبق، والتزام تعاقدي، وقاعدة تشغيل داخلية. ويجوز للمنشأة اختيار حدود موافقة أشد مما يتطلبه النظام، لكن ينبغي أن يعرف الموظفون مصدر القاعدة. ارجع إلى دليلي مبادئ سدايا لأخلاقيات الذكاء الاصطناعي وانطباق ضوابط الهيئة الوطنية للأمن السيبراني عند الحاجة؛ فقائمة أخلاقية عامة أو موقع استضافة سحابية لا يحسمان التقييم بأكمله.

حدّد عمق المراجعة وفق الأثر والصلاحية

يبدأ تصنيف عملي بأربعة أسئلة: هل يؤثر الاستخدام جوهرياً في شخص أو أصل أو خدمة؟ هل يعالج معلومات محمية أو سرية تجارياً؟ هل يبدأ إجراءً أو يوافق عليه؟ وهل يُكتشف الخطأ ويُعكس قبل حدوث الضرر؟ دوّن المنطق الذي قاد إلى التصنيف، لا النتيجة وحدها.

مسارات حوكمة توضيحية تُكيّف مع المنشأة

الاستخدام	مسار المراجعة	الدليل المطلوب قبل الاستخدام
الصياغة من مواد عامة معتمدة	مراجعة مفوّضة لوحدة الأعمال	أداة معتمدة ومراجع محدد وفحوص للنشر
الإجابة عن أسئلة السياسات الداخلية	مراجعة الأعمال والمعرفة والوصول	ملكية المصادر واختبارات الصلاحيات والتعامل مع عدم اليقين
التوصية بقرار وظيفي	مراجعة متخصصة للأثر والجوانب القانونية	سياق القرار وضمانات للمتأثرين وإمكان الاعتراض
تغيير سجل مالي	مراجعة صريحة لصلاحية التنفيذ	حدود المعاملات وفصل المهام وأدلة الاستعادة

هذه مسارات مقترحة وليست فئات مخاطر نظامية. فالتصنيف يوجّه المراجعة ولا يعفي من متطلب ملزم. تجنب درجة رقمية تخفي مسألة خطيرة تخص الحقوق أو الأمن داخل متوسط إيجابي. وبعض الشروط ينبغي أن توقف التقدم إلى أن تُعالج.

عيّن مسؤولاً واحداً عن كل قرار

يتحمل مالك الأعمال مسؤولية النتيجة والتكلفة التشغيلية، ويتولى مالك التقنية استدامة الخدمة، ويقرر مختصو الخصوصية والأمن والشؤون القانونية ضمن صلاحياتهم. ويقدم مورّد التنفيذ الأدلة وينفذ الأعمال المتفق عليها. ولا تنتقل مسؤولية أحد هذه الأدوار تلقائياً إلى غيره.

اكتب التفويض في جملة مكتملة: «يجوز لمدير العمليات اعتماد الصياغة للمستخدمين المسجلين ضمن نطاق البيانات المحدد؛ أما الإرسال الخارجي فيحتاج إلى موافقة منفصلة». هذا أوضح من عبارة «العمليات مسؤولة عن الذكاء الاصطناعي». وحدد نائباً ومسار تصعيد عند غياب صاحب القرار.

للقرارات المشتركة، أنشئ ميثاق لجنة بصلاحيات واضحة. وافصل المسائل المحفوظة للمجلس عبر حوكمة الذكاء الاصطناعي على مستوى مجلس الإدارة. تعالج اللجنة المفاضلات والاستثناءات ضمن تفويضها، بينما يسلك العمل الاعتيادي المطابق مساراً مستقراً.

استخدم سجلات أدلة قليلة ومترابطة

ترتفع كلفة الحوكمة عندما يطلب كل مراجع وصفاً جديداً للنظام نفسه. امنح الاستخدام معرّفاً ثابتاً واربط به السجلات التالية. واضبط الوصول إلى الأدلة؛ فالسجل يشير إلى الوثائق الحساسة دون كشف محتواها لكل قارئ.

• سجل الاستخدام: الغرض والنطاق والمستخدمون والمالك والأنظمة والموارد التي يعتمد عليها.
• مذكرة الالتزامات: المتطلبات المنطبقة ومسؤول تفسيرها وتاريخ المراجعة.
• سجل المخاطر والمعالجة: الضرر المحتمل والضابط والدليل والقرار بشأن المخاطر المتبقية.
• قرار الإطلاق: النسخة المعتمدة والشروط والمسائل المفتوحة وتاريخ انتهاء القرار أو سبب مراجعته.
• المراجعة التشغيلية: الحوادث وتغير الجودة والشكاوى والتكلفة وأدلة الإجراءات التصحيحية.

يفصّل نموذج سجل مخاطر الذكاء الاصطناعي السجل الثالث. تعامل مع النموذج المكتمل بوصفه ادعاءً يحتاج إلى دليل. فإذا نص الضابط على «موافقة بشرية»، فاسأل من يراجع، وماذا يرى، وكم يملك من الوقت، وما الذي يحدث عند الرفض. نقص هذه الإجابات يضعف الضابط.

قرار حوكمة تطبيقي: تسجيل المورّدين

لنفترض موزعاً يريد وكيلاً يقرأ وثائق المورّدين ويعد سجلات التسجيل. يطلب الراعي أولاً إنشاء الحسابات تلقائياً. لكن الاستكشاف يكشف ورود بيانات مصرفية أحياناً في مرفقات غير منظمة، وعدم قدرة الموظفين على التمييز الموثوق بين مورّد جديد وتعديل لسجل قائم.

يمكن لقرار الحوكمة الحفاظ على التقدم المفيد: اعتماد الاستخراج إلى قائمة مسودات باستخدام وثائق مصرح بها، مع إبقاء تغيير البيانات المصرفية وتفعيل الحساب لدى موظفين ذوي صلاحيات منفصلة. ويُطلب دليل يربط كل سجل بوثيقته الأصلية، ويحيل المطابقات غير المؤكدة إلى المراجعة، ويمنع استمرار المسودات المرفوضة دون علم أحد.

ينبغي أن يصف قرار الإطلاق النطاق بوضوح: الخدمة المعتمدة تنشئ مسودات للتحقق. ويسجل أيضاً أسباب إعادة المراجعة: إضافة صلاحية التفعيل، أو تغيير مصدر الوثائق، أو إدخال معالج خارجي جديد. أما عبارة «التجربة معتمدة» فتبقي حدود التنفيذ قابلة للتأويل.

بعد التشغيل، قِس نسبة المسودات المقبولة دون تعديل، ووقت المراجعة، والمطابقات الخاطئة، وعمر الاستثناءات، ومحاولات التنفيذ غير المصرح به. ولا يكون تراجع التصحيحات مؤشراً مفيداً إلا إذا استمر المراجعون في فحص عينات ذات معنى. تحرَّ هل التحسن ناتج عن أداء أفضل أم عن تراجع التدقيق.

أدخل الحوكمة دون تعطيل العمل المفيد

ابدأ بجزء يمكن إدارته من المحفظة. في دورة المراجعة الأولى، سجّل الاستخدامات القائمة واحسم الملكية المجهولة. ثم طبّق مسار الأدلة على إجراء متوسط الأثر، ومقترح يحتاج إلى إشراف أشد. راقب مواضع نقص المعلومات وتكرار المراجعات.

انشر أوقات الاستجابة المتوقعة ومعايير اكتمال الطلب. أعد الطلبات الناقصة بأسئلة محددة. واسمح باستكشاف محدود بمعلومات معتمدة بينما تنتظر قرارات التشغيل الجوهرية. ولكل استثناء مالك ومدة وتدابير تعويضية وشرط إغلاق؛ فلا يتحول إلى وضع دائم بسبب النسيان.

استخدم لوحة تشغيل بسيطة: استخدامات بلا مالك، وموافقات منتهية، ومعالجات متأخرة، وتغييرات جوهرية تنتظر المراجعة، وقرارات متوقفة لنقص الأدلة. عدد السياسات أو الاجتماعات لا يوضح مدى السيطرة على المخاطر. وللمنشآت الأصغر، يقدم نموذج سياسة الحوكمة للمنشآت الصغيرة والمتوسطة نقطة بداية متناسبة.

أحضر قراراً فعلياً إلى النقاش الاستشاري

يمكن أن تساعد استشارات الذكاء الاصطناعي الوكيلي من Open for AI في تقييم الاستخدامات ورسم صلاحيات سير العمل ومراجعة الجاهزية وتحديد خطة التقييم وتسلسل التنفيذ. يُتفق على النطاق والمسؤوليات لكل ارتباط. أحضر حصراً منقحاً للاستخدامات، وقرار موافقة محل خلاف، وقواعد التفويض الحالية إلى نقاش حول آلية قابلة للتطبيق لاتخاذ قرارات حوكمة الذكاء الاصطناعي.