الاستخدام غير المعتمد للذكاء الاصطناعي: استجابة الحوكمة

الاستخدام غير المعتمد للذكاء الاصطناعي، أو ما يعرف بالذكاء الاصطناعي الخفي، هو استخدام يقع خارج الأنظمة والإجراءات المعتمدة في المؤسسة. وينبغي أن تكشف الاستجابة ما يحدث، وتحد من التعرض المؤثر، وتحسم الحاجة العملية التي دفعت إلى الاستخدام. فلا يحقق ذلك تعميم حظر عام أو عدد للمواقع المحجوبة وحده.

في المؤسسة السعودية، تكون الأسئلة المهمة محددة: أي خدمة تستقبل أي معلومات، ومن خلال حساب من، ولأي غرض، وبأي قدرة على التأثير في العملاء أو الأنظمة؟ فإضافة متصفح تقرأ المرفقات تلقائياً تختلف عن موظف يكتب سؤالاً عاماً يدوياً في موقع المورد نفسه.

تؤكد إرشادات المركز الوطني البريطاني للأمن السيبراني بشأن الاستخدام غير المعتمد للذكاء الاصطناعي فهم احتياجات الموظفين وتشجيع التواصل. وهي نقطة انطلاق مفيدة للاكتشاف. ويبين التصميم التالي كيفية تحويل الإفصاحات والإشارات التقنية إلى قرارات موثقة، مع التمييز بين الرؤية والإذن وإغلاق الحادث. وهو موجه إلى فرق الأمن والتقنية والموارد البشرية والمشتريات وملاك الأعمال.

عرّف الاستخدام بمساره لا بشعار المنتج

قد تعتمد أداة لمهمة ثم تستخدم خارج حدودها. فقد يربط الموظف مستودعاً جديداً أو ينتقل إلى حساب شخصي أو يفعل إضافة متصفح أو يشارك مساعداً مع فريق آخر. ولذلك يشمل السجل المهمة والبيئة ومسار البيانات والجمهور وقدرات التنفيذ.

ميّز الاستخدام غير المعلن من الاستخدام المحظور. فقد يغيب النشاط عن السجل بسبب نقص القائمة، أو إضافة المورد خاصية دون تنبيه واضح، أو تعذر العثور على مسار الطلب. تستدعي هذه الحالات التحقيق. وهي لا تثبت غياب الضرر، كما لا تثبت تلقائياً تعمد المخالفة.

استخدم تعريفاً واضحاً في حملة الاكتشاف. اطلب الإبلاغ عن أنشطة العمل التي لا يستطيع الموظف مطابقتها بمدخل معتمد، بما فيها الخصائص المدمجة والأدوات المدفوعة شخصياً. واشرح أن المراجعة تقرر الاستمرار أو فرض شروط أو الانتقال إلى خدمة معتمدة أو الإيقاف. وتظهر هذه الحدود لاحقاً في سياسة الاستخدام المقبول.

أنشئ قناة إبلاغ قابلة للاستخدام

اطلب وصفاً أولياً قصيراً للمهمة والأداة أو الخاصية ونوع الحساب وفئات المعلومات والربط الآلي ومشاركة المخرجات أو التنفيذ بناء عليها. اسمح بإجابة «غير متأكد». فمطالبة الموظف بتفاصيل تقنية لا يعرفها قد تثنيه عن الإبلاغ أو تدفعه إلى تقديم يقين غير حقيقي.

وضح من يرى التقرير وكيف يستخدم. لا تنشئ جدولاً مفتوحاً يجمع إفصاحات الموظفين والطلبات وأسماء العملاء. فقد يحتوي سجل الاكتشاف على معلومات تجارية أو شخصية تحتاج إلى حماية. قيد الوصول واجمع الحد اللازم لتوجيه المراجعة، مع ترتيبات مستقلة لأدلة الحوادث.

لا تعني الحملة البنّاءة عفواً غير محدود أو وعداً بتجاهل السلوك الجسيم. يراجع مالكو الموارد البشرية والشؤون القانونية رسالة الحملة. والالتزام العملي هو الاستجابة المفيدة للإفصاح بحسن نية والتحقق من الوقائع قبل الاستنتاج. ويستعد المديرون لتوضيح ضغط العمل أو فجوة الخدمة وراء النشاط.

اجمع الإفصاحات والأدلة التقنية بحذر

تكشف الإشارات التقنية خدمات محتملة، لكن لكل مصدر حدود تغطية. فقوائم إضافات المتصفح وسجلات المصروفات والتطبيقات والهوية والاتصال الشبكي تظهر أجزاء مختلفة. طابقها بإجراء مخول، ولا تفترض أن مصدراً واحداً يقدم سجلاً كاملاً.

تصف وثائق Microsoft الخاصة بـاكتشاف الاستخدام غير المعتمد للذكاء الاصطناعي في Global Secure Access خاصية تعتمد على الشبكة لتحديد حركة الاتصال بخدمات الذكاء الاصطناعي. تدعم هذه الإشارة التحقيق، لكنها لا تكشف وحدها الطلب الكامل أو غرض العمل أو حالة الاعتماد. ويفصل السجل بين الحقيقة المشاهدة والاستنتاج الذي يحتاج إلى تأكيد.

خطط للمراقبة مع أصحاب الخصوصية والأمن وعلاقات الموظفين. حدد الغرض والنطاق والصلاحيات والاحتفاظ ببيانات الاكتشاف. لا تجمع جميع محتويات الموظفين لمجرد تسمية المشروع حوكمة الذكاء الاصطناعي. فقد تكون أدلة موجهة لتعرض محدد أنفع من أرشيف ضخم لنشاط غير مرتبط يصعب فحصه.

مثال تطبيقي: إضافة متصفح لتلخيص عروض الموردين

لنفترض أن فريق مشتريات خيالياً يستخدم إضافة لتلخيص عروض الأسعار. وخلال الاكتشاف يقدم الموظفون 18 إفصاحاً. تكشف المطابقة سبعة منتجات، لكن 12 مسار استخدام مختلفاً، لأن بعض المنتجات تستخدم بحسابات أو خصائص أو مصادر مختلفة. هذه أعداد توضيحية للسجل، وليست تقديراً مقاساً لانتشار الاستخدام.

يتعلق أحد المسارات بإضافة عروض الأسعار. اعتقد الموظف أنها تعالج النص المحدد على الشاشة فقط، لكن فحصاً مضبوطاً يظهر قدرة الخاصية المفعلة على قراءة المرفقات تلقائياً. ولم يحسم الفريق بعد ترتيبات الاحتفاظ ووصول الدعم إلى تلك المستندات. لذلك يميز السجل قدرة جمع ثبتت بالفحص من معالجة لاحقة ما زالت غير محسومة.

تصرفات توضيحية بشأن مسار إضافة المتصفح

النتيجة	الاستجابة المباشرة	مالك المتابعة
الوصول الآلي للمرفقات يختلف عن فهم الموظفين	إيقاف الخاصية المتأثرة وحفظ دليل الإعداد	مسؤول التقنية والأمن
احتمال معالجة عروض تجارية	تحديد الفترة والمستندات المتأثرة دون توزيعها على نطاق أوسع	مالك المعلومات مع فرز الحادث
غموض الاحتفاظ ووصول الدعم	طلب أدلة خاصة بالخدمة وإبقاء عدم اليقين ظاهراً	المشتريات ومراجعو الخصوصية
استمرار الحاجة إلى التلخيص	توفير بديل يدوي أو مضبوط معتمد	مالك إجراء المشتريات

يعالج تعطيل الإضافة النشاط المستقبلي عبر هذا المسار، لكنه لا يثبت حذف النسخ المنقولة سابقاً. كما لا يثبت بيان خصوصية عام إعداد الخاصية الفعلي. وتحفظ المراجعة هذا الفرق حتى تؤيد الأدلة المناسبة نتيجة محددة.

لا تغلق الإفصاحات الثمانية عشر لمجرد تسجيل أسماء المنتجات السبعة. يحتاج كل مسار من المسارات الاثني عشر إلى مالك وقرار. ويمكن ربط الإفصاحات المتكررة بمسار واحد مع حفظ ما يفيد تحديد نطاقه. ويحتاج فريق المشتريات إلى جواب عن إنجاز العمل، لا إشعار بحجب الأداة فقط.

افرز التعرض قبل تقرير الاعتماد الطويل

يسأل الفرز الأولي عن مشكلة حالية أو محتملة تستدعي تدخلاً مباشراً. وتشمل الاعتبارات حساسية المعلومات والجهات الخارجية والصلاحيات المرتفعة والتنفيذ المستقل وإمكان الحد من المعالجة المستمرة. استخدم إجراء الحوادث القائم عند الحاجة، ولا تنشئ فرق الاكتشاف تحقيقاً موازياً بقواعد أدلة مختلفة.

سجل المعروف والمشتبه فيه بصورة معقولة والمجهول. فإذا تعذر تحديد المرفقات المعالجة، فهذا نقص للتحقيق، لا إذن بافتراض أقل نطاق ممكن. وفي المقابل، لا يثبت مجرد الاتصال بنطاق خدمة ذكاء اصطناعي رفع مستندات سرية.

افصل صلاحية الاحتواء عن صلاحية الاعتماد. فقد يستطيع الأمن تعطيل الربط سريعاً، بينما يقرر مالك الأعمال والخصوصية والمشتريات صلاحية استخدام مستقبلي مضبوط. وتحدد خطة الاستجابة لحوادث الذكاء الاصطناعي التصعيد وحفظ الأدلة، ويقرر مسار الاعتماد التشغيل المستقبلي بعد حسم الشروط.

اختر واحداً من أربعة مسارات معالجة

يحتاج الاستخدام المكتشف عادة إلى نتيجة صريحة: اعتماد ضمن حدود موثقة، أو تقييم مضبوط محدود المدة، أو انتقال إلى بديل معتمد، أو إيقاف النشاط. وتحدد كل نتيجة المهمة والمعلومات المشمولة. فلا يكفي وصف «أداة معتمدة» عندما كانت المشكلة في موصل أو نوع حساب معين.

خيارات معالجة الاستخدام المكتشف

النتيجة	الدليل المطلوب	شرط الإغلاق
اعتماد محدود	قبول المهمة والتعامل مع البيانات والإعداد والملكية وفق المتطلبات المنطبقة	مطابقة القائمة والضوابط للاستخدام المعتمد
تقييم مضبوط	سؤال مفيد ومدخلات محدودة وشروط مؤقتة صريحة	انتهاء التقييم أو صدور قرار جديد مسجل
انتقال	بديل معتمد يحقق الحاجة الضرورية	انتقال المستخدمين والسجلات المطلوبة وفق إجراء متفق عليه
إيقاف	تعذر تحقيق الشروط اللازمة أو عدم تبرير النشاط	إزالة الوصول المناسب ومعالجة الالتزامات المتبقية

لا تجعل «قيد المراجعة» نتيجة خامسة دائمة. وإذا سمح بتشغيل مؤقت، فهو استثناء بمالك وحدود وانتهاء. وإن لم يسمح، فوضح البديل للمستخدمين. ويمنع إجراء إدارة الاستثناءات تحول طابور الاكتشاف بصمت إلى نظام أذونات غير مدار.

حقق في الحاجة وراء الاستخدام المتكرر

ناقش مالك الإجراء في العمل الذي حاول الموظفون إنجازه. هل كانت الأداة المعتمدة غير متاحة أو صعبة الوصول أو ضعيفة في المستندات العربية أو بطيئة للمسار؟ هل غاب وضوح الطلب؟ لكل سبب معالجة مختلفة، ولا يصلح شراء ترخيص إضافي إجراء مراجعة لا يملكه أحد.

في مثال عروض الأسعار، تتمثل الحاجة في مقارنة الشروط التجارية بكفاءة. وقد يوفر البديل استخراجاً منظماً من مصدر مضبوط، أو يحسن الفريق نموذج عرض السعر لتقليل الحاجة إلى التلخيص. هدف الحوكمة حل مشكلة العمل ضمن حدود مقبولة، لا الحفاظ على الأداة غير الرسمية بأي ثمن.

قِس البديل على المهمة الفعلية: هل يحفظ الاستبعادات وشروط التسليم والعملات والعبارات غير المؤكدة؟ وهل يمكن تتبع الملخص إلى العرض؟ قد يبدو المسار أبطأ لأنه يظهر مراجعة ضرورية، ومع ذلك يكون مناسباً. وضح المفاضلة بدلاً من وعد براحة مماثلة بلا شروط.

عالج النسخ السابقة وملكية الحسابات

يبقي إيقاف الاستخدام أسئلة عن الطلبات السابقة والملفات المرفوعة والمخرجات والروابط المشتركة وبيانات اعتماد الربط. حدد السجلات اللازمة للتحقيق أو استمرارية العمل قبل طلب الحذف. واتبع متطلبات الاحتفاظ وحفظ الأدلة المنطبقة، وسجل صاحب صلاحية الإجراء.

تضيف الحسابات الشخصية تحدياً. فقد لا تملك المؤسسة الحساب أو حق الاطلاع على مواد شخصية غير مرتبطة بالعمل. تعاون مع الموظف وأصحاب الاختصاص لتحديد مسار مشروع ومتناسب لسجلات العمل وإزالة الوصول. ولا تعد مراجعة الحوكمة إذناً للوصول غير المقيد إلى حساب خاص.

اطلب دليل الحذف أو التصدير بالمستوى الذي يستطيع المورد تقديمه فعلياً. فقد لا يشمل تأكيد خاص بالحساب النسخ الاحتياطية أو سجلات الدعم أو خدمة مدمجة مستقلة. افصل التعهد التعاقدي عن الدليل التقني. وقد تبقى المعالجة التاريخية تحقيقاً مفتوحاً بعد انتقال العمل المستقبلي إلى نظام معتمد.

استخدم مؤشرات تكشف القرارات والتعرض المتبقي

احسب مسارات الاستخدام الفريدة والملاك المعينين والفرز المتأخر والنتائج المكتملة. وسجل سبب تعطل المراجعة: أدلة مورد ناقصة أو ملكية معلومات غير واضحة أو غياب بديل أو حادث لم يحسم. تخبر هذه المؤشرات الإدارة أين تتدخل. وقد يعني ارتفاع الإفصاحات تحسن الرؤية، لا تدهور السلوك.

لا تعرض النطاقات المحجوبة باعتبارها مخاطر أزيلت. فقد يدعم نطاق واحد عدة استخدامات، وقد تشترك خاصية مدمجة في نطاق برنامج أعمال معتاد. كما تصف أعداد الإفصاحات والمنتجات والمسارات أشياء مختلفة. أظهر أساس الحساب والفترة المشمولة.

في المثال، اعرض 18 إفصاحاً طوبقت إلى سبعة منتجات و12 مساراً، ثم بيّن حالة المسارات الاثني عشر. لا تحول العدد إلى نسبة تبنٍّ بين الموظفين دون مجتمع ومنهج مناسبين. ويربط دليل مؤشرات الحوكمة هذه الحالات التشغيلية بتقارير الإدارة.

امنع تحول إعادة الاكتشاف إلى أسلوب التشغيل المعتاد

أدخل الاستخدامات المعتمدة المكتشفة في السجل وإجراء المشتريات. واسأل عند التجديد عن خصائص الذكاء الاصطناعي المضافة، ووفر لملاك التطبيقات قناة للإبلاغ عن القدرات الجديدة. وتهم حوكمة الذكاء الاصطناعي المشترى والمدمج خصوصاً عندما تتغير منصة قائمة دون طلب شراء جديد.

اجعل القائمة المعتمدة قابلة للبحث بالمهمة والمنتج. فقد لا يعرف من يحتاج إلى تلخيص عروض الأسعار المنصة التي توفر الوظيفة المعتمدة. أدرج المعلومات المسموح بها وقناة مساعدة مباشرة. وحافظ على حداثة القائمة حتى لا يتعلم الموظفون أن تعليماتها خاطئة باستمرار.

راجع لاحقاً عينة من الحالات المغلقة للتحقق من استمرار النتيجة: هل عادت الإضافة؟ هل لبّى البديل الحاجة؟ هل تغير الحساب؟ هذه متابعة موجهة لقرار معروف، لا مبرر لمراقبة غير محدودة. استخدم النتائج لتحسين الإجراء وإرشادات الموظفين.

طابق إشارات الاكتشاف المتعارضة

أنشئ قائمة محدودة للحالات التي تختلف فيها الأدلة. فقد يذكر موظف أنه توقف عن استخدام حساب شخصي، بينما تستمر إشارة اتصال شبكي بالظهور. وربما تعكس الإشارة جلسة قائمة أو استخدام موظف آخر أو طلبا في خلفية المتصفح أو خاصية مختلفة تشترك في الخدمة. لا تعتمد أيا من هذه التفسيرات دون فحص مناسب، ولا تتعامل مع اختلاف الأدلة باعتباره إثباتا تلقائيا لعدم صدق الإفصاح.

سجّل الملاحظة ومصدرها ووقتها ودرجة الثقة فيها والسؤال المطلوب حسمه. واطلب من المالك أقل قدر من الأدلة تدخلا مما يستطيع الإجابة عن السؤال. قد يثبت فحص محدد للإعداد أن الإضافة لا تزال مفعلة، بينما قد لا يحدد سجل الشبكة المستندات التي عولجت. حافظ على هذا الفرق في ملف الحالة وفي تقرير الإدارة، حتى لا تتحول ملاحظة محدودة إلى استنتاج أوسع مما تدعمه.

في مثال تلخيص عروض الأسعار، اربط الإفصاح المعني بالأذونات الفعلية للإضافة ونوع الحساب المستخدم. وإذا أبلغ عدة موظفين عن المسار نفسه، فاحتفظ بتحقيق مشترك وسجّل الإعدادات المختلفة جوهريا لكل منهم. تجنب فتح حالات مكررة بلا فائدة، لكن لا تدمج مسار الحساب الشخصي في النسخة المؤسسية لمجرد تطابق اسم المنتج. فاختلاف الحساب قد يعني اختلاف الإدارة والاتفاقات والوصول المتاح للجهة.

افصل إغلاق الوصول عن إغلاق السجلات واستمرار العمل

يتطلب الانتقال إلى بديل حسم ثلاثة أسئلة عملية على الأقل: هل توقف المسار السابق؟ وهل عولجت السجلات والالتزامات التاريخية؟ وهل يستطيع الفريق أداء المهمة المطلوبة الآن عبر مسار مقبول؟ قد تكتمل الحالة في أحد هذه الجوانب وتبقى مفتوحة في غيره. استخدم حقولا مستقلة بدلا من حالة خضراء واحدة تخفي ما تبقى من عمل.

قد تكون الإضافة معطلة، ويكون مسار التلخيص المعتمد متاحا، بينما يظل رد المورّد بشأن وصول الدعم السابق معلقا. اعرض هذا الوضع بدقة. لا يلزم إعادة فتح اعتماد الاستخدام المستقبلي لمجرد نقص الدليل التاريخي، كما لا يجوز إغلاق التحقيق السابق لمجرد انتقال الموظفين إلى أداة أخرى. ولكل قرار مالك ودليل إغلاق يناسبانه.

عند التسليم، أعطِ مالك التطبيق المسار المعتمد والمستخدمين والقيود ومسببات إعادة الفتح. وأعطِ مالك الحادث المسائل التاريخية غير المحسومة، ومالك إجراء العمل مشكلات سهولة الاستخدام المتبقية. يساعد هذا التوزيع على منع إخفاق متكرر: يعتبر الأمن المهمة منتهية، بينما لا يملك الموظفون وسيلة عملية لإنجازها، فيعود الاستخدام غير المعتمد دون أن يراه أحد في سجل المتابعة.

أنشئ استجابة تصل الاكتشاف بالتنفيذ

تربط الاستجابة المكتملة الاكتشاف والفرز والقرار والمتابعة. ويستطيع شخص لكل مسار شرح المهمة والأدلة والقرار والإعداد الحالي والالتزامات المتبقية. كما يميز فريق الحوكمة بين اعتماد مغلق وتحقيق مغلق وانتقال مكتمل، بدلاً من جمعها في حالة عامة واحدة.

جهز الإفصاحات الحالية وقوائم التطبيقات وبعض المسارات غير المحسومة لـمناقشة تأسيس حوكمة الاستخدام غير المعتمد للذكاء الاصطناعي. ويساعد تأسيس حوكمة الذكاء الاصطناعي على وضع إبلاغ ومراجعة متناسبين، يساندان إنجاز العمل المفيد ويظهران التعرض والصلاحيات بوضوح.