مبادئ سدايا لأخلاقيات الذكاء الاصطناعي: دليل الأعمال

قد تعلن شركة سعودية التزامها بالذكاء الاصطناعي المسؤول، ثم تواجه قراراً غير واضح بشأن نظام محدد. من يحصل على خدمة أسوأ عند نقص المعلومات؟ هل يستطيع الشخص الاعتراض على نتيجة ساهم فيها الذكاء الاصطناعي؟ وهل يملك المراجع الوقت والدليل اللازمين للتدخل؟ تحوّل هذه الأسئلة الأخلاقيات من إعلان نوايا إلى ممارسة في التصميم والإدارة.

يساعد هذا الدليل قادة الالتزام وملاك المنتجات وفرق المشتريات على استخدام مبادئ سدايا في المراجعات العملية. وتتناول أمثلته مساعداً افتراضياً لتوجيه طلبات الخدمة. والأسئلة والوثائق أدناه أساليب عمل مقترحة، وليست قائمة رسمية من سدايا أو ادعاءً بالحصول على اعتماد.

اقرأ المصدر وحدّد القرار

تقدم سدايا في وصفها الرسمي الحالي مبادئ أخلاقيات الذكاء الاصطناعي كمرجع وطني للقطاعين العام والخاص. وتتبع مسميات الجدول النسخة الإنجليزية المتاحة المؤرخة في سبتمبر 2023. ولتحديد الامتثال رسمياً، تحقّق من الإصدار الحالي المنطبق والمتطلبات النظامية والقطاعية والتعاقدية للمنشأة. أما الأسئلة التطبيقية هنا فهي أدوات مساعدة للمراجعة.

ابدأ المراجعة بجملة قرار: «يوصي المساعد بمسار طلب الخدمة، ويؤكد موظف وجهته». أضف الأشخاص المتأثرين والمعلومات المستخدمة وعواقب التوصية الخاطئة وسبيل المعالجة. أما مراجعة «روبوت المحادثة لدينا» فهي أوسع من أن تكشف من قد يتضرر وأين يصبح التدخل مهماً.

اربط المراجعة الأخلاقية بحوكمة الذكاء الاصطناعي في المنشأة. سجّل من يعتمد الاستخدام، ومن يمثل المتأثرين، ومن يستطيع إيقافه. وينبغي أن تدخل المسائل الأخلاقية عملية القرار مع التكلفة والتنفيذ، بأدلتها الخاصة بدلاً من جملة متفائلة في مبررات المشروع.

سبعة مبادئ وسبعة أسئلة عملية

أسئلة مراجعة مقترحة مرتبة وفق مبادئ سدايا السبعة

المبدأ	سؤال في مثال توجيه الطلبات	الدليل المطلوب
العدالة	هل تتلقى الطلبات المتساوية في الاستعجال معالجة متقاربة عبر أنماط اللغة المدعومة؟	تحليل الأخطاء حسب الفئات ومراجعة الطلبات التي خُفضت أولويتها خطأً
الخصوصية والأمن	هل تُنجز المهمة دون كشف تاريخ العميل بأكمله؟	خريطة للمعلومات على مستوى الحقول واختبارات الوصول
الإنسانية	هل يحصل الشخص على مساعدة بشرية مفيدة عند فشل المسار الآلي؟	مسار إحالة مختبر ومالك محدد للخدمة
المنافع الاجتماعية والبيئية	هل يبرر تحسن الخدمة الموارد المستهلكة والعبء المنقول إلى المستخدمين؟	قياس الخدمة قبل التغيير وبعده وتقدير استخدام الموارد
الموثوقية والسلامة	ماذا يحدث لطلب عاجل غير مألوف أو ناقص؟	نتائج الحالات غير المعتادة ومسار بديل متحفظ
الشفافية والقابلية للتفسير	هل يفسر الموظف توصية التوجيه بدليل ذي صلة؟	أمثلة تفسيرات مطابقة للسجلات الفعلية
المساءلة والمسؤولية	من يصحح التوجيه الضار ويقرر استمرار الخاصية؟	سجل مسؤوليات ومسار شكوى وتاريخ القرارات

استخدم الجدول لتحديد العمل المطلوب، لا لمنح سبع علامات اكتمال. إذا غاب دليل العدالة، فحدد الاختبار ومالكه. وإذا وُجد المسار البديل في وثيقة فقط، فجرّبه بحالة واقعية. وقد يظل المبدأ ذا صلة حتى مع تعذر قياسه بدقة؛ اشرح القيد وحدّ الاستخدام تبعاً له.

اختر سؤال عدالة يمكن التحقيق فيه

تخفي دقة التوجيه الإجمالية فرقاً مهماً: إحالة استفسار عادي إلى الفريق الخطأ تختلف عن وضع طلب عاجل في قائمة بطيئة. عرّف الخطأين بصورة مستقلة. ثم افحص وجود أساليب التواصل وحالات نقص المعلومات المتوقعة في مجموعة الاختبار.

لنفترض تقييماً توضيحياً يضم 120 طلباً بالعربية الرسمية و120 طلباً بالعربية المتداولة. يخطئ النظام في توجيه 6 من المجموعة الأولى و18 من الثانية؛ أي 5% و15%. يدعو الفرق إلى التحقيق ولا يثبت سببه. افحص اختلاف الاستعجال ونوع الطلب وجودة الوثائق والتصنيف المرجعي قبل إرجاع الفجوة إلى الأسلوب اللغوي وحده.

لا تجمع سمات حساسة إضافية لمجرد إمكان عرضها في لوحة. حدّد مع المختصين المقارنات ذات الصلة والمتناسبة والمسموح بها. وعند نقص البيانات، وثّق عدم اليقين. وقد يكون الرد المناسب تقييد الخدمة الأولية، أو زيادة مراجعة الطلبات الغامضة، أو جمع عينة تقييم أفضل ومصرح بها.

اجعل التدخل البشري قدرة فعلية في الخدمة

يفيد وجود الإنسان عندما يستطيع إدراك المشكلة والوصول إلى سياقها وتغيير النتيجة. امنح المراجعين الطلب الأصلي وخيارات التوجيه، وأظهر عدم اليقين بصورة قابلة للتصرف. لا تطلب منهم اعتماد مئات التوصيات الغامضة بينما تقيس أداءهم بسرعة الإنجاز وحدها.

اختبر التصعيد من منظور المستخدم. هل يصل صاحب الطلب المعقد إلى شخص يفهمه؟ هل تحتفظ الحالة المحالة بمعلوماتها الأصلية؟ وهل يغيّر الموظف المستقبِل المسار دون طلب إذن من باني النظام؟ هذه أسئلة تصميم خدمة ذات آثار أخلاقية.

ناقش تغير الأدوار قبل الإطلاق. يوضح دليل إدارة التغيير للذكاء الاصطناعي كيفية إعداد الفرق لسير عمل مختلف. وركّز هنا على بقاء الحكم البشري ذا معنى، وعلى الأعباء الجديدة التي قد يتحملها المستخدم، مثل تكرار حالته عبر قنوات متعددة.

ميّز التفسير عن السرد المقنع

لا تُثبت طلاقة التفسير سبب وصول النظام إلى نتيجته. في التوجيه، اطلب تحديد تفاصيل الطلب ذات الصلة وقاعدة السياسة المستخدمة، ثم طابقها مع المصدر الفعلي وإصدار السياسة. وإذا استشهد التفسير بقاعدة غير متاحة أو اختلق حقيقة، فإن نبرة الثقة تفاقم الخطأ.

تختلف المعلومات المطلوبة باختلاف الجمهور. قد يحتاج المستخدم الخطوة التالية ومسار الاعتراض، ويحتاج مراجع الخدمة المصدر والمبرر، بينما يحتاج المحقق الإعدادات وأدلة الاختبار والتاريخ. احمِ المعلومات الحساسة مع تمكين كل طرف من أداء دوره.

اكتب إفصاحاً موجزاً بلغة الخدمة: ماذا يفعل المساعد، وماذا يراجع الإنسان، وكيف تُطلب المساعدة. اختبر فهم المستخدمين له. وتجنب ادعاء أن «الذكاء الاصطناعي يجعل الخدمة دقيقة وخالية من التحيز»، لأن الإفصاح نفسه لا يثبت هذه النتيجة.

احسم المفاضلات الأخلاقية بقرار موثق

لنفترض أن المساعد يقلل زمن المعالجة الأولية، لكنه يحيل طلبات ناقصة أكثر إلى قائمة عامة. يقترح مالك المنتج حقولاً إضافية إلزامية، وتحذر العمليات من انسحاب عملاء لا يملكون وثائق كافية. لا تحسم زيادة الأتمتة أو زيادة البيانات هذا الخلاف.

أنشئ مذكرة بدائل: الإبقاء على النموذج وتحسين الفرز البشري، أو طلب توضيح اختياري واحد، أو إضافة حقول إلزامية. سجّل لكل بديل المنفعة المتوقعة والفئات المتأثرة والدليل وعدم اليقين وإمكان الرجوع ومالك العاقبة. اختبر أصغر تغيير يجيب عن السؤال المختلف عليه.

ضع شرطاً صريحاً لإعادة النظر. فإذا زاد المسار المعدل الحالات غير المحلولة في فئة خدمة مراقبة، مثلاً، أوقف التوسع وراجع التصميم. اختر العتبة وفق العمل والأثر، ولا تنسخ نسبة أخلاقية عامة. تسجّل المخاطر الجوهرية المفتوحة في سجل المخاطر، وتذهب المسائل المتجاوزة للتفويض إلى مسار موافقات مجلس الإدارة.

اطلب من المورّد أدلة تخص استخدامك

قد يصف بيان المورّد عن الذكاء الاصطناعي المسؤول مؤسسته أو نموذجه العام، بينما تخص مراجعتك الخدمة التي ستشغّلها. اطلب إصدار المنتج وحدوده وتغطية تقييمه وخيارات إعداده ومسؤوليات تحديثه. افصل ما يثبته المورّد عما ينبغي لمنشأتك اختباره.

استخدم الفحص النافي للجهالة لمورّد الذكاء الاصطناعي للتحقق من الادعاءات والمسؤوليات التعاقدية. وعند مراجعة التشغيل بواسطة مقيّم، اتفق على الاستقلالية والوصول عبر تدقيق الذكاء الاصطناعي والتوكيد. فلا يثبت تقييم ذاتي أو مراجعة إيجابية قبول كل استخدام مستقبلي.

اختم المراجعة بالتزام قابل للاختبار

المخرج المفيد سجل قرار يتضمن الاستخدام المقصود والمتأثرين والمسألة المفتوحة والمعالجة المختارة ومالك الدليل وسبب المراجعة القادمة. حدّد ما يجوز للخدمة فعله الآن، وما الأدلة الإضافية التي تدعم التوسع. واربط القرار بالحوادث والشكاوى للاستفادة من الخبرة التشغيلية.

يمكن أن تساعد استشارات الذكاء الاصطناعي الوكيلي من Open for AI في تحديد النطاق والصلاحيات وخطة التقييم. أحضر رحلة خدمة منقحة وأمثلة ممثلة ومفاضلة أخلاقية واحدة إلى نقاش مراجعة عملية لأخلاقيات الذكاء الاصطناعي. يُتفق على المخرجات ومسؤوليات المراجعة قبل الارتباط.