خدمات تشغيل وكلاء الذكاء الاصطناعي

أصبح وكلاؤك يعملون فعلياً. والآن اجعل تشغيلهم جديراً بالاعتماد.

قد يقدّم الوكيل إجابة مقنعة بينما لا ينجز العمل الذي يفترض أن يرافقها. وقد يسترجع سياسة قديمة، أو يكرّر إجراءً بعد انتهاء مهلة الاتصال، أو يستهلك ميزانية غير متوقعة، أو يترك حالة استثنائية بلا مسؤول. نجاح العرض التجريبي لا يجيب عن السؤال التشغيلي: ماذا يحدث عندما يصبح النظام جزءاً من يوم عمل الموظفين؟

تقدّم Open for AI خدمات تشغيل وكلاء الذكاء الاصطناعي AgentOps للمؤسسات في السعودية: الممارسات الهندسية والتشغيلية اللازمة لمراقبة الوكلاء وتقييمهم وإطلاق تغييراتهم والتعافي من إخفاقاتهم في بيئة الإنتاج. نربط النشاط التقني بنتائج العمل، ونضع ضوابط للإجراءات والتغييرات، ونزوّد فريقك بطريقة عملية لإدارة النظام بعد الإطلاق.

الهدف محدد: معرفة ما فعله الوكيل، وهل كانت النتيجة مقبولة، وما تكلفتها، ومَن يتدخل عندما لا تكون كذلك.

متى يحتاج الوكيل إلى نموذج تشغيل، لا إلى عرض تجريبي آخر؟

هذه الخدمة مناسبة للقادة التقنيين الذين يتسلّمون مشروعاً تجريبياً، ولفرق المنتجات التي توسّع مسؤوليات وكيل، ولفرق العمليات التي تتعامل بالفعل مع أخطائه. وتزداد أهميتها عندما يستطيع الوكيل استخدام أدوات العمل، أو تنفيذ خطوات عبر عدة أنظمة، أو تسليم مهام إلى وكيل آخر.

قد تكون نقطة البداية تراجعاً غير مفسّر في جودة المهام، أو زيادة في استهلاك النماذج، أو تفاوتاً في الإجابات العربية، أو تراكماً في قائمة المراجعة، أو عدم وضوح أثر تغيير النموذج أو التعليمات. وأحياناً يعمل النظام تقنياً، لكن لا يستطيع أحد إثبات فائدته الفعلية للنشاط.

نبدأ بسير عمل تشغيلي واحد وبمسؤوله المحاسب على النتيجة. ونحدّد الإجراء المقصود، والدليل اللازم لاعتباره مكتملاً، وعواقب الإخفاق. وبذلك يظل التركيز على عمل مفيد، لا على جمع كل مؤشر متاح.

الفرق بين مراقبة تطبيق وتشغيل وكيل ذكاء اصطناعي

نستخدم مصطلح AgentOps في هذه الخدمة للدلالة على تشغيل أنظمة الذكاء الاصطناعي التي تستخدم الأدوات طوال دورة عملها. زمن استجابة النموذج واستهلاك الرموز والأخطاء مدخلات مفيدة، لكن وحدة الاهتمام الأساسية هي مهمة العمل. فقد تنجح استجابة واجهة برمجية بينما تفشل المهمة.

نبني على أدوات مراقبة التطبيقات وإدارة الحوادث والنشر الموجودة لديك. ولا نفترض الحاجة إلى منصة منفصلة أو إطار معين لبناء الوكلاء. وعندما توفّر أداة قائمة أدلة موثوقة، نستفيد منها بدلاً من تكرارها.

نُبقي ثلاث مسؤوليات واضحة: يحدّد مسؤول العمل النتيجة المقبولة؛ ويتحكم المسؤول التقني في النظام واعتمادياته؛ ويتسلّم فريق التشغيل الاستثناءات ويقرّر ما يحتاج إلى تدخل. لوحة المؤشرات دون هذه المسؤوليات ليست نموذج تشغيل مكتملاً.

تتبّع مهمة واحدة من الطلب إلى النتيجة المتحقّق منها

لنتأمل سير عمل توضيحياً يطلب فيه موظف من وكيل إنشاء حالة خدمة. ينشئ النظام المستقبِل الحالة، لكن الاتصال ينتهي قبل وصول التأكيد. قد تؤدي إعادة المحاولة دون تحقق إلى إنشاء حالة ثانية، وقد تخفي رسالة «تم التنفيذ» حالة عدم اليقين. لا يوفّر أيّ منهما تسليماً موثوقاً للعمل.

يميّز تصميم التشغيل بين إجراء تمت محاولته، أو أُقرّ باستلامه، أو جرى التحقق منه، أو بقي غير محسوم، أو فشل. يفحص مسار التعافي النظام المستقبِل متى أمكن، ويستخدم آلية لمنع تكرار أثر الطلب عندما يدعمها النظام، ويحيل الحالات غير المحسومة للمراجعة. وإذا كانت واجهة طرف ثالث لا تدعم منع التكرار بصورة موثوقة، نسجّل هذا القيد كقرار رقابي صريح، لا كضمان مفترض.

يمكن لمواصفة التتبّع الخاصة بسير العمل أن تسجّل معرّفاً رابطاً للمهمة، والإعداد المنشور، ومراجع المصادر ذات الصلة، وطلبات الأدوات ونتائجها، وحالة الموافقة، والزمن، والتكلفة، والنتيجة النهائية. نسجّل أحداثاً قابلة للملاحظة؛ ولا نقدّم تفسيراً يولّده النموذج بوصفه دليلاً على استدلاله الداخلي.

توفّر الاتفاقيات الدلالية في OpenTelemetry مفردات مشتركة لبيانات الرصد. ونختار الاتفاقيات المستخدمة في التنفيذ ونوثّقها، حتى لا يغيّر تحديث مزوّد أو مكتبة معنى مؤشر تشغيلي دون انتباه.

ما الذي نؤسّسه عملياً؟

تقييم للنتائج يعكس سير العمل الحقيقي

نحدّد النتائج المقبولة مع الخبراء المعنيين لديك، ونجمع حالات تمثيلية، ونفصل أمثلة التطوير عن تقييم الإطلاق. ويمكن للتقييم التمييز بين صحة المعلومات، وجودة الأدلة، واختيار الأداة الصحيحة، والتنفيذ المصرّح به، والتصعيد المناسب. هذه أسئلة مختلفة؛ ولا ينبغي لدرجة إجمالية أن تخفي إخفاقاً في أحدها.

عند استخدام العربية والإنجليزية، نراجع حالات كل لغة بصورة مستقلة. وتحتاج الطلبات المختلطة لغوياً وأسماء المنتجات والتواريخ الملتبسة والمستندات المتعارضة إلى أمثلة خاصة. قد تساعد المقيمات الآلية على توسيع المراجعة، لكننا نتحقق من أحكامها مقابل حالات راجعها البشر، ونُظهر مواضع الاختلاف.

ضوابط للإجراءات خارج النموذج

نرسم خريطة للإجراءات التي يجوز للوكيل طلبها والصلاحيات اللازمة لتنفيذها. وقد يشمل التنفيذ بيانات اعتماد محدودة النطاق، والتحقق من مدخلات الأدوات، وفحص الموافقات، وحدود الإنفاق، وقيوداً على العمليات الحساسة. توجيه النموذج إلى «طلب الإذن» لا يساوي منع طبقة التنفيذ لإجراء غير معتمد.

يتوافق هذا التمييز مع إرشادات OWASP لمنع حقن التعليمات، التي تناقش التحقق من استخدام الأدوات وربط الموافقة بالإجراء. ونختار الضوابط حول سير عملك، لا باعتبارها قائمة موحّدة لكل الأنظمة.

تعافٍ يراعي ما ربما نُفّذ بالفعل

نحدّد إعادة المحاولة ضمن حدود، وسلوك انتهاء المهلة، وحالات محفوظة للمهمة، ومسارات التصعيد. ويجب أن يراعي التعافي التنفيذ الجزئي: التراجع عن إصدار برمجي لا يلغي رسالة أُرسلت أو سجلاً تغيّر بالفعل. وعندما يكون إجراء تعويضي ممكناً، نوثّق صلاحيته وشروطه وأدلته.

نحدّد البدائل الآمنة عمداً. قد يكون الرد المناسب على غياب المصدر طلب توضيح؛ وقد يكون الرد على تعطل التكامل مهمة يدوية في قائمة انتظار. أما إنتاج جواب غير مسنود للمحافظة على نسبة الإكمال فليس بديلاً مقبولاً.

ضبط الإصدارات بما يتجاوز الشيفرة

يمكن للتعليمات والنماذج وإعدادات الاسترجاع والأدوات والسياسات ومجموعات المصادر أن تؤثر في السلوك. نحدّد التغييرات التي تستلزم اختبارات رجعية، ومَن يعتمدها، وكيفية استعادة الإعداد السابق. ويربط سجل الإصدار المكوّنات المتغيرة بأدلة التقييم والموافقة.

حيث تسمح البيئة، يمكن اختبار التغيير على نطاق محدود قبل توسيعه. وتحدّد الخطة شروط الإيقاف، ومسؤولية القرار، وطريقة التعامل مع المهام الجارية. كما تشمل المراقبة والاستجابة تغييرات المزوّد الواقعة خارج تحكمك المباشر.

ضبط تكلفة يرتبط بالعمل المقبول

نقيس التكلفة على مستوى المهمة، بما يشمل استدعاءات النماذج والاسترجاع وإعادة المحاولات والأعباء التشغيلية ذات الصلة. وإذا كان وقت المراجعة مؤثراً، يُدرج في المقياس التجاري أيضاً. انخفاض تكلفة استدعاء النموذج ليس وفراً إذا أنتج مزيداً من العمل المرفوض.

يمكن تطبيق ميزانيات لكل مهمة أو مجموعة مستخدمين أو حمل عمل، مع استجابة واضحة عند بلوغ الحد. ونميّز بين الإبلاغ عن التكلفة بعد التنفيذ ومنع حلقة غير منضبطة قبل استهلاك موارد إضافية.

بطاقة مؤشرات يستطيع فريق العمليات استخدامها

أمثلة لمقاييس تشغيلية تُعرّف وفق سير العمل المتفق عليه

المقياس	السؤال الذي يجيب عنه	قيد مهم في التفسير
إكمال المهمة المتحقّق منه	هل تحققت نتيجة العمل المقصودة؟	تعريف المهام الداخلة في القياس ودليل الإكمال، وإدراج الإخفاقات في المقام.
نسبة المخرجات المقبولة	هل استوفى العمل المراجع المعايير؟	إظهار نطاق المراجعة وفصل التصحيحات الجوهرية عن التحرير الشكلي.
زمن الإكمال من البداية للنهاية	كم انتظر المستخدم نتيجة قابلة للاستخدام؟	إدراج الانتظار والموافقات وإعادة المحاولة، وفحص الحالات البطيئة إلى جانب الوسيط.
تكلفة المهمة المقبولة	ما تكلفة العمل المفيد فعلاً؟	تعريف بنود التكلفة وإظهار المحاولات المرفوضة بدلاً من إخفائها.
عمر الاستثناء ومسؤوله	هل تُعالج المهام الفاشلة أو غير المحسومة؟	تعيين مسؤول وقاعدة للتصعيد، لا مجرد تنبيه.

تُتفق الأهداف وفق خط الأساس وعواقب الإخفاق، ولا نضع نسبة دقة موحّدة غير مسنودة لكل وكيل. وتشكّل إرشادات Google لأهداف مستوى الخدمة مرجعاً مفيداً للتعبير عن الاعتمادية بما يهم المستخدم؛ ونوسّع هذا النقاش في بطاقة AgentOps ليشمل نتائج العمل المقبولة.

بيانات رصد تساعد التحقيق دون كشف كل شيء

صلاحية معالجة الأخطاء لا تعني الإذن بالاحتفاظ بكل محادثة إلى أجل غير محدد. نتفق على ما يُسجّل وما يُحجب، ووجهة البيانات، ومَن يحق له فحصها، ومدة الاحتفاظ بها. وتشير إرشادات رصد الذكاء الاصطناعي التوليدي في OpenTelemetry إلى حساسية محتوى الطلبات والأدوات. يبدأ تصميمنا بالحد الأدنى من الأدلة اللازمة للغرض التشغيلي، ويحتاج الجمع الأعمق إلى تصريح صريح.

في المشروعات السعودية، تشمل المراجعة مواقع البيانات ذات الصلة، وجهات المعالجة الخارجية، ومسارات الوصول، ومسؤوليات التقييم بالعربية والإنجليزية. ونعمل مع مسؤولي الخصوصية والأمن على متطلبات المشروع بدلاً من افتراض أن وصف الاستضافة بأنها محلية يحسم جميع مسائل معالجة البيانات.

ينبغي أن يتيح سجل الحادث للمحقق المخوّل تحديد الإعداد المنشور، وإعادة بناء تسلسل الأحداث القابلة للملاحظة، وتحديد الأثر والتحقق من التعافي. ولا ينبغي أن يتحول إلى نسخة ثانية غير منضبطة من بيانات التشغيل.

التسليم هو قدرة تشغيلية

قد يشمل النطاق المتفق عليه حصر الوكلاء والاعتماديات، وأدوات الرصد، وحزمة التقييم، وفحوص الإطلاق، ولوحات المهام والتكلفة، وإجراءات الحوادث، وورشة التسليم. ولكل مخرج عرض قبول عملي.

مثلاً، ينبغي أن يتمكن فريقك من معرفة سبب فشل مهمة مختارة، وتتبع موافقة إلى الإجراء المنفّذ، ومشاهدة توقف التنفيذ عند استنفاد الميزانية، والتدرّب على تعطل اعتماد خارجي. هذه اختبارات محددة النطاق، وليست ادعاء بإزالة كل إخفاق مستقبلي.

يمكن البدء بتقييم تشغيلي، أو تنفيذ الضوابط المحددة، أو دعم مراجعة دورية متفق عليها. وتُحدّد ساعات الدعم وتوقعات الاستجابة والوصول للإنتاج وملكية الحوادث في الاتفاق. ولا تُفترض تغطية على مدار الساعة.

يعتمد النطاق والسعر على عدد مسارات العمل، وأنواع الإجراءات، وحدود التكامل، والرصد القائم، ومادة التقييم، واللغات، وتوقعات الدعم. أحضر مخطط البنية والسجلات المتاحة والحوادث التي تقلقك؛ فالبداية فجوة تشغيلية محددة، لا انتقال إجباري إلى منصة جديدة.

اختر الخطوة التالية المناسبة

إذا كنت تحتاج إلى تحديد مَن يجيز استخدام الذكاء الاصطناعي، فابدأ بـتأسيس حوكمة الذكاء الاصطناعي. وإذا كنت تحتاج إلى فحص محدد لفاعلية الضوابط، فاستخدم تدقيق الذكاء الاصطناعي. وإذا كان النظام لا يحصل على معلوماته بصورة موثوقة، فإن جاهزية البيانات والذكاء الاصطناعي للمؤسسات تعالج هذا المتطلب السابق.

تكون AgentOps الخطوة المناسبة عندما تتحول المسؤولية إلى عمل تشغيلي فعلي. اطلب مناقشة احتياجات تشغيل الوكلاء، وحدّد سير العمل وبيئته الحالية والسلوك الذي تريد جعله جديراً بالاعتماد.