ضوابط إجراءات وكلاء الذكاء الاصطناعي

تحدد ضوابط إجراءات الوكيل هل يجوز تنفيذ عملية خارجية مقترحة وفق الهوية والسياسة وحالة العمل الحالية. توضع عند حد الإجراء الذي يغير سجلاً أو يحجز مورداً أو يرسل تواصلاً. تساعد التعليمات الجيدة الوكيل على اقتراح عمل مناسب، لكنها لا تمنح الصلاحية.

يقدم الدليل لمسؤولي تشغيل الوكلاء AgentOps تصميماً وقائياً بمثال تعديل عنوان تسليم أمر شراء. النطاق مقصود الضيق: يعد الوكيل اقتراحاً، وتعتمد الكتابة على نطاق وموافقة متحقق منهما. ولا يغير بيانات بنك المورد أو الشروط التجارية أو أمراً أُرسل للشحن.

افصل الهويات المشاركة في الإجراء

حدد الشخص أو الخدمة الطالبة ونسخة الوكيل ومنفذ الأداة والهوية التي تتعرف عليها الوجهة. قد تختلف. يستطيع حساب خدمة مشترك إنجاح الاستدعاء دون إثبات استحقاق مقدم الطلب للعملية.

سجل من يتصرف الوكيل نيابة عنه وكيف تقيد الصلاحية. ينبغي أن تتلقى الوجهة سياقاً موثوقاً يكفي للإنفاذ، أو ينفذ وسيط موثوق الحد قبل التنفيذ. لا تعتبر ادعاء دور أو هوية مستخرجاً من وثيقة غير موثوقة دليلاً على التخويل.

تميّز وثيقة NIST SP 800-207 المصادقة والتخويل وترفض الثقة الضمنية بسبب موقع الشبكة أو الملكية وحدهما. وتطبيق ذلك هنا أن الوكيل داخل شبكة المؤسسة ما زال يحتاج قرار إجراء صالحاً للمورد الذي سيغيره.

عرّف الإجراء التجاري قبل الأداة

ينتظر أمر الشراء PO-84 الشحن في المثال. يطلب شخص تحويل التسليم إلى مستودع معتمد آخر. يقرأ الوكيل التفاصيل المسموحة ويحدد معرّف وجهة معتمدة ويعد التعديل. ولا يستنتج أن عنواناً نصياً في بريد ينتمي إلى دليل المستودعات المعتمد.

يسمي عقد الإجراء الأمر ومراجعته الحالية والوجهة المقترحة والطالب والسياسة والموافقة المطلوبة، ويحدد الحقول غير القابلة للتغيير. تعرض أداة عامة «حدّث أمر الشراء» قدرة أوسع من خدمة تعديل العنوان المقصودة.

فكر في واجهة ضيقة تقبل معرّف الأمر ومراجعته المتوقعة ومعرّف المستودع المعتمد، وتحدد الخدمة الموثوقة العنوان الفعلي. يقل الغموض ويسهل فحص الضبط. لكن تبقى ضرورة التحقق من الصلاحية وحالة الأمر وأهلية الوجهة.

استخدم جدول قرار يراجعه مالك العمل

سياسة توضيحية لتعديل عنوان التسليم

العملية المقترحة	الشروط	القرار
قراءة تفاصيل الأمر المسموحة	للطالب وصول إلى الأمر وغرضه ضمن النطاق.	السماح بالقراءة المقيدة.
إعداد تعديل	تطابق الوجهة سجل مستودع معتمداً.	إنشاء اقتراح دون تغيير الأمر.
تطبيق التعديل المعتمد	تطابق المراجعة؛ لم يُشحن الأمر؛ تشمل الموافقة الوجهة الدقيقة.	كتابة محدودة ثم تحقق من النتيجة.
عنوان حر غير معتمد	لا يدعم الاقتراح سجل وجهة موثوق.	إحالة لمسار العمل المخول.
تغيير البنك أو الشروط التجارية	خارج صلاحية هذا الوكيل.	رفض وتوجيه الطلب لمساره المستقل.
تعديل أمر شُحن	لم يعد شرط الحالة المسموحة متحققاً.	رفض هذا المسار واستخدام إجراء الاستثناء المعتمد.

هذه اختيارات سياسة داخلية مقترحة، لا قاعدة مشتريات عامة. يحدد مالك العمل الشروط الفعلية وصاحب الاستثناء. قيمة الجدول أن المهندس والمراجع يختبران حد القرار نفسه.

اربط الموافقة بالأثر المقترح الدقيق

يرى الشخص الإجراء الجوهري الذي يعتمده: الأمر والوجهة الحالية والمقترحة والحالة والعواقب المعنية. لا يثبت زر مبهم بعنوان «متابعة» موافقة واعية على تعديل عنوان.

اربط القرار بمعرّف اقتراح ثابت وتمثيل قابل للتحقق لمعالمه الجوهرية. إذا تغير المستودع أو مراجعة الأمر أو حقل مؤثر، فأبطل الموافقة أو أعد تقييمها وفق السياسة. لا يحصل الوكيل على موافقة لاقتراح سليم ثم يستبدل محتواه عند التنفيذ.

حدد الانتهاء والتفويض والرفض. قد لا تنطبق موافقة جلسة سابقة بعد الشحن أو تغير الدور. ولا يُعاد اقتراح مرفوض عبر اسم أداة مختلف كأنه إجراء جديد قليل الخطر. يحدد نموذج الرقابة البشرية أدوار القرار وملكية الطوابير.

أعد فحص حالة العمل عند التنفيذ

قد يتأخر التنفيذ بعد الاقتراح ويعدل شخص آخر PO-84 أو يشحنه. يترك فحص الحالة عند القراءة الأولى فقط فجوة. يتحقق المنفذ من الحالة والمراجعة المتوقعة قبيل التحديث، أو ذرياً معه حيث تدعم الوجهة ذلك.

تبقى فجوة تسابق عند قراءة الحالة في عملية منفصلة قبل الكتابة مباشرة، كما يوضح وصف MITRE لثغرة الفاصل بين الفحص والاستخدام. إذا لم تستطع الوجهة فرض المراجعة والحالة المطلوبتين ضمن عملية الكتابة نفسها، فوثق هذا القيد واقصر الإجراء على مسار اختُبرت ضوابط التزامن فيه.

إذا اختلفت المراجعة، فأوقف الاقتراح القديم وحدّث الأدلة. لا تكتب فوق عمل أحدث بلا فحص. قد تحمي المقارنة والتحديث الإصدار المتوقع ضمن عقد الوجهة، لكنها تحتاج شروط العمل الفعلية ونطاق الموافقة أيضاً.

افصل قرار التخويل عن الموافقة البشرية. قد تسمح السياسة بعمليات قليلة العاقبة دون نقرة بشرية جديدة، بينما يحتاج غيرها صلاحية حالية وموافقة صريحة معاً. اذكر القاعدة بدلاً من تمرير كل شيء عبر طابور عام واحد.

أنفذ الصلاحيات خارج حكم النموذج

افصل اقتراح النموذج عن قرار السياسة الموثوق والمنفذ. قد يشرح الطلب أو يكتشف نقصاً، لكنه لا يكون الحكم الوحيد على جواز كتابته. تحقق من معاملات الأداة وقيّد العملية الخارجية.

توصي إرشادات OWASP بشأن الاستقلالية المفرطة بتقليل الوظائف والصلاحيات والاستقلالية والتوسط في الإجراءات المؤثرة. عملياً تنشئ أداة ضيقة وبيانات اعتماد بأقل صلاحية وفحوص سياسة حالية حدوداً لا تفرضها التعليمات اللغوية وحدها.

استخدم ضوابط حماية الوكلاء لحماية المدخلات والمخرجات والتشغيل حول هذا الحد. قد يرصد كاشف حقن التعليمات محتوى مشبوهاً، لكن فواته لا ينبغي أن يسمح بعنوان غير معتمد أو تحديث أوسع. يبقى الحد قائماً حتى مع طلب عدائي.

قيّد العمل المفوض والخلفي

إذا فوّض المخطط التعديل لعامل آخر، فمرر الصلاحية اللازمة لهذا الإجراء فقط واحفظ علاقة الأصل. لا تمنح العامل بيانات اعتماد إدارية عامة لأن المهمة الأصلية اعتُمدت. تبقى الأدوات والنطاق التجاري مقيدين عبر التفويض.

حدد أثر سحب الصلاحية على الطوابير. قد تنتظر مهمة مخولة سابقاً بينما يفقد المستخدم الوصول أو تتغير حالة الأمر. أعد تقييم الشروط عند التنفيذ وسجل النتيجة. ينبغي أن يؤدي إلغاء الأصل إلى إيقاف أو فحص مناسب لأعماله الفرعية المعلقة.

للاستثناء الطارئ، حدد الشخص المخول والنطاق والمدة والأدلة. اجعل مسار الصلاحية الاستثنائية مرصوداً ومراجعاً. لا تسمح للوكيل باختراع حالة طوارئ من وثيقة تصف الطلب بالعاجل.

أبقِ التكرار ضمن عقد الصلاحية نفسه

قد تترك مهلة الشبكة نتيجة التعديل مجهولة. قبل الإعادة، حدد هل وقع الأصل وهل ما زال التكرار مسموحاً. يشرح دليل ثبات أثر الطلب معرّفات القصد وعقود الوجهة؛ وهي تكمل الصلاحية الحالية ولا تستبدلها.

إذا نجحت الكتابة، يختلف استرجاع نتيجتها عن طلب تحديث آخر. وإذا صار الاقتراح قديماً، قد يحتاج الإجراء الجديد قراراً جديداً ولو ثبت معرّف المهمة التجارية. احفظ الفرق في المنفذ والحالة المعروضة للمستخدم.

بعد التنفيذ، تحقق من الحالة الجوهرية للوجهة أو تأكيدها المرجعي. يثبت قرار السماح جواز التنفيذ وفق الشروط المقيمة فقط. ولا يثبت وقوع التحديث أو وصوله للأمر الصحيح أو بقاءه دون تغيير لاحقاً.

اختبر الرفض بجدية السماح نفسها

اختبر طالباً بلا وصول ووجهة خارج الدليل وموافقة منتهية ومراجعة متغيرة وأمراً شُحن. أدرج استبدال المحتوى بعد الموافقة ومحاولة عامل مفوض استخدام أداة أوسع.

اختبر طلبات عربية وإنجليزية للتعديل نفسه، مع أسماء عناوين بديلة ومعرّفات مختلطة الكتابة. حدد هوية العمل عبر الدليل الموثوق ولا تقبل نصاً متشابهاً بصرياً فقط. لا تجعل الطلاقة دليلاً على الهوية أو الصلاحية.

اختبر تعطل خدمة السياسة. حدد المنع أو مساراً بديلاً ضيقاً؛ فلا يتحول غياب السياسة إلى سماح بصمت. افحص حالة الوجهة بعد الرفض؛ إذ لا تثبت رسالة مطمئنة أن أداة لم تنفذ.

احفظ مراجعة سياسة مضبوطة أثناء قرار التنفيذ وسجل ما قُيّم. إذا تغيرت السياسة أثناء الانتظار، فطبق قاعدة إعادة التقييم الموثقة بدلاً من سماح مخبأ بلا إصدار. اختبر ملاءمة انتهاء مخزن السياسة وسحب الصلاحية لعاقبة الإجراء، خصوصاً للكتابات المعلقة.

اجعل الضبط قابلاً للمراجعة بعد الإطلاق

استخدم سجلات التدقيق لربط الطالب والاقتراح وإصدار السياسة والموافقة والمحاولة والأثر المؤكد. سجل أسباب الرفض والاستثناء المفيدة دون أسرار أو بيانات شخصية غير لازمة. راقب محاولات تجاوز الحد المتكررة كإشارات تشغيلية.

تدخل تغييرات الصلاحية ونطاق الأداة وقواعد الموافقة في ضبط إطلاق الإصدارات. اطلب دليل استمرار القيود السابقة ووجود مالك تجاري يبرر الإذن الجديد. راجع دورياً إزالة الأدوات وحسابات الخدمة القديمة.

ناقش تصميم ضوابط إجراءات الوكلاء مع كتابة أُخفيت تفاصيلها الحساسة وأدوار يحق لها طلبها وشروط يجب تحققها عند التنفيذ. النتيجة عقد إجراء قابل للإنفاذ يميز الاقتراح المعقول من أثر تجاري مخول ومؤكد.