«الإنسان في الحلقة» عبارة يستخدمها الموردون حين يريدون أن تكفّ عن القلق. في مكان ما من المنتج يضغط شخص على «موافق»، إذن الوكيل تحت الإشراف. نرى أن هذه الجملة تخلط بين شيئين مختلفين. الموافقة حدث يقع مرة. أما الرقابة فقدرة مستمرة، وهي ما وُعدت به.
والدليل على أن الاثنين ينفصلان مباشر على غير العادة. فقد أعلنت Anthropic، الشركة التي تبني Claude Code، أن مستخدميها يوافقون على 93% من طلبات الصلاحيات. والفئة المقصودة هنا مستخدمو وكيل برمجة، فالرقم لا يخبرنا شيئاً عن الفواتير أو أوامر الشراء. لكنه يصف آلية، والآلية تنتقل من مجال إلى آخر. اطلب من شخص أن يؤكد النوع نفسه من الإجراءات أربعين مرة في اليوم، وسيتوقف عن قراءتها قبل المرة العاشرة. وكان ردّ Anthropic أن بنت مصنّفات تبتّ في بعض هذه الطلبات تلقائياً، لأن البوابة اليدوية لم تكن تحمي أحداً.
كيف يبدو الختم الشكلي داخل نظام ERP
الحالة التالية مفترضة. ليست عميلاً ولا مشروعاً سابقاً ولا قياساً. تخيّل وكيلاً يعدّ مسودات فواتير الموردين من الفواتير الواردة بالبريد، ويرسل كل مسودة إلى شخص ليؤكدها. في اليوم الأول يفحص الموظف كل حقل. وبعد ثلاثة أسابيع تحتوي القائمة مئتي بند، أغلبها صحيح، وقد تعلّم الموظف أن الزر آمن دائماً. الفاتورة الخاطئة الوحيدة تشبه الـ199 الأخرى تماماً. سُجّلت الموافقة، وسجل التدقيق نظيف، ومرّ الخطأ رغم ذلك.
لم يقصّر أحد. التصميم طلب من الإنسان أن يفعل ما يضعف فيه أكثر من أي شيء: أن يبقى متيقظاً لخطأ نادر وهو يتابع سيلاً من النجاحات.
أربعة تغييرات تجعل الحلقة حقيقية
اجعل البوابة عند العواقب لا عند الحجم. قراءة سجل ليست كترحيل قيد، وترحيل القيد ليس كصرف دفعة. اترك الوكيل يعمل بحرية في الأول، وضع البشر عند الإجراءات التي تحرّك المال أو تغيّر بيانات البنك لمورّد أو تمسّ بيانات العملاء. القائمة القصيرة بما يكفي لتُقرأ هي الوحيدة التي تُقرأ فعلاً.
اجعل إمكانية التراجع أول ضابط. إذا كان التراجع عن الإجراء رخيصاً، كمسودة يستطيع شخص حذفها، فهو يحتاج إلى مراجعة بعد وقوعه لا إلى إذن قبله. أنفق انتباه البشر على ما لا يمكن استرجاعه. وهذا يحدد أيضاً الصلاحيات التي تمنحها للوكيل أصلاً، وهي حجة مقالنا عن حقن التعليمات وأمن الوكلاء.
اعرض الفرق لا الملخص. رسالة تقول «إنشاء فاتورة للمورّد س بمبلغ 4,200» تدعو إلى نقرة. أما شاشة تعرض الحساب البنكي الذي تغيّر منذ المرة السابقة، أو المبلغ الخارج عن نطاق هذا المورّد المعتاد، فتدعو إلى قرار. على المراجع أن يرى ما هو غير معتاد، فالوكيل يعرفه أصلاً.
قِس أداء من يوافق. تتبّع كم مرة يعدّل الشخص ما اقترحه الوكيل أو يرفضه أو يعيده. معدل رفض صفري لشهور ليس دليلاً على أن الوكيل مثالي. إنه إشارة إلى أن البوابة توقفت عن العمل. ضع بين حين وآخر في القائمة حالات خاطئة معروفة سلفاً، وعدّ كم منها التُقط. هذا هو الانضباط نفسه في كتابة الاختبار قبل الوكيل، الذي شرحناه في اختبارات وكلاء الذكاء الاصطناعي قبل الإنتاج، لكن مطبّقاً على الشخص بدل النموذج.
ما نراه
الإنسان في الحلقة مسألة تصميم لها نتيجة قابلة للقياس: نسبة الأخطاء الحقيقية التي يوقفها الشخص فعلاً. فإذا عجز أحد عن تحديد هذه النسبة، فالحلقة ديكور، مهما كثرت الموافقات في السجل.
نحن ننفّذ Odoo وERPNext ونبني الوكيل خلف الشاشة، فخطوة الموافقة عندنا تُصمَّم مع الصلاحيات ولا تُضاف في آخر المشروع. وإن كنت تقرر أين يُسمح للوكلاء بالتصرف في نظامك، فصفحة منهجنا توضح كيف نحدد ذلك، وصفحة الخدمات تبيّن أين نستطيع المساعدة.
