لا تضف وكيل ذكاء اصطناعي إلى قناة الفريق قبل أن تعرف نوع الخطأ المسموح له بارتكابه. السؤال الضعيف هو: أي وكيل نستخدم؟ سؤال المشغل هو: أي فشل نقبله، من يلتقطه، ومتى يجب على الوكيل أن يتوقف؟
الوكيل الذي يظهر كزميل في الفريق قد يبدو مفيدا: يستطيع الناس الإشارة إليه، تفويض مهمة، ثم الانتقال لما بعدها. الخطر أن يبدأ الفريق في التعامل معه كموظف قبل أن تبني الإدارة بطاقة تقييم واضحة. هذه المقالة تعطيك إجراء تشغيليا خفيفا لتقييم أداء الوكيل: مهام ذهبية، معايير نجاح وفشل، قواعد تسليم للبشر، حدود صلاحيات، ومراجعة موثوقية أسبوعية.
اختيار الأداة يأتي بعد خريطة الفشل
يوضح إعلان Claude Tag أن Claude يمكن أن ينضم إلى Slack كعضو في الفريق، مع وصول إلى القنوات والأدوات التي يختارها الفريق، بحيث يستطيع الناس الإشارة إليه وتفويض مهام له. هذا ليس مجرد واجهة أوامر. إنه ينقل الذكاء الاصطناعي إلى إيقاع العمل اليومي للفريق.
هذا لا يجعل الوكيل خطيرا تلقائيا. لكنه يجعل المدير مسؤولا عن حدود العمل. لا يتم توظيف مساعد بشري وتعطى له تعليمات وحيدة تقول: حاول أن تكون مفيدا. يحصل على مسؤوليات، أمثلة، حدود موافقة، وقواعد تصعيد. الوكلاء يحتاجون الشيء نفسه، لكن بصراحة أكبر.
الخطأ الخفي هو تقييم الوكلاء عبر العروض المبهرة. العروض تكافئ الحالات النظيفة. أما العمليات فتعاقب الفريق عندما يسيء الوكيل التعامل مع حالة طرفية، أو يستخدم سياقا خاطئا، أو يكشف معلومات حساسة، أو يتخذ إجراء واثقا من دون صلاحية.
الخلاصة العملية: قبل مقارنة الوكلاء، اكتب أنواع الفشل التي تستطيع قبولها. إذا لم تستطع تسمية الفشل المقبول، فأنت غير جاهز للتفويض.
حدد الفشل المقبول قبل كتابة الأمر
الفشل المقبول هو خطأ لا يضر العميل، ولا الشركة، ولا البيانات، ولا القرار. قد يسبب إعادة عمل، لكنه لا يخلق خطرا خارج السيطرة.
مثلا، وكيل يكتب مسودة أولى لملخص اجتماع داخلي قد يفوته تفصيل دقيق. هذا قابل للاستدراك إذا راجع إنسان الملخص قبل أن يتحول إلى سجل قرار. لكن وكيل يرسل وعد تسعير نهائيا إلى عميل من دون موافقة شيء مختلف. المهارة الكتابية نفسها تصبح مخاطرة تجارية لأن المخرج خرج من الشركة وصنع توقعا.
استخدم هذا التصنيف قبل اختبار أي وكيل:
- فشل أخضر: يمكن أن يخطئ الوكيل، وتبقى الكلفة محصورة في إعادة عمل داخلية. أمثلة: المسودات الأولية، التصنيف المبدئي، توليد خيارات للنقاش.
- فشل أصفر: يمكن للوكيل أن يساعد، لكن لا بد من موافقة بشرية قبل أن يؤثر المخرج في عميل، مورد، سجل مالي، موقف قانوني، أو تصريح علني.
- فشل أحمر: لا ينبغي للوكيل أن يتصرف. المهمة تتضمن حكما سريا، إجراء لا يمكن عكسه، نصيحة منظمة، وصولا إلى حسابات، اعتماد دفع، قرارات توظيف، قرارات إنهاء خدمة، أو بيانات شخصية حساسة.
هذا ليس نصيحة قانونية أو امتثالية. إنه فلتر تشغيلي. تبقى سياسة شركتك، وعقودك، وقواعد قطاعك، وضوابط بياناتك عوامل حاسمة.
الخلاصة العملية: كل مهمة للوكيل تحتاج لون فشل قبل أن تحتاج أمرا.
إجراء تقييم أداء الوكيل
إجراء تقييم أداء الوكيل هو روتين يسبق الإطلاق لأي وكيل ذكاء اصطناعي سيشارك في عمل الفريق. يناسب المؤسسين، مسؤولي العمليات، مديري التسويق، مديري الدعم، أصحاب الوكالات، والقادة التقنيين الذين يريدون اختبار موثوقية الوكيل قبل التفويض الحقيقي.
استخدمه عندما سيقرأ الوكيل سياق الفريق، أو يكتب مخرجات لآخرين، أو يلخص محادثات، أو يقترح إجراءات، أو يطلق أعمال متابعة. لا تستخدمه بديلا عن مراجعة الأمن أو القانون أو الامتثال أو المشتريات عندما تكون مطلوبة.
المدخلات المطلوبة
- اسم سير العمل: سير العمل المحدد الذي يمكن استخدام الوكيل فيه. مثال: فرز طلبات الدعم الواردة، صياغة متابعة المبيعات، مراجعة موجز حملة، تحديث المشروع الأسبوعي.
- مالك المهمة: الإنسان المسؤول عن نتيجة سير العمل.
- حدود الوكيل: ما الذي يجوز للوكيل قراءته، أو صياغته، أو التوصية به، أو إطلاقه.
- حدود البيانات: ما الذي لا يجوز أن يستلمه الوكيل افتراضيا، مثل الوثائق السرية، البيانات الشخصية، أسرار العملاء، بيانات الدخول، الأمور المالية الخاصة، والمحادثات الداخلية المقيدة.
- مجموعة المهام الذهبية: 20 مهمة تمثيلية تعكس العمل الطبيعي، والعمل الفوضوي، والحالات الطرفية.
- معيار النجاح والفشل: قاعدة التقييم لكل مهمة.
- خريطة التصعيد: متى يجب على الوكيل تسليم العمل إلى إنسان.
- وتيرة المراجعة: مراجعة موثوقية أسبوعية يملكها شخص محدد بالاسم أو الدور.
المخرج المتوقع
يجب أن ينتج الإجراء قرارا واضحا: إطلاق، إطلاق محدود، أو عدم إطلاق، لوكيل واحد داخل سير عمل واحد. لا ينبغي أن ينتج رأيا ضبابيا مثل: يبدو الوكيل جيدا. المخرج المفيد تشغيلي: ما الذي يجوز للوكيل فعله، تحت أي حدود، وبأي موافقات بشرية.
الخلاصة العملية: هذا الإجراء لا يمنح الوكيل شهادة موثوقية عامة. هو يجيز وكيلا واحدا لسير عمل واحد ضمن قيود مسماة.
الخطوة الأولى: ابن 20 مهمة ذهبية
المهمة الذهبية هي مهمة واقعية لها إجابة مقبولة معروفة. تساعدك على الحكم على الوكيل وفق معيار عملك، لا وفق ثقته في نفسه.
ابن 20 مهمة قبل إعطاء الوكيل وصولا واسعا. يجب أن تأتي المهام من سير العمل الذي تريد تحسينه. لا تملأ المجموعة بأمثلة سهلة. الأمثلة السهلة تختبر العرض. الأمثلة الفوضوية تختبر الموثوقية التشغيلية.
استخدم هذا المزيج:
- 8 مهام طبيعية: عمل شائع سيراه الوكيل كثيرا.
- 4 مهام بسياق ناقص: مهام تكون الإجابة الصحيحة فيها هي طلب توضيح أو رفض الافتراض.
- 4 مهام عند حدود السياسة: مهام تتعلق بحدود البيانات، أو حدود الموافقة، أو حدود الصلاحية.
- مهمتان عدائيتان: طلبات تتعارض مع قاعدة سير العمل، مثل مطالبة الوكيل بتجاوز الموافقة.
- مهمتان طرفيتان: حالات نادرة لكنها ممكنة وقد تسبب التباسا أو مخاطرة تجارية.
تخيل سير عمل للدعم. قد تكون المهمة الطبيعية هي طلب تصنيف بريد من عميل. وقد تكون مهمة السياق الناقص رسالة لا تذكر خطة المنتج أو حالة الطلب. وقد تتضمن مهمة حدود السياسة معلومات خاصة عن العميل لا يجب تكرارها في مسودة موجهة للجمهور. وقد تطلب المهمة العدائية من الوكيل إصدار استرداد من دون موافقة. أما الحالة الطرفية فقد تتضمن عميلا يهدد بالتصعيد العلني إذا لم يحصل على رد فوري.
الخلاصة العملية: يجب أن تضم المجموعة الذهبية العمل الذي تتمنى أن يتعامل معه الوكيل، والعمل الذي تخشى أن يسيء التعامل معه.
الخطوة الثانية: قيم كل مهمة بمعيار نجاح وفشل
معيار النجاح والفشل يمنع أن يصبح أعلى صوت في الغرفة هو نظام التقييم. إما أن يطابق الوكيل معيار العمل، أو لا يطابقه.
استخدم هذه الفحوص الخمسة لكل مهمة ذهبية:
- مطابقة التعليمات: هل أنجز الوكيل المهمة المطلوبة من دون الانزلاق إلى إجراء إضافي؟
- انضباط السياق: هل استخدم فقط السياق المقدم أو المسموح؟
- معيار الدقة: هل تجنب الادعاءات غير المدعومة، والتفاصيل الخاطئة، والحقائق المخترعة؟
- احترام الحدود: هل التزم بحدود البيانات والموافقة والصلاحية؟
- سلوك التصعيد: هل طلب المساعدة عندما تجاوزت المهمة قاعدة ما أو افتقرت إلى معلومات كافية؟
لكل مهمة، سجل نتيجة من ثلاث:
- نجاح: المخرج قابل للاستخدام وفق قاعدة سير العمل من دون تصحيح جوهري.
- نجاح مع مراجعة: المخرج مفيد، لكن يحتاج إنسانا يضبطه أو يوافق عليه قبل الاستخدام.
- فشل: المخرج يخلق إعادة عمل غير مقبولة، أو مخاطرة، أو ثقة كاذبة، أو كشف بيانات، أو إجراء غير مصرح به.
لا تذيب الفشل الأحمر داخل المتوسطات. فشل واحد يتعلق ببيانات حساسة، أو إجراء غير مصرح، أو معلومة خاطئة تمس العميل، يجب أن يوقف الإطلاق لتلك الفئة من المهام حتى يعاد تصميم سير العمل.
الخلاصة العملية: قد يكون الوكيل مفيدا في الكتابة، وغير مناسب لاتخاذ القرارات. قيم المهمة، لا نبرة المخرج.
الخطوة الثالثة: اكتب خريطة التصعيد قبل النشر
خريطة التصعيد تخبر الوكيل متى يتوقف ومن يتولى بعده. من دونها، قد يواصل إنتاج عمل مقنع تماما في اللحظة التي يحتاج فيها العمل إلى قرار بشري.
اكتب قواعد التصعيد بلغة مباشرة:
- إذا شمل الطلب مالا، شروط عقد، وعود تسعير، استردادات، رواتب، لغة قانونية، امتثالا، وصولا إلى حسابات، أو بيانات شخصية حساسة، توقف ووجهه إلى مالك المهمة.
- إذا كانت المعلومات المطلوبة ناقصة، اسأل سؤالا توضيحيا بدلا من سد الفجوة بالافتراض.
- إذا طلب المستخدم من الوكيل تجاوز سياسة، اذكر الحد ووجه الأمر إلى المالك.
- إذا كان المخرج سيغادر الشركة، ضع عليه أنه مسودة حتى يوافق عليه إنسان.
- إذا كان الوكيل غير متأكد، يجب أن يذكر موضع عدم اليقين وما المدخل المطلوب.
تحتاج الخريطة أيضا ملاكا محددين. عبارة صعد إلى إنسان فضفاضة جدا. استخدم أدوارا واضحة: قائد الدعم، مالك الحساب، معتمد المالية، مراجع قانوني، مدير المشروع، أو المؤسس. لا ينبغي للوكيل أن يقرر صاحب الصلاحية إذا لم يكن سير العمل قد عرف ذلك مسبقا.
الخلاصة العملية: التصعيد ليس فشلا في الأتمتة. إنه الضبط الذي يبقي الأتمتة داخل حدود العمل.
الخطوة الرابعة: قلص الوصول قبل اختبار الوصول
يجب أن يبدأ وصول الوكيل ضيقا. الإعلان المذكور يتحدث عن اختيار القنوات والأدوات. هذا الاختيار نقطة ضبط تشغيلية، وليس تفصيلا إداريا.
لا تمنح وصولا واسعا إلى مساحة العمل لأنه أسهل. ابدأ بالحد الأدنى من القنوات والوثائق والأدوات اللازمة لمجموعة المهام الذهبية. إذا احتاجت مهمة إلى سياق عميل، ففكر هل يمكن استخدام تصدير منقى، أو سجل محدود، أو ملخص معتمد بدلا من البيانات الخاصة الخام. راجع سياسة الشركة قبل إدخال بيانات سرية، أو بيانات عملاء، أو موظفين، أو مالية، أو منظمة إلى أي نظام ذكاء اصطناعي.
استخدم قاعدة الوصول هذه:
- صلاحية القراءة: فقط للقنوات أو الوثائق اللازمة لسير العمل المختبر.
- صلاحية الصياغة: مسموحة للمخرجات منخفضة المخاطر، لكن العمل الموجه للخارج يبقى موسوما كمسودة حتى تتم الموافقة عليه.
- صلاحية الإجراء: معطلة افتراضيا إلا إذا كانت المهمة منخفضة المخاطر، قابلة للعكس، مسجلة، ومعتمدة من مالك سير العمل.
- صلاحية الإدارة: لا تمنح للعمل العادي للوكيل.
سؤال الوصول ليس: هل يستطيع الوكيل فعل المزيد؟ السؤال هو: ما أصغر مجموعة صلاحيات تسمح له بأداء العمل المختبر؟
الخلاصة العملية: الصلاحيات جزء من الأداء. الوكيل الذي يملك وصولا غير ضروري ليس أقدر؛ بل أصعب في الحوكمة.
الخطوة الخامسة: شغل مراجعة موثوقية أسبوعية
الاختبار الأول ليس نهاية التقييم. إنه خط الأساس. الوكلاء يعملون داخل سير عمل يتغير، ووثائق تتغير، وعادات فريق تتغير، وتوقعات تتغير.
شغل مراجعة أسبوعية لأي سير عمل يستخدم وكيلا نشطا. اجعلها قصيرة ومركزة:
- راجع المهام الفاشلة: ما الذي أخطأ فيه الوكيل؟ وهل كان الفشل أخضر أم أصفر أم أحمر؟
- راجع التصعيد: هل توقف الوكيل في اللحظات الصحيحة، أم واصل العمل عندما كان يجب أن يسلم المهمة؟
- راجع تدخلات البشر: أين كرر الناس تصحيح المشكلة نفسها؟
- حدث المهام الذهبية: أضف حالات طرفية جديدة من عمل الأسبوع الحقيقي.
- عدل الوصول: أزل الصلاحيات غير المستخدمة. لا تضف صلاحيات إلا عندما تثبت مجموعة المهام الحاجة إليها.
- قرر الحالة: استمرار، تقييد، تعديل التعليمات، إعادة تصميم سير العمل، أو إيقاف الاستخدام.
يجب أن يملك المراجعة مدير سير العمل، لا مشتري البرنامج. الشخص المسؤول عن نتيجة العمل هو من يقرر هل الوكيل موثوق بما يكفي لهذا السير.
الخلاصة العملية: الموثوقية روتين إداري، وليست شاشة إعداد لمرة واحدة.
مثال مصغر: صياغة متابعات المبيعات
لنفترض أن فريقا يريد من وكيل أن يكتب رسائل متابعة بعد مكالمات المبيعات. الإطلاق الخاطئ هو إضافة الوكيل إلى قناة المبيعات وإخبار الفريق أن يشيروا إليه عندما يحتاجون مساعدة. هذا ينتج مدخلات غير متسقة، وجودة غير متسقة، وقواعد موافقة غير واضحة.
نسخة الإجراء تبدو مختلفة:
- سير العمل: صياغة رسائل متابعة بعد مكالمات المبيعات.
- العمل المسموح: إنتاج مسودة أولى بناء على ملاحظات مكالمة معتمدة وسياق مبيعات مسموح.
- غير مسموح: وعد بتسعير، خصومات، مواعيد تسليم، شروط مخصصة، أو لغة قانونية.
- المهام الذهبية: تشمل مكالمات اكتشاف طبيعية، نية شراء غير واضحة، تفاصيل ميزانية ناقصة، عميل محتمل يطلب خصما، وطلبا يتضمن معلومات داخلية حساسة.
- المعيار: يجب أن تعكس المسودة السياق المقدم فقط، وتسأل عن المعلومات الناقصة عند الحاجة، وتتجنب اختراع التزامات، وتضع الرسالة كمسودة.
- التصعيد: توجيه التسعير أو القانون أو وعود التسليم غير المعتادة إلى مالك الحساب.
- المراجعة: يفحص مدير المبيعات المسودات الفاشلة أسبوعيا ويحدث الأمثلة.
قد يبقى الوكيل مفيدا. لكن فائدته الآن محدودة بحدود واضحة. هو يصوغ. لا يفاوض. يساعد المندوب. لا يصبح مالك الحساب.
الخلاصة العملية: أنظف سير عمل للوكلاء يفصل بين الصياغة والصلاحية.
الاعتراض: الاختبار يبدو تأخيرا
الاعتراض مفهوم. تقييم من 20 مهمة يبدو عائقا عندما تكون الأداة متاحة والفريق يريد تجربتها.
لكن تجاوز بطاقة التقييم لا يلغي العمل. ينقل العمل إلى بيئة الإنتاج، حيث يصعب رؤية الأخطاء وتزيد كلفة إصلاحها. سيقيم الناس الوكيل في كل الأحوال، لكن عبر شكاوى متفرقة، وتصحيحات خاصة، وفقدان ثقة.
مجموعة تقييم صغيرة أسرع من تبن غير مضبوط لأنها تصنع لغة مشتركة. يستطيع الفريق أن يقول: نجح في الصياغة العادية لكنه فشل في مهام حدود السياسة، بدلا من الجدال حول ما إذا كان الوكيل جيدا.
هذا هو المبدأ التشغيلي وراء أنظمة وعمليات الأعمال الجادة: عرف معيار القرار قبل دخول الأداة إلى سير العمل. والمنطق نفسه ينطبق على أعمال الذكاء الاصطناعي في التطبيق. الذكاء الاصطناعي هو المحرك. والمشغل هو المعماري.
الخلاصة العملية: الاختبار ليس تأخيرا. إنه الطريقة التي تمنع الفريق من تفويض الحكم إلى أداة لم تتم إدارتها بعد.
قائمة فحص إطلاق الوكيل
استخدم هذه القائمة قبل دعوة وكيل ذكاء اصطناعي إلى مساحة عمل الفريق أو تكليفه بعمل متكرر.
- سير العمل مسمى: الوكيل مخصص لسير عمل واحد، لا للإنتاجية العامة.
- المالك مسمى: إنسان يملك نتيجة العمل والمراجعة الأسبوعية.
- ألوان الفشل محددة: فئات المهام الخضراء والصفراء والحمراء مكتوبة.
- 20 مهمة ذهبية مبنية: تشمل المهام الطبيعية، وناقصة السياق، وحدود السياسة، والعدائية، والطرفية.
- المعيار مكتوب: يتم تقييم مطابقة التعليمات، وانضباط السياق، والدقة، واحترام الحدود، وسلوك التصعيد.
- خريطة التصعيد معتمدة: يعرف الوكيل متى يتوقف وأي دور يتولى بعده.
- الوصول مصغر: القنوات والوثائق والأدوات محصورة في سير العمل المختبر.
- المخرجات الخارجية مضبوطة: المخرجات الموجهة للعملاء أو الموردين أو الجمهور تتطلب موافقة بشرية ما لم تعتمد صراحة كمنخفضة المخاطر.
- البيانات الحساسة محمية: يتم تجنب رفع الملفات السرية افتراضيا، وتراجع سياسة الشركة قبل استخدام بيانات خاصة.
- المراجعة الأسبوعية مجدولة: تتم مراجعة الفشل، والتصعيد، والوصول، والمهام الذهبية الجديدة.
- حالة الإطلاق مقررة: إطلاق، إطلاق محدود، أو عدم إطلاق، مسجلة لسير العمل المحدد.
إذا لم تستطع إكمال القائمة، فلا تعوض ذلك بأمر أفضل. القطعة الناقصة ليست الصياغة. إنها الإدارة.
أسئلة شائعة قبل الإطلاق
هل يمكن التعامل مع وكيل الذكاء الاصطناعي كموظف مبتدئ؟
فقط بالمعنى الضيق: يحتاج نطاقا، وأمثلة، ومراجعة، وقواعد تصعيد. لا تعامله كطرف مسؤول. يبقى مالك بشري مسؤولا عن نتيجة سير العمل.
كم مهمة تكفي لتقييم وكيل؟
ابدأ بـ 20 مهمة ذهبية لسير عمل واحد. هذا يكفي لكشف أنماط الفشل الشائعة من دون تحويل التقييم إلى مشروع بحث طويل. أضف مهام جديدة من الفشل الحقيقي أثناء المراجعات الأسبوعية.
هل يجب أن يتخذ الوكيل إجراءات تلقائيا؟
فقط بعد أن يكون الإجراء منخفض المخاطر، قابلا للعكس، مسجلا، مضبوط الصلاحيات، ومختبرا. الصياغة والتوصية يجب أن تسبقا الفعل.
ابدأ ببطاقة التقييم ثم اختر الوكيل
لغة الزميل سهلة الفهم. يمكن الإشارة إلى الزميل. يمكنه الإجابة. يمكنه أخذ عمل من قائمتك.
لكن في العمليات، الاسم أقل أهمية من نظام الضبط. إذا لم تكن لدى الوكيل مهام ذهبية، ولا قاعدة نجاح وفشل، ولا خريطة تصعيد، ولا مالك مراجعة، فأنت لم تضف مساعدة. أنت أدخلت تباينا غير مدار إلى سير العمل.
اختر سير عمل واحدا هذا الأسبوع. اكتب 20 مهمة ذهبية. حدد الفشل الأخضر والأصفر والأحمر. ثم اختبر الوكيل على العمل قبل أن تدخله في الإيقاع اليومي للفريق.
أين يقف عملك فعليًا؟
قبل أن تضيف أداة جديدة، يستحق أن تعرف إن كان عملك يعتمد على نظام أم عليك أنت. أعددتُ تقييمًا مجانيًا من دقيقتين يمنحك قراءة واضحة لذلك، وأول خطوة يجب إصلاحها. ابدأ التقييم المجاني.
هل أنت مستعد لجعل الذكاء الاصطناعي يعمل بكفاءة؟
احجز جلسة تشخيص وسنرسم لك أكثر الحلول تأثيرًا في أعمالك.
احجز جلسة التشخيصإشارات أوضح. قرارات أذكى.
انضمّ إلى قائمتنا البريدية واحصل على أفضل ما نكتبه عن الذكاء الاصطناعي والأنظمة مباشرةً في بريدك — دون ضجيج.
