نموذج الإنسان في الحلقة لذكاء الإيرادات الاصطناعي

كل مزود ذكاء اصطناعي يقول "الإنسان في الحلقة" الآن. إنها العبارة التي يُفترض أن تجعلك تشعر بتحسن حيال السماح للبرمجيات بالاقتراب من عملائك. لكن حين تُقال بتراخٍ، يمكن أن لا تعني شيئًا تقريبًا: مربع اختيار ينقر عليه شخص، موافقة لا يقرأها أحد، شخص يختم بموافقته على أي شيء اقترحه النموذج. تلك النسخة مسرحية. النسخة الحقيقية هي أهم نمط تصميم في ذكاء الإيرادات الاصطناعي، لأنها كيف تحصل على نطاق الآلة وحكم الإنسان يغطي كل منهما نقاط ضعف الآخر.

فكيف تبدو النسخة الحقيقية، وأين يجلس الشخص فعليًا؟

لماذا تُبقي شخصًا منخرطًا أصلًا

البشر والذكاء الاصطناعي جيدون في أشياء مختلفة، والإيرادات تحتاج كليهما.

الذكاء الاصطناعي يجلب النطاق والاتساق. يراقب كل حساب، ويطبق المنطق نفسه في كل مرة، ويعالج إشارات أكثر مما يستطيع أي مندوب. لا يتعب ولا يتشتت، ولا يتجاهل الحسابات المملة.

البشر يجلبون الحكم والمساءلة. يقرأون الغرفة، ويعرفون تاريخ العلاقة، ويشعرون حين يكون هناك خطأ ما. ويتحملون العواقب، وهو ما لا تستطيع البرمجيات فعله.

الحلقة هي البنية التي تتيح لكل جانب اكتشاف أخطاء الآخر. الذكاء الاصطناعي يلاحظ الإشارات التي يتجاهلها البشر. البشر يلتقطون ما يخطئ فيه الذكاء الاصطناعي: التفصيل المتوهم، البريد الإلكتروني الفاقد للحس، الموقف الذي لم يرَ النموذج مثله من قبل. أزل أي جانب وسينكسر شيء. السؤال ليس أبدًا هل تُبقي إنسانًا منخرطًا. إنه أين.

في الحلقة، أم على الحلقة

معظم الحديث عن "الإنسان في الحلقة" يخلط بين وضعيتين مختلفتين. اختيار الوضعية الصحيحة للعمل الصحيح هو معظم الفن.

الإنسان في الحلقة يعني أن الذكاء الاصطناعي لا يستطيع إكمال الإجراء دون أن يقرر شخص. يقترح، والشخص يوافق أو يعدّل أو يرفض، ثم يمضي قدمًا. هذا للعمل عالي المخاطر أو المواجه للمشتري حيث يكون الخطأ مكلفًا أو يصعب التراجع عنه: التواصل مع حساب استراتيجي، أي شيء يبدو كالتزام، توصيات ليس النموذج واثقًا منها.

الإنسان على الحلقة يعني أن الذكاء الاصطناعي يتصرف بمفرده والشخص يشرف، ويراقب النتائج، ويتدخل استثنائيًا. هذا للعمل عالي الحجم، منخفض المخاطر، القابل للعكس. التقاط بيانات إدارة علاقات العملاء، تسجيل الأنشطة، الإثراء الروتيني. لا أحد يحتاج للموافقة على كل واحد منها.

الخطأ الذي نراه أكثر هو تطبيق وضعية واحدة في كل مكان. اضبط بوابة على كل شيء وستخنق القيمة بينما تدرّب الناس على النقر على "موافقة" دون قراءة. لا تضع بوابة على شيء وستحصل على الحادثة التي تجعل القيادة تسحب القابس. مطابقة الوضعية مع المخاطر هي نفس المنطق الذي يحكم أين ينتمي الذكاء الاصطناعي في سير عمل الإيرادات، والوضعية الصحيحة تتغير بمرور الوقت مع كسب النظام للثقة على طول منحنى المساعد الآلي إلى الطيار الآلي.

تصميم المراجعة بحيث تضيف حكمًا لا احتكاكًا

الحلقة تعمل فقط إذا صُمم التفاعل البشري لإضافة حكم بدلًا من التأخير. بضعة مبادئ تفصل الحلقة الحقيقية عن الختم المطاطي.

امنح المراجع ما يحتاجه ليقرر، بسرعة. إذا كانت المراجعة تعني إعادة بناء عمل الذكاء الاصطناعي من الصفر، لن يفعلها أحد. أظهر التوصية، والمنطق، والثقة، والإشارات الأساسية معًا، بحيث يستطيع شخص اتخاذ قرار حقيقي في ثوانٍ. هذا يعتمد على التتبع والشفافية المبنية في النظام منذ البداية.

وجّه حسب الثقة، لا بشكل موحد. الإجراءات عالية الثقة ومنخفضة المخاطر يجب أن تتدفق باحتكاك أدنى. الإجراءات غير المؤكدة أو ذات العواقب يجب أن تتطلب انتباهًا. اجعل شخصًا يوافق على كل شيء بالتساوي وسيوافق على كل شيء دون تفكير، وهذا أسوأ من عدم المراجعة إطلاقًا.

اجعل الرفض يعني شيئًا. حين يتجاوز شخص الذكاء الاصطناعي، يجب أن يعود ذلك التصحيح ويحسّن التوصية التالية. الحلقة التي لا تتعلم من حكم الإنسان تهدر أثمن إشارة تنتجها.

وأبقِ المساءلة حقيقية. الشخص في الحلقة يجب أن يمتلك القرار فعليًا، لا أن يغسل المسؤولية إلى الآلة. "الذكاء الاصطناعي أخبرني" ليست مساءلة. صمم التفاعل بحيث يكون الشخص يقرر، لا ينقر فقط.

اضبط هذه بشكل صحيح والحلقة سريعة ومركزة ومتحسنة. أخطئ فيها وستكون إما عنق زجاجة يستاء منه الجميع أو شكلية لا يحترمها أحد.

الطريقتان اللتان تفشل بهما

الإنسان في الحلقة ينهار في اتجاهين معاكسين.

عنق الزجاجة: موافقات كثيرة جدًا منخفضة القيمة، احتكاك كثير جدًا، وتصبح المراجعة البشرية القيد الذي يمحو السرعة التي اشتريت الذكاء الاصطناعي من أجلها. العرض هو أن يقول المندوبون إن الذكاء الاصطناعي يخلق عملًا أكثر مما يوفره. الإصلاح هو دفع مزيد من العمل منخفض المخاطر إلى الإشراف على الحلقة.

الختم المطاطي: موافقات كثيرة جدًا بسياق قليل جدًا، ويضغط الناس موافقة بشكل انعكاسي. العرض هو أن لا أحد يستطيع شرح لماذا اتُّخذ إجراء ما. الإصلاح هو التوجيه حسب الثقة، وإظهار المنطق، وحجز المراجعة البشرية للقرارات التي تحتاجها فعليًا.

الوسط الصحي هو حلقة ينفق فيها الناس انتباههم بالضبط حيث يهم حكمهم ولا مكان آخر. هذا هو وعد إقران الناس بـتنسيق أصيل الذكاء الاصطناعي بدلًا من موافقات مُلصقة على صندوق أسود.

أبرز النقاط

• الحلقة موجودة لأن الذكاء الاصطناعي جيد في النطاق والاتساق والناس جيدون في الحكم وتحمل العواقب. تحتاج كليهما.
• "في الحلقة" (لا يمكن للذكاء الاصطناعي التصرف دون موافقة) للعمل عالي المخاطر. "على الحلقة" (الذكاء الاصطناعي يتصرف، الشخص يشرف) للعمل الرخيص القابل للعكس. لا تستخدم وضعية واحدة لكل شيء.
• المراجعة التي لا تُظهر المنطق والثقة، أو التي تعامل كل إجراء بالتساوي، تتحول إلى ختم مطاطي خلال أسابيع.
• التجاوزات يجب أن تعلّم النظام. إذا لم تفعل، فأنت ترمي أفضل إشارة تدريب لديك.
• الوضعية يجب أن تتراخى مع كسب الثقة. ما يحتاج موافقة اليوم لا يجب أن يحتاجها إلى الأبد.

الحلقة المصممة جيدًا هي ما يجعل ذكاء الإيرادات الاصطناعي القوي جديرًا بالثقة: فريقك يسلّم النطاق دون تسليم المسؤولية. إذا أردت رؤية الحلقة مبنية في طبقة التنسيق بدلًا من إضافتها فوقها، Revnewo مكان واحد للنظر فيه.