Модель human-in-the-loop для ИИ в работе с выручкой
Полностью автономный ИИ для выручки — фантазия и источник рисков. Почему human-in-the-loop — правильная модель и как её спроектировать.
Модель «человек в контуре» для revenue AI
Каждый вендор ИИ сегодня говорит «human-in-the-loop». Эта фраза должна успокоить вас насчёт того, что программное обеспечение допускается к вашим клиентам. Но если произносить её небрежно, она почти ничего не значит: галочка, которую кто-то ставит, одобрение, которое никто не читает, человек, ставящий печать на всё, что предложила модель. Такая версия — театр. Настоящая версия — важнейший паттерн проектирования в revenue AI, потому что именно так масштаб машины и человеческое суждение прикрывают слабые места друг друга.
Как же выглядит настоящая версия и где на самом деле находится человек?
Зачем вообще нужен человек
Люди и ИИ хороши в разном, и выручке нужны оба.
ИИ даёт масштаб и последовательность. Он следит за каждым аккаунтом, каждый раз применяет одну и ту же логику и обрабатывает больше сигналов, чем любой менеджер. Он не устаёт, не отвлекается и не пропускает скучные аккаунты.
Люди дают суждение и ответственность. Они читают атмосферу, знают историю отношений, чувствуют, когда что-то не так. И они отвечают за последствия, чего программное обеспечение не может.
Контур — это структура, позволяющая каждой стороне ловить ошибки другой. ИИ замечает сигналы, которые упускают люди. Люди ловят то, в чём ошибается ИИ: выдуманную деталь, глухое по тону письмо, ситуацию, которой модель не видела. Уберите любую сторону, и что-то сломается. Вопрос не в том, оставлять ли человека. Вопрос — где.
В контуре или над контуром
Большая часть разговоров о «human-in-the-loop» смешивает две разные позиции. Выбор правильной позиции для правильной работы — основная часть мастерства.
Человек в контуре означает, что ИИ не может завершить действие, пока человек не решит. Он предлагает, человек одобряет, правит или отклоняет, и только потом ИИ продолжает. Это для ответственной работы или работы, обращённой к покупателю, где ошибка дорога или необратима: обращение к стратегическому аккаунту, всё, что звучит как обязательство, рекомендации, в которых модель не уверена.
Человек над контуром означает, что ИИ действует сам, а человек наблюдает, следит за результатами и вмешивается по исключениям. Это для массовой, малозначимой, обратимой работы: фиксация в CRM, журналирование активностей, рутинное обогащение. Одобрять каждое действие никому не нужно.
Самая частая ошибка, которую мы видим, — применять одну позицию везде. Закройте всё шлюзом, и вы задушите ценность, приучив людей нажимать «одобрить», не читая. Не закройте ничего, и случится инцидент, после которого руководство отключит систему. Подбор позиции по ставкам — та же логика, которая определяет, где ИИ место в revenue-процессе, а правильная позиция со временем смещается, по мере того как система зарабатывает доверие на пути от копилота к автопилоту.
Как построить проверку, чтобы она добавляла суждение, а не трение
Контур работает, только если взаимодействие с человеком построено так, чтобы добавлять суждение, а не задержку. Несколько принципов отличают настоящий контур от формальной печати.
Дайте проверяющему всё нужное, чтобы решить быстро. Если проверка означает восстановление работы ИИ с нуля, никто не будет этим заниматься. Показывайте вместе рекомендацию, обоснование, уверенность и лежащие в основе сигналы, чтобы человек мог принять настоящее решение за секунды. Это зависит от происхождения данных и прозрачности, заложенных в систему с самого начала.
Маршрутизируйте по уверенности, а не одинаково. Действия с высокой уверенностью и низкими ставками должны проходить с минимальным трением. Неопределённые или значимые должны требовать внимания. Заставьте человека одобрять всё одинаково, и он будет одобрять всё бездумно, что хуже, чем отсутствие проверки.
Пусть отклонение что-то значит. Когда человек переопределяет ИИ, эта поправка должна возвращаться и улучшать следующую рекомендацию. Контур, который не учится на человеческом суждении, растрачивает самый ценный сигнал, который сам производит.
И сохраняйте реальную ответственность. Человек в контуре должен по-настоящему отвечать за решение, а не перекладывать ответственность на машину. «Так сказал ИИ» — это не ответственность. Спроектируйте взаимодействие так, чтобы человек решал, а не просто кликал.
Если всё сделано правильно, контур быстрый, сфокусированный и улучшающийся. Если нет, он либо узкое место, которое все ненавидят, либо формальность, которую никто не уважает.
Два способа сломаться
Human-in-the-loop ломается в противоположных направлениях.
Узкое место: слишком много малоценных одобрений, слишком много трения, и человеческая проверка становится ограничением, стирающим скорость, ради которой вы покупали ИИ. Симптом — менеджеры говорят, что ИИ создаёт больше работы, чем экономит. Решение — передать больше малозначимой работы под надзор «над контуром».
Формальная печать: слишком много одобрений при слишком малом контексте, и люди нажимают «одобрить» рефлекторно. Симптом — никто не может объяснить, почему было предпринято действие. Решение — маршрутизация по уверенности, показ обоснования и оставление человеческой проверки для решений, которым она действительно нужна.
Здоровая середина — контур, в котором люди тратят внимание ровно там, где важно их суждение, и больше нигде. В этом и обещание сочетания людей с AI-нативной оркестрацией, а не с одобрениями, прикрученными к чёрному ящику.
Ключевые выводы
- Контур существует потому, что ИИ хорош в масштабе и последовательности, а люди — в суждении и ответственности за последствия. Нужны оба.
- «В контуре» (ИИ не может действовать без одобрения) — для ответственной работы. «Над контуром» (ИИ действует, человек наблюдает) — для дешёвой, обратимой работы. Не применяйте одну позицию ко всему.
- Проверка, которая не показывает обоснование и уверенность или обращается со всеми действиями одинаково, за недели превращается в формальную печать.
- Переопределения должны учить систему. Если нет, вы выбрасываете лучший обучающий сигнал.
- Позиция должна ослабевать по мере заработанного доверия. То, что сегодня требует одобрения, не должно требовать его вечно.
Хорошо спроектированный контур делает мощный revenue AI заслуживающим доверия: ваша команда передаёт масштаб, не передавая ответственность. Если хотите увидеть контур, встроенный в слой оркестрации, а не добавленный сверху, Revnewo — одно из мест, куда стоит посмотреть.