Перейти к содержимому

Модель human-in-the-loop для ИИ в работе с выручкой

Полностью автономный ИИ для выручки — фантазия и источник рисков. Почему human-in-the-loop — правильная модель и как её спроектировать.

10 min read

Модель «человек в контуре» для revenue AI

Каждый вендор ИИ сегодня говорит «human-in-the-loop». Эта фраза должна успокоить вас насчёт того, что программное обеспечение допускается к вашим клиентам. Но если произносить её небрежно, она почти ничего не значит: галочка, которую кто-то ставит, одобрение, которое никто не читает, человек, ставящий печать на всё, что предложила модель. Такая версия — театр. Настоящая версия — важнейший паттерн проектирования в revenue AI, потому что именно так масштаб машины и человеческое суждение прикрывают слабые места друг друга.

Как же выглядит настоящая версия и где на самом деле находится человек?

Зачем вообще нужен человек

Люди и ИИ хороши в разном, и выручке нужны оба.

ИИ даёт масштаб и последовательность. Он следит за каждым аккаунтом, каждый раз применяет одну и ту же логику и обрабатывает больше сигналов, чем любой менеджер. Он не устаёт, не отвлекается и не пропускает скучные аккаунты.

Люди дают суждение и ответственность. Они читают атмосферу, знают историю отношений, чувствуют, когда что-то не так. И они отвечают за последствия, чего программное обеспечение не может.

Контур — это структура, позволяющая каждой стороне ловить ошибки другой. ИИ замечает сигналы, которые упускают люди. Люди ловят то, в чём ошибается ИИ: выдуманную деталь, глухое по тону письмо, ситуацию, которой модель не видела. Уберите любую сторону, и что-то сломается. Вопрос не в том, оставлять ли человека. Вопрос — где.

В контуре или над контуром

Большая часть разговоров о «human-in-the-loop» смешивает две разные позиции. Выбор правильной позиции для правильной работы — основная часть мастерства.

Человек в контуре означает, что ИИ не может завершить действие, пока человек не решит. Он предлагает, человек одобряет, правит или отклоняет, и только потом ИИ продолжает. Это для ответственной работы или работы, обращённой к покупателю, где ошибка дорога или необратима: обращение к стратегическому аккаунту, всё, что звучит как обязательство, рекомендации, в которых модель не уверена.

Человек над контуром означает, что ИИ действует сам, а человек наблюдает, следит за результатами и вмешивается по исключениям. Это для массовой, малозначимой, обратимой работы: фиксация в CRM, журналирование активностей, рутинное обогащение. Одобрять каждое действие никому не нужно.

Самая частая ошибка, которую мы видим, — применять одну позицию везде. Закройте всё шлюзом, и вы задушите ценность, приучив людей нажимать «одобрить», не читая. Не закройте ничего, и случится инцидент, после которого руководство отключит систему. Подбор позиции по ставкам — та же логика, которая определяет, где ИИ место в revenue-процессе, а правильная позиция со временем смещается, по мере того как система зарабатывает доверие на пути от копилота к автопилоту.

Как построить проверку, чтобы она добавляла суждение, а не трение

Контур работает, только если взаимодействие с человеком построено так, чтобы добавлять суждение, а не задержку. Несколько принципов отличают настоящий контур от формальной печати.

Дайте проверяющему всё нужное, чтобы решить быстро. Если проверка означает восстановление работы ИИ с нуля, никто не будет этим заниматься. Показывайте вместе рекомендацию, обоснование, уверенность и лежащие в основе сигналы, чтобы человек мог принять настоящее решение за секунды. Это зависит от происхождения данных и прозрачности, заложенных в систему с самого начала.

Маршрутизируйте по уверенности, а не одинаково. Действия с высокой уверенностью и низкими ставками должны проходить с минимальным трением. Неопределённые или значимые должны требовать внимания. Заставьте человека одобрять всё одинаково, и он будет одобрять всё бездумно, что хуже, чем отсутствие проверки.

Пусть отклонение что-то значит. Когда человек переопределяет ИИ, эта поправка должна возвращаться и улучшать следующую рекомендацию. Контур, который не учится на человеческом суждении, растрачивает самый ценный сигнал, который сам производит.

И сохраняйте реальную ответственность. Человек в контуре должен по-настоящему отвечать за решение, а не перекладывать ответственность на машину. «Так сказал ИИ» — это не ответственность. Спроектируйте взаимодействие так, чтобы человек решал, а не просто кликал.

Если всё сделано правильно, контур быстрый, сфокусированный и улучшающийся. Если нет, он либо узкое место, которое все ненавидят, либо формальность, которую никто не уважает.

Два способа сломаться

Human-in-the-loop ломается в противоположных направлениях.

Узкое место: слишком много малоценных одобрений, слишком много трения, и человеческая проверка становится ограничением, стирающим скорость, ради которой вы покупали ИИ. Симптом — менеджеры говорят, что ИИ создаёт больше работы, чем экономит. Решение — передать больше малозначимой работы под надзор «над контуром».

Формальная печать: слишком много одобрений при слишком малом контексте, и люди нажимают «одобрить» рефлекторно. Симптом — никто не может объяснить, почему было предпринято действие. Решение — маршрутизация по уверенности, показ обоснования и оставление человеческой проверки для решений, которым она действительно нужна.

Здоровая середина — контур, в котором люди тратят внимание ровно там, где важно их суждение, и больше нигде. В этом и обещание сочетания людей с AI-нативной оркестрацией, а не с одобрениями, прикрученными к чёрному ящику.

Ключевые выводы

  • Контур существует потому, что ИИ хорош в масштабе и последовательности, а люди — в суждении и ответственности за последствия. Нужны оба.
  • «В контуре» (ИИ не может действовать без одобрения) — для ответственной работы. «Над контуром» (ИИ действует, человек наблюдает) — для дешёвой, обратимой работы. Не применяйте одну позицию ко всему.
  • Проверка, которая не показывает обоснование и уверенность или обращается со всеми действиями одинаково, за недели превращается в формальную печать.
  • Переопределения должны учить систему. Если нет, вы выбрасываете лучший обучающий сигнал.
  • Позиция должна ослабевать по мере заработанного доверия. То, что сегодня требует одобрения, не должно требовать его вечно.

Хорошо спроектированный контур делает мощный revenue AI заслуживающим доверия: ваша команда передаёт масштаб, не передавая ответственность. Если хотите увидеть контур, встроенный в слой оркестрации, а не добавленный сверху, Revnewo — одно из мест, куда стоит посмотреть.

See revenue orchestration in action

Unify your revenue data, signals, and plays on one AI-native platform.