Безопасность
Human approval - подтверждение действий человеком
Что такое human approval, какие действия ИИ стоит подтверждать человеком и как строится безопасный процесс согласования.
Human approval - это механизм, при котором цифровой сотрудник может подготовить действие, но не выполняет его без решения человека.
Такой подход нужен не потому, что ИИ нельзя использовать для сложных задач, а потому, что часть решений имеет слишком высокую цену ошибки.
Базовая схема
Процесс выглядит так:
ИИ предлагает действие -> человек проверяет -> подтверждает или отклоняет -> действие выполняется -> событие сохраняется в истории.
Например, Максимус может предложить нестандартную скидку, но применить ее только после решения менеджера.
Какие действия стоит подтверждать
Частые примеры:
- отправка договора;
- изменение цены;
- нестандартная скидка;
- публикация;
- удаление данных;
- массовое сообщение;
- юридически значимое действие;
- изменение существенных условий;
- операция с финансовым риском.
Для каждой компании список будет свой.
Почему approval лучше полного ручного режима
Если человек выполняет весь процесс сам, автоматизация теряет смысл.
Если ИИ выполняет все без контроля, растет риск.
Human approval оставляет человеку только точку решения.
Например, ИИ уже собрал данные, подготовил текст и сформировал действие. Человеку остается проверить результат и подтвердить.
Что должно быть видно перед подтверждением
Человек должен видеть достаточно контекста:
- что произошло;
- кто инициировал действие;
- какой сотрудник его предлагает;
- какие данные использованы;
- что именно изменится;
- почему требуется approval.
Подтверждение без контекста превращается в формальность.
Когда approval не нужен
Не стоит подтверждать каждое действие.
Например:
- прочитать FAQ;
- найти документ;
- задать уточняющий вопрос;
- классифицировать обращение.
Если операция низкорисковая и легко обратима, ее можно оставить автоматической.
Когда approval недостаточно
Если задача сама по себе требует профессионального решения, лучше использовать handoff.
Например, сложный юридический спор или конфликт с клиентом.
В таком случае человек не просто нажимает "подтвердить", а берет задачу на себя.
Как использовать историю approval
Полезно анализировать:
- сколько действий отправлено на подтверждение;
- сколько подтверждено;
- сколько отклонено;
- причины отказа;
- какие типы действий почти всегда подтверждаются.
Если действие почти всегда одобряется, возможно, его можно перевести в автоматический режим.
Если часто отклоняется, сотруднику нужно изменить правило.
Пример для продаж
Клиент просит скидку 12%.
Стандартное правило позволяет 5%.
Максимус не соглашается самостоятельно.
Он формирует запрос:
"Клиент готов купить 100 единиц. Просит скидку 12%. Стандартная допустимая скидка 5%. Требуется решение менеджера."
Менеджер подтверждает или отклоняет.
Пример для Маркуса
Маркус подготовил пост от имени бренда.
Перед публикацией человек проверяет факты и тон.
Только после approval материал отправляется в канал.
Пример для Юриуса
Юриус подготовил проект ответа по договору.
Юрист проверяет формулировки и только после этого документ может быть использован.