Самый простой способ заставить ИИ-агента выглядеть мощным — дать ему слишком много полномочий.
Позволить ему читать всё. Позволить ему писать везде. Дать ему вызывать API, отправлять письма, обновлять CRM, возвращать деньги по счетам, а затем объяснять свои действия уверенным абзацем.
Это не продукт. Это инцидент с правами доступа, ожидающий приглашения в календарь.
Сложность агентов не в использовании инструментов. Сложность — в границе.
Агент — это не должность
«Агент по продажам» — это не спецификация.
Как и «агент поддержки», «исследовательский агент» или «операционный агент». Эти фразы описывают воображаемого сотрудника, а не программную границу.
Полезная спецификация агента называет реальный цикл:
- читать эти входные данные
- выбирать из этих действий
- запрашивать одобрение при этих условиях
- записывать в эти системы
- логировать эти решения
- останавливаться, когда происходит это
Чем меньше цикл, тем лучше агент.
Агент должен владеть одной поверхностью принятия решений. Маршрутизация. Составление черновика. Извлечение. Проверка. Сверка. Не «управление операциями».
Видимый агент — это только поверхность. Долговечный продукт — это система вокруг него: политика, границы инструментов, шлюзы одобрения и аудиторский след.
Инструменты должны быть узкими, а не впечатляющими
В большинстве демонстраций агентов список инструментов выглядит как витрина с трофеями.
Лучший производственный паттерн — скучный:
- один инструмент поиска
- один инструмент структурированного чтения
- один инструмент черновика
- один инструмент записи с шлюзом одобрения
- один путь эскалации
Каждый инструмент должен делать меньше, чем модель хочет от него. Модель может попросить. Система решает.
Если инструмент может изменять данные, ему нужны ограничения вне промпта. Валидация схемы. Белые списки. Лимиты запросов. Ключи идемпотентности. Журналы аудита. Одобрение человека, когда затронуты деньги, доступ или репутация.
Промпт — это не модель разрешений.
Люди — не запасной вариант для плохого дизайна
«Человек в цикле» используется как декоративная фраза.
Это должно означать реальную точку контроля. Человек видит предлагаемое действие, исходные данные, причину, риск и точный diff. Он может одобрить, отредактировать, отклонить или перенаправить куда-то ещё.
Если экран проверки показывает только финальный ответ, проверяющий не проверяет. Он гадает с лучшей типографикой.
Хороший экран одобрения показывает:
- что изменилось
- почему агент считает, что это нужно изменить
- какие источники он использовал
- что он не смог проверить
- что произойдёт, если проверяющий скажет «да»
В этом разница между рабочим процессом и фокусом.
Обычное ПО всё ещё разрешено
Не каждый рабочий процесс требует агента.
Если дерево решений стабильно — пишите ПО. Если вывод должен быть точным — пишите ПО. Если входные данные структурированы, а действие детерминировано — пишите ПО.
Используйте агента там, где язык, неоднозначность и суждение являются реальной проблемой.
Обычно это означает, что агент находится на границе системы, переводя неструктурированный человеческий ввод в структурированную работу. Он не заменяет систему. Он её питает.
Контрольный список границ
Прежде чем строить агента, мне нужно пять предложений:
- Агенту разрешено решать ___.
- Агенту не разрешено решать ___.
- Агент может вызывать эти инструменты: ___.
- Агент должен спросить человека перед ___.
- Каждое действие логируется в ___.
Если эти предложения трудно написать — агент не готов к созданию.
Граница — это продукт.
