La forma más fácil de hacer que un agente de IA parezca poderoso es darle demasiada autoridad.
Deja que lo lea todo. Deja que escriba en todas partes. Deja que llame a la API, envíe el correo, actualice el CRM, reembolse la factura y se explique después en un párrafo lleno de confianza.
Eso no es un producto. Es un incidente de permisos esperando una invitación a una reunión.
La parte difícil de los agentes no es el uso de herramientas. La parte difícil es el límite.
Un agente no es un puesto de trabajo
"Agente de ventas" no es una especificación.
Tampoco lo son "agente de soporte", "agente de investigación" o "agente de operaciones". Esas frases describen a un empleado de fantasía, no a un límite de software.
Una especificación útil de agente nombra el bucle real:
- leer estas entradas
- elegir entre estas acciones
- pedir aprobación bajo estas condiciones
- escribir en estos sistemas
- registrar estas decisiones
- detenerse cuando ocurra esto
Cuanto más pequeño sea el bucle, mejor será el agente.
El agente debe poseer una única superficie de decisión. Enrutamiento. Redacción. Extracción. Verificación. Conciliación. No "gestionar operaciones".
El agente visible es solo la superficie. El producto duradero es el sistema que lo rodea: política, límites de herramientas, puertas de aprobación y un registro de auditoría.
Las herramientas deben ser estrechas, no impresionantes
La mayoría de las demostraciones de agentes muestran una lista de herramientas como un trofeo.
El mejor patrón de producción es aburrido:
- una herramienta de búsqueda
- una herramienta de lectura estructurada
- una herramienta de borrador
- una herramienta de escritura con una puerta de aprobación
- una ruta de escalado
Cada herramienta debe hacer menos de lo que el modelo quiere que haga. El modelo puede preguntar. El sistema decide.
Si una herramienta puede mutar datos, necesita restricciones fuera del prompt. Validación de esquema. Listas blancas. Límites de tasa. Claves de idempotencia. Registros de auditoría. Aprobación humana cuando estén involucrados dinero, acceso o reputación.
El prompt no es el modelo de permisos.
Los humanos no son un plan de contingencia para un mal diseño
"Humano en el circuito" se usa como una frase decorativa.
Debería significar un punto de control real. Un humano ve la acción propuesta, la evidencia fuente, la razón, el riesgo y el diff exacto. Puede aprobar, editar, rechazar o redirigir a otro lugar.
Si la pantalla de revisión solo muestra la respuesta final, el revisor no está revisando. Está adivinando con mejor tipografía.
Una buena pantalla de aprobación muestra:
- qué cambió
- por qué el agente cree que debería cambiar
- qué fuentes utilizó
- qué no pudo verificar
- qué sucede si el revisor dice que sí
Esa es la diferencia entre un flujo de trabajo y un truco de magia.
El software tradicional sigue estando permitido
No todos los flujos de trabajo necesitan un agente.
Si el árbol de decisión es estable, escribe software. Si la salida debe ser exacta, escribe software. Si la entrada está estructurada y la acción es determinista, escribe software.
Usa un agente donde el lenguaje, la ambigüedad y el juicio sean el problema real.
Eso generalmente significa que el agente se sitúa en el borde de un sistema, traduciendo la entrada humana desordenada en trabajo estructurado. No reemplaza el sistema. Lo alimenta.
La lista de verificación del límite
Antes de construir un agente, quiero cinco frases:
- Al agente se le permite decidir ___.
- Al agente no se le permite decidir ___.
- El agente puede llamar a estas herramientas: ___.
- El agente debe preguntar a un humano antes de ___.
- Cada acción se registra en ___.
Si esas frases son difíciles de escribir, el agente no está listo para construirse.
El límite es el producto.
