Qué controles necesita un agente de IA antes de operar con clientes

Un agente que prepara trabajo no tiene el mismo riesgo que uno capaz de enviar mensajes, modificar un CRM o emitir una devolución. La diferencia no está sólo en el modelo: está en los permisos y controles que rodean cada acción.

Empezar con permisos mínimos

El agente debería acceder únicamente a la información necesaria para la tarea. Leer una ficha de cliente no implica necesitar acceso a toda la base; preparar una respuesta no implica poder enviarla.

Separar lectura, propuesta y ejecución reduce el impacto de una interpretación incorrecta. También permite probar utilidad antes de habilitar acciones que afectan a terceros.

Definir qué requiere aprobación

Las acciones con consecuencias externas o difíciles de revertir necesitan una revisión humana explícita. El criterio no debería depender de cuánta confianza expresa el modelo, sino del impacto posible.

Algunos límites prácticos:

• mensajes a clientes se preparan como borrador;
• cambios de precio, condiciones o estado requieren confirmación;
• operaciones financieras nunca se deducen de una conversación ambigua;
• datos sensibles no se incluyen si la tarea puede resolverse sin ellos;
• ante información incompleta, el flujo se detiene y pide contexto.

Guardar trazabilidad útil

Un registro operativo debería mostrar qué información recibió el agente, qué propuso, qué herramienta intentó usar y quién aprobó la acción. No se trata de almacenar todo indefinidamente, sino de poder reconstruir decisiones relevantes y detectar fallas repetidas.

La observabilidad también necesita estados comprensibles: pendiente, aprobado, ejecutado, rechazado o fallido. Un “éxito” técnico no alcanza si el resultado de negocio fue incorrecto.

Diseñar una salida segura

Todo flujo necesita una forma simple de detener el agente, revocar credenciales y continuar manualmente. También conviene limitar cantidad de acciones, horarios o destinos cuando eso reduce exposición.

El control más importante es que la empresa pueda entender qué está permitido y cambiarlo sin reconstruir todo el sistema. Un agente útil no es el que hace más cosas: es el que opera dentro de límites claros.