Agentes de IA con supervisión humana: qué pueden hacer solos y qué no.

Un asistente de inteligencia artificial responde cuando usted pregunta. Un agente trabaja cuando usted no está: revisa, decide y actúa en sus sistemas siguiendo un objetivo. Esa diferencia es la que entusiasma y la que inquieta. ¿Qué pasa si el agente se equivoca con un cliente, con un precio o con un pago? La respuesta no es evitar los agentes, sino diseñar cuánto pueden hacer solos y cómo se supervisan.

Qué es un agente.

Un agente de IA es un sistema que recibe un objetivo (“mantener el inventario de estos productos entre dos y cuatro semanas de venta”), observa los datos de su empresa, decide qué hacer y ejecuta acciones en sus sistemas: crea un pedido, envía un correo, actualiza un registro, escala un caso. Y lo hace en ciclo: todos los días, o cada hora, sin que nadie lo pida.

Lo que lo distingue de un asistente conversacional es la iniciativa y la acción. Lo que lo distingue de una automatización tradicional es que maneja situaciones no previstas: interpreta un correo ambiguo, prioriza entre casos, decide con información incompleta.

Tres niveles de autonomía.

Un agente no tiene que ser todo o nada. En la práctica se diseña con tres niveles, y cada acción se asigna a uno:

1. Recomienda. El agente analiza y propone; una persona decide y ejecuta. Es el nivel de arranque para cualquier acción con consecuencias: mover presupuesto, cambiar un precio, contactar a un cliente importante.
2. Actúa con aprobación. El agente prepara la acción completa y la ejecuta cuando una persona aprueba con un clic. Sirve para acciones frecuentes de impacto medio: enviar una cotización, aprobar un reembolso pequeño, reordenar un producto.
3. Actúa solo, dentro de reglas. El agente ejecuta sin preguntar mientras se mantenga dentro de límites explícitos: montos máximos, listas de clientes, horarios, umbrales. Fuera de esos límites, vuelve al nivel 2 o 1. Es el nivel para lo repetitivo y de bajo riesgo: clasificar solicitudes, responder preguntas frecuentes, actualizar registros.

Un agente bien diseñado empieza en el nivel 1 y gana autonomía a medida que demuestra criterio, con evidencia: cuántas de sus recomendaciones aprobó el equipo sin cambios durante un mes.

Qué pueden hacer solos hoy, con confianza.

• Leer, clasificar y enrutar solicitudes (correos, tickets, formularios).
• Preparar informes y resúmenes a partir de varios sistemas.
• Detectar excepciones: un pedido inusual, una factura duplicada, un cliente que cambió de patrón.
• Ejecutar procesos completos de bajo riesgo con reglas claras: conciliaciones, actualizaciones de catálogo, seguimientos.
• Proponer acciones de mayor impacto para que una persona apruebe.

Qué no deben hacer solos.

• Comprometer dinero por encima de un umbral sin aprobación.
• Comunicarse con clientes importantes o en situaciones delicadas sin revisión.
• Tomar decisiones sobre personas (contrataciones, crédito, sanciones) sin una persona responsable.
• Actuar fuera de los datos que se le dieron: un agente que “supone” una cifra que no tiene es un riesgo, y debe estar diseñado para decir “no sé”.

Cómo se mantiene el control.

Tres mecanismos, los tres obligatorios:

• Reglas explícitas. Qué puede hacer, con qué límites, en qué sistemas. Escritas, versionadas y revisables por el negocio, no solo por tecnología.
• Registro de cada acción. Qué vio el agente, qué decidió, por qué y qué ejecutó. Si no se puede reconstruir una decisión, no se puede confiar en la siguiente.
• Una persona responsable de cada agente, que revisa el registro, ajusta las reglas y decide cuándo ampliar o reducir la autonomía.

Con esos tres, un agente es un colaborador que trabaja de noche y rinde cuentas por la mañana. Sin ellos, es una caja negra conectada a sus sistemas.

Por dónde empezar.

Con un proceso repetitivo, de bajo riesgo y medible, en nivel 1 o 2, durante seis a ocho semanas. Se mide contra cómo se hacía antes: tiempo, errores, resultado. Si funciona, se amplía la autonomía o se pasa al siguiente proceso. Vea Por dónde empezar con inteligencia artificial.

Qué puede hacer esta semana.

1. Liste los cinco procesos que más horas repetitivas consumen en su empresa y marque cuáles tienen reglas claras.
2. Para cada uno, defina qué acción nunca debería ejecutarse sin una persona.
3. Pregunte si hoy podría reconstruir, paso a paso, por qué un sistema automático tomó una decisión la semana pasada.

Raltrix diseña agentes de IA con reglas claras, registro de cada acción y supervisión humana donde importa. Y lo aplicamos a nosotros mismos: parte de nuestro software lo construye una fábrica con agentes, con revisión humana en cada entrega. Conózcalo en Nosotros o agende una llamada.