En resumen
- En Kendu Intelligence, un agente de IA empieza siempre «en sombra»: propone y su equipo actúa. Después gana autonomía nivel por nivel, acción por acción.
- Solo sube de nivel con mediciones y con su acuerdo por escrito. Tras una alerta grave, definida en su ficha de funciones, está previsto que baje un nivel por sí solo.
- Pagar, enviar un documento que le compromete, suprimir datos: estas acciones nunca salen sin la validación de una persona.
Un agente de IA es un programa que lee sus correos, sus facturas o su CRM (el programa donde lleva el seguimiento de sus clientes) y luego prepara o ejecuta tareas por usted. La buena pregunta no es «¿qué sabe hacer?», sino «¿qué le dejamos hacer solo?». Nuestra respuesta: al principio, nada sin su acuerdo. Después, solo lo que ha demostrado saber hacer.
Por qué «todo automático» es un mal punto de partida
Tres razones.
- El agente aún no conoce su empresa. Sus reglas de descuento, el tono de sus recordatorios de pago, el cliente al que nunca se reclama antes del día 15 del mes: todo eso se aprende con sus casos reales, no en una demostración.
- Se confía demasiado pronto en la máquina. El Reglamento europeo de IA (Reglamento (UE) 2024/1689) llama a esta trampa «sesgo de automatización»: la tendencia a confiar de forma automática o excesiva en lo que produce el sistema (artículo 14, apartado 4). Para los sistemas que clasifica como «de alto riesgo», exige que las personas encargadas de la supervisión puedan vigilar su funcionamiento, ignorar o revertir sus resultados e interrumpirlos «pulsando un botón de parada o mediante un procedimiento similar». Estas reglas se refieren únicamente a los sistemas «de alto riesgo». No decimos que sus agentes formen parte de ellos: el papel de cada uno respecto a este reglamento se examinará y se escribirá en su ficha de funciones, agente por agente. Pero partimos del mismo principio para todos nuestros agentes: al principio, no sale nada sin que una persona lo haya validado.
- Un testimonio publicado va en el mismo sentido. Jason Lemkin, fundador del sitio SaaStr, dice haber desplegado más de veinte agentes de IA en un año. En ese sitio escribe que su equipo dedica de 15 a 20 horas semanales a dirigir cinco agentes de prospección comercial, y que sus resultados dependen directamente de la atención humana que se les presta. Es su propio relato, no un estudio independiente. Pero coincide con nuestra postura: un agente que se deja solo demasiado pronto corre el riesgo de desviarse.
De ahí nuestra regla: el agente prepara, su equipo valida. En los casos previstos en su ficha de funciones, se detiene y cede el control. Su libertad se gana después, nivel por nivel.
Los cuatro niveles, de la sombra a la autonomía supervisada
El nivel se fija por agente y por acción. Un mismo agente puede enviar solo un acuse de recibo y esperar su visto bueno para un presupuesto.
| Nivel | El agente… | Su equipo… |
|---|---|---|
| 0. En sombra | propone, pero no actúa | hace ella misma el trabajo; se comparan los dos resultados |
| 1. Validación sistemática | prepara cada acción | valida, corrige o rechaza cada acción antes de que salga |
| 2. Validación por excepción | actúa solo en los casos seguros, definidos por reglas y umbrales escritos | valida los casos que quedan fuera de las reglas y controla una muestra |
| 3. Autónomo y supervisado | actúa solo | lee el informe y recibe las alertas |
El nivel 0 sirve de periodo de prueba, que llamamos «prueba en sombra» (las pruebas de aceptación son la fase de test antes de la puesta en servicio). Durante un plazo definido con usted, el agente propone y su equipo sigue trabajando. Se mide cuántas propuestas habrían sido correctas, qué errores habría cometido el agente y cuánto tiempo habría ahorrado. Después, usted decide la puesta en servicio.
Veamos un escenario tipo: una pyme de 30 empleados confía la clasificación de su buzón de contacto a un agente. Durante la prueba, el agente clasifica cada mensaje y redacta un borrador de respuesta, junto a la del equipo. No sale nada en su nombre. Con la puesta en servicio, pasa al nivel 1: cada respuesta espera una validación.
La puesta en servicio se hace después paso a paso, del nivel 1 al nivel 2, según las mediciones de la prueba. En el nivel 2, lo que es un «caso seguro» está escrito negro sobre blanco en la ficha de funciones del agente. Para un agente de correo, puede ser un acuse de recibo, el horario de apertura o el seguimiento de un pedido. Todo lo demás sube a una persona.
Subir de nivel: con mediciones y con su acuerdo por escrito
Un agente nunca cambia de nivel porque «parezca funcionar bien». Hacen falta dos condiciones, siempre a la vez.
- Mediciones. Las principales son la tasa de acuerdo (la parte de propuestas que su equipo valida sin corregirlas) y los errores detectados. Aparecerán en el cuadro de supervisión, en preparación, y en los informes de seguimiento.
- Su acuerdo por escrito. Decide usted, no nosotros y mucho menos el agente. Nosotros proponemos el paso, con cifras que lo respaldan; usted firma o no.
Los niveles de cada agente se revisarán con regularidad. Un nivel puede subir (siempre con su acuerdo por escrito), mantenerse o bajar.
Bajar automáticamente tras una alerta grave
La autonomía se pierde más deprisa de lo que se gana. Está previsto que, tras una alerta grave, definida en su ficha de funciones, el agente baje un nivel por sí solo, sin esperar a una reunión. Un agente en el nivel 2 pasará al nivel 1: cada acción volverá a esperar una validación. Para volver a subir, rige la misma regla que al principio: mediciones y su acuerdo por escrito.
También está previsto que los agentes señalen ellos mismos sus problemas. Un fallo, un error que se repite, un cambio en el modelo de IA que utilizan (el motor que lee y redacta por ellos): el agente abrirá un ticket, es decir, una ficha de seguimiento del problema, en nuestra herramienta de soporte, en preparación. Ese ticket se vinculará a su proyecto. Recibiremos la alerta y usted verá el ticket en su espacio de cliente. Si el mismo problema vuelve a aparecer, se agrupará en un único ticket.
Junto a estas alertas, cada agente tiene sus casos de parada, escritos en su ficha de funciones. En ellos se detiene y cede el control en lugar de adivinar. Por ejemplo:
- una reclamación grave o una amenaza jurídica en un correo;
- un cliente en litigio, antes de un recordatorio de pago o de un presupuesto; un cliente con un impago, antes de un presupuesto;
- un documento contable ilegible, un duplicado sospechoso, un proveedor desconocido.
Las acciones que siempre se quedan en el nivel 1
Algunas acciones nunca pasan del nivel 1, sean cuales sean las cifras. Un error en ellas sale caro y es difícil de reparar.
- Los pagos. Está previsto que el Agente de Documentos contables proponga conciliaciones entre sus facturas y sus pagos. Nunca pagará.
- El envío a un tercero de un documento que le compromete. Para el Agente de Presupuestos y clientes potenciales: el envío de un presupuesto, un descuento comercial, un compromiso de plazo. Para el Agente de Recordatorios y facturas: la emisión de una factura, un requerimiento formal de pago, una anulación o una factura rectificativa, una promesa de aplazamiento de pago.
- La supresión de datos.
A esto se suman reglas propias de cada agente. Por ejemplo, todo asiento en su contabilidad esperará una validación, igual que todo documento cuyo importe o IVA no se lea con certeza. La ficha de funciones de cada agente enumera estas acciones bloqueadas. Usted la valida antes de la construcción del agente.
El registro de cada acción: quién ha validado qué, cuándo y con qué versión
Cada acción dejará constancia en un registro:
- lo que el agente ha leído;
- lo que ha propuesto;
- la decisión tomada: validada, corregida o rechazada;
- quién la ha tomado y cuándo;
- la versión del agente.
La versión importa. Cada agente desplegado tendrá un número de versión fijo, igual que las herramientas y las conexiones que utiliza. Una actualización volverá a pasar por unas breves pruebas de aceptación. Así, cuando repase una acción de marzo, sabrá qué versión la preparó y, si hubo validación, quién la dio.
El Reglamento europeo de IA va en el mismo sentido para los sistemas «de alto riesgo». Deben permitir, técnicamente, el registro automático de sus eventos en archivos de registro durante toda su vida útil (artículo 12). La empresa que los utiliza (el reglamento la llama «responsable del despliegue») conserva los registros que controla al menos seis meses, salvo otra norma europea o nacional, en particular sobre datos personales (artículo 26). El mismo artículo exige encomendar la supervisión humana a personas que tengan la competencia, la formación y la autoridad necesarias, así como el apoyo necesario.
Seguimos la misma idea: prevemos una sesión de toma de contacto en cada puesta en marcha. Será una sesión breve en la que su equipo aprenderá a leer las propuestas, validar, corregir y avisar.
En cuanto a los datos, el agente solo enviará al modelo de IA lo que esté escrito en su ficha de funciones. Sus agentes funcionarán donde usted haya elegido: su nube en una región europea, sus servidores o un servidor dedicado en nuestra infraestructura, en la Unión Europea. El modelo de IA, por su parte, puede ser invocado en un proveedor: véase datos y seguridad. Nuestra herramienta de supervisión, en preparación, solo recibirá los indicadores y las alertas; nuestra herramienta de soporte, el detalle técnico de los tickets.