Observabilidad de agentes de IA: qué vigilar antes de que falle en producción

Una empresa pone en marcha un agente de IA para gestionar solicitudes de clientes, aprobar reembolsos pequeños o mover datos entre sistemas. Funciona bien las primeras semanas. Entonces un día empieza a tomar decisiones distintas — un patrón de datos cambió, una integración falló a medias, un usuario descubrió cómo hacerle decir algo que no debía — y nadie se entera hasta que hay una reclamación, una factura rara o un cliente enfadado. El agente seguía funcionando. Solo que nadie estaba mirando qué hacía.

Eso es un fallo de observabilidad, no un fallo del agente.

Qué es la observabilidad de un agente de IA

Monitorizar un servidor es mirar si está vivo: CPU, memoria, tiempo de respuesta. Un agente de IA puede estar «vivo» — respondiendo, ejecutando, sin caerse — y al mismo tiempo estar haciendo algo que nadie aprobaría si lo viera. La observabilidad de un agente no es solo saber que funciona: es poder reconstruir, paso a paso, por qué tomó una decisión concreta — qué entrada recibió, qué herramientas usó, qué datos consultó, qué acción ejecutó y con qué permisos. Sin eso, un agente que falla no deja rastro útil: solo deja un resultado que hay que explicar sin pruebas.

Lo que dicen los datos: la confianza va por delante de la cobertura real

El Informe sobre el Estado de la Seguridad de los Agentes de IA 2026 de Gravitee (750 responsables de tecnología de empresas de Reino Unido y EE. UU., encuestados en diciembre de 2025 y otra vez en abril de 2026) encontró una brecha concreta entre lo que las empresas creen que vigilan y lo que vigilan de verdad:

• El 48% de los agentes de IA en producción funciona sin estar asegurado.
• La cobertura media de monitorización es de solo el 52% — y apenas mejoró (venía del 47%)

pese a que el número de agentes desplegados se duplicó en solo 4 meses.

• Solo el 9,5% de las empresas vigila a más del 81% de sus agentes desplegados.
• La confianza en la propia visibilidad subió al 91,8% mientras la cobertura real se quedó

plana — las empresas están cada vez más seguras de algo que cada vez saben menos.

• El 54% sufrió o sospecha haber sufrido un incidente de seguridad relacionado con un agente

de IA en los últimos 12 meses.

• El 85% no tiene a nadie con responsabilidad formal sobre el comportamiento de sus agentes;

solo el 7,2% ha nombrado a una persona concreta.

• El 80% pone agentes en producción sin todos los controles de seguridad previstos.

El Informe Splunk/Cisco sobre el Estado de la Observabilidad 2026 (2.050 profesionales de IT y operaciones, 10 países, 16 sectores) llega a una conclusión parecida desde el lado de la gestión diaria:

• El 87% dice que monitorizar la IA es una prioridad para su empresa, pero el 54% no tiene

resultados de negocio claros ligados a esa monitorización — vigilan, pero no saben para qué.

• El 85% considera importante detectar alucinaciones de la IA, pero solo el 58% dice

hacerlo con eficacia.

• El 56% no puede medir métricas básicas de calidad de las respuestas de sus modelos.
• El 55% no logra controlar el coste de sus agentes, y el 60% sufre picos de factura

inesperados que generan más tensión que el coste base en sí.

Las dos cifras que más importan juntas: los agentes se están desplegando el doble de rápido de lo que se vigilan, y la confianza de quien los gestiona crece más rápido que su capacidad real de verlos.

Qué puede salir mal sin observabilidad (ejemplo ilustrativo)

Piensa en un agente de IA que gestiona solicitudes de devolución de un ecommerce, con permiso para aprobar reembolsos hasta un límite. Si nadie registra qué reembolsos aprueba, bajo qué justificación y con qué frecuencia, un cambio en el guion de un cliente — o un fallo en cómo interpreta una política actualizada — puede hacer que empiece a aprobar casos que no debería, durante semanas, sin que salte ninguna alarma hasta que alguien revise las cuentas a mano. Esto es un ejemplo ilustrativo, no un caso real: pero es exactamente el tipo de fallo «silencioso» que describen los datos anteriores — el agente sigue respondiendo con normalidad, el problema está en lo que decide, no en si funciona.

Qué hay que vigilar de un agente de IA en producción

Una observabilidad real para un agente de IA cubre, como mínimo, cinco cosas:

1. Registro de cada decisión, no solo del resultado final: qué entrada recibió, qué razonó (si el modelo expone ese paso) y qué acción eligió ejecutar. 2. Trazabilidad de cada paso y cada llamada a herramienta: qué sistemas consultó o modificó, en qué orden, y con qué respuesta de cada uno. 3. Acceso usado frente a acceso concedido: no basta con saber qué permisos tiene un agente (ver nuestro artículo sobre permisos de agentes de IA para el problema de fondo); hay que registrar qué permisos usa realmente, para detectar cuando empieza a tocar algo nuevo. 4. Desviación de comportamiento en el tiempo: comparar el patrón de acciones de hoy con el de hace un mes, no solo mirar si hay errores explícitos. 5. Coste por ejecución: sin esto, un agente que empieza a llamar a un modelo más caro de lo necesario, o a repetir pasos por un bucle mal controlado, solo se detecta en la factura.

Antes de poner un agente de IA en producción

• Define quién es la persona responsable de revisar su comportamiento — no un equipo genérico,

alguien con nombre.

• Exige trazabilidad de cada acción antes del lanzamiento, no como mejora futura.
• Compara el acceso que tiene contra el acceso que realmente usa, pasado el primer mes.
• Fija una alerta explícita para comportamiento fuera de patrón, no solo para errores técnicos.
• Revisa el coste por ejecución desde el primer día, no cuando llegue la factura.

Preguntas frecuentes

¿Observabilidad es lo mismo que monitorización? No exactamente. Monitorizar es mirar métricas (¿está vivo?, ¿responde rápido?). Observar es poder reconstruir por qué un agente tomó una decisión concreta, con el detalle suficiente para explicarla o corregirla.

¿Por qué el 91,8% de confianza en la visibilidad no se corresponde con la cobertura real? Porque muchas empresas confunden «tenemos un panel que muestra actividad» con «podemos explicar cualquier decisión que tomó el agente». El primero da sensación de control; el segundo es el que realmente lo da.

¿Qué pasa si un agente de IA toma una decisión incorrecta y no hay registro de por qué? Se puede corregir el resultado, pero no se puede saber si va a volver a pasar, ni demostrar ante un cliente, un auditor o un regulador qué ocurrió exactamente.

¿La observabilidad sustituye a la seguridad de un agente de IA? No. Es la pieza que permite detectar cuándo un control de seguridad —permisos, límites de acceso— falla en la práctica, aunque esté bien diseñado sobre el papel.

¿Cuántos agentes de IA hace falta tener para que esto importe? Según Gravitee, las empresas que ya despliegan 100 o más agentes son el 38% de las encuestadas —y ese número se duplicó en 4 meses. El momento de definir la observabilidad es antes de llegar ahí, no después.

Lo que hacemos en Optima Quantum

Diseñamos y auditamos la seguridad de los agentes de IA que tu empresa ya tiene desplegados o está a punto de desplegar: qué registran, qué acceso usan de verdad frente al que tienen concedido, y qué alertas hacen falta para que un comportamiento fuera de patrón se detecte en horas, no en la siguiente auditoría trimestral. Si estás evaluando cómo orquestar varios agentes de IA o quieres entender primero qué son y qué tipos de agentes de IA existen, revisa también nuestros servicios de inteligencia artificial para empresas. Si ese agente se conecta a herramientas externas por MCP, la vigilancia tiene que cubrir también esos servidores — en gobernanza de MCP vemos por qué la mayoría no está ni auditada. Vigilar lo que hace un agente es la mitad del trabajo; la otra mitad es poder limitarlo y cortarlo si hace falta — lo que tratamos en gobernanza de datos de agentes de IA. Y toda esa vigilancia asume que el agente se queda dentro del entorno que le diste: en contención de agentes de IA mostramos que eso falla casi la mitad de las veces en pruebas controladas. Contacta con nosotros y te decimos, con los agentes que ya tienes en marcha, qué deberías estar viendo hoy y no estás viendo.