Gobierno de IA· 16 de noviembre de 2026

Observabilidad de agentes IA: cómo auditar su razonamiento en tiempo real

La observabilidad de agentes trasciende al código. Con BigQuery y Looker, los directores de riesgos pueden auditar el razonamiento autónomo y el cumplimiento normativo en tiempo real.

Observabilidad de agentes IA: cómo auditar su razonamiento en tiempo real

Un superagente que autoriza pagos, selecciona talento o negocia con proveedores ejecuta cientos de decisiones cotidianas. Ningún consejo de administración confiaría su firma a un empleado anónimo, pero muchas empresas operan hoy con agentes autónomos sin capacidad para explicar ante un auditor por qué se aprobó un crédito o se cerró una incidencia sin supervisión humana. Esa brecha de visibilidad, llamada observabilidad, trasciende la técnica: compromete la cuenta de resultados y la reputación corporativa. Con el anuncio del 14 de noviembre de 2026, Google Cloud traslada la telemetría a BigQuery y Looker, transformando los logs de ingeniería en paneles de control accesibles para la dirección de riesgos. Auditoría del razonamiento algorítmico y gobierno corporativo convergen finalmente en una misma tarea. Analizamos aquí los cambios en el stack de datos, las carencias estructurales que persisten y la integración de esta telemetría en un marco de Gobierno de IA capaz de sustentar decisiones automatizadas sobre conocimiento veraz, evitando las alucinaciones del modelo.

Panel de control financiero mostrando el trazado de decisiones de una inteligencia artificial frente a un auditor humano.

La caja negra que factura por ti

Ya hemos escrito sobre el fin de los algoritmos de caja negra en la IA empresarial. Pero los Superagentes —entendidos como agentes que se hacen cargo de un proceso completo, de principio a fin, sin que un humano intervenga en cada paso— han abierto una caja negra distinta: la de la autonomía encadenada. Un modelo que solo clasifica texto se audita con una matriz de confusión. Un agente que encadena diez llamadas a herramientas, decide cuándo pedir ayuda y modifica su propia memoria operativa exige otro nivel de trazabilidad, paso a paso.

Partnership on AI y MIT Technology Review documentan seis brechas estructurales de telemetría en los frameworks actuales de agentes: ausencia de identidades persistentes entre sesiones, falta de trazabilidad en los cambios de memoria y en el modo de permisos, y un registro insuficiente del contexto real en el que interviene un humano (Partnership on AI; MIT Technology Review). No son detalles de ingeniería menores: son exactamente los puntos que exige vigilar el Compromiso 2 del EU GPAI Code of Practice, en su Medida 3.5 sobre monitorización post-comercialización, que obliga a los proveedores a controlar riesgos sistémicos e incidentes, incluidas las cadenas de pensamiento ocultas que el modelo no expone por defecto.

La pregunta que debería hacerse cualquier comité de riesgos no es "¿funciona el agente?". Es "¿podemos demostrar, con una traza verificable, por qué decidió lo que decidió la última vez que algo salió mal?". Si la respuesta exige abrir un ticket a ingeniería y esperar tres días, el problema no es técnico. Es de gobierno.

Qué es realmente la observabilidad de agentes IA

La observabilidad de agentes no es logging tradicional. Un sistema de monitorización de aplicaciones (APM) clásico vigila peticiones con principio y fin claros. Un agente genera un grafo acíclico dirigido (DAG) de pasos: decide qué herramienta invocar, a qué otro agente delegar una subtarea —interacción agente a agente, o A2A— y qué servidor MCP consultar para obtener datos externos. Cada uno de esos pasos es un "span" que debe quedar registrado con su entrada, su salida y su duración, de forma que se pueda reconstruir el razonamiento completo después de los hechos.

Google Cloud ha estandarizado esta captura con métricas de percentiles —p50, p95 y p99— tanto para las llamadas a modelos como para las herramientas y servidores MCP externos (Google Cloud Documentation). La diferencia entre percentiles no es un matiz estadístico para analistas: es la diferencia entre lo que el agente hace "normalmente" y lo que hace cuando algo empieza a degenerar.

PercentilQué mide en la prácticaMagnitud relativa
p50 (mediana)Comportamiento típico del agente o la herramienta█████░░░░░ 50 %
p95Cola de casos lentos o complejos, ya relevante para disparar alertas█████████░ 95 %
p99Casos extremos: bucles de razonamiento, fallos en cascada, posibles ataques██████████ 99 %

Lectura de la tabla: cuando el p99 se despega del p50 por un margen amplio y sostenido en el tiempo, el agente ha entrado en un comportamiento atípico —normalmente la antesala de un bucle de razonamiento o de una herramienta caída— mucho antes de que lo note cualquier humano revisando la factura mensual de cómputo. Fuente: Google Cloud Documentation.

En el marco de trabajo de NextAI, esta capa de telemetría es precisamente la que permite calcular con rigor el RAO —el Ratio de Autonomía Operativa, es decir, de cada 100 ejecuciones de un proceso, cuántas terminan sin intervención humana—. Sin trazas span a span, el RAO es una estimación cómoda que cuadra bien en una presentación. Con telemetría nativa, es una métrica auditable que resiste una pregunta incómoda en un consejo.

El golpe de Google: BigQuery como panóptico corporativo

La funcionalidad de "Conversation logging" en BigQuery y la Conversational Analytics API alcanzaron disponibilidad general (GA) el 14 de noviembre de 2026. Esto permite almacenar trazas, prompts y respuestas directamente en tablas de BigQuery gestionadas por el propio cliente, con soporte para VPC Service Controls, cifrado con claves gestionadas por el cliente (CMEK) y residencia regional de datos configurable (Google Cloud Blog). La cobertura alcanza tanto a agentes propios (1P) como a agentes de terceros (3P) construidos sobre LangGraph o Agent Development Kit (ADK).

DimensiónAntes: logs dispersos en el proveedorAhora: observabilidad nativa en BigQuery
Propiedad de los datosTablas gestionadas por el proveedor del modeloTablas propiedad del cliente, consultables con SQL estándar
CifradoConfiguración por defecto del proveedorClaves gestionadas por el cliente (CMEK)
Residencia de datosSegún la región del servicio, poco negociableResidencia regional configurable
Acceso para no técnicosRequiere exportar datos o pedirlo a ingenieríaDashboards directos en Looker y BigQuery Studio
Alcance de agentesNormalmente solo agentes propios (1P)Propios y de terceros (3P) sobre LangGraph o ADK

Que estas funciones hayan pasado a GA no es un matiz de producto: significa que dejan de ser una prueba experimental y pasan a ser una pieza contractual sobre la que una empresa puede exigir un acuerdo de nivel de servicio (SLA). Esta telemetría, además, es el prerrequisito de cualquier kill switch para IA que funcione de verdad: no se puede detener a tiempo lo que no se ve en tiempo real.

Economía del descontrol: cuando un bucle cuesta más que un empleado

Un agente atrapado en un bucle de razonamiento no emite una alerta visual. Emite tokens. Y los tokens son dinero que sale de la cuenta de la nube sin que nadie lo autorice en el momento en que ocurre. Un Superagente mal calibrado puede multiplicar su consumo de cómputo en cuestión de minutos, mucho antes de que la factura mensual delate el problema (Google Cloud Blog).

EscenarioSeñal observableCoste relativo estimado (orientativo)
Ejecución normalTurnos por sesión y tokens dentro del rango históricoBase 1x
Degradación leveAumenta la tasa de llamadas redundantes a herramientas externas2-3x el coste por sesión
Bucle no detectadoEl p99 de latencia y de tokens se dispara sin resolución10x o más, en pocos minutos

La observabilidad no evita que un agente se equivoque. Evita que se equivoque mil veces antes de que alguien lo note.

Llevar esta telemetría al data warehouse permite cruzar el coste por turno con la tasa real de resolución sin intervención humana —tu RAO real, no el que aparece en la ficha comercial del proveedor—. De ahí nacen acciones concretas, no solo informes:

  1. Definir umbrales de alerta en Cloud Monitoring basados en el p95 de latencia y en la tasa de error de herramientas.
  2. Fijar un tope máximo de tokens por sesión antes de forzar una pausa o un escalado a un humano.
  3. Cruzar en BigQuery el coste por turno con la tasa de resolución autónoma de cada proceso.
  4. Revisar semanalmente las sesiones situadas en el percentil p99, no solo los promedios, que esconden los bucles más caros.

Riesgo, seguridad y gobierno: AI Act, RGPD y doble atribución SPIFFE

Un log que dice "el agente hizo X" no sirve de nada ante un auditor. Lo que sirve es un log que diga quién delegó esa acción y bajo qué identidad actuó la máquina. Gemini Enterprise Agent Platform ha resuelto esto con lo que llama registro de doble atribución: cada entrada en Cloud Logging guarda simultáneamente la identidad SPIFFE del agente —con el prefijo principal:// o spiffe://— junto con la identidad del usuario humano que delegó la tarea, más un flag booleano is_agentic=true que permite aislar de un vistazo todo lo que decidió una máquina sin supervisión directa (Google Cloud Documentation).

Esto no es un capricho de ingeniería. Es la pieza que da no repudio: nadie puede decir "yo no autoricé eso" ni "el agente actuó por su cuenta sin que nadie lo supiera". El EU AI Act exige exactamente esto para los sistemas de propósito general: supervisión humana demostrable y monitorización post-comercialización de riesgos sistémicos e incidentes. Ya analizamos en detalle este marco en Gobernanza TRiSM en 2026: cómo auditar tus agentes de IA empresariales, y el anuncio de Google confirma que la trazabilidad técnica empieza a alinearse con la exigencia regulatoria, aunque todavía con huecos.

Porque hay un problema que la doble atribución no resuelve: la seguridad del propio canal de telemetría. Si un atacante compromete las credenciales de un agente, puede generar trazas legítimas que documenten acciones ilegítimas. El caso que analizamos en El caso Anthropic: cómo proteger a tus agentes de ciberespionaje demuestra que la observabilidad sin control de acceso es solo un registro bonito de un robo en curso.

Sobre el RGPD, llevar prompts y respuestas completas a BigQuery multiplica la superficie de exposición de datos personales. No basta con activar el logging: hay que configurar cifrado con claves gestionadas por el cliente (CMEK), restringir el perímetro con VPC Service Controls y aplicar filtros DLP que desidentifiquen la información sensible antes de que el prompt llegue a reposar en una tabla. Sin esto, el remedio contra la caja negra se convierte en un nuevo riesgo de fuga de datos.

Conviene matizar dos cosas que el marketing del sector da por hechas y que el dossier del laboratorio NextAI no confirma. Primero, el estándar OpenTelemetry para agentes generativos todavía no está maduro a nivel industrial: los formatos varían entre proveedores y omiten telemetría clave como los cambios de memoria o las probabilidades logarítmicas del modelo. Segundo, la "transparencia del razonamiento" que prometen los anuncios comerciales suele capturar solo un resumen expuesto a posteriori por el propio proveedor del modelo, no la cadena de pensamiento interna completa. Auditar un resumen no es auditar un razonamiento.

Operación real en empresas españolas

La mayoría de medianas empresas españolas no tiene, ni va a tener en los próximos dos años, un equipo dedicado de ingeniería de fiabilidad de IA (AI SRE). Eso es un hecho operativo, no una crítica. Por eso los dashboards preconfigurados en BigQuery Studio y Looker son relevantes más allá del titular: bajan la barrera de entrada hasta el punto de que un equipo de TI tradicional, sin especialización en agentes, puede detectar una desviación sin desplegar infraestructura propia de observabilidad.

Pero hay una trampa que ningún dashboard resuelve por sí solo: distinguir intervención humana real de un simple "aprobado" clicado sin leer, por falta de tiempo del operador. Un flujo que exige revisión humana en el 100 % de las decisiones críticas puede, en la práctica, tener un RAO declarado del 40 % y un RAO real cercano al 95 %, porque el humano firma sin mirar. La telemetría detecta el patrón —aprobaciones en menos de dos segundos, sin apertura de la traza asociada— pero solo si alguien se ha molestado en diseñar esa alerta.

Esto es exactamente lo que la Ruta NEXT-5 de NextAI ordena en cinco fases: cartografía de procesos, construcción del cerebro, despliegue de Superagentes, orquestación entre ellos y, al final, gobierno. Ninguna empresa debería saltarse la quinta fase pensando que la observabilidad es un añadido técnico de última hora. El IMAN —el Índice de Madurez AI-Native, que mide a una empresa en cinco ejes: datos, memoria, razonamiento, agencia y gobierno— sitúa precisamente en su eje de gobierno la capacidad de auditar decisiones autónomas en tiempo real. Una empresa con Superagentes avanzados pero sin trazabilidad real no puntúa alto en gobierno, por mucha automatización que presuma en agencia.

Y aquí aparece un riesgo silencioso: la Deuda de Contexto, es decir, la brecha creciente entre lo que un agente "sabe" y lo que la empresa cree que sabe, que se acumula cuando nadie revisa si la memoria operativa del sistema sigue alineada con la realidad del negocio. Sin observabilidad, esa deuda es invisible hasta que factura un error caro.

Qué significa para tu empresa

Si eres una pyme sin equipo técnico dedicado, no necesitas construir infraestructura de observabilidad desde cero. Necesitas exigir a cualquier proveedor de agentes que entregue logs exportables, con identidad trazable, desde el primer día de producción. Si el proveedor no puede enseñarte una traza concreta de una decisión concreta, no está listo para producción.

Si ya operas varios Superagentes en producción, el riesgo deja de ser teórico. Necesitas correlacionar coste por turno, tasa de resolución autónoma y percentiles de latencia en un mismo panel, no en tres herramientas distintas que nadie cruza. Aquí la telemetría nativa en BigQuery deja de ser un lujo y pasa a ser condición de permanencia.

Si operas en un sector regulado —financiero o salud—, la doble atribución SPIFFE y el post-market monitoring no son opcionales: son la diferencia entre superar una inspección y recibir una sanción. El cifrado CMEK y los filtros DLP sobre PII dejan de ser una buena práctica y se convierten en requisito legal de facto.

Tres preguntas para decidir hoy mismo en qué fase estás:

PreguntaSi respondes "no"
¿Tenéis ya logs auditables de vuestros agentes en producción?Estáis operando a ciegas, no observando
¿Habéis calculado vuestro RAO real, no el declarado?No sabéis cuánto cuesta de verdad vuestra automatización
¿Sabríais decir quién revisaría una traza concreta esta misma tarde?No tenéis gobierno, tenéis buena suerte

Metodología y fuentes

El laboratorio de NextAI cruzó el anuncio técnico de Google Cloud con los informes independientes de Partnership on AI y MIT Technology Review para separar lo que ya funciona en producción de lo que sigue siendo promesa comercial. Contrastamos la documentación técnica de percentiles y doble atribución con las exigencias regulatorias del EU GPAI Code of Practice antes de traducirlo a implicaciones de negocio. Fuentes externas consultadas: Google Cloud Blog, Partnership on AI y MIT Technology Review.

Preguntas frecuentes

¿Qué es la observabilidad de agentes IA?

Es la capacidad de reconstruir, paso a paso, cómo un agente llegó a una decisión: qué herramientas invocó, a qué otros agentes delegó tareas y qué datos consultó. Va más allá del logging tradicional porque captura un grafo de decisiones encadenadas, no una única petición con principio y fin.

¿Cuál es la diferencia entre telemetría y auditar el razonamiento de un agente?

La telemetría son los datos crudos: latencias, tokens, llamadas a herramientas. Auditar el razonamiento exige interpretar esos datos para reconstruir por qué el agente decidió algo concreto. Hoy, buena parte de los frameworks solo expone resúmenes del proveedor, no la cadena de pensamiento interna completa.

¿Cómo se relaciona BigQuery con el control de agentes autónomos?

BigQuery almacena ahora trazas, prompts y respuestas en tablas propiedad del cliente, consultables con SQL estándar. Esto permite que perfiles no técnicos —riesgos, cumplimiento, finanzas— verifiquen en tiempo real si un agente respeta las reglas corporativas, sin depender de que ingeniería exporte datos manualmente.

¿Qué obliga el AI Act en materia de monitorización de agentes?

Exige supervisión humana demostrable y monitorización post-comercialización de riesgos sistémicos e incidentes, incluidas cadenas de pensamiento ocultas no transparentes a terceros. En la práctica, obliga a conservar registros auditables de cada decisión autónoma relevante, con trazabilidad de quién delegó y qué sistema actuó.

Qué hacer con esto

La transición hacia una IA auditable requiere rigor operativo inmediato: verifica que tus superagentes generen trazas con identidad verificable en lugar de meros logs de depuración. Calcula tu RAO real contrastando costes por turno frente a la tasa de resolución efectiva, lejos de las métricas comerciales del fabricante. Implementa la doble atribución —usuario delegador e identidad del agente— en todo pipeline antes de su despliegue y blinda la persistencia de datos personales mediante CMEK, VPC Service Controls y filtros DLP. Finalmente, el análisis del percentil p99 en sesiones recurrentes resulta innegociable: allí residen los bucles críticos que erosiona tu margen y tu fiabilidad. Pide tu Auditoría Digital — 45 minutos, sin presentaciones comerciales.

¿Lo llevamos a tu empresa?

Eva te orienta. Nuestro equipo concreta tu proyecto.

Pedir auditoría · 290 € ↗