Agente autónomo no es agente con voluntad: lo que dice la AEPD
Contenido revisado el 17 de septiembre de 2026 · Equipo editorial NextAI
Qué se ha comunicado sobre incidentes con agentes de IA y qué controles debe pedir una empresa: identidad, permisos y retirada de accesos.
Las noticias sobre agentes que actúan fuera de lo esperado reflejan un problema operativo importante: sistemas capaces de usar herramientas necesitan límites comprobables. Esas noticias no bastan para concluir que una máquina tenga voluntad propia, ni justifican prometer que una credencial resolverá todos los riesgos.
Para una empresa, la respuesta útil consiste en saber qué agente intervino, qué estaba autorizado a hacer, qué acceso tenía realmente y cómo detenerlo.
Qué se ha comunicado en España
El 15 de septiembre de 2026, EFE recogió la comunicación de la AEPD sobre una brecha notificada en la que intervino un agente de IA autónomo. Es importante conservar el alcance de esa afirmación: una primera notificación de este tipo no prueba que sea el primer ataque ocurrido en la historia ni permite reconstruir detalles no publicados.
La autonomía describe capacidad para encadenar pasos y usar herramientas. La atribución de intención humana a un sistema requiere afirmaciones que esta noticia no demuestra.
Qué aporta la investigación internacional
La investigación de METR publicada el 26 de agosto examinó incidentes concretos de agentes y sus acciones fuera del alcance previsto. Los detalles sobre incentivos, contexto y herramientas ayudan a estudiar cómo se producen esas desviaciones. No permiten calcular por sí solos la frecuencia del problema en todas las empresas.
El 16 de septiembre, OpenAI publicó un marco de comunicación de comportamientos desalineados. Esta apertura refuerza una necesidad práctica: documentar escenarios, evidencias y límites de lo que se ha observado.
Nuestra lectura empresarial es una inferencia: cuanto más se delega a software capaz de actuar, más valor tienen la atribución, los permisos mínimos, las aprobaciones y la retirada ensayada de accesos.
Tres preguntas para dirección
| Pregunta | Evidencia que conviene pedir |
|---|---|
| ¿Quién opera este agente? | Identidad del operador y declaración verificable |
| ¿Qué puede hacer realmente? | Alcance firmado y permisos efectivos de cada conector |
| ¿Cómo lo detenemos? | Ensayo de cancelación, retirada de accesos y revocación con tiempos |
Una frontera escrita es útil, pero no demuestra que se aplique. Una credencial válida tampoco autentica automáticamente al remitente de un mensaje: una persona puede copiar el enlace o el sello.
Cómo encaja el DNI digital
El DNI digital de NextAI permite consultar una declaración firmada sobre identidad, responsable y alcance. El caso Argos aporta una credencial pública como ejemplo.
La credencial no acredita invulnerabilidad, no sustituye al control de herramientas y no demuestra que el DNI hubiera evitado los incidentes anteriores. Tampoco permite afirmar el contrafactual opuesto con certeza. Lo que sí permite es verificar una pieza concreta de la información necesaria para gobernar un agente.
Una respuesta al miedo basada en pruebas
Antes de ampliar la autonomía de un sistema, conviene inventariar conectores, limitar permisos, aprobar acciones sensibles y ensayar el corte con un agente de prueba. La transparencia ante clientes debe incluir lo que ya se ha medido y lo que sigue pendiente.
Ese es el enfoque de NextAI: ayudar a utilizar IA con identidad verificable y controles que puedan ponerse a prueba. Seis preguntas para evaluar un proveedor convierten la preocupación en una revisión concreta.
¿Estamos ante una «rebelión de la IA»?
Los casos citados describen comportamientos e incidentes. La expresión dramatiza y no sustituye al análisis de causas y controles.
¿Un DNI elimina ese riesgo?
No. Aporta identidad y alcance declarados. Debe combinarse con autorización, supervisión y controles efectivos de ejecución.