AI Act y Microsoft Copilot: cómo cumplir la ley al usar IA de terceros
La AI Act es una realidad vigente. Usar Copilot o ChatGPT no exime a vuestra empresa de su responsabilidad como desplegador: aquí tenéis las claves para gobernar la IA.
Microsoft Copilot, ChatGPT Enterprise y ese puñado de herramientas que el equipo de marketing adoptó sin avisar forman ya parte del flujo operativo. Ante esta amalgama tecnológica, la pregunta sobre quién responde de los resultados suele toparse con un silencio elocuente. La AI Act no es un horizonte regulatorio, sino una exigencia vigente con plenos efectos jurídicos. Persiste en los comités de dirección un error estratégico de consecuencias imprevisibles: creer que el uso de software de terceros desplaza la responsabilidad legal hacia el proveedor. Confiar en esta premisa es un riesgo de cumplimiento inasumible.
Este artículo descompone qué dice exactamente la AI Act sobre el uso de sistemas de IA de terceros, qué responsabilidades recaen sobre vuestro lado de la ecuación, y cómo estructurar un marco de gobierno que os permita usar Copilot —y cualquier otro agente— con garantías reales, no con la esperanza de que el proveedor os cubra.
Qué dice la AI Act sobre los usuarios de IA de terceros
La AI Act distingue entre proveedores (providers) y desplegadores (deployers). Microsoft es proveedor de Copilot. Vuestra empresa, en el momento en que lo activa para sus empleados y procesos, se convierte en desplegador. Y los desplegadores tienen obligaciones propias, independientemente de lo que haga el proveedor.
Estas obligaciones incluyen, entre otras:
- Asegurarse de que el sistema se usa conforme a las instrucciones del proveedor.
- Informar a los trabajadores de que interactúan con IA cuando sea relevante.
- Supervisar el sistema en operación y detectar riesgos no previstos.
- Mantener registros de uso cuando el sistema se clasifica en riesgo alto.
- No usar el sistema para finalidades distintas de las declaradas.
La clasificación de riesgo no es fija: depende del uso concreto. Un Copilot que redacta correos internos tiene un perfil de riesgo diferente al que asiste en decisiones de crédito, selección de personal o gestión de reclamaciones de clientes. El mismo producto, usos distintos, obligaciones distintas.
La IA Act no regula herramientas. Regula usos. Vuestro uso de Copilot puede ser de riesgo alto aunque Copilot no sea inherentemente un sistema de alto riesgo.
El mapa de responsabilidad: proveedor vs. desplegador
| Responsabilidad | Microsoft (Proveedor) | Vuestra empresa (Desplegador) |
|---|---|---|
| Diseño técnico del modelo | ✓ | ✗ |
| Documentación técnica del sistema | ✓ | ✗ |
| Conformidad CE del producto | ✓ | ✗ |
| Instrucciones de uso seguro | ✓ | ✗ |
| Definir el caso de uso concreto | ✗ | ✓ |
| Supervisar el despliegue en operación | ✗ | ✓ |
| Informar a empleados afectados | ✗ | ✓ |
| Registrar logs si el uso es riesgo alto | ✗ | ✓ |
| Evaluar impacto en derechos fundamentales | ✗ | ✓ |
| Gestionar incidentes y notificar a AESIA | ✗ | ✓ |
La columna de la derecha es vuestra. No la de Microsoft.
Por qué Copilot y Microsoft 365 generan un punto ciego particular
Microsoft 365 Copilot tiene una característica que lo hace especialmente delicado desde el punto de vista regulatorio: accede a vuestros datos internos. Correos, documentos, reuniones, calendarios. Eso significa que los outputs que genera están condicionados por información que vosotros habéis introducido en el sistema, y que vosotros sois responsables de esa capa de contexto.
Además, Copilot en M365 puede actuar como agente: redactar y enviar correos, crear documentos, resumir conversaciones y trasladar información entre aplicaciones. Cuando un sistema deja de ser consultivo y empieza a ejecutar acciones, el nivel de supervisión requerido sube de forma proporcional.
El problema que detectamos con frecuencia es lo que en NextAI llamamos Shadow AI: el uso no supervisado ni auditado de herramientas de IA dentro de la organización, muchas veces con acceso a datos sensibles y sin ningún registro. Si queréis entender la magnitud real de este fenómeno en vuestra empresa, el punto de partida está en auditar lo que no veis.
El estado real de preparación en las empresas españolas
Los datos que manejamos en proyectos de diagnóstico son orientativos, pero consistentes. La brecha entre percepción y realidad es sistemática.
| Indicador | Percepción interna (% empresas que creen cumplir) | Realidad auditada (% que cumplen efectivamente) |
|---|---|---|
| Inventario de sistemas IA en uso | 71 % | ~30 % |
| Registro de logs de uso de Copilot | 58 % | ~20 % |
| Información a empleados sobre IA | 64 % | ~35 % |
| Evaluación de impacto en riesgo alto | 42 % | ~12 % |
| Protocolo de incidentes IA definido | 49 % | ~18 % |
Datos orientativos basados en diagnósticos internos. No constituyen estudio publicado.
Visualmente: brecha de cumplimiento AI Act
| Área | Nivel de cumplimiento efectivo |
|---|---|
| Inventario IA | ███░░░░░░░ 30 % |
| Logs Copilot | ██░░░░░░░░ 20 % |
| Info a empleados | ███░░░░░░░ 35 % |
| Evaluación impacto | █░░░░░░░░░ 12 % |
| Protocolo incidentes | ██░░░░░░░░ 18 % |
Cada █ representa aproximadamente un 10 % de cumplimiento. Datos orientativos.
La conclusión operativa es clara: la mayoría de empresas que usan Copilot u otras herramientas de IA de terceros tienen una exposición regulatoria real que no está siendo gestionada.
Cómo construir un marco de gobierno para IA de terceros
El gobierno de IA no es un documento PDF. Es un conjunto de controles operativos que funcionan en tiempo real. En NextAI trabajamos con la Ruta NEXT-5, una secuencia de cinco capas —cartografía, cerebro, superagentes, orquestación y gobierno— donde la capa de gobierno no es el punto final sino el sistema nervioso que da coherencia a todo lo anterior.
Para empresas que ya tienen Copilot u otras herramientas desplegadas, el gobierno se estructura en torno a cuatro ejes prácticos:
1. Inventario y clasificación de usos
Antes de cualquier otra cosa, necesitáis saber qué IA está activa, quién la usa, para qué y con acceso a qué datos. No el inventario de licencias: el inventario de usos reales. Esto incluye los usos no autorizados, que en la mayoría de organizaciones son más numerosos que los autorizados.
Cada uso identificado debe clasificarse según su nivel de riesgo bajo el esquema de la AI Act: inaceptable, alto, limitado o mínimo. Un mismo producto puede tener usos en tres categorías distintas dentro de la misma empresa.
2. Registro de operación
Para los usos de riesgo alto, la AI Act exige trazabilidad. Necesitáis logs que respondan a: qué instrucción se dio al sistema, qué output produjo, qué persona actuó sobre ese output y cuál fue la decisión final. Esto no solo es obligatorio en algunos casos: es vuestra protección en caso de auditoría por parte de la AESIA.
La Auditoría AESIA 2026 tiene criterios específicos sobre esta trazabilidad que conviene revisar antes de que sea la inspección quien os los explique.
3. Supervisión humana efectiva
La AI Act exige que los desplegadores garanticen supervisión humana significativa en sistemas de riesgo alto. «Significativa» es la palabra clave: no basta con que un humano esté en el circuito si en la práctica aprueba el 100 % de las recomendaciones sin revisión real.
En NextAI medimos esto con el RAO (Ratio de Autonomía Operativa): de cada 100 ejecuciones de un proceso, cuántas terminan sin intervención humana. Un RAO alto puede ser una señal de eficiencia, pero también puede ser una señal de supervisión insuficiente desde el punto de vista regulatorio. El objetivo no es minimizar el RAO: es que el nivel de autonomía sea coherente con el nivel de riesgo del proceso.
4. Formación e información a empleados
Los empleados que interactúan con sistemas de IA tienen derecho a saberlo. Y los que toman decisiones asistidas por IA necesitan entender las limitaciones del sistema, incluida su tendencia a producir outputs incorrectos con apariencia de corrección. Las alucinaciones de IA en entorno empresarial son un riesgo operativo y un riesgo regulatorio: si un empleado actúa sobre un output incorrecto porque confía ciegamente en el sistema, la responsabilidad puede recaer sobre la empresa.
El IMAN como herramienta de diagnóstico
Antes de diseñar un plan de cumplimiento, necesitáis saber dónde estáis. El IMAN (Índice de Madurez AI-Native) es el marco diagnóstico de NextAI que evalúa la organización en cinco ejes: datos, memoria, razonamiento, agencia y gobierno. Este último eje —gobierno— es precisamente el que mide vuestra capacidad para operar IA de forma trazable, supervisada y conforme a regulación.
Un IMAN bajo en el eje de gobierno no significa que no uséis IA. Significa que la usáis sin los controles necesarios para sostener esa operación cuando llegue la primera inspección, el primer incidente o la primera reclamación de un empleado o cliente.
El eje de datos del IMAN también es crítico aquí: ¿sabéis dónde residen los datos que Copilot usa para generar sus respuestas? ¿Están en servidores europeos? ¿Bajo qué condiciones contractuales? La soberanía del dato en entornos de IA es una dimensión que el IMAN evalúa de forma explícita y que muchas empresas tienen sin resolver.
Preguntas frecuentes
¿Microsoft Copilot es un sistema de alto riesgo según la AI Act?
Copilot como producto no está clasificado por defecto como sistema de alto riesgo. Sin embargo, si vuestra empresa lo utiliza en procesos de selección de personal, evaluación de empleados, gestión de crédito o decisiones con impacto significativo en personas, ese uso concreto puede clasificarse como riesgo alto, con las obligaciones adicionales que eso implica para vosotros como desplegadores.
¿Qué pasa si usamos ChatGPT en la empresa sin contrato empresarial?
Si los empleados usan ChatGPT en su versión gratuita o personal con datos de la empresa, la organización tiene exposición regulatoria doble: bajo la AI Act como desplegador no declarado, y bajo el RGPD por transferencia no controlada de datos personales o confidenciales. Este escenario es exactamente la definición de Shadow AI y requiere auditoría inmediata.
¿Cuándo entra en vigor realmente la AI Act para las empresas?
La AI Act tiene un calendario escalonado. Las prohibiciones de sistemas de riesgo inaceptable aplicaron desde febrero de 2025. Las obligaciones para sistemas de riesgo alto en sectores críticos aplican desde agosto de 2026. Las obligaciones generales de transparencia y gobierno para modelos de uso general llevan vigentes desde mediados de 2025. No hay fecha futura que justifique esperar.
¿Qué multas contempla la AI Act por incumplimiento?
Las sanciones van desde 7,5 millones de euros o el 1 % de la facturación global anual para infracciones menores, hasta 35 millones o el 7 % para el uso de sistemas prohibidos. Para las empresas medianas y grandes que operan en sectores regulados, el riesgo reputacional y operativo de una inspección suele superar incluso a las sanciones económicas.
Qué hacer con esto
-
Inventariad todos los sistemas de IA activos en la organización esta semana, incluyendo los no autorizados. No los que creéis que hay: los que realmente hay. Hablar con los mandos intermedios suele revelar entre dos y cuatro veces más herramientas de las que conoce el departamento de TI.
-
Clasificad cada uso de Copilot y otras herramientas según el esquema de riesgo de la AI Act. Un mismo producto, usos distintos, obligaciones distintas. Necesitáis esta lista antes de cualquier otra cosa.
-
Activad el registro de logs para los usos de riesgo alto o limitado. Si no tenéis capacidad técnica interna para esto en M365, hay configuraciones nativas de Microsoft Purview que lo facilitan. Usadlas.
-
Medid vuestro RAO por proceso para identificar dónde la autonomía operativa supera el umbral que la regulación considera aceptable sin supervisión adicional. Este ejercicio también revela ineficiencias ocultas.
-
Estableced un protocolo de incidentes IA con responsable, canal de notificación a AESIA y criterios de escalado. No hace falta que sea complejo: hace falta que exista y que alguien lo conozca.
Integrar soluciones de terceros bajo el marco de la AI Act trasciende el ámbito técnico para situarse en la arquitectura de gobierno de la organización. La responsabilidad del uso, el control de los datos y la supervisión del despliegue recaen exclusivamente sobre la empresa. Pide tu Auditoría Digital — 45 minutos de análisis técnico sin presentaciones comerciales.