IA agéntica y regulación: quién responde cuando el agente actúa solo
Un agente de IA no responde preguntas: ejecuta. Abre una cuenta, deniega un crédito, escala un caso o mueve fondos sin que un humano apruebe cada paso. Cuando esa decisión perjudica a un cliente o incumple una norma, el regulador no pregunta qué modelo la tomó. Pregunta quién respondía por ella. La IA agéntica no estrena un vacío legal: cae de lleno sobre marcos que ya están en vigor.
La IA agéntica no estrena un vacío legal
Una entidad financiera que despliega agentes autónomos opera bajo tres regímenes a la vez. El Reglamento UE 2024/1689: marco europeo para sistemas de IA basado en riesgo. Prohíbe usos inaceptables, regula los de alto riesgo y establece transparencia para modelos generativos. Entrada en vigor escalonada 2025-2027.AI Act (Reglamento (UE) 2024/1689) regula el sistema de IA en sí. Digital Operational Resilience Act: reglamento UE 2022/2554 sobre resiliencia operativa digital. Exige a entidades financieras de la UE resistir, responder y recuperarse de incidentes TIC. En vigor desde 17 enero 2025. Leer más → DORA (Reglamento (UE) 2022/2554) trata al proveedor del modelo como un tercero TIC, con todo lo que eso arrastra. Y la normativa sectorial (la Ley 10/2010 de prevención del blanqueo, la regulación de crédito al consumo) sigue exigiendo lo mismo aunque quien actúe sea una máquina.
El error de partida es pensar que un agente es una herramienta interna y, por tanto, opaca al supervisor. No lo es. Si el agente decide sobre personas, sus decisiones son auditables, atribuibles y, en muchos casos, de alto riesgo.
El AI Act clasifica por riesgo: las finanzas caen en alto riesgo
El AI Act ordena los sistemas por nivel de riesgo y reserva el peso regulatorio para la categoría de alto riesgo. Dos de los supuestos del Anexo III aterrizan directamente en banca y seguros:
| Supuesto (Anexo III) | Sistemas afectados |
|---|---|
| Punto 5(b) | Evaluación de solvencia y credit scoring de personas físicas, salvo la detección de fraude financiero. |
| Punto 5(c) | Evaluación de riesgos y fijación de precios en seguros de vida y salud. |
Si un agente puntúa la solvencia de un solicitante o fija la prima de un seguro de salud, es un sistema de alto riesgo. Eso activa un bloque de obligaciones que no son opcionales: gestión de riesgos (Art. 9), gobernanza de los datos de entrenamiento (Art. 10), documentación técnica (Art. 11), registro automático de eventos (Art. 12), transparencia hacia el desplegador (Art. 13), supervisión humana (Art. 14) y exactitud, robustez y ciberseguridad (Art. 15). Ciertos desplegadores deben además realizar una evaluación de impacto en los derechos fundamentales (Art. 27) antes de la primera puesta en marcha.
El Digital Omnibus mueve las fechas, no las obligaciones
El calendario del AI Act se aplica por fases. Conviene tenerlo presente, porque en mayo de 2026 cambió.
| Hito | Fecha |
|---|---|
| Entrada en vigor | 1 de agosto de 2024 |
| Prácticas prohibidas y alfabetización en IA | 2 de febrero de 2025 |
| Modelos de propósito general (GPAI) | 2 de agosto de 2025 |
| Alto riesgo del Anexo III (sistemas autónomos) | 2 de diciembre de 2027 (aplazado) |
El 7 de mayo de 2026, el Consejo y el Parlamento alcanzaron un acuerdo político provisional sobre el Digital Omnibus, que aplaza la aplicación de las obligaciones de alto riesgo del Anexo III desde el 2 de agosto de 2026 hasta el 2 de diciembre de 2027; los sistemas de alto riesgo embebidos en productos del Anexo I se difieren a agosto de 2028. Es un aplazamiento, no una derogación, y todavía debe ratificarse formalmente.
La lectura correcta no es "hay más tiempo, esto puede esperar". Es que el plazo de conformidad del modelo se desacopla del calendario real de despliegue: los agentes ya están en producción tomando decisiones hoy, y la trazabilidad que el Art. 12 exigirá en 2027 no se construye en retrospectiva. Si el log no existía cuando el agente actuó, no se reconstruye después.
Dónde el agente autónomo rompe el control clásico
El problema operativo concreto está en dos artículos. El Art. 14 exige supervisión humana efectiva: una persona capaz de entender, vigilar y, llegado el caso, revertir la decisión del sistema. El Art. 12 exige el registro automático de eventos a lo largo del ciclo de vida.
Un agente autónomo tensa ambos. Encadena llamadas a herramientas y decisiones a velocidad de máquina, de modo que la supervisión humana "en el bucle" deja de ser viable para cada paso. Y un agente que se mueve entre sistemas con credenciales compartidas no deja un rastro atribuible: el log dice qué cuenta de servicio actuó, no qué agente, bajo qué encargo, con qué autorización.
La respuesta no es frenar al agente hasta volverlo inútil. Es decidir qué decisiones son irreversibles y exigir control humano solo ahí, mientras todo lo demás queda registrado por diseño.
La arquitectura que sostiene la supervisión
Cumplir estos artículos es, en la práctica, una cuestión de arquitectura, no de política. Tres piezas la sostienen:
- Identidad criptográfica por agente. Cada agente actúa con una identidad propia y verificable, no con una credencial de servicio compartida. Es la misma tesis que defendemos para la conectividad: la identidad precede al acceso. Sin ella, el registro del Art. 12 no es atribuible y el Art. 14 no tiene a quién vigilar.
- Control humano en los puntos irreversibles. El principio de cuatro ojos, ya consolidado en compliance Anti-Money Laundering: prevención de blanqueo de capitales. Consume 5-10% del presupuesto operativo de una entidad media; los sistemas tradicionales generan >95% falsos positivos. Leer más → AML, traslada la supervisión del Art. 14 a donde importa: la decisión que no se puede deshacer la aprueba una persona; la rutina, el agente.
- Audit trail por diseño. Cada acción del agente queda registrada de forma íntegra y recuperable, no como un log de aplicación que rota a los treinta días, sino como evidencia regulatoria con la misma exigencia que la conservación documental que ya impone la Ley 10/2010.
Sobre esa base, los estándares dan el marco de gestión: la ISO/IEC 42001 define un sistema de gestión de IA certificable, y el NIST AI RMF aporta el vocabulario de riesgo. Pero ninguno sustituye a la arquitectura: una certificación no reconstruye un log que nunca existió.
Conclusión: la trazabilidad es la nueva conformidad
La regulación de la IA agéntica no premia al que tiene el mejor modelo, sino al que puede demostrar quién decidió qué, cuándo y con qué autorización. El aplazamiento del Digital Omnibus da margen para construirlo bien, no excusa para no construirlo. La entidad que despliega agentes sobre una base de identidad verificable, control humano en lo irreversible y trazabilidad íntegra llega a 2027 con la conformidad ya resuelta. La que improvisa logs a posteriori, no.
En BlueUP construimos esa base: identidad antes que conectividad, cuatro ojos en lo que no se deshace y audit trail con valor probatorio. Si quieres ver cómo se aplica al cumplimiento DORA y AML, lee nuestra guía práctica de DORA para entidades financieras y cómo automatizamos el reporting SEPBLAC sin perder trazabilidad, o hablemos de tu caso.