IA agéntica y regulación: quién responde cuando el agente actúa solo
Un agente de IA no responde preguntas: ejecuta. Abre una cuenta, deniega un crédito, escala un caso o mueve fondos sin que un humano apruebe cada paso. Cuando esa decisión perjudica a un cliente o incumple una norma, el regulador no pregunta qué modelo la tomó. Pregunta quién respondía por ella. La IA agéntica no estrena un vacío legal: cae de lleno sobre marcos que ya están en vigor.
La IA agéntica no estrena un vacío legal
Una entidad financiera que despliega agentes autónomos opera bajo tres regímenes a la vez. El AI Act es el Reglamento (UE) 2024/1689, el marco europeo de la IA basado en riesgo: prohíbe usos inaceptables, regula los sistemas de alto riesgo y exige transparencia a los modelos de uso general. Alcanza al credit scoring y al seguro de vida y salud como alto riesgo desde el 2 de diciembre de 2027 (Reg. 2026/1744).Leer más → AI Act (Reglamento (UE) 2024/1689) regula el sistema de IA en sí. DORA (Digital Operational Resilience Act) es el Reglamento (UE) 2022/2554 sobre la resiliencia operativa digital del sector financiero. Obliga a bancos, aseguradoras y empresas de inversión de la UE a resistir las perturbaciones y amenazas TIC, responder a ellas y recuperarse. Se aplica desde el 17 de enero de 2025.Leer más → DORA (Reglamento (UE) 2022/2554) trata al proveedor del modelo como un tercero TIC, con todo lo que eso arrastra. Y la normativa sectorial (la Ley 10/2010 de prevención del blanqueo, la regulación de crédito al consumo) sigue exigiendo lo mismo aunque quien actúe sea una máquina.
El error de partida es pensar que un agente es una herramienta interna y, por tanto, opaca al supervisor. No lo es. Si el agente decide sobre personas, sus decisiones son auditables, atribuibles y, en muchos casos, de alto riesgo.
El AI Act clasifica por riesgo: las finanzas caen en alto riesgo
El AI Act ordena los sistemas por nivel de riesgo y reserva el peso regulatorio para la categoría de alto riesgo. Dos de los supuestos del anexo III del Reglamento (UE) 2024/1689 aterrizan directamente en banca y seguros:
| Supuesto (Anexo III) | Sistemas afectados |
|---|---|
| Punto 5(b) | Evaluación de solvencia y credit scoring de personas físicas, salvo la detección de fraude financiero. |
| Punto 5(c) | Evaluación de riesgos y fijación de precios en seguros de vida y salud. |
Si un agente puntúa la solvencia de un solicitante o fija la prima de un seguro de salud, es un sistema de alto riesgo. Eso activa un bloque de obligaciones del capítulo III del Reglamento (UE) 2024/1689 que no son opcionales: gestión de riesgos (Art. 9), gobernanza de los datos de entrenamiento (Art. 10), documentación técnica (Art. 11), registro automático de eventos (Art. 12), transparencia hacia el desplegador (Art. 13), supervisión humana (Art. 14) y exactitud, robustez y ciberseguridad (Art. 15). Ciertos desplegadores deben además realizar una evaluación de impacto en los derechos fundamentales (Art. 27) antes de la primera puesta en marcha.
El Digital Omnibus mueve las fechas, no las obligaciones
El calendario del AI Act se aplica por fases. Conviene tenerlo presente, porque el Reglamento (UE) 2026/1744 lo cambió en julio de 2026.
| Hito | Fecha | Base |
|---|---|---|
| Entrada en vigor | 1 de agosto de 2024 | AI Act, art. 113 |
| Prácticas prohibidas y alfabetización en IA | 2 de febrero de 2025 (nuevas prohibiciones del art. 5, 2 de diciembre de 2026) | AI Act, art. 113 · Reglamento (UE) 2026/1744, art. 1, punto 40 |
| Modelos de propósito general (GPAI) | 2 de agosto de 2025 | AI Act, art. 113 |
| Alto riesgo del Anexo III (sistemas autónomos) | 2 de diciembre de 2027 (aplazado) | Reglamento (UE) 2026/1744, art. 1, punto 40 |
El Digital Omnibus ya no es una propuesta: el Reglamento (UE) 2026/1744, «Ómnibus digital sobre IA», se publicó en el DOUE el 24 de julio de 2026 y está en vigor desde el 27 de julio de 2026. Modifica el artículo 113 del AI Act y fija la aplicación del capítulo III, secciones 1, 2 y 3, el 2 de diciembre de 2027 para los sistemas de alto riesgo del artículo 6, apartado 2, y el anexo III, y el 2 de agosto de 2028 para los del artículo 6, apartado 1, y el anexo I; la fecha general anterior era el 2 de agosto de 2026. Es un aplazamiento, no una derogación: las obligaciones quedan intactas.
La lectura correcta no es "hay más tiempo, esto puede esperar". Es que el plazo de conformidad del modelo se desacopla del calendario real de despliegue: los agentes ya están en producción tomando decisiones hoy, y la trazabilidad que el Art. 12 exigirá el 2 de diciembre de 2027 no se construye en retrospectiva. Si el log no existía cuando el agente actuó, no se reconstruye después.
Dónde el agente autónomo rompe el control clásico
El problema operativo concreto está en dos artículos. El Art. 14 exige supervisión humana efectiva: una persona capaz de entender, vigilar y, llegado el caso, revertir la decisión del sistema. El Art. 12 exige el registro automático de eventos a lo largo del ciclo de vida.
Un agente autónomo tensa ambos. Encadena llamadas a herramientas y decisiones a velocidad de máquina, de modo que la supervisión humana "en el bucle" deja de ser viable para cada paso. Y un agente que se mueve entre sistemas con credenciales compartidas no deja un rastro atribuible: el log dice qué cuenta de servicio actuó, no qué agente, bajo qué encargo, con qué autorización.
La respuesta no es frenar al agente hasta volverlo inútil. Es decidir qué decisiones son irreversibles y exigir control humano solo ahí, mientras todo lo demás queda registrado por diseño.
La arquitectura que sostiene la supervisión
Cumplir estos artículos es, en la práctica, una cuestión de arquitectura, no de política. Tres piezas la sostienen:
- Identidad criptográfica por agente. Cada agente actúa con una identidad propia y verificable, no con una credencial de servicio compartida. Es la misma tesis que defendemos para la conectividad: la identidad precede al acceso. Sin ella, el registro del Art. 12 no es atribuible y el Art. 14 no tiene a quién vigilar.
- Control humano en los puntos irreversibles. El principio de cuatro ojos, ya consolidado en compliance AML (anti-money laundering) es la prevención del blanqueo de capitales y la financiación del terrorismo. En España, la Ley 10/2010 obliga a entidades de crédito y financieras a aplicar diligencia debida y a comunicar al SEPBLAC las operaciones sospechosas; el Reglamento (UE) 2024/1624 la armoniza desde julio de 2027.Leer más → AML, traslada la supervisión del Art. 14 a donde importa: la decisión que no se puede deshacer la aprueba una persona; la rutina, el agente.
- Audit trail por diseño. Cada acción del agente queda registrada de forma íntegra y recuperable, no como un log de aplicación que rota a los treinta días, sino como evidencia regulatoria con la misma exigencia que la conservación documental que ya impone la Ley 10/2010.
Sobre esa base, los estándares dan el marco de gestión: la ISO/IEC 42001 define un sistema de gestión de IA certificable, y el NIST AI RMF aporta el vocabulario de riesgo. Pero ninguno sustituye a la arquitectura: una certificación no reconstruye un log que nunca existió.
Conclusión: la trazabilidad es la nueva conformidad
La regulación de la IA agéntica no premia al que tiene el mejor modelo, sino al que puede demostrar quién decidió qué, cuándo y con qué autorización. El aplazamiento que introduce el Reglamento (UE) 2026/1744 da margen hasta el 2 de diciembre de 2027 para construirlo bien, no excusa para no construirlo. La entidad que despliega agentes sobre una base de identidad verificable, control humano en lo irreversible y trazabilidad íntegra llega a esa fecha con la conformidad ya resuelta. La que improvisa logs a posteriori, no.
En BlueUP construimos esa base: identidad antes que conectividad, cuatro ojos en lo que no se deshace y audit trail con valor probatorio. Si quieres ver cómo se aplica al cumplimiento DORA y AML, lee nuestra guía práctica de DORA para entidades financieras y cómo automatizamos el reporting SEPBLAC sin perder trazabilidad, o hablemos de tu caso.