Un sistema que sugiere tiene siempre un humano al final: alguien lee la propuesta y decide. Cuando algo sale mal, la pregunta de quién responde tiene una respuesta obvia, aunque sea incómoda.
Un agente que encadena acciones no la tiene. Hubo cinco pasos, ninguno confirmado uno a uno, y el resultado no lo eligió nadie. La pregunta sigue siendo legítima — y ya no se contesta sola.
El AI Act la contesta, para los sistemas de alto riesgo —solo para ellos, y desde el 2 de diciembre de 2027 para los del Anexo III—, con una frase de dos líneas.
Las tres palabras del Art. 26(2)
«Los responsables del despliegue encomendarán la supervisión humana a personas físicas que tengan la competencia, la formación y la autoridad necesarias.»
Las dos primeras se leen bien y se cumplen con formación. La tercera es la que se salta, y es la única que decide si la designación significa algo.
Autoridad no es saber cómo funciona el sistema. Es poder pararlo.
Qué significa «autoridad», según el propio Reglamento
No hay que interpretarlo: el Art. 14 describe lo que la persona encargada de supervisar debe poder hacer. Entre otras cosas, «decidir, en cualquier situación concreta, no utilizar el sistema de IA de alto riesgo o descartar, invalidar o revertir los resultados de salida que este genere», e «intervenir en el funcionamiento del sistema… o interrumpir» su ejecución.
Descartar. Invalidar. Revertir. Interrumpir. Son verbos de alguien que puede detener algo en marcha, no de alguien que lo audita después.
Y de ahí sale la prueba práctica de si una designación es real: si la persona designada no puede parar el agente sin pedir permiso a nadie, no tiene la autoridad que el artículo exige. Tiene la responsabilidad, que es otra cosa y bastante peor.
Dónde acaba el proveedor y empieza quien despliega
Conviene separarlo, porque es la frontera que más se difumina cuando se habla de agentes.
El Art. 14 es del proveedor: diseñar el sistema para que pueda ser vigilado de forma efectiva, y definir las medidas de supervisión —integradas en el sistema, o adecuadas para que las ponga en práctica quien lo despliega—.
El Art. 26(2) es tuyo: encomendar esa supervisión a personas concretas con competencia, formación y autoridad.
Y el Art. 26(3) cierra el reparto: tienes «libertad para organizar tus propios recursos y actividades con el fin de poner en práctica las medidas de supervisión humana que indique el proveedor».
Es decir: las medidas no te las inventas tú, pero la organización sí es tuya. No puedes delegar la designación en el proveedor, ni esperar que el sistema traiga resuelto quién responde en tu empresa.
Lo que la autonomía cambia, y está en el texto
Aquí hay una palabra que suele pasar desapercibida y que sostiene todo lo demás. El Art. 14(3) dice que las medidas de supervisión serán «proporcionales a los riesgos, al nivel de autonomía y al contexto de uso».
El Reglamento nombra la autonomía como criterio de proporcionalidad. No crea un régimen de agentes —no existe tal régimen—, pero sí dice que a más autonomía, medidas de supervisión distintas. Que es exactamente lo que uno esperaría, y conviene saber que está escrito y no deducido.
Hay otra pieza en el mismo artículo que envejece raro con agentes: la advertencia sobre el sesgo de automatización, «la posible tendencia a confiar automáticamente o en exceso en los resultados de salida». Está pensada para un sistema que aporta información con la que una persona decide. Con un agente que actúa, el problema se desplaza: ya no hay un resultado del que fiarse demasiado — hay una acción hecha.
Obligación y forma de cumplirla
Esta distinción merece decirse sin ambigüedad, porque en el contenido sobre agentes se cruza continuamente.
Lo que obliga el Reglamento: encomendar la supervisión a personas con competencia, formación y autoridad, con medidas proporcionales al riesgo, al nivel de autonomía y al contexto.
Lo que no dice: que existan niveles de agente, categorías por tipo de acción, umbrales de autorización o matrices de aprobación. Nada de eso aparece en el Art. 26 ni en el Art. 14.
Clasificar las acciones de un agente por su reversibilidad —y exigir aprobación previa para las que no se pueden deshacer— es una forma razonable de poner en práctica el Art. 26(2) cuando el sistema es autónomo. Es implementación, no obligación. Funciona porque hace operativa la proporcionalidad que el artículo pide, no porque el artículo la imponga.
Confundir las dos cosas es el error de atribución de siempre, en su versión más difícil de detectar: aquí la medida es buena, y presentarla como obligatoria la vuelve una cita falsa.
Las tres preguntas que se responden antes
Ninguna necesita un artículo propio, y ninguna la contesta el sistema.
Quién está designado, con nombre. No «el equipo de operaciones». Una persona, porque el artículo dice «personas físicas».
Qué puede parar sin pedir permiso. Si la respuesta es «nada, tendría que escalarlo», la designación es nominal — y quedará así por escrito el día que alguien la revise.
Qué se decidió que el agente puede hacer solo, y quién lo decidió. Es lo que convierte una lista de permisos en una decisión defendible en lugar de una casilla marcada.
Las tres se responden en cinco minutos antes de desplegar. Ninguna se responde después, cuando lo que hay encima de la mesa es una acción ya ejecutada y una pregunta sobre quién la autorizó.
Contenido con arreglo a los artículos 14 y 26 del Reglamento (UE) 2024/1689.
Este artículo tiene carácter informativo y no constituye asesoramiento jurídico.