Hay una obligación del AI Act que cambia de dificultad —no de contenido— cuando el sistema pasa de sugerir a actuar. Está en el Art. 26(1) y dice así:
«Los responsables del despliegue de sistemas de IA de alto riesgo adoptarán medidas técnicas y organizativas adecuadas para garantizar que utilizan dichos sistemas con arreglo a las instrucciones de uso que los acompañen.»
Como en el artículo anterior de esta serie, conviene decirlo antes de empezar: no hay un régimen de agentes en el AI Act. Esta obligación es la misma con agente y sin él, y lleva dos acotaciones que el propio texto trae: alcanza solo a los sistemas de alto riesgo —a ningún otro— y se aplica desde el 2 de diciembre de 2027 para los del Anexo III. Lo que cambia es quién la sostiene en la práctica.
Con un sistema que sugiere, lo sostiene una persona
Si la herramienta propone y alguien decide, el uso conforme a las instrucciones descansa en esa persona. Si el sistema sugiere algo fuera de su finalidad prevista, quien lo usa lo advierte y no lo aplica. El control es continuo y va incorporado en el flujo: hay un humano en cada paso.
Ese es el modelo que la mayoría de las organizaciones tiene en la cabeza cuando lee el Art. 26(1). Y por eso el artículo parece más fácil de lo que es.
Con un sistema que actúa, lo sostienen los permisos
Un agente ejecuta. Si tiene acceso a una herramienta, puede usarla; si tiene un objetivo, buscará la forma de alcanzarlo con lo que tenga a mano. No hay un momento en que alguien apruebe cada paso, porque eliminar ese momento es exactamente para lo que se despliega.
De ahí sale el problema real, y no es hipotético: un agente con permisos más amplios que su finalidad puede salirse de ella sin que nadie lo decida. No por fallo del modelo ni por mala fe: porque el permiso estaba y la acción encajaba con el objetivo.
Un agente pensado para responder consultas de clientes que además tiene permiso de escritura sobre el CRM acabará escribiendo en el CRM el día que le parezca útil. Nadie decidió ampliar su finalidad. Se amplió sola, hasta donde llegaban sus permisos.
Y aquí es donde el Art. 26(1) deja de ser trivial: si el uso real excede la finalidad prevista en las instrucciones, la medida organizativa que lo sostenía ya no sostiene nada.
Qué exige entonces el artículo, literalmente
Dos palabras que suelen leerse por encima: «medidas técnicas y organizativas».
Con un sistema que sugiere, las medidas organizativas bastan casi siempre — instrucciones al equipo, criterios de uso, formación. Con uno que actúa, la medida técnica deja de ser opcional: el permiso es lo único que se interpone entre el objetivo del agente y una acción fuera de finalidad.
No es una obligación nueva. Es la misma obligación cuyo cumplimiento se ha desplazado de la organización al sistema.
Lo que eso implica en la práctica
Tres cosas, y ninguna sale de un artículo específico de agentes porque no existe.
Acotar los permisos a la finalidad, no a la comodidad. El impulso natural al desplegar es dar acceso amplio para que el agente «no se quede corto». Es justamente lo que rompe el encaje con las instrucciones de uso, y lo que nadie revisa después.
Probar antes de ampliar, no después. Un permiso nuevo cambia el conjunto de acciones posibles, y ese conjunto no crece de forma lineal: al agente le basta una herramienta más para alcanzar objetivos por caminos que nadie previó. Desplegar por fases —permisos mínimos primero, ampliación observada después— no es prudencia genérica: es la única forma de saber qué hace realmente antes de que lo haga sobre datos reales.
Registrar qué se autorizó y por qué. No como trámite: porque cuando alguien pregunte si el uso se ajustaba a las instrucciones, la respuesta es la lista de permisos y el criterio con que se concedió cada uno. Sin eso, la única prueba disponible es lo que el agente hizo — que es exactamente lo que estarás intentando justificar.
Dónde está el límite de lo que dice la norma
Conviene ser preciso, porque en este terreno abunda lo contrario.
El Reglamento no dice cuántos permisos debe tener un agente, ni que haya que desplegar por fases, ni que exista una matriz de autorización. Nada de eso está en el Art. 26 ni en ningún otro artículo.
Lo que dice es que adoptes medidas técnicas y organizativas adecuadas para que el uso se ajuste a las instrucciones. Cómo lo consigas es tuyo — y de hecho el propio Art. 26(3) preserva expresamente tu «libertad para organizar sus propios recursos y actividades».
Lo demás son formas conocidas de conseguirlo. Buenas prácticas, no obligaciones. Confundir una cosa con otra es el error de atribuir a quien despliega lo que obliga al proveedor, en su versión más tentadora: inventar una exigencia legal porque la medida es sensata.
Que sea sensata no la convierte en obligatoria. Y que no sea obligatoria no la hace menos necesaria el día que un agente haga algo que nadie autorizó explícitamente y haya que explicar por qué podía.
Contenido con arreglo al artículo 26 del Reglamento (UE) 2024/1689.
Este artículo tiene carácter informativo y no constituye asesoramiento jurídico.