Alto riesgo

Categoría del Reglamento que agrupa dos conjuntos: los sistemas de IA que son componentes de seguridad de productos regulados por la legislación de armonización del Anexo I (Art.6, apartado 1) y los sistemas comprendidos en los ocho ámbitos del Anexo III (Art.6, apartado 2).

No es «la IA importante»: es una lista de ámbitos de uso, y estar en uno de ellos no basta.

Qué obligaciones lleva asociadas

Los requisitos del Capítulo III son obligación legal aplicable desde el 02/12/2027 para los sistemas clasificados de alto riesgo por el Art.6, apartado 2, y el Anexo III, y desde el 02/08/2028 para los clasificados por el Art.6, apartado 1, y el Anexo I. La excepción del Art.6, apartado 3 —por la que un sistema del Anexo III no se considera de alto riesgo cuando no plantea un riesgo importante— comparte la fecha del Anexo III: 02/12/2027.

Qué no es

No es una etiqueta que se ponga al sistema por su potencia o su alcance: depende del ámbito de uso y, dentro de él, de si plantea un riesgo importante. Y estar en un ámbito del Anexo III no lo convierte automáticamente en alto riesgo: el Art.6, apartado 3, lo excluye cuando no plantea riesgo importante para la salud, la seguridad o los derechos fundamentales, y enumera cuatro condiciones —tarea de procedimiento limitada; mejora del resultado de una actividad humana previa; detección de patrones de decisión o de desviaciones respecto de patrones anteriores, siempre que no sustituya ni influya en una valoración humana ya realizada salvo con la revisión humana adecuada; tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III—. Pero esa excepción tiene un límite duro: los sistemas del Anexo III siempre se consideran de alto riesgo cuando efectúan elaboración de perfiles de personas físicas.

El matiz que casi nadie recoge

De los ocho ámbitos, los dos que alcanzan a una pyme ordinaria no están en su producto: están en sus procesos internos y en su relación con clientes. El ámbito 4 —empleo, gestión de los trabajadores y acceso al autoempleo— cubre el cribado de candidaturas y las decisiones sobre la relación laboral. El ámbito 5, letras b) y c), cubre evaluar la solvencia o establecer la calificación crediticia de personas físicas —con excepción expresa de los sistemas usados para detectar fraudes financieros— y la evaluación de riesgos y fijación de precios en seguros de vida y de salud. Y una asimetría que conviene saber: aplicar la excepción del Art.6(3) no es gratis. El proveedor que la invoca debe documentar su evaluación antes de introducir el sistema en el mercado y queda sujeto a la obligación de registro del Art.49, apartado 2. La excepción no elimina la carga: la cambia de sitio.

Términos relacionados

FRIA — Evaluación de impacto relativa a los derechos fundamentales

Qué obligaciones lleva asociadas

Qué no es

El matiz que casi nadie recoge

Términos relacionados

Para saber más