Cortacircuitos (agentes de IA)
Mecanismo de seguridad programado que interrumpe automáticamente la ejecución de un agente de IA cuando detecta anomalías predefinidas, como bucles infinitos, desviaciones de objetivos, accesos masivos a datos o intentos de intercambios masivos de información. Las orientaciones de la AEPD sobre IA agéntica lo tratan junto con los límites duros de pasos (apartado VII.F, p. 72).
Es el freno automático del agente: actúa cuando lo que hace se sale de lo previsto, sin esperar a que alguien lo vea.
Qué obligaciones lleva asociadas
Es una buena práctica, no una obligación legal: es una de las medidas de control del agente desde el diseño que proponen las orientaciones. Se apoya en obligaciones que sí son legales: tratar los datos personales de manera que se garantice una seguridad adecuada, incluida la protección contra el tratamiento no autorizado o ilícito y contra su pérdida, destrucción o daño accidental (artículo 5, apartado 1, letra f), del Reglamento (UE) 2016/679), y aplicar medidas técnicas y organizativas apropiadas para garantizar un nivel de seguridad adecuado al riesgo (artículo 32, apartado 1), ambas aplicables desde el 25/05/2018.
Qué no es
No es la supervisión humana: el cortacircuitos actúa sin que nadie intervenga, y la supervisión humana es otra medida que las orientaciones tratan aparte. Tampoco es lo mismo que el límite de pasos con el que se agrupa: el límite detiene una tarea al llegar a un número máximo de pasos aunque nada parezca anómalo, y el cortacircuitos la detiene cuando algo lo es. Y no es una promesa de que el agente no falle: las orientaciones parten de aceptar la posibilidad de fallo como elemento de la gobernanza (apartado VII.A, p. 55).
El matiz que casi nadie recoge
Un cortacircuitos solo detecta lo que se definió de antemano como anomalía. Por eso las orientaciones lo describen por tipos de anomalía —bucles, desviación de objetivos, acceso masivo, intercambio masivo— y no como un interruptor genérico, y por eso la lista de anomalías es parte del diseño del agente, no un ajuste posterior.