Es tentador tratar el Reglamento de IA de la UE como un ejercicio de documentación: una clasificación de riesgos, un archivo de conformidad, una carpeta de políticas. Para los sistemas que clasifica como de alto riesgo, una parte real de él no es documentación en absoluto. Se trata de si el sistema en ejecución registra sus eventos, mantiene a un humano en el bucle y garantiza su precisión y robustez, y las tres cosas se deciden en el código.
Lo que significa que una solicitud de extracción normal puede sacarte de la conformidad, y el PDF de la política no lo detectará.
Qué obligaciones residen en el diff
Varias de las obligaciones de alto riesgo son propiedades de la compilación, no del documento. El Artículo 12 (conservación de registros) exige el registro automático de los eventos del sistema a lo largo de su vida útil. El Artículo 14 (supervisión humana) exige una forma efectiva para que una persona intervenga. El Artículo 10 (datos y gobernanza de datos) cubre la calidad y gobernanza de los datos de entrenamiento, validación y prueba. El Artículo 15 (precisión, robustez y ciberseguridad) cubre las salvaguardas con las que el sistema se distribuye. Cada una de esas puede fortalecerse o debilitarse con un solo cambio, y la página que muestra cómo se aplica cada una está en el desglose del marco.
El cambio que elimina la supervisión
Considera una decisión de elegibilidad de alto riesgo que antes se ponía en cola para revisión humana. Un cambio acelera el proceso confirmando automáticamente la salida del modelo por encima de un umbral de confianza. Es una optimización de rendimiento razonable. También elimina el paso en el que una persona podía intervenir antes de que la decisión entrara en vigor.
const result = await model.score(application)- return queueForHumanReview(result)+ if (result.confidence > 0.8) return autoDecide(result) return queueForHumanReview(result)Para una decisión de alto riesgo, un umbral de confianza por sí solo no es la supervisión humana efectiva que exige el Artículo 14. Eliminar la ruta configurada de revisión humana puede anular la medida de supervisión a menos que permanezca otra forma efectiva de intervenir o anular. Mantén una ruta real para que una persona pueda actuar, o controla la decisión automática mediante un control revisable y documentado.
El PDF de la política no te salvará
La conformidad se evalúa frente al sistema, no al documento que lo describe. Un cambio que elimine el registro que exige el Artículo 12 o la supervisión que exige el Artículo 14, hace que el sistema en ejecución deje de alinearse con el archivo que ensamblaste, y el archivo no sabe que el cambio ocurrió.
Si un sistema determinado es de alto riesgo y está dentro del ámbito de aplicación es una determinación para tu propia evaluación; heygrc no clasifica tu sistema por ti. Pero una vez que sepas que una obligación aplica, se hace cumplir en el commit, no en el PDF de la política, y ahí es donde heygrc está diseñado para leer el cambio frente al artículo que afecta.