Un sistema de IA que debe mantener registros.
El Artículo 12 exige que los sistemas de IA de alto riesgo permitan el registro automático de eventos (registros) a lo largo de su ciclo de vida, para que su operación pueda rastrearse y revisarse. Es la columna vertebral de la trazabilidad del régimen de alto riesgo: permite reconstruir lo que hizo el sistema, respalda la monitorización posterior a la comercialización y sustenta una investigación. Y es código: un evento se registra porque algo en el sistema lo hace.
The shapes the same control failure takes.
El registro de eventos se debilita cuando un cambio reduce lo que un sistema de IA de alto riesgo registra sobre su propia operación. Las formas recurrentes:
Se elimina el registro de inferencias
La llamada que registra cada decisión (las entradas, la salida, la versión del modelo) se elimina en una limpieza, por lo que el sistema deja de producir el rastro que el Art. 12 espera.
Se omiten campos clave del registro
El registro sigue activo, pero deja de capturar lo necesario para reconstruir una decisión (qué versión se ejecutó, qué datos recibió), por lo que el registro existe pero no es trazable.
Se implementa una nueva ruta de alto riesgo sin registro
Se añade un nuevo modelo, ruta o camino de decisión sin registro de eventos, dejando parte de la operación del sistema sin registrar.
El registro deja de cubrir la operación del sistema
El registro automático se reduce de tal manera que ya no captura eventos en toda la operación del sistema, dejando vacíos en la trazabilidad que el Art. 12 busca garantizar.
Se debilita la integridad del registro
El registro de eventos se vuelve editable o se mueve a un lugar donde puede modificarse, socavando su valor como registro fiel.
Registro de inferencias eliminado para reducir costos.
Un modelo de puntuación de alto riesgo registra cada decisión que toma. El volumen es costoso, por lo que un cambio elimina la llamada de registro. El modelo sigue puntuando, pero deja de mantener cualquier registro de lo que decidió o con qué entrada.
const result = await model.score(application)- await events.record({ model: model.version, input: application.id, result }) return resultEsto elimina el registro de lo que decidió el sistema de alto riesgo y con qué entrada. El Art. 12 (registro de eventos) espera un registro automático de los eventos del sistema a lo largo de su ciclo de vida, para que su operación sea trazable. Si el costo es el problema, reduce lo que se registra o su nivel de retención, pero mantén un registro trazable en lugar de eliminarlo. Determinar si un sistema es de alto riesgo y está dentro del alcance es responsabilidad de tu propia evaluación.
El registro de eventos se verifica como trazabilidad.
La conformidad para un sistema de alto riesgo busca la documentación técnica y el registro que hacen que su operación sea trazable: ¿puedes mostrar qué hizo el sistema, con qué entrada, con qué versión, a lo largo de su ciclo de vida? Un cambio que elimine o vacíe ese registro es el vacío detrás de esa trazabilidad, y es visible en el diff de la ruta de inferencia o de registro de eventos.
Una revisión, no una evaluación de conformidad.
heygrc marca los cambios que afectan al Art. 12 y cita el artículo para que la corrección se realice en la solicitud de extracción. No clasifica el nivel de riesgo de tu sistema ni ejecuta tu evaluación de conformidad. Detecta el momento en que un sistema de alto riesgo deja de registrar su operación, en el diff.