Glossaire
Surveillance humaine
La surveillance humaine, exigence de l'EU AI Act (Art. 14) pour les systèmes d'IA à haut risque, désigne l'attente qu'une personne puisse superviser efficacement le système, y compris le surveiller, interpréter ses résultats et pouvoir ignorer, remplacer ou inverser ces résultats ou arrêter le système, de manière proportionnée au risque et au contexte.
Dans le code
Elle est appliquée par le chemin qui achemine une décision vers une personne. Elle s'affaiblit lorsqu'une modification valide automatiquement la sortie d'un modèle (par exemple au-dessus d'un seuil de confiance) et supprime l'étape où un humain pourrait examiner ou remplacer cette sortie, sans autre mécanisme de surveillance efficace en place.