Woordenlijst
Menselijk toezicht
Menselijk toezicht, een vereiste van de EU AI Act (Art. 14) voor hoogrisico AI-systemen, is de verwachting dat een persoon het systeem effectief kan controleren, inclusief het monitoren ervan, het interpreteren van de output en het kunnen negeren, overschrijven of terugdraaien van die output of het stoppen van het systeem, in verhouding tot het risico en de context.
In code
Het wordt afgedwongen door het pad dat een beslissing naar een persoon routeert. Het verzwakt wanneer een wijziging automatisch de output van een model bevestigt (bijvoorbeeld boven een vertrouwensdrempel) en de stap verwijdert waarbij een mens de output had kunnen beoordelen of overschrijven, zonder andere effectieve toezichtsmechanismen.