Słownik
Nadzór człowieka
Nadzór człowieka, wymóg Rozporządzenia UE w sprawie sztucznej inteligencji (Art. 14) dla systemów AI wysokiego ryzyka, to oczekiwanie, że osoba może skutecznie nadzorować system, w tym monitorować go, interpretować jego wyniki oraz mieć możliwość zignorowania, uchylenia lub cofnięcia tych wyników lub zatrzymania systemu, proporcjonalnie do ryzyka i kontekstu.
W kodzie
Jest egzekwowany przez ścieżkę, która kieruje decyzję do osoby. Słabnie, gdy zmiana automatycznie zatwierdza wynik modelu (np. powyżej progu pewności) i usuwa krok, w którym człowiek mógłby go przejrzeć lub uchylić, bez innego skutecznego nadzoru.
Powiązane