Glossar
Menschliche Aufsicht
Menschliche Aufsicht, eine Anforderung des EU AI Act (Art. 14) für Hochrisiko-KI-Systeme, ist die Erwartung, dass eine Person das System effektiv überwachen kann, einschließlich der Überwachung, der Interpretation seiner Ausgaben und der Fähigkeit, diese Ausgaben zu ignorieren, zu überschreiben oder rückgängig zu machen oder das System zu stoppen, angemessen zum Risiko und Kontext.
Im Code
Sie wird durch den Pfad erzwungen, der eine Entscheidung an eine Person weiterleitet. Sie wird geschwächt, wenn eine Änderung die Ausgabe eines Modells automatisch bestätigt (z. B. oberhalb eines Vertrauensschwellenwerts) und den Schritt entfernt, in dem eine Person diese prüfen oder überschreiben könnte, ohne dass eine andere wirksame Aufsicht besteht.