Sorveglianza umana
La sorveglianza umana, un requisito dell'EU AI Act (Art. 14) per i sistemi di intelligenza artificiale ad alto rischio, è l'aspettativa che una persona possa supervisionare efficacemente il sistema, inclusi il monitoraggio, l'interpretazione dei suoi output e la capacità di ignorare, sovrascrivere o invertire tali output o arrestare il sistema, in modo proporzionato al rischio e al contesto.
Nel codice
Viene applicata tramite il percorso che indirizza una decisione a una persona. Si indebolisce quando una modifica conferma automaticamente l'output di un modello (ad esempio al di sopra di una soglia di confidenza) ed elimina il passaggio in cui un essere umano potrebbe rivedere o sovrascrivere tale output, senza altre forme di sorveglianza efficace in atto.