«Human-in-the-loop» è diventata un'espressione rassicurante. Spesso però significa soltanto che qualcuno, da qualche parte, può controllare l'output. Una supervisione così generica tende a diventare un'approvazione automatica.
Progettare la supervisione
Una supervisione efficace richiede decisioni esplicite:
- quali attività l'AI può svolgere autonomamente;
- quali condizioni generano un'eccezione da portare a una persona;
- quali evidenze la persona vede: fonti, livello di confidenza, alternative;
- quali possibilità ha: approvare, modificare, respingere, escalare;
- chi resta responsabile del risultato finale.
Il livello giusto di controllo
Non tutte le attività richiedono lo stesso controllo. Un'estrazione di dati da un documento standard può essere validata a campione; una raccomandazione che impegna capitale o incide sulla sicurezza richiede una validazione esplicita e tracciata.
Tracciabilità
Registrare decisioni, correzioni ed eccezioni serve a tre scopi: dimostrare la conformità, ad esempio rispetto all'AI Act; capire dove il sistema sbaglia; migliorare nel tempo modelli e regole.
La supervisione umana non è un'aggiunta finale. È parte del disegno del processo.
