«Human-in-the-loop» se ha convertido en una expresión tranquilizadora. A menudo, sin embargo, solo significa que alguien, en algún lugar, podría revisar el resultado. Una supervisión tan genérica tiende a convertirse en una aprobación automática.
Diseñar la supervisión
Una supervisión eficaz requiere decisiones explícitas:
- qué tareas puede realizar la IA de forma autónoma;
- qué condiciones generan una excepción que debe llegar a una persona;
- qué evidencias ve esa persona: fuentes, nivel de confianza, alternativas;
- qué opciones tiene: aprobar, modificar, rechazar, escalar;
- quién sigue siendo responsable del resultado final.
El nivel de control adecuado
No todas las tareas requieren el mismo control. La extracción de datos de un documento estándar puede validarse por muestreo; una recomendación que compromete capital o afecta a la seguridad requiere una validación explícita y trazable.
Trazabilidad
Registrar decisiones, correcciones y excepciones sirve para tres fines: demostrar el cumplimiento, por ejemplo del Reglamento europeo de IA; entender dónde se equivoca el sistema; y mejorar con el tiempo los modelos y las reglas.
La supervisión humana no es un añadido final. Forma parte del diseño del proceso.
