La supervisión humana de la IA es la capacidad de las personas con la autoridad y el conocimiento adecuados para comprender, monitorear e intervenir en el uso de un sistema de IA. Una supervisión eficaz brinda a un humano una oportunidad significativa para cuestionar o cambiar un resultado, en lugar de pedirle que apruebe una decisión que no puede evaluar.

Dos descripciones comunes son human-in-the-loop y human-on-the-loop. En un esquema human-in-the-loop, el sistema se detiene para recibir la opinión o aprobación humana antes de que se tome una acción definida. En un esquema human-on-the-loop, el sistema actúa dentro de límites establecidos mientras una persona supervisa su funcionamiento y puede intervenir. Ninguna etiqueta garantiza una buena supervisión: los detalles de autoridad, tiempo, información y carga de trabajo determinan si una persona puede marcar la diferencia.

Hacer que la intervención sea práctica

La gente necesita saber para qué sirve el sistema, qué no puede hacer de manera fiable, qué casos requieren atención y qué evidencia respalda un resultado. Necesitan tiempo suficiente para revisar esa información y una forma de cuestionar o anular el sistema. Si la interfaz oculta la incertidumbre, la cola es demasiado grande o la gerencia premia únicamente la velocidad, un paso de aprobación nominal puede convertirse en un mero trámite automático.

El diseño de la supervisión debe coincidir con el impacto y la reversibilidad de la acción. Una sugerencia de bajo impacto puede verificarse mediante reglas de muestreo y escalamiento. Una decisión que pueda negar una oportunidad a una persona o afectar la seguridad puede requerir una revisión individual, razones que puedan examinarse y una vía para reconsiderar el resultado. La organización debe comprobar si esos controles funcionan bajo una presión de tiempo realista y cuando el sistema se equivoca.

El ser humano designado

Cada sistema de IA implementado debe tener un responsable humano designado. El responsable es responsable de su propósito y funcionamiento aprobados, sabe qué equipos realizan las pruebas y el seguimiento, y tiene la autoridad para solicitar una revisión o suspender su uso. Este rol no se puede asignar vagamente a un comité. Los comités pueden establecer políticas y cuestionar evidencia, pero una persona específica debe hacerse cargo de cada sistema y actuar cuando se cruza un umbral.

Dicho responsable debe contar con el apoyo de especialistas técnicos, equipos legales y de riesgos, usuarios de primera línea y personas afectadas cuando corresponda. Las responsabilidades deben documentarse a lo largo de todo el ciclo de vida: quién aprueba la implementación, quién supervisa el rendimiento, quién gestiona los incidentes y quién decide si el sistema puede reanudarse tras una pausa. El responsable también necesita un suplente designado o un plan de continuidad para los casos de ausencia.

La supervisión humana no sustituye a un diseño fiable ni a unos límites adecuados. Las personas pueden cometer errores, volverse demasiado dependientes de la automatización o carecer del contexto necesario para reconocer un error. Una buena gobernanza combina el juicio humano con pruebas de sistemas, límites claros, registros, vías de escalado y autoridad para intervenir. El objetivo es hacer que la responsabilidad sea real y mantener las decisiones impugnables cuando las consecuencias importan.