Persona en el bucle: qué es y por qué en stock la IA propone y tú decides

Qué es exactamente

Human in the loop, abreviado HITL, describe un sistema o proceso que requiere interacción humana. Se usa en varios campos: en aprendizaje automático, para que personas ayuden a corregir y etiquetar y así mejorar un modelo; en simulación, cuando una persona forma parte del sistema simulado; y en control de sistemas autónomos, donde se distingue entre persona en el bucle (aprueba cada acción), persona sobre el bucle (puede interrumpir) y persona fuera del bucle (no interviene).

En una empresa, el término tiene un significado práctico: antes de que una propuesta de la IA se convierta en un pedido, un traslado o un aviso a un cliente, pasa por una persona. No es desconfianza hacia la tecnología. Es reparto de tareas: la máquina mira miles de combinaciones de producto y sitio; la persona sabe lo que no está en los datos.

También se le llama

HITL, human in the loop, humano en el bucle, supervisión humana o aprobación humana. Su contrario es la automatización total, que se llama human out of the loop. En el medio está el modelo de supervisión, donde el sistema actúa solo pero una persona vigila y puede pararlo.

Un ejemplo

Una empresa de bebidas con 120 clientes de hostelería recibe cada lunes una lista de 85 envíos propuestos. Una persona de logística la revisa en veinte minutos. En 79 líneas no cambia nada. En cuatro, sabe algo que el sistema no sabe: un cliente cierra por obras dos semanas, otro tiene una boda el sábado, un tercero ha pedido a otro proveedor. Esos cuatro los modifica. En las dos restantes decide rechazar porque la furgoneta va completa.

Esas seis decisiones valen más que las 79 aprobadas. Y se pueden hacer porque la lista trae el porqué de cada línea. Con una lista sin razones, la persona aprobaría por inercia, que es justo el riesgo que el Reglamento europeo de IA llama sesgo de automatización: la tendencia a confiar de más en lo que propone la máquina.

Con el tiempo, las correcciones de la persona enseñan al sistema: si siempre sube un cliente, conviene saber por qué. La aprobación no solo protege, también informa.

Ojo con esto

Lo que hace que el esquema funcione o se convierta en un trámite:

• Aprobar por inercia: si cada lunes se pulsa «aprobar todo», la persona está en el bucle solo de nombre. Ayuda destacar las líneas con más riesgo o más dinero.
• Sin razones no hay criterio: una persona que no ve el porqué de una cifra no puede discutirla.
• Demasiadas decisiones: si la lista tiene 800 líneas, nadie las revisa. Se prioriza por importancia y se agrupa.
• Sin capacidad de cambiar: aprobar o rechazar no basta; la persona debe poder ajustar la cantidad.
• Sin registro: conviene guardar qué se propuso, qué se cambió y quién lo hizo, para aprender y para responder a una auditoría.
• Creer que sustituye la responsabilidad: la decisión es de la empresa, no de la herramienta.

Dónde aparece en el sistema

Es el principio central: el sistema calcula y propone cada semana qué mandar, cuánto y cuándo, con el porqué de cada envío, y la persona aprueba o cambia. Nada se escribe en tu programa sin esa aprobación, y la conexión de lectura usa un usuario que solo puede leer. Con WhatsApp, la lista llega con botones para marcar «preparado» o «ha salido», y la urgencia llega como aviso, no como orden ejecutada.

Durante la prueba, el modo sombra permite comparar lo que habría propuesto el sistema con lo que hizo tu equipo, sin tocar nada. Puedes verlo en la simulación con tus datos; cada propuesta con su razón es la explicabilidad, y su contraparte es el pedido sugerido.

Términos relacionados

Explicabilidad, agente de IA, modo sombra, pedido sugerido y alucinación de la IA.