Un agente cambia una reserva. ¿Quién puede corregirlo?

Imagina un hotel que utiliza un agente para gestionar cambios de reserva. Puede consultar disponibilidad y preparar alternativas. Un cliente pide mover su estancia; el sistema encuentra una habitación y confirma el cambio. Después aparece una diferencia de tarifa que nadie había previsto.

Es un escenario hipotético. La pregunta útil es quién podía autorizar esa diferencia y qué información tenía al hacerlo. Decir que había supervisión humana aporta poco si la persona recibió un aviso después de la confirmación y ya no podía evitarla.

Supervisar exige una intervención posible, en un momento útil y con información suficiente. El grado adecuado dependerá de cada acción.

En el ejemplo del hotel, consultar una reserva, proponer otra fecha, confirmar un precio y ordenar una devolución son acciones distintas. Una configuración razonable podría permitir las primeras y reservar otras a una persona.

También hay que describir las excepciones. Una reserva no localizada, condiciones contradictorias o información incompleta deberían tener un tratamiento previsto. La persona que intervenga necesita recibir el estado del caso y el motivo de la derivación, para continuar sin reconstruir toda la conversación.

El marco AI RMF 1.0 del NIST incluye definir funciones y responsabilidades en la colaboración entre personas e IA. Ayuda a poner por escrito quién se ocupa de cada decisión. ¹

La revisión humana pierde valor cuando consiste en aceptar una propuesta sin entender sus consecuencias. Para confirmar el cambio del hotel, la pantalla debería mostrar la reserva original, la alternativa, la diferencia económica y la acción exacta que se autoriza.

Yo probaría esa pantalla con quien va a utilizarla. Si necesita abrir otros tres sitios para entender qué está aprobando, todavía queda trabajo por hacer.

Conviene que el sistema permita corregir datos y rechazar la propuesta. También que distinga entre una autorización concreta y un permiso permanente. Aprobar un cambio de fecha no tendría por qué ampliar la capacidad del agente para conceder descuentos futuros.

Quien asume esa función necesita tiempo y capacidad para ejercerla. Si la operación genera más excepciones de las que el equipo puede atender, habría que reducir el alcance o modificar el proceso. Añadir personas nominalmente a una lista de supervisores no resuelve esa carga.

Cuando algo falla, el equipo debería reconstruir qué información se consultó, qué acción se solicitó y cuál se ejecutó. El registro útil contiene lo necesario para explicar el caso y atenderlo; no implica conservar indiscriminadamente todos los datos disponibles.

El AI RMF 1.0 contempla seguimiento posterior al despliegue, intervención, respuesta a incidentes y recuperación. Son actividades que deben seguir funcionando después del estreno. ²

En el hotel, recuperarse podría exigir bloquear nuevas confirmaciones, comprobar qué reservas se modificaron y contactar con las personas afectadas mediante el procedimiento del negocio. Habría que diseñar y probar ese recorrido antes de depender del agente. No todas las acciones pueden deshacerse pulsando un botón.

Una prueba útil incluiría solicitudes normales y situaciones que deberían detener la ejecución: datos insuficientes, un precio fuera del permiso o una conexión interrumpida. El equipo tendría que comprobar quién recibe cada caso y si puede resolverlo. La ausencia de errores en una demostración breve no responde a esas preguntas.

Anthropic explica en su guía de evaluaciones de enero de 2026 que los resultados de los modelos varían entre ejecuciones y que las pruebas necesitan criterios de éxito definidos. Ese enfoque respalda comprobar comportamientos repetidos, además de observar una respuesta convincente. ³

Cuando llega la excepción, alguien necesita entenderla y poder actuar. Si solo puede enterarse de lo que ya ha pasado, la supervisión ha llegado tarde.