Agente con plan y puntos de control

Qué es

La persona describe un objetivo; el sistema muestra los pasos que piensa dar, ejecuta y se frena justo antes de lo que no se puede deshacer: enviar, pagar, borrar. El diseño está en dónde van los puntos de control: demasiados, y el agente no avanza; demasiado pocos, y actúa sobre algo irreversible sin avisar.

Lo ves en

• Claude Code con plan y permisos por acciónMuestra el plan como lista de tareas que se van marcando y pide permiso antes de ejecutar comandos o editar archivos, con la opción de aprobar los siguientes del mismo tipo.
• ChatGPT Agent y Operator antes de comprar o enviarNavegan y completan formularios solos, y se detienen antes de pagar o enviar para que la persona tome el control del navegador en ese paso.
• DevinPropone un plan antes de tocar código, ejecuta en un entorno propio que se puede observar y pide intervención cuando se traba.
• ManusMuestra cada paso en una lista mientras trabaja y deja seguir la ejecución en una ventana que reproduce lo que hace, con la opción de intervenir.

Cómo diseñarlo

• Un verbo por pasoCada paso lleva un verbo, un objeto y, si va a pedir permiso, una marca visible desde el inicio. Así la persona ubica en un vistazo dónde la van a frenar.
• Clasifica cada acción por reversibilidadLeer, buscar y redactar avanzan solos; enviar, pagar, borrar y publicar se detienen. Escribe esa lista antes de diseñar la interfaz y aplícala igual en todos los planes.
• Aprueba en bloque lo repetidoSi va a tocar diez archivos del mismo tipo, ofrece aprobar todos los de ese tipo en vez de diez confirmaciones. Los puntos de control de lo irreversible se mantienen aunque haya aprobación en bloque.
• Permite tomar el mandoEn el punto de control, la persona puede hacer ella misma el paso sensible, como pagar o iniciar sesión, y luego devolver el control al agente. El plan continúa desde el paso siguiente.
• Plan y ejecución, una listaCada paso cambia de estado a medida que se ejecuta, y un paso que el agente agrega sobre la marcha aparece marcado como nuevo. La persona compara lo prometido con lo hecho en la misma vista.
• Haz visible la esperaCuando el agente se detiene en un punto de control, la pregunta y sus botones de respuesta suben al frente, con el tiempo que lleva esperando. Un agente quieto sin pregunta a la vista parece colgado.

Confianza que exige

Cuanto más alto el riesgo, más de estos patrones y más cerca de la acción.

• Confirmación proporcional al riesgoCada punto de control es una confirmación, y la proporcionalidad decide cuáles merecen frenar al agente y cuáles pasan solas.Ver el patrón
• Progreso visibleDelegar varios pasos sin ver cuál está en curso deja a la persona sin forma de saber si intervenir, esperar o cancelar.Ver el patrón
• Deshacer en un pasoUn agente que ejecuta diez cambios necesita un deshacer que los revierta en bloque, porque revertir uno por uno anula lo que se ganó delegando.Ver el patrón
• Apagar y configurarLa persona tiene que poder frenar la ejecución en cualquier momento y decidir qué tipos de acción aprueba siempre y cuáles nunca.Ver el patrón

Relacionados