Cuando una IA negocia por ti: cinco límites antes de darle autonomía
La novedad no es que una IA responda una pregunta, sino que pueda avanzar dentro de una tarea: comparar opciones, intercambiar recursos o negociar condiciones. Anthropic ha presentado Project Swap, una investigación sobre qué ocurre cuando los agentes comercian por nosotros. El titular invita a imaginar asistentes que resuelven gestiones completas, pero la lección útil empieza antes: una IA no debe recibir una orden vaga y permiso para actuar sin límites. Para que la autonomía aporte valor sin multiplicar el riesgo, hay que definir qué puede proponer, qué puede ejecutar, qué datos puede ver y en qué momento una persona debe decidir.
Qué plantea Project Swap
La investigación de Anthropic explora qué sucede cuando varios agentes pueden intercambiar y negociar. Es una señal de hacia dónde se mueve la IA: de responder un mensaje a participar en procesos con objetivos, alternativas y consecuencias. No significa que una empresa deba entregar de golpe sus compras, contratos o pagos a un asistente. Significa que las tareas que antes requerían comparar opciones y coordinar pasos empiezan a ser candidatas a automatización. La pregunta importante no es si el agente parece convincente, sino qué reglas mantiene cuando aparece una oferta inesperada, falta información o una decisión tiene impacto fuera de la pantalla.
1. Un objetivo pequeño y medible
Evita instrucciones como “consigue la mejor oferta” o “resuelve esto por mí”. No dicen qué significa mejor, cuánto se puede gastar ni qué condiciones son aceptables. Empieza por un objetivo concreto: comparar tres presupuestos que ya has recibido, ordenar opciones según criterios definidos o preparar una propuesta de respuesta. Cuanto más clara sea la entrada y la salida esperada, más fácil será detectar un error. Una tarea bien acotada también permite retirar la automatización sin dejar un proceso a medias.
2. Límites que el agente no puede cambiar
El presupuesto máximo, los proveedores autorizados, los plazos, los requisitos de calidad y las condiciones legales deben venir definidos por una persona. No conviene dejar que el sistema reinterprete esos límites para cerrar una operación o cumplir un objetivo. Si una regla es importante para el negocio, debe existir fuera del mensaje que se le da a la IA y poder revisarse después. El agente puede clasificar y recomendar; las reglas de negocio deben seguir siendo visibles, estables y auditables.
3. Separar propuesta de ejecución
Que una IA encuentre una alternativa útil no significa que deba confirmarla, pagarla, aceptar términos o enviar una comunicación en nombre de la empresa. La forma segura de empezar es con un flujo de dos pasos: la IA prepara opciones y explica sus razones; una persona aprueba la acción externa. Esta separación es especialmente importante cuando hay dinero, contratos, reputación, datos personales o compromisos con clientes. Si el proceso funciona durante un tiempo, se puede automatizar una parte adicional de bajo riesgo, pero la aprobación debe retirarse con evidencia, no por comodidad.
4. Datos mínimos y permisos mínimos
Para comparar una compra no necesita acceso a todo el correo, a todas las facturas ni a las credenciales de un proveedor. Dale únicamente los datos necesarios para esa tarea y utiliza cuentas con permisos limitados. Si debe consultar una carpeta, que no pueda modificarla; si prepara correos, que los deje como borradores; si usa un sistema externo, que no pueda añadir métodos de pago ni cambiar usuarios. Reducir permisos no hace a la IA menos útil: limita el alcance de un fallo y hace más sencillo entender qué información utilizó. Esa línea de permisos mínimos es coherente con cómo plantea Muse los permisos en WhatsApp: pedir autorización antes de acciones sensibles y dejar un registro.
5. Registro y botón de parada
Toda tarea delegada debe dejar una huella sencilla: qué pidió la persona, qué fuentes consultó, qué opciones descartó, qué recomendó y quién aprobó la acción final. No hace falta un sistema complejo; una ficha por caso o un historial en la herramienta puede bastar. Lo imprescindible es poder reconstruir una decisión y detener el proceso sin depender de un proveedor. Si algo sale mal, no borres el rastro para “empezar de cero”: conserva el contexto, revoca permisos si hace falta y corrige la regla que permitió el problema.
Un piloto útil en vez de una apuesta
Elige una tarea repetitiva y reversible, pruébala con pocos casos y compara el resultado con el proceso anterior. Mide tiempo ahorrado, correcciones necesarias y situaciones que el agente no supo resolver. Prueba también una petición incompleta o una oferta fuera de los límites: un buen sistema debe detenerse y pedir aclaración, no inventar una respuesta para terminar la tarea. Cuando el piloto funciona, tendrás una base real para ampliar su uso. Cuando no, habrás descubierto el límite sin poner en riesgo una decisión importante.
La idea que permanece
La autonomía útil no consiste en dar más permisos a una IA. Consiste en delegar trabajo concreto con límites claros, datos mínimos, aprobación humana y posibilidad de revertir. Project Swap es interesante porque anticipa agentes que interactúan y negocian, pero la regla sigue siendo sencilla: la velocidad de una herramienta no sustituye la responsabilidad de quien decide. En lawebdetupc podemos ayudarte a convertir una tarea repetitiva en un piloto de IA con controles que el equipo pueda entender y mantener.
Fuente primaria: Anthropic Research, “Project Swap: What happens when agents trade for us?” (24 de septiembre de 2026): consultar publicación.
¿Quieres aplicarlo a tu negocio?
Cuéntanos qué te preocupa o qué tarea quieres mejorar. El equipo te explica las opciones de forma clara y sin compromiso.