Guardrails: qué hace el agente cuando no sabe

Todas las herramientas con IA dicen que no inventan respuestas. La afirmación es imposible de evaluar si no viene acompañada del comportamiento concreto. Esta página describe los principios que gobiernan al agente: qué no hace nunca, y qué hace en su lugar.

El modo de falla que estos límites atacan#

Un modelo de lenguaje bien entrenado es servicial por defecto. Ante un hueco de información, su tendencia natural no es callarse: es producir la respuesta más útil y agradable posible. Esa tendencia, que en una conversación general es una virtud, en el nombre de una tienda es un riesgo comercial.

El resultado típico no es una respuesta absurda —eso sería fácil de detectar— sino una afirmación plausible, bien redactada y falsa: una garantía que la tienda no ofrece, una factura que no emite, un plazo de entrega que nadie prometió. El comprador la lee, decide con ella, y el vendedor se entera cuando ya es un reclamo.

Los guardrails existen para que la salida por defecto ante la incertidumbre no sea "algo servicial", sino "no responder".

Los tres principios#

Los límites concretos son muchos y se afinan de forma continua. Se derivan todos de tres principios, y entender los principios explica el comportamiento mejor que una lista:

1. Nada se afirma sin fuente. Un hecho sobre el producto o sobre las condiciones comerciales de la tienda tiene que poder apoyarse en un dato consultado — la publicación, el perfil de negocio o las notas de esa publicación. La plausibilidad no alcanza, y el silencio de una fuente no se interpreta como "lo estándar del rubro": se interpreta como ausencia de dato.

2. El agente informa; las operaciones las decide una persona. Puede explicar la política del vendedor tal como está cargada. No ejecuta ni compromete nada: las decisiones con consecuencia comercial —las que cambian lo que la tienda se obligó a hacer— quedan siempre del lado humano.

3. El canal define lo que es posible pedir. Las preguntas de preventa de Mercado Libre son públicas y solo admiten texto. El agente opera dentro de esas restricciones y no formula pedidos que el comprador no podría cumplir ahí, ni maneja en un canal público información que no corresponde a un canal público.

De esos tres principios se desprende el comportamiento en los casos límite, y también la regla que los une: cuando resolver una pregunta requiere algo que ninguna fuente describe, el agente no completa el procedimiento por su cuenta. Responde lo que sí sabe y escala el resto.

¿Qué pasa cuando un guardrail se activa?#

No se degrada la respuesta: se cambia de camino. El agente responde la parte que sí puede sostener con datos verificados y escala al vendedor lo que queda fuera, con aviso para que lo tome una persona. El detalle del mecanismo está en Escalación y handoff.

El criterio está calibrado en las dos direcciones. Escalar de más también es una falla: convierte al agente en un reenviador de preguntas y le devuelve al vendedor el trabajo que vino a sacarle. La regla es que el agente escala cuando le falta el dato necesario, no cuando tiene una certeza parcial. "No estoy seguro al cien por ciento" no es motivo de escalación; "no tengo ningún dato para sostener esto" sí lo es.

Una nota honesta sobre los límites de los límites#

Estos guardrails reducen fuertemente el riesgo, no lo eliminan. Ningún sistema construido sobre un modelo de lenguaje puede garantizar de forma absoluta que jamás producirá una afirmación incorrecta ante una formulación nueva e inesperada.

Lo que sí se puede afirmar es cómo se trabaja sobre eso: cada caso real que se cuela se convierte en un límite explícito y verificado, y el vendedor tiene disponible en todo momento el modo de revisión, donde ninguna respuesta se envía sin que él la apruebe. Ver también Límites conocidos.