Los guardrails (barandas) de la IA son controles que rodean a un modelo o a un agente: revisan lo que entra, filtran lo que sale y limitan lo que puede hacer. Los permisos se hacen cumplir en el código o la herramienta; los filtros también pueden usar otros modelos y equivocarse.
Una pregunta de la app. Elige una respuesta.
Tu agente no debe borrar archivos sin preguntarte. ¿Qué lo asegura?
Lo orienta, pero es texto que el modelo lee: un error o un texto colado pueden hacer que se lo salte.
La herramienta frena el borrado hasta que dices que sí, decida lo que decida el modelo. Eso es un guardrail.
Se equivoca menos, pero sigue pudiendo borrar. Mientras la decisión quede sólo en el modelo, nada lo asegura.
Lo que entra: antes de que el pedido llegue al modelo, un control puede tapar un número de tarjeta, frenar preguntas fuera de tema o marcar texto sospechoso, como un intento de inyección de prompts.
Lo que sale: antes de mostrar la respuesta, otro control la revisa. Si trae un dato personal o un tema prohibido, la cambia por un mensaje fijo o la pasa a una persona. A veces ese control es otro modelo más chico que sólo clasifica.
Lo que hace: en un agente, qué herramientas tiene, con qué permisos y cuáles piden tu confirmación. Un agente que puede borrar archivos, pero sólo después de que tú dices que sí.
Un banco quiere un bot que responda dudas de la tarjeta y que nunca dé consejos de inversión. Un control mira cada pregunta: si es sobre invertir, contesta un texto fijo que escribió el banco y ofrece hablar con un asesor. Otro revisa cada respuesta antes de que salga. Y el bot no tiene acceso para mover dinero: aunque alguien lo engañe, no puede hacerlo.
Ninguna capa es perfecta sola. Juntas reducen el riesgo, pero cada una cubre problemas distintos.
Escribir «nunca recomiendes inversiones» o «no borres archivos» en el prompt orienta al modelo, pero no impide nada. Puede saltárselo por un error, en una charla larga o por una inyección de prompts.
Para impedir una acción, fíjate qué permiso o control la bloquea aunque el modelo intente hacerla. Lo mismo con los datos: si el modelo nunca debe ver una clave de API, no se la pases; decirle que no la muestre no alcanza.
Algunos controles comparan la respuesta con fuentes para detectar alucinaciones, pero pueden dejar pasar errores. Y si las barandas son demasiado estrictas, bloquean preguntas normales y el bot se vuelve inútil. Se prueban con casos reales y se ajustan.
Los modelos además vienen entrenados para negarse a ciertas cosas. Eso suma, pero no conoce tus reglas: no sabe que tu banco no da consejos de inversión.