La temperatura es un ajuste que cambia cuánto azar usa un modelo de IA al elegir el siguiente token, el pedazo de texto que sigue. Al bajarla, favorece más las opciones probables y las respuestas varían menos. Al subirla, les da más chances a las menos probables. Cambia la variedad, pero no garantiza que acierte.
El gato se subió al ?
Una pregunta de la app. Elige una respuesta.
Al completar «El gato se subió al...», ¿qué predice el modelo?
No guarda una palabra por frase: calcula probabilidades y, según la configuración, puede elegir techo, muro o sofá.
Predice probabilidades del próximo token. La configuración decide cómo se elige; aquí usamos palabras de ejemplo.
No busca: calcula qué suele venir después a partir de lo que aprendió.
Pídele a un chat «un nombre para mi panadería» y después aprieta «regenerar»: puede salir otro. No es que se haya olvidado de la primera respuesta ni que cambió de opinión. Cuando el modelo elige sorteando, puede tomar otro camino, y la temperatura decide qué tan cargados están los dados.
Un modelo de lenguaje escribe de a un token por vez. Para completar «El gato se subió al...» calcula probabilidades: techo 45 %, muro 30 %, sofá 20 %, teorema 1 % y el resto repartido entre otras (números de ejemplo). Después tiene que elegir uno, y ahí entra la temperatura.
Con temperatura baja, el reparto se inclina hacia el favorito: techo sale mucho más seguido. Con temperatura alta, el reparto se empareja: muro y sofá salen más, y hasta teorema tiene su chance. Como cada palabra elegida cambia lo que viene después, una diferencia chica al principio puede terminar en dos respuestas distintas.
Empieza con el valor que recomienda el proveedor para ese modelo. Si quieres respuestas que varíen menos, como al sacar datos de una factura o clasificar mensajes, prueba bajarla. Si buscas variedad, como diez títulos distintos para un post, prueba subirla. Y si necesitas un JSON con formato fijo, usa salidas estructuradas: la temperatura no garantiza el formato.
En la app de un chat normalmente no la puedes cambiar: la empresa ya eligió un valor. Donde sí la ajustas es en la API, como un parámetro más del pedido. El rango y el valor por defecto cambian según el proveedor, y algunos modelos de razonamiento no la aceptan o la fijan ellos: revisa la documentación del modelo que uses.
{
"model": "example-model",
"temperature": 0.2,
"messages": [
{ "role": "user", "content": "Sort this message: billing, support or sales" }
]
}«Con temperatura 0 siempre responde lo mismo.» Se parece mucho, pero muchos proveedores no lo garantizan: si necesitas el mismo resultado siempre, guárdalo. «Temperatura baja evita que invente.» No: si lo más probable es un dato falso, lo va a repetir con toda seguridad; eso es una alucinación y se combate con buenas fuentes. «Más alta es más creativa.» Hasta un punto: demasiado alta y el texto pierde el hilo.