Los tokens de razonamiento son el texto intermedio que un modelo de razonamiento genera antes de dar su respuesta final. Muchas veces no se muestran, pero se producen igual y se cobran como tokens de salida. Por eso una respuesta corta puede costar bastante más que lo que ves en pantalla.
Una pregunta de la app. Elige una respuesta.
Razona 2000 tokens y muestra 300. ¿Cuántos tokens de salida se cobran?
Son los visibles. El borrador también se genera y se cobra como salida, aunque no se muestre.
El razonamiento cuenta como salida aunque no se muestre: 2000 + 300 = 2300.
La respuesta visible también es salida: 2000 + 300 = 2300.
Un modelo de razonamiento escribe pasos intermedios y después la respuesta. Muchos servicios ocultan o resumen esos pasos, pero el trabajo ya se hizo: son tokens que el modelo generó, y lo que el modelo genera es salida. Cómo los cuenta y los muestra cada servicio cambia, así que revisa su documentación.
Tarifa inventada: 4 USD por millón de tokens de salida. Un modelo razona 2.000 tokens y muestra una respuesta de 300. Se cobran 2.300 tokens, no 300: 2.300 × 4 ÷ 1.000.000 = 0,0092 USD. Mil consultas así serían unos 9,20 USD. Si solo se contaran los 300 visibles, serían 1,20 USD.
La tarifa real la fija cada proveedor y cambia con el tiempo; lo que sirve del ejemplo es la proporción. Y la salida suele tener una tarifa más alta que la entrada, así que el borrador pesa en la cuenta.
El borrador crece o se achica según el effort y según qué tan difícil sea la tarea, pero ninguno de los dos fija una cantidad exacta. Muchas API dejan poner un tope a la salida total, y ese tope incluye el razonamiento. Si lo pones muy bajo, el modelo puede quedarse sin espacio antes de contestar. Mide con tus casos y revisa el uso real que informa el proveedor.