Un modelo de IA es un sistema de cálculo entrenado con muchos datos para hacer una tarea, como escribir texto, reconocer imágenes o transcribir voz. El entrenamiento ajusta sus parámetros: números que deciden qué responde. La app donde chateas no es el modelo: es la ventana, y el modelo trabaja por detrás.
Una pregunta de la app. Elige una respuesta.
Tu app anda bien con un modelo chico. ¿Qué cambia si pasas a uno más grande?
Más parámetros piden más cálculo por token, y eso suele verse en la tarifa. Que rinda mejor en tu tarea no está garantizado: se mide con tus casos.
Suele ser al revés: hace más cálculo por cada token, y eso lleva tiempo. La velocidad depende también del equipo y de cómo se sirve.
Inventa porque predice lo probable, no por falta de tamaño. Uno grande puede inventar menos, pero lo importante se sigue verificando.
ChatGPT, por ejemplo, es una app. Por detrás usa uno o varios modelos, y la empresa puede cambiarlos sin que la app cambie de nombre. Lo mismo pasa con el asistente de tu banco o el bot que te contesta por WhatsApp: muchas veces usan un modelo de otra empresa.
Por eso la misma app puede responder distinto de un mes a otro. Y por eso instalar una app no siempre instala un modelo: muchas mandan tu mensaje a un modelo en la nube y sólo te muestran la respuesta.
Hay modelos para texto, para imágenes, para voz y otros que combinan varias cosas. Dentro de cada tipo, cada empresa entrena los suyos y saca versiones nuevas seguido. Además, muchas ofrecen el mismo modelo en tamaños distintos: uno grande para tareas difíciles y uno chico para respuestas rápidas y baratas.
Un modelo más grande suele tener más parámetros y suele costar más por token, pero eso solo no garantiza mejores respuestas para tu caso. Con tarifas inventadas: si el chico cuesta 1 USD por millón de tokens y el grande 8 USD, clasificar 10.000 reclamos de clientes con el grande sale ocho veces más. Si el chico los clasifica bien, pagaste de más.
Lo práctico es probar con ejemplos reales de tu tarea, en el idioma de tus usuarios. Un modelo que funciona muy bien en inglés puede rendir menos en español, y eso no lo dice el tamaño.
«El modelo más nuevo sabe lo que pasó ayer.» No por sí solo: aprendió hasta una fecha de corte y, para lo reciente, necesita buscar o que le pases la información. «Un modelo es un robot.» Un robot puede usar un modelo, pero el modelo es el cálculo, no el cuerpo. «Todos los modelos de IA son chatbots.» Muchos no chatean: filtran spam, recomiendan series o leen radiografías.