Um LLM (large language model, ou modelo de linguagem grande) é um modelo de IA treinado com enormes quantidades de texto para gerar texto. É o que há por trás do ChatGPT, do Claude e do Gemini. Funciona calculando probabilidades para o próximo token, escolhendo um, adicionando e repetindo. Assim escreve respostas, resumos ou código.
O gato subiu no telhado
7 tokensUma pergunta do app. Escolha uma resposta.
Como um modelo que prevê o próximo token gera texto?
Prevê o próximo token, adiciona e prevê de novo. Assim até terminar.
Neste modelo, cada token gerado ajuda a prever o próximo. O app decide como mostrar o texto.
Gera tokens; não se limita a escolher respostas de uma lista. Pode repetir texto dos dados.
LLM vem do inglês large language model. "Linguagem" porque trabalha com texto. "Modelo" porque é um sistema de cálculo treinado, não um banco de respostas. "Grande" porque tem muitíssimos parâmetros e foi treinado com muitíssimo texto. Não existe um número oficial a partir do qual um modelo vira "grande": é um rótulo, não uma medida.
Se você der "O gato subiu no", o LLM calcula probabilidades para o que vem depois. Com números de exemplo: telhado 45%, muro 30%, sofá 20%, teorema 1%. Escolhe um conforme a configuração, adiciona ao texto e calcula de novo com a frase mais longa. Uma resposta de três parágrafos são centenas dessas voltas.
Para prever, não olha só a última palavra: olha tudo o que tem à vista, sua mensagem e o que já escreveu, até um limite chamado janela de contexto. Por isso a mesma pergunta, com mais contexto, costuma ter uma resposta melhor.
Primeiro vem o pré-treinamento: o modelo lê muitíssimo texto e treina adivinhar o próximo token. Cada erro ajusta um pouco os parâmetros, bilhões de vezes. Depois vem o ajuste fino: com exemplos de conversas e pessoas avaliando respostas, aprende a seguir instruções e a responder como assistente. Isso acontece antes de você usar: conversar com ele não muda o modelo, o que ele "lembra" da conversa está na janela de contexto.
O GPT, da OpenAI, é o que o ChatGPT usa. O Claude é da Anthropic, o Gemini é do Google e o Llama é da Meta, que publica os pesos para qualquer um rodar como modelo local. No Brasil, a startup Maritaca AI faz o Sabiá, treinado com foco em português. Atenção: ChatGPT é o app e GPT é o modelo; um mesmo app pode trocar de modelo.
A IA generativa é o guarda-chuva: toda IA que cria conteúdo, seja texto, imagem, áudio ou vídeo. O LLM é a parte que trabalha com texto (e código). Um gerador de imagens é IA generativa, mas não é um LLM. Muitos modelos de hoje misturam as duas coisas: leem fotos e escrevem texto.
Um LLM não procura a resposta na internet a menos que o app dê essa ferramenta: escreve o que costuma vir depois segundo o que aprendeu. Uma frase pode soar perfeita e ser falsa. Pergunte o horário do último metrô da sua cidade e ele pode te dar um horário com toda a segurança sem ter esse dado. Isso se chama alucinação.
Muitos tokenizadores foram montados com mais texto em inglês do que em outros idiomas. Por isso a mesma frase em português ou em espanhol costuma ser cortada em mais tokens, como "subiu" e "telhado", partidos em dois. Pesa em dois lugares: as APIs cobram por token, quase sempre em dólar, e a janela de contexto enche antes.
"LLM e IA são a mesma coisa." Um LLM é um tipo de IA; o filtro de spam ou o reconhecimento facial também são IA e não são LLM. "Tem as respostas guardadas." Não: gera token por token a cada vez. "Se erra, é porque está quebrado." Inventar é um efeito de como funciona, não um defeito.