São as duas etapas da vida de um modelo de IA. No treinamento, o modelo ajusta seus parâmetros com um dataset até aprender padrões; pode ter várias etapas e se repetir para atualizá-lo. Na inferência, o modelo já treinado responde a cada pedido com o que aprendeu, sem voltar a aprender.
Uma pergunta do app. Escolha uma resposta.
Um modelo saiu semana passada. Ele sabe o que aconteceu ontem?
Responder não muda o que ele aprendeu. O treinamento terminou numa data de corte, anterior ao lançamento.
Aprendeu até uma data de corte, anterior ao lançamento. O de ontem ele sabe se buscar em fontes atuais ou se você passar.
Dar a data não acrescenta o que ele não aprendeu. O recente precisa chegar como texto: uma busca ou a notícia que você cola.
Pense num estudante. Treinar é estudar o ano todo: leva meses e muito esforço. A inferência é fazer cada prova: responder rápido com o que já sabe. Em machine learning é igual: pré-treinar um LLM grande do zero exige muito processamento especializado; depois, cada vez que você escreve, o modelo faz uma inferência em segundos.
Treinar do zero é caro e se faz poucas vezes. A inferência consome processamento a cada uso; muitas APIs cobram pelos tokens de entrada e de saída.
É o conjunto de exemplos com que o modelo aprende. Para um modelo de linguagem, são quantidades enormes de texto: páginas da web, livros, código. Durante o treinamento, o modelo ajusta seus parâmetros (os pesos) para prever melhor esse texto. Aprende padrões desses exemplos e os aplica a casos novos. O que aconteceu depois, ele não sabe.
O dataset é montado até um dia, a data de corte, e depois vêm o treinamento, os testes e o lançamento. Por isso a data de lançamento não diz até quando vão os dados: confira a data de corte informada pelo provedor. Usar não o atualiza: na inferência os pesos não mudam.
Para que ele saiba algo recente, é preciso passar como texto no prompt: uma busca na internet, a notícia que você cola ou documentos que um sistema de RAG traz. Serve enquanto continuar no contexto, mas não fica gravado nos pesos.
"O chat aprende com o que eu digo." Durante a conversa os pesos não mudam; se um app "lembra" coisas, guarda como texto à parte e passa de novo. "Dizer a data de hoje deixa ele atualizado." Ele sabe a data, não o que aconteceu. "Para ensinar algo novo é preciso retreinar." Muitas vezes basta passar a informação; o fine-tuning serve mais para estilo ou formato do que para dados que mudam.