Adivinhe o token

Uma frase cortada e quatro palavras que poderiam vir depois. Você escolhe uma, vê o quanto cada uma é provável para um modelo de linguagem e entende por quê. Três rodadas, uns dois minutos.

O que é «Adivinhe o token»

Adivinhe a palavra que vem depois numa frase, como uma inteligência artificial faz toda vez que escreve. Você vê o começo de uma frase, escolhe como ela continua e depois vê como um modelo de linguagem escolheria. Não existe palavra certa: existem palavras mais ou menos prováveis, e aprender a enxergar isso é o jogo.

Como se joga

Cada partida tem três rodadas. Em cada uma você escolhe uma de quatro palavras; depois vê as barras com a chance de cada palavra e de «outras», e 10 sorteios feitos com essas chances; no fim responde uma pergunta curta sobre o que aconteceu. Só a pergunta conta: escolher a palavra não soma nem tira nada.

No final você vê quantas perguntas acertou de primeira. Com «Outra partida» mudam a ordem das rodadas e os sorteios. Se você curte jogos de palavras estilo Wordle, este é parecido, mas cada rodada ensina algo sobre como a IA funciona.

Por que uma IA «adivinha» a próxima palavra

Um modelo de linguagem como ChatGPT, Claude ou Gemini escreve um token por vez: olha todo o texto que tem pela frente, calcula o quanto cada continuação é provável e escolhe uma com um sorteio (é o mais comum: também dá para configurar para ficar sempre com a mais provável). Por isso o provável sai com frequência, o pouco provável também sai às vezes, e uma frase muito provável pode dizer algo falso.

Os números do jogo são de exemplo: não saem de um modelo real, foram pensados para mostrar o mecanismo. E jogamos com palavras, embora um modelo use tokens: um token pode ser uma palavra inteira, um pedaço de palavra ou um sinal. Como o texto é cortado quem decide é o tokenizador.

Continue aprendendo

Este jogo também é uma lição do app: «Adivinhe o token» no Tokencito, logo depois de «Como ela prevê?», com a revisão do que você errar. E para ver como uma frase é cortada em tokens, leia o que é um tokenizador.