Um banco de dados vetorial guarda dados como listas de números, os embeddings, que representam o seu significado, e encontra rápido os mais parecidos com uma consulta. Assim busca pelo sentido e não pela palavra exata: "me cobraram duas vezes" encontra "cobrança duplicada". O RAG pode usá-lo para escolher quais trechos ler.
Uma pergunta do app. Escolha uma resposta.
Seu bot responde com 20 perguntas frequentes. Precisa de um banco de dados vetorial?
Os embeddings se comparam igual sem um banco à parte: com 20 textos, um programa simples percorre todos na hora.
Vinte respostas curtas cabem juntas no contexto, e o modelo lê todas a cada pergunta. Se o conteúdo crescer, vale recuperar só o que importa.
O modelo lê o texto que recebe no contexto. Um banco vetorial ajuda a recuperar conteúdo; não é necessário para lê-lo.
Um suporte tem milhares de casos resolvidos. Alguém escreve "me cobraram duas vezes". Uma busca por palavras procura "cobraram" e "vezes", e o caso com o título "cobrança duplicada no cartão" não tem nenhuma das duas: não aparece.
Com um banco vetorial, cada caso foi guardado com o seu embedding. Calcula-se o da pergunta, buscam-se os pontos mais próximos e "cobrança duplicada" aparece entre eles, porque quer dizer o mesmo mesmo sem palavras em comum.
Um banco de dados tradicional busca sobretudo valores exatos em linhas e colunas: este cliente, esta data. Um vetorial é feito para encontrar o mais parecido. Para não comparar a consulta com milhões de vetores um por um, costuma usar um índice aproximado que pula direto para a vizinhança: economiza tempo, mas às vezes deixa escapar algum próximo.
Num sistema RAG com busca vetorial, é o passo do meio: um modelo transforma seus documentos em embeddings, o banco os guarda e encontra os trechos mais próximos de cada pergunta, e o modelo responde lendo esses trechos.
Se você tem trinta perguntas frequentes ou um manual de poucas páginas, provavelmente cabe inteiro na janela de contexto: você cola e pronto. Se são alguns milhares de trechos, um programa simples pode calcular os embeddings e comparar todos na memória, sem montar um servidor à parte. O banco vetorial compensa quando são tantos que não dá para percorrer a tempo, mudam com frequência ou você precisa filtrar por data ou cliente.
E não substitui a busca por palavra: para um código de produto ou um número de pedido, o exato ganha. Por isso muitos sistemas combinam as duas.