RAG: Como Fazer Sua IA Responder com Base nos Seus Documentos

Imagem: Pexels
Modelo de linguagem não conhece seus documentos internos: pergunte sobre o manual da sua empresa e ele inventa uma resposta plausível. RAG (Retrieval-Augmented Generation) resolve isso buscando os trechos relevantes na sua base e injetando-os no prompt antes de gerar a resposta. O resultado: respostas ancoradas no seu conteúdo, com fonte consultável. Este artigo explica o pipeline completo, como preparar os documentos e os erros que derrubam projetos de RAG na prática.
1. Por que só colar o PDF no chat não resolve
Colar o conteúdo do documento na conversa funciona uma vez e quebra na escala: você perde o histórico, gasta tokens toda vez e não mantém atualização. Pior: modelos com janela de contexto grande ainda têm limite prático — milhares de páginas não cabem, e mesmo se coubessem, o modelo se perde no meio do texto (a chamada "lost in the middle"). RAG indexa tudo uma vez e recupera só o que importa a cada pergunta.
2. Como funciona o pipeline RAG
O fluxo tem quatro etapas:
- Ingestão: ler documentos (PDF, DOCX, HTML, Markdown).
- Chunking: dividir em trechos de tamanho controlado (frequentemente de 300 a 800 tokens, com sobreposição).
- Vetorização e busca: converter cada trecho em embedding numérico e buscar os mais parecidos com a pergunta.
- Geração: passar os trechos encontrados + a pergunta ao modelo, que responde citando as fontes.
A base vetorial fica num banco de vetores: pgvector (dentro do Postgres), Qdrant, Chroma ou soluções gerenciadas.
3. Preparando os documentos: o chunking que muda tudo
O chunking é a etapa mais subestimada e a que mais afeta a qualidade. Diretrizes que funcionam:
- Respeite fronteiras naturais: parágrafos, seções e itens de lista. Corte no meio da frase só quando não houver jeito.
- Adicione contexto do cabeçalho a cada trecho (título da seção, nome do documento) — sem isso, um fragmento solto vira ambíguo na recuperação.
- Documentos tabulares merecem tratamento próprio: converter linhas em frases ou preservar cabeçalhos junto com cada célula.
- Evite trechos minúsculos (uma linha) e gigantes (páginas inteiras): os primeiros recuperam sem contexto, os segundos trazem ruído junto.
4. Escolhendo embedding e modelo de geração
São decisões separadas:
- Embedding: modelo que transforma texto em vetor. Prefira modelos multilíngues para base em português. O custo por documento é baixo e a indexação roda uma vez (ou num cron).
- Geração: o modelo que escreve a resposta. Para perguntas diretas sobre documentos, modelos médios resolvem bem; raciocínio sobre múltiplos trechos prefere modelos maiores.
Importante: se você trocar o modelo de embedding, reindexe a base inteira — vetores de modelos diferentes não são comparáveis.
5. Refinando a recuperação (onde o RAG melhora de verdade)
Buscar só por similaridade semântica tem limites. Técnicas que agregam:
- Hibrido: combinar busca vetorial com busca por palavras-chave (BM25) — salva termos técnicos, códigos e nomes próprios que embedding erra.
- Reranking: um segundo modelo reordena os trechos recuperados, mantendo os mais relevantes. Custo pequeno, ganho visível.
- Filtro por metadados: restringir a busca por departamento, versão ou data antes da similaridade.
- Citação de fonte: exigir que a resposta aponte o documento e a seção — o usuário confere e você audita erros.
6. Montando sem código e com código
Sem código: várias ferramentas de IA corporativas permitem criar um "projeto" ou "espaço" com seus arquivos e conversar com eles — o caminho mais rápido para validar a ideia com um pequeno conjunto de documentos.
Com código: um pipeline mínimo em Python com LangChain fica assim, em esquema:
from langchain_community.document_loaders import PyPDFLoader
from langchain.text_split import RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings
from langchain_chroma import Chroma
docs = PyPDFLoader("manual.pdf").load()
splitter = RecursiveCharacterTextSplitter(chunk_size=800, chunk_overlap=120)
chunks = splitter.split_documents(docs)
db = Chroma.from_documents(chunks, OpenAIEmbeddings())
resultados = db.similarity_search_with_score(pergunta, k=5)
O k (quantidade de trechos enviados ao modelo) é ajuste: comece com 4 ou 5 e aumente se as respostas ficarem rasas.
7. Erros comuns e como medir se está funcionando
- Base desatualizada: sem pipeline de reindexação, o agente responde com a versão antiga do documento.
- Pergunta sem resposta na base: o modelo improvisa. Adicione a regra "responda que não encontrou" e meça quantas perguntas caem nesse caso.
- Avaliação ausente: monte um conjunto de 30 a 50 perguntas com respostas esperadas e rode de novo a cada mudança de chunking, embedding ou prompt.
- Escopo largo demais: indexar tudo sem priorizar dilui a qualidade — comece pelos documentos mais consultados.
Recomendação prática: comece pequeno e mensurável: escolha de 10 a 30 documentos mais consultados pelo seu time, monte o conjunto de teste de perguntas e rode o ciclo antes de ampliar a base. RAG bem feito vira busca com resposta; RAG mal feito vira um chatbot que erra com confiança — e a diferença está quase sempre no chunking, no híbrido e na avaliação contínua.