12 Repositórios de IA Gratuitos para Rodar Local

Imagem: Pexels
Rodar IA local deixou de ser experimento de pesquisador. Com um notebook de 16 GB de RAM ou uma GPU intermediária de 8 GB de VRAM, você hoje consegue ter um assistente de texto, transcrever áudio, gerar imagens e montar um chat com seus documentos — tudo no seu computador, sem mensalidade e sem enviar dados para a nuvem. Esta lista reúne 12 repositórios open source reais, populares e gratuitos, organizados por função.
Camada 1 — Execução de modelos de linguagem
1. ollama/ollama (mais de 130 mil estrelas) — o jeito mais fácil de baixar e rodar modelos como Llama, Mistral, Gemma e Qwen. Uma linha de comando (ollama run llama3.1) e você tem um chat local. Serve também como servidor HTTP para outros apps.
2. ggml-org/llama.cpp (mais de 80 mil estrelas) — o motor de inferência em C/C++ que sustenta a maioria das ferramentas de quantização GGUF. Ideal se você quer máxima performance em CPU, Mac (Metal) ou GPU, e gosta de calibrar parâmetros como -ngl e contexto.
3. vllm-project/vllm (mais de 50 mil estrelas) — inferência de alto throughput para quem serve vários usuários. Implementa PagedAttention e continuous batching. É a escolha padrão para auto hospedar API de LLM em servidor.
4. huggingface/transformers (mais de 140 mil estrelas) — a biblioteca Python que praticamente define o ecossistema. Use para carregar modelos, pipelines de classificação, sumarização e integração com PyTorch/JAX.
Camada 2 — Interface amigável para chat e RAG
5. open-webui/open-webui (mais de 90 mil estrelas) — uma interface web no estilo ChatGPT que se conecta ao Ollama e a qualquer API compatível com OpenAI. Suporta múltiplos usuários, histórico e ferramentas. Perfeito para "ChatGPT da empresa" rodando em servidor interno.
6. run-llama/llama_index (mais de 40 mil estrelas) — framework de RAG para indexar PDFs, notas e bases vetoriais e responder com citação de fonte. É o parceiro natural de quem quer "perguntar" aos próprios documentos.
7. stanfordnlp/dspy (mais de 30 mil estrelas) — programação de prompts como se fosse código tipado, com otimização automática. Bom quando você quer ir além do "prompt no improviso" e medir qualidade de pipeline.
Camada 3 — Voz, imagem e visão
8. openai/whisper (mais de 75 mil estrelas) — transcrição e tradução de áudio, com modelos que rodam bem em GPU e aceitavelmente em CPU para arquivos curtos. Existe o ggerganov/whisper.cpp para rodar mais leve em dispositivos modestos.
9. ComfyUI/ComfyUI (mais de 70 mil estrelas) — interface em grafo para geração de imagem com Stable Diffusion. Fluxos complexos (ControlNet, inpainting, upscalers) viram nós visuais. É hoje o padrão da comunidade para pipelines avançados.
10. AUTOMATIC1111/stable-diffusion-webui (mais de 150 mil estrelas) — a interface clássica de Diffusers com centenas de extensões, ótima para quem quer gerar imagens rápido sem montar grafo. Alternativa mais enxuta e moderna: lllyasviel/fooocus, focada em "só funcionar".
11. ultralytics/ultralytics (mais de 40 mil estrelas) — detecção de objetos com YOLO em webcam, vídeo ou imagens. Útil para contagem, monitoramento e protótipos de visão computacional sem treinar um modelo do zero.
12. coqui-ai/TTS (arquivo histórico, mas forks ativos como idiap/coqui-ai-TTS mantêm o legado) — síntese de voz open source com modelos como XTTS, capazes de clonar timbre a partir de segundos de áudio. Para assistentes locais com voz, é o ponto de partida.
Requisitos mínimos realistas
- 8 GB RAM / sem GPU: modelos GGUF 3B–8B em 4-bit via Ollama ou llama.cpp; Whisper small; SD com otimizações pesadas (rápido, mas lento).
- 16 GB RAM + GPU 8 GB: modelos 7B–14B quantizados; Whisper medium; Stable Diffusion em 512–768px confortável.
- GPU 16 GB+: modelos maiores, ComfyUI com ControlNet, e até embeddings locais para RAG completo.
Como montar sua stack local em um fim de semana
- Instale o Ollama e baixe um modelo equilibrado (ex.:
llama3.1:8bouqwen2.5:7b). - Suba o Open WebUI apontando para o Ollama e teste perguntas reais do trabalho.
- Adicione Whisper para transcrever reuniões gravadas em áudio.
- Se o próximo passo for documentos, instale LlamaIndex e indexe uma pasta de PDFs com embeddings locais.
- Para imagem, comece com Fooocus (simples) e migre para ComfyUI quando precisar de controle fino.
Recomendação prática
Não tente instalar os 12 de uma vez. Comece pelo trio Ollama + Open WebUI + Whisper: em uma tarde você terá um assistente de texto e um transcritor que funcionam offline — o que já elimina assinatura de várias ferramentas de nuvem. Adicione RAG e imagem apenas quando a necessidade aparecer no seu fluxo real de trabalho. IA local não é sobre ter o modelo mais grande; é sobre ter o modelo certo, na sua máquina, sob seu controle.