Perguntas de CIOs · Modelos & conhecimento
RAG ou fine-tuning?
A resposta curta
Não são alternativas equivalentes. RAG fornece conhecimento; fine-tuning altera comportamento. Use RAG para políticas, documentos, normas, produtos, procedimentos e informações atualizáveis. Considere fine-tuning quando exemplos suficientes demonstram um comportamento especializado e relativamente estável. Em processos críticos, ambos ainda precisam conviver com regras determinísticas, ferramentas e avaliação.
Como decidir
- Precisa de conhecimento → RAG
- Precisa de comportamento → fine-tuning
- Precisa de garantia → regras, ferramentas e avaliação
O princípio Onni
RAG fornece conhecimento. Fine-tuning altera comportamento.
A arquitetura por trás
- Conhecimento
- Contexto
- Gateway de modelos
- Avaliação