Retrieval-augmented generation (RAG)

Pense em uma prova com consulta. O modelo não precisa lembrar de tudo, porque pode consultar antes.

O nome vem de um artigo científico de 2020, de Lewis e outros autores. Eles combinaram um modelo de linguagem com um índice pesquisável da Wikipedia.

Uma empresa cria um chatbot de suporte com os próprios manuais. Um cliente pergunta como reiniciar um aparelho. O sistema primeiro busca os parágrafos mais úteis do manual, e o modelo escreve com eles uma resposta curta.

O Google diz que seus recursos de IA usam RAG. Eles recuperam páginas relevantes e atualizadas do índice e geram uma resposta com links clicáveis.

Em um sistema RAG, só o texto recuperado pode entrar na resposta. Se sua página não aparece nessa primeira etapa, ela não pode ser citada.

• Escreva seções que respondam a uma pergunta com clareza, para que um trecho recuperado faça sentido sozinho.
• Use as palavras que as pessoas realmente usam para um assunto, junto com os termos técnicos.
• Mantenha suas páginas rastreáveis e indexáveis: nos recursos de IA do Google, a recuperação parte do índice de busca.

Grounding

O guia do Google descreve o RAG como "also known as grounding". Na prática, as duas palavras apontam para a mesma ideia.

Fine-tuning

O fine-tuning continua treinando o modelo, então muda o próprio modelo. O RAG deixa o modelo como está e dá a ele texto para ler.