Retrieval-augmented generation (RAG)

Piensa en un examen a libro abierto. El modelo no tiene que recordarlo todo, porque puede consultar primero.

El nombre viene de un artículo de investigación de 2020 de Lewis y otros autores. Combinaron un modelo de lenguaje con un índice de Wikipedia en el que se podía buscar.

Una empresa crea un chatbot de ayuda con sus propios manuales. Un cliente pregunta cómo reiniciar un aparato. El sistema busca primero los párrafos más útiles del manual y el modelo escribe con ellos una respuesta corta.

Google dice que sus funciones de IA usan RAG. Recuperan páginas relevantes y actualizadas del índice y generan una respuesta con enlaces en los que se puede hacer clic.

En un sistema RAG, solo el texto recuperado puede acabar en la respuesta. Si tu página no aparece en ese primer paso, no puede citarse.

• Escribe secciones que respondan con claridad a una pregunta, para que un fragmento recuperado tenga sentido solo.
• Usa las palabras que la gente usa de verdad para un tema, junto a los términos técnicos.
• Mantén tus páginas rastreables e indexables: en las funciones de IA de Google, la recuperación parte del índice de búsqueda.

Grounding

La guía de Google describe el RAG como «also known as grounding». En la práctica, las dos palabras apuntan a la misma idea.

Fine-tuning

El fine-tuning sigue entrenando el modelo, así que cambia el propio modelo. El RAG deja el modelo como está y le da texto para leer.