Vektorsøgning

Først bliver hver passage lavet om til en embedding og gemt i en vektordatabase. Når et spørgsmål kommer ind, får det også en embedding.

Databasen returnerer så de gemte passager, der ligger tættest på spørgsmålet.

Et madwebsite gemmer hvert trin i en opskrift som en separat passage. Nogen spørger: "Hvordan undgår jeg, at pastaen klistrer?" Vektorsøgning kan finde trinnet om at røre og bruge rigeligt vand, selvom ordet "klistrer" ikke står der.

Anthropic beskriver det som den almindelige RAG-opsætning: del dokumenter op i chunks, lav embeddings af dem, gem dem i en vektordatabase og søg efter betydning.

Anthropic påpeger også, at embeddings kan misse præcise match, som en fejlkode. Derfor tilføjer mange systemer søgeordssøgning.

• Skriv passager, der giver mening alene, så ét hentet stykke stadig besvarer spørgsmålet.
• Skriv præcise navne, modelnumre og koder i almindelig tekst, fordi søgning kun efter betydning kan overse dem.
• Brug klare overskrifter, så hver passage har et tydeligt emne.

Semantisk søgning

Semantisk søgning er målet: at matche betydning. Vektorsøgning er en almindelig måde at nå dertil.

Hybrid søgning

Hybrid søgning kombinerer vektorsøgning med søgeordssøgning.