Vektorsøk

Først blir hvert avsnitt gjort om til en embedding og lagret i en vektordatabase. Når et spørsmål kommer inn, får det også en embedding.

Databasen returnerer så de lagrede avsnittene som ligger nærmest spørsmålet.

Et matnettsted lagrer hvert steg i en oppskrift som et eget avsnitt. Noen spør: "Hvordan unngår jeg at pastaen klistrer seg?" Vektorsøk kan finne steget om å røre og bruke rikelig med vann, selv om ordet "klistrer" ikke står der.

Anthropic beskriver det som det vanlige RAG-oppsettet: del dokumenter opp i chunks, lag embeddings av dem, lagre dem i en vektordatabase og søk etter betydning.

Anthropic påpeker også at embeddings kan bomme på eksakte treff, som en feilkode. Derfor legger mange systemer til søkeordssøk.

• Skriv avsnitt som gir mening alene, så ett hentet stykke fortsatt svarer på spørsmålet.
• Skriv eksakte navn, modellnumre og koder i vanlig tekst, fordi søk bare etter betydning kan overse dem.
• Bruk tydelige overskrifter, så hvert avsnitt har et klart emne.

Semantisk søk

Semantisk søk er målet: å matche betydning. Vektorsøk er en vanlig måte å komme dit på.

Hybridsøk

Hybridsøk kombinerer vektorsøk med søkeordssøk.