Embeddings

OpenAI beschrijft een embedding als een vector: een lijst getallen. De afstand tussen twee van die lijsten laat zien hoe verwant de twee teksten zijn.

Teksten met een vergelijkbare betekenis komen dicht bij elkaar terecht, ook als ze andere woorden gebruiken.

De vragen „goedkope hardloopschoenen” en „voordelige sneakers om mee te joggen” hebben bijna geen woorden gemeen. Hun embeddings liggen toch dicht bij elkaar, omdat ze bijna hetzelfde betekenen.

Veel retrieval-systemen maken van opgeslagen passages en van de binnenkomende vraag embeddings. Daarna geven ze de passages terug die het dichtst bij de vraag liggen.

Zo kan een pagina gevonden worden voor een vraag die er letterlijk niet in staat.

• Leg je onderwerp uit in gewone taal, niet alleen in vakjargon.
• Houd elke sectie bij één onderwerp, zodat de betekenis duidelijk is.
• Gebruik de gangbare namen van dingen naast je eigen productnamen.

Zoekwoorden

Bij zoekwoord-matching zoek je naar dezelfde woorden. Embeddings vergelijken betekenis. Veel systemen gebruiken allebei.