Retrieval-augmented generation (RAG)

Ajattele koetta, jossa kirja saa olla auki. Mallin ei tarvitse muistaa kaikkea, koska se voi ensin katsoa.

Nimi tulee Lewisin ja kollegoiden vuoden 2020 tutkimusartikkelista. He yhdistivät kielimallin Wikipediasta tehtyyn hakuindeksiin.

Yritys rakentaa asiakastuen chatbotin omien käyttöohjeidensa pohjalta. Asiakas kysyy, miten laite palautetaan tehdasasetuksiin. Järjestelmä etsii ensin ohjeen hyödyllisimmät kappaleet, ja malli kirjoittaa niiden perusteella lyhyen vastauksen.

Googlen mukaan sen tekoälyominaisuudet käyttävät RAGia. Ne hakevat indeksistä osuvia ja ajantasaisia sivuja ja tuottavat vastauksen, jossa on klikattavia linkkejä.

RAG-järjestelmässä vastaukseen voi päätyä vain haettua tekstiä. Jos sivusi ei nouse esiin ensimmäisessä vaiheessa, siihen ei voida viitata.

• Kirjoita osioita, jotka vastaavat selvästi yhteen kysymykseen, jotta haettu kohta on ymmärrettävä yksinään.
• Käytä niitä sanoja, joita ihmiset oikeasti käyttävät aiheesta, ammattisanojen rinnalla.
• Pidä sivusi robottien haettavina ja indeksoitavina: Googlen tekoälyominaisuuksissa haku alkaa hakuindeksistä.

Grounding

Googlen opas kuvaa RAGia sanoin "also known as grounding". Käytännössä molemmat sanat viittaavat samaan ajatukseen.

Fine-tuning

Fine-tuning jatkaa mallin koulutusta, joten itse malli muuttuu. RAG jättää mallin ennalleen ja antaa sille tekstiä luettavaksi.