Tekoälyn hallusinaatio

Kielimallit kirjoittavat sanoja, jotka todennäköisimmin tulevat seuraavaksi. Joskus todennäköisimmältä kuulostava vastaus ei yksinkertaisesti ole totta.

Vuoden 2025 tutkimusartikkeli "Why Language Models Hallucinate" selittää syyn. Koulutus ja testit palkitsevat mallia arvaamisesta sen sijaan, että se myöntäisi olevansa epävarma.

Kuvittele, että kysyt tekoälytyökalulta, mitä maksutapoja pieni verkkokauppa hyväksyy. Jos se ei löydä selvää vastausta, se saattaa silti luetella muutaman yleisen. Lista kuulostaa oikealta, mutta se on arvaus.

Kun tekoälytyökalu kertoo yrityksestäsi, se voi erehtyä hinnoistasi, osoitteestasi tai ominaisuuksistasi.

Selkeät ja tarkistettavat faktat omilla sivuillasi antavat groundingia käyttävälle järjestelmälle jotain todellista lainattavaa arvailun sijaan.

• Kirjoita tärkeimmät faktat tavallisena tekstinä sivustollesi: hinnat, aukioloajat, osoitteet ja tuotenimet.
• Pidä yksi selkeä ja ajantasainen sivu jokaista tärkeää tietoa kohden sen sijaan, että useat sivut olisivat ristiriidassa.
• Kysy tekoälytyökaluilta silloin tällöin brändistäsi ja kirjaa ylös, missä ne erehtyvät.
• Käytä ilmaista tekoälykehotteiden generaattoria, niin saat testikysymykset valmiiksi.

Vanhentunut vastaus

Vanhaan tietoon perustuva vastaus ei aina ole hallusinaatio. Se voi olla oikein mallin tietämyksen katkaisupäivän kannalta.