Hallusinaatioista attribuoituun tietoon : synteettinen koulutusaineisto parantaa kielimallin attribuutiota

Abstract

Suurten kielimallien keskeinen ongelma on niiden tuottaman tiedon läpinäkymättömyys ja epäluotettavuus. Kielimallien taipumus hallusinoida ja toistaa tietoa ilman lähteitä on merkittävä este niiden vastuulliselle hyödyntämiselle. Selvitän tutkimuksessa, miten kielimallien tuottaman tekstin attribuutio, eli kyky perustella vastauksia lähteillä, voi lieventää tätä ongelmaa, ja miten se voidaan toteuttaa ja arvioida.

Tulokseni osoittavat selkeän kehityskaaren yksinkertaisista menetelmistä kohti monimutkaisempia lähestymistapoja. Varhainen kontekstioppiminen on osoittautunut riittämättömäksi, ja tutkimus on siirtynyt tehokkaampiin menetelmiin, kuten valvottuun hienosäätöön ja preferenssioptimointiin. Keskeiseksi haasteeksi on noussut laadukkaan koulutusaineiston puute, minkä vuoksi synteettisen datan automaattinen generointi ja suodatus ovat yleistyneet. Attribuution arviointi perustuu pääosin automaattisiin kehyksiin, joiden luotettavuudessa on kuitenkin rajoituksia.

Tutkimuksessani osoitan, että attribuution laatu on parantunut merkittävästi, ja kehitys on edennyt karkeista dokumenttiviittauksista kohti hienojakoisia, lauseen osiin kohdistuvia maadoituksia. Attribuutio on monimutkainen ongelma, joka vaatii mallien kohdennettua kouluttamista. Tulevaisuuden tutkimuksen tulee keskittyä luotettavampien arviointimenetelmien kehittämiseen ja mallien kykyyn syntetisoida tietoa useista lähteistä.