Fra spørgsmål til et svar med kilder
- SpørgsmålHvad skal besvares?
- Relevante kilderUdvalgt viden bliver hentet.
- AI-udkastKilderne indgår i grundlaget.
- EfterprøvningTjek svaret mod kilderne.
RAG står for Retrieval-Augmented Generation. På dansk kan det beskrives som generering, der bliver suppleret med hentet information.
I stedet for kun at svare ud fra modellens generelle grundlag søger løsningen først efter relevante tekststykker i udvalgte kilder. Derefter bruger modellen materialet som kontekst, når svaret formuleres.
Et enkelt eksempel
Forestil jer, at en medarbejder spørger: “Hvordan håndterer vi en bestemt type kundeklage?”
En almindelig generativ AI-model kan give et generelt svar. En RAG-løsning kan først finde relevante afsnit i virksomhedens godkendte procedurer, vejledninger og produktinformation og derefter formulere et svar med udgangspunkt i dem.
Det kan gøre svaret mere relevant for virksomheden og gøre det muligt at vise, hvilke kilder der er anvendt.
Hvornår kan RAG være nyttigt?
RAG er især interessant, når:
- medarbejdere bruger meget tid på at finde information i mange dokumenter
- den relevante viden ændrer sig oftere end en grundmodel opdateres
- svar skal tage udgangspunkt i virksomhedens egne godkendte kilder
- brugeren har behov for at se eller kontrollere kildegrundlaget
- adgangen til forskellige dele af indholdet skal kunne styres
RAG gør ikke automatisk indholdet godt
Hvis dokumenterne er forældede, modstridende eller dårligt strukturerede, kan løsningen hente et dårligt grundlag. Hvis søgningen finder de forkerte tekststykker, kan modellen stadig formulere et overbevisende, men irrelevant svar.
Derfor skal man både vurdere søgningen, kilderne, det genererede svar og den måde, brugeren forventes at handle på.
Fire spørgsmål før et pilotprojekt
Er kilderne egnede? Er indholdet korrekt, opdateret, ejet og tilgængeligt i et format, løsningen kan bruge?
Må brugeren se materialet? Adgangsreglerne skal følge kilderne. En god søgning må ikke blive en genvej uden om virksomhedens rettigheder.
Hvordan vurderes svaret? Definér konkrete spørgsmål og forventede kvalitetskriterier. Test både normale situationer, grænsetilfælde og spørgsmål, som løsningen ikke bør besvare.
Hvem ejer driften? Nogen skal vedligeholde kilder, overvåge kvalitet, håndtere fejl og beslutte, hvornår løsningen skal ændres.
RAG er en teknik — ikke et mål
Det rigtige spørgsmål er ikke, om virksomheden bør “have RAG”. Det er, om medarbejdere eller kunder har et konkret informationsproblem, som teknikken kan hjælpe med at løse bedre og mere ansvarligt end alternativerne.
Et afgrænset pilotprojekt kan vise, om søgningen, svarene, brugeroplevelsen og driftsbehovet hænger sammen i praksis.
I vores rekrutteringscase med en intern RAG-chat kan I se et konkret eksempel på afgrænsede kilder, brugerrettigheder og testkriterier før en større udrulning.