Wat is RAG? Een AI-antwoord dat eerst je eigen documenten opzoekt en dan pas antwoordt, met bronvermelding.
RAG (retrieval-augmented generation) laat een taalmodel antwoorden op basis van jouw eigen documenten: het systeem zoekt eerst de relevante stukken tekst op en schrijft daarna een antwoord met die stukken als bron. Het model put dus niet uit zijn algemene geheugen maar uit jouw handboek, contracten of kennisbank, en kan laten zien waar het antwoord vandaan komt.
Een taalmodel weet veel, maar niets over jouw bedrijf. Het kent je prijsafspraken niet, je procedures niet en je klantdossiers niet. Je zou het model al die informatie kunnen laten 'leren', maar dat is traag, duur en verouderd zodra je een document aanpast. RAG lost dat anders op: de informatie blijft waar hij staat, en het model krijgt per vraag alleen de stukken te zien die ertoe doen.
Het werkt in twee stappen. Eerst de zoekstap: je documenten worden in stukken geknipt en zo opgeslagen dat je op betekenis kunt zoeken. 'opzegtermijn' vindt dan ook de alinea die over 'beëindiging van de overeenkomst' gaat. Een vraag wordt op dezelfde manier omgezet en de best passende stukken worden opgehaald. Dan de schrijfstap: die stukken gaan samen met de vraag naar het model, met de instructie om alléén daaruit te antwoorden en te zeggen wanneer het antwoord er niet in staat.
Een voorbeeld: een medewerker vraagt of een offerte na een maand nog aanpast kan worden. Zonder RAG geeft een model een algemeen antwoord dat plausibel klinkt. Met RAG haalt het systeem de betreffende alinea uit jullie eigen voorwaarden en antwoordt daarmee, mét verwijzing naar het document en de alinea. Dat verschil (bron of geen bron) is de hele reden dat RAG bestaat.
RAG loont als je veel tekst hebt waarin dezelfde vragen steeds opnieuw worden opgezocht: handboeken, contracten, productinformatie, procedures, oude tickets. Het loont ook als de bron regelmatig verandert, want een nieuw document is meteen doorzoekbaar zonder dat er iets opnieuw getraind hoeft te worden. En het loont als je moet kunnen laten zien waar een antwoord vandaan komt. In de zorg, bij juridische teksten, in een klantenservice die geen dingen mag verzinnen.
RAG loont níet als je vragen geen tekstbron hebben. Een planningsvraag of een berekening los je met vaste regels en een database op, niet met een zoekstap. Het loont ook niet als je documenten zelf rommelig, verouderd of tegenstrijdig zijn: RAG maakt zichtbaar wat er in je documentatie staat, ook als dat niet klopt. Opruimen komt dan vóór bouwen.
In onze AI-agents en automatiseringen is RAG meestal een onderdeel, geen product: de stap waarmee een agent antwoordt uit jouw informatie in plaats van uit zijn geheugen. We bepalen in de discovery welke documenten mee mogen, hoe ze geknipt worden en welke antwoorden altijd een bronverwijzing dragen. Antwoorden zonder bron worden niet gegeven maar doorgezet naar een mens. Dat is het controlemoment dat we bij elke werkstroom inbouwen.
Nee. Bij trainen (fine-tuning) verandert het model zelf en 'onthoudt' het je informatie, wat traag is en veroudert zodra een document wijzigt. Bij RAG blijft het model ongewijzigd en krijgt het per vraag de relevante stukken tekst mee. Voor bedrijfsdocumentatie is RAG bijna altijd de betere start; trainen is voor toon en vorm, niet voor feiten.
Minder, maar niet nooit. Het model kan een opgehaald stuk verkeerd lezen of iets bijverzinnen als de bron onvolledig is. Daarom bouwen we een RAG-systeem met de instructie om te zeggen wanneer het antwoord niet in de bron staat, met bronverwijzingen bij elk antwoord, en met een doorzetting naar een mens bij twijfel. De kwaliteit van je documenten bepaalt de rest.
Alles wat tekst is en een antwoord bevat dat vaker gevraagd wordt: handboeken, voorwaarden, procedures, productbeschrijvingen, oude supportvragen, notulen. Minder geschikt zijn scans zonder tekstlaag, spreadsheets vol getallen en documenten waarvan meerdere versies rondslingeren. In de discovery kijken we samen welke bronnen mee mogen en welke eerst opgeschoond moeten worden.
Alleen de stukken die voor een specifieke vraag opgehaald worden, op het moment van die vraag. Niet je hele archief. We leggen vooraf vast welke documenten meedoen, waar de doorzoekbare kopie staat, hoe lang vragen en antwoorden bewaard blijven en wat er nooit naar een modelprovider gaat. Dat is een ontwerpkeuze aan het begin, geen bijzaak achteraf.
EIGHTY8