Retrieval-Augmented Generation (RAG)

RAG koppelt een zoeksysteem aan een taalmodel. Bij elke vraag zoekt het systeem de meest relevante stukken uit een eigen kennisbank. Het model formuleert dan een antwoord op basis van die gevonden informatie, in plaats van alleen op zijn trainingskennis te vertrouwen.

• Indexeren (vooraf): documenten worden opgeknipt in fragmenten (“chunks”). Elk fragment wordt omgezet in een embedding (betekenisvector) en opgeslagen in een vectordatabase.
• Retrieval (bij elke vraag): de vraag wordt ook een vector. De database zoekt de fragmenten met de meest vergelijkbare betekenis (semantische similariteit).
• Augmentation: de gevonden fragmenten worden in de prompt geplaatst, samen met de vraag en instructies.
• Generation: het model schrijft het antwoord, idealiter met bronverwijzing naar de gebruikte fragmenten.
• Verfijningen: hybride zoeken (semantisch + trefwoorden), reranking van resultaten en betere chunking verhogen de vindbaarheid van de juiste informatie.

• Een interne vraagbaak over handleidingen, contracten en werkinstructies.
• Klantchatbots die actuele productinformatie en voorwaarden gebruiken (en volgens de AI Act melden dat de klant met AI praat).
• Juridische of medische assistentiesystemen met verplichte bronvermelding.
• “Praat met je documenten”-functies in bestaande software.

RAG is de goedkoopste route om AI bedrijfsspecifiek te maken — geen dure training, alleen indexering. Het is een veelverkocht SaaS-patroon (“kennisbank met AI-laag”) en bespaart intern zoek- en uitzoektijd. Doordat feiten uit eigen documenten komen, daalt ook het risico op verzonnen antwoorden.

met embeddings en vectordatabases — dat is letterlijk de infrastructuur. Met context engineering om de gevonden fragmenten goed te ordenen in de prompt. Met agents die zelfstandig bepalen wanneer ze de kennisbank raadplegen. Met evaluatie om stille kwaliteitsdegradatie te detecteren.

• De kwaliteit van RAG wordt bepaald door retrieval: vindt het systeem de juiste fragmenten, dan volgt het antwoord meestal vanzelf.
• Probeer RAG vóór fine-tuning als het om kennis gaat; het is goedkoper en direct bij te werken.
• Chunking en metadata (bron, datum, afdeling) zijn de onzichtbare succesfactoren.

een installatiebedrijf digitaliseert twintig jaar servicerapporten en handleidingen. Alle documenten worden opgeknipt en geïndexeerd in een vectordatabase. Een monteur vraagt in de app: “Welke foutcode past bij trillen bij opstarten van dit model?” Het systeem haalt drie relevante passages op, het model formuleert het antwoord met bronvermelding. Nieuwe monteurs vinden de juiste informatie nu bijna even snel als ervaren collega’s.