AI & Machine Learning

Wat is RAG (Retrieval-Augmented Generation)? Uitleg voor het MKB

Gepubliceerd: Leestijd: 7 min
AI-chatbot die antwoorden geeft op basis van een eigen kennisbank

Een nieuwe collega zoekt het antwoord in handleidingen, offertes en oude mails, en vraagt het uiteindelijk aan de collega die het al jaren weet. Een systeem dat eerst in de eigen documenten zoekt en daar het antwoord uit opbouwt, haalt dat zoekwerk weg. Dit artikel beantwoordt hoe dat werkt, wat er voor nodig is en wanneer het loont.

Kernpunten: RAG (Retrieval-Augmented Generation) is een techniek waarbij een taalmodel eerst relevante documenten uit de eigen bronnen ophaalt (retrieval) en die gebruikt om een antwoord te formuleren (generation). In plaats van te vertrouwen op wat het model ooit geleerd heeft, baseert het zijn antwoord op actuele, gecontroleerde informatie. Dat lost twee grote problemen op: verouderde kennis en verzonnen antwoorden (hallucinaties). Voor het MKB is RAG de praktische manier om een AI-chatbot of zoekassistent te bouwen die echt iets weet van de producten, processen en klanten, zonder een duur eigen model te trainen.

Hoe werkt RAG?

RAG bestaat uit twee stappen. Eerst de retrieval-stap: de documenten worden opgeknipt in stukken en omgezet naar getallen (embeddings) die de betekenis vastleggen. Die komen in een vectordatabase. Stelt iemand een vraag, dan zoekt het systeem de stukken op die het meest op de vraag lijken.

Daarna de generation-stap. De gevonden stukken worden samen met de oorspronkelijke vraag aan het taalmodel gegeven, met de instructie: beantwoord de vraag op basis van deze context. Het model krijgt dus de feiten aangereikt en hoeft niet uit het geheugen te putten.

Het grote voordeel is herleidbaarheid. Omdat vaststaat welke documenten zijn gebruikt, kan bij elk antwoord de bron getoond worden. Een medewerker of klant kan controleren waar het antwoord vandaan komt, wat het vertrouwen in het systeem flink vergroot.

Waarom RAG in plaats van een model fine-tunen?

Veel ondernemers denken bij "AI met onze eigen kennis" aan het trainen van een eigen model. In de praktijk is RAG bijna altijd de betere keuze. Fine-tunen betekent het model herprogrammeren met eigen data, wat rekenkracht, expertise en tijd kost, en bij elke wijziging opnieuw moet gebeuren.

Met RAG blijft het model met rust en gaat de eigen kennis in een doorzoekbare bibliotheek. Verandert er een prijs, procedure of productspecificatie, dan wordt simpelweg het betreffende document vervangen. Het systeem gebruikt vanaf dat moment de nieuwe versie, zonder hertraining.

Daarnaast is RAG transparanter. Een fine-tuned model is een black box: waarom het iets antwoordt, blijft onduidelijk. Bij RAG zijn de gebruikte bronnen zichtbaar en is een verkeerd antwoord terug te leiden naar een onduidelijk of verouderd document. Voor een mkb-bedrijf dat grip wil houden, is dat doorslaggevend. Voor een diepere afweging: waarom een interne kennisbank-chatbot bouwen.

Wat kan ermee in het MKB?

De meest voorkomende toepassing is een interne kennisbank-chatbot. Medewerkers stellen vragen over procedures, producten of klantafspraken en krijgen direct antwoord met bronverwijzing, in plaats van te zoeken in mappen of collega's lastig te vallen. Dat scheelt aantoonbaar tijd, zeker bij het inwerken van nieuwe medewerkers.

Een tweede toepassing is klantenservice. Een AI-chatbot voor klantenservice die op de eigen handleidingen en FAQ's draait, beantwoordt routinevragen 24/7 en escaleert alleen wat echt menselijke aandacht nodig heeft. Ook offertes, contracten en e-mails laten zich met RAG doorzoekbaar en samenvatbaar maken.

RAG is bovendien de basis onder veel AI-agents in het MKB: een agent die acties uitvoert, heeft betrouwbare kennis nodig om op te varen. Begin altijd met een afgebakend, waardevol probleem in plaats van "alles tegelijk". Een goed werkende kennisbank voor één team levert sneller resultaat dan een ambitieus systeem dat niemand vertrouwt.

Wat is er nodig voor een RAG-systeem?

Technisch zijn er drie bouwstenen nodig: een verzameling bronnen, een vectordatabase om die doorzoekbaar te maken, en een taalmodel dat de antwoorden formuleert. Voor het model kan dat een commerciële API zijn (zoals die van OpenAI of Anthropic) of een open-source LLM die volledig binnen de eigen omgeving draait.

Belangrijker dan de techniek is de kwaliteit van de bronnen. Verouderde, tegenstrijdige of slecht gestructureerde documenten leiden tot slechte antwoorden, ongeacht hoe goed het model is. Reken dus op een opschoonslag van de documentatie als onderdeel van het traject. Dat is vaak het werk dat het meeste oplevert.

Tot slot is privacy een aandachtspunt. Gaat het om klant- of personeelsgegevens, denk dan vooraf na over waar de data verwerkt wordt. Lees hoe ChatGPT zakelijk veilig en AVG-proof ingezet wordt voordat gevoelige documenten in een extern systeem belanden. Een afgeschermde of lokale opzet voorkomt verrassingen.

Wat kost het?

De kosten vallen uiteen in bouw en gebruik. Een eerste, afgebakend RAG-systeem (een kennisbank-chatbot voor een team, met een beheerste set documenten) laat zich bij het MKB doorgaans bouwen voor 8.000 tot 20.000 euro, afhankelijk van de complexiteit en de staat van de documentatie. Een proof of concept om eerst de waarde te bewijzen kan vaak vanaf circa 5.000 euro.

Daarnaast zijn er gebruikskosten. Een commerciële model-API rekent per vraag af; voor een mkb-bedrijf komt dat doorgaans neer op enkele tientjes tot enkele honderden euro's per maand, afhankelijk van het gebruik. Bij een eigen, gehoste opzet vervangen serverkosten die rekening.

Goed om te weten: het bouwen van een RAG-systeem is in veel gevallen ontwikkelwerk dat in aanmerking komt voor WBSO-subsidie. Dat kan een aanzienlijk deel van de loonkosten compenseren en de drempel om te starten verlagen.

Veelgestelde vragen

Wat betekent RAG precies?

RAG staat voor Retrieval-Augmented Generation. Het is een techniek die een taalmodel (LLM) combineert met een zoekstap: eerst worden relevante documenten uit de eigen bronnen opgehaald, daarna formuleert het model een antwoord op basis van die documenten. Zo blijft het antwoord gebaseerd op actuele, gecontroleerde informatie.

Wat is het verschil tussen RAG en een model fine-tunen?

Fine-tunen verandert het model zelf met nieuwe trainingsdata, wat duur is en bij elke wijziging opnieuw moet. RAG laat het model ongemoeid en voegt de eigen kennis toe via een doorzoekbare bronnenbibliotheek. RAG is goedkoper, sneller bij te werken en herleidbaar tot het document waar een antwoord vandaan komt.

Heb ik gevoelige bedrijfsdata voor RAG nodig in de cloud?

Nee, dat hoeft niet. RAG draait ook in een afgeschermde omgeving of met open-source modellen die volledig binnen de eigen infrastructuur blijven. Voor MKB-bedrijven die met klantgegevens of vertrouwelijke documenten werken, is dat vaak de verstandige keuze, ook met het oog op de AVG.

Hoeveel documenten zijn er nodig voor een bruikbaar RAG-systeem?

Er is geen minimum. RAG werkt al met enkele tientallen documenten, zoals handleidingen, offertes of FAQ-pagina's. De kwaliteit hangt meer af van hoe goed en actueel de bronnen zijn dan van het aantal. Begin klein met een afgebakende set, meet de resultaten en breid daarna gericht uit.

Hoe pakken wij dit aan?

We nemen de handleidingen, offertes en andere documenten die het team nu handmatig doorzoekt en zetten daar een zoekfunctie op, met bij elk antwoord de bron erbij. Het team controleert de antwoorden op een afgebakende set vragen voordat iemand anders ermee werkt. Het draait naast wat er staat; geen nieuw systeem en de documenten blijven op de eigen plek.

Als vervolgstap na de kennismaking laat een Data Impact Scan binnen een week zien welke vragen in het bedrijf het vaakst terugkomen en in welke documenten het antwoord al staat.

Plan een kennismaking van 30 minuten, vrijblijvend.

Stel een vraag over RAG

Laat je e-mailadres achter. Een solution architect uit het team reageert binnen een werkdag, met een eerste inschatting.

Liever het uitgebreide contactformulier

Dertig minuten om te zien waar de grootste impact zit.

Een eerlijke inschatting in cijfers, ook als het antwoord is dat het niet loont.