RAG uitgelegd: AI die antwoordt met jouw eigen bedrijfsdata

Een collega vraagt de chatbot op jullie intranet wat de levertijd is voor een maatwerkorder. Het antwoord komt snel, klinkt zeker en is fout. Er staat "vijf werkdagen", terwijl in jullie eigen voorwaarden drie weken staat. De chatbot heeft die voorwaarden nooit gezien. Hij heeft gewoon iets aannemelijks bedacht.

Dat is precies het probleem dat RAG oplost. Met RAG laat je AI met eigen data antwoorden: niet uit wat het model ooit op internet las, maar uit jouw documenten, jouw voorwaarden, jouw handleidingen. In dit stuk leggen we uit hoe dat werkt, zonder jargon, waar het goed voor is en waar het in de praktijk vaak misgaat.

Waarom een taalmodel jouw bedrijf niet kent

Een taalmodel zoals dat achter ChatGPT is getraind op enorme hoeveelheden tekst. Het weet veel over de wereld in het algemeen. Over jouw bedrijf weet het niets. Je prijslijst, je retourbeleid, de afspraken met je grootste leverancier, het staat er allemaal niet in.

Stel je het model daar toch een vraag over, dan doet het wat het altijd doet: het voorspelt welke tekst er logisch volgt. Soms klopt dat toevallig. Vaak niet. En het lastige voor jou als gebruiker: een fout antwoord klinkt net zo overtuigend als een goed antwoord. Er gaat geen lampje branden.

Je kunt het model niet zomaar opnieuw trainen op je eigen documenten. Dat is duur, traag en elke keer dat je voorwaarden veranderen, loop je weer achter. Er is een eenvoudiger route.

Hoe RAG werkt, in gewone taal

RAG staat voor retrieval-augmented generation. Vrij vertaald: eerst opzoeken, dan pas antwoorden.

Vergelijk het met een nieuwe medewerker op de klantenservice. Die weet nog niet alles uit zijn hoofd. Maar als hij bij elke vraag eerst even in de juiste map kijkt, en pas daarna antwoordt, geeft hij goede antwoorden. RAG doet precies dat, alleen dan razendsnel.

Achter de schermen gebeuren een paar stappen:

1. Je documenten worden opgeknipt. Handleidingen, FAQ's, voorwaarden, productinformatie. Elk document wordt in kleinere stukken verdeeld, bijvoorbeeld per alinea of per onderwerp.
2. Die stukken worden doorzoekbaar gemaakt. Niet alleen op letterlijke woorden, maar op betekenis. Vraagt iemand naar "terugsturen", dan vindt het systeem ook het stuk over "retourneren".
3. Bij een vraag worden de relevante stukken opgehaald. Het systeem zoekt de paar stukken tekst die het best bij de vraag passen.
4. Het model krijgt de vraag plus die stukken. Met de instructie: antwoord alleen op basis van deze informatie.
5. Het antwoord komt terug met een bron. Zodat jij of je klant kan zien waar het vandaan komt.

Het model zelf verandert dus niet. Je geeft het bij elke vraag de juiste informatie mee. Pas je een document aan, dan gebruikt het systeem vanaf dat moment de nieuwe versie.

Waar RAG in de praktijk goed voor is

RAG werkt het best waar mensen steeds vragen stellen over informatie die ergens al op papier staat. Een paar plekken waar we het vaak zien:

Klantenservice

Vragen over levertijden, garantie, retouren, installatie. De antwoorden staan in je documentatie, maar klanten lezen die niet. Een chatbot met RAG zoekt het juiste stuk op en antwoordt in gewone taal. Of je daar een standaardtool voor gebruikt of iets op maat laat bouwen, zetten we op een rij in AI-chatbot voor je bedrijf: ChatGPT-wrapper of maatwerk?.

Interne kennisbank

Elk bedrijf heeft kennis die verspreid zit over gedeelde mappen, wiki's en het hoofd van die ene collega die er al tien jaar werkt. Met RAG kan een nieuwe medewerker gewoon vragen hoe je een creditfactuur maakt of welke stappen er bij een storing horen, en krijgt hij het antwoord met een verwijzing naar het juiste document.

Offertes en contracten terugvinden

"Wat hebben we vorig jaar afgesproken over onderhoud bij deze klant?" Zoeken in honderden pdf's is traag. Een RAG-systeem vindt de passage en vat hem samen. Belangrijk: de bron blijft erbij, zodat iemand het kan nalezen voordat het richting klant gaat.

Waar het misgaat

RAG klinkt eenvoudig, en het principe is dat ook. In de uitvoering zitten de valkuilen. Dit zijn de plekken waar we het in projecten het vaakst zien haperen.

Slechte of verouderde bronnen. RAG is zo goed als de documenten die je erin stopt. Staan er drie versies van je voorwaarden in de map, waarvan twee verouderd, dan kan het systeem de verkeerde pakken. Opruimen van je bronnen is vaak meer werk dan de techniek zelf, en het is werk dat je niet kunt overslaan.

Onhandig opgeknipte documenten. Knip je een tekst op de verkeerde plek, dan valt de context weg. Een tabel met prijzen die halverwege wordt doorgeknipt, levert een antwoord op met de helft van de informatie. Hoe je opknipt, hangt af van het soort document. Een handleiding vraagt iets anders dan een contract.

De zoekstap mist het juiste stuk. Gebruikt je klant andere woorden dan je documentatie, of staat het antwoord verspreid over drie documenten, dan haalt het systeem soms de verkeerde stukken op. Het model antwoordt dan netjes, maar op basis van de verkeerde informatie.

Geen "ik weet het niet". Een goed systeem zegt eerlijk dat het het antwoord niet kan vinden. Zonder die instructie, en zonder te testen of het zich eraan houdt, vult het model gaten alsnog zelf in. Dan ben je terug bij de chatbot uit de eerste alinea.

Rechten. Niet iedereen mag alles zien. Zet je salarisinformatie en klantcontracten in dezelfde kennisbank als je productinformatie, dan moet het systeem weten wie welke documenten mag opvragen. Dat regel je bij het ophalen, niet achteraf in het antwoord.

Niemand test structureel. Een paar vragen proberen en denken "werkt prima" is geen test. Je hebt een vaste set vragen nodig met de antwoorden die je verwacht, die je na elke wijziging opnieuw draait.

Hoe je test of het werkt

Begin met een lijst van zo'n dertig tot vijftig echte vragen. Haal ze uit je mailbox, je klantenservice of van je collega's. Schrijf per vraag op wat het goede antwoord is en in welk document het staat.

Laat het systeem die vragen beantwoorden en kijk naar drie dingen: vond het het juiste document, klopt het antwoord, en zegt het eerlijk "weet ik niet" als het antwoord er niet in staat. Die lijst bewaar je. Pas je iets aan, aan de documenten, het opknippen of de instructies, dan draai je hem opnieuw. Zo zie je meteen of je iets hebt verbeterd of juist stukgemaakt.

Wat het kost en hoe je begint

Een eerste werkende versie op een afgebakende set documenten staat er meestal in 2 tot 4 weken. Daarmee leer je snel of je bronnen goed genoeg zijn en of mensen het echt gebruiken. Een productierijp systeem met koppelingen, rechten en monitoring is een groter traject. Wat zoiets ongeveer kost, en welke posten daarin meetellen, lees je in wat kost een AI-agent laten bouwen.

Wil je dat AI niet alleen opzoekt in documenten, maar ook gegevens uit je bestaande systemen kan halen, zoals je CRM of planning? Dan kom je bij koppelingen via een standaard als MCP. Daarover schreven we in MCP: hoe je AI koppelt aan je bestaande software. En draait je bedrijf al op een eigen webapplicatie, dan kan RAG vaak gewoon als functie daarin worden opgenomen.

Ons advies: begin klein. Kies één onderwerp waar veel vragen over komen, ruim die documenten op en test met echte vragen. Werkt dat, dan breid je uit.

Benieuwd of jouw documenten geschikt zijn?

Loop je rond met een map vol handleidingen die niemand leest, of een klantenservice die steeds dezelfde vragen beantwoordt? Dan kijken we graag met je mee of RAG daar iets oplost, en of het de moeite waard is. Soms is het antwoord ook: zet eerst je FAQ op orde. Plan een gesprek, dan lopen we het samen door.

Veelgestelde vragen

Wat betekent RAG precies?

RAG staat voor retrieval-augmented generation. Het systeem zoekt eerst de relevante stukken uit jouw documenten op en geeft die samen met de vraag aan een taalmodel. Het model antwoordt dan op basis van jouw informatie, in plaats van op wat het in het algemeen weet.

Moet ik een eigen AI-model trainen om AI met eigen data te gebruiken?

Nee. Bij RAG blijft het model zoals het is. Je geeft het bij elke vraag de juiste stukken uit je documenten mee. Dat is sneller en goedkoper dan trainen, en als je een document aanpast, gebruikt het systeem meteen de nieuwe versie.

Kan RAG nog steeds dingen verzinnen?

Ja, als het niet goed is ingericht. Haalt het systeem de verkeerde stukken op, of is er geen instructie om "weet ik niet" te zeggen, dan kan het model gaten zelf invullen. Daarom test je met een vaste set echte vragen en laat je het antwoord altijd met bron zien.

Is mijn bedrijfsdata veilig bij RAG?

Dat hangt af van hoe je het bouwt. Let op waar je documenten worden opgeslagen, welke AI-dienst de vragen verwerkt en onder welke voorwaarden, en wie welke documenten mag opvragen. Die rechten regel je bij het ophalen van de informatie, zodat een antwoord nooit iets laat zien wat iemand niet mocht zien.