Wat is Agentic RAG en hoe werkt het?

Standaard retrieval-augmented generation is een rechtlijnig proces: neem de vraag, haal wat tekstfragmenten op, stop deze in de prompt en genereer een antwoord. Dat werkt voor eenvoudige zoekopdrachten, maar schiet tekort bij complexere vragen die meerdere zoekacties, verschillende bronnen of beredenering over de volgende stap vereisen. Agentic RAG lost dit op door een agent de regie over het ophaalproces te geven.

In plaats van één vaste ophaalstap bepaalt een agent zelf hoe informatie wordt verzameld: hij kan de zoekopdracht herformuleren, opnieuw zoeken, verschillende bronnen raadplegen, tools aanroepen en controleren of de gevonden informatie daadwerkelijk volstaat. Het resultaat is een ophaalproces dat zich aanpast aan de vraag, in plaats van elke vraag op dezelfde manier te behandelen.

Deze gids legt uit wat agentic RAG is, hoe het werkt, waarin het verschilt van standaard RAG en wanneer de extra complexiteit de moeite waard is.

Wat is agentic RAG?

Agentic RAG is retrieval-augmented generation waarbij een agent – een model dat kan redeneren en acties kan ondernemen – het ophaalproces aanstuurt. In plaats van een enkele, vaste ophaalstap plant de agent hoe informatie gevonden moet worden, voert hij een of meer zoekopdrachten uit, kiest hij tussen bronnen en tools, beoordeelt hij de resultaten en bepaalt hij wanneer hij voldoende informatie heeft om de vraag te beantwoorden.

Denk aan het verschil tussen een onderzoeker één gekopieerde pagina geven en een onderzoeker loslaten in een bibliotheek. De eerste krijgt alleen wat er op die pagina staat; de tweede kan aanwijzingen volgen, meerdere boeken raadplegen en doorgaan met zoeken totdat de vraag beantwoord is. Agentic RAG verandert het ophaalproces van de eerste in de tweede variant.

De belangrijkste verschuiving is controle. Bij standaard RAG is de pipeline vast; bij agentic RAG bepaalt het model zelf wat er wanneer wordt opgehaald, waardoor het vragen kan afhandelen die met een enkele zoekopdracht nooit beantwoord zouden kunnen worden.

Hoe werkt agentic RAG?

De agent doorloopt een lus van beslissen, ophalen en controleren totdat hij een antwoord kan geven.

• Plan het ophaalproces. De agent redeneert over welke informatie de vraag vereist en hoe deze gevonden kan worden.
• Ophalen. Hij voert een zoekopdracht uit of roept een tool of bron aan om relevante informatie te verzamelen.
• Evalueer.De agent beoordeelt of de opgehaalde informatie relevant en voldoende is om de vraag te beantwoorden.
• Verfijnen of doorgaan. Zo niet, dan herformuleert hij de zoekopdracht, zoekt hij opnieuw of probeert hij een andere bron.
• Antwoorden. Zodra hij voldoende informatie heeft, genereert de agent een onderbouwd antwoord op basis van wat hij heeft verzameld.

Deze lus stelt de agent in staat om een complexe vraag op te splitsen, de onderdelen na te gaan en deze te combineren, in plaats van te hopen dat één zoekopdracht alles oplevert. Het is RAG met redenering en iteratie eromheen.

Agentic RAG versus standaard RAG

Het verschil tussen beide zit in controle en flexibiliteit. Standaard RAG is een vastomlijnde pijplijn: één keer ophalen, één keer genereren; snel en goedkoop, maar beperkt tot wat een enkele zoekopdracht oplevert. Agentic RAG laat een agent het ophalen aansturen, waardoor deze meerdere keren kan zoeken, vragen kan herformuleren, verschillende bronnen kan gebruiken en informatie kan verifiëren. Dit is geschikt voor complexe, meerstapsvragen, maar brengt meer latentie en kosten met zich mee. Een derde vergelijkingspunt is redeneren: agentic RAG combineert het ophalen van informatie met het vermogen van de agent om te plannen en te controleren.

Kortom, standaard RAG is de juiste standaardkeuze voor eenvoudige vragen, terwijl agentic RAG zijn waarde bewijst bij complexe vragen die meerdere stappen of bronnen vereisen. Veel systemen gebruiken standaard RAG als basis en schakelen alleen over naar een agent-benadering wanneer dat nodig is.

Wat zijn de voordelen van agentic RAG?

• Geschikt voor complexe vragen. Het kan meerstapsvragen opdelen en beantwoorden die met één enkele zoekopdracht niet opgelost kunnen worden.
• Adaptief ophalen. De agent herformuleert de vraag en zoekt opnieuw wanneer de eerste poging onvoldoende resultaat oplevert.
• Meerdere bronnen en tools. Het kan naar behoefte verschillende kennisbanken, API's en tools combineren.
• Zelfcontrole. Het kan beoordelen of het over voldoende informatie beschikt voordat het antwoord geeft, wat de kans op zelfverzekerde maar onjuiste antwoorden verkleint.
• Betere onderbouwing. Door te itereren totdat de informatie toereikend is, ontstaan er nauwkeurigere en beter onderbouwde antwoorden.

Wat zijn de nadelen?

• Hogere latentie. Meerdere stappen voor het ophalen en redeneren duren langer dan een enkele doorloop.
• Hogere kosten. Meer modelaanroepen en zoekopdrachten betekenen meer tokens en hogere uitgaven.
• Grotere complexiteit. Een agent-loop is lastiger te bouwen, te debuggen en betrouwbaar te maken dan een vaste pipeline.
• Overbodig voor eenvoudige zoekopdrachten. Bij makkelijke vragen zorgen de extra stappen voor hogere kosten zonder dat het antwoord verbetert.

Wanneer moet je agentic RAG gebruiken?

Gebruik het voor complexe vragen die niet met één enkele zoekopdracht beantwoord kunnen worden: vragen die meerdere documenten of bronnen beslaan, vragen die verschillende redeneerstappen vereisen, of gevallen waarbij de juiste zoekopdracht afhangt van wat eerdere zoekopdrachten hebben opgeleverd. Juist daar maakt het vermogen om te itereren en aan te passen het antwoord mogelijk.

Voor eenvoudige, directe zoekopdrachten is standaard RAG sneller, goedkoper en meestal voldoende. De praktische aanpak is om agentic RAG te reserveren voor de moeilijke vragen, in plaats van de kosten ervan bij elk verzoek te betalen.

Best practices voor agentic RAG

• Gebruik standaard RAG als standaardinstelling en schakel alleen over naar agentic retrieval voor complexe vragen.
• Beperk het aantal retrieval-stappen zodat de loop niet uit de hand loopt qua kosten of tijd.
• Geef de agent duidelijke, goed beschreven bronnen en tools om uit te kiezen.
• Laat de agent controleren of de informatie voldoende is voordat er een antwoord wordt gegeven, om zelfverzekerde fouten te verminderen.
• Log de retrieval-stappen zodat je kunt zien en debuggen hoe de agent tot zijn antwoord is gekomen.
• Draai het achter een gateway zodat retrieval, tool-aanroepen en kosten inzichtelijk en beheersbaar zijn.

Conclusie

Agentic RAG geeft een agent de controle over de retrieval, waardoor een vaste one-shot pipeline verandert in een adaptieve loop die zoekopdrachten kan herformuleren, meerdere bronnen kan doorzoeken, tools kan gebruiken en kan controleren of er voldoende informatie is voordat er een antwoord wordt gegeven. Dit maakt het systeem in staat om complexe, meerstapsvragen aan te pakken die standaard RAG niet aankan, ten koste van meer latentie, kosten en complexiteit. De kunst is om het in te zetten waar de moeilijkheidsgraad het rechtvaardigt.

TrueFoundry helpt teams bij het bouwen en aanbieden van agentic- en retrieval-systemen op hun eigen infrastructuur, waarbij modellen, retrieval, tools en observability op één plek achter een gateway worden beheerd. Naarmate RAG evolueert van een vaste pipeline naar een agentic proces, is het beheren en observeren van dat proces essentieel om het betrouwbaar en betaalbaar te houden.