Waarom een agent anders rekent dan een chatbot
Een chatbot beantwoordt één vraag met één antwoord: één aanroep van het model, een voorspelbaar aantal tokens. Een AI-agent doet meer. Hij leest een opdracht, maakt een plan, roept tools aan (een database, een API, een e-mailsysteem), beoordeelt het resultaat, past het plan aan en herhaalt dat tot de taak klaar is. Elke stap is een nieuwe aanroep van het model, en bij elke aanroep gaat de hele context opnieuw mee.
Gartner rekende in augustus 2026 voor dat het routeren van een taak naar een redenerend agentmodel de inferencekosten minstens vijf keer hoger maakt dan een eenvoudige chatbotinteractie, en vaak veel meer naarmate de taak complexer wordt. De voorspelling die daarbij hoort: de inferencekosten per agentic workflow stijgen tot 2028 meer dan vijfvoudig, terwijl de prijs per token richting 2030 met ongeveer 95 procent daalt. Beide zijn tegelijk waar. De markt kijkt naar de dalende tokenprijs en onderschat hoeveel tokens een agent per taak verbruikt.
Voor je begroting betekent dit: de bouwkosten zijn eenmalig en overzichtelijk, maar de inferencekosten schalen mee met het aantal taken en met de complexiteit per taak. Dat is de post die je vooraf moet doorrekenen.
De vier kostenposten van een AI-agent
Een realistische begroting voor agentic AI bevat deze onderdelen:
- Bouw: het ontwerpen van de workflow, het definiëren van de tools die de agent mag gebruiken, de prompts en instructies, de goedkeuringsstappen en het testen tegen echte cases. Dit is een eenmalig project, vergelijkbaar met een maatwerk softwaretraject.
- Inference: wat elke uitgevoerde taak kost aan modelaanroepen. Dit is de variabele post en wordt bepaald door het aantal stappen per taak, de grootte van de context en het gekozen model per stap.
- Integratie: de koppelingen met de systemen waar de agent in werkt, zoals je ERP, CRM of klantportaal. Wat zo een API-koppeling kost hangt af van de kwaliteit van de bestaande API en het aantal systemen.
- Beheer: monitoring, logging, evaluatie van de kwaliteit, het bijwerken van prompts als een model verandert en het periodiek herbeoordelen van welk model welke stap uitvoert.
De verhouding tussen die vier verschuift met de tijd. In het eerste half jaar domineren bouw en integratie. Daarna bepalen inference en beheer de rekening, en dat zijn precies de posten waar in de meeste offertes niets over staat.
Waar de kosten uit de hand lopen
Gartner voorspelde al eerder dat meer dan 40 procent van de agentic AI-projecten voor eind 2027 wordt gestopt, onder meer door oplopende kosten. We schreven daar over in ons artikel over agentic AI trends in 2026. De patronen die we daarbij het vaakst zien:
- Standaard het zwaarste model gebruiken voor elke stap, ook voor het classificeren van een e-mail of het ophalen van een adres
- Agents die elkaar aanroepen zonder plafond, waardoor een eenvoudige taak tientallen modelaanroepen kost
- Een context die bij elke stap groeit omdat alle eerdere output wordt meegestuurd
- Agents die op de achtergrond doorwerken (monitoren, controleren, opnieuw proberen) zonder dat iemand de frequentie heeft vastgesteld
- Geen koppeling tussen uitgaven en uitkomsten, waardoor niemand kan zeggen of een taak van 40 cent of 4 euro nog rendabel is
Gartner waarschuwt dat wie standaard kiest voor generieke autonome intelligentie, kosten krijgt die ordes van grootte hoger liggen dan nodig. De oplossing zit niet in minder agents, maar in bewuster ontwerp.
Inference tiering: het goedkoopste model dat de taak aankan
De belangrijkste aanbeveling van Gartner heet inference tiering: bouw de agent zo dat elke stap wordt gerouteerd naar het meest kostenefficiënte model dat die stap goed kan uitvoeren, en blokkeer standaard dat de agent voor eenvoudige stappen het duurste model inzet. In de praktijk betekent dat een gelaagde opzet:
- Eenvoudige stappen zoals classificeren, extraheren van velden of het opstellen van een standaardbericht gaan naar een klein, snel model of een lokaal model
- Stappen die redeneren vereisen, zoals het beoordelen van een uitzondering of het plannen van een meerstapstaak, gaan naar een middenklasse model
- Alleen stappen waar de kwaliteit echt het verschil maakt gaan naar het zwaarste model, en die stappen zijn vooraf benoemd
Daarbij hoort een orchestratielaag die de routering regelt, de context per stap beperkt tot wat nodig is en een plafond zet op het aantal aanroepen per taak. Gartner adviseert bovendien om nieuwe modelreleases te behandelen als afschrijvingsmomenten: elk half jaar opnieuw beoordelen of een stap naar een goedkoper model kan, omdat de kleinere modellen snel beter worden.
Zo bouwen wij AI-agents ook: met een expliciete modelkeuze per stap, een budget per taak en logging waaruit je per taak kunt aflezen wat hij heeft gekost.
Lokale modellen en de rol van je eigen infrastructuur
Voor stappen die vaak voorkomen en voorspelbaar zijn, is een lokaal draaiend model vaak de goedkoopste laag. De variabele kosten per aanroep zijn dan vrijwel nul; je betaalt voor de hardware en het beheer. Dat maakt de rekening voorspelbaar, wat voor een controller prettiger is dan een tokenfactuur die met het gebruik meebeweegt.
Een lokale opzet heeft nog twee voordelen. Je data verlaat je eigen omgeving niet, wat de compliance eenvoudiger maakt onder de AVG en de AI Act. En je bent minder afhankelijk van de prijswijzigingen van één leverancier. Hoe zo een omgeving eruitziet, laten we zien in onze case over IntraGPT, een lokale AI-oplossing.
De afweging is niet lokaal of cloud, maar welke stap waar draait. Een goed ontworpen agent combineert een lokaal model voor het volumewerk met een cloudmodel voor de stappen waar de kwaliteit van het zwaarste model echt nodig is.
Zo begroot je een AI-agent realistisch
Een offerte voor een AI-agent hoort antwoord te geven op vijf vragen. Ontbreekt er één, vraag er dan naar:
- Wat kost de bouw, inclusief integraties en testen tegen echte cases uit je organisatie
- Wat kost één uitgevoerde taak aan inference, gemeten in een pilot en niet geschat
- Hoeveel taken per maand verwacht je, en wat is dan de maandelijkse inferencepost
- Welke stappen draaien op welk model, en hoe wordt dat periodiek herbeoordeeld
- Hoe wordt gemeten wat de agent oplevert: afgehandelde tickets, verwerkte orders, bespaarde uren
Gartner adviseert om AI-uitgaven altijd te koppelen aan zulke uitkomstmaten en om een agent voor livegang te stresstesten tegen schommelingen in tokenprijzen. Wij doen dat door elke agent eerst een paar weken in schaduwmodus te draaien: hij voert de taak uit, een mens keurt goed, en je ziet precies wat een taak kost en oplevert voordat hij zelfstandig mag werken.
Wil je weten wat een agent voor een concreet proces in jouw organisatie kost, plan dan een kostenverkenning. We brengen het proces in kaart, bepalen welke stappen automatiseerbaar zijn en rekenen de bouw en de inference per taak voor je door. Meer over onze bredere aanpak lees je bij AI-oplossingen.