Van Prototype naar Productie: Waarom Veel AI-Projecten Stranden

De demo-illusie

De demo werkt perfect. Je laat het zien aan stakeholders, iedereen is enthousiast, het budget wordt goedgekeurd. En dan begint het echte werk.

Een prototype draait op je laptop, met geselecteerde voorbeelden, zonder edge cases. Productie is een ander verhaal. Productie betekent: wat gebeurt er als de input niet is wat je verwachtte? Wat als de API-provider een storing heeft? Wat als de kosten hoger uitvallen dan begroot?

Hoe groot die kloof is, hangt af van je situatie. Voor een organisatie met tien gebruikers en een intern systeem is de stap naar productie vaak behapbaar — weken, geen maanden. Voor een systeem met duizenden gebruikers en hoge beschikbaarheidseisen is het een ander verhaal.

Veel AI-projecten stranden ergens tussen demo en productie. Niet altijd omdat de technologie niet werkt, maar omdat onderschat wordt wat er nodig is om het stabiel te houden.

Waar het misgaat

Infrastructuur. Een prototype draait lokaal of op een simpele server. Productie vraagt meer: monitoring, logging, een plan voor als dingen misgaan. Hoe complex dat wordt hangt af van je schaal en eisen — voor een intern systeem met beperkt gebruik is het overzichtelijk, voor een klantgerichte applicatie met hoge beschikbaarheid een ander verhaal.

Onderhoud en expertise. AI-systemen zijn geen "zet het neer en vergeet het" oplossingen. API's veranderen, edge cases duiken op, soms moet je aanpassingen doen. Je hebt iemand nodig die het systeem begrijpt. Dat hoeft geen full-time rol te zijn, maar iemand moet het kunnen.

Data privacy en security. In de prototype-fase stuur je testdata naar een API. In productie gaat het om echte gegevens. Afhankelijk van je sector en data spelen GDPR en compliance mee. Soms is dat snel geregeld, soms vraagt het extra stappen.

Kosten. De API-kosten voor honderd testrequests zijn verwaarloosbaar. Bij serieus gebruik wordt het een budgetpost. Hoeveel hangt af van je volume — voor veel toepassingen blijft het behapbaar, maar het is goed om vooraf een inschatting te maken.

Onbetrouwbare output. In een demo kun je de output handmatig checken. In productie wil je dat systematischer doen. Er zijn goede tools voor monitoring en logging die helpen om problemen vroegtijdig te signaleren, zonder dat je elke output handmatig hoeft te controleren.

De kloof dichten

Hoe je de kloof aanpakt hangt af van je situatie. Soms wil een klant eerst een proof of concept zien voordat er geïnvesteerd wordt in een volledig productie-systeem. Dat is logisch — je wilt weten of iets werkt voordat je er serieus in investeert.

In die gevallen bouwen we eerst een werkende versie die bewijst dat het concept klopt. De stap naar productie komt daarna, als duidelijk is dat het waarde oplevert. Dat betekent soms dat je later werk overdoet, maar het vermijdt ook dat je investeert in iets waarvan je nog niet weet of het aanslaat.

Een paar principes die helpen, ongeacht de aanpak:

Definieer wat je verwacht. Ongestructureerde AI-output is lastig te verwerken. Door vooraf te specificeren welke velden je nodig hebt en welke waardes acceptabel zijn, vang je veel problemen af. Het model moet output leveren die aan je specificaties voldoet — anders krijg je een foutmelding, niet een subtiele bug die later opduikt. Zie ook hoe wij AI-systemen bouwen.

Minimaliseer AI waar het kan. Hoe minder je afhankelijk bent van een taalmodel, hoe stabieler je systeem. Gebruik AI voor wat AI goed kan — natuurlijke taal, patronen, ongestructureerde data. De rest doet gewone code.

Plan voor als het misgaat. Wat gebeurt er als de API niet beschikbaar is? Als de output onbruikbaar is? Hoe eerder je nadenkt over die scenario's, hoe minder verrassingen later.

Monitoring. Er zijn goede tools die helpen om te zien wat je systeem doet, welke output het genereert, en waar problemen opduiken. Dat maakt het mogelijk om steekproefsgewijs te controleren en issues vroegtijdig te signaleren, zonder alles handmatig te hoeven checken.

Het infrastructuurvraagstuk

Waar draait je systeem? Voor veel toepassingen is dit eenvoudiger dan het klinkt. Een API-aanroep naar een cloud-dienst, een server die de applicatie draait, basis monitoring. Geen rocket science.

Er zijn grofweg drie paden:

Managed cloud. Je gebruikt een bestaande AI-dienst via een API. Snel op te zetten, weinig onderhoud, je betaalt per gebruik. Voor de meeste projecten de snelste en eenvoudigste route.

Self-hosted. Je draait het model zelf, op eigen of gehuurde servers. Meer controle, potentieel lagere kosten bij veel gebruik, maar vraagt meer technische kennis.

On-premise. Alles in eigen beheer, op eigen hardware. Maximale controle en privacy, maar vraagt investering. Interessant voor organisaties met strenge compliance-eisen. Zie ook ons artikel over souvereine cloud.

De keuze hangt af van je situatie. Voor veel projecten is de managed optie prima — snel, betrouwbaar, en de kosten zijn voorspelbaar. Pas als je specifieke eisen hebt rond privacy, kosten of controle wordt het interessant om alternatieven te overwegen.

Realistische verwachtingen

De pilot-fase is spannend. De productie-fase is rustiger — en dat is goed. Een systeem dat maandenlang stabiel draait zonder verrassingen is een succes.

Hoeveel onderhoud een systeem vraagt hangt af van hoe het gebouwd is en hoe het gebruikt wordt. Sommige systemen draaien maanden zonder dat je ernaar hoeft te kijken. Andere vragen regelmatig aanpassingen. Het is goed om daar van tevoren over na te denken, maar je hoeft niet altijd voor het zwaarste scenario te plannen.

Wat wel helpt: iemand die het systeem begrijpt en kan ingrijpen als er iets verandert. Dat hoeft geen full-time rol te zijn, maar ergens moet die kennis zitten.

Onze aanpak

Wij bouwen AI-systemen die in productie draaien. Soms is dat een proof of concept dat later wordt uitgebouwd. Soms is het vanaf het begin een productie-traject. Wat past hangt af van de situatie.

Wat we altijd doen: nadenken over wat er nodig is om het systeem werkend te houden. Gestructureerde output zodat je weet wat je krijgt. Logica waar het kan, AI waar het moet. Monitoring zodat je ziet wat er gebeurt. En eerlijkheid over wat het vraagt — voordat je begint, niet halverwege.