Zo wordt het verhaal meestal verteld: bij de Belastingdienst ging er een algoritme fout. Een risicoclassificatiemodel dat duizenden gezinnen ten onrechte als fraudeur aanmerkte. De techniek de schuld geven, wat verantwoordingsgesprekken voeren over modelkeuzes en datakwaliteit, en dan verder met de agenda.
Die vertelling is aantrekkelijk omdat ze comfortabel is. Als de technologie faalde, dan lag het aan de technologie — en kan de organisatie zichzelf voorstellen als slachtoffer van een lastig vakgebied in plaats van als de partij die aan de knoppen zat. Maar een model beslist niet dat een burger verdacht is. Een organisatie beslist dat. De parlementaire enquêtecommissie die de toeslagenaffaire onderzocht, sprak niet over een technisch incident. Ze sprak over ongekend onrecht. Dat zijn geen woorden over software. Dat zijn woorden over bestuur.
Wie de affaire als technologieverhaal leest, trekt de verkeerde les voor de eigen organisatie. Juist nu, nu bedrijven van honderd tot vijfhonderd mensen AI in hun kernprocessen aan het trekken zijn, loont het om te kijken naar wat er echt stukging.
Wat er echt stukging
Niet het model. De beslisarchitectuur eromheen.
Het risicoclassificatiesysteem van de Belastingdienst deed precies waarvoor het was gebouwd: het wees dossiers aan met een verhoogd risicoprofiel. Wat er ontbrak, zat niet in het systeem maar eromheen. Nergens was vastgelegd wie mocht beslissen dat een aanwijzing van het systeem tot gevolgen voor een gezin mocht leiden. Nergens stond wie het recht — nee, de plicht — had om het systeem te stoppen als de uitkomsten niet meer klopten met de werkelijkheid. En voor de burger die erin terechtkwam, bestond in de praktijk geen begaanbaar bezwaarspoor. Wie eenmaal als fraudeur was gelabeld, moest bewijzen dat hij het niet was. Wantrouwen was de institutionele default geworden, en niemand had die default ooit als expliciete beslissing genomen.
Het systeem deed precies wat het mocht doen. Niemand had opgeschreven wat het niet mocht doen.
Dat is de kern. Er was geen kwaadaardig algoritme en er was geen kwaadaardige ambtenaar. Er was een organisatie die beslissingen aan een systeem had overgedragen zonder eerst vast te leggen wie welke beslissing mocht nemen, wie kon ingrijpen, en hoe degene over wie beslist werd zich kon verweren. De techniek vulde een vacuüm dat de organisatie had laten ontstaan. Vacuüms zijn gevaarlijk, omdat niemand zich er verantwoordelijk voor voelt — en precies daarom groeien ze.
Robodebt: dezelfde vorm, een ander land
Dit is geen Nederlandse anomalie. Australië kende met Robodebt dezelfde mislukking in dezelfde vorm: een systeem dat automatisch schuldvorderingen opstelde voor uitkeringsgerechtigden, op basis van een inkomensgemiddelde dat de werkelijkheid van onregelmatige inkomens structureel miskende. Honderdduizenden burgers kregen schuldbrieven die niet deugden; de aanpak werd later onrechtmatig verklaard. Ook daar was de verleiding om het als een IT-mislukking te framen. Ook daar was de werkelijke ketting dezelfde: een politiek-bestuurlijke wens tot strengheid, een systeem dat die wens op schaal uitvoerde, en niemand die had vastgelegd waar de uitvoering moest stoppen. Geautomatiseerde besluitvorming zonder vastgelegde beslisrechten faalt niet af en toe. Het is de default-faalmodus.
Wat dit voor jouw organisatie betekent
Je bent geen Belastingdienst. Dat is precies je voordeel. In een organisatie van honderd tot vijfhonderd mensen zijn de feedbackloops kort: je ziet sneller wanneer een geautomatiseerde beslissing raar uitpakt, en je kunt sneller ingrijpen. Maar dat voordeel vervalt zodra je beslissingen delegeert aan systemen zonder de randvoorwaarden op te schrijven. Klein zijn beschermt je niet tegen hetzelfde patroon — het geeft je alleen de kans om er nú nog voor te kiezen.
De keuze is concreet, en ze hoeft niet te wachten op een AI-strategie. Twee instrumenten volstaan als begin:
- De Beslisrechtenmatrix. Per beslissing die je (deels) aan een systeem overlaat: wie beslist, wie adviseert, wie wordt geïnformeerd, en op welke termijn. Inclusief het expliciete stoprecht: wie mag de automatisering pauzeren, en op grond waarvan. Geen matrix, geen delegatie. Besluitvorming die niemand heeft vastgelegd, is besluitvorming die niemand kan stoppen.
- De Niet-automatiseringslijst. Een benoemde lijst van beslissingen die menselijk blijven, mét de reden erbij. Ontslag, kredietweigering, prijsdifferentiatie tussen klanten — wat het ook is in jouw context. Het sterkste governance-signaal dat een organisatie kan afgeven, is niet een modelbeleid van veertig pagina's. Het is een korte lijst met namen en redenen waarop staat wat nooit geautomatiseerd wordt.
Volgorde doet ertoe: eerst beslisrechten expliciteren, dan pas delegeren. Wie delegeert en daarna pas de governance inricht, bouwt het bezwaarspoor als de eerste slachtoffers er al zijn. Dat is de volgorde van de toeslagenaffaire. Het is ook de volgorde die je in bijna elke AI-adoptie ziet die te snel gaat: de tooling staat er, de eigenaarschapsvraag is nooit beantwoord.
De vraag is niet óf, maar waar niet
AI is een versneller. Dat is de kracht en het risico in één woord: De AI-Versneller versterkt wat er al is — ook de beslissingen die niemand bezit. Een organisatie met heldere beslisrechten krijgt snellere, betere beslissingen. Een organisatie met onbeheerde beslissingen krijgt sneller onrecht, op grotere schaal, met een audit trail die niemand kan uitleggen. Wat wij AI-ruis noemen — de ruis die ontstaat als tooling sneller gaat dan het operating model — is in de toeslagenaffaire tot zijn uiterste consequentie doorgevoerd.
De vraag is daarom niet of jouw organisatie AI in beslissingen gaat gebruiken. Dat gaat ze. De vraag is of je hebt opgeschreven waar ze het niet mag. Wie dat nu niet kan beantwoorden, heeft zijn beslisarchitectuur niet — en zal het antwoord ontdekken op het moment dat het pijn doet.
De toeslagenaffaire was geen technisch ongeluk. Het was een organisatie die vergeten was wie er besliste. Die vergissing is gratis te voorkomen — maar niet achteraf te repareren.