Een leverancier presenteert een AI-systeem dat schuldhulpverlening automatisch kan prioriteren. Twee wethouders zitten aan tafel. De eerste vraagt: "Hoeveel kost het per jaar?" De tweede vraagt: "Op welke data is het getraind, wie controleert de uitkomsten, en hoe legt de gemeente een negatief besluit uit aan een burger?"
Welke wethouder wil jij zijn?
Als bestuurder ben je geen technicus — maar je bent wél verantwoordelijk voor wat AI-systemen doen namens jouw gemeente. Die verantwoordelijkheid vereist een beoordelingskader: een systematische manier om elk AI-project te wegen.
"Vertrouwen in technologie is geen blindelings vertrouwen. Het is goed gestelde vragen stellen — en antwoorden begrijpen."
Het drielagen-model
Elk AI-project dat je als bestuurder beoordeelt, heeft drie lagen die elk hun eigen vragen vereisen:
Technische laag — Wat doet het systeem en hoe betrouwbaar is het? Vragen: nauwkeurigheid, trainingdata, foutmarge, transparantie
Juridische & ethische laag — Is het systeem legaal en rechtvaardig? Vragen: AVG-compliance, grondrechten, gelijke behandeling, uitlegbaarheid
Bestuurlijke laag — Past het systeem bij de publieke taak en democratische controle? Vragen: raadsinformatie, bezwaar & beroep, eindverantwoordelijkheid, exit-strategie
De meeste problemen met AI in de publieke sector ontstaan niet doordat een systeem technisch faalt — maar doordat de juridische of bestuurlijke lagen zijn overgeslagen.
Kernbegrippen — klik de kaart om te draaien
Klik op een kaart om de uitleg te zien.
Risico-classificatie
Hoog of laag risico?
🔄 Klik om te draaien
De EU AI-verordening deelt AI-systemen in risicoklassen in. Hoog-risico systemen (bijv. bij schuldhulp of handhaving) vereisen strenge eisen voor documentatie, uitlegbaarheid en menselijk toezicht.
Uitlegbaarheid
Explainability
🔄 Klik om te draaien
Kan het systeem in begrijpelijke taal uitleggen waarom het een bepaald besluit neemt? Bij beslissingen over burgers is dit juridisch vereist — en bestuurlijk onmisbaar voor verantwoording.
Menselijk toezicht
Human-in-the-loop
🔄 Klik om te draaien
Bij hoog-risico AI-toepassingen moet een mens het finale besluit nemen of het AI-voorstel kunnen overrulen. Volledige automatisering van impactvolle besluiten is juridisch en ethisch onverantwoord.
Impact Assessment
DPIA & IAMA
🔄 Klik om te draaien
DPIA (privacyrisico's) en IAMA (bredere grondrechtenrisico's) zijn instrumenten om vóór inzet de risico's in kaart te brengen. Bij hoog-risico toepassingen zijn ze verplicht.
De technische laag: wat doet het systeem?
Als bestuurder hoef je de broncode niet te begrijpen. Maar je moet wel de juiste technische vragen kunnen stellen:
Nauwkeurigheid: Wat is de foutmarge? En is die gelijk voor alle burgergroepen?
Trainingsdata: Waar komt de data vandaan? Is die representatief? Hoe oud is die?
Drift: Werkt het systeem over tijd even goed, of verslechtert het als de wereld verandert?
Uitval: Wat gebeurt er als het systeem uitvalt? Is er een handmatig alternatief?
Leverancier: Wie beheert het systeem? Kun je bij de broncode en de data? Wat als de leverancier stopt?
Praktijkvoorbeeld: Gemeente Utrecht
Utrecht ontdekte dat een systeem voor schuldendetectie significant beter werkte voor bewoners in hogere inkomenswijken dan in achterstandswijken — simpelweg omdat er minder trainingsdata beschikbaar was van kwetsbare groepen. Het systeem was technisch "nauwkeurig" maar structureel ongelijk.
Kennischeck — Beoordelingskader
Beantwoord de vragen om je begrip te toetsen.
Een gemeente wil een AI-systeem inzetten dat automatisch beslist welke bijstandsaanvragen voor nader onderzoek worden geselecteerd. Welke risicoklasse heeft dit systeem volgens de EU AI-verordening?
✓ Correct! Systemen die betrokken zijn bij beslissingen over sociale uitkeringen zijn expliciet opgenomen in de hoog-risico categorie van de EU AI-verordening. Dit vereist menselijk toezicht, uitlegbaarheid en een gedocumenteerde risicobeoordeling.Het juiste antwoord is B. Beslissingsondersteunende systemen bij sociale uitkeringen vallen in de hoog-risico categorie. Ze zijn niet verboden, maar vereisen uitgebreide waarborgen.
Wat betekent het als een AI-systeem "niet uitlegbaar" is?
✓ Precies! Niet-uitlegbare systemen (zoals sommige deep learning modellen) kunnen geen begrijpelijk antwoord geven op "waarom?" — wat bij publieke besluitvorming een fundamenteel probleem is voor bezwaar & beroep.Het juiste antwoord is A. Niet-uitlegbaar verwijst naar de technische eigenschap dat het systeem zelf niet kan aangeven waarom het tot een conclusie komt — ongeacht documentatie of leverancierstransparantie.
De juridische en ethische laag
Deze laag stelt de vraag: mág de gemeente dit systeem inzetten, en doet het dat op een rechtvaardige manier?
AVG-compliance: Verwerkt het systeem persoonsgegevens? Dan is een DPIA nodig.
Gelijke behandeling: Werkt het systeem even goed — en eerlijk — voor alle groepen burgers?
Grondrechten: Heeft het systeem effect op privacy, vrijheid van meningsuiting, non-discriminatie?
Uitlegbaarheid: Kan een burger in bezwaar gaan, en begrijpt de rechter hoe het besluit tot stand is gekomen?
Proportionaliteit: Is het AI-systeem het meest proportionele middel, of kan hetzelfde doel minder ingrijpend worden bereikt?
Let op: het IAMA-instrument
Het Impact Assessment Mensenrechten en Algoritmen (IAMA) is een door de Rijksoverheid ontwikkeld instrument dat gemeenten helpt de grondrechtenrisico's van AI-toepassingen systematisch in kaart te brengen. Het gebruik is aanbevolen voor elke hoog-risico toepassing.
Scenario: Slimme handhaving
Bestuurlijk scenario
De afdeling Openbare Orde stelt voor een AI-systeem in te zetten dat op basis van meldingspatronen en demografische data voorspelt in welke buurten de kans op overlast het komende weekend het grootst is. Handhavers worden daar preventief ingezet. De leverancier beweert een nauwkeurigheid van 85%.
Jij bent portefeuillehouder Openbare Orde. Hoe reageer je?
Samenvatting: jouw beoordelingskader
Een AI-project goed beoordelen betekent drie lagen doorlopen — bij voorkeur vóór het contract wordt getekend:
Technisch: Is het nauwkeurig? Is de data representatief? Wie beheert het?
Juridisch & ethisch: Is er een DPIA/IAMA? Is het systeem uitlegbaar? Werkt het gelijk voor iedereen?
Bestuurlijk: Kan de raad controleren? Is er menselijk toezicht? Wat is de exitstrategie?
Je hoeft dit niet alleen te doen. Maar je moet weten wélke vragen je moet stellen — en weten wanneer je niet tevreden moet zijn met het antwoord.
📝 Reflectievragen
Welk AI-systeem in jouw gemeente heeft de grootste impact op burgers?
Heb je ooit een IAMA of DPIA gezien voor dat systeem?
Weet jij wie binnen de gemeente eindverantwoordelijk is als het systeem een fout maakt?
1 / 8
Kennistoets — Les 11
Test je kennis van het beoordelingskader voor AI-projecten. Beantwoord alle 5 vragen.
Vraag 1 van 5
Wat zijn de drie lagen van het bestuurlijk beoordelingskader voor AI-projecten?
Vraag 2 van 5
Wat is het IAMA?
Vraag 3 van 5
Welke systemen vallen volgens de EU AI-verordening in de hoog-risico categorie?
Vraag 4 van 5
Waarom is "menselijk toezicht" (human-in-the-loop) essentieel bij hoog-risico AI-toepassingen?
Vraag 5 van 5
Een AI-systeem heeft een nauwkeurigheid van 92% maar werkt aantoonbaar slechter voor een specifieke bevolkingsgroep. Wat is de bestuurlijke conclusie?
Wil je meer lessen zoals deze?
De volledige cursus bevat 20 interactieve lessen over AI in het lokaal bestuur. Werkbladen, dilemma-oefeningen en een AI Act compliance checklist.