Het AI Lab van de gemeente Amsterdam heeft een serie prototypen ontwikkeld om concreet te onderzoeken wat het betekent dat er bij inzet van kunstmatige intelligentie altijd een human-in-the-loop moet zijn. De oefeningen bouwden voort op de in 2024 gepresenteerde Amsterdamse Visie op AI, waarin het uitgangspunt is dat de mens centraal moet staan.
Prototypen als praktijkonderzoek
In totaal maakte het AI Lab vijf prototypen, inclusief zogenaamde 'anti-voorbeelden' — ontwerpen die laten zien hoe het juist fout kan gaan. Het doel is niet alleen theoretisch beleid formuleren, maar in de gemeentepraktijk aantonen welke ontwerpkeuzes nodig zijn om de rol van ambtenaren in AI-gedreven processen echt betekenis te geven.
Een van de toegelichte voorbeelden is het prototype voor de behandeling van bezwaartegen parkeerboetes, aangeduid als de "doorklikmachine". Dit prototype visualiseert hoe een systeem de ambtenaar ertoe kan verleiden besluiten van het AI-systeem eenvoudig te accorderen: de interface moedigt één type handeling aan (de groene knop) en maakt afwijkende keuzes omslachtig en tijdrovend.
"Bij de inzet van AI moet er altijd een human-in-the-loop zijn"
Het prototype laat zien dat zonder bewust ontwerp de menselijke rol snel symbolisch wordt: formeel behoudt de ambtenaar het laatste woord, maar in de praktijk worden motivatieverplichtingen en interfacekeuzes zodanig ingericht dat het aannemen van het AI-advies de meest aantrekkelijke weg is. Het AI Lab trekt daaruit de conclusie dat bij de implementatie van AI ontwerp van wrijving en het tempo van de mens cruciaal zijn.
Fraude-analyse: het laatste woord is niet genoeg
Een ander toegelicht prototype zette een fraude-analist centraal, die signalen moet beoordelen die een AI-systeem in bijstandsdossiers detecteert. Ook hier geldt: de ambtenaar heeft het formele slotwoord, maar de praktijk maakt dat dit lastiger is wanneer de systeeminformatie onvoldoende toereikend of niet overzichtelijk is.
De belangrijkste ontwerpboodschappen die uit de prototypes voortkomen zijn: bouw bewust frictie op op het moment dat het telt; laat de mens het werktempo bepalen; en zorg dat de informatie en details die nodig zijn om een verantwoorde keuze te maken vooraan en helder gepresenteerd worden.
- Transparantie: laat zien waarom het AI-systeem tot een advies komt.
- Gebruiksvriendelijkheid: ontwerp interfaces die afdwalen van automatische goedkeuring ontmoedigen.
- Werkomstandigheden: houd rekening met tijdsdruk en prestatiedoelen die ambtenaren kunnen verleiden tot routinematig klikken.
| Prototype | Doel / inzicht |
|---|---|
| Doorklikmachine (parkeerboetes) | Aantoont hoe interface-ontwerp en targets accordering van AI-besluiten bevorderen |
| Fraude-analist (bijstand) | Laat zien dat het formele laatste woord onvoldoende is zonder toegankelijke context en bewijs |
Het rapport van het AI Lab benadrukt dat zulke praktijkgerichte experimenten noodzakelijk zijn om te voorkomen dat beleidsuitgangspunten op papier — zoals de menselijke maat — in de uitvoering worden uitgehold. De prototypen werken als leerinstrument: ze tonen zowel valkuilen als concrete ontwerprichtingen die nodig zijn bij opschaling.
Wat betekent dit voor Amsterdammers?
Voor bewoners en ondernemers in Amsterdam is de inzet van AI door de gemeente geen abstract onderwerp: AI kan invloed hebben op besluiten over boetes, bijstand, vergunningen en andere vormen van dienstverlening. De keuzes die het AI Lab nu onderzoekt beïnvloeden hoe betrouwbaar, verklaarbaar en controleerbaar die besluiten in de praktijk zijn.
Als de adviezen van het AI Lab worden overgenomen, betekent dat bijvoorbeeld:
- anders ontworpen digitale werkplekken voor ambtenaren, met meer nadruk op uitleg en bewijs,
- aanpassingen in prestatieafspraken zodat niet alleen snelheid, maar ook kwaliteit van besluitvorming wordt beloond,
- en mogelijk nieuwe procedures zodat bewoners begrijpelijke uitleg krijgen over AI-besluiten die hen raken.
De proeven van het AI Lab laten zien dat het normatieve uitgangspunt ‘de mens eerst’ zich alleen kan waarmaken als technologische, organisatorische en ontwerpkeuzes op elkaar worden afgestemd. Voor Amsterdam betekent dat een doorlopende opgave: beleid vertalen naar bruikbare oplossingen in de ambtenarenpraktijk.
