Dit artikel beantwoordt de specifieke vraag: Wat eist de EU AI Act van gemeenten en publieke instellingen? Voor de algemene kaders leest u onze centrale gids: AI-geletterdheid onder de EU AI Act: Wettelijke verplichtingen & praktijkgids.
1. De bijzondere zorgplicht van de overheid
Waar commerciële bedrijven concurreren om efficiëntie, hebben gemeenten, provincies en uitvoeringsorganisaties (zoals UWV en Belastingdienst) een fundamentele democratische zorgplicht: zij beslissen over vergunningen, bijstandsuitkeringen, handhaving en openbare orde.
Na lessen uit het verleden (zoals SyRI en de Toeslagenaffaire) stelt de wetgever uitzonderlijk zware eisen aan het gebruik van algoritmes door de overheid. De EU AI Act legt overheden extra verplichtingen op, waaronder een verplichte Grondrechteneffectbeoordeling (FRIA) vóórdat een hoog-risico AI-systeem in gebruik mag worden genomen.
2. De 4 kerneisen voor AI-geletterde ambtenaren
1. Kennis van IAMA en Mensenrechten
Ambtenaren moeten de IAMA (Impact Assessment Mensenrechten en Algoritmes) kunnen hanteren om te toetsen of een systeem niet leidt tot discriminatie, schending van het gelijkheidsbeginsel of inbreuken op de persoonlijke levenssfeer.
2. Transparantie in het Algoritmeregister
Publieke AI-systemen moeten begrijpelijk worden gepubliceerd in het gemeentelijke of landelijke Algoritmeregister. Ambtenaren moeten in duidelijke taal kunnen uitleggen hoe een systeem werkt aan de gemeenteraad en inwoners.