Algoritmische besluitvorming bij de overheid: AI Act, Awb en AVG art. 22

Kort antwoord: Neemt een overheid een besluit (mede) op basis van een algoritme, dan gelden drie regimes tegelijk. De AI Act stelt eisen aan het systeem als het hoogrisico is. Het bestuursrecht (Awb) eist een zorgvuldig voorbereid en deugdelijk gemotiveerd besluit. En AVG art. 22 verbiedt in beginsel een uitsluitend geautomatiseerd besluit met rechtsgevolg. Deze lagen stapelen op — voldoen aan één is niet voldoen aan de andere.

Drie regimes, drie vragen

Elk regime stelt een eigen vraag. De AI Act: is het systeem zelf veilig en conform? Het bestuursrecht: is dit besluit zorgvuldig genomen en kan de burger het navolgen? De AVG: mag een machine dit besluit überhaupt alleen nemen, en wat zijn de rechten van betrokkene? Een conform AI-systeem kan nog steeds een gebrekkig gemotiveerd besluit opleveren. Behandel de regimes daarom apart en stapel ze.

AVG artikel 22 als ondergrens

Artikel 22 AVG verbiedt een besluit dat uitsluitend op geautomatiseerde verwerking berust en de burger in aanmerkelijke mate treft, tenzij er een wettelijke grondslag of toestemming is — met passende waarborgen. In de praktijk betekent dit: betekenisvolle menselijke tussenkomst, recht op uitleg en de mogelijkheid het standpunt kenbaar te maken en het besluit aan te vechten. Een ambtenaar die een systeemuitkomst slechts afstempelt, telt niet als betekenisvolle tussenkomst.

De Awb: zorgvuldigheid en motivering

Het bestuursrecht voegt eisen toe die los van privacy staan. Een besluit moet zorgvuldig zijn voorbereid (art. 3:2 Awb) en deugdelijk gemotiveerd (art. 3:46 Awb). Bij een algoritmisch ondersteund besluit betekent dit dat het bestuursorgaan moet kunnen uitleggen waarom de uitkomst tot stand kwam — niet enkel dat een model het zei. Een onnavolgbare "black box" laat zich niet motiveren en houdt voor de rechter geen stand.

Menselijk toezicht is meer dan een knop

De AI Act eist bij hoogrisicosystemen effectief menselijk toezicht (art. 14): de mens moet de uitkomst kunnen begrijpen, negeren en overrulen. Dat sluit aan op AVG art. 22 en op de Awb, maar het is geen formaliteit. Toezicht is alleen effectief als de beoordelaar tijd, bevoegdheid en inzicht heeft om écht af te wijken. Zie de bredere context in AI bij de overheid en de eisen bij hoogrisico-verplichtingen.

Wat te doen

• Breng per besluitproces de drie regimes in kaart: AI Act, Awb en AVG art. 22, elk apart.
• Borg betekenisvolle menselijke tussenkomst: geen afstempelen, wél tijd en bevoegdheid om af te wijken.
• Maak motivering reproduceerbaar: het systeem moet uitleggen waarom, zodat het besluit Awb-proof is — zie uitlegbaarheid van overheidsalgoritmes.
• Voer een grondrechtentoets uit vóór ingebruikname — zie FRIA.
• Registreer het systeem in het algoritmeregister.

Een geautomatiseerd overheidsbesluit is pas rechtmatig als het op alle drie de lagen overeind blijft. Conformiteit is de basis, niet het eindpunt.