Brief regering : Appreciatie van de motie van de leden Bamenga en Stultiens over uitsluitend gebruikmaken van risicoprofilering in specifieke gevallen (Kamerstuk 31288-1171)

31 288
Hoger Onderwijs-, Onderzoek- en Wetenschapsbeleid

Nr. 315
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 14 maart 2025

De vaste commissie voor Binnenlandse Zaken heeft op 12 december 2024 gesproken over
de motie van de leden Bamenga en Stultiens over het uitsluitend gebruikmaken van risicoprofilering
in specifieke gevallen en de Minister van Binnenlandse Zaken en Koninkrijksrelaties
verzocht deze motie te voorzien van een appreciatie.1 Met deze brief wil ik deze appreciatie graag mede namens de Minister van Binnenlandse
Zaken en Koninkrijksrelaties geven.

De motie vraagt om uitsluitend gebruik te maken van risicoprofilering als objectief
en transparant onderzoek heeft aangetoond dat het gebruik van risicoprofilering in
dat specifieke geval effectief, noodzakelijk en proportioneel is, en dat het recht
op non-discriminatie gegarandeerd wordt.

Dit kabinet hecht aan verantwoorde inzet van algoritmen. Het is reeds staand beleid
dat geautomatiseerde risicoselectie niet kan plaatsvinden, nadat belangrijke waarborgen
en voorzorgsmaatregelen in acht zijn genomen. Het discriminatieverbod, zoals dat is
vastgelegd in artikel 1 van de Grondwet en uitgewerkt in onder meer de Algemene wet
gelijke behandeling (Awgb), is leidend. Daarnaast moeten overheidsorganisaties voldoen
aan de Algemene verordening gegevensbescherming (AVG) en de Algemene wet bestuursrecht
(Awb).

De Autoriteit Persoonsgegevens (AP) heeft op 10 oktober 2024 advies uitgebracht over
geautomatiseerde selectie-instrumenten, met inbegrip van risicoselectie.2 De AP heeft in haar advies gesteld dat dergelijke risicoselectie slechts toegepast
mag worden onder een vijftal voorwaarden. De eerste twee daarvan luiden: het risico
op discriminatoire verwerkingen is onderzocht en ondervangen, en periodiek wordt onderzocht
of zich desalniettemin discriminatoire verwerkingen voordoen. De AP benadrukt verder
het belang ervoor te zorgen dat selectieregels zijn gebaseerd op relevant statistisch
en gevalideerd onderzoek.

In de kabinetsreactie op 3 december jl. schrijft het kabinet het van belang te vinden
om invulling te geven aan alle door de Autoriteit Persoonsgegevens benoemde waarborgen
bij de inzet van geautomatiseerde risicoselectie.3 In de reactie is verder benadrukt dat het noodzakelijk is dat inzichtelijk wordt
gemaakt welke geautomatiseerde risicoselectie-instrumenten de overheid hanteert en
dat deze voldoende waarborgen bieden voor betrokkenen. Bij de invulling hiervan zal
het kabinet gebruik maken van de handvatten die de AP in haar advies heeft geboden.

Het kabinet bevordert naleving van de wettelijke kaders en van transparantie door
middel van o.a. het bestaand Algoritmekader en het Algoritmeregister. Het Algoritmekader
biedt een overzicht van de belangrijkste eisen en maatregelen die gelden bij de inzet
van algoritmen en AI-systemen, waaronder procedures voor de (statistische) validatie
van algoritmen en het vooraf en periodiek toetsen van algoritmen om discriminatie
te voorkomen. Het Algoritmekader verwijst ook naar verschillende instrumenten die
hierbij ingezet kunnen worden zoals het Impact Assessment Algoritmen en Mensenrechten
(IAMA) en biastoetsing.4 Publicatie van impactvolle algoritmen in het algoritmeregister zorgt voor het vergroten van de transparantie. In het Algoritmeregister kan daarnaast ook onderliggende documentatie worden gepubliceerd, zoals uitgevoerde
mensenrechtentoetsen.5 Transparantie is dus het uitgangspunt, en in sommige gevallen verplicht, behoudens
de wettelijke uitzonderingen voor onder meer rechtshandhaving, zoals vastgelegd in
de AVG, de Wet politiegegevens en de AI-verordening.

Zoals hierboven geschetst, worden er maatregelen getroffen die toezien op verantwoord
gebruik van risicoprofileringsalgoritmen. Er zijn geen bezwaren tegen de inhoud en
strekking van de motie Bamenga en Stultiens, omdat de motie meerwaarde heeft ten opzichte
van het bestaande beleid. De motie wordt geapprecieerd als «oordeel kamer».

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
F.Z. Szabó