Mededeling (uitstel antwoord) : Uitstel beantwoording vragen van het lid Mutluer en Van Baarle over de mogelijke vooringenomenheid bij algoritmes gebruikt door de Politie

Mededeling van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 15 juni
2022).

Vraag 1

Bent u bekend met artikel «Rekenkamer waarschuwt voor mogelijke «vooringenomenheid»
bij politie-algoritmes»1 en het desbetreffende rapport van de Algemene Rekenkamer2?

Vraag 2

Deelt u de mening dat het Criminaliteit Anticipatie Systeem (CAS) niet afdoende is
gecontroleerd waardoor nu niet kan worden geconcludeerd dat geen sprake is geweest
van discriminatoire gronden in de selectiecriteria? Zo ja, waarom wordt dit systeem
dan nog steeds gebruikt? Hoe gaat u ervoor zorgen dat dergelijke controles in de toekomst
wel worden gedaan?

Vraag 3

Hoe komt het dat bij de start van het huidige systeem geen basisvereiste van zorgvuldigheid
in acht is genomen?

Vraag 4

Wat zijn de criteria op grond waarvan het lerende algoritme CAS voorspelt waar de
kans groot is dat misdaden zullen worden gepleegd?

Vraag 5

Kunt u uitsluiten dat dit systeem afkomst of de samenstelling van een wijk met veel
inwoners met een migratie-achtergrond als criteria gebruikt? Zo ja, waarom? Zo nee,
waarom niet en welke gevolgen verbindt u hieraan?

Vraag 6

Bent u het eens met de politie dat het niet nodig is het algoritme in haar huidige
vorm buiten werking te stellen? Zo ja, waarom? Zo nee, wat is uw zienswijze over hoe
nu verder met het systeem?

Vraag 7

Hoe ziet de menselijk toets eruit die naast het CAS plaatsvindt? Welke criteria worden
door de mens getoetst? Vindt die toets altijd plaats? Is de menselijke toets daarbij
altijd doorslaggevend?

Vraag 8

Welke stappen bent u van plan te zetten om risico’s op vooringenomenheid in het algoritmesysteem
van de politie weg te nemen?

Vraag 9

Bent u bereid het huidige algoritme wat wordt gebruikt door het CAS door te lichten
om mogelijke vooringenomenheid te detecteren? Zo ja, op welke termijn wilt u dit onderzoek
voltrekken? Zo nee, waarom niet?3

Mededeling

Hierbij deel ik u mede dat de schriftelijke vragen van de leden Mutluer (PvdA) en
Van Baarle (DENK), van uw Kamer aan de Minister van Justitie en Veiligheid over de
mogelijke vooringenomenheid bij algoritmes gebruikt door de Politie (ingezonden 25 mei
2022) niet binnen de gebruikelijke termijn kunnen worden beantwoord, aangezien nog
niet alle benodigde informatie is ontvangen.

Ik streef ernaar de vragen zo spoedig mogelijk te beantwoorden.