Antwoord schriftelijke vragen : Antwoord op vragen van de leden Mutluer en Van Baarle over het artikel 'Rekenkamer waarschuwt voor mogelijke 'vooringenomenheid bij politie-algoritmes' en het rapport van de Algemene Rekenkamer hierover

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 7 november
2022). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 294.

Vraag 1

Kunt u toelichten op welke manier de toetsing van de Algemene Rekenkamer onjuist is,
omdat de Algemene Rekenkamer had moeten toetsen aan de Wet politiegegevens (Wpg) in
plaats van de Algemene Verordening Gegevensbescherming? In hoeverre en op welke punten
had de Algemene Rekenkamer tot een andere conclusie moeten komen, als zij had getoetst
aan de Wpg?1

Antwoord 1

De AVG en de Wpg kennen een vergelijkbaar doel, namelijk het voorzien in een regeling
van de bescherming van persoonsgegevens. Een deel van de regels is daarom vergelijkbaar.
Er zijn echter ook nadrukkelijke verschillen. Zo kent de Wpg een ruimere grondslag
voor het gebruiken van bijzondere persoonsgegevens en zijn bepaalde rechten van betrokkenen
in de Wpg beperkt.

Het gaat hier om wederzijds uitsluitende regelgeving. Het is dus onmogelijk een Wpg-verwerking
aan de AVG te toetsen (of andersom). Ondanks dat bepaalde begrippen in beide regimes
voorkomen, moeten ze bovendien in een geheel andere context worden gezien. De regeling
omtrent de gegevensbeschermingseffectbeoordeling (GEB) illustreert dit. De AVG en
de Wpg kennen beide de verplichting om een GEB uit te voeren wanneer aan bepaalde
voorwaarden is voldaan.

Eerst na ingebruikname van het CAS is die regeling in (art. 4c van) de Wpg geïmplementeerd.
Zoals in het antwoord op vraag 2 is toegelicht, is de politie vervolgens tot de conclusie
gekomen dat op basis van de karakteristieken van het CAS aan voornoemde voorwaarden
niet is voldaan en een GEB aldus niet is voorgeschreven. Desalniettemin verwijst de
Algemene Rekenkamer in haar toetsingskader naar de AVG en scoort de politie hier een
onvoldoende.

Doordat de Algemene Rekenkamer consequent heeft getoetst aan de AVG (en eenmaal aan
de Politiewet 2012) is niet te voorspellen hoe een toetsing door de Algemene Rekenkamer
aan het juiste wettelijke kader, zijnde de Wpg, tot een andere uitkomst had geleid.

Vraag 2

Hoe beoordeelt u het privacyrisico van gegevensverwerking door het Criminaliteit Anticipatie
Systeem (CAS) in het licht van de richtlijnen van de Autoriteit Persoonsgegevens voor
het uitvoeren van een gegevensbeschermingseffectbeoordeling (GEB) die stellen dat
er sprake is van een hoog risico als wordt voldaan aan minstens twee van de negen
criteria, waaronder de criteria vier, vijf, zes, zeven en acht (respectievelijk: gevoelige
gegevens, grootschalige gegevensverwerking, gekoppelde databases, gegevens over kwetsbare
personen en het gebruik van nieuwe technologie)?

Antwoord 2

De richtlijnen van de Autoriteit Persoonsgegevens (AP) voor het uitvoeren van een
GEB zijn gericht op de AVG. De politie heeft de AP reeds verzocht aparte criteria
op te stellen voor de Wpg. Het feit dat er specifieke wetgeving is voor opsporings-
en vervolgingsinstanties vanwege hun bijzondere positie toont al aan dat eisen ten
aanzien van gegevensverwerkingen onder de AVG en de Wpg niet altijd vergelijkbaar
zijn. Verwerkingen met gegevens van kwetsbare personen, financiële gegevens, gegevens
in het kader van heimelijk onderzoek zijn voor de politie immers eerder regel dan
uitzondering. Juist daarom kent de Wpg extra verplichtingen rond bijvoorbeeld documentatie,
autorisatie en logging.

Vanuit politieperspectief is in dit geval geoordeeld dat de verwerking niet is gericht
op de verwerking van gevoelige gegevens of kwetsbare personen, ook is er geen sprake
van een nieuwe technologie, het CAS is immers al tien jaar in gebruik. De resultaten
zijn bovendien niet tot personen herleidbaar, waardoor geen sprake is van een hoog
risico voor betrokkenen.

Zodoende is destijds door de politie beoordeeld dat een GEB in het geval van het CAS
niet aangewezen is. Hoewel deze karakteristieken niet ingrijpend zijn veranderd en
een GEB volgens het oordeel van de politie nog altijd niet verplicht is, heeft de
politie een traject in gang gezet om voor het CAS een (AI) impact assessment of een
ander type beoordeling van vergelijkbaar niveau toe te passen.

Vraag 3

Kunt u uitsluiten dat de output van het CAS ook na de verrijking met kwalitatieve
informatie door een informatiespecialist niet tot concrete personen is te herleiden?
Kunt u dit toelichten?

Antwoord 3

Zoals hiervoor gemeld, alsook in de beantwoording van uw vorige Kamervragen over dit
onderwerp is aangegeven, geeft het CAS een verwachting voor een bepaald gebied en
geeft het geen output die op zichzelf tot personen te herleiden is.2 Dit valt ook af te leiden uit de variabelen van het CAS3 waarbij bijvoorbeeld wordt gekeken naar het aantal incidenten dat in een bepaalde
periode in een bepaald gebied heeft plaatsgevonden. Dit laat onverlet dat de politie
verschillende andere instrumenten, applicaties en informatiesystemen tot haar beschikking
heeft en inzichtelijk kan maken welke incidenten in een bepaald gebied en periode
hebben plaatsgevonden. Deze informatie heeft de politie ook nodig om zicht te krijgen
op de aard en omvang van de lokale problematiek. Het gaat hierbij echter om andere
applicaties en systemen dan het CAS.

Vraag 4

Kunt u toelichten dat de criminaliteitshistorie die in het CAS wordt gebruikt hoofdzakelijk
is gebaseerd op aangiftes van burgers? Geldt dit ook voor de CAS-output over overlast
jeugd, vernieling,verdovende middelen en drugshandel?

Antwoord 4

De variabelen uit het CAS die zich richten op criminaliteitshistorie zijn hoofdzakelijk
gebaseerd op aangiftes en meldingen van burgers en niet op de ambtshalve waarnemingen
van de politie. Dit geldt voor alle typen speerpunten waarvoor het CAS kan worden
ingezet. Hiermee tracht de politie een feedback loop te voorkomen. Hiermee doelt de
politie op het volgende verschijnsel. Wanneer mede aan de hand van de output van het
CAS de politie-inzet in een gebied tot de waarneming van een toename van het aantal
voorvallen aldaar leidt, is dat op zichzelf verklaarbaar. Wanneer die waarnemingen
echter weer zouden worden betrokken voor de invoer van het CAS zou bij een volgend
gebruik datzelfde gebied weer naar voren komen. Dit wordt ook wel de feedback loop
genoemd. Om te voorkomen dat dit effect optreedt en zaken verkleurd worden, is het
CAS bewust hoofdzakelijk gebaseerd op aangiftes en meldingen van feiten (brengincidenten)
en niet op in registraties vastgelegde eigen waarnemingen van de politie (haalincidenten).
Momenteel onderzoekt de politie of en zo ja, ten aanzien van welke feiten zich mogelijk
een vermenging van breng- en haalincidenten voordoet, met als doel om dit zoveel mogelijk
te beperken.

Vraag 5

Bent u bereid de laatste evaluatie van het CAS met de Kamer delen?

Antwoord 5

De Algemene Rekenkamer heeft geen evaluatie van CAS uitgevoerd, maar een controlerende
toets verricht van de beheersmaatregelen rondom het CAS. Desalniettemin bestaat voor
de Tweede Kamer (bijvoorbeeld via de Vaste commissie Digitale Zaken) de mogelijkheid
de Algemene Rekenkamer te vragen nader te reflecteren op de bevindingen rondom het
algoritme van het CAS, zoals gerapporteerd in het onderzoek «Algoritmes getoetst».

Vraag 6 en 7

Kunt u zeggen wanneer en waarom de toepassing van het CAS is uitgebreid van enkele
vormen van High Impact Crimes (HIC) naar tien vormen van criminaliteit en openbare
ordeverstoring?

Wat zijn de overwegingen om het CAS ook in te zetten voor criminaliteit en openbare
ordeverstoring die niet vallen onder HIC? Hoe beoordeelt u de inzet van het CAS voor
criminaliteit en openbare ordeverstoring die niet vallen onder HIC zoals overlast
jeugd en vernieling?

Antwoord 6 en 7

Het is niet zo dat het CAS zich alleen richt op high impact crimes (HIC), dit is ook
nimmer beoogd. De lokale problematiek van het basisteam in kwestie is leidend. HIC
behoort dan tot de mogelijkheden, maar dit is zeker niet uitsluitend het geval. Het
CAS is bedoeld als een bijdrage aan de efficiënte inzet van de politie. Specifiek
voor criminaliteit en openbare ordeverstoring, zoals overlast jeugd en vernieling,
geldt dat de aanwezigheid van de politie in een bepaald gebied preventief kan zijn.
Die preventie komt echter ook op andere manieren tot stand. De inzet – en daarmee
de waarde van het gebruik van het CAS – is dat een basisteam mede aan de hand van
de output van het CAS een hypothese over de oorzaken van het hoge risico in een gebied
vormt en een strategie formuleert om de oorzaken weg te nemen. Zo kan de politie bijvoorbeeld
in gesprek gaan met de gemeente over het plaatsen van extra verlichting op slecht
verlichte locaties als blijkt dat dit mogelijk een oorzaak is van een verhoogd risico
op overlast of vernieling in een bepaald gebied.

Vraag 8 en 9

Wordt de controle op vooringenomenheid en (indirecte) discriminatie gedaan voor alle
verschillende vormen van output? Kunt u toelichten hoe dit in zijn werk gaat?

Kunt u uitsluiten dat de inzet van het CAS voor overlast jeugd niet leidt tot (indirecte)
discriminatie op grond van afkomst? Kunt u dit toelichten?

Antwoord 8 en 9

Zoals ook bevestigd wordt in het rapport van de Algemene Rekenkamer, maakt het CAS
bewust geen gebruik van variabelen, zoals afkomstgerelateerde indicatoren (nationaliteit
e.d.), die discriminatie in de hand werken.4 Daarbij geeft het CAS een score voor een bepaald gebied en niet voor een specifieke
groep personen. Dit geldt onverkort voor elk type problematiek waarvoor een basisteam
het CAS inzet, dus ook voor jeugdoverlast.

Om het risico op (indirecte) discriminatie zoveel mogelijk te mitigeren, maakt de
politie ook bewuste keuzes in het uitsluiten van variabelen, die mogelijk indirect
tot discriminatie en/of bias zouden kunnen leiden. De variabele «percentage niet-westerse
allochtonen» maakte bijvoorbeeld tot voor kort deel uit van een dataset die de politie
van het Centraal Bureau voor de Statistiek ontvangt. Deze informatie wordt door de
politie niet gebruikt als input voor het CAS. Aanvullend heeft de politie besloten
om de ontvangst van deze gegevens al aan de poort te blokkeren.

Het uitsluiten van gegevens over achtergrond, afkomst of geslacht verkleint de kans
op indirecte discriminatie, maar sluit deze niet in het geheel uit. Zo kan er onbedoeld
bias bestaan in de aangiftes of meldingen die de politie ontvangt. Het inzichtelijk
maken en minimaliseren van deze restrisico’s is voor de politie essentieel.

De politie adresseert dit zowel intern als extern. Intern is de politie een onderzoek
gestart naar het in kaart brengen en aanpakken van de restrisico’s van de toepassing
van het CAS. Extern en transparant (door middel van wetenschappelijke publicaties)
onderzoekt de politie tezamen met de wetenschap enerzijds hoe datamodellen van de
politie bias het beste kunnen detecteren en uitsluiten en anderzijds het effect van
onderlinge sociaal demografische verschillen op politiedata.

Vraag 10

Kunt u toelichten welke variabelen worden gebruikt voor de verschillende output van
het CAS, waaronder de output gericht op diefstal en inbraak woning, straatroof, overlast
jeugd, vernieling, openbare schennis der eerbaarheid, verdovende middelen en drugshandel?

Antwoord 10

De variabelen van het CAS zijn in te zien op de website van de politie.5 Zoals gezegd is de criminaliteitshistorie hoofdzakelijk gebaseerd op aangiftes en
meldingen van burgers.

Vraag 11 en 12

Wordt in alle basisteams die CAS gebruiken gewerkt met output over alle door u genoemde
vormen van criminaliteit of openbare ordeverstoring, namelijk diefstal en inbraak
woning, straatroof, diefstal van personenauto’s of uit personenauto’s, zakkenrollerij,
diefstal van snor- en bromfiets, diefstal uit bedrijf of kantoor, overlast jeugd,
vernieling, openbare schennis der eerbaarheid, verdovende middelen en drugshandel?
Zijn er basisteams die een beperktere output van het CAS gebruiken? Kunt u hiervan
een overzicht geven?

Kunt u een overzicht geven van basisteams die het CAS gebruiken voor het voorspellen
of voorkomen van overlast jeugd?

Antwoord 11 en 12

De basisteams van de politie kunnen aan de hand van de in het lokale gebied voorkomende
problematiek autonoom keuzes maken voor welke typen speerpunten/feiten ze het CAS
inzetten. Wel geldt per basisteam een maximumaantal van vier speerpunten, opdat het
CAS zo gericht mogelijk wordt benut. De onderstaande tabel toont van de meest voorkomende
speerpunten het aantal basisteams, verspreid over het gehele land, dat het CAS voor
die feiten toepast.

Speerpunt

Aantal basisteams

Diefstal/Inbraak Woning

160

Diefstal uit en vanuit voertuig

114

Diefstal van een (snor/brom)fiets

72

Overlast jeugd

71

Straatroof

56

Diefstal overig

39

Van overige speerpunten maken telkens niet meer dan tien basisteams tegelijk gebruik.6