Antwoord schriftelijke vragen : Antwoord op vragen van het lid Buitenweg over het rapport van Amnesty International rapport ‘We sense trouble: Automated discrimination and mass surveillance in predictive policing in the Netherlands’

Antwoord van Minister Grapperhaus (Justitie en Veiligheid) (ontvangen 11 december
2020). Zie ook Aanhangsel Handelingen, vergaderjaar 2020–2021, nr. 496.

Vraag 1

Kent u het rapport van Amnesty International «We sense trouble: Automated discrimination
and mass surveillance in predictive policing in the Netherlands»?1

Antwoord 1

Ja

Vraag 2

Waarop zijn de zeer generieke criteria (zoals de grootte van de auto) die leiden tot
de risicoscore op basis waarvan de inzittenden van een auto al dan niet worden aangehouden
gebaseerd? Hoe schat u de effectiviteit van dergelijke generieke criteria in?

Antwoord 2

De werkwijze van mobiel banditisme onderscheidt zich van die van andere groepen die
zich schuldig maken aan zakkenrollerij en winkeldiefstal. Zo onderscheidt mobiel banditisme
zich o.a. in mobiliteit, de mate van georganiseerdheid en professionaliteit, het al
dan niet in opdracht van derden stelen, de modus operandi, mobiliteit en doelwitten
(van slachtoffers). De werkwijze van deze groepen, zoals die in Roermond wordt waargenomen,
is nader beschreven in het onderzoeksrapport «Mobiele Bendes aan het Roer»2.

Het merk en model van het gebruikte voertuig is een van de onderscheidende kenmerken,
naast vele andere kenmerken. Een voertuig zal nooit stil worden gehouden op basis
van één (generiek) kenmerk. Er moet sprake zijn van een combinatie van kenmerken voordat
er sprake is van een zogenoemde «hit». Zodra de politie opvolging geeft aan een hit
en het voertuig wordt aangetroffen, dan bepaalt een politieagent zelf of het voertuig
zal worden stilgehouden. Op basis van de verkregen informatie, en zijn of haar waarneming
en ervaring, kan een agent ook besluiten het voertuig door te laten. Het besluit om
een voertuig stil te houden is dus gebaseerd op meer factoren dan alleen de risicoscore
uit een daderprofiel.

In mijn antwoord op vraag 4 van de leden Van Beukering-Huijbregts en Verhoeven gaf
ik aan dat de werkwijze een zogenaamde leerlus omvat. Een kenmerk, zoals een bepaald
type voertuig, dat in de praktijk niet of nauwelijks wordt aangetroffen of een kenmerk
dat wel wordt aangetroffen, maar na analyse geen onderscheidend kenmerk blijkt te
zijn voor de dadersgroep, wordt verwijderd uit het profiel. Een voorbeeld hiervan
is een Duitse huurauto. Dit kenmerk had geen onderscheidend vermogen.

Vraag 3

Kunt u een volledige lijst verschaffen van de criteria die door het project Sensing
worden gebruikt om de risico-score van een auto of inzittenden te bepalen? Zo nee,
waarom niet?

Antwoord 3

Nee. Ik heb inzage gehad in de lijst, maar ik kan deze informatie niet openbaar maken.
Dit zou het opsporings- en handhavingsbelang doorkruizen.

Vraag 4

Kunt u toelichten in hoeverre de gebruikte criteria worden aangepast en verbeterd
op basis van daadwerkelijk verrichtte aanhoudingen door de politie en de bevindingen
hieromtrent?

Antwoord 4

Ik verwijs u hiervoor naar mijn antwoord op vraag 2. De Operationele Proeftuin Roermond
(OPTR) richt zich op het voorkomen van mobiel banditisme. Kennis die wordt vergaard
bij ontdekkingen op heterdaad wordt daarbij ook gebruikt om dit specifieke daderprofiel
te toetsen.

Vraag 5

Klopt het dat als inzittenden van een auto worden aangehouden en in de politiedatabase
worden verwerkt, zij in het vervolg een hogere kans hebben om weer aangehouden te
worden, zelfs als zij bij de eerste aanhouding compleet onschuldig bleken te zijn?
Zo ja, kunt u uitleggen waarom het project Sensing op deze manier ontworpen is? Hoe
denkt u dat deze «feedback loop» de effectiviteit van het project Sensing beïnvloedt?

Antwoord 5

Nee, dat klopt niet. Het project kent juist een «feedback loop». Wanneer uit de controle
geen feiten worden vastgesteld die leiden tot een dergelijk vermoeden, dan zal dat
voertuig op een lijst worden geplaatst die voorkomt dat het voertuig nog een keer
in de aandacht komt. Dat voertuig zal dan juist geen hit meer genereren.

Omgekeerd geldt dat natuurlijk ook. Als een voertuig wordt gecontroleerd en uit die
controle blijken aanvullende feiten die leiden tot een vermoeden van betrokkenheid
bij enig strafbaar feit, dan zal dit voertuig worden toegevoegd aan de referentielijst.
De kans dat dat voertuig in het vervolg weer wordt stil gehouden is dan inderdaad
groter.

Vraag 6

Klopt het dat mensen met een Roma of Oost-Europese achtergrond gezien worden als extra
risico en daarmee meer kans hebben om door de politie aangehouden te worden? Kunt
u zich voorstellen dat dit niet rijmt met artikel 1 van de Grondwet?

Antwoord 6

In mijn antwoord op vraag 6 van de leden Beukering-Huijbregts en Verhoeven gaf ik
aan dat het kenteken (land van herkomst van het voertuig) één van de kenmerken is
in het profiel. Een bijzonder persoonsgegeven als etniciteit (zoals een Roma of Oost-Europese
achtergrond) maakt geen onderdeel uit van het profiel.

In hetzelfde antwoord gaf ik aan dat het aan de betrokken officier van justitie is
om te bepalen of de opname van het land van herkomst van het voertuig in de profielregel
in combinatie met de andere selectiecriteria passend en noodzakelijk is voor de aanpak
van deze criminaliteitsvorm. Het is aan de rechter om er een oordeel over te vellen
indien een betrokken burger dit wil aanvechten.

Vraag 7, 8

Kunt u kwantitatief aantonen in hoeverre het project Sensing in Roermond effectief
is in het tegengaan van zakkenrollers en winkeldieven? Zo nee, waarom niet?

Klopt het dat de resultaten van het Sensing project niet systematisch worden bijgehouden
en de effectiviteit van dit project daarom niet goed geëvalueerd kan worden? Zo nee,
kunt u de Kamer informeren over de evaluaties van dit project? Zo ja, waarom wordt
project gecontinueerd?

Antwoord 7, 8

Een kwalitatief of kwantitatief oordeel over de effectiviteit van het project Sensing
in Roermond is nu nog niet mogelijk.

De OPTR richt zich op het voorkomen van mobiel banditisme door potentiele daders buiten
het winkelgebied van Roermond tegen te houden. In het winkelgebied en het Outlet Center
zelf zijn ook maatregelen getroffen. Door de winkeliers zelf en door de aanwezigheid
van politie en bewakingspersoneel. Deze optelsom van maatregelen moet de hoeveelheid
zakkenrollerij en winkeldiefstal terugdringen. Het aandeel van de OPTR in die optelsom
is nog niet te bepalen.

In 2019 is in eerste aanleg gewerkt aan het cijfermatig valideren van de profielregels
en het op orde krijgen van het systeem. In de tweede helft van 2019 zijn de eerste
hits aan politiemedewerkers uitgegeven, waarna bleek dat het uitgifteproces moest
worden aangepast. Er lag te veel tijd tussen hit en opvolging. Het voertuig werd daardoor
vaak niet aangetroffen. In het vierde kwartaal van 2019 werden er op basis van het
profiel 199 hits gegenereerd, waarvan er 20 leiden tot een controle.

Begin 2020 is het proces zodanig aangepast dat er sneller opvolging kan worden gegeven
aan een hit. Sinds dit voorjaar is vanwege de coronamaatregelen de capaciteit die
nodig is voor verdere opvolging anders geprioriteerd. De uitvoering van de proeftuin
ligt daardoor in 2020 feitelijk stil, waardoor er geen nieuw inzicht wordt opgebouwd
op de effectiviteit van de OPTR.

Alle politieagenten in de operationele proeftuin beschikken sinds eind 2019 over een
app op hun mobiele telefoon waarmee direct het resultaat van een opvolging wordt teruggekoppeld.
Dit zorgt ervoor dat alle resultaten worden vastgelegd.

In 2019 bleek circa 50% van de daadwerkelijk gecontroleerde voertuigen correct te
zijn geselecteerd op basis van het profiel. Om een definitieve uitspraak te kunnen
doen over de effectiviteit hiervan is een hoger aantal feitelijk gecontroleerde voertuigen
nodig.

Vraag 9

Hoe beoordeelt u de claim van Amnesty International dat het project Sensing het recht
op privacy op ingrijpende wijze aantast? Op welke manier is het recht op privacy volgens
u gewaarborgd in het project Sensing en wordt een eventuele inbreuk hierop gerechtvaardigd
door het beschermen van andere belangen?

Antwoord 9

Ik verwijs u hiervoor mijn antwoord op de vragen 3, 5 en 6 van de leden Van Beukering-Huijbregts
en Verhoeven. Op verzoek van uw Commissie heb ik daarnaast nog een algemene reactie
op dit rapport gegeven. Die reactie doe ik u tegelijkertijd met de beantwoording van
deze vragen toekomen. Voor het antwoord op deze vraag kan ik u verder ook nog naar
die brief verwijzen.

Vraag 10

Acht u de effectiviteit van het project Sensing voldoende om dit project voort te
zetten, daarbij het risico in acht nemend dat dit project de privacy van burgers op
ingrijpende wijze aantast?

Antwoord 10

Ik mijn antwoord op vraag 7 ga ik in op de effectiviteit van het project.

In verschillende publicaties over de OPTR wordt de indruk gewekt dat er zeer veel
sensoren worden ingezet en dat het effect en het risico van die sensoren onvoldoende
worden getoetst.

In de OPTR is de ANPR3-camera de enige sensor die wordt toegepast. Andere sensortechnieken zijn wel overwogen,
maar bleken na uitvoering van een technische-, juridische- en ethische toets niet
bruikbaar.

Vraag 11

Kunt u toelichten wat de juridische basis is voor het poject Sensing? Hoe beoordeelt
u de claim van Amnesty International dat artikel 3 van de Politiewet en artikel 160
van de Wegenverkeerswet geen goede juridische basis bieden voor het project Sensing?

Antwoord 11

De eisen op het gebied van privacy die hier van toepassing zijn staan in de Politiewet
2012 (Pw) en de Wet Politiegegevens (Wpg).

De verkrijging van gegevens vindt plaats op grond van artikel 3 Pw.

In de OPTR worden alleen ANPR-camera’s ingezet voor het verkrijgen van data. Deze
ANPR-camera’s worden op de reguliere manier ingezet. Dat wil zeggen dat de kentekens
van passerende voertuigen worden vergeleken met het profiel en lokale en relevante
landelijke referentielijsten. De afbeeldingen van de voertuigen die op deze lijsten
voorkomen (de «hits») worden bewaard. In het kader van een lopend politieonderzoek
kunnen ook de «no hits» worden opgeslagen.

De wettelijke bepaling voor het op deze wijze verwerken van ANPR-gegevens wordt gevonden
in de Wpg. In het IJssellandarrest4 wordt geconcludeerd dat de aldaar genoemde bepalingen van de Wpg een grondslag bieden
voor het verwerken van uit ANPR verkregen gegevens.

De «no-hits» worden opgeslagen en verwerkt in een omgeving conform artikel 9 Wpg.
Dit is een afgeschermde omgeving waar alleen geautoriseerde medewerkers bij kunnen.
De «hits» worden opgeslagen en verwerkt in een omgeving conform artikel 8 Wpg. Aan
een artikel 8-omgeving worden minder strenge eisen gesteld, omdat hier opvolging plaats
vindt en meer medewerkers toegang moeten kunnen hebben tot de gegevens.

In het kader van de OPTR worden er geen gevoelige gegevens5 verzameld, die op grond van artikel 5 Wpg moeten worden verwerkt.

In mijn antwoord op vraag 3 van de leden Van Beukering-Huijbregts en Verhoeven omschrijf
ik hoe de politie het project Sensing heeft getoetst aan de wettelijke eisen.

Amnesty International stelt dat de politie haar bevoegdheden onder de Wegenverkeerswet
misbruikt om voertuigen stil te houden. Dat is niet juist. In de OPTR kan de politie
een voertuig stil houden om de identiteit van de inzittende te kunnen vaststellen.
De politie ontleent deze bevoegdheid aan de Algemene wet Bestuursrecht6. Een eventuele opvolghandeling, zoals het doorzoeken van het voertuig, geschiedt
op grond van artikel 2.44 van de APV van de gemeente Roermond7.

Vraag 12, 13

Is voorafgaand aan het project juridisch advies ingewonnen over de mogelijk inbreuk
die dit project maakt op mensenrechten?

Wie houdt toezicht op het project? Heeft het toezicht betrekking op zowel het algoritme
als op de keuze voor datasets? Aan wie rapporteert de toezichthouder?

Antwoord 12, 13

De OPTR wordt uitgevoerd onder verantwoordelijkheid van het bevoegd gezag in Roermond.
Het projectteam brengt verslag uit van al haar werkzaamheden aan de stuurgroep van
de OPTR, waarin de burgemeester, de Officier van Justitie en de betrokken politieafdelingen
zijn vertegenwoordigd. De stuurgroep is de opdrachtgever, maar is in formele zin geen
toezichthouder. De stuurgroep beoordeelt of de sensoren, de profielregels en de datasets
die het project voorstelt mogen worden ingezet. De burgemeester en de Officier van
Justitie zijn verantwoordelijk voor het opdrachtgeverschap.

Er is niet specifiek juridisch advies ingewonnen over de mogelijke inbreuk op mensenrechten.
In mijn antwoord op vraag 3 van de leden Van Beukering-Huijbregts en Verhoeven gaf
ik aan dat er bij aanvang van de OPTR een Nota van Rechtmatigheid en een Gegevensbeschermingseffectbeoordeling
(GEB) zijn opgesteld. In deze documenten is de werkwijze van de OPTR in relatie tot
de van toepassing zijnde wetgeving beschreven.

De functionaris voor gegevensbescherming (FG) van de politie houdt intern toezicht
op de toepassing en naleving van de privacywetgeving. Conform de AVG en de Wpg rapporteert
de FG aan de Korpsleiding en de Autoriteit Persoonsgegevens (AP). De AP houdt ook
ambtshalve toezicht. Ook kan de AP na een klacht beslissen een onderzoek te starten
en handhavend op te treden. Uiteindelijk is het aan de rechter om over het handelen
van de politie te oordelen.

De Inspectie Justitie en Veiligheid houdt toezicht op de taakuitvoering van de politie.
Indien er bij de taakuitvoering AI toepassingen worden ingezet valt deze inzet daarmee
onder het mandaat van de Inspectie8.

Vraag 14

Wat voor lessen trekt u uit het project Sensing voor het vervolg van dergelijke pilots?
Welke lessons learned neemt u in het vervolg mee bij de uitrol van predictive policing?

Antwoord 14

In mijn antwoord op vraag twee van de leden Van Beukering-Huijbregts en Verhoeven
gaf ik aan dat de OPTR geen gebruik maakt van «predictive policing». Ik wil dat nogmaals
benadrukken.

Hoewel de politie zorgvuldig te werk gaat, blijft de buitenwereld kritisch. Dat blijkt
ook nu uit het rapport van Amnesty International.

Er is vanaf het eerste moment door de politie en het bevoegd gezag open gecommuniceerd
over de OPTR. De start vond plaats in aanwezigheid van de media. Er is destijds een
toelichting gegeven op wat er wordt gedaan, hoe dat wordt gedaan en waarom dat wordt
gedaan. Het juridisch kader is openbaar. Vanuit de OPTR wordt regelmatig ingegaan
op verzoeken van wetenschappelijk onderzoekers en critici om informatie over het proces
en de opzet van de proeftuin. Ook met Amnesty International zijn daarover gesprekken
gevoerd.

Het is belangrijk dat de politie ervaring opbouwt met de inzet van sensortechnologie,
zoals ook is besproken in uw kamer in 2015 (Visie op Sensing9). Dat moet zorgvuldig gebeuren. Mede door kritische vragen uit de maatschappij worden
de afwegingen op proportionaliteit en subsidiariteit telkens opnieuw beschouwd.

Volledige openheid over de werkwijze is echter niet mogelijk, omdat daarmee het opsporings-
en handhavingsbelang wordt doorkruist.

Vraag 15

Bent u bereid dit project stop te zetten? Zo nee, waarom niet?

Antwoord 15

Nee, ik ben het niet eens met het oordeel van Amnesty dat in Roermond de rechten op
privacy, databescherming en non-discriminatie worden geschonden. In de antwoorden
op uw vragen en op die van de leden Van Beukering-Huijbregts en Verhoeven geef ik
daar een onderbouwing voor.

Het is van belang dat de politie-ervaring opdoet met het gebruik van nieuwe technologie
in haar werk, ook op het raakvlak tussen het gebruik van die technologie en de ethische
aspecten daarvan. Juist door hiermee te kunnen experimenteren kan de politie ervan
leren. In de kamerbrief uit 2015 over de visie op sensing heb ik al gewezen op het
belang van experimenteren.

Vanwege een grote daling van incidenten in 2020, en een andere keuze voor prioriteiten
in 2020 ligt de OPTR nu feitelijk stil. De stuurgroep maakt daarom de afweging of
het project op dit moment operationeel moet blijven.