Antwoord schriftelijke vragen : Antwoord op vragen van het lid Temmink over het Risicotaxatie Instrument Geweld (RTI-G)

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 13 oktober
2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 3633.

Vraag 1

Bent u ermee bekend dat de politie het RTI-G gebruikt om profielen te maken van burgers
om te voorspellen of zij in de toekomst misdaad zullen plegen?

Antwoord 1

De politie heeft aan mij bevestigd dat zij gebruik heeft gemaakt van het Risicotaxatie
Instrument Geweld (hierna: RTI-G). De politie zet algoritmes in als ondersteuning
van het politiewerk, bijvoorbeeld in toepassingen voor het doorzoeken van in beslaggenomen
gegevensdragers op afbeeldingen met beeldherkenning. Het gebruik van algoritmes versnelt
het werk van rechercheurs en maakt het werk effectiever en efficiënter.

Het Risico Taxatie Instrument Geweld (hierna: RTI-G) werd gebruikt om te signaleren
en te adviseren om aan de voorkant van het probleem te komen en geweld tegen te gaan.
RTI-G werd nooit op zichzelf gebruikt en werd altijd door politiemedewerkers geduid
(human in the loop). Zie ook het antwoord op vraag 4.

In de periode dat het RTI-G werd gebruikt, werden rapportages opgesteld die geraadpleegd
konden worden, maar niet werden vastgelegd in de politiesystemen. Het instrument leverde
geen profiel op van personen in het politiesysteem, alleen een indicatie van het algemene
risico op geweldpleging.

Ik vind het belangrijk dat de menselijke tussenkomst bij het gebruik van algoritmes
voldoende geborgd is in de politieorganisatie, zodat risico’s zoals die in het artikel
worden aangehaald gemitigeerd kunnen worden. Indien de effectiviteit van een algoritme
twijfelachtig is, zou een algoritme niet gebruikt moeten worden. De politie heeft
de inzet van het algoritme RTI-G recent tegen het licht gehouden. Omdat nut, noodzaak
en kwaliteit hiervan onvoldoende te onderbouwen zijn, heeft de politie het gebruik
van RTI-G gestopt.

Vraag 2

Hoeveel personen hebben volgens het RTI-G een «hoog risico» om in de toekomst een
misdaad te plegen? Hoeveel van deze personen hebben een Antilliaanse, Marokkaanse
of Somalische achtergrond?

Antwoord 2

De politie heeft geen gegevens om deze vragen te beantwoorden. Het gebruik van het
RTI-G is gestopt.

In de periode dat het RTI-G werd gebruikt, werden rapportages opgesteld die geraadpleegd
konden worden, maar niet werden vastgelegd in de politiesystemen.

Vraag 3

Is er een privacy-impactanalyse gemaakt over het RTI-G?

Antwoord 3

Nee, er is geen privacy impactanalyse gemaakt op het RTI-G. Bij de ontwikkeling van
dit instrument in 2014 was het nog niet verplicht om een gegevensbeschermingseffectbeoordeling
(GEB/DPIA) op grond van de Wet politiegegevens uit te voeren.

Vraag 4

Hoe vaak zijn personen preventief gefouilleerd, aangesproken, of onderzocht door de
politie vanwege een hoge score van dit algoritme?

Antwoord 4

Het RTI-G is nooit op zichzelf staand gebruikt, maar altijd in combinatie met andere
informatie. Het ging hierbij bijvoorbeeld om het aantal en het type gepleegde delicten.
Ook was er altijd sprake van duiding door politiemedewerkers (human in the loop), waarbij het doel was om te signaleren- en te adviseren om aan de voorkant van het
probleem te komen en geweld tegen te gaan. Dit kon bijvoorbeeld betekenen dat een
geweldpleger na mondelinge bespreking en interpretatie door agenten van gegevens uit
de systemen (systeeminformatie) in combinatie met straatinformatie voorgedragen werd
voor een persoonsgerichte aanpak (PGA) binnen de keten, wat doorgaans leidde tot een
plan van aanpak en communicatie met de persoon zelf.

Vraag 5

Met wie worden de profielen en gegevens die door het RTI-G zijn gemaakt/gegenereerd
gedeeld en op welke wijze wordt gegarandeerd dat personen met een hoge score niet
nodeloos worden achtervolgd door de inzet van dit algoritme?

Antwoord 5

Zoals toegelicht in de antwoorden op vraag 2 en 4, zijn de uitkomsten van het RTI-G
werden nooit op zichzelf staand gebruikt. De uitkomsten zijn ook niet één-op-één gedeeld
met ketenpartners. Er zijn geen rapportages met risico-scores opgeslagen en het gebruik
van RTI-G is gestopt.

Vraag 6

Bent u van mening dat het acceptabel en wenselijk is is voor een agent om een persoon
te fouilleren, aan te spreken, of te onderzoeken op basis van een hoge risico-score
van een algoritme? Zou u uw antwoord kunnen toelichten?

Antwoord 6

Zoals aangegeven in diverse kamerbrieven kunnen algoritmes van grote toegevoegde waarde
zijn als ondersteunend middel, maar is het niet wenselijk dat algoritmes zonder betekenisvolle
menselijke tussenkomst kunnen leiden tot bijvoorbeeld het fouilleren van personen
of het aanspreken van mensen. Het RTI-G is nooit op zichzelf staand gebruikt, maar
altijd in combinatie met andere informatie. Het betrof dus een instrument ter ondersteuning
van het werk van de politie.

Vraag 7

Kan u uitleggen waarom de politie een algoritme gebruikt dat een even hoge risico-score
geeft aan een Antilliaanse achtergrond als drie geweldsdelicten in de afgelopen 12
maanden, vijf andere delicten in de afgelopen vier jaar, of illegaal wapenbezit in
het afgelopen jaar?1

Antwoord 7

Afkomst of etniciteit mag niet meewegen in een risico-taxatie gericht op geweldpleging.
De factor etniciteit is in 2017 uit het algoritme gehaald. Sindsdien wordt deze variabele
niet meer gebruikt. Er zijn geen rapportages met risico-scores opgeslagen en het gebruik
van RTI-G is gestopt.

Vraag 8 en 9

Kan u reageren op de uitspraak van hoogleraar digitale surveillance Marc Schuilenburg
in het artikel van Follow The Money, die zegt dat het gebruik van het RTI-G onhoudbaar
is?

Gezien het grote risico op racisme en discriminatie, is de politie van plan om dit
algoritme onmiddellijk stop te zetten?

Antwoord 8 en 9

Zoals toegelicht in het antwoord op vraag 1, heeft de politie de inzet van het algoritme
RTI-G recent tegen het licht gehouden. Omdat nut, noodzaak en kwaliteit hiervan onvoldoende
te onderbouwen zijn, heeft de politie het gebruik van RTI-G gestopt.

Vraag 10

Wordt het RTI-G algoritme meegenomen in de onderzoeken rondom vervuilde data zoals
voorgeschreven door de moties Marijnissen en Klaver? Zult u uw uiterste best doen
om al het onrechtmatige gebruik van persoonsgegevens en persoonlijke data door de
politie stop te zetten?2

Antwoord 10

Zoals aangegeven in het antwoord op vraag 2, werd de risicoscore uit het RTI-G niet
opgeslagen in de politiesystemen. Het RTI-G wordt niet meer gebruikt. In algemene
zin vind ik het belangrijk dat de politie zich aan de geldende wet- en regelgeving
houdt wanneer zij persoonsgegevens verwerkt. De Autoriteit Persoonsgegevens is de
toezichthoudende autoriteit op dit gebied.

Vraag 11

Worden alle personen met een hoge score van het RTI-G algoritme hierover geïnformeerd?

Antwoord 11

Zie hiervoor ook het antwoord op vraag 4. Het RTI-G werd nooit op zichzelf staand
gebruikt maar altijd in combinatie met andere informatie en met een human in the loop.Indien een hoge score mede heeft geleid tot iemands opname in een persoonsgerichte
aanpak, dan is betrokkene geïnformeerd over deze persoonsgerichte aanpak.

Vraag 12

In de beantwoording op vragen van de leden Leijten, Kwint en van Nispen over de inzet
van voorspellende algoritmes met betrekking tot kinderen geeft u aan dat er in december
2022 door de politie gekeken werd of het alarmeringssysteem ProKid 23- ingezet kon
worden; is dat systeem nu in gebruik?3

Antwoord 12

Nee.

Vraag 13

Hebben kinderen die voorkomen op algoritmes zoals ProKid Plus, ProKid 23- en andere
vergelijkbare algoritmes een hogere kans om als volwassenen een hoge score te krijgen
van het RTI-G algoritme?

Antwoord 13

Prokid Plus en Prokid 23- zijn niet in gebruik.