Brief regering : Reactie op verzoek commissie op het artikel van Follow the Money over algoritme jeugdcriminaliteit

32 761 Verwerking en bescherming persoonsgegevens

28 741 Jeugdcriminaliteit

Nr. 1307 BRIEF VAN DE STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 6 maart 2025

Met deze brief voldoe ik aan het verzoek van de vaste commissie voor Justitie en Veiligheid
van 23 januari 2025 om een reactie te geven op het artikel van Follow the Money getiteld «Onbetrouwbaar algoritme bestempelt jongeren als toekomstig crimineel» van
20 januari jongstleden.1 Ook heeft de commissie gevraagd daarbij uitleg te geven over het algoritme in kwestie
– Preselect Recidive – en de manier waarop dit algoritme wordt gebruikt. In het commissiedebat
Criminaliteitsbestrijding, ondermijning en georganiseerde criminaliteit van 6 februari
jongstleden met de Minister van Justitie en Veiligheid heeft het lid Van Nispen (SP)
gevraagd om een reactie op het algoritme van de politie. De Minister heeft daarbij
aangegeven dat ik schriftelijk zal terugkomen op zijn vraag.2 Dat doe ik door middel van deze brief.

Daarnaast is het artikel van Follow the Money op 28 januari jl. ter sprake gekomen in het commissiedebat Inzet algoritmes en data-ethiek
binnen de Rijksoverheid, waarbij ik een toezegging heb gedaan om aan te geven op welke
wijze binnen de huidige en toekomstige versie van de Preselect Recidive de vijf voorwaarden
van de Autoriteit Persoonsgegevens (AP) zijn verwerkt.3 In deze brief ga ik ook hierop in.

In deze brief zal ik eerst een toelichting geven op de werking van de Preselect Recidive
en de inbedding van dit instrument in de jeugdstrafrechtketen. Hierna ga ik in op
de voorwaarden van de AP voor geautomatiseerde risicoselectie en hoe deze zich verhouden
tot de Preselect Recidive. Tot slot licht ik toe dat de Preselect Recidive in de huidige
vorm verantwoord gebruikt kan worden.

Preselect Recidive en risicotaxatie

Het jeugdstrafrecht heeft een pedagogisch karakter met als algemeen uitgangspunt het
voorkomen van recidive. Om met passende interventies te kunnen reageren op delinquent
gedrag van jongeren wordt daarom op verschillende momenten in het strafproces voor
jongeren een inschatting gemaakt van het recidiverisico, de risico- en beschermende
factoren die van invloed zijn op het recidiverisico en de wijze waarop de jongere
in zijn of haar gedrag is te beïnvloeden om dat risico te verminderen.4

Met het risicotaxatie-instrument Preselect Recidive wordt van jongeren die door de
politie als verdachte worden verhoord een eerste inschatting gemaakt van het risico
op herhaling.5 Deze inschatting wordt gemaakt op basis van informatie die bekend is bij de politie.
De uitkomst van de Preselect Recidive wordt gebruikt bij de afweging in het zogenaamde
afstemmingsoverleg «ZSM» ten aanzien van de vraag of verdere risicotaxatie voor de
jongere noodzakelijk is.6 Daarin bespreken het Openbaar Ministerie, de politie, de Raad voor de Kinderbescherming
en Halt welk vervolgtraject er wordt gekozen voor de jongere, nadat er een proces-verbaal
is opgemaakt door de politie in verband met (de verdenking van) het plegen van een
strafbaar feit. Naast het gepleegde delict en de inschatting van de Preselect Recidive
wordt hierbij ook gebruik gemaakt van andere informatie over de jongere die op dat
moment bij de ketenpartners bekend is. Daarbij gaat het om een zeer zorgvuldige afweging
waarbij de belangen en de gevolgen voor de jongere nadrukkelijk worden meegenomen,
hetgeen een belangrijk onderdeel is van de persoonsgerichte aanpak in het jeugdstrafrecht.7 Er is daarmee altijd sprake van een besluit door mensen, niet door een algoritme,
waarbij dus ook andere informatie wordt gebruikt. In het artikel van Follow the Money wordt de indruk gewekt dat de uitkomst van dit instrument bepalend is voor het vervolgtraject
van een jeugdige verdachte. Dit is niet het geval. Het instrument wordt meegewogen
bij de vraag of verdere risicotaxatie voor de jongere nodig is.

Het risicotaxatie-instrument Preselect Recidive is in 2013 ontwikkeld en gevalideerd
door de Universiteit van Amsterdam (UvA). De variabelen die zijn opgenomen in het
instrument zijn door de onderzoekers gekozen op basis van internationaal onderzoek.
Het instrument bleek op basis van internationale wetenschappelijke richtlijnen een
goede voorspelkracht te hebben. Hierbij is op basis van data van de toenmalige doelgroep
gekeken naar onderliggende patronen die samenhangen met recidive. Op die manier zijn
alleen factoren meegenomen die op basis van empirisch bewijs relevant zijn voor de
kans op herhaling. De internationale richtlijnen geven aan dat het instrument een
betere inschatting geeft van de kans op herhaling, dan wanneer wordt uitgegaan van
uitsluitend het oordeel van de professional, zonder het instrument. Vervolgens is
het instrument in gebruik genomen.

Het instrument maakt onderdeel uit van het landelijke signalerings- en risicotaxatie-instrumentarium
in de jeugdstrafrechtketen (LIJ). Daarbij gebruikt de Raad voor de Kinderbescherming
het risicotaxatie-instrument Ritax als basis voor het advies over een passende straf
en/of de benodigde hulp.8 In dit advies wordt, naast de uitkomst van de Ritax, ook de inschatting van de Preselect
Recidive meegewogen voor de toeleiding naar een passende interventie.

Periodieke evaluatie

De instrumenten die deel uitmaken van het LIJ worden periodiek gevalideerd als onderdeel
van de reguliere kwaliteitscyclus.9 De uitkomsten daarvan worden ook voorgelegd aan een door mij ingestelde, onafhankelijke
toetsingscommissie LIJ.10

Voor de Preselect Recidive is het meest recente valideringsonderzoek in 2023 uitgevoerd.
Uit dit onderzoek bleek dat een aanpassing van het wetenschappelijke model zoals ontwikkeld
in 2013 noodzakelijk was. Het model voorspelt namelijk iets minder goed dan eerder
het geval was, maar wel beter dan uitsluitend door de inschatting van een professional
zonder het instrument.11 Vervolgens heeft de UvA in opdracht van het ministerie in 2024 een vervolgonderzoek
uitgevoerd naar de benodigde aanpassingen. Dit onderzoek dient als uitgangspunt voor
de verbeteringen die in 2025 worden doorgevoerd.

Daarbij gaat het om een aanpassing van het statistisch model, de keuze van variabelen
en de subgroepindeling. Daarnaast ben ik voornemens de informatievoorziening aan de
jongere (en zijn of haar ouders/verzorgers) over de uitkomst van de Preselect Recidive
te verbeteren. Uiterlijk eind 2025 zal de nieuwe versie van de Preselect Recidive
en de verbeterde informatievoorziening operationeel zijn.

Voorwaarden Autoriteit Persoonsgegevens

In het commissiedebat Inzet algoritmes en data-ethiek binnen de Rijksoverheid van
28 januari 2025 heb ik een toezegging gedaan om aan te geven op welke wijze binnen
de huidige en toekomstige versie van de Preselect Recidive de vijf voorwaarden van
de AP verwerkt zijn. Deze voorwaarden betreffen de Algemene verordening gegevensbescherming
(AVG).12

De AP heeft op 10 oktober 2024 een advies gepubliceerd met enkele algemene voorwaarden
waar geautomatiseerde risicoselectie aan moet voldoen, namelijk:

a. het risico op discriminatoire verwerkingen is onderzocht en ondervangen;

b. periodiek wordt onderzocht of zich desalniettemin discriminatoire verwerkingen voordoen;

c. de gevolgen voor betrokkene van de selectie als risico treden pas in na betekenisvolle
menselijke tussenkomst;

d. de selectie als risico heeft niet automatisch ook andere aanmerkelijke gevolgen;

e. de risicoselectie is voldoende kenbaar voor betrokkene.13

Ik zal hieronder uiteenzetten hoe de Preselect Recidive zich verhoudt tot de voorwaarden
van de AP voor inzet van geautomatiseerde risicoselectie en welke acties worden ondernomen
om te borgen dat dit instrument verantwoord wordt ingezet. Door de eerdergenoemde
doorontwikkeling van de Preselect Recidive maak ik daarbij waar nodig een onderscheid
tussen het instrument dat op dit moment wordt toegepast en het aangepaste instrument
dat eind 2025 wordt geïmplementeerd.

a. Het risico op discriminatoire verwerkingen is onderzocht en ondervangen.

De Preselect Recidive is gebaseerd op wetenschappelijk onderzoek, uitgevoerd door
de UvA en bestaat uit empirisch onderbouwde variabelen. Dit onderzoek wordt periodiek
herhaald en bovendien elke keer getoetst door de eerdergenoemde toetsingscommissie
LIJ.14 Hierbij is ook aandacht voor de mogelijke discriminatoire werking van het instrument.
Ten tijde van de ingebruikname is het getoetst in het kader van de toen geldende wettelijke
privacykaders. Als onderdeel van de doorontwikkeling van het instrument wordt een
gegevensbeschermingseffectbeoordeling (GEB/DPIA) uitgevoerd. Binnen het ministerie
is inmiddels ervaring opgedaan met toepassing van het Impact Assessment Mensenrechten
en Algoritmes (IAMA) voor een ander risicotaxatie-instrument uit het LIJ, namelijk
de Ritax.15 Ik ben voornemens in 2025 het IAMA ook uit te voeren voor de herziene Preselect Recidive.
Hiermee wordt de impact van Preselect Recidive op de grondrechten afgewogen en wordt
beoordeeld hoe deze impact verminderd kan worden. In het IAMA worden verbanden gelegd
met de relevante regels, instrumenten en toetsingskaders op het gebied van algoritmes.
Het uitvoeren van een IAMA wordt een standaard onderdeel van de kwaliteitscyclus van
het LIJ bij de instrumenten die als hoog risico dan wel impactvol ingeschat worden,
waaronder de Preselect Recidive.

b. Periodiek wordt onderzocht of zich desalniettemin discriminatoire verwerkingen
voordoen.

Alle instrumenten uit het LIJ worden periodiek geëvalueerd middels validatie- dan
wel normeringsonderzoeken, waarbij wordt gemeten of de gebruikte variabelen (of processen)
nog voldoen aan de geldende maatstaven dan wel regelgeving.16 Zoals ik eerder in deze brief heb aangegeven, zijn voor de Preselect Recidive in
2023 en 2024 onderzoeken uitgevoerd naar het instrument. Daarna is, in samenwerking
met de betrokken ketenpartners en op advies van de onafhankelijke toetsingscommissie
LIJ, besloten tot een doorontwikkeling van het instrument. Mede naar aanleiding van
het advies van de toetsingscommissie LIJ en in overleg met de ketenpartners heb ik
de onderzoekers van de UvA verzocht extra aandacht te besteden aan variabelen die
een mogelijke discriminatoire werking hebben in het huidige statistische model. De
onderzoekers is gevraagd te analyseren op welke manier het model kan worden aangepast
om eventuele discriminatoire werking te voorkomen, zoals bijvoorbeeld de variabelen
«aantal registraties medebewoners in de rol van verdachte» en «geslacht». Besluitvorming
hierover vindt plaats in samenwerking met de betrokken ketenpartners, de UvA, en na
advies van de toetsingscommissie LIJ. De benodigde aanpassing van Preselect Recidive
zal uiterlijk eind 2025 zijn doorgevoerd.

c. Gevolgen voor betrokkene van de selectie als risico treden pas in na betekenisvolle
menselijke tussenkomst.

Voor de Preselect Recidive geldt dat er sprake is van betekenisvolle menselijke tussenkomt.
De uitkomst van de Preselect Recidive heeft niet automatisch gevolgen voor de betrokkene
aangezien de uitkomst gebruikt wordt in de afweging of verdere risicotaxatie voor
de jongere noodzakelijk is.17 In het ZSM-overleg wordt door de ketenpartners op basis van deze en andere informatie
een beslissing genomen over de benodigde vervolgstap. Zoals ik al eerder aangaf, betreft
het een besluit door mensen, niet door een algoritme, waarbij ook andere informatie
wordt gebruikt.

Het uitgangspunt van het LIJ is dat de uitkomst van een instrument nooit zonder menselijk
tussenkomst tot besluitvorming mag leiden. De instrumenten zijn bedoeld als hulpmiddel
voor de betreffende ketenpartner(s) om na te gaan of verdere risicotaxatie voor de
jongere nodig is en, na deze verdere risicotaxatie met de Ritax, om in kaart te brengen
wat een passende aanpak is voor de jongere. Dat geldt ook voor de Preselect Recidive,
waarbij de ketenpartners de inschatting van het recidiverisico door Preselect Recidive
secuur afwegen tegen andere beschikbare informatie. In afwachting van de aanpassing
van het taxatie-instrument houden de ketenpartners rekening met de bij voorwaarde
b. aangeven aandachtspunten bij de doorontwikkeling. Hiervoor krijgen zij nog een
aanvullende werkinstructie.

d. De selectie als risico heeft niet automatisch ook andere aanmerkelijke gevolgen.

In de handleiding van de Preselect Recidive (onderdeel van de Handleiding LIJ) staat
beschreven op welke manier de uitkomst van de Preselect Recidive toegepast mag worden,
namelijk voor de afweging of verdere risicotaxatie voor de jongere noodzakelijk is.
Mij is bekend dat er in het verleden op lokaal niveau gebruik is gemaakt van de uitkomsten
van de Preselect Recidive op een andere wijze dan waarvoor de Preselect Recidive bedoeld
is. Met de politie is besproken wat de kaders zijn voor toepassing van de Preselect
Recidive. Door politie zijn maatregelen genomen om dergelijk gebruik buiten de kaders
te stoppen. Ook voor het herziene instrument wordt in de werkinstructie expliciet
opgenomen waarvoor de uitkomst van de Preselect Recidive gebruikt mag worden en waarvoor
niet.

e. De risicoselectie is voldoende kenbaar voor betrokkene.

Voor het huidige instrument wordt de uitkomst van de Preselect Recidive, de inschatting
van het recidiverisico, kenbaar gemaakt aan een deel van de jongeren. Dit is enige
tijd na besluitvorming op het afstemmingsoverleg ZSM. Jongeren voor wie de Raad voor
de Kinderbescherming geen onderzoek doet of jongeren met een Halt-afdoening worden
niet geïnformeerd. Bij deze jongeren wordt de uitkomst van de Preselect Recidive ook
verder niet gebruikt. Bij de start van de doorontwikkeling van de Preselect Recidive
is geconstateerd dat alle jeugdige verdachten geïnformeerd moeten worden over de uitkomst
van de Preselect Recidive. Dit moet bovendien tijdig plaatsvinden, rondom de besluitvorming
in het afstemmingsoverleg ZSM. Met de implementatie van de herziene Preselect Recidive
wordt dit in 2025 opgepakt. Verder wordt de Preselect Recidive in de loop van 2025
opgenomen in het Algoritme Register, zodat voor betrokkenen het model ook raadpleegbaar
is.

Hieruit concludeer ik dat de Preselect Recidive op dit moment grotendeels voldoet
aan de vijf voorwaarden die de AP noemt, maar ook dat er verbeterpunten zijn. Deze
punten worden meegenomen in de aanpassing van de Preselect Recidive.

Vervolg

Als onderdeel van de bestaande kwaliteitscyclus van het LIJ en ook in het licht van
het artikel van Follow the Money heb ik nogmaals met de betrokken ketenpartners (politie, Openbaar Ministerie, Raad
voor de Kinderbescherming en Halt) besproken of de huidige versie van het instrument
op een verantwoorde wijze gebruikt kan blijven worden tot uiterlijk eind 2025 de nieuwe
versie beschikbaar is. Hierover heb ik ook advies ingewonnen bij de eerdergenoemde
onafhankelijke toetsingscommissie LIJ.

De ketenpartners herkennen de noodzaak om de Preselect Recidive aan te passen, maar
onderstrepen tegelijkertijd de meerwaarde van dit instrument voor het ZSM-overleg.
Gezien deze meerwaarde, en omdat er al wordt gewerkt aan een nieuwe versie, is de
mening van de ketenpartners dat het gebruik van de huidige Preselect Recidive kan
doorlopen tot aan implementatie van het nieuwe instrument later dit jaar. Ook de toetsingscommissie
LIJ adviseert dit. Daarbij wordt aangegeven dat het huidige instrument een betere
voorspelling geeft van het recidiverisico dan uitsluitend een inschatting van een
professional zonder het instrument. Daarbij wijst de toetsingscommissie op het risico
van tunnelvisie wanneer de Preselect Recidive niet wordt gebruikt, waarmee de rechtsgelijkheid
in het geding komt.18 Dit risico wordt ook door diverse ketenpartners genoemd.

Gezien de meerwaarde van de Preselect Recidive voor de praktijk door onder meer het
vergroten van de rechtsgelijkheid en de voorgenomen aanpassingen aan het instrument,
onder andere in het licht van de AP-voorwaarden, kom ik tot de conclusie dat het belangrijk
is de Preselect Recidive te blijven gebruiken. Daarbij wordt de uitkomst van de Preselect
Recidive door de ketenpartners in het afstemmingsoverleg ZSM steeds secuur afgewogen
tegen andere informatie over de jongere en is er altijd sprake van een betekenisvolle
menselijke tussenkomst. Als extra maatregel wordt voor dit overleg met op korte termijn
een aanvullende werkinstructie gemaakt voor de toepassing van dit instrument.

Over de voortgang van de doorontwikkeling van de Preselect Recidive zal ik de Kamer
in de tweede helft van 2025 informeren.

De Staatssecretaris van Justitie en Veiligheid, T.H.D. Struycken