Antwoord schriftelijke vragen : Antwoord op vragen van de leden Leijten, Kwint en Van Nispen over de inzet van voorspellende algoritmes met betrekking tot kinderen

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid), mede namens de Minister
voor Rechtsbescherming en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties
(ontvangen 23 december 2022). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023,
nr. 939.

Vraag 1

Klopt het dat de politie gebruik wil blijven maken van voorspellende algoritmes die
betrekking hebben op kinderen, het zogenaamde ProKid Plus, waarbij met behulp van
algoritmes wordt ingeschat hoe groot de kans is dat een kind een geweldsdelict pleegt?1

Antwoord 1

Nee, de politie maakt geen gebruik meer van het algoritme ProKid Plus. Voor en na
het eenmalige gebruik in juli 2016 is het algoritme ProKid Plus niet gebruikt door
de politie. Het algoritme is ook niet doorontwikkeld.

Bij de politie is gestart met de ontwikkeling van een nieuw alerteringssysteem met
een heel ander algoritme, ProKid 23-, dat gericht zal zijn op het versterken van de informatiepositie over jongeren tot
23 jaar die mogelijk (verder) afglijden naar criminaliteit. Doel is dat dit zal kunnen
bijdragen aan de signalerende taak van de politie. Het alerteringssysteem is nog niet
gebouwd. De politie heeft aangegeven dat de politie vanuit strikte juridische en ethische
kaders zal bekijken óf en hoe dit alerteringssysteem ingezet kan worden. Besluitvorming
hierover heeft nog niet plaatsgevonden en is niet aan de orde op korte termijn.

Een dergelijk algoritme zal wanneer deze eventueel in gebruik wordt genomen – gezien
het feit dat er naar aanleiding van de uitkomsten daarvan mogelijk interventies plaatsvinden
– worden opgenomen in het algoritmeregister van de politie.

Ten slotte is het goed om te vermelden dat er ook een risicotaxatie instrument ProKid
12- is geweest. Dit risicotaxatie instrument was onderwerp van het WODC-onderzoek
waarnaar verwezen wordt in vraag 10. Dit risicotaxatie instrument is nooit voor de
Top400 aanpak gebruikt. De politie geeft aan dat ook dit instrument niet meer in gebruik
is.

Vraag 2

Door welke instanties wordt dit algoritme gebruikt?

Antwoord 2

De gemeente Amsterdam en de politie hebben bij mij aangegeven dat het algoritme van
het risicotaxatie instrument ProKid Plus niet in gebruik is.

De gemeente Amsterdam heeft bij mij aangegeven dat ProKid Plus eenmalig als proef
is gebruikt in juli 2016 bij de instroom in de Top400-aanpak. In een recente brief
d.d. 17 november 2022 over «Recente media-aandacht voor de Top400-aanpak» van burgemeester
Halsema van Amsterdam aan de gemeenteraad van Amsterdam gaat zij in op deze proef.2

In de brief is onder andere vermeld dat destijds eenmalig een proef is gedaan om instroom
in de Top400-aanpak te laten plaatsvinden op basis van het wetenschappelijk gevalideerde
risicotaxatie instrument ProKid Plus, dat ontwikkeld is door de politie.3, 4 Wel is toen bepaald dat een persoon behalve door ProKid Plus ook minimaal een keer
als verdachte moest zijn aangehouden. Personen die alleen getuige of slachtoffer van
een delict waren, kwamen dus ook toen niet in de Top400-aanpak.5 Bovendien vond voor instroom bij alle personen een handmatige controle plaats of
het logisch of proportioneel was dat iemand zou instromen in de Top400-aanpak.

Na deze proef is besloten om niet met ProKid Plus verder te gaan, omdat – hoewel ProKid
Plus wetenschappelijk gevalideerd is – bleek dat de complexe weging van verschillende
risicofactoren vrij technisch is en daarmee moeilijk navolgbaar voor betrokkenen.
Dit was het signaal vanuit de jongeren en hun ouders en dit is door de gemeente Amsterdam
serieus genomen. Dat maakt dat de gemeente gestopt is met het gebruik van ProKid Plus,
zo heeft de gemeente bij mij aangegeven.

Vraag 3

Wie houdt er toezicht op het gebruik van dit algoritme en hoe gebeurt dit?

Antwoord 3

Zoals aangegeven in het antwoord op vraag 1 is het ProKid Plus risicotaxatie instrument
eenmalig gebruikt en niet meer in gebruik.

De politie zal vanuit strikte juridische en ethische kaders bekijken of en hoe het
nog te bouwen nieuwe alerteringssysteem ProKid 23- ingezet kan worden. In de beantwoording
van vraag 5 wordt verder ingegaan op die kaders.

In algemene zin is er zeker sprake van toezicht op algoritmen. Dat gebeurt in eerste
instantie intern en vervolgens extern door sectorale toezichthouders. Voor de politie
geldt dat toezicht op algoritmen wordt vormgegeven door het toezicht op de taakuitvoering
door de Inspectie van Justitie en Veiligheid, toezicht op verwerking van persoonsgegevens
door de Autoriteit Persoonsgegevens en toezicht op de doelmatigheid van de taakuitvoering
door de Algemene Rekenkamer.

Het kabinet versterkt daarnaast het gehele toezichtslandschap vanaf 2023 door het
aanstellen van een algoritmetoezichthouder bij de Autoriteit Persoonsgegevens (AP).
Uitgangspunt is dat het bestaande toezichtslandschap intact blijft. De algoritmetoezichthouder
richt zich in eerste instantie op delen van sector-overstijgende kennis en expertise,
het komen tot gezamenlijke normuitleg en het versterken van samenwerking tussen toezichthouders
op het gebied van algoritmen en artificiële intelligentie (AI). U bent inmiddels recent
geïnformeerd over de inrichting, doelen en activiteiten van de algoritmetoezichthouder.

Vraag 4

Kunt u openbaar maken op basis van welke data en welke parameters dit algoritme wordt
ingezet? Zo nee, waarom niet?

Antwoord 4

Zoals aangegeven in het antwoord op vraag 1 is ProKid Plus eenmalig gebruikt en niet
meer in gebruik.

ProKid Plus was, zoals aangegeven bij het antwoord op vraag 2, een door de politie
ontwikkeld en wetenschappelijk gevalideerd risicotaxatie instrument dat op basis van
informatie uit de bronsystemen van de politie (zoals delict, rol en leeftijd) inschatte
welke jongeren doorgroeien in de (zware) criminaliteit.6, 7

In het in noot 2 vermelde wetenschappelijke rapport zijn (in bijlage 2) de gebruikte
variabelen vermeld.

Vraag 5

Vindt u het wenselijk als er op basis van een voorspellend algoritme preventieve bestuursrechtelijke
maatregelen genomen worden, die rechtstreekse gevolgen hebben voor deze kinderen en
hun families? Kunt u uw antwoord uitgebreid toelichten?

Antwoord 5

Ik lees deze vraag vanuit het belang van de preventieve aanpak van (georganiseerde
en ondermijnende) criminaliteit en de actuele zorg over bepaalde jongeren in een kwetsbare
situatie. Het kabinet zet stevig in om samen met diverse betrokken partners, zoals
de gemeenten en de politie, in een brede domeinoverstijgende preventieve aanpak te
voorkomen dat kinderen, jongeren en jongvolwassenen in de leeftijd van 8 tot en met
27 jaar in aanraking komen met criminaliteit of daarin verder doorgroeien. Het gaat
hierbij ook om het bieden van begeleiding, hulp en perspectief met kansrijke en effectieve
interventies in soms heftige en schrijnende situaties.

Onderzoek van onder andere het WODC laat immers zien dat crimineel gedrag op jonge
leeftijd een belangrijke voorspeller is voor een langdurige en ernstige criminele
carrière. Daders die een overval, straatroof of woninginbraak plegen als hun debuutdelict
en daarbij minderjarig zijn hebben de grootste kans om uit te groeien tot een veelpleger.8, 9 Het lijkt dan ook belangrijk om vroegtijdig in te grijpen, zo geven de onderzoekers
aan.10 Ook andere risicofactoren die zich in de kindertijd opstapelen (zoals gezinsproblematiek,
middelengebruik en agressief gedrag), zo vermeldt de burgemeester van Amsterdam in
haar brief, vergroten de kans op crimineel gedrag.

Dit benadrukt het belang van vroeg signaleren en ingrijpen, waarbij onder andere het
bieden van een combinatie van zorg en veiligheid, inclusief waar nodig een stok achter
de deur, voor jongeren en hun gezinnen de insteek is. Daarbij worden verschillende
kansrijke en effectieve interventies (door)ontwikkeld en ingezet. Het gebruik van
ProKid Plus paste destijds in de gemeente Amsterdam binnen de aanpak van vroeg signaleren
en ingrijpen en stond niet op zichzelf, zo is ook vermeld in de brief van de burgemeester
van Amsterdam.

De burgemeester van Amsterdam heeft in de vergadering van de Raadscommissie Algemene
Zaken van 15 december jl. hard afstand genomen van ProKid Plus en aangegeven dat ze
geen enkel plan heeft in de richting van enig gebruik van ProKid Plus of een ander
algoritme als selectiecriterium voor de instroom.

De ervaringen met ProKid Plus onderstrepen het belang van goede waarborgen voor het
gebruik van algoritmen, waar de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties
in samenwerking met de Minister voor Rechtsbescherming extra aandacht voor heeft.
Ik verwijs u in dat kader naar (onder andere) de werkagenda Digitalisering voor specifieke
ambities op dat vlak.11 Kort gezegd is het uitgangspunt dat de inzet van algoritmische systemen met mogelijke
rechtsgevolgen die niet uitlegbaar zijn niet ingezet worden en dus niet wenselijk
zijn. Zoals al aangegeven in het antwoord op vraag 3 vindt de inzet van algoritmen
met mogelijke rechtsgevolgen niet plaats in een juridisch vacuüm. Onder andere in
de kabinetsreacties op drie algoritmeonderzoeken12. De nieuwe systeemtechnologie» is hier eerder (ook) op in gegaan.13

In deze brieven wordt toegelicht dat er een kader is dat algoritmische besluitvorming
reguleert: de Grondwet en de fundamentele mensenrechten vereisen dat een inbreuk op
een recht alleen is toegelaten indien deze wettelijk is geregeld en noodzakelijk en
proportioneel is. Domein-specifieke wetgeving reguleert de bevoegdheid waaruit besluitvorming
volgt; het bestuursprocesrecht stelt regels aan besluitvorming, zoals de motivering
ervan en hoor en wederhoor. De privacy- en gegevensbeschermingswetgeving (waaronder
de Algemene Verordening Gegevensbescherming (AVG)/Wet politiegegevens (Wpg)) stelt
regels aan het gebruik van persoonsgegevens en geautomatiseerde besluitvorming met
behulp van persoonsgegevens. Het non-discriminatierecht verbiedt het maken van een
(ongerechtvaardigd) onderscheid tussen mensen. Het moet vanzelfsprekend zijn dat de
overheid volgens deze juridische kaders werkt, ook bij het gebruik van algoritmen.
In elke fase van de levenscyclus van algoritmische besluitvormingssystemen (ontwerpen,
bouwen, testen, gebruiken en monitoren) moet aandacht zijn voor de risico’s voor mensenrechten.

Om deze wettelijke verplichtingen handvatten te geven en overheidsorganisaties te
ondersteunen bij de naleving hiervan is een mensenrechtentoets (IAMA: Impact Assessment
Mensenrechten en Algoritmen) en een handreiking non-discriminatie by design ontwikkeld.
Daarnaast wordt er gewerkt aan een implementatiekader voor de inzet van algoritmen
door de overheid en wordt in het kader van transparantie door overheidsorganisaties
gewerkt aan algoritmeregisters waar ten minste hoog risico algoritmen in worden opgenomen.14, 15

Naast de bestaande wettelijke verplichtingen is specifiek voor AI-systemen met een
hoog risico voor mensenrechten, de gezondheid en veiligheid Europese wetgeving (een
AI-verordening) in voorbereiding die met name de ontwikkelingsfase van deze systemen
verder reguleert. Deze conceptwetgeving is in belangrijke mate van toepassing op algoritmische
besluitvormingssystemen bij de overheid. Deze concept verordening verbiedt een aantal
AI-toepassingen die onaanvaardbare risico’s voor onder meer mensenrechten met zich
meebrengt. Voor AI-systemen met een hoog risico is voorzien in een set eisen aan de
ontwikkeling en ingebruikname van deze systemen waaraan aantoonbaar moet worden voldaan
(waarin mensenrechten worden meegenomen).

In het kader van rechtsbescherming bij de inzet van algoritmen is naar aanleiding
van de inzet van Nederland in dat verband een klachtrecht opgenomen in de Raadstekst
van de AI-verordening. Met deze extra rechtsingang kunnen burgers en consumenten een
klacht indienen bij de toezichthouder wanneer zij vermoeden dat een gebruikt AI-systeem
niet aan de eisen van de verordening voldoet.

Naast de EU werkt ook de Raad van Europa (RvE) aan een juridisch raamwerk voor AI
in de vorm van een verdrag, specifiek om mensenrechten en de democratische rechtsstaat
te beschermen. Het voorstel van de RvE bevat fundamentele principes en regels die
ervoor moeten zorgen dat het ontwerp, de ontwikkeling en de toepassing van AI-systemen
in overeenstemming zijn met de eerbiediging van de mensenrechten, het functioneren
van de democratie en de bescherming van de rechtsstaat. Hoewel er in nationaal en
Europees verband het nodige loopt op het wetgevende terrein, blijft het kabinet alert
op de toekomstbestendigheid én naleving van de juridische kaders in relatie tot algoritmen.

In het antwoord op vraag 8 wordt nader ingegaan op de benodigde rechtsbescherming
en de waarborgen die daarmee samenhangen.

Vraag 6

Zijn jeugdigen die uit dit algoritme komen vaker onderwerp van onderzoek van de politie
en bijvoorbeeld staande houdingen? Worden de profielen gebruikt in het toezicht op
straat?16

Antwoord 6

Zoals aangegeven in het antwoord op vraag 1, is het risicotaxatie instrument ProKid
Plus niet meer in gebruik. De gemeente Amsterdam en de politie hebben mij laten weten
dat het antwoord op deze vraag «Nee» is. Er is geen ander gebruik gemaakt door de
politie van dit algoritme.

Zie ten aanzien van de waarborgen en de werkwijze ook de beantwoording van de vragen
5, 7 en 8.

Vraag 7

Welke inzet van jeugdzorg volgt op basis van het voorkomen in de top400? Kunt u aangeven
of deze zorg vrijwillig of onder dwang wordt ingezet?

Antwoord 7

In de voornoemde brief van de burgemeester van Amsterdam staat dat de Top400 integrale
en persoonsgerichte regie biedt aan jongeren van 12 tot en met 23 jaar die meermaals
door de politie zijn aangehouden als verdachte van een misdrijf (minstens een van
die aanhoudingen moet zijn geweest voor een high impact crime-delict17 en bij wie bovendien meerdere zorgelijke signalen zichtbaar zijn

).18, 19, 20 Over deze jongeren bestaat vanuit zorg, sociaal domein en veiligheid de vrees dat
zij zonder ingrijpen verder afglijden in de criminaliteit. Een persoon stroomt in
op basis van vaste en objectieve criteria. Tevens worden in voornoemde brief de partners
uit de werelden van veiligheid, zorg en sociaal domein genoemd. De Top400 heeft drie
doelstellingen: 1) het terugdringen van recidive (vooral van high impact crime delicten,
zoals straatroven, inbraken en overvallen) en daarmee het beschermen van de samenleving,
2) het verbeteren van het toekomstperspectief van de betreffende jongere en 3) het
voorkomen van afglijden van minderjarige broertjes en zusjes in de criminaliteit.
Binnen de aanpak is veel aandacht voor begeleiding (terug) naar school/opleiding,
hulp bij schulden, het vinden van werk of passende dagbesteding en behandeling voor
psychiatrische problematiek (trauma, verslaving en dergelijke) of andere (laagdrempelige)
hulpverlening.

Samenvattend is de aanpak Top400 een gecoördineerde inzet van gemeente, politie, justitie
en andere (zorg)instanties om crimineel gedrag terug te dringen en meer perspectief
te bieden. Deze gecoördineerde inzet vindt plaats op grond van de eigen regels en
bevoegdheden van de betrokken partijen. Iedere partner heeft zijn of haar eigen opdracht
en beroepsethiek en werkt vanuit de eigen (wettelijke) kaders. Dit geldt ook voor
jeugdzorg. Dit laatste kan zowel in het vrijwillig als het gedwongen kader, afhankelijk
van de betreffende situatie.

Vraag 8

Vindt u dat er voldoende rechtsbescherming is voor de kinderen en hun families die
op basis van het ProKid Plus algoritme in een bestuurlijk programma worden geplaatst?
Kunt u uw antwoord toelichten?

Antwoord 8

Zoals gezegd bij het antwoord op vraag 5 heeft rechtsbescherming bij de inzet van
algoritmen de bijzondere aandacht van het kabinet. In algemene zin is het de verantwoordelijkheid
van de diverse betrokken overheden en uitvoeringsorganisaties om de rechtsbescherming
voor kinderen en hun families te waarborgen binnen de geldende wettelijke kaders.

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid
Plus eenmalig ingezet en niet meer operationeel. Plaatsing op de lijst Top400 is geen
juridische sanctie of maatregel. Zie ook het antwoord op vraag 7.

De gemeente Amsterdam heeft bij mij aanvullend het volgende aangegeven. De instroom
in de Top400-aanpak op basis van de Top400-criteria is geen besluit in de zin van
de Awb.21 Er staat dan ook er geen bezwaar of beroep open tegen de plaatsing op de lijst Top400
of Top600. Binnen de aanpak worden persoonsgegevens uitgewisseld tussen partijen voor
het bereiken van de doelen van de aanpakken. Alle personen over wie persoonsgegevens
worden verwerkt, hebben rechten op grond van de AVG, waaronder het recht om te verzoeken
tot het wissen van persoonsgegevens. Personen die in de aanpak zijn opgenomen worden
gewezen op deze rechten door middel van een AVG-bijlage bij de notificatiebrief die
ze bij het moment van instroom in de aanpak persoonlijk uitgereikt krijgen.22

Wanneer een dergelijk verzoek tot verwijdering van persoonsgegevens binnenkomt wordt
het verzoek beoordeeld en neemt, in het geval van de Top600 en de Top400 en de andere
integraal persoonsgerichte aanpakken van het regionale Actiecentrum Veiligheid en
Zorg (AcVZ), de burgemeester een besluit op dit verzoek. Indien het verzoek tot het
wissen van persoonsgegevens wordt afgewezen, kan de betrokkene een bezwaarprocedure
starten. Dit is sinds de start van de Top600 en Top400 een aantal keer voorgekomen.
Tot nu toe is geen enkel bezwaar op een afgewezen verzoek tot verwijdering gegrond
verklaard.

Vraag 9

Wordt het gezinnen en kinderen vermeld dat zij door het algoritme zijn opgenomen in
de top400? Zo nee, waarom niet? Zo ja, is dan ook bekend op basis van welke gegevens
de jeugdigen zijn opgenomen zodat zij de kans hebben of krijgen om zich te verdedigen
tegen de verdenking dat ze potentieel crimineel zijn of worden? Kunt u uw antwoord
toelichten?

Antwoord 9

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid
Plus eenmalig gebruikt in juli 2016 en niet meer operationeel.

De gemeente Amsterdam heeft bij mij aangegeven, dat – indien personen instromen in
de Aanpak Top400 – zij en hun ouders/verzorgers (van minderjarigen) hierover worden
geïnformeerd. Zij kunnen via direct contact met de regisseur en individuele periodieke
uitvoeringsoverleggen hun visie delen over het plan van aanpak en de uitvoering hiervan.
Ook worden ouderbijeenkomsten georganiseerd met als doel ouders van jongeren in de
aanpak zo goed mogelijk te informeren, te betrekken en hun ervaringen te horen.

Broertjes en zusjes (of minderjarige kinderen van personen in de aanpak) komen alleen
op de lijst Top400/Top600 als zij zelf aan de criteria voldoen.

In voornoemde brief van de burgemeester van Amsterdam wordt aangegeven dat de aanpak
verder zal worden verbeterd op het vlak van het structureel beter betrekken van ouders
en het goed uitleggen hoe de aanpak werkt.

Verder verwijs ik naar voornoemde brief van de burgemeester van Amsterdam.

Vraag 10

Kunt u aangeven wat er is gedaan met de aanbevelingen van het WODC, dat in 2011 stelde
dat bij de pilot geen van de politiekorpsen een goed functionerend ProKid Plus programma
had?23

Antwoord 10

Het onderzoek waar in de vraagstelling naar wordt verwezen betreft een ander instrument,
namelijk het instrument ProKid 12-. ProKid 12- is in 2019 uitgefaseerd en is niet
meer in gebruik.

Vraag 11

Kunt u aangeven welke andere onderzoeken zijn gedaan en wat daar de conclusie van
was met betrekking tot het ProKid Plus algoritme? Zo nee, waarom niet?

Antwoord 11

Zie het antwoord op vraag 1, waarin is aangegeven dat het risicotaxatie instrument
ProKid Plus door wetenschappelijk onderzoek is gevalideerd. Dat onderzoek gaat over
de predictieve validiteit (de betrouwbaarheid van de voorspellende waarde) van het
vroegsignaleringsinstrument ProKid Plus.24 De samenvattende conclusie van dat onderzoek was dat de resultaten een overtuigend
bewijs leveren voor de predictieve validiteit van ProKid Plus.

Er is in de digitale archieven van het Ministerie van Justitie en Veiligheid en ook
in openbare bronnen gezocht naar onderzoeken ten aanzien van ProKid Plus op de zoektermen
ProKid, Pro Kid, Top400 en Top 400.25 Op basis daarvan zijn geen andere onderzoeken aangetroffen die betrekking hebben
op Pro Kid Plus.

Vraag 12

Heeft u adviezen en annotaties gekregen als het gaat om de ontwikkeling van het ProKid
Plus algoritme? Zo ja, kunt u deze delen met de Kamer?

Antwoord 12

Er is in de digitale archieven op het Ministerie van Justitie en Veiligheid gezocht
naar adviezen of annotaties ten aanzien van de ontwikkeling van ProKid Plus op de
zoektermen ProKid, Pro Kid, Top400 en Top 400.26 Er zijn geen adviezen of annotaties of andere documenten gericht aan bewindspersonen
aangetroffen.

Vraag 13

Zijn er privacy-impactanalyses of analyses over bescherming persoonsgegevens gemaakt
over/van ProKid? Kunt u deze delen met de Kamer?

Antwoord 13

Ten tijde van het eenmalig gebruik van ProKid Plus schreef de Wpg nog niet voor dat
er een privacy-impactanalyse moest worden gemaakt.

Van de in de beantwoording in vraag 1 genoemde ProKid 23- is nog geen privacy-impactanalyse
gemaakt, omdat deze nog in ontwikkeling is. Een dergelijke impact-analyse (gegevensbeschermingeffectbeoordeling)
zal wel onderdeel uitmaken van de genoemde beoordeling binnen strikte juridische en
ethische kaders óf en hoe dit alerteringssysteem ingezet kan worden.

Vraag 14

In hoeverre wordt het ProKid Plus algoritme gebruikt om tot kostenbesparingen te komen
op bijvoorbeeld jeugdzorg? Bent u het met ons eens dat het belang van het kind hierin
voorop zou moeten staan en niet de economische effecten? Kunt u antwoord toelichten?27

Antwoord 14

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid
Plus niet meer in gebruik. De reden voor het (eenmalige) gebruik van het instrument
was niet om tot kostenbesparingen te komen, ook niet in de jeugdzorg. Het algoritme
is ontwikkeld om de signalering vanuit de politie te verbeteren.

Ik ben het met u eens dat bij de toepassing van instrumenten het belang van het kind
voorop moet staan.

Vraag 15

Vindt u het wenselijk dat jeugdigen op basis van algoritmen in de top400 zijn geplaatst
zonder dat zij strafbare feiten hebben gepleegd, maar simpelweg vanwege de politieke
wens een top400 te hebben? Kunt u uw antwoord toelichten?

Antwoord 15

De gemeente Amsterdam heeft aangegeven dat de wijze waarop de vraag is verwoord niet
wordt herkend, daar waar het gaat over dat plaatsing in de Top400 simpelweg zou gebeuren
vanwege een politieke wens om een Top400 te hebben. Ik zou een dergelijke insteek
ook niet wenselijk vinden.

In voornoemde brief van de burgemeester van Amsterdam wordt ten aanzien van de Top400
onder meer aangegeven dat het halen van een bepaald aantal niet het doel is en dat
de Top400 nooit volledig gevuld is geweest. In de brief wordt verder ingegaan op de
oorsprong, het doel en de gebruikte criteria van de Top400.

Ik wil nogmaals benadrukken dat – gezien de actuele zorg over de risico’s dat jongeren
in de criminaliteit belanden of daarin verder afglijden – het kabinet stevig inzet
om samen met diverse betrokken partners in een brede domeinoverstijgende preventieve
aanpak te voorkomen dat kinderen, jongeren en jongvolwassenen in de leeftijd van 8
tot en met 27 jaar in aanraking komen met criminaliteit of daarin verder doorgroeien.28, 29

De gemeente Amsterdam heeft bij mij aangegeven dat de Top400-aanpak een voorbeeld
is van vroeg signaleren en ingrijpen. In het antwoord op vraag 7 is de aanpak vrij
uitgebreid beschreven. De gemeente Amsterdam gebruikt hierbij geen algoritmische selectieprogramma’s
(zoals ProKid Plus). De Top400 maakt gebruik van cumulatieve criteria waarin aanhoudingen
en zorgsignalen bij elkaar worden opgeteld.

Zie ook het antwoord op de vragen 5 en 8, waar het onder andere gaat over waarborgen
die daar genoemd worden voordat een algoritme in een dergelijk geval gebruikt wordt.

Vraag 16

Met wie worden de profielen en gegevens die door ProKid Plus zijn gemaakt/gegenereerd
gedeeld en op welke wijze wordt gegarandeerd dat jeugdigen en hun families niet nodeloos
worden achtervolgd door de inzet van dit algoritme?

Antwoord 16

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid
Plus eenmalig gebruikt en niet meer in gebruik. De gemeente Amsterdam heeft mij laten
weten dat er geen profielen of gegevens zijn op basis van dat algoritme waarmee wordt
gewerkt.

Daarnaast geeft de gemeente Amsterdam aan dat voor de gemeente en de Top400 geldt
dat zij zorg draagt voor het beperken van risico’s wanneer het gaat om de inbreuk
op de privacy van personen en voor een goede informatiebeveiliging. De gemeente heeft
een privacy team en binnen het samenwerkingsband Actiecentrum Veiligheid en Zorg (AcVZ)
is er een Privacy Expert Groep, met daarin privacy experts van de kernpartijen. Zij
adviseren het AcVZ over vraagstukken rond gegevensdeling. Daarnaast adviseren de Functionaris
Gegevensbescherming van de gemeente Amsterdam en de Commissie Persoonsgegevens Amsterdam
over de gegevensdeling binnen de aanpak, bijvoorbeeld bij het ontwikkelen van een
Data Protection Impact Assessments (DPIA) en het vaststellen van een regeling gegevensverwerking.
De regeling gegevensverwerking van de Top400 wordt zorgvuldig actueel gehouden.30

Regisseurs en andere professionals die werken voor het samenwerkingsverband AcVZ worden
regelmatig getraind in het in de praktijk toepassen van de juridische kaders rondom
gegevensdeling. Ook hebben ze toegang tot privacy-juridisch advies van het privacy
team van de gemeente Amsterdam en, wanneer relevant, de privacy-specialisten binnen
hun moederorganisaties. Het uitwisselen van gegevens stopt na uitstroom uit de Top400.
In het algemene convenant van het AcVZ en de gegevensregeling Top400 wordt ook ingegaan
op de verwijdering van de gegevens.31

Tot slot verwijs ik hierbij naar het antwoord bij vraag 5, waar het gaat over de (wettelijke)
waarborgen die gelden.