Brief regering : Onderzoeksrapport "Juridische aspecten van algoritmen die besluiten nemen"

26 643
Informatie- en communicatietechnologie (ICT)

Nr. 169
BRIEF VAN DE MINISTER VOOR RECHTSBESCHERMING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 26 juni 2020

Het gebruik van algoritmen gaat gepaard met kansen en risico’s. Ontwikkelingen kunnen
snel gaan en een grote schaal aannemen. De vraag of publieke belangen en rechtsstatelijke
waarden in dit verband nog voldoende geborgd zijn (en hoe dit het beste te bereiken),
heeft dan ook de voortdurende aandacht van het Kabinet.1 Deze vraag noopt ook tot vooruitzien. In dit kader doe ik uw Kamer toekomen het onderzoeksrapport
«Juridische aspecten van algoritmen die besluiten nemen. Een verkennend onderzoek».2

Het onderzoek is verricht door het Montaigne Centrum voor Rechtsstaat en Rechtspleging
van de Universiteit Utrecht, in opdracht van het Wetenschappelijk Onderzoek- en Documentatiecentrum
van het Ministerie van Justitie en Veiligheid.

Het rapport doet verslag van een onderzoek naar de toekomstbestendigheid van de juridische
kaders rondom algoritmen die «besluiten nemen». Voor het onderzoek zijn vier casestudy’s
verricht: Contentmoderatie door online platformen (in het bijzonder de aanpak van
hate speech), Zelfrijdende auto’s, De rechtspraak en Overheidsincasso bij verkeersboetes. Er
is gekeken naar huidige toepassingen van algoritmen en naar de ontwikkelingen die
in de komende vijf tot tien jaar te verwachten zijn. Dit steeds in het licht van de
kansen en risico’s voor drie publieke waarden: non-discriminatie, gegevensbescherming
en rechtsbescherming, alsmede voor belangrijke casus-specifieke waarden.

Met de casestudy «Overheidsincasso bij verkeersboetes» is gevolg gegeven aan de toezegging
dat onderdeel van dit onderzoek zal zijn «de vraag (...) welke kansen kunstmatige
intelligentie kan bieden voor een tijdige signalering, vooral in massale besluitvormingsprocessen,
van mensen die door omstandigheden (tijdelijk) mogelijk niet zelfredzaam zijn. Dit
zou kunnen helpen om gevallen (tijdiger) te identificeren waar een standaard benadering
niet op zijn plaats is en maatwerk meer voor de hand ligt.».3

Met betrekking tot dit onderzoeksrapport zal in het najaar een kabinetsreactie volgen.

De Minister voor Rechtsbescherming,
S. Dekker