Lijst van vragen : Lijst van vragen over de kabinetsreactie op drietal onderzoeken naar algoritmen

De vaste commissie voor Binnenlandse Zaken heeft een aantal vragen voorgelegd aan
de Minister voor Rechtsbescherming over de brief van 20 november 2020 van de Minister
voor Rechtsbescherming e.a., houdende de Kabinetsreactie op een drietal onderzoeken
naar algoritmen (2020Z22397).

De voorzitter van de commissie, Ziengs

De adjunct-griffier van de commissie, Hendrickx

Nr

Vraag

1

Wat is de definitie van algoritme?

2

Kan een voorbeeld worden gegeven van de manier waarop een onvolledig of verkeerd begrip
van de probleemruimte leidt tot ongewenste gevolgen?

3

Is het beperken van zelflerende algoritmen een goede manier om onvoorziene en ongewenste
gevolgen te voorkomen of te verminderen?

4

Is consumentenbescherming het belangrijkste spoor om eventuele negatieve effecten
van algoritmen tegen te gaan en welke andere belangrijke sporen zijn er om dit te
doen?

5

In hoeverre zou verplichte transparantie over de inzet en constructie van algoritmische
modellen, inclusief de gebruikte trainingsdata, een manier kunnen zijn om ongewenste
effecten tegen te gaan?

6

Wil het kabinet de ongewenste effecten van algoritmen die worden gebruikt door bedrijven
vooral tegengaan op basis van vrijwillige gedragscodes of ook met wet- en regelgeving
om transparantie af te dwingen?

7

Wat zijn nu concreet de algemene juridische kaders op het gebied van de waarden non-discriminatie,
gegevensbescherming en rechtsbescherming?

8

Wat wordt bedoeld met «het inzetten op nadere normering van algoritmen via de richtlijnen
voor data-analyse door overheden»? Waar wordt aan gedacht bij die nadere normering?
Is dit een actie in EU-verband? Wat zijn de gevolgen voor de Nederlandse wet- en regelgeving?

9

Zijn er voorbeelden van technische ontwerpprincipes om risico’s op discriminatie door
AI-systemen al in de ontwikkelfase te mitigeren?

10

Kan nader worden ingegaan op het begrip adequaat in de context van menselijke tussenkomst
bij geautomatiseerde besluitvorming? Wanneer is die tussenkomst adequaat?

11

Wat wordt precies verstaan door de zinsnede «waaraan voor hem rechtsgevolgen zijn
verbonden of dat hem anderszins in aanmerkelijke mate treft»? Valt bijvoorbeeld online
contentverwijdering hier ook onder?

12

Is het waar dat de AVG zelf ook al uitzonderingen bevat op het verwerken van bijzondere
persoonsgegevens? Waarom zijn deze volgens het kabinet niet voldoende?

13

In hoeverre geldt het anonimiseren van persoonsgegevens zelf als een verwerking van
persoonsgegevens?

14

In hoeverre leidt de anonimisering van persoonsgegevens, die worden gebruikt voor
het ontwerp van een algoritme, tot een lagere kans op onvoorziene of ongewenste effecten?
Kan een algoritme gebaseerd op geanonimiseerde persoonsgegevens niet net zo goed onvoorziene
of ongewenste effecten hebben?

15

Hoe is het mogelijk dat etniciteit toch als factor mag worden gebruikt in algortimen
nu volgens art. 9 AVG het verwerken van bijzondere persoonsgegevens (zoals bijvoorbeeld
betreffende iemands etnische afkomst, politieke opvattingen of religieuze overtuiging)
in beginsel verboden is?

16

Om welke «bepaalde normen van zorgvuldigheid en transparantie» gaat het hier?

17

Wat wordt bedoeld met de zin waarin wordt gesteld dat het evident is dat het verbod
op geautomatiseerde besluitvorming prevaleert, in die gevallen waarin menselijke tussenkomst
niet adequaat is? Wanneer wordt die menselijke tussenkomst niet adequaat geacht?

18

Wat zijn in hoofdlijnen de voornemens van de regering als het gaat om de juridische
kaders rondom algoritmen? Aan het opstellen van welke wet- en regelgeving wordt gedacht?
Welk tijdpad hoort daarbij?