Schriftelijke vragen : Het bericht dat algoritmes van de gemeente Rotterdam kunnen leiden tot vooringenomen uitkomsten

Vraag 1

Heeft u kennis genomen van de berichten «Algoritmes gemeente Rotterdam kunnen leiden tot «vooringenomen uitkomsten»»1 en «Harde kritiek op algoritmes voor opsporing van bijstandsfraude?»2

Vraag 2

Wat is uw reactie op het rapport «Gekleurde technologie» van de Rekenkamer Rotterdam?

Vraag 3

Is het waar dat de gemeente Rotterdam in het kader van het project «Analytics Uitkeringsfraude»
gebruik maakt van algoritmes die op eigen houtje zoeken naar kenmerken van fraudeurs?
Is er daarmee sprake van de inzet van zelflerende algoritmes?

Vraag 4

Deelt u de conclusie dat dit kan leiden tot vooringenomenheid omdat het model, via
een omweg langs andere variabelen zoals laaggeletterdheid, ook etnische achtergrond
mee kan nemen en sommige mensen als gevolg daarvan een grotere kans hebben te worden
onderworpen aan controles? Zo nee, waarom niet? Zo ja, wat vindt u hiervan?

Vraag 5

Wat onderneemt u, in navolging van de motie-Klaver c.s., om te verzekeren dat zelflerende
algoritmes die worden gebruikt door de overheid geen gevoelige variabelen zoals nationaliteit
of etniciteit hanteren, direct of indirect?3

Vraag 6

Deelt u de bevinding van de Rekenkamer Rotterdam dat bijstandsontvangers onmogelijk
kunnen weten waarom het algoritme hen aanmerkt voor nadere controle? Zo nee, waarom
niet? Zo ja, in hoeverre is dat verenigbaar met de privacywetgeving die stelt dat
burgers het recht hebben om inzicht te krijgen in de achtergrond van belangrijke beslissingen?
Kunt u het antwoord juridisch onderbouwen met verwijzing naar de relevante wet- en
regelgeving?

Vraag 7

Hoe verhoudt het gebruik van algoritmes binnen het project «Analytics Uitkeringsfraude»
zich tot de rechterlijke uitspraak van 5 februari 2020 die het gebruik van het fraude-opsporingssysteem
SyRI verbiedt?

Vraag 8

Wat vindt u ervan dat het project «analytics uitkeringsfraude» al vier jaar bestaat,
in toenemende mate wordt gebruikt om uitkeringsgerechtigden te selecteren voor controles,
maar nog altijd de status van een pilot heeft?

Vraag 9

Bent u bereid, op basis van het rapport van de Rekenkamer Rotterdam, deze uitgerekte
pilot met onmiddellijke ingang stop te laten zetten? Zo nee, waarom niet?

Vraag 10

Hoe is het mogelijk dat er algoritmes worden ingezet zonder dat de betrokken ambtenaren,
volgens de Rekenkamer Rotterdam, ook maar beseffen dat daar ethische risico’s aan
zijn verbonden?

Vraag 11

Deelt u de mening dat de verantwoorde inzet van algoritmes onmogelijk is zonder besef
van de risico’s? Zo nee, waarom niet? Zo ja, wat onderneemt u om bewustwording en
kennis onder rijksambtenaren en medeoverheden op dit vlak te vergroten?

Vraag 12

Wat vindt u ervan dat de gemeente Rotterdam nog geen overzicht heeft van de algoritmes
die de gemeente zelf gebruikt? Wat onderneemt u om een overzicht te krijgen van alle
overheidsalgoritmes? Bent u bijvoorbeeld bereid om er bij medeoverheden op aan te
dringen dat zij ieder een centrale regisseur en eindverantwoordelijke benoemen voor
het gebruik van algoritmes?

Vraag 13

Hoe staat het met de uitvoering van de motie-Klaver c.s. die de regering verzoekt
om een algoritmeregister op te zetten zodat iedereen, ook experts van buiten, toezicht
kan houden op mogelijk discriminerende algoritmes? Kunt u een nauwkeurig tijdpad geven
van de uitvoering van deze motie?

Vraag 14

In hoeverre denkt u dat de door de Rekenkamer geconstateerde problemen rond het gebruik
van algoritmes in Rotterdam ook spelen in andere gemeenten? Hoe houdt u daar zicht
op?

Vraag 15

Welke instanties houden toezicht op het gebruik van algoritmes bij de rijksoverheid
en medeoverheden? Hoeveel modellen zijn door een toezichthouder getoetst en hoeveel
zijn aangemerkt als problematisch?

Vraag 16

Deelt u de conclusie van de Rekenkamer Rotterdam dat de bestaande AVG-wetgeving niet
toereikend is voor goede borging van de ethiek en kwaliteit van algoritmes? Zo nee,
waarom niet? Zo ja, op welke wijze zou de wetgeving moeten worden aangepast?

Vraag 17

Bent u bereid om de aanbeveling van de Rekenkamer Rotterdam, om voor alle algoritmes
regels, richtlijnen en instructies te formuleren die toezien op transparantie en eerlijkheid
en die voorzien in de systematische beoordeling en evaluatie van in gebruik zijnde
algoritmes, Rijksbreed op te volgen?