Schriftelijke vragen : Het onderzoek naar mogelijk discriminerende algoritmen door DUO

Vraag 1

Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties
een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar
voren komt?1, 2, 3

Vraag 2

Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd,
namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs
studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien
u deze gegevens nu niet hebt?

Vraag 3

Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit
algoritme buiten werking te stellen?

Vraag 4

Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?

Vraag 5

Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister?
Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde
register?

Vraag 6

Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme
gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen
idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme
gevoed? Zit daar ook informatie van het FSV bij?

Vraag 7

Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid
en discriminatoire werking? Zo nee, waarom niet?

Vraag 8

Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol
spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve
kijk op de werking van algoritmen door DUO?

Vraag 9

Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling?
Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?

Vraag 10

Is het gehanteerde algoritme ook gecheckt door de Autoriteit Persoonsgegevens? Zo
niet, waarom niet. Zo ja, wat was hiervan de uitkomst?

Vraag 11

Wie heeft dit algoritme ontwikkeld en hoe zijn de mensenrechten gewaarborgd?

Vraag 12

Is dit algoritme onderzocht in het onderzoek naar aanleiding van de aangenomen motie
van het lid Marijnissen c.s. die ziet op het opsporen en opschonen van vervuilde data?
Zo niet, waarom niet? Zo ja, waarom was er dan onderzoeksjournalistiek voor nodig
om dit op te sporen?4

Vraag 13

Hoe kan het dat DUO claimt continu te evalueren maar dat er in ruim tien jaar geen
letter op papier is gezet over de geleerde lessen?

Vraag 14

Bent u bereid met DUO afspraken te maken over de manier waarop de eigen werkwijze
geëvalueerd wordt?

Vraag 15

Hoe beoordeelt u dat een fraudebestrijdingssysteem dat letterlijk door Minister Plasterk
is vormgegeven naar voorbeeld van de kinderopvang na het toeslagenschandaal niet meteen
grondig tegen het licht gehouden is?

Vraag 16

Deelt u de inschatting dat deze informatie naar boven had moeten komen bij de doorlichting
van onderwijswetgeving op het gebied van hardvochtigheid? En dat daar wel problemen
bij DUO naar voren gekomen zijn, maar niet op dit specifieke punt? Hoe gaat dat in
de toekomst voorkomen worden?

Vraag 17

Waarom worden bij onderzoeken naar vermeende fraude meteen werkgevers geïnformeerd?
Deelt u de mening dat dit een onnodig ontwrichtend effect kan hebben op het leven
van verdachten?

Vraag 18

Wat vindt u van de kritiek dat DUO veel te snel conclusies trekt over fraude gebaseerd
op bezoekjes van soms maar enkele minuten?

Vraag 19

Wat zijn volgens u de implicaties van de omgekeerde bewijslast, zoals die door Minister
Plasterk is ingevoerd? Deelt u de conclusie van De Groene, die stelt dat het in de
praktijk bijna ondoenlijk is om onomstotelijk aan te tonen dat een student woont waar
hij staat ingeschreven?

Vraag 20

Wat betekent dit voor de aangekondigde intensivering van controles door DUO na herinvoering
van de basisbeurs? Kunt u garanderen dat daarbij geen gebruik wordt gemaakt van discriminerende
algoritmen?

Vraag 21

Hoe zou u in het algemeen de fraudebestrijding door DUO kenschetsen? Staat de menselijke
maat – zoals u op 7 april in een Kamerdebat stelde – bij DUO nu centraal? Kunt u voorkomen
dat mensen – net als in het toeslagenschandaal – zonder bewijs als fraudeur worden
bestempeld?