Antwoord schriftelijke vragen : Antwoord op vragen van de leden Kwint en Leijten over onderzoek naar mogelijk discriminerende algoritmen door DUO

Antwoord van Minister Dijkgraaf (Onderwijs, Cultuur en Wetenschap) mede namens de
Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties11 Advocaten: fraudecontrole
DUO treft vrijwel uitsluitend studenten met migratieachtergrond – Investico (platform-investico.nl).2
«Ik dacht gewoon: ik pak je» – De Groene Amsterdammer.3 Studenten met migratieachtergrond
opvallend vaak beschuldigd van fraude, Minister wil systeem grondig nagaan (nos.nl).
(ontvangen 5 juli 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 3026.

Vraag 1

Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties
een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar
voren komt?2,
3,
4

Antwoord 1

Zoals aangegeven in mijn Kamerbrief van 21 juni vind ik deze signalen zeer verontrustend
en heb ik direct een onafhankelijk extern onderzoek aangekondigd.

Vraag 2

Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd,
namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs
studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien
u deze gegevens nu niet hebt?

Antwoord 2

Op dit moment beschikt DUO in het kader van de uitvoering van de WSF 2000 en daarbinnen
specifiek de controle op uitwonendheid, niet over gegevens die direct inzicht geven
in een eventuele migratieachtergrond. Op basis van de beschikbare data kan ik vooralsnog
niet zeggen of het percentage van 97%, dat in het artikel wordt geschetst, klopt.
De vraag of de werkwijze van DUO een disproportionele impact heeft op studenten met
een migratieachtergrond, staat centraal in het onderzoek dat ik heb aangekondigd.

Vraag 3

Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit
algoritme buiten werking te stellen?

Antwoord 3

Ja. Op 22 juni heb ik aan uw Kamer medegedeeld dat ik DUO heb gevraagd om tot nader
order uitsluitend te controleren op grond van een aselecte steekproef onder uitwonende
studenten. Daarbij worden geen nadere criteria gebruikt.

Vraag 4

Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?

Antwoord 4

Ja, hier zijn wij mee bezig. De beoordeling van dit specifieke algoritme zal ook deel
uitmaken van het onafhankelijke onderzoek dat ik aan uw Kamer heb toegezegd. In bredere
zin is DUO reeds gestart met een lerende aanpak om voor te sorteren op de toekomstige
verplichting om algoritmes op te nemen in het Algoritmeregister. Alvorens over te
gaan tot publicatie van een algoritme moeten een aantal stappen doorlopen worden,
binnen de bredere scope van het Algoritmeregister wordt ook dit algoritme in de inventarisatie
meegenomen.

Vraag 5

Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister?
Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde
register?

Antwoord 5

Ja, dat is de inzet van het kabinet. In december 2022 is het Algoritmeregister gelanceerd.
Dit register wordt momenteel doorontwikkeld. Verschillende organisaties hebben hun
algoritmes hier al in aangeleverd. Conform de Werkagenda moet het register in 2025
gevuld zijn met alle algoritmes die relevant zijn voor burgers. Er zijn veel organisaties
die hier actief aan werken, maar het vullen van het register kost tijd en capaciteit
om zorgvuldig te doen. Zoals ik in het antwoord op de vorige vraag heb aangegeven,
werkt DUO eraan om haar algoritmes ook in het register laten opnemen.

Vraag 6

Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme
gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen
idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme
gevoed? Zit daar ook informatie van het FSV bij?

Antwoord 6

Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet
uit onderzoek blijken. Wel kan ik alvast aangeven dat DUO geen gebruik maakt van de
gegevens uit FSV.

Vraag 7

Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid
en discriminatoire werking? Zo nee, waarom niet?

Antwoord 7

Ja. Ik heb in mijn brief van 21 juni aangekondigd dit te gaan doen.

Vraag 8

Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol
spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve
kijk op de werking van algoritmen door DUO?

Antwoord 8

DUO heeft aangegeven dat etniciteit en nationaliteit niet in het algoritme zitten.
Of etniciteit of nationaliteit door het algoritme op indirecte wijze toch de uitkomst
beïnvloeden kan ik pas zeggen na afloop van het onderzoek. Ik kan daarom ook geen
antwoord geven op de kwalificatie uit uw vraag.

Vraag 9

Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling?
Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?

Antwoord 9

Het door DUO gehanteerde algoritme is bij de start in 2012 niet gecheckt op privacy
via een gegevensbeschermingseffectbeoordeling (GEB). Deze is namelijk pas ingevoerd
in mei 2018 In 2012 is er gebruik gemaakt van een beperkte set uit te wisselen persoonsgegevens
die DUO conform de wet voor de uitvoering van haar taken mocht gebruiken. Verder heeft
DUO in 2022 de Auditdienst Rijk, in het kader van een lerende aanpak, gevraagd om
onderzoek te doen naar het proces van uitwonendencontrole en de privacy-waarborgen
daarin. DUO is nog in afwachting van de resultaten van dit onderzoek.

Vraag 10

Is het gehanteerde algoritme ook gecheckt door de Autoriteit Persoonsgegevens? Zo
niet, waarom niet. Zo ja, wat was hiervan de uitkomst?

Antwoord 10

Op het destijds ingediende wetsvoorstel waarin uitspraken zijn gedaan over onder andere
het selectiemodel is een advies uitgebracht door het CBP, de voorganger van de Autoriteit
Persoonsgegevens (AP).

Vraag 11

Wie heeft dit algoritme ontwikkeld en hoe zijn de mensenrechten gewaarborgd?

Antwoord 11

Het selectiemodelis in de pilotfase die vooraf ging aan de inwerkingtreding van de
wet in 2012 ontwikkeld in samenwerking met diverse gemeenten en sociale recherches.
Het model is samengesteld op basis van (gedrags-)kenmerken van studerenden met een
uitwonendenbeurs. Dit model is vervolgens getoetst en aangescherpt op basis van controles
in de pilotregio’s.

Vraag 12

Is dit algoritme onderzocht in het onderzoek naar aanleiding van de aangenomen motie
van het lid Marijnissen c.s. die ziet op het opsporen en opschonen van vervuilde data?
Zo niet, waarom niet? Zo ja, waarom was er dan onderzoeksjournalistiek voor nodig
om dit op te sporen?5

Antwoord 12

Ja, dit algoritme is inderdaad in het kader van de genoemde motie onderzocht.6

Vraag 13

Hoe kan het dat DUO claimt continu te evalueren maar dat er in ruim tien jaar geen
letter op papier is gezet over de geleerde lessen?

Antwoord 13

Evaluatie vindt plaats door het periodiek toetsen van het uitvoeringsbeleid aan nieuwe
jurisprudentie en uitvoeringstechnische zaken waar men tegenaan loopt. In het onderzoek
zal in beeld worden gebracht hoe de evaluatie geschiedde.

Vraag 14

Bent u bereid met DUO afspraken te maken over de manier waarop de eigen werkwijze
geëvalueerd wordt?

Antwoord 14

Ja, dit maakt onderdeel uit van het aangekondigde onderzoek.

Vraag 15

Hoe beoordeelt u dat een fraudebestrijdingssysteem dat letterlijk door Minister Plasterk
is vormgegeven naar voorbeeld van de kinderopvang na het toeslagenschandaal niet meteen
grondig tegen het licht gehouden is?

Antwoord 15

Ik kan mij goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt
gesteld. Dit zal daarom ook onderdeel uitmaken van het aangekondigde onderzoek. Zie
ook vraag 12.

Vraag 16

Deelt u de inschatting dat deze informatie naar boven had moeten komen bij de doorlichting
van onderwijswetgeving op het gebied van hardvochtigheid? En dat daar wel problemen
bij DUO naar voren gekomen zijn, maar niet op dit specifieke punt? Hoe gaat dat in
de toekomst voorkomen worden?

Antwoord 16

Ik kan me goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt
gesteld. Dit zal daarom ook onderdeel zijn van het aangekondigde onderzoek.

Vraag 17

Waarom worden bij onderzoeken naar vermeende fraude meteen werkgevers geïnformeerd?
Deelt u de mening dat dit een onnodig ontwrichtend effect kan hebben op het leven
van verdachten?

Antwoord 17

Werkgevers of andere derden worden niet op de hoogte gesteld van het besluit om de
uitwonendenbeurs in te trekken. Ik merk op dat in de berichtgeving er sprake was van
een geval waarbij de controleurs bij de gemeente waar de studente in kwestie werkte,
zouden hebben gevraagd naar welk adres zij daar had opgegeven. Zonder verdere details
kan ik echter niet beoordelen op welke casus dit betrekking zou hebben, noch kan ik
bevestigen of dat echt zo is gebeurd. De werkwijze en instructies van de controleurs
maakt deel uit van het interne onderzoek dat DUO zelf uitvoert en zal ook in het onafhankelijke
onderzoek terugkomen.

Vraag 18

Wat vindt u van de kritiek dat DUO veel te snel conclusies trekt over fraude gebaseerd
op bezoekjes van soms maar enkele minuten?

Antwoord 18

Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet
uit het aangekondigde onderzoek blijken.

Vraag 19

Wat zijn volgens u de implicaties van de omgekeerde bewijslast, zoals die door Minister
Plasterk is ingevoerd? Deelt u de conclusie van De Groene, die stelt dat het in de
praktijk bijna ondoenlijk is om onomstotelijk aan te tonen dat een student woont waar
hij staat ingeschreven?

Antwoord 19

Ik kan mij goed voorstellen dat naar aanleiding van deze signalen vragen worden gesteld
over de omgekeerde bewijslast. Wat mij betreft dient nu eerst nader onderzoek te worden
gedaan, en volgt daarna een gesprek over het beleid en eventuele aanpassingen die
daarin noodzakelijk zijn. In dat gesprek wordt ook de omgekeerde bewijslast betrokken.

Vraag 20

Wat betekent dit voor de aangekondigde intensivering van controles door DUO na herinvoering
van de basisbeurs? Kunt u garanderen dat daarbij geen gebruik wordt gemaakt van discriminerende
algoritmen?

Antwoord 20

Zoals aangekondigd zal DUO tot nader order alleen controleren op grond van een aselecte
steekproef onder uitwonende studenten. Dat geldt ook voor controles na herinvoering
van de basisbeurs. De geplande intensivering houdt verband met het feit dat vanaf
1 september 2023 ook studenten in het hbo en wo weer recht kunnen krijgen op de uitwonendenbeurs
en de te controleren populatie dus groter wordt.

Vraag 21

Hoe zou u in het algemeen de fraudebestrijding door DUO kenschetsen? Staat de menselijke
maat – zoals u op 7 april in een Kamerdebat stelde – bij DUO nu centraal? Kunt u voorkomen
dat mensen – net als in het toeslagenschandaal – zonder bewijs als fraudeur worden
bestempeld?

Antwoord 21

De onrust naar aanleiding van deze signalen begrijp ik heel goed. Tegelijkertijd vind
ik het niet passend om, terwijl het externe onderzoek nog moet starten, een oordeel
uit te spreken over de werkwijze. Daartoe wil ik eerst alle feiten op tafel hebben.

Ik wil in dit licht wel graag met u delen dat de berichtgeving over de fraudebestrijding
van DUO ook binnen de organisatie hard is binnengekomen. Zowel binnen DUO als breder
binnen het departement. Ik ken DUO wel degelijk als een organisatie waarin de menselijke
maat centraal staat. Dat blijkt uit de vooruitstrevende wijze waarop DUO omgaat met
maatwerk, de extra wettelijke ruimte die we daarvoor hebben gecreëerd en het initiatief
dat DUO continu toont om signalen van de telefoonlijn terug te brengen naar Den Haag.
Dat ik de recente signalen over de fraudebestrijding uiterst zorgwekkend vind, bestaat
gelijktijdig met de waardering die ik voor de inspanningen van DUO heb.