Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 15 juni 2023, over Opruimen vervuilde data

32 761 Verwerking en bescherming persoonsgegevens

Nr. 1062 VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 17 juli 2023

De vaste commissie voor Digitale Zaken heeft op 15 juni 2023 overleg gevoerd met mevrouw
Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering, over:

– de brief van de Minister-President, Minister van Algemene Zaken d.d. 1 juli 2022 inzake
eindconclusie onderzoek in het kader van de uitvoering van de motie van het lid Marijnissen
c.s. over een voorstel hoe binnen overheidsinstellingen vervuilde data worden opgeruimd
(Kamerstuk 35 510, nr. 21) (Kamerstukken 26 643 en 32 761, nr. 889);

– de brief van de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties d.d.
13 juli 2021 inzake antwoorden op vragen commissie inzake de reactie op de uitvoering
van de motie van het lid Marijnissen c.s. over een voorstel hoe binnen overheidsinstellingen
vervuilde data worden opgeruimd (Kamerstuk 35 510, nr. 21) (Kamerstukken 26 643 en 32 761, nr. 773);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 23 mei
2022 inzake tweede voortgangsrapportage over de uitvoering motie van het lid Marijnissen
c.s. (Kamerstuk 35 510, nr. 21) en motie van het lid Klaver c.s. (Kamerstuk 35 510, nr. 16) (Kamerstukken 26 643 en 32 761, nr. 855);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 10 februari
2023 inzake derde voortgangsrapportage over de uitvoering motie van het lid Marijnissen
c.s. (Kamerstuk 35 510, nr. 21) en motie van het lid Klaver c.s. (Kamerstuk 35 510, nr. 16) (Kamerstukken 26 643 en 32 761, nr. 971);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 14 april
2023 inzake reactie op verzoek commissie over de opdrachtformulering onafhankelijk
onderzoek uitvoering van de motie van het lid Marijnissen c.s. over een voorstel hoe
binnen overheidsinstellingen vervuilde data worden opgeruimd (Kamerstuk 35 510, nr. 21) en de motie van het lid Klaver c.s. over opzetten van een algoritmeregister (Kamerstuk
35 510, nr. 16) (Kamerstuk 35 510, nr. 120);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 10 mei
2023 inzake reactie op verzoek commissie over de opdrachtformulering voor het onafhankelijk
onderzoek naar de uitvoering van de motie van het lid Marijnissen c.s. (Kamerstuk
35 510, nr. 21) en de motie van het lid Klaver c.s. (Kamerstuk 35 510, nr. 16) (Kamerstuk 35 510, nr. 122).

Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie, Valstar

De griffier van de commissie, Boeve

Voorzitter: Slootweg

Griffier: Boeve

Aanwezig zijn zes leden der Kamer, te weten: Van Baarle, Dekker-Abdulaziz, Kathmann,
Leijten, Rahimi en Slootweg,

en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering.

Aanvang 9.33 uur.

De voorzitter:

Hierbij open ik de vergadering van het commissiedebat Digitale Zaken met als onderwerp
Opruimen van vervuilde data. Per fractie is er vier minuten spreektijd. Ik wil drie
interrupties toestaan, met vervolgvraag, wat ongeveer neerkomt op zes interrupties.
Wij hebben voor deze commissie twee rapporteurs die echt heel veel werk hebben verricht.
Dat zijn mevrouw Leijten en mevrouw Dekker-Abdulaziz. Hun rapportage is aan de stukken
toegevoegd. Ik geloof dat het zelfs op een soort parlementair papier is afgedrukt.
Deze rapporteurs verrichten heel veel werk. Dat doen ze ook voor de verschillende
deelcommissies, omdat dit een horizontale commissie is. Daarom komen er, denk ik,
tijdens dit debat veel verschillende ministeries en zaken aan bod. We hebben op dit
moment vijf sprekers: mevrouw Leijten van de Socialistische Partij, mevrouw Dekker-Abdulaziz
van D66, de heer Van Baarle van Denk, de heer Rahimi van de VVD en mevrouw Kathmann
van de Partij van de Arbeid. Wellicht voeg ik ook nog iets toe, als er een vraag is
gesteld waarbij het christendemocratisch perspectief niet genoeg aan bod is gekomen.
Je weet maar nooit hoe dat gaat. Ik wil mevrouw Leijten nu het woord geven.

Mevrouw Leijten (SP):

Dank. Ik kijk met de griffier mee naar de tijd, zodat ik daar niet buiten kom. Dank
voor uw mooie woorden voor ons werk als rapporteurs. We moeten dit wel doorgeleiden
naar de mensen die ons weer ondersteunen en naar de mensen die dit op de ministeries
hebben gedaan. Ik zal proberen te schetsen hoe dat is ontstaan en welke vragen de
SP daar nog over heeft. Ik ga ervan uit dat de Staatssecretaris de rapportages van
de rapporteurs en de vragen die daarin zitten ook meeneemt in haar beantwoording.
Dat hoef ik dan niet te dupliceren. Ik hoop dat dat kan; het zijn openbare verslagen.

We hadden die overheid eigenlijk wel mooi ingericht. Die maakte profielen van mensen
waardoor we heel snel konden zien of iemand te goeder trouw was of niet. Je kan dan
heel snel een uitkering of een toeslag toekennen, of wat extra controle uitoefenen.
Op die manier hebben we een goede verzorgingsstaat waarin fraude niet loont. Dat was
de gedachte. Dat is alleen ontzettend ontspoord, natuurlijk. Er zijn overal verschillende
algoritmes ontstaan, profileringen zijn met elkaar gemixt, er zijn oordelen over mensen
geveld die vervuild bleken, mensen werden zonder toets fraudeur gemaakt. Al die data
zijn wel verspreid. Dat is een van de lessen die we hebben geleerd uit het toeslagenschandaal.

Toen het kabinet-Rutte III vlak voor de verkiezingen aftrad, was er een debat over
dat aftreden. In dat debat is het volgende ter sprake gekomen. We willen dat de overheid
niet zo met mensen omgaat. We willen dat de overheid anders met mensen omgaat. Hoe
denkt de Staatssecretaris dat het daarmee gaat? Is dat al aan het lukken? Er is ook
gezegd: die vervuilde data moeten we op gaan ruimen. Die moeten niet meer gebruikt
worden; mensen moeten niet nog een keer met die data geconfronteerd worden. Die data
kan waar dan ook gaan zwerven: van de Belastingdienst naar jeugdzorg, van jeugdzorg
naar de politie, van de politie naar de gemeente of waar dan ook.

Ik hoop dat de Staatssecretaris zich realiseert dat mensen te maken hebben met één
overheid. Dat de overheid vervolgens in allerlei kolommen en via verschillende ministeries
is georganiseerd, waardoor je het opruimen van vervuilde data en het gebruik van nationaliteit
per ministerie moet gaan oplossen, hoort voor de uitkomst geen verschil te maken.
Het is organisatorische rompslomp. Het is zorgelijk dat we als rapporteurs hebben
gevonden, met hulp van die uitstekende ambtenaren, dat er ontzettend verschillend
wordt gedacht binnen ministeries. Dat geldt bijvoorbeeld voor wat vervuilde data en
profilering is; ze gebruiken daar verschillende definities voor. Over de vragen of
nationaliteit gebruiken wel of niet proportioneel is, of het mag, hoe dit vervolgens
in algoritmes wordt gebruikt en of je beeldmateriaal wel of niet moet zien als algoritmische
besluitvorming, wordt verschillend gedacht. Het beleidsteam dat onder Motie#21 aan
de slag is gegaan vanuit Binnenlandse Zaken, waar de Staatssecretaris Digitale Zaken
onder valt, geeft aan: wij kunnen niets anders, als de verschillende ministeries dit
verschillend oplossen. We verdaagden het vorige debat. We zouden dat een paar weken
geleden hebben, maar we hadden toen gewoon nog twee departementale verslagen niet.
Uit de checks van ministeries waarmee ze bekijken wat ze hebben – dit ging over Buitenlandse
Zaken en Defensie – kwam best wat. Ik zou de Staatssecretaris dus vooral willen vragen
of zij denkt dat deze exercitie iets helpt. Of wordt dit gezien als een soort uitvoerend
werk dat men laat doen, maar gaat men niet anders om met algoritmische besluitvorming
met mogelijk vervuilde data vanwege profileren? Wordt hier ook van geleerd? Wat leert
de Staatssecretaris hiervan over haar coördinerende rol? Zou het niet beter zijn als
Binnenlandse Zaken ook gewoon een wat meer aanwijzende rol zou mogen en kunnen spelen?
Ook zou ik haar willen vragen welk ministerie wat haar betreft het meest notoir is
als het gaat over gebrek aan inzicht.

De voorzitter:

Dank u wel, mevrouw Leijten. Ik geef nu het woord aan mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Het is goed dat de motie op stuk nr. 21 is aangenomen in navolging
van de kinderopvangtoeslagaffaire. Die motie verzoekt om binnen de gehele overheid
een grote schoonmaak te houden in de verzamelde data. Dit hadden we niet kunnen doen
zonder de inzet van de staf van de commissie voor Digitale Zaken. Dat zei mevrouw
Leijten ook al. Vanuit hier dus een woord van dank.

Voorzitter. Er is een onderzoek verricht naar de vervuilde data bij het Rijk. In schoolse
termen zou ik zeggen: een mager rapport, een bespreekgeval. Niet alle onderdelen van
de overheid zijn meegenomen, de politie bijvoorbeeld niet. En beeldmateriaal is bijvoorbeeld
maar helemaal buiten scope gelaten. Uitgerekend het Ministerie van Buitenlandse Zaken
en ook het Ministerie van Defensie hebben hun rapportages veel te laat ingeleverd.
Graag hoor ik een reflectie van de Staatssecretaris op hoe dit proces is gelopen.
Welke ruimte ziet zij voor verbetering?

Voorzitter. Dat een opruimactie binnen de overheid nodig is, hebben we onlangs kunnen
zien. De Autoriteit Persoonsgegevens riep onlangs de Minister van Buitenlandse Zaken
op het matje. Ondanks dat er ambtelijk tegenstand was, bleef het ministerie een algoritme
op basis van onder andere afkomst gebruiken voor visumaanvragen. Wat ons betreft is
dat een schoolvoorbeeld van een discriminerend algoritme. Bij het beantwoorden van
onze schriftelijke vragen daarover staat in de conclusie van PMP, het bureau dat de
algoritmes onderzocht, het volgende. Ik citeer: «Of er bias in het algoritme zit,
kunnen wij zonder statistisch validatieonderzoek niet vaststellen.» Verderop staat
en ik citeer weer: «Mits er geen bias blijkt te zitten in het algoritme, achten wij
het IOB/KVV-proces behoorlijk in de zin van de AVG.» Mijn vraag aan de Staatssecretaris
is of het Ministerie van Buitenlandse Zaken een statistisch validatieonderzoek heeft
gedaan. Zo ja, kan dit met de Kamer gedeeld worden? Zo nee, waarom niet? Is de Staatssecretaris
bereid deze boodschap zo snel mogelijk door te geven aan het ministerie?

De kwestie van bias, vooringenomenheid dus, die ontstaat door het gebruik van algoritmes,
ook al zijn de parameters in eerste instantie onschuldig, blijft ons parten spelen.
Zelfs als alle data opgeschoond zijn, kan dat nog steeds ontstaan. Als je door een
algoritme alleen fraude zoekt in een bepaalde wijk, dan zul je ook alleen in die wijk
iets vinden en dat versterkt de vooringenomenheid. Is het niet een idee om ook dat
in de volgende opruimronde mee te nemen? Wat D66 betreft is dit hoofdstuk nog niet
afgesloten. Er worden stappen gezet in de goede richting, maar wat ons betreft mag
er meer sturing komen van de Staatssecretaris. Graag een reflectie.

Afgelopen maandag diende ik een motie in die het voor nieuwe en hoogrisicoalgoritmes
van de Rijksoverheid verplicht om een mensenrechtentoets uit te voeren en die op te
nemen in het register. De Staatssecretaris ziet dit als een goede stap, want zodra
de AI Act er is, zal die sowieso voor de gehele overheid gaan gelden. Hiermee geeft
het Rijk het goede voorbeeld. Dat zijn concrete stappen om vervuilde data tegen te
gaan, dus ik ga ervan uit dat mijn collega's het voorstel van D66 volgende week zullen
steunen.

Voorzitter, tot slot. Als we één ding zien, is het wel dat het met deze rapportages
niet zomaar is opgelost. Deelt de Staatssecretaris het standpunt dat een jaarlijkse
rapportage over vervuilde data en algoritmes bij elk departement standaard in het
jaarverslag moet worden opgenomen?

De voorzitter:

Dank u wel, mevrouw Dekker. De heer Van Baarle heeft een vraag aan u.

De heer Van Baarle (DENK):

Mevrouw Dekker-Abdulaziz noemde de oplevering van de rapportages een schoolwerkstuk
dat onvoldoende is, een bespreekstuk. O, nee, een bespreekgeval. Vanuit het perspectief
van de fractie van DENK zal ik straks betogen dat ik het volstrekt onvoldoende vind.
Ik zou wel een reflectieve vraag willen stellen aan mevrouw Dekker-Abdulaziz over
de manier waarop deze Staatssecretaris vanuit haar coördinerende rol heeft geacteerd.
Het is namelijk niet alsof wij als Kamer lopende het proces niet onze zorgen hebben
geuit over bijvoorbeeld het feit dat er totaal geen eenduidige definitie was of over
het feit dat bepaalde andere zaken niet helder waren. Wat is bijvoorbeeld een risicomodel?
Deze Staatssecretaris zei steeds: gaat u maar rustig slapen. En nu zien we een bespreekstuk.
Vindt u niet dat de Staatssecretaris haar coördinerende rol ook gewoon niet goed heeft
uitgevoerd?

De voorzitter:

Mevrouw Dekker. Ik zou wel willen vragen om de vraag in het vervolg net even iets
puntiger te formuleren.

Mevrouw Dekker-Abdulaziz (D66):

Dan ga ik hier iets puntiger antwoorden. Dank voor deze vraag. Volgens mij is besloten
dat ieder departement de motie op stuk nr. 21 zelf uitvoert. En dat is gelijk het
probleem. Volgens mij hebben we niet in die motie ingebouwd dat het Ministerie van
Binnenlandse Zaken coördinerend moet zijn. Destijds bestond er ook geen Staatssecretaris
voor Digitale Zaken. Daarom vraag ik aan de Staatssecretaris of zij haar coördinerende
rol beter zou willen oppakken, want tot nu toe is het nog niet heel erg goed gegaan.
Dat komt omdat de departementen allemaal los van elkaar rapportages maken.

De heer Van Baarle (DENK):

Dan wat korter: het is niet zo dat wij hier niet voor hebben gewaarschuwd. Deze Staatssecretaris
heeft lopende het proces niets gedaan met die waarschuwingen. We zien ook dat de Staatssecretaris
nu voorstelt om een externe toetsing te doen, maar die toetsing gaat niets zeggen
over de vraag of we dit wel op een juiste of goede manier hebben gedaan. Ik ben het
met mevrouw Dekker eens dat we a de coördinerende rol beter moeten invullen en ik
vind b dat we de opdracht moeten verbreden naar ook iets zeggen over de juistheid
van wat er gedaan is of wat de ADR gaat doen.

Mevrouw Dekker-Abdulaziz (D66):

Wellicht is het verbreden van het onderzoek ook wel een goed idee. Ik heb zelf gevraagd
om de bias ook mee te nemen in de volgende ronde. Wellicht is dat heel goed.

De voorzitter:

Dan gaan we nu over naar de inbreng van de heer Dekker. Ach, de heer Dekker. Ik bedoel
de heer Van Baarle – mijn excuus – van DENK.

De heer Van Baarle (DENK):

Voorzitter. Allereerst wil ik een woord van dank uitspreken richting de rapporteurs.
Vieze racistische discriminerende data of algoritmen, zwarte lijsten, etnisch profileren,
lijsten met afkomst, geloof en politieke voorkeur van mensen, hardnekkige vooroordelen
en institutioneel racisme hebben geleid tot jarenlang discriminerend overheidshandelen.
Die smerige algoritmen en ranzige databestanden moeten we daarom opsporen en opruimen.
De slachtoffers moeten genoegdoening krijgen om racistische rampen in de toekomst
te voorkomen.

Voorzitter. Naar aanleiding van de toeslagenmisdaad is er een opruimactie ingezet,
maar die hele opruimactie is een volstrekte chaos. Waarom gebruikt elk ministerie
een andere definitie? Waarom zijn niet alle definities aan ons bekendgemaakt? Hoeveel
waarde heeft deze opruimactie als er zelfs binnen ministeries verschillende definities
worden gebruikt? We zien dat verschillende organisaties niet worden meegenomen. Hoe
kan het dat de politie en de AIVD niet worden meegenomen? Er is zelfs geen eenduidige
definitie van wat een risicomodel is. Er zou een centraal toetsingskader komen, maar
dat is er niet eens. Wat zijn we al die tijd aan het doen, als men niet eens weet
waar we aan moeten toetsen? Wat wordt er nou precies opgeruimd als elk ministerie
wat anders doet? Er is totaal geen regie van deze Staatssecretaris. Wat zijn we nou
eigenlijk aan het doen? Waarom gaat de overheid zo ongecoördineerd en chaotisch te
werk als het gaat om mogelijk racisme?

Voorzitter. Het is niet zo dat we als Kamer niet hiervoor hebben gewaarschuwd. Ik
heb dat gedaan in de richting van deze Staatssecretaris. En wat zien we nu? We zien
dat er totale onduidelijkheid is over wat we met elkaar hebben gedaan. Waarom is er
niks met de waarschuwingen van de Kamer gedaan lopende het proces?

Voorzitter. Naar aanleiding van mijn motie gaat de opruimactie extern getoetst worden.
Vanwege de chaos is dat keihard nodig. In de opdracht hiervoor lezen we echter dat
er alleen gekeken wordt naar de opzet en niet naar de werking en dat het geen onderzoek
is naar de mate van accuraatheid, juistheid of volledigheid. Dan is die hele externe toets toch een farce, zo
vraag ik aan de Staatssecretaris. Dan wordt het toch niets meer dan een procesbeschrijving?
Hoe kun je nou van een toets spreken als er niet eens wordt getoetst?

Voorzitter. Wanneer er afkomstgerelateerde gegevensverwerkingen worden gevonden en
deze oneigenlijk of onrechtmatig zijn, moeten de betrokkenen worden geïnformeerd.
Kan de Staatssecretaris ons vertellen hoeveel mensen zijn geïnformeerd? Wordt er ook
altijd in kaart gebracht of er negatieve gevolgen zijn geweest? Wat zijn eigenlijk
de gevolgen geweest voor mensen die een discriminerend algoritme of vervuilde data
hebben opgesteld? Hoe staat het met de uitvoering van de toezegging van deze Staatssecretaris
om hiervoor een protocol op te stellen?

Voorzitter. Bij het Ministerie van JenV is ook geïnventariseerd of er ideologie is
verwerkt. Dit is inderdaad gebeurd bij de politie en bij de reclassering. Waarom is
dat gedaan? Is dit een politieke voorkeur? In welk proces is dit als een risico gezien?
Ook hebben we gezien dat de AIVD op een lijst stond, maar opeens niet is meegenomen
in het onderzoek. Hoe kan zoiets belangrijks als de AIVD niet worden meegenomen in
dit onderzoek?

Voorzitter. De Staatssecretaris benadrukte steeds dat zij een coördinerende verantwoordelijkheid
heeft, maar ze heeft een potje gemaakt van die coördinerende verantwoordelijkheid.
Ze weet niks, want ze heeft elke keer geen antwoord op elementaire vragen over definities
die worden gehanteerd. Ze doet niks, want ze wacht maar op de EU. Ze wil geen wetten
maken en voert geen centrale regie. Tot dusver is mijn conclusie dan ook dat deze
Staatssecretaris gewoon niks kan in dit proces. Hier komt onvoldoende van terecht.
Het is altijd maar wachten en we krijgen vage, nietszeggende antwoorden. Er worden
onvoldoende concrete stappen gezet en de uitvoering is een flop. Ze heeft niks op
orde. Zo blijven we elke keer maar weer hetzelfde gesprek voeren. DENK is gewoon zwaar,
maar dan ook zwaar ontevreden over hoe dit loopt.

De voorzitter:

Meneer van Baarle, u heeft volgens mij twee interrupties. Allereerst is er een interruptie
van mevrouw Dekker.

Mevrouw Dekker-Abdulaziz (D66):

Ik hoor de verontwaardiging van DENK en ook de ontevredenheid over de coördinerende
rol. Ergens heb ik ook zoiets van: de coördinerende rol kan beter. Is DENK het niet
met ons eens dat de verantwoordelijkheid voor het niet hebben van discriminerende
algoritmes ook bij alle departementen ligt en niet alleen maar bij Binnenlandse Zaken?

De heer Van Baarle (DENK):

Het niet-discrimineren moet de verantwoordelijkheid zijn van de hele overheid. Dat
moet overal ingepeperd zijn. Dat is onvoldoende het geval en we moeten eraan werken
dat dit meer gebeurt. Deze Staatssecretaris schrijft zelf in haar stukken dat ze een
coördinerende verantwoordelijkheid heeft, als het gaat om de opruimactie. We hebben
haar als Kamer altijd gewezen op die coördinerende verantwoordelijkheid. Nu staan
we aan het einde van het proces en zien we dat het een totale chaos is met allemaal
verschillende definities en met organisaties die niet meegenomen worden. Ook weten
we niet wat we doen. Dan zeg ik: deze Staatssecretaris heeft haar coördinerende rol
niet voldoende uitgevoerd. Is mevrouw Dekker-Abdulaziz dat met mij eens?

De voorzitter:

Het is volgens mij bij interrupties zo dat u antwoord geeft op een vraag. Dat mag
uw antwoord zijn, maar een wedervraag doen we over het algemeen niet.

Mevrouw Dekker-Abdulaziz (D66):

Die ga ik overslaan. Dat hebben we al gedaan. Is DENK het dan met ons eens dat dit
nog niet klaar is en dat we dit aan het jaarverslag van ieder departement zouden moeten
toevoegen, ongeacht of het coördinerend is of niet?

De heer Van Baarle (DENK):

Ik ben dat met u eens, maar er zou nog meer moeten gebeuren. We zouden met elkaar
eindelijk eens een afrekenbaar, wettelijk vastgelegd toetsingskader moeten opstellen
en niet heel de tijd, zoals deze Staatssecretaris doet, verwijzen naar Europa en maar
wachten tot er wat uit Europa komt rollen. We zouden moeten werken aan een protocol
over wat we met elkaar doen als we constateren dat algoritmen en data inderdaad vooringenomen
zijn. Dat is toegezegd en dat had er eigenlijk allang moeten zijn. Ik zie dus dat
deze Staatssecretaris op cruciale vlakken a niet coördineert en b ook niet levert.
Daar is DENK zwaar ontevreden over.

Mevrouw Leijten (SP):

De SP kan het ongenoegen van de heer Van Baarle en van DENK goed volgen. Het is niet
meer dan terecht dat de overheid mensen onbevooroordeeld hoort te benaderen. Dat is
niet zo. Dat weten we uit het toeslagenschandaal. Je zou willen dat de overheid nu
overal, ook op ministeries, volop het besef heeft om te zeggen: we gaan dit oplossen.
Hoe zou de heer Van Baarle verder willen met dit onderwerp? Hij beoordeelt dit nu
als onvoldoende. Dat kan. We krijgen ook nog de antwoorden van de Staatssecretaris.
Hoe zouden we vanuit het rapporteurschap, vanuit de Kamer, vanuit uw idee om te laten
toetsen wat we hebben omarmd en wat ook gaat gebeuren, een stap verder kunnen zetten,
zodat we dit bij de ministeries tussen de oren gaan krijgen en bij deze Staatssecretaris
en mogelijk andere coördinerende bewindspersonen? Hoe kunnen we wel een stap verder
komen? Het moet niet een bureaucratische toets zijn die we er ook eventjes bij moeten
doen. Het moet in de haarvaten van de overheid terechtkomen dat je zo niet omgaat
met je burgers.

De heer Van Baarle (DENK):

Dit is een zeer terechte vraag van mevrouw Leijten. Allereerst zou ik zeggen: laten
we op een goede manier van dit proces gaan leren. Dat betekent dat we de externe toets
niet alleen moeten laten gaan over de werking en het proces. Het moet dus geen procesbeschrijving
zijn. We moeten die toets laten uitvoeren op basis van wat wij als opdrachtgever de
definitie vinden van waar de overheid aan getoetst zou moeten worden. En is dit ook
juist gedaan door alle ministeries? Als we alleen het proces gaan beschrijven, hebben
we totaal geen idee of we dit op een goede manier hebben gedaan. Vervolgens moeten
we eraan werken dat we die zaken in de wet zetten waarvan we in het proces zeggen
dat ze de checks-and-balances en de definities zijn waar we mee werken. Op die manier
moet iedereen daarmee werken. Ik vind het voorstel van mevrouw Dekker-Abdulaziz zeer
goed: laat ministeries daar in de jaarverslagen jaarlijks verantwoording over afleggen!
Ik vind dat dat de minimale stappen moeten zijn waaraan we met elkaar moeten gaan
werken.

Mevrouw Leijten (SP):

Ik zal het korter proberen, voorzitter. Ik realiseerde me dat mijn vraag te lang was.
Wij hebben als rapporteurs ook gesproken over de externe toets en hoe die eruit komt
te zien. Daar hebben we ook verslag over gedaan. We hebben het zo begrepen dat die
toets wel degelijk ook de diepte in gaat. Die kijkt ook wat er precies gebeurt en
waarom dat gebeurt. Ik denk dat het heel goed is dat we in het vervolg van dit debat
en in het rapporteurschap dat mevrouw Dekker-Abdulaziz en ik hebben gehad, gaan nadenken
over hoe we mogelijk ook nog vanuit de Kamer een advies kunnen schrijven over de manier
waarop er moet worden omgegaan met deze vervuilde data. Ik denk dat wij veel expertise
en inzichten hebben die misschien nog te versnipperd zijn op de ministeries. Laten
wij die coördinerende rol dan ook nemen. Bij dezen steek ik een hand uit naar de heer
Van Baarle, maar die is er altijd wel op dit onderwerp. Laten we zorgen dat we als
Kamer een stap verder zetten vanuit deze commissie.

De heer Van Baarle (DENK):

Daar ben ik het helemaal mee eens, dus ik denk dat we dat als Kamer moeten doen. Laten
we met elkaar samen kijken hoe we het proces in kunnen zetten. De toetsing van de
ADR gaat inderdaad de diepte in, maar in de opdracht staat letterlijk dat die zich
niet richt op de werking, dus het functioneren, van waarborgen. De ADR doet geen onderzoek
naar de accuraatheid, juistheid en volledigheid van de departementale inventarisatie
en toets. Dan zeg ik: dit is gewoon een descriptief stuk dat in de geschiedenisboeken
kan opgenomen worden als «Wat hebben we gedaan?». Dit zegt niks over de vraag of we
het goed hebben gedaan en díe vraag is cruciaal.

De voorzitter:

Dan is hiermee de vraag van mevrouw Leijten beantwoord. Dan gaan we door naar de heer
Rahimi. Hij spreekt namens de VVD.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Het opruimen van data, het opruimen van je bureaublad en het
opruimen van je fysieke bureau zijn allemaal dingen die belangrijk zijn om geen fouten
te maken. Dat is echt iets anders dan wat er binnen de overheid aan de hand is met
gegevens die verplicht geregistreerd zijn en verplicht in databases staan of met Excelbestanden
die op USB-sticks staan die overal rondslingeren. Het is allereerst heel belangrijk
om het hamsteren, de dataverzameldrift van overheden te beperken. Tegelijkertijd moeten
we ook kijken hoe we dat wat niet goed was, kunnen opruimen. Dat moet zo snel mogelijk
gebeuren, want hoe langer dat duurt, hoe langer het zo is dat daar beslissingen mee
genomen worden die gevolgen hebben voor mensen die compleet verkeerd kunnen zijn.
Dat hebben we in het verleden ook gezien. Daarom zeggen wij dat het ontzettend belangrijk
is om die data zo snel mogelijk inzichtelijk te hebben. Ik onderken ook wat eerdere
sprekers hebben gezegd. Mijn collega Dijkhoff heeft destijds dan ook de motie ondertekend
om dit zo snel mogelijk te doen.

Voorzitter. Wij hebben wel een vraag: waarom duurt het eigenlijk zo lang? Het is inderdaad
een aantal jaren geleden. De VVD is heel benieuwd waar het op hangt. Vaak gebruiken
we techniek, algoritmes en andere dingen om zaken sneller op te lossen. Kunnen we
die niet op een bepaalde manier inzetten om dit te versnellen? Die vraag stellen wij
aan de Staatssecretaris, want als de data eenmaal opgeruimd en schoon zijn, kun je
de data die je hebt pas gebruiken om mensen eventueel te helpen. Ik gaf eergisteren,
in een ander debat, de combinatie van CIZ en SVB aan. Mensen die een indicatiestelling
en kinderen hebben, kunnen een tweede kinderbijslag krijgen, omdat zij daar recht
op hebben. Dat zijn dingen waarmee je mensen kunt helpen in plaats van ze alleen maar
aan te pakken. Daarvoor moet je inderdaad wel schone data hebben.

Voorzitter. Dan kom ik nog op de versnelling. Het is niet één database. Het is niet
één bestand. Dat is hier het probleem. Dat zeg ik ook even als IT'er. Er zijn mensen
die thuis gewoon USB-sticks hebben liggen. Hoe achterhaal je dat? Het is best belangrijk
dat elk ministerie zelf nagaat waar wat ligt. Dat is één. Verder is het ook de verantwoordelijkheid
van de mensen die die gegevens hebben, om die zo snel mogelijk in te leveren. Dan
is het belangrijk om te kijken naar een realistische planning. Daar ben ik ook benieuwd
naar. In plaats van dat wij alleen maar roepen «sneller, sneller, sneller», willen
wij ook inzicht hebben in wanneer dit zou kunnen. We willen iets wat we kunnen waarmaken.

Voorzitter. Dan heb ik nog een vraag over de algoritmes en risicomodellen die gebruikt
worden. Heeft de Staatssecretaris zicht op hoe de data vanuit verschillende departementen
samenhangen, zodat je altijd terug kunt naar de bron? Als je data vasthoudt zonder
dat je weet wat de daadwerkelijke bron daarvan is, kun je die niet linken om te zien
waar de eerste fout begonnen is. Wat mij betreft is het met alle tools die wij hebben
niet meer van deze tijd om allerlei lijstjes te hebben zonder relatie met de bron.
Heeft de Staatssecretaris dat goed in zicht? Zo niet, hoe kunnen we dat dan wel voor
elkaar krijgen? Dan starten we namelijk met het aanpakken van het probleem bij de
bron.

De voorzitter:

Dank u wel, meneer Rahimi. Ik zie volgens mij twee interrupties, of in ieder geval
één. De heer Van Baarle.

De heer Van Baarle (DENK):

Ik zou de heer Rahimi graag het volgende willen vragen. Hij onderschreef namelijk
het belang van ervoor zorgen dat we racistische troep uit dataverwerking bij de overheid
halen. Dat onderschrijft hij namens de VVD. Wat vindt hij ervan dat we cruciale onderdelen
van onze overheid niet bekeken hebben? De AIVD en de politie zijn niet meegenomen,
terwijl we weten dat dit instellingen zijn waarover nog weleens wat racistische troep
naar bovenkomt. Zouden we dat niet alsnog moeten doen?

De heer Rahimi (VVD):

Allereerst, ik heb niet de woorden «racistische troep» gebruikt. U noemt nu hele specifieke
departementen en afdelingen. Daar heb ik het ook niet over gehad. Ik heb gezegd dat
het van belang is dat we wel van alle data die overal verspreid zijn de bron hebben,
in plaats van ons specifiek te focussen op racisme. Dat hoeft niet alleen maar om
een racistisch element te gaan; het kan ook zo zijn dat die iemand beperken in een
bepaald handelen of bepaalde vrijheden. Ik vind dus wel dat we daarvoor moeten uitkijken.
We hebben al eerder debatten gehad over het openbaar maken van broncodes van bepaalde
applicaties van de overheid. Daar vind ik ook wat van. Dat brengt ook veiligheidsrisico's
met zich mee. Ik snap de vraag van de heer Van Baarle, maar je moet wel altijd in
ogenschouw nemen wat we hiermee veroorzaken en waarin het veiligheidsaspect zit. Daar
moet je wel rekening mee houden.

De voorzitter:

Een vervolgvraag van de heer Van Baarle.

De heer Van Baarle (DENK):

De karakterisering «racistische troep» kwam inderdaad van de zijde van de fractie
van DENK. Maar als we met elkaar zwarte lijsten bijhouden waarop de afkomst van mensen
staat, is dat racistische troep. Hoewel ik bekendsta om mijn, af en toe, harde woorden,
vind ik die kenschetsing niet eens zo heel hard. Maar ik kreeg van de VVD geen antwoord
op de vraag. Ten eerste hoorde ik een verbreding naar meer thema's dan afkomst et
cetera. Maar we hebben het hier over de opruimactie naar aanleiding van de toeslagenmisdaad,
het grootste racistische debacle dat we ooit hebben gezien. Ik vroeg aan de VVD of
naar aanleiding daarvan ook moet worden gekeken of we moeten opruimen wat de AIVD
en de politie hebben. Moeten we dat doen ja of nee?

De heer Rahimi (VVD):

Ik probeer een goed antwoord te geven op de vraag van de heer Van Baarle. Ik zei net
al dat de heer Dijkhoff die motie destijds ook heeft ondertekend. Ik weet waarover
het gaat en ik ben het er dus ook mee eens. Maar u gaat van de toeslagenaffaire richting
de AIVD. Dat vind ik gewoon best wel een grote stap, die ik niet wil maken. Nogmaals,
het gaat niet alleen over racisme. Het gaat om dingen die niet goed zijn gegaan. Ik
gaf net aan dat ik het belangrijk vind dat alles opgeruimd wordt en inzichtelijk wordt
gemaakt. Hoe sneller, hoe beter. Ik wil dus die directe stap van de toeslagenaffaire
naar de AIVD niet maken. Ik ben het niet eens met wat de heer Van Baarle zegt. Ik
zie niet direct het belang van daar meteen op ingaan.

De voorzitter:

Ik hoor mevrouw Leijten zeggen dat ze aan het einde een vraag wil stellen. Nou, daar
zullen we het dan eens even over hebben. Mevrouw Kathmann.

Mevrouw Kathmann (PvdA):

Ik heb ook een vraag, want ik snap het antwoord niet en ik ken de heer Rahimi zo eigenlijk
niet. Ik zal de vraag anders stellen, misschien komt er dan antwoord. Vindt de VVD
dat in alle lagen van de overheid discriminatoire algoritmes moeten worden uitgebannen
en dat we dan maar naar een manier moeten zoeken waarop dat bij de veiligheidsdiensten
en de politie kan? Dat kan op allerlei verschillende manieren, dat kan ook met mensen
die vertrouwelijke informatie tot zich nemen en noem maar op. Het lijkt nu net alsof
de VVD daartegen is, alsof de VVD nog even moet nadenken of we discriminatoire algoritmes
in alle lagen van de overheid wel zouden moeten uitbannen.

De heer Rahimi (VVD):

Nee, dat is niet wat ik zeg, dat wij voor discriminatoire algoritmes zijn. Ik zeg
alleen dat wat hier wordt gevraagd een bepaald effect heeft. Het gaat meteen over
de politie en de AIVD, direct. Die slag wil ik niet maken. Ik geef een heel simpel
voorbeeld. Vroeger waren er tools om bestanden, zaken inzichtelijk te maken. Dat zou
hier ook kunnen. Ik heb net verteld dat wij daarvoor zijn. Wij zeggen niet: wij zijn
voor discriminatie en wij willen dat niet. En ja, in alle lagen van de overheid. Maar
u noemt meteen één specifiek geval en wil van mij horen «daar moeten we op gaan zitten,
want daar vindt discriminatie plaats». Daar wil ik niet het antwoord «ja» op geven.

De voorzitter:

Geeft dit aanleiding tot een vervolgvraag bij mevrouw Kathmann? Nee? Mevrouw Leijten.

Mevrouw Leijten (SP):

Ik zou eigenlijk de vraag willen stellen die ik ook aan de heer Van Baarle stelde:
zou het niet goed zijn om als commissie Digitale Zaken met dit rapporteurschap door
te gaan? Het mogen ook andere rapporteurs zijn. Het gaat er niet per se om de leiding
te nemen, want die hebben we niet over ministeries, maar om te adviseren: pak het
zo aan, coördineer het zo. Wij hebben een soort overzicht van wat er op de verschillende
ministeries gebeurt, hoe dat verschilt en hoe je eenduidigheid zou kunnen krijgen.
Als we via de kolommen blijven kijken en ook via de kolommen van de commissies in
onze Kamer, dan komt er volgens mij geen eenheid in hoe dit wordt gezien en hoe hiermee
wordt omgegaan. Zou de VVD zo'n voorstel steunen?

De heer Rahimi (VVD):

Ik snap de strekking van wat mevrouw Leijten zegt, en zoals ik dat nu hoor, denk ik
dat het ook goed is om het overal eenduidig te doen. Als ik haar goed beluister, is
mevrouw Leijten van plan om met een voorstel te komen. Daar wil ik graag eerst naar
kijken. Maar ik begrijp wat zij zegt en daar ben ik het ook mee eens.

Mevrouw Dekker-Abdulaziz (D66):

Ik ga toch proberen om de VVD te verleiden om het met de commissie eens te zijn dat
de hele overheid verantwoordelijk is voor het opruimen van vervuilde data, inclusief
de politie. Is de VVD het daarmee eens?

De heer Rahimi (VVD):

Ik ga nu voor volgens mij de vierde keer beginnen over de politie. Of het nou de politie
is of de SVB: het is allemaal overheid, dus ja, ik ben het ermee eens dat overal waar
risicomodellen zijn waaruit gevaarlijke conclusies getrokken kunnen worden op basis
van verkeerde data, verkeerde informatie, er moet worden opgeruimd. Misschien is het
nu helder.

De voorzitter:

We gaan het even checken.

Mevrouw Dekker-Abdulaziz (D66):

Dat is heel helder. Ik hoor de VVD zeggen: ook de politie zou eigenlijk zo'n rapportage
moeten aanleveren.

De heer Rahimi (VVD):

Nou wordt het antwoord weer gedraaid. Nee, dat heb ik niet gezegd.

De voorzitter:

Dit leidt tot een vervolgvraag van de heer Van Baarle. Dit is ook uw laatste interruptie.

De heer Van Baarle (DENK):

Die spendeer ik er graag aan, omdat ik nog nooit zo'n mate van vaagheid of glibberigheid
– ik weet niet hoe ik het moet omschrijven – heb gehoord. De heer Rahimi stelt dat
iedere overheidsorganisatie dit zou moeten doen. Vervolgens wordt de vraag gesteld
«de politie ook?» en dan komt er geen helder antwoord. Dan wordt er niet ja of nee
gezegd. Geef nou gewoon helder aan dat de politie ook die rapportage moet aanleveren
als u het belangrijk vindt dat de overheid racistische data opruimt. Waarom is dat
nou zo moeilijk?

De heer Rahimi (VVD):

Ik zei net dat ook daarnaar gekeken moet worden. Ik snap niet dat de heer Van Baarle
zegt dat ik daar geen antwoord op geef. Vervolgens krijg ik een vraag waaruit blijkt
dat het direct een rapportage moet zijn. U gaf net al aan dat u een oplossing had,
namelijk om dit uit te besteden. Dat betekent dat er ook een andere oplossing kan
komen dan per se een rapportage. Ik reageerde alleen op het punt dat het een rapportage
moet zijn. Dat hoeft niet; het kan ook op andere manieren.

De heer Van Baarle (DENK):

Waarom zou de politie geen rapportage moeten opleveren? Ieder onderdeel van de overheid
heeft een rapportage opgeleverd ten aanzien van discriminerende data of algoritmes,
ieder onderdeel behalve de AIVD en de politie, terwijl wij weten dat zij ook discrimineren
in hun handelen, want dat hebben we gezien. Waarom zouden zij geen rapportage moeten
opleveren?

De heer Rahimi (VVD):

Volgens mij hebben verschillende ministeries een rapportage opgeleverd. Ik blijf zeggen
dat, zoals ik net al aangaf, iedereen inzicht moet geven. Als u met «rapportage» bedoelt
dat daarmee duidelijk wordt of het goed gaat of niet: dat snap ik. Ik zeg alleen:
hou de veiligheid in ogenschouw. U kunt niet zomaar alles vragen. Nu haalt u weer
meteen de politie en de AIVD erbij. Net ging het over de politie en nu haalt u de
AIVD er weer bij.

De voorzitter:

Volgens mij gaan we nu door naar mevrouw Kathmann voor haar bijdrage namens de Partij
van de Arbeid.

Mevrouw Kathmann (PvdA):

Dank, voorzitter. Ook ik wil de rapporteurs bedanken. En voor iedereen die meekijkt
en denkt «rapporteurs?» – dat klinkt als iets technisch achter de schermen – zeg ik
dat die heel belangrijk zijn als we het hebben over vervuilde data. Dus mevrouw Leijten
en mevrouw Dekker-Abdulaziz, dank daarvoor en ook voor de toevoeging om te kijken
of we als commissie met een advies kunnen komen. Ik sluit me niet volledig aan bij
de woorden van de heer Van Baarle, maar ik sluit me wel aan bij de vraag of we het
wel goed hebben gedaan. Dat is eigenlijk de belangrijkste vraag, want dan kunnen we
in het advies ook meenemen hoe het beter kan. Dus dank daarvoor. Ik sluit me ook aan
bij de vragen die de rapporteurs aan de Staatssecretaris gesteld hebben.

Ik zou in mijn bijdrage willen focussen op de vervuilde data bij lagere overheden
en vooral bij gemeenten. Bijna twintig jaar lang gebruikten verschillende Nederlandse
gemeenten de fraudescorekaart om mensen met een bijstandsuitkering te profileren op
frauderisico. In maart 2022 kreeg Lighthouse Reports de complete fraudescorekaart
in handen. In 2020 heeft de VNG opgeroepen om te stoppen met die fraudescorekaart,
maar toch waren er tot halverwege 2022 nog een paar gemeenten in Utrecht die de zogeheten
DPS-matrixmethode achter de fraudescorekaart gebruikten. Zo bleef een model van twintig
jaar oud waarvan niet bekend was hoe de score werd berekend, onderdeel van het beleid.
Niemand wist hoe de systemen aan de binnenkant werkten, maar het gebruik ervan was,
hoe abnormaal het ook klinkt, normaal geworden. Zulke afgeleide systemen zijn een
probleem. Heeft de Staatssecretaris in beeld hoeveel afgeleide systemen er nog gebruikt
worden? Zijn de systemen die door de jaren heen zijn afgeleid van omstreden algoritmes
makkelijk in kaart te brengen? Is hier een inventaris van? Ik heb eerder, toen we
het hadden over het algoritmeregister, aangegeven dat dat niet genoeg is, omdat je
zo'n register moet kunnen doorgronden. Je moet bijvoorbeeld weten of een algoritme
is afgeleid van bepaalde zaken waarvan we al hebben vastgesteld dat we ze niet willen.

Recent zagen we in Argos ...

De voorzitter:

Dit is de bel van 10.15 uur, die een minuutje duurt. Misschien kunt u even pauzeren.

Mevrouw Kathmann, het is weer stil. Wilt u uw inbreng vervolgen?

Mevrouw Kathmann (PvdA):

Ja. Ik had het dus over die fraudescorekaart. Recent zagen we in Argos dat men per
ongeluk een zelflerend algoritme om fraude op te sporen en de bijbehorende trainingsdataset
van de gemeente Rotterdam in handen heeft gekregen. Dat was echt een blik achter de
schermen. Dat ding berekent een risicoscore op basis van indicatoren die het zichzelf
aanleert. Een alleenstaande vrouw? Puntje erbij. Langdurig ziek? Puntje eraf. Maar
je bent wel jong moeder geworden, dus dat is weer een puntje erbij. Voor je het weet
word je door de gemeente op het matje geroepen omdat je veel te veel punten hebt.
Meer dan 3.000 mensen werden er zo uitgepikt en financieel doorgelicht. Voor iedereen
die net als ik algoritmes niet helemaal kan doorgronden: je kan die fraudescorekaart
vinden en invullen. Ik heb ’m ingevuld voor mezelf en ik heb ’m ook even ingevuld
voor twee buurvrouwen verderop in de straat. Ik woon in een risicogebied, in Spangen
in Rotterdam. Ik ben getrouwd, heb kinderen, een vaste baan en een koophuis. Ik heb
expres de data ingevuld van buurvrouwen die alleenstaand zijn, een andere opleiding
hebben en ook een andere achtergrond hebben. Zij gingen het rood in. Bij de gemeente
Rotterdam scoren zij vuurrood. Als je naar fraudescorekaart.lighthousereports.nl gaat, kun je de scorekaart zelf invullen en kun je ook ’ns doorgronden
hoe dat werkt. Ik ben er wel van geschrokken.

Wat vindt de Staatssecretaris ervan dat het journalisten zijn die dat soort problemen
ontdekken? Ik ben heel blij met die journalisten, maar zij kunnen natuurlijk niet
al dit werk voor ons doen. Wij moeten als overheid in charge zijn en zelf deze dingen
vinden. Ik snap dat het heel moeilijk is en dat vaak juist bij lage overheden de kennis
ontbreekt of dat het ontbreekt aan voldoende mensen. Ik zit zelf te denken aan een
soort hulplijn voor ambtenaren. Geen meldpunt, want dat klinkt altijd naar naming-and-shaming
en een schuldvraag die op tafel ligt. Een hulplijn dus, zodat je, als je een ambtenaar
bent en denkt «we hebben misschien zo'n algoritme in de gelederen», ...

De voorzitter:

Wilt u afronden, want u zit nu op 4,5 minuten?

Mevrouw Kathmann (PvdA):

Ja. Ik vroeg me dus af hoe de Staatssecretaris daarover denkt.

Dan heb ik nog een heel kleine vraag: hoe gaat de overheid volgens de Staatssecretaris
voldoende mensen met kennis aan zich binden? Die zijn namelijk heel erg nodig om de
vervuilde data op te ruimen.

De voorzitter:

Dank u wel, mevrouw Kathmann. Ik wil aan mevrouw Leijten vragen om het voorzitterschap
even over te nemen.

Voorzitter: Leijten

De voorzitter:

Met alle plezier. Dan geef ik in eerste termijn graag het woord aan de heer Slootweg
namens de CDA-fractie.

De heer Slootweg (CDA):

Dank u wel, voorzitter. Ik zou eerst willen ingaan op sowieso de rol van coördinatie.
In een ander debat hebben we aangegeven dat veel verantwoordelijkheden bij andere
ministeries zitten. Is het punt van coördinatie eigenlijk wel op een goede manier
belegd in ons staatsrecht? Of is er misschien iets anders mogelijk? Laat ik het zo
zeggen, ik kan me voorstellen dat de Staatssecretaris frustraties heeft over wat ze
wel en niet kan. Kan ze daar even op reflecteren?

Het tweede punt. Bij vervuilde data kijken we nu naar de overheid. Soms gaat het ook
over uitwisseling. Weten we nu zeker dat een aantal data waarvan we nu zeggen dat
ze niet op deze manier verzameld hadden mogen worden, niet via publiek-private samenwerking
terecht zijn gekomen bij andere instellingen dan overheidsinstellingen? Kunnen we
daarop gerust zijn?

Mijn allerlaatste vraag, voorzitter. Zoals de heer Rahimi zei, is er ook sprake van
USB-sticks en dergelijke. Vraagt dit niet om een veel centraler ingerichte overheidsomgeving,
zodat dit soort informatie niet mee naar huis kan worden genomen? Welke stappen worden
daar ondernomen?

Dank u wel.

De voorzitter:

Dank aan de heer Slootweg. Dan geef ik het voorzitterschap weer terug aan de heer
Slootweg.

Voorzitter: Slootweg

De voorzitter:

Dank u wel, mevrouw Leijten. Ik kijk naar de Staatssecretaris en hoop van haar te
horen hoeveel tijd ze nodig denkt te hebben om het spervuur van vragen te kunnen beantwoorden.
25 minuten? Dan stel ik voor dat wij om 10.45 verdergaan.

De vergadering wordt van 10.17 uur tot 10.48 uur geschorst.

De voorzitter:

Ik geef het woord aan de Staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Natuurlijk dank aan de commissie voor de gestelde vragen.
We zijn hier vandaag bij elkaar om te spreken over het opruimen van vervuilde data,
ofwel de uitvoering van de zogenaamde motie 21. Door het kabinet is een onderzoek
uitgevoerd om onrechtmatige en discriminerende risicomodellen en gegevensverwerkingen
binnen de overheid op te sporen en aan te pakken. Het is absoluut onacceptabel dat
onrechtmatige, discriminerende gegevensverwerkingen op basis van afkomst hebben plaatsgevonden
bij het beoordelen van de aanvragen voor de kinderopvangtoeslag en bij het opsporen
van mogelijke fraude. Laat ik daar ook heel helder over zijn. Dit mag niet meer gebeuren.
We willen voor altijd voorkomen dat dit binnen alle systemen en processen van de overheid
opnieuw kan gebeuren. Daarom heeft het kabinet u naar aanleiding van de motie op 8 april
2021 geïnformeerd over de aanpak van dit motie 21-onderzoek: het onderzoek om door
alle departementen heen te gaan en te kijken hoe we risicomodellen en andere verwerkingen
kunnen onderzoeken op het onrechtmatig en onbehoorlijk gebruik van data. Samen met
alle andere bewindspersonen is een plan van aanpak opgesteld om het opruimen van de
discriminerende modellen gezamenlijk en rijksbreed aan te pakken.

In het begin van 2022 hebben we u geïnformeerd over de plannen van aanpak per departement.
Ieder departement heeft in grove lijnen drie stappen gezet: het inventariseren, het
toetsen daarna en het opruimen waar dat nodig is. Dat is gebeurd op basis van eigen
onderzoek, niet alleen bij de departementen zelf maar ook bij de onderliggende organisaties.
Uiteraard hebben mijn collega's u meegenomen in de uitkomsten door de rapportages
aan uw Kamer toe te sturen. Ze hebben grondig en zorgvuldig werk gedaan en goede inventarisaties
opgeleverd. Er is door mij regie gevoerd op de coördinatie en samenwerking tussen
de departementen. We hebben gekeken naar vraagstukken als «hoe onderzoeken we het?»,
«welke definities gebruiken we?», en «hoe zorgen we ervoor dat er samengewerkt wordt
en dat we samen afstemmen om te kijken hoe we het aanpakken?». Want het is natuurlijk
wel degelijk zo dat de verschillende departementen en organisatieonderdelen op verschillende
manieren werken en gebruikmaken van data en eventuele risicomodellen.

De voortgang en resultaten zijn gemonitord en geëvalueerd. Ook daarover is uw Kamer
de afgelopen tijd steeds van op de hoogte gehouden. Laat ik vooropstellen, na wat
mijn collega's en de Kamer hierover gemeld hebben, dat het erop lijkt dat voor de
meeste gegevensverwerkingen voldoende wettelijke grondslag is. Is er dan helemaal
niets gevonden? Jawel. Daarover hebben mijn collega-bewindspersonen, ikzelf en de
Minister van BZK u geïnformeerd. Verder laten we nog een onafhankelijk onderzoek door
de ADR uitvoeren. Dat doen we op basis van een motie die weliswaar niet is aangenomen,
maar die ik heb overgenomen. Dat onderzoek zal op 1 juli van dit jaar starten. Uiteraard
zullen we de bevindingen daarvan aan u melden. Daarmee is het natuurlijk nog niet
klaar. Ik zal dat zo meteen ook meenemen in de beantwoording van de vragen. Het onderzoek
is namelijk straks weliswaar afgerond en als het goed is, zijn alle data waar nodig
ook opgeruimd, maar we willen er structureel voor zorgen dat er niet opnieuw problemen
zullen ontstaan. Dat maakt dat we een heleboel afspraken hebben gemaakt, ook met uw
Kamer, over het gebruik van risicomodellen en data. Dat doen we op basis van Europese
en nationale regelgeving.

Voorzitter. Ik heb drie blokjes voor de beantwoording. Het eerste blokje is het grootst
en gaat er met name over hoe precies het opruimen van de vervuilde data is gebeurd.
Hoe hebben we onderzoek gedaan? Hoe is het uitgevoerd? Het tweede gaat over regulering
van algoritmes. Het derde blokje betreft vragen die niet in deze andere twee vallen.
Ik heb op verzoek van de rapporteurs gekeken naar de beantwoording van de vragen die
de rapporteurs hebben gesteld. Die zitten nu volgens mij ook in deze blokjes. Mocht
het zo zijn dat er nog een vraag overblijft, dan hoor ik dat natuurlijk graag.

Misschien is het goed om te beginnen met de eerste vraag die gesteld is door het CDA,
maar die ook door een aantal anderen aan de orde is gesteld. Die gaat over de rol
die ik als Staatssecretaris heb en over mijn coördinerende taak. Natuurlijk gaat het
er dan over hoe we dit onderzoek hebben aangepakt. Is er gekeken naar eenduidigheid
van het onderzoek rondom motie 21? In feite hebben we gezien dat de departementen
een onderzoek hebben gedaan dat eenduidig heeft gekeken naar nationaliteit, etniciteit
en geboorteplaats. Voor de inventarisaties is gekozen om alle afkomstgerelateerde
indicatoren mee te nemen. Daarbij kan relevant gebruik van die gegevens per ministerie
wel verschillen vanwege specifieke taken of wet- en regelgeving die door de departementen
worden uitgevoerd. Om te kunnen sturen op dit onderzoek, hebben we steeds weer overleg
met elkaar gevoerd. Dat hebben de medewerkers van de departementen gedaan met die
van het Ministerie van BZK. Er is goed gekeken naar de vraag hoe het onderzoek precies
is verlopen en welke definities zijn gebruikt. Dat is regelmatig met elkaar gewisseld.
Uiteindelijk heeft dat ertoe geleid dat de ministeries inmiddels allemaal hun rapportages
hebben opgeleverd.

Een vraag die een paar van u hebben gesteld gaat wat meer in het algemeen over hoe
het zit die coördinerende taak van mij als bewindspersoon. Daar kom ik zo meteen graag
op terug.

Dan was er nog de vraag wat precies door de departementen bekeken is. Daar heb ik
net al iets over gezegd. Er is steeds gekeken naar de verschillende persoonsgegevens.
Binnen de ministeries is ook aangegeven hoe dat is aangepakt op basis van de onderzoeksvoorstellen
die zijn gepubliceerd en naar u zijn gestuurd. Er is ook gekeken naar de vraagstukken
die we onderling hebben besproken, zodat de ministeries zo veel mogelijk vergelijkbaar
werk hebben gedaan.

Dan was er de vraag: welke ministeries hebben iets gevonden? Daar heb ik al iets over
gezegd. Dat was ook aan de orde. Bij welke ministeries zijn er data of onderzoeken
die hebben opgeleverd dat er dingen niet goed zijn of verder onderzoek vergen? Dat
zijn in totaal – dit is naar aanleiding van de vraag van de SP – drie ministeries.
Het gaat om het Ministerie van BZK. Daar loopt nog een onderzoek naar het proces externe
inhuur van personen, omdat nog duidelijk moet worden aangegeven of hier terecht gebruikgemaakt
wordt van de persoonsgegevens. Ook zijn aanpassingen nodig voor het verwerken van
het register paspoortsignalering, omdat het gebruik van afkomst daarin niet proportioneel
is. Dat gaan we dan ook aanpakken. Bij het Ministerie van Buitenlandse Zaken is er
nog een informatieverzoek – een aantal van u noemde dat ook – van de AP naar aanleiding
van het specifieke risicomodel voor de beoordeling van kortverblijfvisumaanvragen.
Daar zal verder worden gekeken welke uitkomsten nog moeten worden verwerkt. Bij het
Ministerie van Defensie is uit het onderzoek gebleken dat de Koninklijke Marechaussee
risicoprofielen gebruikt in het kader van de uitvoering van de wet politietaken. In
die profielen is gebruikgemaakt van afkomstgerelateerde indicatoren, nationaliteit
of geboorteplaats. Er is in de inventarisatie vastgesteld dat deze afkomstgerelateerde
indicatoren in de risicoprofielen voldoen aan de toets van rechtmatigheid en behoorlijkheid.
Met andere woorden, de rapportages van de andere departementen hebben geen acties
opgeleverd die nog verder moeten worden uitgevoerd. Bij deze drie ministeries is er
nog werk te doen.

Mevrouw Dekker-Abdulaziz (D66):

Ik hoorde de Staatssecretaris iets zeggen over het informatieverzoek bij Buitenlandse
Zaken. Ik heb niet specifiek gevraagd of mijn informatieverzoek – ik heb nu om het
validatieonderzoek gevraagd van dat algoritme – doorgekomen is, dus graag een bevestiging
daarvan.

Staatssecretaris Van Huffelen:

Ik kom inderdaad nog op die vraag. Het is zo dat u een aanvullend verzoek heeft gedaan.
Ik ga met mijn collega van BZ daarover in gesprek – dat was eigenlijk uw vraag – om
verder te kijken wat hier nog aan de orde is. Los daarvan loopt dus ook nog het proces
met de Autoriteit Persoonsgegevens en het Ministerie van BZ over dit specifieke algoritme.

Dan was er nog de vraag of er nog discriminerende of vervuilde data of algoritmes
zijn gevonden die gevolgen hebben gehad voor personen. Op basis van wat er tot nu
toe boven water is gekomen, zijn er geen gevolgen geweest. Van belang is dat we in
het protocol dat u ook besprak, aangeven hoe we er verder mee omgaan wanneer dat mogelijk
wel aan de orde is of wanneer we alsnog iets zouden vinden. Als er situaties worden
gevonden bij departementen waarin discriminatie aan de orde is, is het van belang
dat we die op een goede manier afwikkelen.

Dan ga ik door naar de vraag van de VVD waarom het zo lang duurt. Inmiddels heeft
u alle rapportages gekregen. Ik heb gezien dat de departementen hard gewerkt hebben
maar het hier en daar toch best ingewikkeld vonden om heel goed door al hun systemen
en processen heen te gaan, die vaak ook bij de diensten zitten die voor hen uitvoerende
taken doen. Daarom heeft het vrij lang geduurd, langer dan we in eerste instantie
dachten. Ik ben wel blij dat het nu gebeurd is, dat we staan waar we staan en dat
we er dus ook aan toe zijn om de onafhankelijke toets door de ADR te laten doen om
daar waar nodig verder actie te ondernemen.

DENK vroeg of er op gelijke wijze is gekeken naar het gebruik van definities. Wij
hebben de indicatoren die zijn aangegeven in de motie en in de brief die wij in 2021
hebben gestuurd, goed bekeken op basis van de vraag: kunnen we ervoor zorgen dat we
allemaal naar dezelfde soort beelden kijken, dus naar de afkomstgerelateerde indicatoren?
We hebben een methodologie gebruikt waarbij een expertteam van grondwetjuristen van
BZK en AVG-juristen van JenV gewerkt hebben aan een toetsingskader en een proces.
Er zijn expertsessies geweest om ervoor te zorgen dat iedereen op dezelfde manier
ging kijken. De conclusie was dat onze huidige wet- en regelgeving in principe voldoende
handvatten bieden om de analyses te doen, bijvoorbeeld de AVG en de wetgeving op het
gebied van non-discriminatie. Daarmee konden de departementen werken om per departement
goede analyses te maken. Om de horizontale coördinatie te versterken is er een ambtelijke
projectgroep geweest onder coördinatie van de CIO Rijk, die maandelijks met de projectleiders
heeft overlegd.

De voorzitter:

Dit lijkt nog één blaadje. Ik zou de collega willen vragen dat de Staatssecretaris
dit blokje even kan afronden.

Staatssecretaris Van Huffelen:

Dan was er nog de laatste vraag, namelijk waarom de AIVD en de politie niet zijn meegenomen.
De AIVD maar ook de MIVD opereren niet alleen binnen wettelijke kaders maar ook binnen
de toezichtkaders van de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten.
Zij zijn verantwoordelijk voor het toetsen van het stelsel en het gebruik van data
bij en door deze diensten. In het openbaar doet de AIVD nooit uitspraken over wat
zij wel en niet gebruikt voor het uitvoeren van haar wettelijke taak. De wetgeving
die zij gebruikt, biedt haar wel de mogelijkheid om persoonsgegevens te verzamelen
en te verwerken. De specifieke bevoegdheden die zij daarvoor heeft, staan beschreven
in de Wet op de inlichtingen- en veiligheidsdiensten, inclusief hoe het toezicht daarop
is geregeld.

De politie is wel degelijk meegenomen in het onderzoek van JenV. De rapportage over
de motie inzake de politie is opgenomen in het rapport van de uitvoering motie 21
van het Ministerie van Justitie en Veiligheid, dat u op 6 juli 2022 heeft ontvangen.
Dus de politie is wel degelijk in dit onderzoek meegenomen.

Dan ben ik aan het einde van dit blokje.

De voorzitter:

Dank u wel. Dan was er in ieder geval een vraag van de heer Van Baarle.

De heer Van Baarle (DENK):

Allereerst over die definitie. Ik kan me nog goed herinneren dat we in april vorig
jaar inderdaad een debat hadden over de definities en plannen van aanpak. Toen stelde
ik exact dezelfde vraag aan de Staatssecretaris: met welke definitie wordt er nou
gewerkt? Zij gaf toen aan dat ze het nog ging uitzoeken en dat ze er in tweede termijn
op terug zou komen. Op dat moment kwam er eigenlijk geen heel helder antwoord. Ik
heb later mijn zorgen herhaald. We weten dat SZW het veel breder heeft ingevuld dan
andere ministeries en dat ministeries het sectoraal ook anders doen. Hoe kan de Staatssecretaris
beweren dat dit op een vergelijkbare manier is gedaan, zodat we ook iets kunnen concluderen
als we dit weten?

Staatssecretaris Van Huffelen:

Ik heb u een brief gestuurd over hoe dat toetsingskader eruitziet. Dat is in lijn
met wat ik net vertelde, namelijk dat juristen van een aantal departementen met elkaar
hebben overlegd over de kaders die we precies gebruiken bij dit onderzoek. Vervolgens
is dat gebruikt door de projectgroep, die aan het werk is gegaan. Op basis daarvan
is het onderzoek gedaan. Ik weet niet meer precies wanneer ik die brief heb gestuurd.
Ik kan dat nog even nakijken als dat nodig zou zijn, maar de kern is dat die projectgroep
steeds heeft gekeken of we alles meenamen. We hebben ook een overzicht gemaakt van
welke elementen van die afkomstgerelateerde indicatoren per departement zijn bekeken.
Dat zijn per departement in ieder geval de indicatoren die centraal staan in de motie.
Sommige departementen hebben nog een extra stap gezet en hebben niet alleen gekeken
naar geboorteplaats maar ook naar geboorteland. Soms is er ook naar andere elementen
gekeken om goed inzicht te krijgen in wat er precies aan de hand is als het gaat om
het verzamelen en verwerken van afkomstgerelateerde indicatoren in het betreffende
departement.

De voorzitter:

De heer Van Baarle heeft een vervolgvraag.

De heer Van Baarle (DENK):

Het probleem is niet zozeer dat er een aantal mensen bij elkaar gezeten hebben en
gebrainstormd hebben. Het probleem is dat dat niet heeft geleid tot een definitie
die eenduidig is toegepast. Dat overzicht hebben we inderdaad: geboorteland ouders,
geboorteplaats, geboorteland, maar ook het begrip «etniciteit». Etniciteit wel, maar
begrippen als «woonland», «ras» en «afkomst» zijn niet door alle ministeries meegenomen.
Waarom is er niet gekozen voor een eenduidige definitie, zodat alle departementen
met eenzelfde begrip werken en die begrippen meenemen? Want door sommige departementen
zijn bepaalde elementen niet meegenomen in de scope van wat afkomstgerelateerd is.
Die zijn gemist.

Staatssecretaris Van Huffelen:

Even voor de helderheid: nationaliteit, etniciteit en geboorteplaats zijn door alle
ministeries meegenomen. Een aantal ministeries heeft ook gekeken naar geboorteland.
Een aantal ministeries heeft op basis van hun werk gekeken naar de provincie, land
van herkomst. Een aantal ministeries heeft gekeken naar het geboorteland van de ouders,
woonland, registratie als niet-ingezetene, ras, afkomst, ideologie, andere nationaliteiten,
land dat vertegenwoordigd wordt, voor zover dat nog geregistreerd wordt, beeldmateriaal
en eventueel ID. Dus departementen hebben op z'n minst gekeken naar de drie elementen
die in de motie staan en die van belang zijn. Op basis van de manier waarop er binnen
departementen gewerkt wordt, is daarnaast nog gekeken naar deze hele lijst van andere
afkomstgerelateerde indicatoren om te bezien of afkomst, etniciteit of anderszins
inderdaad nog op andere manieren is geregistreerd.

De voorzitter:

De heer Van Baarle voor zijn derde interruptie. We doen drie keer twee.

De heer Van Baarle (DENK):

Allereerst, wat de Staatssecretaris zegt, klopt niet. Geboorteland is niet door alle
ministeries meegenomen. Dat is alleen door BZK, EZK, JenV en LNV meegenomen. Land
van herkomst is door JenV niet eens meegenomen. Geboorteland ouders is door heel veel
ministeries niet meegenomen. Ras is slechts door drie ministeries meegenomen. Afkomst
is slechts door één ministerie meegenomen. Dus hoe kunnen we nou zeggen dat we met
elkaar een uitputtende lijst van afkomstgerelateerde indicatoren door alle ministeries
laten toetsen? Hier zijn gewoon dingen gemist. Wat hier is gedaan, is met een veel
te nauwe lijst ministeries maar laten shoppen uit karakteristieken. Daardoor hebben
we heel veel indicatoren die te maken kunnen hebben met racisme, niet laten toetsen
bij cruciale departementen. Dan is die hele toetsing toch een farce?

Staatssecretaris Van Huffelen:

Dan heb ik het niet goed uitgelegd of u heeft het niet goed begrepen. Er zijn dus
drie indicatoren – nationaliteit, etniciteit en geboorteplaats – die op alle ministeries
zijn onderzocht. Daar is naar gekeken omdat die binnen die departementen aan de orde
zijn. Binnen een aantal departementen is bijvoorbeeld ook naar geboorteland gekeken
omdat dat in de verwerkingen daar aan de orde zou kunnen zijn. Maar lang niet bij
alle departementen is dat aan de orde en heeft het dus een rol kunnen spelen. Bij
het Ministerie van Algemene Zaken is er bijvoorbeeld eerst gekeken of dat aan de orde
was. Vervolgens is geconcludeerd: daar hoeven we niet verder op te zoeken, want dat
registreren wij niet. Zo is er niet zozeer gekeken vanuit de vraag: hoe kunnen we
een zo klein mogelijke lijst maken? Nee, er is gekeken vanuit de vraag: «Hebben wij
dat überhaupt ooit verwerkt? Als dat zo is, nemen we het mee in het onderzoek. Als
het niet aan de orde is, hoeven we het verder ook niet te onderzoeken.» Dus het is
precies omgekeerd aan wat u aangeeft. Het is niet zo dat er niet naar gekeken is.
Er is wel degelijk gekeken of die indicator aan de orde is bij zo'n departement. Vervolgens
is geconcludeerd of dat wel of niet zo is. Als het wel zo is – dat thema van geboorteland
speelde bijvoorbeeld een rol bij BZK, mijn eigen ministerie – is het wel meegenomen.

De voorzitter:

Voordat we zometeen in een soort van welles-nietesspelletje terechtkomen, wil ik de
heer Van Baarle nog een laatste keer het woord geven om een verhelderende vraag te
stellen. En dan ga ik door naar de heer Rahimi, want die zit ook al te popelen.

De heer Van Baarle (DENK):

Gezien het feit dat ik mijn hoeveelheid interrupties moet beperken, wil ik nog wel
een vraag stellen over het toetsingskader. Daarover heb ik gelezen in de stukken van
de Staatssecretaris dat er een overzicht van relevante wetgeving is gemaakt waar departementen
uit kúnnen putten. Dat stond er letterlijk: uit kúnnen putten. Waaruit blijkt nou
dat dat toetsingskader ook daadwerkelijk op eenzelfde manier met dezelfde kwaliteit
door alle departementen op alle plekken is toegepast?

Staatssecretaris Van Huffelen:

Een van die toetsingskaders is bijvoorbeeld de privacywetgeving. Die geldt voor alle
departementen en moet ook door alle departementen worden bekeken. Bij alle departementen
moet dus ook worden bekeken of verwerkingen in lijn zijn geweest met de AVG. Dat staat
in de rapportages van die departementen, net zoals de andere punten die ik net noemde.
Maar laten we hier helder over zijn. Dit is een heel belangrijk onderzoek, dat een
heel ernstige ondergrond heeft in die zin dat we vooral willen voorkomen wat ik in
het begin van mijn introductie zei, namelijk dat er überhaupt dingen gebeuren op het
gebied van het verwerken van persoonsgegevens die niet mogen, die niet oké zijn. We
willen geen racisme en discriminatie. We willen geen verkeerd gebruik van persoonsgegevens.
Op basis daarvan is dit werk gedaan. Dat is naar eer en geweten door de departementen
uitgevoerd en naar eer en geweten door mijn departement gecoördineerd.

Niet in de laatste plaats vind ik het heel erg belangrijk dat we dat onderzoek nog
een keer laten bekijken door de ADR om ervoor te zorgen dat het voldoende aan de orde
is geweest, om nog een keer een extra set ogen mee te laten kijken naar de uitvoering
hiervan. Want mochten dingen op een of andere manier niet of onvoldoende helder zijn,
dan moeten we dat boven water krijgen. Daarin verschillen wij volstrekt niet van mening.
We willen waar dat aan de orde zou kunnen zijn, dat dit wordt weggenomen. Wat mij
betreft gaan we gewoon door om actie te ondernemen op departementen waar verwerkingen
zijn gevonden die potentieel niet oké zijn of die inderdaad niet goed zijn. Los van
wat we in de toekomst allemaal nog gaan doen, lijkt het me ook van belang om de Auditdienst
Rijk nog eens goed naar dit onderzoek te laten kijken zodat we zeker weten dat er
zorgvuldig gewerkt is.

De heer Rahimi (VVD):

Tijdens de eerste termijn kreeg ik de opmerking «glibberigheid en vaagheid». Dat wil
ik weerleggen. Ik snap nu ook waarom ik die verwarring had, want ik hoorde de Staatssecretaris
net letterlijk zeggen dat de politie wel al meegenomen is. Dat had ik in mijn achterhoofd.
Ik kreeg de vraag: wilt u de politie meenemen? Maar dat gebeurt dus al. Klopt dat?
Heb ik dat goed gehoord?

Staatssecretaris Van Huffelen:

Het Ministerie van Justitie heeft verschillende van de onder hem ressorterende diensten
meegenomen, waaronder de politie. Daar is het werk dus ook gedaan. In de rapportage
die uw Kamer heeft gekregen, is de politie ook meegenomen, dus u heeft de informatie
daarover ontvangen.

De voorzitter:

Dan gaat de Staatssecretaris naar het volgende blokje: registratie algoritmes.

Staatssecretaris Van Huffelen:

De regulering van algoritmes.

De voorzitter:

Mevrouw Leijten heeft toch nog een vraag.

Mevrouw Leijten (SP):

Ja, sorry, omdat dit het volgende blokje is. Het eerste blokje ging eigenlijk over
hoe we het hebben aangepakt, hoe we gewerkt hebben. Welke lessen trekt de Staatssecretaris
hier nou uit, onder andere als het gaat over coördinatie, doorzettingsmacht en afstemming?
Zij schetst het beeld van: wij hebben lekker samengewerkt. Ik vertaal het op mijn
eigen manier. Maar wij stellen als rapporteurs wel vast dat het af en toe verschillend
is of kan schuren. Het een komt eerder, het ander komt later. Wat is de afdronk van
de Staatssecretaris daar precies bij?

Staatssecretaris Van Huffelen:

Een van de dingen waar we tegenaan zijn gelopen, is dat het voor verschillende departementen
veel meer werk was. Dat heeft ertoe geleid dat de een iets eerder was en de ander
later. Is dat fijn? Nee, je wil natuurlijk dat zo'n onderzoek in hoog tempo wordt
uitgevoerd en zo snel mogelijk leidt tot de gewenste resultaten. Ik ben op zich blij
met de manier waarop wij hebben samengewerkt. Mevrouw Leijten vraagt naar de coördinatie.
Daar hebben we in een eerder debat al eens over gesproken. Ik vind dat we daar nog
een keer goed op moeten reflecteren, want in het financiële domein hebben we bijvoorbeeld
een Comptabiliteitswet, die bevoegdheden geeft aan het Ministerie van Financiën. Die
overschrijdt overigens niet volledig de bevoegdheden van departementen; ieder departement
is ook nog gewoon verantwoordelijk voor zijn eigen begroting, voor het netjes uitgeven
van de middelen en het afleggen van verantwoording daarover. Ik denk dat het goed
is dat we daar op het domein van de informatiehuishouding en digitalisering ook nog
een keer in duiken. Ik heb in het vorige debat gezegd dat we dat ook gaan doen. Dat
heeft dus niet te maken met een onderzoek naar vervuilde data, want dat doe je als
het goed is maar één keer. Je blijft wel goed kijken naar het gebruik van algoritmes
en data. Je wil natuurlijk ook dat departementen daar jaarlijks over rapporteren en
dat eventuele problemen worden weggenomen.

Mevrouw Leijten (SP):

Ik herken daar veel van, ook wat in andere debatten daarover is gewisseld. Ik kon
dinsdagavond helaas niet meer aanschuiven, anders had ik zeker ervoor gepleit dat
Binnenlandse Zaken een stevigere hand zou hebben in informatiehuishouding en de digitaliseringsopdracht
van verschillende ministeries, wetende dat dit staatsrechtelijk ingewikkeld ligt,
zoals de voorzitter in zijn termijn al aangaf. Maar als ik het in mijn eigen woorden
vertaal, dan zegt de Staatssecretaris dus het volgende. Deze exercitie gedaan hebbende,
zijn er een aantal lessen: we moeten alerter zijn op wat we gebruiken en hoe we het
gebruiken – daar moeten we over rapporteren – maar we moeten ook kijken hoe het Ministerie
van Binnenlandse Zaken dan wel een ander ministerie wat meer doorzettingsmacht of
coördinatiemacht krijgt als het gaat om gelijke thema's van die ene overheid, waar
ik het in eerste termijn over had.

Staatssecretaris Van Huffelen:

We zijn het CIO-stelsel aan het evalueren en kijken hoe we dat kunnen versterken om
ervoor te zorgen dat alle aandacht er is en blijft voor dit heel belangrijke onderwerp:
voor de verzameling van data, het gebruik van algoritmes of andere manieren waarop
we informatie verzamelen en verwerken, en vooral ook voor hoe we daarover rapporteren,
hoe we mensen laten weten dat gebruik is gemaakt van een algoritme bij het maken van
besluiten. Dat wil ik versterken in dat CIO-stelsel in de zin van: hoe zorgen we ervoor
dat we niet alleen maar de juiste dingen doen, maar dat we daar ook goed over rapporteren,
zodat er voldoende inzicht is voor iedereen, niet in de laatste plaats uw Kamer en
de burgers van Nederland, in wat er moet gebeuren?

Dan ga ik naar de regulering van algoritmes. Daar zijn maar een paar vragen over gesteld,
onder andere: als we gebruikmaken van algoritmen, hoe complex of weinig complex ze
ook zijn, is het dan niet belangrijk dat we van tevoren goed toetsen of er vanaf het
begin al een soort vooringenomenheid is? Als dat zo is, moet je ze natuurlijk niet
gebruiken, maar je moet ook voorkomen dat dat tijdens het gebruik ontstaat. Heel belangrijk
daarbij zijn de mensenrechtentoets en de handreiking non-discriminatie. Die hebben
we nu al. We zorgen ervoor dat iedereen die kent. We hebben ook al de vraag uitgezet
of de toetsingskaders die je kunt gebruiken, helder genoeg zijn. Daar komen we binnenkort
op terug in een antwoord aan uw Kamer. Het is goed om te weten dat zo'n mensenrechtentoets
voor het gebruik van hoogrisicoalgoritmes in de AI-verordening die gisteren door het
Europees Parlement is aangenomen, verplicht wordt gesteld voor overheden.

De PvdA vroeg of systemen die afgeleide algoritmes gebruiken in kaart zijn gebracht.
Ik kan niet zo heel goed in de keuken kijken van alle gemeenten. Dat scoringsinstrument
is natuurlijk totaal onwenselijk, zoals u eerder opmerkte en vandaag opnieuw. Als
een gemeente dat überhaupt nog gebruikt, moet het worden uitgebannen. Ik roep heel
graag hierbij de gemeenten en de VNG nog een keer op om te zorgen dat dat weggehaald
wordt.

Ik kan niet per gemeente helemaal overzien welke gevolgen dat heeft voor mensen. Ik
vind het wel van belang, en daarover blijf ik in gesprek met de VNG, om te zorgen
voor de toetsingskaders die wij op rijksniveau introduceren bij het gebruiken van
algoritmes, om ze in kaart te brengen en de toetsen te doen die daarbij horen. Het
is al verplicht om een privacy assessment of DPIA te doen, maar dat is nog niet in
alle gevallen gebeurd. Daar moet natuurlijk op gecontroleerd worden. De mensenrechtentoets
die we hebben, is heel erg belangrijk. Er zijn gemeenten die daar supergoed mee aan
het werk zijn, bijvoorbeeld Utrecht en Eindhoven, maar ook daar gebeurt het nog niet
overal. Het is echt heel belangrijk dat dat gebeurt.

Helaas kan ik dat niet bij iedere gemeente zelf gaan checken, maar het is wel van
belang dat we samen met de VNG goed kijken naar de instrumenten die in Europa worden
afgesproken en die in nationale wetgeving zitten. Die worden door de departementen
gebruikt en die moeten we zo maken dat gemeenten er ook mee aan de slag kunnen. We
moeten vooral goed gaan kijken hoe we die instrumenten kunnen inzetten, zoals ik nu
samen met het Ministerie van Sociale Zaken en de VNG aan het doen ben, om algoritmes
in te zetten om mensen te helpen in plaats van om risicomodellen uit te voeren, fraude
te onderzoeken enzovoorts, enzovoorts. Dat was heel vaak de eerste neiging bij het
inzetten van algoritmes.

Ik ga er dus graag verder over spreken met de VNG.

De voorzitter:

Ik zie dat mevrouw Kathmann een vraag heeft.

Mevrouw Kathmann (PvdA):

Dank voor de beantwoording, maar de vraag blijft: is dit genoeg? We zagen bij het
toeslagenschandaal en bij alle ophef die dat heeft veroorzaakt op dit terrein dat
niet iedereen dan in de benen gaat. Ik durf er bijna mijn hand voor in het vuur te
steken dat er geen ambtenaren zijn bij de gemeentes die denken: laat ik eens even
een discriminatoir algoritme inzetten. Maar wat er naar boven is gekomen, bijvoorbeeld
bij die uitzending van Argos, is dat het zo ongelofelijk ingebakken en normaal is
om dit te gebruiken dat mensen het heel vaak niet eens weten. Ze weten niet waar ze
mee werken, waar ze mee te maken hebben.

Ik zou hierover nog iets meer van de Staatssecretaris willen horen als er gesprekken
met de VNG zijn. Volgens mij heeft de VNG ook een beeld van hoe ze dit wil aanpakken
en welke hulp ze daarbij misschien nog meer nodig heeft van het Rijk. Het zou heel
fijn zijn voor ons als Tweede Kamer als we een concreter actieplan of een werkagenda
krijgen, zodat we dat ook beter kunnen controleren. Ik zie aan de Staatssecretaris
dat dit een hele grote vraag is, maar dat wil ik er niet van maken. Ik wil het behapbaar
houden, maar ik wil juist die gemeentes helpen. Steeds is er weer een journalist die
een schandaal vindt en dan gaan we wat doen, terwijl iedereen eigenlijk heel hard
aan de slag wil, met alle wil van de wereld, om dit te elimineren.

Staatssecretaris Van Huffelen:

Ik zit er even over na te denken, want nogmaals, ik kan heel moeilijk alle gemeenten
gaan scannen of iets dergelijks, zoals ik al zei. Als het onderzoek van ADR naar dat
onderzoek voor onszelf is afgerond, zou het een idee zijn om de lessen die we daaruit
leren, ook te delen met de VNG; hoe is het aangepakt, hoe kan je dit aanpakken, wat
zijn de definities enzovoorts, enzovoorts. Dan kunnen gemeenten dat ook zelf inzetten
om dezelfde scan te doen die wij op departementaal niveau hebben gedaan. Dan kan je
nog een keer kijken of je het onderzoek als gevolg van de motie op stuk nr. 21 voor
gemeenten ook kan doen, op basis van tools die dan ook werken voor gemeenten. Dan
heb je een extra handreiking.

Dat laat overigens onverlet dat er bijvoorbeeld in onze Werkagenda Waardengedreven
Digitaliseren ook veel inzet was op mensen meenemen in ethiekdiscussies. Wanneer zet
je dingen in of niet? Wanneer zorg je ervoor dat je niet alleen voldoet aan wetten
en regels, maar ook ethische vragen stelt over bijvoorbeeld monitoring met sociale
media? Wat moet je daar wel en niet doen?

Toevallig had ik daarover afgelopen maandag een discussie met vertegenwoordigers,
bewoners, mensen uit de ambtelijke organisatie en experts van de gemeente Eindhoven.
Bij het inzetten van allerlei tools moet je niet alleen jezelf de vraag stellen of
het helpt om te voldoen aan de regels, maar ook of je dit moet doen. Dezelfde discussies
heb ik gehad met vertegenwoordigers in de gemeente Utrecht. Wat doen we bijvoorbeeld
met bodycams? Vinden we dat wel of niet passend? Waar zetten we die dan in? Hoe werken
we daarmee? Hoe zorgen we ervoor dat het voldoet aan wetten en regels? Die tools hebben
we niet alleen ontwikkeld, maar die zetten we ook samen met de gemeenten in. De VNG
is daarin ook heel actief.

Kort en goed, dat gaat meer over de discussies die je moet voeren voordat je iets
doet en de ethische toetsing die je doet. Ik denk dat we nu al lessen hebben getrokken
op grond van de motie op stuk nr. 21. Na afloop van het ADR-onderzoek zullen we die
ook trekken. Die kunnen we ook heel goed delen met de gemeenten, zodat zij een vergelijkbaar
onderzoek zouden kunnen inzetten.

De voorzitter:

Ik meen dat de heer Rahimi ook nog een vraag had.

De heer Rahimi (VVD):

Ik probeer het even om te draaien, want tijdens het wetgevingsoverleg over digitalisering,
eergisteren, gaf ik al aan dat ik de taak heb om elke week te kijken op het Algoritmeregister.
Dat was twee dagen geleden en nu zijn er alweer twee bij, dus nu zitten we op 123.
Dat is mooi. Wij roepen de gemeenten en de zbo's vaak op om te vullen, vullen, vullen.
Ik zag dat er nu iets ingevuld is door het NFI en JenV, dus dat is goed. Is de Staatssecretaris
bereid om het even om te draaien en te kijken naar de 123 algoritmes die ingevuld
zijn en naar de instanties die het ingevuld hebben? Wat heeft het mogelijk gemaakt
om het daar in te vullen? Misschien komen daar tips uit om anderen ook te stimuleren
en te helpen om dat te vullen. Zou de Staatssecretaris daartoe bereid zijn? Dan draai
je het om en dan is het helpen te vullen in plaats van alleen te vragen om te vullen,
vullen, vullen.

Staatssecretaris Van Huffelen:

Die laatste vraag stellen wij natuurlijk ook. Het is van belang, niet omdat je een
register wil hebben voor het register, maar omdat je wil dat mensen in kaart brengen
welke algoritmes er worden gebruikt bij hun organisatie en of die voldoen aan de kwalificaties
waarvan wij vinden dat ze eraan moeten voldoen; is er een privacycheck gedaan; is
er een mensenrechtentoets gedaan enzovoorts, enzovoorts. Gelukkig is er een hele actieve
community van mensen die hieraan werken. Die zijn al bezig om elkaar te stimuleren
om het in te vullen. Dat leidt ertoe dat we zien dat het dagelijks verder wordt gevuld.
Los van het verder vullen aan de kant van gemeentes hebben we hierover ook afspraken
gemaakt met de departementen; dat heb ik ook met uw Kamer gedeeld. Er is al een actieve
community, mensen zijn aan de slag. Ik denk dat ze het extra waarderen dat u de hele
tijd kijkt, want dat laat ook zien dat ze het niet voor niks doen. Dat staat los van
het feit dat het een tool is waar de Autoriteit Persoonsgegevens en de andere toezichthouders
verder mee aan de slag kunnen.

De heer Rahimi (VVD):

Ik vind dat wij in plaats van controle niet alleen tips moeten geven als wij die hebben,
maar het gaat om 123 keer ... Als ik een formulier moet invullen met duizend stukjes,
vind ik dat soms moeilijk en doe ik er langer over. Mijn vraag is welke hulp deze
organisaties hebben gebruikt, om daaruit misschien tips te halen en die te delen met
andere organisaties die dat niet kunnen invullen. Wil de Staatssecretaris daarnaar
kijken? Of heeft zij dat al gedaan en gaat zij dat delen met de anderen?

Staatssecretaris Van Huffelen:

Nogmaals, wij hebben die community; die bestaat ook uit medewerkers van mijn eigen
team en die helpen mensen gewoon bij het invullen. Het is niet alleen onderling delen
van informatie, maar dat doen ze ook. We hebben overigens ook gezegd dat we steeds
blijven kijken of dit verbeterd kan worden. Ik vind het verheugend dat het Europees
Parlement ook heeft gestemd voor het inzetten van een register voor algoritmes met
een hoog risico, als onderdeel van de AI-verordening. We moeten zien of dat erin blijft,
maar dat hopen we wel.

De voorzitter:

Mevrouw Dekker had ook nog een vraag.

Mevrouw Dekker-Abdulaziz (D66):

Ik hoorde de Staatssecretaris iets zeggen over vooringenomenheid en dat dat wellicht
niet getoetst hoeft te worden, want we hebben de AVG en allerlei andere dingen. Bij
het commissiedebat over racisme en discriminatie hebben de heer Van Baarle en ik het
punt gemaakt dat vooringenomenheid of bias een heel groot risico is, ongeacht welke
variabelen in die algoritmen zitten. Is de Staatssecretaris het met ons eens dat het
risico van bias en vooringenomenheid überhaupt niet tussen de oren van de ambtenaren
zit?

Staatssecretaris Van Huffelen:

Ik vind het een iets te boude uitspraak om te zeggen dat niemand over dit onderwerp
nadenkt, want dat zou het idee scheppen dat niemand die bij de Rijksoverheid of bij
een gemeente werkt, nadenkt over dit soort vraagstukken. In deze toetsen worden die
onderwerpen meegenomen, om te zorgen dat we die instrumenten hebben. Er is ook de
ethische discussie over hoe wij omgaan met algoritmes, wat voor informatie we daarin
verwerken, hoe we dat doen, wat we opslaan enzovoorts, enzovoorts. Samen met wetenschappers
kijken we ook heel goed hoe je die discussies goed kunt organiseren. Laat over vooringenomenheid
helder zijn dat je bijna kunt zeggen dat ieder van ons een bepaald denkframe of een
manier van werken heeft en dat het dus ontzettend belangrijk is dat je ook samen die
toetsing doet.

Mevrouw Dekker-Abdulaziz (D66):

Ik zeg natuurlijk niet dat alle ambtenaren zo zijn en dat er niemand mee bezig is,
maar elke keer als ik een vraag stel of spreek over bias of vooringenomenheid wordt
er gezegd dat er geen afkomstgerelateerde variabelen zijn in het algoritme en dat
je dus rustig kan gaan slapen. Maar zo werkt het niet. Bias sluipt erin, omdat een
algoritme zichzelf op een gegeven moment aanleert in een bepaalde wijk te blijven
zoeken omdat je daar nou eenmaal veel meer vindt. Is de Staatssecretaris bereid om
af en toe zo'n biasonderzoek te laten doen om daarvan te leren voor dit proces? Dit
kan je alleen maar vaststellen door een heel diepgaande statistische analyse.

Staatssecretaris Van Huffelen:

Daar ben ik zeker toe bereid. Ik vind het ook belangrijk dat we dat soort dingen onderzoeken.
Dat is ook onderdeel van alles wat we inzetten in de wet- en regelgeving; niet een
keertje voorafgaand, maar ook tijdens het gebruik blijven kijken naar hoe die tools
werken en of er ongewild of ongewenst onderweg op een bepaalde manier een bias in
komt. Het is soms best lastig om precies vast te stellen hoe dat werkt. Daar moet
naar gekeken worden. Ik neem dat heel graag mee; dat zeg ik u hierbij toe.

De voorzitter:

De Staatssecretaris gaat naar haar derde blokje toe. Ik merk hierbij op dat mevrouw
Leijten naar een procedurevergadering van de commissie voor Binnenlandse Zaken is.
Ik neem aan dat zij zo weer terugkeert.

Staatssecretaris Van Huffelen:

Voorzitter. Dan de vragen die ik nog niet had beantwoord. De VVD vroeg hoe de data
van verschillende departementen samenhangen en hoe je daarnaar kunt terugkeren. Het
punt is dat er niet een totaaloverzicht is van alle data die de Rijksoverheid verwerkt.
Eerlijk gezegd denk ik ook dat het een illusie is om dat te kunnen vaststellen, want
er is natuurlijk ongelofelijk veel. Ik vind het wel van belang om te zorgen dat je
het informatiebeheer en gegevensbeheer op orde krijgt. Daarom is het toch belangrijk
om te zorgen dat je dat goed doet. Een belangrijk onderdeel daarvan is bijvoorbeeld
het federatieve datastelsel, waarbij de data bij de bron worden opgehaald als we die
toepassen en gebruiken, niet ergens anders weer worden opgeslagen. Dan weet je bijvoorbeeld
als je persoonsgegevens verwerkt dat je die gegevens haalt uit de BRP zelf en niet
uit kopieën daarvan. Wij vinden die inzet heel erg belangrijk. Wij blijven eraan werken
om dat stelsel verder uit te breiden. In het kader van het gegevensbeheer zijn we
ook bezig met het maken van een informatiewet. Dit soort elementen moeten daar ook
een onderdeel van worden.

Dan was er een vraag van mevrouw Kathmann over het risicomodel en het invullen daarvan.
Ik denk dat ik daarover al het een en ander heb gezegd. Ik hoop dat we als we onze
lessen op grond van de motie op stuk nr. 21 kunnen delen, gemeenten kunnen helpen
om voor zichzelf ook nog een keer zo'n check te doen. Zij stelde ook voor om een hulplijn
te maken voor medewerkers van decentrale overheden, zoals gemeenten, provincies of
waterschappen. Ik ga daarover graag in gesprek met de VNG, want ik denk dat het goed
is dat er zo'n plek is waar mensen terechtkunnen om inderdaad vragen te stellen over
mogelijke bias of over algoritmen waarvan je denkt dat ze niet goed functioneren.
Ik denk dat het goed is dat we daar ook een aantal voorbeelden bij betrekken. Er zijn
al gemeentes, zoals Amsterdam en Rotterdam, waar al adviesraden en ethical officers
zijn ingesteld waar ambtenaren met hun hulpvragen naartoe kunnen.

Mevrouw Kathmann vroeg ook of er wel voldoende mensen kunnen worden gevonden die kennis
hebben over data, het organiseren en opruimen van data, om te zorgen dat we data op
een goede manier inzetten. Dat is een onderwerp dat we heel erg centraal hebben gesteld
in onze informatiestrategie, waarvan we binnenkort een nieuwe versie naar u toe sturen.
Daarin hebben we ook aangegeven dat een thema is: het zorgen dat we voldoende goede
mensen hebben om met data en IT om te gaan. We zetten daar op allerlei manieren op
in. We hebben traineeprogramma's, samenwerkingsverbanden met het onderwijs en allerlei
soorten wervingscampagnes. Ik vind ook dat we opnieuw moeten blijven kijken hoe we
jonge talenten, maar ook talenten in een verder gevorderd stadium van hun leven kunnen
aantrekken om dit werk te blijven doen. De kern is dat de markt voor IT- en dataspecialisten
dun is. Er zijn veel vacatures, niet alleen bij ons, maar ook in de private sector.
Wij moeten met z'n allen aan het werk om te zorgen dat de overheid voldoende van deze
mensen in dienst heeft.

De heer Slootweg vroeg of er op allerlei plekken nog USB-sticks zitten met data die
misschien niet zijn meegenomen in het onderzoek. Hij vroeg of er niet veel meer een
centrale inrichting moet zijn om dat te laten gebeuren. Gelukkig hebben we het thema
USB-stick wel uitgeroeid. Je kunt ze niet meer gebruiken. Daar zijn heel veel redenen
voor; niet alleen omdat je niet wil dat data op allerlei gegevensdragers rondzwerven,
maar ook vanwege de veiligheid en bescherming van persoonsgegevens enzovoorts, enzovoorts.
Wij willen ook niet dat er maar één plek is waar data worden verzameld. Ik zei net
al dat wij het federatieve datastelsel heel erg belangrijk vinden. Dat gaat er eigenlijk
vanuit dat de data bij de bron worden bewaard, of het nou gaat over socialezekerheidsdata
of de BRP, het register van alle inwoners van dit land. Dan kan je op basis van wettelijke
bevoegdheden, uiteraard, data combineren en dat doe je steeds door data uit de bron
te raadplegen en geen kopietjes, geen gedoe met stickjes of schijven met kopieën.

De heer Van Baarle vroeg of betrokkenen geïnformeerd moeten zijn of er bij het verwerken
van afkomstgerelateerde data verwerkingen zijn aangetroffen die niet kloppen. We hebben
geen verwerkingen gevonden waarbij mensen schade hebben ondervonden, dus we hebben
er ook niet voor gekozen om daarover te informeren. Mocht dat op basis van alle checks
die we gaan doen, alsnog aan de orde zijn, dan moeten we dat natuurlijk wel doen.
Op het moment dat data van mensen verkeerd zijn gebruikt, dan geldt daarvoor dat je
dat die mensen moet laten weten. Dat geldt natuurlijk ook al onder de AVG.

Dan was er nog een vraag van DENK of je dat opruimen van vervuilde data standaard
in een rapportage moet opnemen. Ik wil daar graag op terugkomen bij de informatiewet
die we aan het ontwikkelen zijn. Of beter gezegd: de regeringscommissaris voor informatievoorziening,
de heer Zuurmond, is daarnaar aan het kijken. Ik denk dat het goed is om niet alleen
te kijken naar hoe die dataverwerking of het opslaan van data bij de overheid eruitziet,
maar ook hoe we zorgen dat we daarover op een goede manier rapporteren. Ik denk dat
het goed is om dat daarbij mee te nemen. Overigens moeten departementen nu ook al
in hun jaarrapportages rapporteren over het verwerken van data.

De voorzitter:

Daarmee bent u volgens mij aan het einde gekomen van uw beantwoording. Ik zie dat
er nog een vraag is uit de commissie.

Mevrouw Dekker-Abdulaziz (D66):

Nog even over de vraag om het opruimen van vervuilde data standaard mee te nemen in
het jaarverslag, die ik ook heb gesteld. Ik hoorde de Staatssecretaris zeggen: laten
we dat meenemen in de informatiewet. Maar dat is voor mij niet echt concreet genoeg.
Wat houdt ons tegen om hetzelfde wat de verschillende departementen nu al gedaan hebben,
gewoon weer te kopiëren en te plakken in het jaarverslag, bij wijze van? Waarom zouden
we dat niet doen?

Staatssecretaris Van Huffelen:

Het jaarverslag gaat over de begroting; dat is een financiële rapportage. Het is niet
de bedoeling dat we de motie 21-exercitie ieder jaar opnieuw doen. We gaan niet iedere
keer opnieuw kijken wat er aan de hand is. Je gaat wel met elkaar kijken, hopelijk
op basis van die informatiewet, naar welke gegevens je precies vastlegt, hoe je daarmee
omgaat, hoe het zit met dat federatieve datastelsel. Om daarbij te kijken naar die
rapportage vind ik wel heel relevant. De regeringscommissaris is daar hard mee aan
het werk. Zijn idee is om daar in zijn rapportage aan het eind van het jaar al meer
over te kunnen zeggen. Ik zou het goed vinden als we het daar ook in opnemen.

Mevrouw Dekker-Abdulaziz (D66):

Ik ben het er niet helemaal mee eens dat we dit niet moeten blijven doen, want voor
mij als rapporteur voelt het alsof we dit moeten blijven doen. Er komt een informatiewet.
Misschien waarborgt die dat we daar altijd scherp op zijn. Op welke termijn wordt
die informatiewet naar ons toegestuurd? Kan de Staatssecretaris toezeggen om dat voor
de begroting te doen?

Staatssecretaris Van Huffelen:

Sorry, ik was even niet aan het opletten. Wat wilt u voor de begroting hebben?

De voorzitter:

De wet die u net aankondigt, waarmee er een soort rapportage komt. Is het mogelijk
dat die voor de begrotingsbehandeling toegestuurd wordt?

Staatssecretaris Van Huffelen:

Nee. Ik weet alleen dat de regeringscommissaris daarmee bezig is. Ik denk dat hij
daar zeker nog dit jaar voor nodig heeft, dus voor de begroting is te snel. Even los
daarvan, hij is daarover aan het nadenken en daarna moet hij nog ... Nou ja, dat is
een heel proces. Dat is echt niet iets wat op heel korte termijn kan.

De voorzitter:

Mevrouw Dekker vraagt volgens mij om enige indicatie wanneer dat proces afgerond is,
voor zover u weet. Of is dat onmogelijk in te schatten?

Staatssecretaris Van Huffelen:

Ik stel voor dat we de regeringscommissaris vragen om uw Kamer over dat proces te
informeren. Zullen we dat doen? Ja.

De heer Van Baarle (DENK):

Er is een tweetal zaken die mij nog niet helemaal helder zijn naar aanleiding van
de beantwoording. Wordt de scope van het onderzoek van de ADR wel of niet verbreed
naar de accuraatheid en de juistheid van de opruimingsactie, en als we dat niet doen,
waarom niet?

Staatssecretaris Van Huffelen:

Het is goed dat u dat onderwerp nog even naar voren brengt. We hebben het onderzoeksvoorstel
van de ADR aan u toegestuurd. Het idee is dat zij wel degelijk gaan kijken naar hoe
de departementen het hebben aangepakt, met welke definities, of ze alle systemen wel
goed hebben doorgekeken, wat er in het proces aan de orde is. Zij zullen niet het
onderzoek per departement helemaal overdoen, zoals hier bedoeld is, denk ik, maar
zij gaan wel degelijk kijken of zij bewijs vinden dat de departementen het werk goed
hebben aangepakt. Als zij daar dingen vinden die onduidelijk of niet voldoende zijn,
dan zullen ze ook dieper gaan graven, maar ze gaan niet het hele onderzoek van de
departementen opnieuw doen, zo staat in dit voorstel. Maar ze gaan wel degelijk kijken
of het inderdaad goed is uitgevoerd. Eigenlijk doen ze dezelfde soort toetsen ook
altijd bij de jaarlijkse controle op bijvoorbeeld de begrotingen en de jaarcijfers.
Dan ga je niet de hele boekhouding opnieuw maken, maar je doet wel allerlei checks,
in de zin van: is het proces goed gevolgd, zien we dat er ook evidence voor is dat
het zo is enzovoorts, enzovoorts.

Maar als u zich zorgen maakt over een bepaald stuk van het onderzoek dat ze gaan doen,
laat mij dat dan weten, want het is de bedoeling dat het onderzoek zo wordt gedaan
dat u na afloop ook kunt zeggen dat er is gekeken naar wat u belangrijk vond om naar
te kijken.

De voorzitter:

De heer Van Baarle, voor zijn laatste.

De heer Van Baarle (DENK):

Ik weet niet of het mogelijk is, maar ik zou de Staatssecretaris de suggestie willen
doen om nog eens te kijken naar de formulering van de opdracht, bijvoorbeeld naar
de zin dat «er geen oordeel of zekerheid wordt verschaft over de accuraatheid, juistheid
of volledigheid van de uitkomsten van de inventarisatie». Zo'n zin zouden we eigenlijk
moeten schrappen, zodat de ADR wel de mogelijkheid heeft om te kunnen oordelen op
basis van hun onderzoek. Dan gaan ze het inderdaad niet helemaal overdoen, maar dan
is er wel degelijk ruimte voor een oordeel of het niet accuraat, niet juist of niet
volledig is. Nu staat er keihard in dat ze dat niet gaan beoordelen.

Staatssecretaris Van Huffelen:

Volgens mij is dat zo'n standaarddisclaimer die accountants altijd doen; op basis
van alles wat ik weet, weet ik wat ik weet en kan ik er iets over zeggen. Ik snap
het punt. Ik zal er nog even met de ADR in duiken. Ik ben het met u eens dat zij niet
het hele onderzoek opnieuw gaan doen, maar dat zij wel degelijk een beeld moeten kunnen
schetsen, of kunnen krijgen, of zij vinden dat de departementen het werk goed hebben
gedaan en of daar nog hiaten in zitten. Ik zal nog even goed naar die ene zin kijken.

De voorzitter:

Dan kijk ik even naar de commissie of er nog vragen zijn. Mevrouw Leijten is teruggekomen.
De Staatssecretaris heeft haar derde blokje afgerond. Nee, er zijn geen vragen meer.
Dan is er nu ruimte voor een tweede termijn. Ik zie dat daar behoefte aan is. Dan
gaan we naar mevrouw Leijten.

Mevrouw Leijten (SP):

Voorzitter. Ik denk dat het goed is dat we dit debat nu hebben gehad, als een soort
overkoepelend debat over het opruimen van vervuilde data, maar daarmee zijn we er
nog niet. Het is niet zo dat de overheid, in dit geval de verschillende ministerietorens,
een eenduidige interpretatie, urgentie en beleid hebben. De Staatssecretaris zegt
in haar beantwoording ook dat dit nodig is en dat ze het CIO Rijk-stelsel wil herzien.
Ik moedig de Staatssecretaris aan om daarbij echt stevig te gaan denken vanuit dat
eenoverheidsprincipe.

Het is eigenlijk te treurig om te zien dat de Minister van Financiën terecht zegt
«ik pik het niet als mijn medewerkers die een filmpje hebben opgenomen, racistisch
worden benaderd op sociale media», maar dat we tegelijkertijd zien dat er op heel
veel andere departementen een andere opvatting over de omgang met racisme is. Dan
moet je één lijn trekken, anders wordt het te politiek, te moralistisch, en dat mag
niet op dit onderwerp.

We hebben daar een hoop te doen; de Staatssecretaris heeft daar een hoop te doen.
Ik heb in eerste termijn en in interrupties al gezegd dat ik vind dat de commissie
Digitale Zaken ook moet kijken naar welke rol zij daarin kan spelen als brede, horizontale
commissie in de Kamer, aanjagend richting de regering. Wetende dat de Staatssecretaris
dat ook doet, zullen we elkaar vast versterken.

Dank u wel, voorzitter.

De voorzitter:

Dank u wel, mevrouw Leijten. Mevrouw Dekker.

Mevrouw Dekker-Abdulaziz (D66):

Voorzitter. Dank voor de beantwoording van de Staatssecretaris. Ik maak me nog steeds
een beetje druk over die informatiewet. Mijn hoofdvraag is: hoe zorgen we ervoor dat
we volgend jaar rond deze tijd weten of er wel of niet discriminatoire variabelen
worden gebruikt in algoritmen? We hebben nu opgeruimd wat er is, maar komend jaar
worden er weer nieuwe algoritmen in gebruik genomen. Hoe gaat de Staatssecretaris
daarvoor zorgen? Kan zij toezeggen dat die brief van de regeringscommissaris die met
de informatiewet bezig is, voor de begroting komt?

Ik wil de Staatssecretaris bedanken voor de toezegging over de bias.

Tot slot nog een vraag. De Staatssecretaris gaat met de Minister van Buitenlandse
Zaken in gesprek over visumalgoritmen. Kan zij het resultaat van dat gesprek in een
brief met de Kamer delen?

De voorzitter:

Dank u wel, mevrouw Dekker. De heer Van Baarle.

De heer Van Baarle (DENK):

Voorzitter, dank. Dank voor de beantwoording. Het klopt inderdaad dat de politie wel
is meegenomen; op dat onderdeel was ik abuis, excuses daarvoor. Soms zeg ik iets wat
niet zo is.

De voorzitter:

Ik denk dat dit u sowieso siert en dat we daarin allemaal weer een voorbeeld aan u
kunnen nemen op het moment dat er iets misgaat.

De heer Van Baarle (DENK):

Ja, dus dat zet ik bij dezen graag recht.

Ik ben blij dat de Staatssecretaris toezegt nog naar de opdrachtformulering te kijken.
Nog zo'n zin: «De ADR doet geen onderzoek naar de mate van accuraatheid, juistheid
en volledigheid». Er staat dus expliciet dat hij daar geen onderzoek naar doet. Dit
beperkt gewoon de scope van het onderzoek. Dank aan de Staatssecretaris dat ze daarnaar
wil kijken. Dit beperkt het gewoon.

Voorzitter. Als het gaat om de definities, kijk ik op een andere manier naar de tabel
van de rapporteurs, die ik nogmaals dank voor het werk. Cruciale onderdelen van wat
afkomstgerelateerd is, zijn gewoon niet door ministeries meegenomen. Ook de definitie
van een risicomodel is niet centraal gehanteerd. Ik blijf er dus bij dat het in deze
operatie aan coördinatie heeft geschort, ook aan de zijde van deze Staatssecretaris,
met name omdat zij ervoor verantwoordelijk is. Ik stel haar dus de vraag hoe we op
het vlak van de coördinatie snel met elkaar helderheid krijgen over de definitie,
zodat we wel op een goede manier aan de slag kunnen.

De voorzitter:

Dank u wel, meneer Van Baarle. De heer Rahimi.

De heer Rahimi (VVD):

Dank u wel, voorzitter. Ik wil nog even melden dat dit de heer Van Baarle siert.

Voorzitter. De Staatssecretaris zei dat de heer Slootweg een vraag had over de USB-stick,
maar die vraag had ik ook. Ik ben blij te horen dat dat uitgeschakeld is. Het is vrij
makkelijk om een USB-stick erin te zetten of niet, maar ik wil er wel voor waarschuwen
dat je ook via een drive of via de mail alsnog een zipbestandje kunt sturen, want
de tekstdata zijn heel groot. Ik ga ervan uit dat ook daarnaar wordt gekeken als het
gaat om het naar huis mailen van bestanden, en niet alleen naar de USB-stick. Dat
was mijn gedachte.

Ik ben ook blij dat er is gesproken over de federatieve datalinks waarbij er verbanden
worden gelegd. Daar zit inderdaad een stuk gevaar in.

Dan het derde punt. Mevrouw Dekker-Abdulaziz had het over de biascheck. Dat triggerde
mij toch wel. Als ik goed heb geluisterd, kunt u dit af en toe checken. «Af en toe»
vind ik best lastig. In welke mate is dat? Vaak vragen wij dingen als Kamer, maar
als IT'er heb ik dan altijd de vraag of het technisch realiseerbaar is. Al die data
vinden en bij elkaar verzamelen is al best een klus. Daar ben je een jaar mee bezig.
Als we zoiets toepassen, is het dan technisch haalbaar en realistisch? De Staatssecretaris
zei: ik ga ernaar kijken. Dat is dus nog een vraag die ik heb.

De voorzitter:

Dit roept een vraag op van mevrouw Dekker.

Mevrouw Dekker-Abdulaziz (D66):

Ja, even om de vraag scherper te maken. Ik heb gevraagd om het af en toe te doen,
dus dat betekent enkele algoritmes per jaar. Als je een algoritme hebt, is er een
wetenschappelijke methode om bias te onderzoeken. Die bestaat al, dus die hoeft de
Staatssecretaris niet zelf uit te vinden. Ik heb geen vraag, maar ik help mijn collega
van de VVD even.

De voorzitter:

Ik zie hem glunderen, dus hij is daar heel blij mee. We gaan door naar mevrouw Kathmann.

Mevrouw Kathmann (PvdA):

Ja. Ik vind het mooi dat uit dit debat in ieder geval het voorstel van mevrouw Leijten
over de advisering is voortgekomen. Ik denk dat dat een mooie rol is voor ons als
commissie en dat het ook belangrijk is bij dit onderwerp.

Vooralsnog ben ik blij met de toezegging over de gesprekken die lopen met de medeoverheden.
Ik vind wel dat we daar scherp op moeten zijn, omdat daar juist de crux zit en omdat
daar vaak weer een journalist opduikt. Dat is voor de mensen in de praktijk echt niet
fijn. Dat wil ik er wel bij gezegd hebben. We zitten nu te veel in een blaming-and-shamingcultuur,
waardoor heel veel dingen die misgaan niet naar boven komen, terwijl we toe moeten
naar een cultuur waarin iedereen die bij onze medeoverheden werkt en denkt «wat heb
ik hier nou eigenlijk onder de motorkap; ik weet niet hoe het werkt en ik kan dit
niet doorgronden», een check kan doen. Als je dan niet in twee stappen iemand kunt
bereiken die dat wel kan, kun je inderdaad een hulplijntje met de VNG inzetten. Je
bent dan een soort held die het meldt, want alleen zo kunnen we het gif van de foute
algoritmen en dataprofilering tegengaan.

De voorzitter:

Dank u wel, mevrouw Kathmann. Ik vraag mevrouw Leijten om het voorzitterschap even
over te nemen.

Voorzitter: Leijten

De voorzitter:

Maar natuurlijk. Aan het woord is de heer Slootweg namens de CDA-fractie.

De heer Slootweg (CDA):

Dank u wel. Ik dank de Staatssecretaris voor haar antwoorden. Ik wil kijken of ik
één ding goed heb begrepen. Ook ik zag dat er op de verschillende ministeries op een
andere manier is gekeken. Begrijp ik goed dat dit ten eerste gebeurt omdat een wettelijke
grondslag soms net even iets anders is geformuleerd en ten tweede omdat er is gekeken
of de uitkomst van de drie factoren nog onderdelen bevatten die tot verder onderzoek
nopen? Dat was mijn vraag.

Dank u wel, voorzitter.

De voorzitter:

Dank u wel, meneer Slootweg. Dan geef ik u het voorzitterschap weer terug.

Voorzitter: Slootweg

De voorzitter:

Dank u wel. Ik kijk naar de Staatssecretaris. Lukt het om direct te antwoorden of
moeten we even schorsen?

Staatssecretaris Van Huffelen:

Nee, volgens mij heb ik alles wel.

De voorzitter:

Ja? De Staatssecretaris.

Staatssecretaris Van Huffelen:

Met dank. Er zijn nog een paar vragen door uw Kamer gesteld in tweede termijn.

Er was een vraag van mevrouw Dekker-Abdulaziz over de informatiewet. Dat is niet het
enige wat we hier hebben. Die gaat vooral over data en de manier waarop we die verwerken,
opslaan, toegankelijk maken enzovoorts. Wij hebben uw Kamer toegezegd dat wij voor
algoritmes een implementatiekader gaan maken. Daarvan gaan we de eerste versie al
voor de zomer aan u opleveren. Daarin staat meer over algoritmes, over hoe je die
verantwoord kunt toepassen, hoe je dat kunt toetsen en natuurlijk ook hoe we daarover
kunnen rapporteren. Daar is het register een onderdeel van enzovoort, enzovoort. Dus
dat komt.

Dan was de vraag of de regeringscommissaris nog voor de begroting een brief kan sturen.
Dat kan ik hem natuurlijk vragen, maar hij is onafhankelijk, dus hij gaat er zelf
over of hij u daarover informeert.

Dan het Ministerie van Buitenlandse Zaken. Mijn collega gaat zelf onderzoek doen en
het gesprek voeren met de Autoriteit Persoonsgegevens. Ik zou vooral aan hem willen
vragen om daarover te rapporteren. Anders krijgen we een soort van through. Dus ik
denk dat het goed is dat het ministerie dat ook doet. Daar zal ik het Ministerie van
Buitenlandse Zaken naar vragen.

Dan de vraag van de heer Van Baarle. Onze indruk op basis van onze coördinerende taak
is dat de ministeries goed hebben gekeken naar hun systemen en processen en dat ze
geen andere invulling hebben gegeven aan definities of dat er hele andere soorten
rapportages of andere dingen uit zijn gekomen. Ik vind niet alleen van belang wat
ik vind of wat hij vindt, maar ook dat we dat nog een keertje goed laten toetsen.
Ik heb al eerder toegezegd dat ik aan de ADR vraag om nog even naar hun opdracht te
kijken, want het idee is dat onderdeel van hun onderzoek is of de ministeries daadwerkelijk
het werk hebben gedaan dat inzicht geeft in waar afkomstgegevens worden verwerkt en
of dat op een manier gebeurt die mag, waarvoor er een basis is.

De voorzitter:

Ik wil de heer Van Baarle nog even de gelegenheid geven een slotvraag te stellen die
alles samenvat.

De heer Van Baarle (DENK):

Niet zozeer alles; ik heb een vraag over de ADR. Wanneer kunnen we een nieuwe opdracht
dan wel een brief van u tegemoetzien waarin staat dat u daar nog even naar hebt gekeken?
Want we gaan hopelijk wel snel aan de slag met die toets.

Staatssecretaris Van Huffelen:

De ADR gaat op 1 juli beginnen. Dat is inderdaad over een paar weken. Ik zal nog even
specifiek vragen om te kijken of er nu geen dingen gemist gaan worden. Daar ga ik
nog even naar kijken. Ik zal antwoord geven op de vraag of er nog een aanvulling nodig
is op de opdrachtverlening, maar wat mij betreft kunnen ze alvast aan de slag.

Dan de vraag van de heer Rahimi. Natuurlijk kijken we in het kader van alles rondom
cybersecurity heel goed naar wat je wel en niet kunt doen met het gebruik van allerlei
gegevensdragers, doormailen enzovoorts, enzovoorts. Daar wordt door ons en door de
verschillende departementen heel goed naar gekeken.

We hadden het ook over die bias-checks. We gaan daarnaar kijken in het kader van het
implementatiekader waar ik het eerder over had, maar het is nog niet eenvoudig. We
zijn dus aan het kijken hoe je bias gedurende het gebruik van een algoritme precies
moet onderzoeken. Hij vroeg of dat technisch mogelijk is. Het gaat hier niet alleen
over de techniek maar ook over het vinden van een manier om die checks op een goede
manier te blijven doen.

Mevrouw Kathmann herhaalde de vraag of het mogelijk is om even goed te kijken of er
ook gebeld kan worden. Dat had ik al eerder toegezegd. Daar wil ik met de VNG graag
over overleggen. Overigens hebben gemeenten al functionarissen gegevensbescherming
enzovoorts, enzovoorts. Dus er zijn al plekken waar je terechtkunt als je je zorgen
maakt, maar het is goed als we dit nog een keertje opnemen met de ministeries.

De heer Slootweg vroeg nog als check: klopt het dat departementen alleen op een andere
manier gekeken hebben als dat het uitvloeisel is van het feit dat ze ook een andere
taak hebben? Dat is ook zo. Sommige departementen zijn verder gaan graven naar afkomstgerelateerde
indicatoren op basis van de verwerkingen die bij hen plaatsvinden. Op basis daarvan
hebben ze sowieso naar al die basisindicatoren gekeken, maar soms hebben ze ook doorgegraven
op het lijstje dat ik al eerder opnoemde, om nog beter te zien of er geen afgeleide
indicatoren zijn die toch nog zouden kunnen wijzen op het gebruik van afkomst, etniciteit,
geboorteplaats, nationaliteit of anderszins. Nogmaals, het werk is, voor zover ik
kan overzien, echt naar eer en geweten gedaan door de departementen, maar het is goed
dat we dat nog een keertje laten bekijken door de ADR. Die gaat daar vanaf 1 juli
mee aan de slag. Het is ook goed en niet onbelangrijk dat we ervoor zorgen dat er
niet opnieuw vervuilde data kunnen worden gevonden, zoals dat gebeurde bij de Belastingdienst.
Daarom moeten we de randvoorwaarden en de vangrails goed inrichten de komende tijd.
Daar zijn we hard mee bezig, niet alleen op basis van grotere internationale trajecten,
zoals de invoering van die AI-verordening, maar zeker ook in Nederland door de invoering
van alle toetsen die we daarvoor hebben ingezet en door dat implementatiekader, waarvan
u een eerste versie voor de zomer van mij ontvangt.

Dank u wel.

De voorzitter:

Dank u wel voor de beantwoording. Er is een enkele toezegging en volgens mij ook een
oproep van mevrouw Leijten. Ik denk dat het verstandig is dat we die meenemen naar
de procedurevergadering van de commissie voor Digitale Zaken, want daar moet toch
een opdracht uitrollen. Dat zullen we volgende week doen. Ik hoop dat mevrouw Leijten
daarbij aanwezig kan zijn. Anders moeten we even goed kijken hoe de afstemming kan
plaatsvinden.

Dan is er nog een enkele toezegging. Laten we even checken dat we elkaar goed hebben
verstaan.

– De Staatssecretaris zal de regeringscommissaris verzoeken om de Kamer te informeren
over de termijn waarop de informatiewet naar de Kamer komt of misschien meer over
hoe het proces zal plaatsvinden, zodat we een beetje weten wat we kunnen verwachten.
Ja? Een stukje verwachtingenmanagement van die kant.

– De Staatssecretaris zal Buitenlandse Zaken vragen de Kamer te informeren over de uitkomsten
van de gesprekken over de visumalgoritmes.

– De Staatssecretaris informeert de Kamer over de vraag of de opdrachtgeving aan de
ADR aangepast moet worden of dat die verder geëxpliciteerd kan worden, zodat we zeker
weten dat er geen zaken gemist gaan worden.

Daar is eigenlijk geen termijn bij. Heeft u enig idee? Want ze gaan per 1 juli aan
de slag.

Staatssecretaris Van Huffelen:

Ik ga even kijken of we dat voor 1 juli kunnen doen.

De voorzitter:

Ja? Dan wil ik de Staatssecretaris nogmaals bedanken en dan wil ik de commissieleden
nogmaals bedanken, omdat jullie ook een beetje oog hebben gehad voor mijn agendaprobleem.

Sluiting 12.02 uur.