Antwoord schriftelijke vragen : Antwoord op vragen de leden Azarkan en Dekker-Abdulaziz over het bericht over het algoritmeregister

Antwoord van Staatssecretaris Van Huffelen (Binnenlandse Zaken en Koninkrijksrelaties)
(ontvangen 5 juli 2023).

Vraag 1

Wat is uw reactie op het bericht van de NOS?1

Antwoord 1

Het Algoritmeregister maakt deel uit van een breder pakket aan maatregelen voor verantwoorde
inzet van algoritmen uit de Werkagenda Waardengedreven Digitaliseren. Zo is begin
dit jaar de algoritmetoezichthouder gestart. Voor de zomer ontvangt uw Kamer nog een
eerste versie van het implementatiekader verantwoorde inzet van algoritmen voor de
overheid. Het kabinet werkt daarnaast aan de Wet versterking waarborgfunctie Awb.
Op Europees niveau wordt er gewerkt aan de AI-verordening en binnen de Raad van Europa
aan het AI-verdrag. Hierbij is het Algoritmeregister een deel van de oplossing, maar
wel een belangrijk onderdeel. Daarmee lopen we voorop in Europa.

Het Algoritmeregister is in december 2022 van start gegaan, met de inzichten en algoritmen
die we toen hadden. Ik wilde niet wachten tot alles helemaal perfect was en tot we
alle algoritmen in beeld hadden. In de brief die ik toen stuurde heb ik toegezegd
het register door te ontwikkelen. Dat ben ik ook aan het doen. Er is een eerste werkdefinitie
van welke algoritmen in het Algoritmeregister horen: ten minste de hoog-risico AI-systemen
volgens de definitie van de Raadstekst van de AI-verordening. De velden die ingevuld
moeten worden in het register worden doorontwikkeld. Daarnaast loopt er een doelgroepenonderzoek.
Ik heb het verder makkelijker gemaakt voor overheden om aan te leveren via een webformulier
of via hun eigen (interne) register.

Het is nu aan overheden om hun algoritmen te publiceren. Sinds de lancering heeft
een aantal organisaties algoritmen gepubliceerd. Van veel weet ik dat zij bezig zijn
met de voorbereidingen. Zoals het NOS-artikel opmerkt, is bij een aantal algoritmen
nog niet alle velden ingevuld. Een aantal organisaties heeft dit al verbeterd. Anderen
hebben aangegeven hiermee aan de slag te gaan, waaronder de gemeente Utrecht.

Ik wijs overheden actief op het publiceren van algoritmen en ook spreek ik mijn collega’s
in het kabinet erop aan. Het inventariseren, beleggen van verantwoordelijkheden en
het uiteindelijke registreren kost echter tijd en capaciteit voor overheidsorganisaties,
omdat dit zorgvuldig moet en tot een toegankelijk resultaat moet leiden. De ambitie
is om het Algoritmeregister in 2025 volledig gevuld te hebben met alle algoritmen
die voldoen aan de definitie van hoog-risico AI. In de tussentijd zijn we al aan de
slag waarbij we de door uw Kamer aangenomen motie meenemen om nieuwe algoritmen op
te nemen en te komen tot een planning per departement.2

Ik vind het goed dat er, terwijl in de hele overheid mensen aan het werk zijn, zo
kritisch gekeken wordt naar het functioneren van het Algoritmeregister. Om die reden
voeren we een open proces waarin iedereen kan meedenken over het register. Met de
feedback gaan we aan de slag.

Vraag 2

In hoeverre voldoet het huidige algoritmeregister aan het doel om meer transparantie
te creëren?

Antwoord 2

Het Algoritmeregister als instrument biedt nu al meer transparantie, als deel van
een breder pakket aan maatregelen zoals ook genoemd in het antwoord bij vraag 1. Als
een algoritme geregistreerd is, wordt allereerst het bestaan duidelijk. Het geeft
daarnaast inzicht waarvoor het gebruikt wordt, waarom het gebruikt wordt en hoe het
gebruikt wordt. In het bijzonder moet het ook inzicht geven in welke gegevens van
burgers en bedrijven daarbij gebruikt worden. We voeren momenteel een doelgroepenonderzoek
uit en hanteren een open aanpak, waarin mensen kunnen meedenken.

Het is voor de transparantie van belang dat alle relevante algoritmen gepubliceerd
worden door overheden. En dat kan natuurlijk beter. Er zijn momenteel 123 algoritmen
geregistreerd. Bij een deel daarvan zijn alle velden ingevuld. Natuurlijk is het doel
van het Algoritmeregister pas bereikt, als het gevuld is met alle relevante algoritmen.
Zoals eerder genoemd, stimuleer ik overheden om te publiceren en zoveel mogelijk velden
in te vullen.

Vraag 3

In hoeverre is de Staatssecretaris nog van plan om het algoritmeregister aan te passen,
om bijvoorbeeld meer inzage te geven in de beslismodellen?

Antwoord 3

Het register biedt nu al de mogelijkheid daar inzage in te bieden. In de meest recente
versie van de publicatiestandaard is het veld «Technische werking», waarin uitgelegd
kan worden hoe het algoritme werkt, en is er de mogelijkheid om te linken naar de
broncode.

Een andere ambitie uit de Werkagenda Waardengedreven Digitaliseren is het inzicht
bieden in welke «regels» gehanteerd worden (actie 3.3.2). Er wordt gekeken naar hoe
het register hier een rol in kan spelen.

Vraag 4

Deelt de Staatssecretaris de opvatting dat het register juist inzage zou moeten bieden
op basis waarvan beslissingen worden genomen, bijvoorbeeld dat nationaliteit een rol
speelt bij de risico-inschatting van het algoritme bij een visumaanvraag bij het Ministerie
van Buitenlandse Zaken?

Antwoord 4

Ik ben het met u eens dat het register inzage zou moeten bieden in wat voor gegevens
gebruikt worden door algoritmen, in het bijzonder waar het bijzondere persoonsgegevens
betreft. Met onder meer het veld «Gegevens» biedt het Algoritmeregister daar de ruimte
voor.

Vraag 5

Kan de Staatssecretaris een inschatting geven hoe vaak het algoritmeregister wordt
geraadpleegd?

Antwoord 5

Ruim 10.000 bezoekers hebben sinds openstelling de website bezocht. Gemiddeld bezoeken
400 mensen per week het Algoritmeregister.

Decentrale algoritmeregisters zoals die van het UWV en de gemeente Amsterdam zijn
hierin niet meegenomen.

Vraag 6

Wanneer wordt het algoritmeregister geëvalueerd?

Antwoord 6

Zoals ook toegelicht in vraag 1, is het Algoritmeregister nog volop in ontwikkeling.
Er is daarom sprake van continue evaluatie. Het doelgroepenonderzoek is daarvan een
belangrijk onderdeel. Ook het open proces dat we voeren is daar onderdeel van, waarin
iedereen feedback kan geven op het register.

Vraag 7

Hoeveel hoog-risico algoritmes worden binnen de rijksoverheid ingezet?

Antwoord 7

Daar is momenteel geen zicht op. De vulling van het Algoritmeregister moet daar inzicht
in gaan geven.

Vraag 8

In hoeverre klopt het dat direct na de inwerkingtreding van de AI Act het verplicht
wordt om algoritmes in het register op te nemen? Zo nee, op welke termijn verwacht
de Staatssecretaris wetgeving in te dienen?

Antwoord 8

Ja, dat klopt. De AI-verordening zal een verplichting bevatten voor het registreren
van AI-systemen in een Europese database. De details van deze verplichting, waaronder
de te registreren informatie, hangt echter af van de uitkomst van de triloog tussen
het Europees Parlement, de Europese Raad en de Europese Commissie. Ik wil de nationale
verplichting in samenhang bekijken met de inwerkingtreding van de AI-verordening.
Het is belangrijk dat regels uit de AI-verordening en die voor het register goed op
elkaar aansluiten. Dit om te voorkomen dat de uitvoeringspraktijk met steeds andere
verplichtingen wordt geconfronteerd.