Brief regering : Stand van zaken Algoritmeregister

Nr. 950
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 december 2022

In de Werkagenda Waardengedreven Digitaliseren kondigde ik de spoedige publicatie
aan van de eerste versie van een publiek algoritmeregister.1 Uw Kamer heeft eerder met twee moties gevraagd om respectievelijk het opzetten en
ook het verplicht stellen van een algoritmeregister.2

Het register wordt op 21 december 2022 gepubliceerd op het webadres https://algoritmes.overheid.nl. Dit centrale onderdeel van het publieke algoritmeregister maakt de door overheden
gepubliceerde gegevens over de algoritmes op één plek doorzoekbaar voor iedereen.

Zoals vastgelegd in het coalitieakkoord3 wil het kabinet dat algoritmes wettelijk worden gecontroleerd op discriminatie en
willekeur. Een belangrijke voorwaarde daarvoor is transparantie over algoritmes en
hun toepassing. Tot nu toe schiet de transparantie over de inzet van algoritmes door
de overheid nog vaak tekort. Burgers moeten erop kunnen vertrouwen dat algoritmes
voldoen aan publieke waarden en de daarvan afgeleide (wettelijke) normen en dat uitgelegd
wordt hoe ze werken. Op basis daarvan kunnen burgers de overheid desgewenst kritisch
volgen en bevragen of zij zich aan de regels houdt. Het algoritmeregister kan een
belangrijke bijdrage leveren aan het beter uitlegbaar maken van de toepassing en uitkomst
van algoritmes.4

Bij de ontwikkeling van het publieke algoritmeregister is gebruik gemaakt van kennis
uit pilots en ervaringen met de bestaande algoritmeregisters van overheidsorganisaties.
Het is belangrijk om te benadrukken dat dit register een eerste versie is. Er is hard
gewerkt om deze versie te realiseren. Daarmee laat ik zien hoe het kan werken, maar
verdere doorontwikkeling is beslist nodig. Het komend jaar zal in overleg met overheden
gewerkt worden aan een eenduidige registratie van algoritmes. Daarbij benut ik graag
ook alle inbreng van experts, maatschappelijke organisaties en natuurlijk van de leden
van uw Kamer.

Stappen die gezet zijn in 2022

Het verzoek van uw Kamer en de aankondiging van een algoritmeregister in de Werkagenda
zet overheidsorganisaties in beweging. Uitgangspunt is dat overheidsorganisaties zelf
verantwoordelijk zijn voor het inzage geven in algoritmes en daarmee het opstellen
en het beheer van een algoritmeregister. Hieronder vallen ook het borgen van de kwaliteit,
compliance en interne implementatie van het register. Steeds meer overheidsorganisaties
gaan ook over tot publicatie van hun algoritmes, of overwegen dit op korte termijn
te doen. Zoals ook aangegeven in de verzamelbrief publieke controle op algoritmes,
is dit najaar een aantal overheidsorganisaties gevraagd om algoritmes die de afgelopen
tijd zijn onderzocht zoveel mogelijk voor het eind van het jaar te publiceren.5 Informatie over een deel van deze algoritmes is sindsdien gepubliceerd en de verwachting
is dat snel meer zullen volgen. De website die op 21 december gelanceerd wordt, maakt
zoals gezegd de gepubliceerde gegevens over algoritmes op één plek zichtbaar.

Van belang is verder dat de centrale registratie van algoritmes eenduidig en bruikbaar
moet zijn. Daartoe moeten overheden hun algoritmes op dezelfde wijze beschrijven.
Een metadatastandaard is noodzakelijk voor die eenduidigheid. In de eerste versie
van het algoritmeregister wordt gebruik gemaakt van de metadatastandaard van het innovatieproject
«consortium Publieke controle op algoritmes».6 Deze is gebaseerd op een veelheid aan bronnen, waaronder het toetsingskader van de
Algemene Rekenkamer, verschillende algoritme impact assessmentmethodieken en bestaande
registers, waaronder dat van de gemeente Amsterdam. Het gaat dan bijvoorbeeld over
het doel en de impact van het algoritme, en of er een risicoanalyse is uitgevoerd
voorafgaande aan de ingebruikname.7 Om deze metadatastandaard te toetsen heeft het consortium Publieke controle op algoritmes
een reeks sessies georganiseerd met een brede groep overheden. Zelf heb ik dit najaar
een werkgroep opgezet waar overheidsorganisaties meedenken over de vormgeving van
het algoritmeregister en hun ervaringen delen. De huidige metadatastandaard is een
eerste versie en wordt, samen met andere departementen, uitvoeringsorganisaties, provincies
en gemeenten, doorontwikkeld.

De broncode van het algoritmeregister zelf staat online, zodat de opzet van het register
transparant is en suggesties voor verbeteringen gedaan kunnen worden.8 In aanloop naar de lancering is gesproken met maatschappelijke organisaties op het
gebied van mensenrechten en met andere experts uit de buitenwereld die met ontwikkelingen
als deze willen meedenken. Hun suggesties zijn waar het kon al verwerkt in de huidige
versie van het register. Ook de doorontwikkeling doen wij in alle openheid.

Doorkijk op het vervolg

Met de lancering van dit centrale onderdeel van het publieke algoritmeregister is
de eerste stap gezet naar transparantie over en uitlegbaarheid en controleerbaarheid
van algoritmes die worden gebruikt door de Nederlandse overheid. Het komende jaar
zal ik een aantal vervolgstappen zetten: de metadatastandaard verder ontwikkelen,
de website verbeteren, publicatie van algoritmes door overheidsorganisaties stimuleren
en de verplichtstelling voorbereiden.

In de huidige versie van het register zijn de gegevens handmatig ingevoerd, in overleg
met de betrokken overheidsorganisaties. We gaan toewerken naar het automatisch ophalen
van informatie uit decentrale algoritmeregisters. Overheidsorganisaties die geen eigen
algoritmeregister hebben, kunnen informatie over hun algoritmes rechtstreeks in het
centrale register plaatsen.

Uw Kamer heeft met de motie van het lid Dassen c.s. opgeroepen het gebruik van het
algoritmeregister verplicht te stellen voor overheden.9 Daarvoor is het belangrijk om de reikwijdte van het register te bepalen en een definitie
op te stellen van de algoritmes die daarin moeten worden opgenomen. In 2023 zal het
kabinet verdere stappen zetten om de beleidsmatige en juridische keuzes daarvoor te
maken. Die keuzes zijn mede afhankelijk van de voorgestelde Europese AI-verordening
en zullen gemaakt worden in nauw overleg met departementen, uitvoeringsorganisaties,
gemeenten, provincies en waterschappen. De verplichtingstelling zal vermoedelijk op
zijn vroegst in 2024 ingaan. Daaraan voorafgaand zal, op zijn vroegst in het laatste
kwartaal van 2023, een uitvoeringstoets worden gedaan.

Een verplicht algoritmeregister wil ik bezien in samenhang met de voorgestelde AI-verordening.
Die bevat een verplichting om hoog-risico AI-systemen die in de Europese Unie op de
markt zijn en beschikbaar voor gebruik, op te nemen in een publiek toegankelijke EU-databank.
De AI-verordening is het uitgangspunt, maar deze is nog niet definitief vastgesteld.
Zodra dit wel het geval is zal ik, in overleg met departementen, uitvoeringsorganisaties,
gemeenten, provincies en waterschappen, bezien of het wenselijk is om aanvullende
eisen te stellen aan overheidsalgoritmes.

In de aanloop naar verplichtstelling zal het kabinet overheidsorganisaties stimuleren
om waar mogelijk hun (hoog-risico) algoritmes te publiceren.10 Dergelijke publicatie kan wel begrensd worden door wettelijke of gerechtvaardigde
uitzonderingen die van toepassing zijn in het kader van bijvoorbeeld opsporing, rechtshandhaving,
defensie of inlichtingenverzameling. De eerdergenoemde werkgroep van overheidsorganisaties
zal worden voortgezet en uitgebreid. Binnen deze werkgroep zullen ervaringen worden
gedeeld. De verwachting is dat de werkgroep een belangrijke rol kan vervullen om overheden
te ondersteunen bij de publicatie van hun algoritmes.

In 2023 zal de metadatastandaard geëvalueerd en verder ontwikkeld worden. Met het
Forum Standaardisatie zal worden bekeken of de metadatastandaard kan worden opgenomen
als verplichte standaard en hoe beheer en onderhoud het beste kunnen worden ingericht.

Ik ben blij dat het algoritmeregister er is. Ik zie het als een eerste stap in een
proces die meer duidelijkheid biedt hoe de overheid algoritmes met impact inzet. De
komende tijd zal het register worden uitgebreid en doorontwikkeld. Ook zullen meer
instrumenten worden geïntroduceerd om algoritmes te reguleren, waaronder een implementatiekader
algoritmes, de al genoemde voorgestelde Europese AI-verordening en het toezicht op
algoritmes waarover uw Kamer binnenkort een aparte brief ontvangt.

In het vierde kwartaal van 2023 informeer ik uw Kamer, als onderdeel van de rapportage
over de Werkagenda Waardengedreven digitaliseren, over de vorderingen.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
A.C. van Huffelen