Brief regering : Planning en voortgang Algoritmeregister SZW

Nr. 1132
BRIEF VAN DE MINISTERS VAN SOCIALE ZAKEN EN WERKGELEGENHEID EN VOOR ARMOEDEBELEID,
PARTICIPATIE EN PENSIOENEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 13 februari 2024

Het gebruik van algoritmen is belangrijk voor het efficiënt en doelmatig functioneren
van de overheid. Dit gebruik dient zorgvuldig en transparant te gebeuren. Het gebruik
van algoritmen kan immers soms risico’s met zich meebrengen. Dit geldt uiteraard ook
voor het Ministerie van SZW en haar uitvoeringsorganisaties. Het Algoritmeregister
draagt bij aan het transparant en uitlegbaar maken van de toepassing en uitkomst van
algoritmen. Dit helpt om duidelijk te maken welke algoritmen voor welke doeleinden
worden ingezet en hoe dit op een verantwoorde manier gebeurt.

In de verzamelbrief van BZK «Algoritmen reguleren» van 7 juli 2023 (Kamerstuk 26 643, nr. 1056) aan uw Kamer staat dat met alle ministeries wordt afgesproken dat het Algoritmeregister
up-to-date is in 2025 en dat dan ten minste de Hoog Risico algoritmen hierin geregistreerd
zijn. Verder is door de CIO Rijk gevraagd aan de ministeries om te komen tot een planning
per departement. In deze brief informeren wij uw Kamer over de voortgang en de planning
van het Algoritmenregister van SZW.

Op dit moment bevat het Algoritmeregister vijftien algoritmen van organisaties die
binnen het domein SZW1 vallen. Het gaat om algoritmen van UWV (acht), de SVB (zes) en het kerndepartement
SZW (één).

Aanpak

Het vullen van het Algoritmeregister vraagt om het doorlopen van vier kernstappen:
(i) het inventariseren, (ii) het beoordelen, (iii) het administreren en (iv) het publiceren.
Allereerst moeten alle algoritmen geïnventariseerd worden. In de beoordelingsfase bepalen we vervolgens welke algoritmen in het Algoritmeregister moeten worden opgenomen.
Prioriteit ligt bij de zogeheten Hoog Risico algoritmen in het voorstel van de Artificial
Intelligence (AI) Verordening. Dan volgt de administratiefase. Tijdens deze fase worden algoritmebeschrijvingen opgesteld, wordt de benodigde organisatie
ingeregeld, de informatie gecontroleerd en vindt de uiteindelijke besluitvorming over
publicatie plaats. Tot slot volgt de publicatie van de algoritmen.

Ons streven is dat in 2024 alle organisaties binnen het domein SZW waar mogelijk hun
inventarisatie afgerond hebben en tenminste één algoritme gepubliceerd hebben, als
zij die hebben. Conform de motie van uw Kamer2 zullen nieuwe Hoog Risico algoritmen direct worden opgenomen in het Algoritmeregister.

Aandachtspunten

Het domein SZW heeft nog geen administratie voor het bijhouden van en rapporteren
over algoritmen. Verder is de rijksbreed gehanteerde definitie zeer ruim. Elke handeling
waarbij een computer betrokken is, gebruikt volgens deze definitie3 algoritmen. Ook biedt de terminologie uit de concepttekst van de AI Verordening beperkt
houvast. De term Hoog Risico is op zich duidelijk. In feite gaat het hier om ondoorgrondelijke
techniek (zoals een zelflerend algoritme) met rechtsgevolgen voor natuurlijke personen.
De term Impactvol is erg breed gedefinieerd. Dit maakt het inventariseren, het beoordelen,
het administreren en het publiceren van algoritmen een complex en arbeidsintensief
proces, waar ervaring mee op moet worden gedaan.

SZW bouwt deze ervaring nu op. We leren hoe diep in een algoritme gekeken moet worden
om de werking te doorgronden; hoe we complexe techniek op begrijpelijke wijze kunnen
beschrijven; wat er georganiseerd moet worden; en hoe bijvoorbeeld de afweging moet
plaatsvinden tussen enerzijds de terechte roep om openheid en anderzijds de soms noodzakelijke
terughoudendheid in het geval van bijvoorbeeld fraudebestrijding. Uitvoering hiervan
vindt plaats door experts, zoals datascientists en programmeurs, die schaars zijn
en ook belangrijke taken hebben op andere gebieden, zoals het moderniseren van ICT-systemen.

Deze brief bevat een eerste inschatting van te publiceren algoritmen. Dit beeld kan
en zal naar verwachting de komende jaren wijzigen. Deels vanwege het voorgaande, maar
ook omdat er nieuwe algoritmen kunnen worden ontwikkeld, die voor publicatie in aanmerking
komen, en er in de toekomst mogelijk nieuwe eisen aan publicatie worden gesteld.

Organisatie specifiek

UWV

UWV heeft inmiddels acht algoritmen in het nationale algoritmeregister ontsloten en
op de eigen website gepubliceerd4. Op korte termijn komen er daar nog vier bij. Hiermee zijn alle Hoog Risico algoritmen
– in de zin van de AI Verordening – die op dit moment bij UWV in gebruik zijn, gepubliceerd.

Verder loopt bij UWV een grondige nieuwe inventarisatie van alle algoritmen die in
gebruik of in ontwikkeling zijn. Deze heeft een bredere scope: niet alleen Hoog Risico
algoritmen, maar ook algoritmen die vanwege hun impact en de schaal waarop ze worden
toegepast in aanmerking kunnen komen voor publicatie. Een voorbeeld daarvan is de
Klantapplicatie WW (Klantapplicatie WW (uwv.nl)). Deze categorie algoritmen wordt in de loop van 2024 gepubliceerd op de eigen website
en het nationale algoritmeregister.

Verder ontwikkelt en onderhoudt UWV voortdurend nieuwe en bestaande algoritmen. Het
algoritmeregister is dus nooit af.

SVB

De SVB heeft de zes algoritmen met het hoogste risico gepubliceerd op de eigen website5 en in het nationale algoritmeregister ontsloten. In lijn met de wettelijke verplichtingen
die volgen uit de AI Verordening en nationale wetgeving heeft de SVB een algoritmebeleid
opgesteld. De implementatie van het algoritmebeleid zal de komende jaren vorm krijgen
en daarmee ook het inventariseren, categoriseren en publiceren van eventuele aanvullende
Hoog Risico algoritmen in de bedrijfsprocessen van de SVB.

Inlichtingenbureau

In 2024 start het IB met het publiceren van één algoritme. Dit dient als casus om
te ervaren wat er bij publicatie komt kijken. In totaal is het IB (mede)verantwoordelijk
voor 25 algoritmen. Dit zijn allemaal Hoog Risico algoritmen. Het IB zal inventariseren
hoeveel capaciteit en welke kennis en processen nodig zijn om de publicatie op te
schalen, zodat het IB eind 2025 voldoet aan de verplichting om al de algoritmen waar
het IB (mede)verantwoordelijk voor is te publiceren.

Dit is een forse opgave voor een kleine organisatie als het IB. SZW gaat daarom het
gesprek aan met het IB om te onderzoeken hoe het publiceren van algoritmen kan worden
bespoedigd. Bij de volgende rapportage over de planning en voortgang van het Algoritmenregister
wordt hierop teruggekomen.

Kerndepartement SZW en Arbeidsinspectie

Kerndepartement

Het kerndepartement SZW heeft een eerste inventarisatie van Hoog Risico algoritmen
uitgevoerd. Dit type algoritme is niet aangetroffen. Wat betreft Impactvolle algoritmen
is de verwachting dat het aantal zeer beperkt zal zijn. Een adequate administratie
ontbreekt echter nog, waardoor er nog geen zekerheid kan worden gegeven over de aanwezigheid
van Hoog Risico en Impactvolle algoritmen. Ook is SZW soms opdrachtgever van ketens
van ICT-uitvoerders, waarbinnen sprake kan zijn van algoritmen. In 2024 en 2025 zal
door het kerndepartement SZW gewerkt worden aan het opbouwen van een overzicht en
het organiseren van de benodigde processen, waardoor een vollediger zicht ontstaat
op eventueel aanwezige algoritmen.

Er is één algoritme gepubliceerd: het NOW-algoritme. Dit is een Impactvol algoritme.
Verder is een algoritmepublicatiebeleid in ontwikkeling.

Arbeidsinspectie

De Arbeidsinspectie heeft momenteel geen Hoog Risico algoritmen volgens de definitie
van de AI Verordening in gebruik. Een nadere inventarisatie van Impactvolle algoritmen
loopt nog. Na uitvoering van de inventarisatie en toetsing aan het algoritmepublicatiebeleid
SZW wordt besloten welke algoritmen we publiceren in 2024 en 2025.

In het sociale domein wordt hard gewerkt aan het publiceren van algoritmen en de komende
twee jaar trekken we die lijn door. Tegelijkertijd is het goed om op te merken dat
dit een flinke uitdaging is die veel aandacht en inspanning vergt. Publiceren is zeker
geen zaak van «een druk op de knop».

Vervolgproces

Uw Kamer wordt eind 2024 geïnformeerd over de voortgang van het publiceren van algoritmen.

De Minister van Sociale Zaken en Werkgelegenheid,
C.E.G. van Gennip

De Minister voor Armoedebeleid, Participatie en Pensioenen, C.J. Schouten