Brief regering : Ambtelijke projectgroep normering en toezicht algoritmen

Nr. 5
BRIEF VAN DE MINISTER VOOR RECHTSBESCHERMING EN DE STAATSSECRETARISSEN VAN BINNENLANDSE
ZAKEN EN KONINKRIJKSRELATIES EN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 15 oktober 2020

Bij brief van 20 april jl. hebben wij gereageerd op de initiatiefnota «Menselijke
grip op algoritmen» van het lid van uw Kamer Middendorp. Die nota bevatte onder meer
het voorstel om een Taskforce in te stellen die het operationeel toezichtkader voor
algoritmen verder kan uitwerken. In reactie op dit voorstel hebben wij aangegeven
dat het kabinet nader zal verkennen of en, zo ja, op welke punten en in welke vorm
een dergelijke taskforce meerwaarde zou kunnen bieden en op grond daarvan een besluit
zal nemen over het al dan niet instellen daarvan. Met deze brief informeren wij uw
Kamer over de resultaten van deze verkenning en het besluit dat het kabinet daarop
heeft genomen.

De verkenning heeft plaatsgevonden binnen de overlegstructuur van de Nederlandse Digitaliseringstrategie
(NDS). De NDS bundelt kabinetsbreed de ambities voor een succesvolle digitale transitie.
De interdepartementale NDS-structuur dient ter bespreking van en besluitvorming over
onderwerpen op het terrein van digitalisering en daarmee ook beleidsvraagstukken op
het terrein van algoritmen. Zij vormde dan ook de aangewezen structuur om de verkenning
uit te voeren en daaruit conclusies te trekken.1

Met «toezichtkader» wordt in de initiatiefnota gedoeld op het stelsel van normen (wetgeving,
richtlijnen, beleidsinstrumenten) omtrent algoritmen en het toezicht dat op de naleving
daarvan wordt gehouden. Zoals in onze brief van 20 april jl. is aangekondigd, heeft
de verkenning zich toegespitst op de vraag of, en in welke vorm, een taskforce meerwaarde
zou kunnen bieden voor nog openstaande beleidsvraagstukken of lopende trajecten met
betrekking tot de normering en toezicht op algoritmen.2 Ter beantwoording van deze vraag is een eerste inventarisatie gemaakt van dergelijke
beleidsvraagstukken alsook een analyse van de reeds bestaande gremia (interne en externe
overleg-, afstemmings- en adviesstructuren), hun onderlinge verhouding en hun rol
bij beleidsvorming op dit terrein.

Bij de verkenning is tevens aandacht besteed aan de reden en achtergrond van het voorstel
in de initiatiefnota om een taskforce in te stellen. Naast de initiatiefnota is daarbij
ook rekening gehouden met het recente rapport van de Tijdelijke commissie Digitale
toekomst en de onderbouwing door Kamerlid Middendorp van zijn voorstel in andere stukken,
overleggen of debatten.3 Samengevat lijkt het voorstel te zijn ingegeven door de wens om de volgende punten
op te pakken:

– Fragmentatie: het voorkomen van gefragmenteerd regeringsbeleid voor normering van
en toezicht op algoritmen;

– Efficiënte organisatie: de rijksoverheid moet zich efficiënter organiseren op digitale
thema’s, specifiek de normering van en toezicht op algoritmen;

– Snelheid: de snelheid van digitale ontwikkelingen noopt de overheid sneller tot beleid
te komen op dit gebied;

– Visie: het vergroten van het vermogen structureel vooruit te kijken en visie te ontwikkelen
op dit thema;

– Kennisbundeling: het bij dit alles betrekken van publieke en private kennis, specifiek
van (technisch) experts en ambtenaren.

Samenwerking op het gebied van algoritmen

De afgelopen jaren hebben diverse departementen intensief samengewerkt met andere
partijen binnen en buiten de overheid om het beleid over algoritmen en AI verder vorm
te geven. Concreet resultaat hiervan zijn de drie brieven over algoritmen en AI die
op 8 oktober 2019 naar de Kamer zijn gestuurd, namelijk:

• Strategisch Actieplan voor AI (SAPAI);

• Beleidsbrief AI, publieke waarden en mensenrechten;

• Brief »Waarborgen tegen risico’s van data-analyses door de overheid» met de bijbehorende
richtlijnen voor algoritmische data-analyse door de overheid.4

• In deze stukken is ook aandacht voor normering en toezicht. Ook is voor deze stukken
een duidelijke verantwoordelijkheidsverdeling gemaakt voor normering en toezicht met
betrekking tot AI.5

Deze samenwerking om kennis te delen en toe te passen is hierna verder geïntensiveerd.
Zo is tegelijk met SAPAI de Nederlandse AI-Coalitie gelanceerd. Dit publiek-private
samenwerkingsverband is op 8 oktober 2019 gestart met een ambitieus AI-plan om publiek-private
kennis te ontwikkelen en toe te passen op het gebied van kennis- en innovatie, human capital, datadelen voor AI en mensgerichte AI met en voor maatschappelijk en economisch relevante
toepassingsgebieden. Inmiddels telt de Nederlandse AI Coalitie rond de 400 deelnemers,
waaronder bijna alle departementen. Ook is begin dit jaar een samenwerkingsplatform
AI, publieke waarden en mensenrechten opgericht waarin vertegenwoordigers van verschillende
overheden, zowel centrale als decentrale, alsook externe partijen worden betrokken.
Binnen het platform wordt kennis gedeeld over het onderwerp AI, publieke waarden en
mensenrechten.

Daarnaast zijn overleggen tussen ambtenaren c.q. bewindslieden op het terrein van
digitalisering en algoritmen thans ondergebracht in de NDS-structuur, waar structurele
afstemming op alle niveaus (medewerkers, management en politiek) over digitalisering
en AI plaatsvindt. De NDS-structuur draagt bij aan gezamenlijke beleidsontwikkeling
en afstemming op het onderwerp digitalisering. Voorbeelden hiervan zijn afstemming
over de jaarlijkse herijking van de NDS, gedachtevorming over de Nederlandse inzet
op Europees digitaal gebied en voorliggende brief over de ambtelijke projectgroep
normering en toezicht algoritmen. Met de jaarlijkse update van de NDS informeert het
kabinet uw Kamer in samenhang over de voortgang van het realiseren van de digitale
ambities, onder andere op het terrein van algoritmen en AI.6

Naast interne afstemmings- en overlegstructuren ontvangt het kabinet advies van verscheidene
publieke en private partijen. Hierbij kan worden gedacht aan de Adviesraad voor Wetenschap,
Technologie en Innovatie, de Wetenschappelijke Raad voor het Regeringsbeleid, het
Rathenau Instituut en de Cybersecurity Raad, maar ook aan (verplichte) adviezen van
de Raad van State en Autoriteit Persoonsgegevens. Voorts wijst het kabinet ook op
de vele aanbestede onderzoeken die raken aan de normering van en toezicht op algoritmen.7

Verdere versteviging samenwerking

Tegen deze achtergrond concludeert het kabinet dat de bestaande overleg- en besluitvormingsstructuren
zich stevig hebben (door)ontwikkeld en dat er voldoende partijen zijn die het kabinet
kundig adviseren met betrekking tot de normering van en toezicht op algoritmen. Het
is daarom niet nodig om een nieuw en omvangrijk gremium in te richten waarin al deze
partijen zitting nemen. Wel behoeven de bestaande werkwijze en structuren op twee
punten verdere verbetering:

– Het realiseren van beter gezamenlijk inzicht in de bestaande beleidsvraagstukken op
het terrein van algoritmen, teneinde tijdige en gezamenlijke visie- en beleidsvorming
te bevorderen en daarbij de relevante (overheids)experts te betrekken;

– Het, meer dan nu het geval is, gezamenlijk aanpakken van openstaande beleidsvraagstukken
op het terrein van normering en toezicht op algoritmen.

Volgens het kabinet kan hierin worden voorzien door:

1. het ontwikkelen van een gezamenlijke, openbare beleids- en onderzoeksagenda op het
gebied van normering van en toezicht op algoritmen (Hierna: «de agenda»);

2. het instellen of aanwijzen van een ambtelijke projectgroep (Hierna: ¨de projectgroep¨)
die onder auspiciën van het bewindsliedenoverleg NDS belast zal worden met de ontwikkeling
en verdere uitwerking van deze agenda.

Hiermee kunnen actuele en/of nieuwe vraagstukken rijksbreed worden geïdentificeerd
en tijdig gezamenlijk worden opgepakt. De ontwikkeling en uitwerking van de agenda
door een ambtelijke projectgroep maakt het mogelijk om gezamenlijk een visie te vormen
en beleid te ontwikkelen waarmee het risico op fragmentatie wordt verkleind. Door
problemen in eerste instantie gezamenlijk te identificeren en deze vervolgens tezamen
aan te pakken wordt voorkomen dat er verschillende beleidsinitiatieven ontstaan gericht
op dezelfde materie. Ook draagt deze werkwijze bij aan het verhogen van de snelheid
van het overheidshandelen, onder meer door gedeelde capaciteitsinzet. Per onderwerp
op de agenda zal de projectgroep bezien welke werkwijze zich het beste leent om tot
een oplossing te komen, bijvoorbeeld door een extern onderzoek aan te besteden. Ook
wanneer geen onderzoek wordt aanbesteed zal de projectgroep (technische) kennis en
expertise inwinnen van externe actoren, bijvoorbeeld door het organiseren van ronde
tafel bijeenkomsten met experts.

De projectgroep zal in oktober van start gaan met het opstellen van de agenda. Hoewel
de uitwerking via de projectgroep verloopt zullen ook externe stakeholders worden
betrokken bij het samenstellen van de agenda. Het kabinet borgt met deze aanpak dat
de belangrijk geachte input van externe experts zowel bij de ontwikkeling als de uitwerking
van de agenda wordt meegenomen. Dit om een breed gedragen agenda op het terrein van
normering en toezicht op algoritmen te realiseren. Voor het samenstellen van de agenda
zal in eerste instantie mede worden geput uit de inventarisatie die in het kader van
deze verkenning is gemaakt. De bij de verkenning geïdentificeerde onderwerpen betreffen
in algemene zin onder meer:

– Of, en zo ja welke, algoritmen verder genormeerd moeten worden en of bestaande normen
die algoritmen reguleren voldoende ingevuld en werkbaar zijn;

– een verdere (doorlopende) uitwerking van het toezichtkader omtrent algoritmen, met
daarbij aandacht voor daaraan rakende Europese trajecten en de vraag naar hoe het
werk van toezichthouders wordt gecontroleerd;

– de meetbaarheid van de kwaliteit van ingezette algoritmen.

Over de ophanging en werkwijze van de projectgroep zullen op korte termijn nadere
afspraken worden gemaakt. Hierover, als ook over de voorgestelde inhoud van de agenda,
wordt u in december van dit jaar geïnformeerd.

Voorkomen van incidenten met algoritmen

Tot slot is tijdens het AO Digitale Overheid van 1 juli jl. aan het lid van uw Kamer
Verhoeven toegezegd in onderhavige brief in te gaan op de vraag hoe het kabinet voornemens
is incidenten met algoritmen te voorkomen. Hoewel incidenten met algoritmen niet zijn
uit te sluiten, spant het kabinet zich in deze zoveel mogelijk te voorkomen. Daartoe
worden de opgestelde richtlijnen voor het gebruik van algoritmen door overheden dit
jaar verder aangescherpt en geëvalueerd. Op basis van de evaluatie, waaronder een
kosten-batenanalyse, en ervaringen die met de richtlijnen zijn opgedaan, zal vervolgens
worden bezien of het wenselijk en noodzakelijk is onderdelen van de richtlijnen wettelijk
verplicht te stellen. Daarnaast wordt nog dit jaar gestart met de ontwikkeling van
een model voor een impact assessment met betrekking tot algoritmen en mensenrechten,
dat naar verwachting in het eerste kwartaal van 2021 gereed zal zijn. Dit impact assessment
dient ertoe organisaties in een vroeg stadium te helpen bij het inventariseren en
ondervangen van risico’s van algoritmen voor mensenrechten. Verder is de Algemene
Rekenkamer een onderzoek gestart naar de inzet van voorspellende en voorschrijvende
algoritmen door de rijksoverheid. Het onderzoeksrapport zal in januari 2021 verschijnen.8 Bovendien is in opdracht van het Ministerie van Economische Zaken en Klimaat onderzoek
gedaan naar de mogelijke onvoorziene effecten van de inzet van (zelflerende) algoritmen
door bedrijven en consumenten, waarvan niet duidelijk is hoe zij tot een besluit komen.
Uw Kamer wordt dit najaar geïnformeerd over de uitkomsten van dit onderzoek. Deze
verschillende activiteiten zijn erop gericht al in een vroege fase zicht te krijgen
op de risico’s van de inzet van algoritmen door de overheid en het bedrijfsleven en
deze risico’s zoveel mogelijk, op een verantwoorde wijze, te ondervangen.

De Minister voor Rechtsbescherming,
S. Dekker

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
R.W. Knops

De Staatssecretaris van Economische Zaken en Klimaat,
M.C.G. Keijzer