Brief regering : Onderzoek "Toezicht op gebruik van algoritmen door de overheid"

Nr. 657 BRIEF VAN DE MINISTERS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN VOOR RECHTSBESCHERMING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 20 december 2019

Hierbij bieden wij uw Kamer het toegezegde onderzoek «Toezicht op gebruik van algoritmen
door de overheid»1 aan.2 Doel van dit onafhankelijke onderzoek is nader inzicht te bieden in de wijze waarop
het huidige toezicht op de toepassing van algoritmen bij de overheid is ingericht
en op de manier waarop dit mogelijk nog beter kan.

Dit onderzoek, uitgevoerd door strategisch en juridisch adviesbureau Hooghiemstra
& Partners, gaat in op de volgende hoofdvragen:

– In welke mate is er op dit moment een juridische basis voor toezicht op overheidsalgoritmen?

– In welke mate wordt op dit moment in de praktijk uitvoering gegeven aan toezicht op
overheidsalgoritmen?

– Welke beleidsadviezen zijn te geven op basis van de resultaten van het onderzoek?

Dit onderzoek biedt de benodigde analyse voor het formuleren van de kabinetsreactie
op een drietal recente moties, ingediend door de leden Verhoeven en Van der Molen3, Middendorp en Drost4 en Verhoeven en Van der Molen5. Het gaat om het deel van de moties waar het toezicht op algoritmen ingezet door
overheden betreft. Voor zover daarin ook om richtlijnen wordt gevraagd, is aan deze
moties reeds uitvoering gegeven.6 Tevens biedt dit onderzoek een overzicht van de belangrijkste toezichthouders voor
de rijksoverheid. In zoverre wordt hiermee deels uitvoering gegeven aan de toezegging
tijdens het Algemeen Overleg Digitale Overheid van 4 december 2019 om uw Kamer een
overzicht van de toezichthouders per domein te doen toekomen (publiek en privaat).
De Kabinetsreactie zal nader op dit aan te vullen overzicht ingaan.

Uit de uitgevoerde analyse van wet- en regelgeving volgt dat de onderzoekers geen
juridische lacune hebben geconstateerd in de toezichtstaken. Dit hangt nauw samen
met het feit dat het gebruik van algoritmen een middel is en daarmee integraal onderdeel
is van de taakuitoefening door de overheid. De onderzoekers bevelen aan voorlopig
geen afzonderlijke toezichthouder te introduceren en geen meldplicht te introduceren
voor ingrijpende algoritmen, maar in plaats daarvan een algoritme impact assessment
in te voeren.

Uit interviews volgt dat van structureel onderzoek naar het gebruik van algoritmen
door de overheid nog geen sprake is. Wel is het fenomeen onder titels als «digitalisering»
of «algoritmen» opgenomen in onderzoeksagenda’s en beleidsplannen.

De centrale aanbevelingen uit het onderzoek:

• Borg de democratische legitimatie bij inzet van overheidsalgoritmen. Formuleer algemene
standaarden, waaraan overheidsalgoritmen moeten voldoen en die niet alleen voor juristen
en beleidsmedewerkers hanteerbaar zijn, maar ook voor dataspecialisten.

• Laat overheidsorganisaties die algoritmen willen inzetten een impact assessment uitvoeren
voordat het besluit genomen wordt algoritmen te gaan gebruiken. Dit instrument helpt
organisaties om risico’s te identificeren, te mitigeren en na te gaan of zich nog
restrisico’s voordoen. Regel dat organisaties die restrisico’s hebben vastgesteld
maar wel gebruik willen maken van de algoritmen, de betrokken toezichthouder kunnen
verzoeken om een «voorafgaande raadpleging». Introduceer een zorgplicht voor overheidsorganisaties
bij de inzet van algoritmes, zodat zij expliciet verantwoordelijk zijn voor de juistheid
van de door hen ingezette algoritmen en laat organisaties periodieke audits uitvoeren.

• Doe nader onderzoek naar het geven van (eventueel een wettelijk verankerde) experimenteerruimte
aan overheidsorganisaties op het gebied van de inzet van algoritmen. Hierdoor kunnen
de uitvoeringspraktijk en toezichthoudende organisaties van elkaar leren.

• Stel zoals in Duitsland een commissie samen uit een variëteit van wetenschappers en
experts om tot gezamenlijk gedragen standpunten te komen. Ontwikkel gezamenlijke definities
voor termen als «bias», «auditeerbaarheid» en «transparantie».

• Bevorder het maatschappelijk debat over digitalisering in de samenleving.

Op grond van onze verantwoordelijkheid voor het openbaar bestuur en de digitale overheid,
respectievelijk systeemverantwoordelijkheid voor transparantie, toetsbaarheid en rechtsbescherming
rond AI/algoritmes zullen wij in het eerste kwartaal van 2020 aan uw Kamer een reactie
op de aanbevelingen in dit rapport aanbieden.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties,
R.W. Knops

De Minister voor Rechtsbescherming,
S. Dekker