Antwoord schriftelijke vragen : Antwoord op vragen van de leden Middendorp en Van den Bosch over het bericht ‘Amsterdam wil 'eerlijke' computers in de stad’

Antwoord van Staatssecretaris Knops (Binnenlandse Zaken en Koninkrijksrelaties) (ontvangen
7 juni 2019). Zie ook Aanhangsel Handelingen, vergaderjaar 2018–2019, nr. 2440.

Vraag 1

Kent u het bericht «Amsterdam wil «eerlijke» computers in de stad»?1

Antwoord 1

Ja.

Vraag 2

Bent u door de gemeente Amsterdam op de hoogte gesteld van de plannen om overheids-
en niet-overheidsalgoritmen te controleren op ongewenste beslissingen?

Antwoord 2

Nee.

Vraag 3 en 4

Hoe beoordeelt u de intentie van de gemeente om niet alleen de door haar gebruikte
algoritmen te gaan controleren maar ook die van niet-gemeentelijke instellingen? Hoe
beoordeelt u dit als deze niet-gemeentelijke instellingen ook nationaal actief zijn?

Deelt u de mening dat het niet wenselijk is dat elke gemeente zelf gaat bepalen welke
bedrijven zij gaat weren op basis van algoritmen die deze bedrijven gebruiken? Kunnen
gemeenten dit ook aan nationaal opererende bedrijven gaan vragen?

Antwoord 3 en 4

De gemeente Amsterdam wil in eerste instantie kaders ontwikkelen om de algoritmen
die de gemeente zelf heeft gemaakt of ingekocht, te toetsen. Het staat de gemeente
vrij om dat te doen. Ik denk dat we van ervaringen met dergelijke kaders, in dit geval
gaat het om audits, kunnen leren.

Als het gaat om controle van algoritmen van niet-gemeentelijke instellingen wijs ik
op de autonome bevoegdheid van de gemeente om verordeningen uit te vaardigen en beleid
te maken op basis van de Gemeentewet (o.a. art. 108, 121, 122 en 149) en de Grondwet
(art. 124, 125 en 127). Gemeenten hebben bevoegdheden voor kaderstelling en handhaving
en daar zullen ook nationaal opererende bedrijven aan moeten voldoen.

Op beleidsterreinen zoals vakantieverhuur en vervoersmarkt zijn landelijk opererende
bedrijven werkzaam die beschikken over een vergunning of concessie die is verleend
door het gemeentebestuur van Amsterdam. Binnen de territoriale grenzen heeft de gemeente
hier een eigen rol op het gebied van kaderstelling en handhaving. Het is ook aan de
gemeente Amsterdam om te onderzoeken hoe betrekkelijk nieuwe ontwikkelingen zoals
algoritmen en de wettelijke grondslagen die daarvoor gelden, zich verhouden tot de
huidige kaderstelling en handhaving op beleidsterreinen als vervoer en verhuur waar
niet-gemeentelijke instellingen actief zijn met algoritmen die ook tot ongewenste
effecten leiden voor de stad. Dit zou kunnen leiden tot aanscherping van kaders en
handhaving.

Vraag 5

Hoe beoordeelt u het feit dat gemeenten zelf actieplannen voor een digitale overheid
aan het ontwikkelen zijn, zoals de Agenda Digitale Stad in Amsterdam?2 Kunt u beschrijven of en hoe het Ministerie van Binnenlandse Zaken betrokken is bij
het trekken van grenzen tussen gemeentelijke, provinciale en nationale competenties?

Antwoord 5

Ik zie het als een positieve ontwikkeling dat gemeenten actieplannen ontwikkelen voor
een digitale stad en samenleving. Gemeenten innoveren en benutten digitalisering om
maatschappelijke opgaven op te pakken. We doen veel samen. Graag wijs ik op NL DIGIbeter,
Agenda Digitale Overheid, een agenda van alle overheden gezamenlijk, die verbinding
legt met belangrijke publieke en private partners. Eén van de agendapunten is datagedreven
werken. Dit heeft geleid tot «NL Digitaal: Data Agenda Overheid», een gezamenlijke
agenda van gemeenten, provincies en waterschappen, die ik op 28 februari 2019 naar
de Tweede Kamer stuurde. Concreet werken we hier aan vijf maatschappelijke opgaven:
energietransitie, mest, armoede en schuld, ondermijning en ruimtelijke knelpunten.
Het Leer- en Expertisepunt Datagedreven Werken ondersteunt overheden bij het benutten
van de mogelijkheden van data op deze vijf opgaven. De ervaringen in deze trajecten
dragen bij aan een gemeenschappelijk landelijk kader voor verantwoord gebruik van
data en ook van algoritmen. Onder de noemer Smart Society hebben de VNG3, een aantal gemeenten (waaronder ook Amsterdam) en BZK de handen ineengeslagen om
met bedrijven en kennisinstellingen samen te innoveren. Op deze manier kunnen we kennis
delen, zorgen we dat kansrijke oplossingen verder gebracht en breed gebruikt worden,
en komen we tot standaarden. Smart City richt zich op digitalisering in den brede,
het onderwerp data/algoritmen maakt daar een belangrijk onderdeel van uit. Zo worden
dataspelregels en afspraken gemaakt over hoe om te gaan met algoritmen.

Vraag 6

Verwacht u dat meer gemeenten individueel algoritmen gaan controleren, ook op nationale
regelingen?

Antwoord 6

Dat is mij niet bekend. Wel dat ik zie dat steeds meer gemeenten democratische grip
proberen te krijgen op technologische ontwikkelingen die een grote impact hebben op
het leven van hun inwoners en intensief met elkaar samenwerken, in bijvoorbeeld het
eerder genoemde programma Smart Society van de VNG.

Vraag 7

Is er een wettelijke grondslag voor gemeenten om bedrijven en andere instellingen
op algoritmen te controleren? Is er in het algemeen een wettelijke grondslag om bedrijven
en andere instellingen op algoritmen te controleren? Zo ja, wat is deze wettelijke
grondslag? Bij wie ligt deze verantwoordelijkheid?

Antwoord 7

Er zijn wettelijke grondslagen die controle op specifieke aspecten van een algoritme
mogelijk maken. Zo kan de Autoriteit Consumenten & Markt (ACM) bij het handhaven van
de Mededingingswet in een specifieke zaak controleren of een algoritme zo is ingericht
dat het de mededinging op een ongeoorloofde wijze beperkt en kan de Autoriteit Persoonsgegevens
(AP) controleren of de werking van een algoritme waarmee persoonsgegevens worden verwerkt,
aan de Algemene Verordening Gegevensbescherming (AVG) en aan Nederlandse wettelijke
voorschriften inzake gegevensbescherming voldoet.

Vraag 8

Hoe ondersteunt het Rijk de gemeenten in de omgang met algoritmen en hun digitale
ambities? Wordt er bijvoorbeeld met betrekking tot nationale regelingen kennis en
kunde bij het Rijk gedeeld met gemeenten?

Antwoord 8

Op nationaal niveau helpen we de gemeenten met kaders en coördinatie, zoals richtlijnen
of ethische kaders ten aanzien van het gebruik van algoritmen. Denk daarbij aan richtlijnen
die het publiek informeren hoe data/algoritmen worden gebruikt en wat de grondslag
daarvoor is. Of richtlijnen over hoe gegevens zodanig worden vastgelegd dat er ook
makkelijk controle kan plaatsvinden. Van belang is om richtlijnen en kaders in de
gemeentelijke praktijk te toetsen. Dit toetsen zou bijvoorbeeld goed kunnen in een
transparantielab-omgeving; de mogelijkheden daarvan ben ik nu aan het verkennen.