Lijst van vragen : Lijst van vragen over artificiële intelligentie bij de politie (Kamerstuk 26643/32761-652)

De vaste commissie voor Justitie en Veiligheid heeft een aantal vragen voorgelegd
aan de Minister van Justitie en Veiligheid over de brief van 3 december 2019 inzake
Artificiële intelligentie bij de politie (Kamerstuk 26 643, nr. 652).

De voorzitter van de commissie, Van Meenen

De adjunct-griffier van de commissie, Burger

Nr.

Vraag

 
 

1

Wordt aan de Tweede Kamer inzicht verschaft over de toepassing van artificiële intelligentie
(AI) door de politie en zo ja, hoe en wanneer?

2

Hoe staat het met de digitale geletterdheid van de politieagenten in Nederland?

3

Wanneer vindt de evaluatie van de wet Computercriminaliteit III plaats?

4

Hoe wordt AI toegepast op het gebied van de financiële misdaad?

5

Op welke wijze wordt de naleving van het legaliteitsbeginsel bij de inzet van AI door
de politie gegarandeerd?

6

Worden private bedrijven betrokken bij het ontwerp van AI systemen bij de politie
en zo ja, welke? Hoever strekt die samenwerking?

7

Wordt overwogen te gaan werken of experimenteren met realtime gezichtsherkenning?

8

Wordt overwogen of al geëxperimenteerd met het gebruiken van het Criminaliteits Anticipatie
Systeem (CAS) voor misdrijven die buiten de categorie van High Impact Crimes vallen?

9

Hoe wordt de noodzaak om bias te voorkomen geadresseerd bij het gebruik van kunstmatige
intelligentie binnen de politie?

10

Kan predictive policing een opsporingsmethode genoemd worden?

11

Past het gebruik van realtime gezichtsherkenning door voormalig EU-collega Engeland
binnen het Coordinated Plan on Artificial Intelligence van de EU?

12

Hoe verhoudt predictive policing zich tot het beginsel dat er sprake moet zijn van
een redelijk vermoeden van een strafbaar feit, een verdenking, voordat overgegaan
kan worden tot opsporing?

13

Wordt overwogen iets te doen aan predictive identification, een vorm van predictive
policing waarin personen of groepen aangewezen kunnen worden als potentiële misdadigers
of slachtoffers van bepaalde strafbare feiten?

14

Wie is er verantwoordelijk voor (eventuele) fouten van AI?

15

Kan worden aangegeven waar Nederland staat in vergelijking tot andere Europese landen
als het gaat om de ontwikkeling en toepassing van AI?

16

Wat voor invloed heeft de SyRi-uitspraak op de manier waarop de politie AI toepast?

17

Kunt u, zo nodig vertrouwelijk, een overzicht geven welke AI toepassingen op dit moment
in bedrijf of in ontwikkeling zijn bij de politie?

18

Als in de brief gesproken wordt over (big) data, wordt dan enkel gedoeld op databestanden
die de politie zelf aanhoudt en grotendeels vallen onder de werking van de Wet politiegegevens,
of wordt dan ook gedoeld op publieke databestanden, hetzij van andere overheden hetzij
publieke data die via internet benaderbaar zijn? Klopt het beeld dat de politie nu
al gebruik maakt van data-mining? Kunt u, zo nodig vertrouwelijk, een overzicht geven
van de toepassing van data-mining binnen en door de politie?

19

Hoe gaat de politie, specifiek als het gaat om AI toepassingen, om met de «Richtlijnen
inzake publieksvoorlichting over data-analyses» (bijlage 1.2 bij Kamerstuk 26 643, nr. 641, d.d. 8 oktober 2019)? Klopt het dat deze richtlijn als uitgangspunt heeft een actieve
informatieverstrekking vanuit de betrokken overheidsorganisatie aan het publiek, inclusief
expliciete vermelding in een privacystatement op de eigen website van in dit geval
de politie? Deelt u de observatie dat dergelijke informatie op dit moment niet te
vinden is op de website van de politie? Gaat hier op korte termijn verandering in
komen?

20

Kent u de bijlage «Toelichting op typen data-analyses waarvoor wettelijke waarborgen
zullen gaan gelden» (bijlage 2 bij Kamerstuk 26 643, nr. 641, d.d. 8 oktober 2019)? Wat betekent het in deze bijlage geformuleerde voornemen om
tot wettelijke waarborgen voor twee typen data-analyse te komen, profilering en gebiedsgebonden
analyse, voor de ontwikkeling van AI binnen de politie? Behoren niet juist deze twee
typen data-analyse tot de kern van het politiewerk en dreigt hiermee niet een rem
te ontstaan op innovaties?

21

Is er, gezien het feit dat uit de brief duidelijk wordt dat ethiek in de ontwikkeling
van AI toepassingen binnen de politie een belangrijke rol speelt, sprake van een politie-specifiek
ethisch document of een ethische guideline aan de hand waarvan AI toepassingen worden
ontwikkeld en getoetst? Welk houvast hebben ontwikkelaars, leidinggevenden, interne
en externe toezichthouders bij het beoordelen en toetsen van de voortgang van projecten?
Wordt hier de hulp ingeroepen van externe deskundigen?

22

Welke kennis rond AI en big data is aanwezig bij het lijnmanagement, bij de korpscontroller
en bij de afdeling Concernaudit? Kunt u deze vraag specifiek beantwoorden, inclusief
verwijzing naar relevante werkervaring en opleidingen?

23

Welke rol speelt de functionaris gegevensbescherming op korpsniveau in het toezicht
op de ontwikkeling van AI toepassingen?

24

In hoeverre zijn beslisbomen daadwerkelijk altijd neutraal? Kunnen beslisbomen impliciete
aannames bevatten, die helemaal niet neutraal zijn?

25

Klopt het dat beslisbomen niet altijd neutraal zijn, maar vaak impliciete aannames
bevatten en in een bepaalde richting kunnen tenderen? Herinnert u zich de beslisboom
van het Ministerie van Economische Zaken (EZ) van maart 2000, over marktwerking en
privatisering? Klopt het dat het invullen van deze beslisboom in bijna alle gevallen
leidde tot het advies om over te gaan tot privatisering en/of marktwerking? Klopt
het dat dit een weerspiegeling was van het toenmalige marktdenken op het Ministerie
van EZ? Klopt het dat beslisbomen helemaal niet neutraal zijn? Waarom is het dan «helder
dat hier geen bijzonder beleid voor nodig is»?

26

Als de privatiseringsbeslisboom van het Ministerie van EZ van 2000 niet neutraal was,
kunt u dan uitsluiten dat de algoritmes, beslisbomen en risicotaxaties van de politie
evenmin neutraal zijn? Op welke manier kan een dergelijke vooringenomenheid of bias
uitgesloten worden?

27

Wie of welke instantie beoordeelt de neutraliteit van algoritmes? Welke rol kunnen
de Autoriteit Persoonsgegevens (AP), de Koninklijke Nederlandse Akademie van Wetenschappen
(KNAW), de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) en de Algemene
Rekenkamer daarbij spelen?

28

Waar ligt de grens tussen intelligent gedrag van systemen en systemen die eerder invoerde
aannames uitvoeren? Klopt het dat deze grens niet scherp te trekken is, en er een
groot grijs gebied is tussen intelligent gedrag en ingevoerd of geïnduceerd gedrag?
Hoe beoordeelt u in dit kader de uitspraak «Het is gevaarlijk als alleen witte mannen
algoritmes maken» van dhr. Frans Muller (Forum, «Frans Muller: bedrijven moeten ethisch
omgaan met data»)?

29

Zijn algoritmes en AI niet te vergelijken met een zichzelf bevestigende grabbelton,
onder het motto «wat je er in stopt, haal je er ook weer uit»?

Lopen AI toepassingen daarmee niet het risico een echoput te worden van vooroordelen
en/of vooringenomenheid, waaronder ook racisme en discriminatie? Hoe kunt u dit uitsluiten?
Wie of welke instantie toetst hierop? Is er een toetsing denkbaar die analoog is aan
de toetsing uit de Sleepwet van 2018, met een commissie die noodzaak en proportionaliteit
beoordeelt? Zo nee, op welke manier is dan een toetsing mogelijk?

30

In hoeverre wordt AI nu al toegepast door de politie als het gaat om het beoordelen
van meldingen van oplichting? Is hetgeen te zien is in het tv-programma TROS Radar
maatgevend voor hoe AI functioneert? Klopt het dat meer dan de helft van de opgelichte
mensen van de politie het advies krijgt om een advocaat in de arm te nemen, en dat
de politie de aangifte niet wil opnemen, omdat het civiele zaken zou betreffen en
geen strafrechtelijke zaken? In hoeverre kan AI werken, als de menselijke beoordeling
van oplichtingszaken nu al niet werkt? Wordt de toepassing van AI dan niet een foutenfestival
in het kwadraat?

31

Wordt ook overwogen om het Juridisch Loket te vervangen door AI? Zal zo'n Juridische
Robot een positief of een negatief effect hebben op de kwaliteit van de advisering?

32

Zijn politieagenten op straat ook te vervangen door AI? Aan welke concrete verschijningsvorm
kan daarbij gedacht worden? Moet daarbij gedacht worden aan een variant op Robocop
(een figuur uit een Amerikaanse sciencefiction-actiefilm uit 1987 en 2014)?

33

Wat waren de positieve en negatieve kanten aan het functioneren van Robocop, in uw
ogen? Kunt u hierbij ook ingaan op de kwaliteiten van Judge Dredd (een Amerikaanse
actiefilm uit 1995)? Valt de Terminator (1984 e.v.) volgens u ook onder de gewenste
AI?

34

In hoeverre maken criminelen ook gebruik van AI? Gebruiken cybercriminelen ook algoritmes
en AI om slachtoffers te kiezen voor hackaanvallen? Op welke manier kan dit tegengegaan
worden?

35

Hoe kan de overheid en dus ook de politie de criminelen voor blijven in de technologische
wedloop? Kunt u daarbij betrekken wat daarover is gezegd in Nieuwsuur van 5 februari
2020? Deelt u de daarin geuite mening dat het helemaal niet vaststaat dat de overheid
deze wedloop gaat winnen van de criminelen?

36

Hoe gaat de overheid en dus de politie waarborgen dat men niet te afhankelijk wordt
van private partijen die dit soort technologieën leveren?

37

Voor welke werkprocessen bouwt de politie op dit moment aan AI-toepassingen binnen
de politieorganisatie?

38

Hoe wordt bepaald of de toepassing van AI-technologie daadwerkelijk leidt tot een
reductie van administratieve lasten?

39

Kan worden aangegeven in hoeverre nu wordt ingezet op kennisuitwisseling met andere
Europese landen als het aankomt op AI?

40

Welke partijen nemen naast de overheid nog meer deel aan de Nederlandse AI Coalitie?

41

Welke criteria worden gebruikt om partijen te selecteren voor de AI Coalitie?

42

Bij welke van haar taken wordt er reeds AI toegepast door de politie?

43

Zijn er terreinen binnen het politiewezen waar nu nog geen gebruik wordt gemaakt van
AI, maar die wel kansen bieden voor het gebruik van AI?

44

Kan meer duidelijkheid worden gegeven over hoe wordt bepaald welke taken zullen worden
uitgevoerd door de politie met hulp van AI?

45

In hoeverre is de theorie en toepassing van AI verankerd in de politieopleiding?

46

Bij welke politietaken wordt AI reeds gebruikt in het kader van de aanpak van ondermijning?
Is er ruimte binnen dit domein om meer AI te gebruiken? Hoe wordt dit getoetst?

47

Op welke wijze zet de overheid zich in om actief discriminatie te voorkomen in de
AI systemen van politie?

48

Op welke wijze toetst de politie de afwezigheid van discriminatie in AI systemen?

49

Welke externe partijen zoals (universiteiten, bedrijven en individuen werken op dit
moment samen met de politie bij het ontwikkelen van AI toepassingen? Kunt u beschrijven
op welke wijze deze externe partijen met de politie samenwerken, indachtig de opmerking
in de brief dat de politie «niet te afhankelijk» moet worden van andere partijen?

50

Hoe ziet de foutmarge van AI eruit? Welke gevolgen kunnen foute beslissingen hebben,
die genomen worden op basis van AI?

51

Kan AI ertoe leiden dat onschuldige verdachten worden aangewezen, zoals bij de Arnhemse
moordzaak in 1998? Klopt het dat bij de Arnhemse moorzaak in 1998 sprake was van een
discriminerende vooringenomenheid, die heeft geleid tot negen personen die onschuldig
zijn veroordeeld tot jarenlange gevangenisstraffen, wat bij één persoon heeft geleid
tot zelfmoord? Hoe kan het dat de Arnhemse politie op basis van een snipper foutief
bewijs in een onvoorstelbare tunnelvisie terecht is gekomen? Kunt u uitsluiten dat
juist AI de politie aan foutieve snippers bewijs gaat helpen, dat leidt tot nieuwe
tunnelvisies?

52

Op welke manier gaat het wetenschappelijke karakter van het Nationale Politielab AI
bewaakt worden? Welke waarborgen heeft u daarvoor ingebouwd? Welke rol gaat het Transparantielab
hierbij spelen?

53

Wordt er een juridisch en ethisch kader opgesteld voor de toepassing van AI?

54

Op welke wijze legt de politie verantwoording af over de wijze hoe AI wordt toegepast?

55

Hoe zijn op dit moment de rechten van inwoners beschermd die deel uitmaken van een
experiment, proeftuin of pilot?

56

Worden inwoners adequaat geïnformeerd over de gevolgen voor hun privacy-rechten? Zo
ja, hoe worden zij geïnformeerd? Zo nee, waarom niet?

57

Wordt bij elke nieuwe toepassing van een AI techniek ook een nieuwe juridische en
ethische toetsing gedaan?

58

Hoe worden beslissers bij de politie juridisch en ethisch getraind en opgeleid om
verantwoorde besluiten te kunnen nemen op basis van door AI ondersteunde processen?
Welke rol moet de Politieacademie vervullen om aan deze vaardigheidseisen te voldoen?

59

Welke ethische standaarden zijn er uit het onderzoek van het Nationaal Politielab
AI gekomen en welke daarvan worden ook echt toegepast?

60

In hoeverre bestaat er oefenruimte voor de politie om te kunnen experimenteren met
AI?

61

Hoeveel is reeds begroot voor het opzetten van het Nationaal Politielab AI?

62

In hoeverre werkt het Nationaal Politielab AI samen met het Openbaar Ministerie (OM)?

63

In hoeverre zet u het verlagen van de werkdruk in als strategie om de negatieve effecten
van AI binnen de opsporing te voorkomen (zie het rapport Beginselen Digitaal (Rapport
van een verkennend Onderzoek in opdracht van het WODC, Kamerstuk 29 279, nr. 388, waaruit blijkt dat bij een hoge werkdruk uitkomsten van de computer vaker klakkeloos
worden overgenomen)?

64

Op welke manier zijn de informatie-extractie, de juridische toetsing en de optimalisatie
van de vraagvolgorde uit elkaar te houden? Deze hangen toch allemaal met elkaar samen?

65

Wat voor soort publicaties over AI wil de politie in wetenschappelijke tijdschriften
gaan plaatsen? Hoe voorkomt de politie daarbij dat de criminelen meelezen? Of wordt
er gemakshalve vanuit gegaan dat criminelen dit niet gaan doen?

66

Met welke private partijen werkt de politie samen in het kader van AI? Indien geen
private partijen worden betrokken bij de ontwikkeling en toepassing van kunstmatige
intelligentie in de politiepraktijk, waarom niet?

67

Met welke nationale of internationale kennispartners werkt de politie samen? Hoe wordt
geborgd dat zij geen veiligheidsrisico kunnen vormen?

68

Hoe wordt de betrouwbaarheid van kennispartners van de politie getoetst en wordt deze
toetsing regulier uitgevoerd?

69

In hoeverre wordt de Tweede Kamer geïnformeerd over de uitkomsten van onderzoek op
het gebied van AI bij de politie?

70

Kunt u het interne kwaliteitskader big data dat de politie samen met het OM in het
kader van het programma Toekomstbestendig Opsporen en Vervolgen heeft opgesteld zo
nodig vertrouwelijk delen met de Tweede Kamer? Hoe verhoudt dit interne kader zich
tot de ministerieel vastgelegde «richtlijnen voor het toepassen van algoritmes door
overheden» (bijlage 1 bij Kamerstuk, 26 643, nr. 641, dd. 8 oktober 2019)?

71

Op welke wijze wordt discriminatie als onbedoeld gevolg van de toepassing van AI voorkomen?

72

Waarom stelt u in de brief dat «de politie zijn eigen strengste criticaster is»? Hoe
relateert u deze uitspraak aan het functioneren van de politie in de Arnhemse moordzaak,
niet alleen in 1998–1999, maar ook nu? Is er in de afgelopen 22 jaar enige vorm van
zelfreflectie geweest? Klopt het dat de politie helemaal niet «zijn eigen strengste
criticaster» is maar juist het tegenovergestelde? Namelijk dat door een interne angst-
en suppressiecultuur geen enkele zelfreflectie mogelijk is, afgezien van een enkeling
die inmiddels met pensioen is?

73

Op welke manier houdt de Inspectie voor Justitie en Veiligheid toezicht op het gebruik
van AI door de politie? Hoeveel fte heeft de Inspectie daarvoor beschikbaar? Heeft
de Inspectie daarvoor de benodigde expertise en welke vorm neemt deze expertise aan?

74

Klopt het dat het boek «1984» (met daarin Big Brother) uit 1948, en de daarin beschreven
surveillancestaat, in China inmiddels een realiteit geworden is? Kunt u uitsluiten
dat elementen van zo’n politiestaat in Nederland ingang zullen vinden?

75

Wie controleert de effecten van een Data Protection impact assessment? Welke rol spelen
de AP en de Auditdienst Rijk hierin?

76

Welke externe toezichthouders hebben of krijgen inzicht in het interne kwaliteitskader
dat door politie en OM wordt gehanteerd?

77

Kunnen burgers inzien welke data van hen gebruikt worden door AI bij de politie?

78

Worden er enkel data gebruikt van burgers die in contact zijn geweest met justitie,
of gaan de data ook over «reguliere» burgers?

79

Welke strafbare feiten met behulp van algoritmes en AI worden er gepleegd, en hoe
vaak kwamen deze strafbare feiten in 2019 voor?

80

Bij wie ligt de verantwoordelijkheid voor monitoring van de toepassing van AI bij
politietaken? Zit daar een bepaalde evaluatietermijn aan vast?

81

Welke mechanismen worden in werking gesteld op het moment dat discriminatie wordt
opgemerkt in het ontwerp, gebruik of de uitkomst van AI systemen?

82

Welke stappen zijn er ondernomen om te voorkomen dat de AI systemen van de politie
voornamelijk worden gericht op gemarginaliseerde groepen in de samenleving? Hoe vindt
de evaluatie van dit soort waarborgen plaats?