Verslag van een hoorzitting / rondetafelgesprek : Verslag van een rondetafelgesprek, gehouden op 23 september 2019, in het kader van een openbare kennisbijeenkomst

Nr. 2
VERSLAG VAN EEN RONDETAFELGESPREK

Vastgesteld 10 oktober 2019

De tijdelijke commissie Digitale toekomst heeft op 23 september 2019 gesprekken gevoerd
in het kader van een openbare kennisbijeenkomst.

Van deze gesprekken brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie, Buitenweg

De griffier van de commissie, Jansma

Voorzitter: Verhoeven

Griffier: Jansma

Aanwezig zijn zes leden der Kamer, te weten: Azarkan, Buitenweg, Van Dam, Middendorp,
Van Otterloo en Verhoeven.

Aanvang 10.03 uur.

De voorzitter:

Goedemorgen, beste mensen. Ik wil de bijeenkomst van de tijdelijke commissie Digitale
toekomst bij dezen openen. We hebben vandaag de tweede openbare kennisbijeenkomst
in een serie van drie in deze prachtige maand september.

Ik heb een afmelding van mevrouw Van Weerdenburg, die er vandaag niet kan zijn. Ik
verwacht zo dadelijk nog de heer Middendorp van de VVD. Mevrouw Buitenweg heeft zich
voor het ochtendgedeelte moeten afmelden.

Blok 1

Gesprek met:

– de heer Haroon Sheikh en de heer Erik Schrijvers, wetenschappelijk medewerkers Wetenschappelijke
Raad voor het Regeringsbeleid (WRR)

De voorzitter:

Ik ga direct door naar het programma, want we hebben hier de heren Haroon Sheikh en
Erik Schrijvers te gast. Beiden zijn wetenschappelijk medewerker bij de Wetenschappelijke
Raad voor het Regeringsbeleid. We doen het net als twee weken geleden: eerst vragen
we een inleiding van een minuut of vijf à tien en daarna gaan we met elkaar in gesprek.
Mag ik de heer Schrijvers het woord geven?

De heer Schrijvers:

Dank voor de uitnodiging. We doen het om beurten. Ik zal mezelf even voorstellen.
Ik ben Erik Schrijvers, wetenschappelijk medewerker. In de afgelopen jaren ben ik
betrokken geweest bij projecten over big data en governance van het internet. Het
afgelopen anderhalf jaar heb ik gewerkt aan het project over digitale ontwrichting.
Het rapport daarover is twee weken geleden uitgekomen; misschien heeft u dat al gezien.
Ik ben ook met het onderwerp digitale overheid bezig geweest.

Ik wil vooraf twee opmerkingen maken, waarna we de meer inhoudelijke vraagstukken
en de thema's waarin u geïnteresseerd bent bespreken. De eerste is de belangrijke
vraag waar u de kennis vandaan kunt halen. De Kamer kan voortbouwen op bestaande voorzieningen
in het kennislandschap. Een hele reeks van adviesraden heeft rapporten hierover uitgebracht;
rapporten waar ook wijzelf voor ons werk naar kijken. Twee. Mocht er een commissie
komen, dan zou het heel logisch zijn om een en ander langs dezelfde lijnen te doen
als de departementen die nu betrokken zijn bij de digitaliseringsstrategie. Namens
de WRR hebben wij daarop eerder commentaar gegeven.

Inhoudelijk is het voor ons vooral de uitdaging om de sterke gerichtheid op het nú
een beetje te kunnen loslaten als het om dit vraagstuk gaat; Haroon en ik hebben dat
in voorbereiding hierop met elkaar doorgesproken. Er is een enorme focus op de nieuwste
trends. We hebben een Blockchain Coalitie, er zijn stukken over blockchain en er komt
een AI-strategie aan. Een paar jaar geleden was ik bezig met big data en daar horen
we nu eigenlijk heel weinig meer over. Onder heel veel van die vraagstukken en die
technologieën liggen meer generieke vragen. In dit gesprek willen we een aantal daarvan
toelichten. Dat zal Haroon zo direct doen. Dan ga ik daarna in een klein staartje
nog even een paar rapporten noemen en aangeven wat we dan in die rapporten heel specifiek
over die generieke vraagstukken opmerken.

De heer Sheikh:

Digitalisering is inderdaad een immens groot vraagstuk, en de opgave is hoe je dan
in een kort bestek iets van een inleiding daarop zou kunnen geven. Mijn collega Erik
benadrukte al dat wij menen dat het – juist vanwege het hoge tempo waarin steeds nieuwe
technologieën ontstaan, waarbij steeds weer strategieën en plannen worden ontwikkeld
– goed is om even een stap terug te doen en te kijken wat nou een groter kader is
waarbinnen we veel trends in digitalisering kunnen begrijpen.

Laat me dat doen aan de hand van één centrale thematiek, namelijk het idee dat de
wereld van digitalisering en de fysieke wereld meer en meer met elkaar verweven raken.
Dat gegeven leidt tot allerlei nieuwe vraagstukken, omdat je zou moeten zeggen dat
de digitale wereld en de fysieke wereld eigenlijk elk een eigen logica of een eigen
architectuur hebben. Die verschillende logica's, of die verschillende architecturen,
raken met elkaar verweven en dat leidt dus tot allerlei nieuwe vraagstukken.

Laat me dat doen aan de hand van drie niveaus: het niveau van de leefwereld van de
burger of het microniveau, een wat breder niveau van de maatschappelijke uitdagingen
die die grotere verwevenheid met zich meebrengt, en ten slotte het internationale
niveau en het geopolitieke speelveld dat in het verlengde hiervan ligt.

Hoe zien we op het niveau van de leefwereld van de burger dat de digitale wereld en
de fysieke wereld meer met elkaar verweven raken? Ten eerste heeft dat te maken met
een groeiend aantal dingen die bronnen van data worden, waarbij de logica van dingen
en de logica van data dus in elkaar overlopen. Dat wordt vaak het «internet of things»
genoemd. Dan hebben we het over zaken als thermostaten in huis, maar ook over het
speelgoed van de kinderen, commerciële drones, horloges in huis; eigenlijk allerlei
zaken achter de voordeur die vroeger afgeronde dingen en objecten waren en nu plotseling
bronnen van data zijn. Die bronnen van data trekken de directe leefwereld van burgers
veel meer in het digitale domein, met alle vraagstukken die dat met zich meebrengt;
bijvoorbeeld vragen over privacy, en vragen over wat voor soort persoonlijke informatie
via slim speelgoed gedeeld wordt.

In de leefwereld van burgers worden niet alleen meer objecten digitaal, maar ook de
aard van onze omgang met de digitale wereld verandert. Dat zou je als volgt kunnen
karakteriseren. We zien eigenlijk in digitalisering een beweging naar steeds intiemere
interfaces. In de loop van de tijd van digitalisering zijn interfaces steeds dichter
op onze huid komen te zitten. Van de grafische interface en de muis naar de smartphone
met het touchscreen, waarbij eigenlijk onze hand de digitale wereld werd ingetrokken.
We zien nu een beweging naar nog veel intiemere interfaces. De meeste ontwikkelingen
vinden plaats op het gebied van de stem; denk aan Siri, Alexa en Cortana en allerlei
technologieën die inhaken op onze stem, en alle informatie die daarin zit, om ons
met de digitale wereld te verbinden. Maar ook via het oog zijn er eigenlijk allerlei
veel intiemere manieren waarop wij met de digitale wereld verbonden raken; in de vorm
van VR en AR. Dit zal dus nieuwe vraagstukken met zich meebrengen, omdat deze intiemere
interfaces veel intiemere informatie delen; waar mijn oog naartoe gaat als ik in VR
ergens naar kijk, geeft informatie over mijn onbewuste beslissingen.

Dat wat betreft de leefwereld van burgers.

Waar zien we die groeiende verwevenheid op een breder maatschappelijk niveau terugkomen?
Ik zou graag twee dingen willen benadrukken. Ten eerste hebben we in de ons bekende
fysieke wereld te maken met producenten van specifieke eindproducten, die in vaste
categorieën vallen en wat dat betreft redelijk onveranderlijk zijn. Voor de digitale
wereld geldt eigenlijk dat geen enkel product ooit een eindproduct is. Alles blijft
continu een halffabricaat, namelijk een bron van data, op basis waarvan nieuwe toepassingen
en producten ontwikkeld kunnen worden. Bijvoorbeeld: wat ooit misschien een foto was
die werd gedeeld op een socialmedianetwerk, wordt in een volgende fase een bron van
informatie over iemands emotie, seksuele geaardheid of eventueel zelfs medische geschiedenis.

Die dynamiek van steeds groeiende lagen van kennis die bovenop oude producten worden
gemaakt, brengt ons als maatschappij de uitdaging hoe we producten categoriseren en
hoe we van tevoren kunnen zien wat het bereik van bepaalde producten kan zijn. Die
dynamiek leidt er bovendien toe dat het voor burgers vaak een inherent onvoorspelbaar
karakter heeft wat digitalisering doet. Dat heeft als gevolg dat er een groeiende
angst ontstaat, en een groeiend gevoel dat er meer controle op digitalisering moet
zijn, juist omdat het veel van die klassieke grenzen overschrijdt.

Laat me kort nog iets zeggen over het laatste domein, want we hebben voor de introductie
een kort tijdsbestek gekregen.

Op het internationale domein zien we de invloed van de groeiende verwevenheid tussen
de fysieke en de digitale wereld. Een belangrijke dynamiek daarin is volgens mij het
idee dat ook het internet zelf echt een object is van geopolitieke rivaliteit; dat
idee speelt in andere landen al langer en breder dan in ons land. Dat heeft verschillende
consequenties. Het uit zich bijvoorbeeld in het vraagstuk rondom afhankelijkheden.
Mijn collega zal daar straks nog iets specifieks over zeggen, maar ook hier geldt
dat we voor heel veel zaken, van infrastructuren tot diensten, afhankelijk zijn geworden
van verschillende en vaak buitenlandse leveranciers. Dat zijn private leveranciers,
dan wel leveranciers in overheidshanden, bijvoorbeeld leveranciers van clouddiensten
of door ons gebruikte noodzakelijke software. Dat roept vragen op over de mate waarin
bijvoorbeeld ook overheidsdiensten afhankelijk zijn geworden van specifieke externe
leveranciers.

Het roept daarnaast vragen op ten aanzien van investeringen. Met name doordat die
digitale wereld zo diep verweven is en de leverancier of producent continu in het
proces aanwezig blijft – in contrast met de voorgaande fysieke wereld – is het de
vraag welke infrastructuren voor ons belangrijk zijn om zelf te overzien, om zelf
eventueel controle op te houden en om bijvoorbeeld niet het object van een buitenlandse
overname te laten zijn.

Ten slotte roept die internationale dimensie de vraag op in welke mate we brede geïntegreerde
strategieën nodig hebben om al dan niet mee te doen in die rivaliteit. Dat is denk
ik een van de dingen waarop we straks verder kunnen ingaan; bijvoorbeeld rondom het
vraagstuk van AI wordt een immense hoeveelheid van strategieën ontwikkeld, van investering
in onderwijs tot aan grote overheidsinvesteringen in infrastructuur. Dat stelt ons
ook voor de vraag wat Nederland zelf moet doen om daarop een antwoord te geven.

De heer Schrijvers:

Nog even een korte toelichting op een aantal rapporten en stellingen hierover.

Laat ik aanhaken op dat punt van die afhankelijkheid. Twee weken geleden hebben we
een rapport uitgebracht: Voorbereiden op digitale ontwrichting. Het focust heel specifiek
op situaties waarin verstoring en uitval van digitale systemen een groot maatschappelijk
effect heeft, doordat we er heel veel fysieke voorzieningen aan verbonden hebben.
We zien het aantal incidenten toenemen en de kosten van die incidenten oplopen. Als
het specifiek om aanvallen gaat, zijn die voor een deel ook een instrument in geopolitieke
spanningen geworden; dat raakt dus steeds vaker de vitale infrastructuur. We zien
dat dat eigenlijk nog niet voldoende op het netvlies staat. We denken als land dat
we dit probleem met preventieve maatregelen eigenlijk toch wel voldoende kunnen afdekken,
en Nederland is daarin zeker niet het enige land. Maar het gaat eigenlijk zo snel,
dat wat ons betreft ook de vraag moet worden gesteld wat je doet als het misgaat,
want daar moet je eigenlijk op voorhand al stappen in zetten. Het gaat dus om de vraag
of we een plan B hebben; ik vind dat een mooie vraag om af en toe in de Kamer te stellen
als het om digitalisering gaat.

Een eerder rapport ging over het internet in de volle breedte. Het wordt natuurlijk
steeds drukker op het internet en er wordt steeds meer op gebouwd. Het was eerst vooral
een fysieke en een technische laag. Je ziet er steeds meer partijen op komen en steeds
meer toepassingen. Daar begon voor ons de vraag wat hier nu eigenlijk allemaal achter
zit. Vanwege de wereldwijde grote afhankelijkheid van het internet zijn landen zich
steeds meer gaan bemoeien met het beheer van het internet. Het pleidooi in het rapport,
dat overigens door het kabinet is opgepakt, was om een aantal basisprotocollen te
vrijwaren van statelijke bemoeienis. Ik zeg er meteen bij dat het zeker nog geen gelopen
race is. Een van de dingen die daarbij hoort, is een debat over hoe diep staten wel
of niet mogen ingrijpen in hard- en software om het internet te verstoren. Er is een
groot debat, niet zozeer over fragmentatie van internet, als wel over de mate waarin
verschillende landen proberen het internet en alles wat daarop speelt in lijn te brengen
met hun eigen belangen.

Een ander rapport ging over big data, het gebruik van bigdatatechnieken en data-analyses
in met name het veiligheidsdomein. We hebben daarin gewezen op het belang om niet
zozeer de verzameling van gegevens te reguleren, want daarvoor is er al vrij veel,
maar om vooral te kijken naar de analyse en het gebruik van die gegevens. Dat is volgens
mij nog steeds een heel actueel thema, ook als het om kunstmatige intelligentie gaat.
Relevante vragen zijn: wat voor soort foutmarges worden bij dat soort analyses gehanteerd?
Naarmate de rechtsgevolgen van een besluit dat daaruit volgt groter zijn, moet de
marge kleiner zijn. Hoe deugdelijk zijn die analyses? Zijn de correlaties waarop we
ons baseren ondersteund door wetenschappelijke inzichten of niet? Zijn ze doeltreffend?
Dat vind ikzelf een hele grote vraag, want we gaan bij dit soort dingen vrij hard,
maar de vraag is of het nou inderdaad oplevert wat het belooft op te leveren. Even
een voorbeeldje: de Belastingdienst heeft vrij grote claims over wat voor voordelen
ze met dergelijke analyses kunnen halen. Het is heel lastig om dat uiteindelijk hard
te maken.

Een hele belangrijke vraag is meteen een bruggetje naar het laatste rapport dat ik
even kort wil noemen. Bij wie ligt de bewijslast voor de juistheid van dat soort analyses?
Die analyses worden steeds complexer en voor burgers steeds lastiger te doorgronden.
Hierbij moet ik het rapport iOverheid noemen. Het is al een ouder rapport, uit 2011,
maar wat ons betreft nog steeds heel actueel. Twee dingen uit dat rapport. We signaleren
dat bij digitaliseringsprojecten het accent heel erg ligt op het verhogen van efficiency
en op veiligheidsdoeleinden, en veel minder op waarden als privacy, keuzevrijheid
en kwaliteit van dienstverlening. Bij de balans daartussen kun je vragen stellen.

Het tweede punt is dat je ziet dat de overheid door die digitalisering aan de achterkant
heel erg verknoopt raakt; het krijgt helemaal een soort netwerkkarakter. Het risico
op wat ik maar even het «Hotel Californiasyndroom» noem, is dan heel groot: je checkt
één keer in en vervolgens kom je er nooit meer uit. Het vraagstuk van de bijbehorende
mechanismen is nog onvoldoende geadresseerd; de mechanismen om ervoor te zorgen dat,
als het fout gaat, je als burger daartegen in 't geweer komt, en de vraag of er dan
bij de overheid iemand verantwoordelijk is. Ik denk overigens dat Richard van Zwol
hierop veel verder zal ingaan. Er wordt toch met een niet heel evenwichtige blik naar
dit soort ontwikkelingen gekeken. Elke organisatie doet dit voor zich, maar het is
eigenlijk nog heel erg de vraag wie het grotere effect van die digitalisering doorheen
de hele overheid coördineert. Wie is daar nou precies verantwoordelijk voor? Wie neemt
het op zich als fouten zich in dat systeem verspreiden?

Dit is onze inleiding, bij wijze van eerste aftrap. Wij zijn heel benieuwd naar uw
verdere vragen.

De voorzitter:

Zeer veel dank. Wat mij betreft is dit een mooie scherpe aftrap. Mooi om te zien dat
alle rapporten van het afgelopen decennium in alle gevallen eigenlijk nog heel actueel
zijn.

Ik kijk naar mijn collega's ter linkerzijde. Zonder in de microfoon te spreken, geeft
één collega aan dat hij dadelijk veel vragen zal stellen, maar ik begin bij de heer
Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter. Dank aan de heren Sheikh en Schrijvers voor hun korte intro. Ik
had het idee dat het wat aan de korte kant was. We hebben nog wel even, dus u mag
van mij best wat meer uitweiden, omdat u heel interessante informatie met ons te delen
heeft.

Ik ben een beetje zoekende naar het grote plaatje en naar de rol van de overheid in
het scheppen van een kader. Dat is misschien wat filosofisch, hoewel ik mezelf nou
niet zo snel als een filosoof zou willen classificeren. Het gaat niet vanzelf goed.
De samenleving ontwikkelt zich; er wordt een aantal ontwikkelingen geschetst op het
gebied van de burger, van geopolitiek en van de maatschappij. De deelnemers, producenten,
overheid et cetera in die samenleving, dat gaat niet vanzelf goed. Ik vraag aan beide
aanwezigen: hebben we nu echt de overtuiging dat die overheid in staat is om met een
soort van regels, voor zover die er niet al zijn, daarin echt iets te kunnen veranderen?
Of zijn we toch afhankelijk van de grillen van een heleboel producenten die op dit
moment hierin al een enorme voorsprong hebben?

De heer Sheikh:

Ik denk dat dit zeker een groot en moeilijk vraagstuk is. Het heeft volgens mij ook
te maken met wat ik in de introductie al probeerde aan te geven. Er zit iets inherent
onvoorspelbaars in de ontwikkeling van digitale technologie, omdat we eigenlijk gewoon
niet weten wat nou het product is en wat de uitkomst is; we weten niet hoe een stukje
data over iemand uiteindelijk gebruikt gaat worden. Ik denk dat het inderdaad een
principieel probleem voor de overheid oplevert hoe daarmee om te gaan. Wat kan daarvoor
gedaan worden? Ik denk dat er toch wel een paar dingen zijn waar het in ieder geval
duidelijk is dat de overheid hierin zeker een grote rol te spelen heeft, hoe moeilijk
dat ook is.

Op dit moment is de WRR bijvoorbeeld bezig met een onderzoek naar AI. We zijn nog
bezig met het onderzoek, maar we komen al wel tegen dat heel veel toepassingen, met
name in de private sector, in een grijs gebied plaatsvinden. Daardoor worden bepaalde
groepen heel gemakkelijk uitgesloten, of komen zij op achterstand. Denk aan het gebruik
van algoritmes bij de toekenning van hypotheken. Denk aan het gebruik van algoritmes
bij opsporing of bij de politie. Er zijn heel veel vraagstukken, met name ook in de
Verenigde Staten, waar heel veel geëxperimenteerd wordt. Ik denk dat daar al echt
duidelijk is geworden wat voor kwalijke effecten daarin zitten, bijvoorbeeld ook door
het gebruik van slechte data. Het lijkt me dat de overheid bij uitstek een rol heeft
om voorzichtigheid te betrachten bij dit soort zaken en bij bepaalde experimenten,
zeker wat betreft de cruciale zaken in het leven van burgers.

Ik denk dat in het domein van AI meer en meer de roep klinkt om de rol van de overheid.
Een ander voorbeeld in dat domein is het gebruik van gezichtsherkenning. Dat is een
heel moeilijk punt, want gezichtsherkenning wordt ook voor hele onschuldige zaken
gebruikt. Het gegeven dat gezichtsherkenning nu heel goedkoop, heel gemakkelijk en
heel breed toegepast kan worden, heeft echter als mogelijk effect dat de volledige
publieke ruimte heel snel als een politiestaat ingericht zou kunnen worden. Ik denk
dat dit een van de zaken is die nu duidelijk wordt. We zien bijvoorbeeld al verschillende
initiatieven van AI-organisaties, maar bijvoorbeeld ook van Amerikaanse steden, die
er dan ook voor pleiten dat de overheid het gebruik van gezichtsherkenning volledig
verbiedt. Zonder te willen zeggen of dat de weg is, denk ik dat het wel belangrijk
is dat de overheid hier scherp op is. Dit soort technologieën hebben namelijk een
enorme invloed op het vermogen van burgers om zich staande te houden, en kunnen de
balans tussen overheid en burger of tussen grote bedrijven en burgers zeer negatief
doen uitslaan.

De voorzitter:

Normaal inventariseren we altijd eerst alle vragen uit de eerste ronde en gaan we
daarna naar de antwoorden, maar dit geeft misschien best een aardige dynamiek. Dit
was dus een experiment dat we misschien even voortzetten. Ik wil dit nu in twee blokjes
eens even zo proberen en dan zullen we in de pauze even kort evalueren. Dus we doen
nu gewoon de vraag en meteen het antwoord, om de interactie wat te vergroten. De heer
Van Otterloo.

De heer Van Otterloo (50PLUS):

Dank u wel, voorzitter. Als commissie zitten wij met een vraag die niet eens voorafgegaan
wordt door de of-vraag, maar meteen al de hoe-vraag is. De vraag is niet óf we iets
kunnen doen. De vraag is hoe wij ons besluitvormingsproces zo inrichten dat digitalisering
op de beste wijze ingevaren kan worden in ons besluitvormingsproces. En dat terwijl
wij overspoeld worden door allerlei voorbeelden waarvan u er een aantal noemde en
waarvan je je afvraagt: hoe doe ik dat in vredesnaam met de bestaande ontwikkelingen,
laat staan met de toekomstige ontwikkelingen? Ik zou daar graag iets over willen horen,
want ik hoorde toch een paar dingen waar ik aan bleef haken; misschien waren zij niet
bedoeld als tussenzinnen.

Als gevolg van de moord op de advocaat in Amsterdam hebben wij hier vorige week natuurlijk
vaak gehoord dat privacy nu maar ondergeschikt moest worden gemaakt aan het koppelen
van allerlei bestanden, want dan zou de ondermijning door de misdaad in Nederland
effectiever kunnen worden tegengegaan. Maar ik hoor de heer Schrijvers ook meteen
zeggen dat de Belastingdienst daarover ideeën heeft gehad – misschien nu nog steeds
– en dat het in de praktijk een stuk lastiger is. We hebben natuurlijk bij profielen
van bepaalde wijken gezien dat die ook niet precies de informatie opleveren die er
is.

Wat betreft de totale situatie is het natuurlijk zo dat we als burgers inderdaad in
een digitale samenleving worden getrokken op een manier waarvan de consequenties niet
duidelijk worden; Hotel California kun je daarmee vergelijken. Als jij informatie
wilt hebben en je kunt die informatie alleen maar krijgen door een cookiebeleid te
accepteren, dan zit je vervolgens vast aan die cookies. Terwijl je die informatie
misschien wel of niet nodig hebt; dat is even een ander punt.

De vraag is ook wat dat nou betekent voor de plek van Nederland in de wereld. Want
af en toe bekruipt mij het gevoel dat een deel van de samenleving eigenlijk heel Nederland
in een grote bunker zou willen zetten; dat geldt ook als ik naar veiligheidsaspecten
kijk, of naar hoe de tegenstanders van 5G hun huis inrichten om de straling van 5G
tegen te gaan. Het gevoel bekruipt mij dat ze denken dat wij ons kunnen afsluiten
van de rest van de wereld; alsof dat nog op de een of andere manier zou kunnen.

Mijn vraag aan u is of daar überhaupt mogelijkheden voor zijn. Of is alleen het model
van China – met een eigen internet en een sterke rol van de overheid in de beslissing
wat erop mag – een antwoord op die vraag en op die gedachte dat we ons in dat opzicht
buiten de rest van de wereld zouden kunnen plaatsen? Overigens zou voor mij het antwoord
op die vraag negatief zijn, maar dat is uit andere overwegingen.

De voorzitter:

Dat is een vraag met een aantal componenten. Laten we even kijken in hoeverre het
mogelijk is om die in één keer te beantwoorden.

De heer Schrijvers:

Ik zal zeker mijn best proberen te doen. De uitruil tussen privacy en veiligheid hoorde
ik u noemen, en dan vooral bij digitale gegevens. Ik hoorde volgens mij ook iets over
transparantie: begrijpen we het als burger nog wel? En u noemde de meer internationale
component.

In het bigdataproject hebben we vrij precies naar die uitruil gekeken en ik vind dat
nog een vraag. Ik heb weinig goede voorbeelden gezien van situaties waarin het op
grote schaal verzamelen van informatie over burgers tot inzichten leidt en helpt bij
de opsporing. Dat zijn voorbeelden van de Amerikaanse NSA. Zij halen zulke grote hoeveelheden
data binnen dat ze het niet eens kunnen analyseren. Vaak helpt het betere recherchewerk
beter dan het op die manier binnenhalen van informatie. Ik denk dat de verwachtingen
daar te hooggespannen zijn, en dat het dus heel belangrijk is om heel scherp te kijken
naar hoe doeltreffend nou zo'n praktijk is. We bepleiten in dat project om het wel
te onderzoeken, maar er bijvoorbeeld een horizonbepaling aan te verbinden. Als het
om dit soort projecten gaat, evalueer dan of we daarmee inderdaad de bepaalde doelen
halen. En evalueer dan of de impact op de persoonlijke levenssfeer die je door het
binnenhalen van zoveel gegevens hebt, opweegt tegen de opbrengst dat je deze of gene
meneer of mevrouw uiteindelijk in de kraag kunt vatten; om maar even bij dit voorbeeld
te blijven. Ik vind het belangrijk om ook die vraag of het tegen elkaar opweegt te
noemen. Ik denk dat het heel belangrijk is om die balans in de gaten te houden.

Het andere punt ben ik even kwijt.

De voorzitter:

Isolatie versus...

De heer Schrijvers:

Ja, precies: hoever kunnen we daarin gaan? Ik denk dat het niet mogelijk is om je
te isoleren. Dat is geen optie. Voor niemand niet. Dus zelfs een land als Noord-Korea
verkeert natuurlijk niet in een absoluut isolement. Ik denk dat het wel heel belangrijk
is om in ieder geval in Nederland een discussie te voeren over de mate waarin je onafhankelijk
wilt zijn, of eigenlijk de mate waarin je over je eigen voorzieningen wilt kunnen
gaan. We hebben daarvoor een lijstje met vitale infrastructuur. Dat zijn de voorzieningen
die we zo belangrijk vinden, dat we die willen beschermen en dat we er wat aan willen
kunnen doen als ze omvallen. Ik denk dat je zo'n lijstje in het licht van de digitalisering
opnieuw tegen het licht zult moeten gaan houden. Zijn we nog steeds in dezelfde mate
in staat om te waarborgen dat de vitale infrastructuur overeind blijft?

Ik denk dat het heel lastige keuzes zijn. Er hangt ook gewoon een prijskaartje aan,
want dan moet je terugvalopties gaan realiseren. Denk aan het voorbeeld van 112; misschien
moet je daar naar twee providers gaan. Dat soort discussies krijg je dan. Ik zie dat
we wel die kant op bewegen. Dus je krijgt overnametoetsen, en daar zijn we in Nederland
heel erg laat mee. Dat debat wordt al tien à vijftien jaar gevoerd en nu zie ik een
soort voorzichtige aanzet om er toch wat mee te gaan doen. Er is op dat vlak dus meer
mogelijk dan wat er nu gebeurt.

Ik wil nog even een ander punt benadrukken. Er gebeurt natuurlijk heel veel in Europees
verband. We hebben de AVG en de Wet beveiliging netwerk- en informatiesystemen, die
als Wbni is vertaald. Ik denk dat je in ieder geval in Europees verband een aantal
stappen kunt zetten en dingen kunt regelen, maar als het gaat om die voorzieningen
zul je ook veel meer op Europees niveau moeten coördineren.

De voorzitter:

Dan gaan we naar de heer Van Dam.

De heer Van Dam (CDA):

Dank u wel, voorzitter. Dank aan de inleiders dat u hier bent. Nu we hier bij deze
tweede kennissessie zijn en andere dingen hebben gedaan, concentreer ik me eigenlijk
op de vraag die de hoofdopdracht is voor ons als commissie. Dat ga ik ook doen bij
volgende sprekers. Die vraag is: hoe krijgen wij als parlement grip op dat hele thema
van digitalisering en technologie? Dat is eigenlijk waar mijn vraag aan u naar uitgaat.

Ik zie dat vooral drie ministeries zich met dit onderwerp bezighouden: BZK, Economische
Zaken en Justitie en Veiligheid. U bent adviseurs van de regering en ik weet niet
welke vrijheid u heeft om hier in alle vrijheid iets daarover te zeggen, dus u moet
zelf maar even kijken of u het fris vindt om op mijn vraag antwoord te geven. Vindt
u dat we daarmee van overheidszijde voldoende grip op het thema hebben? U heeft er
al iets over gezegd, maar ik stel toch nog maar even die vraag.

Wat zou uw advies aan ons zijn, om als parlement grip op die materie te krijgen? Ik
verwacht niet een volledig afgespoten honderdprocentantwoord, want ik denk dat het
gewoon een route is die we met elkaar moeten gaan om daar zicht op te krijgen. Ik
zou bijvoorbeeld al heel blij zijn als u op hoofdlijnen een aantal thema's zou kunnen
aangeven waar wij ons als parlement op zouden moeten richten. Er is bijvoorbeeld veel
gezegd over een waardebenadering, over data, of over wat dan ook. Wat zouden wat u
betreft lijnen en strepen in het zand zijn, die ons zouden helpen om grip te krijgen
op die materie?

Dank u wel.

De voorzitter:

Een prikkelende vraag. Het is inderdaad altijd goed om even te zoeken naar waar je
wel en niet antwoord op kan geven. Ik laat dat volledig aan de genodigden. U bent
dus vrij om daar wel of niet in te stappen. Ik vind overigens niet dat de vraag nu
zo spannend is dat deze gelijk tot begrenzing leidt, maar u kunt daarin gewoon volledig
uw eigen afweging maken. Het is inderdaad openbaar, zoals hier wordt opgemerkt, maar
het is nou ook weer niet zo dat we hier over verschrikkelijk ingewikkelde staatsgeheimen
spreken. Het is in ieder geval een interessante vraag.

De heer Van Dam (CDA):

Voorzitter, ik wil vooral niet de indruk wekken van een of andere fishing expedition.
Wat dat betreft ben ik misschien explicieter dan noodzakelijk is en hebben we er nu
al veel te veel woorden aan vuilgemaakt. Maar beter dat dan een andere indruk wekken.

De voorzitter:

Heren.

De heer Sheikh:

Voor zover ik daar goed zicht op zou kunnen hebben... Mijn collega heeft er in de
introductie al het een en ander over gezegd. Het is een ontzettend moeilijk vraagstuk
en hiervoor is inderdaad op lange termijn meer dialoog, meer discussie en meer kennisopbouw
vereist. We probeerden zonet te benadrukken dat één van onze observaties is dat, ondanks
dat er bij de overheid ontzettend veel interessante belangrijke initiatieven rondom
digitalisering zijn, heel veel wel heel erg hangt op de actualiteit van het moment.

De mogelijkheid is er om op digitalisering eigenlijk een langere meerjarige koers
uit te zetten en niet rondom de nieuwste trend te hangen. We hebben al even benoemd
hoe big data doorgeëvolueerd is naar AI, dat er blockchain is en straks kwantum computing;
we zien continu dezelfde vragen terugkomen in heel verschillende contexten. De mogelijkheid
is er om wat meer afstand te nemen en na te denken over een aantal van die cruciale
structurele vragen. We hebben geprobeerd daarvoor een beetje een aanzet te geven met
thema's als: wat voor vragen brengt de verwevenheid tussen de fysieke en de digitale
wereld met zich mee? Wat betekent dat voor privacy van burgers? Wat betekent dat voor
de grenzen tussen bijvoorbeeld economische sectoren en de mate waarin de overheid
daarop moet ingrijpen? Wat betekent het voor onze veiligheid? Het zijn hele grote
onderwerpen, maar die hebben we proberen in te brengen vanuit het idee dat het doorlopende
vragen zijn die eigenlijk overal achter blijven spelen.

De heer Van Dam (CDA):

Voorzitter, mag ik even uw experiment benutten door een tussenvraag te stellen?

De voorzitter:

Zeker.

De heer Van Dam (CDA):

Bent u bekend met andere landen, in Europa of waar dan ook, die daar beter in zijn?
Landen die meer de blik naar voren weten te richten en waar wij bijvoorbeeld ook ons
voordeel mee zouden kunnen doen?

De heer Sheikh:

Het verschilt per domein, maar ik denk dat er de nodige voorbeelden zijn. Wat betreft
een heel klein land is Estland eigenlijk bijzonder voortvarend, zeker ook op het gebied
van digitale overheid en privacykwesties; als klein land is het daarin bijzonder ver.

Als we bijvoorbeeld nadenken over meer strategisch naar het internet kijken, dan is
een land als Frankrijk daar al veel langer mee bezig. Neem bijvoorbeeld AI: daarvoor
is Nederland nu een strategie en een aanpak aan het ontwikkelen. Dat is in Frankrijk
een aantal jaren geleden gebeurd. We zijn daar geweest om met de auteurs daarvan van
gedachten te wisselen.

Op verschillende domeinen zijn er een aantal andere Europese landen die al eerder
met deze vragen aan de slag zijn gegaan.

De heer Van Dam (CDA):

Dat is eerder in de zin van iets vinden van gezichtsherkenning of van privacy of wat
dan ook. Maar zijn er landen die eerder waren met die gecoördineerde aanpak, waarin
je meer naar voren kijkt en het meer in een toekomstig perspectief zet?

De heer Sheikh:

Het is moeilijk om daar in het algemeen helemaal goed zicht op te hebben, maar mijn
indruk is dat zoiets toch wel vanuit een veel meer gecoördineerde visie gebeurt. Dat
blijkt in ieder geval uit wat we gezien hebben bij bijvoorbeeld de Franse AI-strategie.

De heer Schrijvers:

Ik zal nog even antwoorden op de vraag over de departementen. Daar wil ik best wat
over zeggen; ik loop al een tijd mee. Kijk, met de driehoek die er nu is, ben ik heel
blij als begin. Ik vind het een goed begin, omdat het een begin is, want twee jaar
geleden kwamen al die plannen apart van elkaar tot stand en werd er af en toe over
geruzied. Dus ik ben heel blij dat dit er nu ligt. Natuurlijk zijn er allerlei thema's
te bedenken en daar hangt het vanaf. Als je het over die ontwrichting hebt, zit ook
Defensie erbij. Ik zou zeggen dat IenW natuurlijk een heel belangrijk departement
is, omdat het nu vooral over de harde kant van de infrastructuren gaat.

Het lijkt me dat u een lastig vraagstuk heeft voorliggen over hoe je dat nou precies
indeelt. Er is wel een soort harde kern van vraagstukken en dan kom je toch een beetje
bij die driehoek terecht, maar die dekt zeker niet het volledige spectrum. Als het
over werk en digitalisering gaat, is SZW natuurlijk heel intensief betrokken. Dat
is een beetje hoe ik ertegen aankijk.

Ik zou dus zelf ook zo'n beginnetje maken, en dan zie je wel waar het schip strandt.
Dit onderwerp is nog zo erg in beweging dat het niet een-twee-drie vastligt wie er
nou precies over gaat. Ik denk dat zo'n vorm van coördinatie een heel mooi begin is
om er toch wat meer sturing op te hebben, in ieder geval vanuit de kant van de departementen.

Kijk, dat vooruitkijken vind ik wel een lastige, omdat je internationaal met hele
verschillende politieke systemen te maken hebt. Ik kijk zelf voor onderzoek heel regelmatig
naar de VS, al moet ik bekennen dat dat wel voor Trumps tijd was. President Obama
heeft een aantal heel goede commissies gehad met echt topwetenschappers, toen ook
al op AI-gebied. Een paar jaar geleden waren er al rapporten over AI en over big data,
en waren er een soort high level groups die gewoon even een korte verkenning deden
van de vraag hoe zij erin zitten. Maar binnen zo'n systeem wordt dat natuurlijk heel
anders opgepakt dan hier, omdat we hier veel meer een coalitiemodel hebben. Om het
maar even heel kort samen te vatten: ik denk dat we hier heel goed zijn in het verkennen
van vraagstukken, en wat minder goed zijn in het vervolgens oppakken daarvan.

Als ik voor die verkenning kijk naar wat er de afgelopen jaren vanuit verschillende
kanten aan onderzoek is gedaan, dan ben ik... Dat vond ik trouwens interessant in
het stuk. We kijken vooral naar buiten, maar kijk ook even om u heen: het Rathenau
Instituut, de Raad voor Cultuur en de AWTI hebben interessante dingen gedaan. Er is
een brede waaier aan expertise, die heel gericht als doel heeft om het beleid vooruit
te helpen en daarop kritisch te reflecteren.

De heer Van Dam (CDA):

Dat is juist het punt. Ik denk dat wij momenteel heel erg om ons heen kijken, want
iedereen komt hier langs. Correct me if I'm wrong: mijn observatie is dat iedereen
veel onderzoek doet naar hele relevante concrete thema's, maar ik zie die overkoepelende
vraag van hoe we nu in den brede grip krijgen op dit onderwerp nog niet zo heel veel
onderzocht en bekeken worden. Ziet u dat wel? Dat zou echt ongelofelijk helpen.

De heer Schrijvers:

Dat klopt. Ook internationaal vergelijkend ken ik niet echt een soort onderzoek dat
in detail in kaart brengt hoe we dit op verschillende dossiers doen. Denemarken heeft
volgens mij een soort internetcommissaris ingesteld. Er zijn dus wel verschillende
figuren, maar aan de kant van de volksvertegenwoordiging heb ik er minder zicht op.
Ik zou zeggen dat iedereen iets probeert.

De voorzitter:

Oké. Ik geef het woord aan de heer Middendorp.

De heer Middendorp (VVD):

Dank, voorzitter. Dank ook aan de beide heren van de WRR voor de inleiding. De vraag
van de heer Van Dam zou ik natuurlijk graag willen herhalen, en dat heb ik in eerdere
sessies ook weleens gepoogd. Dat is natuurlijk wel de hoofdvraag.

Ik heb net iets gehoord dat heel interessant was; dank voor het antwoord. Ik zal het
van twee specifieke kanten proberen te benaderen. Het eerste is dat u zei: big data,
wat levert het nu eigenlijk op? Ik zou die vraag aan u voor willen leggen. Ik denk
dat dat een van die grote thema's is waar wij hier in het parlement mee worstelen:
bij alle innovatie kan je niet van tevoren zeggen wat eruit komt. Die vraag is dus
makkelijk gesteld, maar niet zo makkelijk beantwoord, en die verstoort politieke processen.
Graag uw mening daarover.

Het tweede is dat u het had over grote investeringen in Nederland en over nieuwe regelkaders,
en dat je dan in Europees verband dingen kan regelen en ook zou moeten coördineren.
Ik zou daarbij graag iets meer achtergrond horen, omdat dat volgens mij een enorme
kans is, maar ook een soort gevaar voor het tackelen van het aanpakken van de digitalisering
in de verschillende lidstaten.

De heer Sheikh:

De eerste vraag was: het is makkelijk om kritische opmerkingen over toepassingen van
technologie te maken, maar we weten van tevoren nooit hoe dat precies verloopt. Dit
is inherent aan het openeindekarakter van innovatie en daar hebben we überhaupt mee
te maken. Ik denk dat de voorzichtigheid die we hierin vooral proberen te benadrukken
het volgende betreft. Ergens moet er een balans gevonden worden tussen een hoeveelheid
van experimenteren, en tegelijkertijd moeten we zorgen dat er voldoende bescherming
is wanneer het burgers op cruciale zaken treft. Dat betekent niet dat we de experimenten
helemaal niet moeten doen, maar het kan wel betekenen dat we moeten kijken naar wat
de zwakste groepen zijn die benadeeld kunnen worden bij bepaalde experimenten, en
of we voldoende structuren gecreëerd hebben waardoor er bijvoorbeeld mogelijkheden
voor protest of inzage zijn.

Dat is denk ik wat we ook internationaal bij big data of in AI-toepassingen zien.
Niemand weet precies wat hierin nou uiteindelijk goede toepassingen van AI zullen
zijn en wat voor data die zullen gebruiken. Als er tegenover dat experimenteren de
ruimte voor burgers is om te kunnen zien welke data zijn gebruikt, hoe die zijn gebruikt
en waar ze hun beklag kunnen doen als ze verkeerd bejegend zijn, dan kan dat een manier
zijn waarop toch de mogelijkheid van een experiment behouden wordt, maar tegelijkertijd
wel verhinderd wordt dat vooral de zwakste partijen hieronder lijden, zodat zij toch
nog beschermd worden. Het zou eerder een pleidooi zijn om die twee zaken met elkaar
te combineren.

De tweede vraag ging over het Europees verband. Ik weet niet of ik helemaal doorheb
waarop u doelt: of de mogelijkheid tot gecoördineerde besluitvorming in Europa hier
de uitdaging is? Voor een aantal dossiers lijkt het mijzelf in ieder geval relevant
dat we er in Europees verband in optrekken, met name bij vraagstukken met een hele
grote schaal en bij bijzonder complexe vraagstukken. Dan kunnen we het hebben over
zoiets als 5G-infrastructuur en hoe moeilijk het is om van tevoren te voorspellen
en te begrijpen wat daarin gaat gebeuren. Zoiets vraagt toch wel om iets van een grote
massa, in een speelveld waarin met name de Verenigde Staten en China de dominante
partijen zijn.

De voorzitter:

De heer Middendorp, heeft u nog een vervolgvraag?

De heer Middendorp (VVD):

Dit was ongeveer wel wat ik bedoelde met die laatste vraag, maar dan toch nog even
dit. U noemt vraagstukken met een hele grote schaal en ingewikkelde vraagstukken,
met als voorbeeld de 5G-infrastructuur. Maar ja, iets als het klimaat hebben we toch
uiteindelijk in Nederland moeten aanpakken. Dat was natuurlijk binnen een heel kader
en ik wil niet weglopen van dat kader, maar voordat we op basis van het feit dat een
onderwerp een heel grote schaal heeft en grensoverschrijdend is... Dan zet ik naast
5G en infrastructuur bijvoorbeeld het klimaat, want dat hebben we toch in Nederland
gedaan. Hoe kijkt u daartegen aan?

De heer Sheikh:

Het sluit niet uit dat we op al deze domeinen natuurlijk een nationale opgave hebben.
Wat hierin dan misschien nog de variabele is, is dat het hier vaak gaat, bijvoorbeeld
in het geval van 5G, om de onderhandelingspositie ten opzichte van andere grote blokken.
Bij het klimaat hebben we natuurlijk onze eigen doelstellingen, maar als we internationaal
iets willen regelen, zullen we daarvoor massa moeten creëren. Ik denk dat dat hier
evengoed zo is. Op digitalisering kunnen we heel veel zelf doen, maar wanneer het
gaat om onze positie ten opzichte van bijvoorbeeld de providers in de Verenigde Staten
en China, dan vraagt die situatie er volgens mij om dat we ook op grotere schaal acteren.

De voorzitter:

De heer Schrijvers, heeft u nog een aanvulling?

De heer Schrijvers:

Ja, want volgens mij noemde ik op een gegeven moment de EU. Kijk, het gaat om een
paar vraagstukken. Bij cybersecurity heeft iedereen last van de zwakste schakel, dus
dat wil je eigenlijk op een zo hoog mogelijk niveau regelen. U heeft helemaal gelijk:
als je dat tussen lidstaten gaat doen en daarin samen gaat optrekken – we gaan natuurlijk
toch richting een soort Europese interne markt en Europese dienstverlening – dan wil
je dat alle lidstaten hun zaakjes op orde hebben. Daar is bijvoorbeeld de NIB-richtlijn
voor. Maar tegelijkertijd creëer je ook weer nieuwe afhankelijkheden. Vooral op het
terrein van cybersecurity en internet zal je op internationaal niveau stappen moeten
nemen. Je moet dus internationale diplomatieke inspanningen moeten verrichten – dat
doet Nederland ook – om te kijken of het internet als zodanig veiliger gemaakt kan
worden en of je ervoor kan zorgen dat er afspraken komen over welke handelingen staten
en inlichtingendiensten wel en niet op dat internet mogen gaan doen. Je zult afspraken
moeten maken over wat nu wel of niet geldt als een gewapend conflict. Mag je ziekenhuizen
bijvoorbeeld raken met malware? Dat zijn dingen waarbij je op het internationale vlak
last van elkaar hebt, dus dan zal je er ook internationaal uit moeten komen. Dat vergt
een hele lange adem en dat regel je niet alleen hier.

Ik denk dus dat je beide zaken tegelijkertijd moet doen. Je zult jezelf hier beter
moeten beschermen en een soort terugvaloptie moeten maken, maar je moet ook vooruitdenken
en proberen internationaal een aantal zaken af te dekken. Dan is de EU natuurlijk
wel een eerste stap, omdat die landen hier toch wel op dezelfde manier in zitten.
Voor een deel kan het samen met de VS, want er zijn een aantal swing states die er
op dezelfde manier in zitten en dezelfde afhankelijkheden hebben. Daarin zal je dus
samen moeten optrekken. Ik denk dat er geen andere mogelijkheid is dan dat te doen.

De voorzitter:

Nog één laatste vervolgvraag, meneer Middendorp, want ik wil proberen ook de heer
Azarkan en de heer Van Otterloo nog een extra vraag te geven. Gaat uw gang.

De heer Middendorp (VVD):

Oké. Denkt u dat een land als Singapore op termijn ook in zo'n blok zal opgaan? Want
als ik die gedachtenlijn die u net beschreef volg, hebben ze net als Nederland eigenlijk
niet echt een andere keuze.

De heer Schrijvers:

Ik heb wel behoefte aan toelichting over het blok. Het gaat...

De heer Middendorp (VVD):

Bij cybersecurity ben je afhankelijk van de zwakste schakel en moet je kunnen onderhandelen
tegen grote blokken. We hebben het klimaat al gehad; dat zal ik niet herhalen. Een
land als Singapore, dat toch heel erg connected is, zit niet in een blok, zoals Nederland
in Europa zit. En zoals u het net uitlegt, zou dat ertoe leiden dat zo'n land, om
competitief te blijven, om veilig te blijven, ook in een blok zou moeten opgaan.

De heer Schrijvers:

Ik weet te weinig van Singapore om een uitspraak te kunnen doen over wat Singapore
moet doen. Maar ik denk dat je in het internationale wel je partners zult moeten kiezen.
Dat kunnen soms landen zijn waar je in eerste instantie niet aan denkt. Dat is ook
wat we lezen in het rapport De publieke kern van het internet. Want het gebruik van
internet verschuift natuurlijk enorm van waar het ooit begon, namelijk Noordwest-Europa
en de VS, naar andere delen van de wereld. Die landen worden dus invloedrijke spelers.
En het is ook gewoon een machtspolitiek vraagstuk: wie kun je op welk moment winnen
voor je zaak? Ik denk dat je er dus ook op die manier naar moet kijken en dan zou
dit soort landen absoluut in beeld kunnen komen. Van een aantal landen is het natuurlijk
heel erg duidelijk dat ze internet het liefst willen afschermen en zo veel mogelijk
onder eigen beheer willen stellen. Het gaat dan om landen als Rusland, Iran, Noord-Korea
en China. Die denken er echt anders over en die krijg je ook niet mee op dit punt.

De heer Sheikh:

Nog een aanvulling hierop. We hadden het net over Europese voorbeelden van landen
die voortvarend op dit domein zijn. Ik denk dat Singapore internationaal een goed
voorbeeld is. Het is een land dat wel degelijk heel open is, maar tegelijkertijd al
heel vroeg heel strategisch omgaat met dit soort vraagstukken. Het zet zichzelf hier
ook enorm voor in en maakt zich zorgen over deze dynamiek. Volgens mij zien we rondom
het gebruik van Singapores Smart Nation-projecten, maar ook Singapores initiatieven
in Asia, dat het juist een land is dat zich in ieder geval bewust is van hoe die openheid
het land kwetsbaar maakt en dat probeert zich daartegen in ieder geval te organiseren.
Of het dat in een groter verband kan doen, is, denk ik, de vraag. Dat heeft met de
geopolitieke situatie van het land te maken. Het is ergens heel nauw met China verweven,
maar op veiligheidsgebied heel erg met de Verenigde Staten. Volgens mij verklaart
juist die gespletenheid precies Singapores enorme actieve diplomatie op het gebied
van digitalisering.

De voorzitter:

Tot zover even een uitstapje naar Singapore, hoewel ik de vraag begreep. Heeft de
heer Van Otterlo of de heer Azarkan nog een aanvullende vraag? Zij zijn iets minder
lang aan bod gekomen. Azarkan? Is er nog een vraag?

De heer Azarkan (DENK):

Ja. Het is prima dat we in interactie vragen kunnen stellen. Dat we met elkaar informatie
krijgen over en richting krijgen in hoe we verdergaan met de onderzoeksvraag, is wat
mij betreft belangrijker dan dat het nou per se heel strak gelijk verdeeld moet zijn.

Ik heb een vraagje waar ik nog wel mee worstel. Dat gaat eigenlijk over heel iets
anders, namelijk het virtuele vestigingsklimaat. In hoeverre zijn er nou grote spelers
die zich laten afschrikken, bijvoorbeeld door strengere regelgeving, en in hoeverre
kost dat Nederland en andere landen die daarin ook op die manier meegaan, economische
groei of andere vormen van opbrengsten? En is dat ook daadwerkelijk aan de hand? Zijn
we nu met een groep landen bezig om een en ander ook echt af te wegen? Als we eisen
stellen, bijvoorbeeld dat bedrijven hun algoritmes vrijgeven of dat ze, als het om
de AVG gaat, bepaalde zaken niet mogen vastleggen, vertonen ze dan ontwijkend gedrag?
Wordt dat spel internationaal ook gespeeld?

De heer Schrijvers:

Dat is een interessante vraag over het vestigingsklimaat. Het is natuurlijk heel erg
afhankelijk van de technologie waarnaar je kijkt. AVG: ik heb er geen zicht op of
en hoe dat hier speelt, maar ik weet wel dat het internationaal ook als een voordeel
wordt gezien. De bedrijven die vasthouden aan de richtlijnen die daarin vervat zijn,
kunnen daaruit ook internationaal voordeel halen, ook in de VS, en daarmee vooroplopen.
Het idee is namelijk dat het uiteindelijk toch die kant opgaat.

Ik wil hierbij nog even een hele andere opmerking maken over het vestigingsklimaat.
Even een beetje prikkelend: misschien zijn we hier wel een beetje te liberaal als
het gaat om het vestigingsklimaat. Want als ik kijk naar de herkomst van allerlei
malware en cyberaanvallen en zo, staat Nederland echt hoog in de top, op de derde
plek of de vierde plek, een beetje afhankelijk van het type malware. Dat komt wel
hier vandaan. Nederland is in dat opzicht dus een belangrijk doorvoerland, maar misschien
niet het doorvoerland dat wij willen zijn. Dat vind ik ook een discussie die het waard
is om gevoerd te worden. Zijn we daarin niet te liberaal? Of, om het heel anders te
framen: hebben wij dit wel voldoende in het vizier en hebben we de instrumenten wel?
En dat is ook weer iets wat je internationaal zou kunnen doen. Hebben wij de instrumenten
om dit soort partijen beter aan te kunnen pakken? Ik haak toch even aan op dat internationale.
Ook hierbij is het wel handig als je het met wat meer landen doet, zodat ze niet bij
je buren gaan zitten. Dat is natuurlijk ook niet een heel wenselijke situatie. Dus
bekijk het ook even andersom. Het vestigingsklimaat heeft twee gezichten, zou ik zeggen.

De voorzitter:

De vraag of we te liberaal zijn, was ook afgelopen week een belangrijke. Ik heb zelf
ook nog wel één slotvraag, als het kan. Met het oog op de tijd zou het net kunnen.
Ik sluit hiermee ook een beetje aan bij Van Dam. Als je naar al die digitaliseringsverschuivingen
kijkt, zie je dat die zowel het gebied van waarden als het gebied van werk, als het
gebied van welvaart, als het gebied van de wereldverhoudingen raken. En daar horen
eigenlijk ook weer alle ministeries in Nederland bij. Werk is Sociale Zaken en Financiën;
welvaart is Economische Zaken, Infrastructuur en Onderwijs; wereldverhoudingen zijn
weer meer Defensie, Europese Zaken en Buitenlandse Zaken. Dus zodra je naar de veranderingen
in die blokken kijkt, worden eigenlijk alle ministeries ermee geconfronteerd en is
die digitale driehoek inderdaad nog maar een begin. Eigenlijk raakt het gewoon alle
ministeries. Mijn vraag is dan of je het nog wel via ministeries moet regelen, of
dat er een ander soort systeem of structuur moet komen, om dit soort grote vraagstukken
op hoofdlijnen in goede banen te leiden.

De heer Sheikh:

Dat is een bijzonder moeilijke vraag. Het is onomstotelijk zo dat dit alle ministeries
raakt. De manier waarop we ernaar kijken, is dat we digitalisering graag beschouwen
als een general purpose technology, een technologie die niet een specifiek doel heeft,
maar door de hele samenleving, door de hele economie, voor allerlei zaken en doeleinden
gebruikt kan worden. Dat betekent dus dat er geen domein gespaard zal blijven. Ik
denk dat het in ieder geval meer gecoördineerd beleid en visie vraagt. De vraag of
dat goed binnen de structuur van de huidige ministeries kan, is moeilijker te beantwoorden.
Ik weet ook niet of er vanuit de WRR iets is. Vanuit de WRR zijn wij erop gericht
om te proberen na te denken en mee te denken over de richting van het beleid, de grote
thema's en vraagstukken. Het is, in ieder geval wat mij betreft, moeilijker om een
visie te geven op de specifieke inrichting daarvan en op de vraag welke instanties
daarover gaan.

De heer Schrijvers:

Ik heb toch even een heel kleine aanvulling. Dit vraagstuk komt niet alleen rondom
dit punt aan de orde, maar rond verschillende thema's. Ik kan me best voorstellen
dat zo'n soort figuur op termijn een goed plan zou zijn, maar ik zou er zeker niet
te snel mee beginnen, omdat je het vraagstuk ook weer ontzettend enorm compliceert.
U kent het Haagse waarschijnlijk beter dan ik, maar je krijgt daardoor waarschijnlijk
ook weer allerlei nieuwe competentievraagstukken. Dus ik zou niet te veel haast maken
met zo'n rigoureuze oplossing, maar het langzaam opbouwen en langzaam verkennen hoe
en bij wie dat vraagstuk precies terecht moet komen. Ik denk dat dat begint met het
inhoudelijk verkennen waar het nu precies bij digitalisering om draait. En daar bent
u goed mee bezig.

De voorzitter:

Oké. Dan wil ik u beiden zeer hartelijk bedanken voor dit interactieve en interessante
uur. Dan gaan wij nu even twee minuten schorsen voor de wisseling van de wacht. Wij
gaan dadelijk verder, om 11.00 uur, met de heer Van Bellen. Hij is directeur van het
Platform voor de InformatieSamenleving, het ECP. Zeer veel dank aan de beide heren.

De vergadering wordt van 10.57 uur tot 11.03 uur geschorst.

Blok 2

Gesprek met:

– de heer Arie van Bellen, directeur van het ECP, Platform voor de InformatieSamenleving

De voorzitter:

We gaan weer verder. Als de heer Azarkan zijn debat over Feyenoord zou willen beëindigen,
dan kunnen wij naar het hoofdonderwerp van vandaag: digitalisering. We zijn toe aan
het tweede blok van onze tweede kennisdag. De heer Arie van Bellen is nu bij ons te
gast. Welkom. Hij is directeur van het ECP, het Platform voor de InformatieSamenleving.
We gaan hetzelfde doen als in het eerste blok. We hebben een aftrap van een minuut
of tien en dan een interactief vraag- en antwoordgesprek waarbij we gewoon alle kanten
op kunnen binnen het kader van onze onderzoeksvraag. Ik geef u graag het woord.

De heer Van Bellen:

Dank u wel, voorzitter. Dank voor de uitnodiging. Het is ontzettend leuk om hier te
zijn. Ik ben graag op de uitnodiging ingegaan, omdat ik denk dat het heel innovatief
en ook heel belangrijk is dat er nu een horizontale en tijdelijke commissie Digitale
toekomst is. Ik zal dat uitleggen. Ik zal even kort vertellen wat mijn club doet en
wie ik ben. Dan zal ik een stukje visie op deze hele ontwikkeling geven, en met name
de doorvertaling naar politiek en beleid.

Ik moest aan u denken toen ik het FD pakte, zowel vandaag als vrijdag. De voorpagina
van vandaag: medische onderzoeken in het gedrang door strengere privacyregels. Vrijdag
lazen we op de voorpagina van het FD: gemeenten vrezen problemen door golf van 5G-antennes.
De moraal voor mij is dan: we willen medisch toponderzoek en we willen patiënten genezen,
maar we willen ook een persoonlijke levenssfeer. Dan merken we dat we eigenlijk met
een vork een ontwikkeling aan het eten zijn, terwijl die ontwikkeling een soep is.
Ik doel op de datasamenleving en de platformsamenleving. Bij 5G is het hetzelfde verhaal.
Waarschijnlijk kan 5G enorm innovatieve en gewenste toepassingen faciliteren, maar
tegelijkertijd is er straling en vervuiling in steden met allemaal antennes.

De moraal voor mij is een beetje dat we het beeld van die horizontale beweging nog
niet helemaal met elkaar te pakken hebben, omdat we verticaal georganiseerd zijn.
Dat, terwijl het volgens mij wel de belangrijkste ontwikkeling op dit moment in onze
samenleving is, omdat het echt een omslag is van de industriële samenleving naar een
datasamenleving. Geopolitiek bekeken – dat hoorde ik zonet als toehoorder een beetje
doorklinken – is het zeer essentieel dat wij ons als Europa realiseren dat we op plek
drie staan. We stonden op plek één in de industriële samenleving. De stoommachine
is door Stevenson in Engeland ontdekt en mede door de voorsprong in technologie heb
je dan wereldwijd een leidende positie, ook in ethiek en moraal. Die hebben we niet
meer, want het is nu: Amerika, China, Europa. Wat gaan we daaraan doen? We hebben,
zo blijkt, heel veel kansen en ook een hele positieve uitgangspositie.

Mijn club is een stichting die al twintig jaar bestaat. Die heeft een missie, namelijk
een betrouwbare kansrijke digitale samenleving in Nederland. De stichting heeft een
bestuur en een raad van toezicht, waar trouwens onze Koning ook negen jaar in gezeten
heeft. We hebben de opdracht geformuleerd om niet in een belangenpositie te verkeren,
maar in een verbindingspositie. Alle bedrijven die ertoe doen zijn aangesloten, niet
alleen techbedrijven maar ook gebruikers zoals de banken, Ahold en noem maar op. Ook
alle departementen zijn aangesloten, terwijl wij helemaal geen overheidsclub zijn,
evenals alle belangrijke koepels als VNO-NCW, de Consumentenbond en noem maar op.
De wetenschap is voor een belangrijk deel aangesloten. En we hebben een aantal kernen
in de samenleving georganiseerd die ons helpen in onze rol, onder andere een jongerenraad.
Dat is mooi. Waarom doen die partijen dat en wat doen wij dan?

We hebben een kerncompetentie. Die noemen wij: ontmoeting, inspiratie en samenwerking.
Er zijn 50 bijeenkomsten per jaar. We hebben grote programma's die deelthema's beetpakken
waarop die verschillende actoren moeten samenwerken, waaronder Digivaardig, een groot
programma voor digitale veiligheid en vaardigheid. Maar het gaat verder. Die kerncompetentie
wordt gefinancierd door lidmaatschappen, zonder dat we onze onafhankelijkheid verliezen.
Om die kerncompetentie heen zijn een aantal grote programma's in Nederland op poten
gezet door mijn club, juist omdat we neutraal zijn: bijvoorbeeld de Nationale Blockchain
Coalitie en de nationale AI-coalitie to be, die op 8 oktober wordt aangekondigd. Dus
naast een soort geweten, denktank zijn wij ook een soort facilitator, verbinder. Dat
levert ontzettend veel leuke contacten en veel inzichten op. Een belangrijke taak
is ook om steeds even wat verder te denken en vooruit te denken, maar wel vanuit een
neutrale positie.

Ik mag dat al twintig jaar doen. Ik heb het ooit zelf verzonnen. Het is verschrikkelijk
leuk. Ik heb de leukste baan in Nederland, omdat dit onderwerp zo enorm dynamisch
om ons heen draait. Ik werk met 50 mensen die zonder uitzondering allemaal open sollicitant
waren. Ook de jongere generatie vindt het erg belangrijk om de kwaliteit van de digitale
samenleving mede vorm te geven. Dat is allemaal mooi.

Sommigen van u ken ik ook wel uit dat speelveld. Ik moet ook waarnemer zijn in het
bestuur van de ICT-branche, VNO en de departementen, die allemaal volledig in paniek
zijn door dit onderwerp. Bij sommigen gaan de ogen glinsteren van de kansen, maar
bij anderen worden de ogen wat dof van de enorme tsunami aan veranderingen. Wat betekent
het nou voor onze politiek, voor het beleid? Wat zouden bijvoorbeeld de Kamerleden,
maar ook beleidsmedewerkers, hierover moeten weten? Ik heb iets meegestuurd, dat ik
heel kort zal toelichten.

Naar mijn mening is er een soort driehoek in beweging, waarbij ingrijpende technologische
ontwikkelingen echt gesnapt moeten worden. Dat hoeft niet op het niveau van bits en
bytes, maar het disruptieve karakter ervan moet echt gesnapt worden. Voorbeelden zijn
blockchain, AI, internet of things en 5G. Bijvoorbeeld in de politieke arena mis ik
een kennisniveau van wat de impact van die technologieën is op de ordening van onze
economie en samenleving, met effecten als «winner takes all» of sociale onrust. Daardoor
zijn we eigenlijk een stap te laat. Dat is geen verwijt, want die ontwikkeling is
heel snel gegaan en we hebben vaak zelf niet de grondhouding van adaptie van dat soort
kennis; ik ook niet, want ik ben jurist van oorsprong. Het gaat niet om de techniek
zelf, maar om de impact ervan. Dus dat is één: disruptieve technologie beter snappen.

Twee: we moeten ons echt erin verdiepen in welke domeinen waarin wij leven die ontwikkeling
een disruptieve, een veranderende en soms zeer ingrijpend veranderende impact heeft.
Is dat de zorg? Is dat het onderwijs? Is dat Mobility as a Service in plaats van wat
we nu doen met de trein, de auto of de fiets? Ook daar zie je dat vakmensen met een
domein bezig zijn en die ontwikkeling proberen te vertalen naar hun dossier, terwijl
die disruptiviteit ervoor zorgt dat ze voor een groot deel de interactie met andere
domeinen al hadden moeten meenemen in de ontwikkelfase van iets als Mobility as a
Service. Nu zijn domeinen natuurlijk politiek ingewikkeld, want er is bijvoorbeeld
een zorgwoordvoerder en een defensiewoordvoerder. Hoe krijg je nou die horizontale
kennisdeling en visiedeling? Daar kom ik zo nog even op. Maar de domeinvertaling is
dus de tweede in de driehoek.

Het derde en laatste punt is het volgende. We hebben allerlei kaders, zoals een juridisch
kader, een veiligheidskader, een educatief kader, een ruimtelijke ordeningskader,
een politiek kader en een ethisch kader. Dat zijn kaders waar we trots op zijn en
die we moeten onderhouden, maar die onder zware druk staan door deze beweging. Wij
met elkaar, ook u als volksvertegenwoordiger, moeten proberen te duiden welke van
die kaders onder druk staan, terwijl zij wel geënt zijn op de normen en waarden zoals
we die willen hebben. Wat kunnen we daar dan mee doen? Is het kader flexibel genoeg?
Moet het kader veranderen? Of moeten we robuust het kader versterken door te zeggen
«dit willen wij niet»?

Het is een heel interessante wisselwerking, maar ik sta voor die driehoek. Op al die
gebieden hebben wij ook allerlei werkgroepen, en noem maar op. Dus wat moet een commissie,
een Kamerlid, een beleidsmedewerker of een bewindspersoon weten? Ik zou zeggen: de
basis van die drie verschillende invalshoeken, in samenhang met elkaar.

Wat betekent dat politiek gezien? Ik denk dat het een hele zware maatschappelijke
doorvertaling betekent naar sociale ontwrichting, naar sociale vragen en naar nieuwe
sociaal buitengeslotenen. Nu noem ik allerlei negatieve kenschetsen, maar er zijn
ook hele kansrijke gevolgen, sociaal-maatschappelijke maar ook economische gevolgen.
De economische doorvertaling van «winner takes all» noemde ik al, maar we zien ook
disruptiviteit in bijvoorbeeld de taxibranche en de hotelbranche. En er zijn allang
hele andere gevolgen, bij restaurants bijvoorbeeld. Waar we voor moeten oppassen,
is dat we het alleen maar framen als «o jee, we moeten ons kennelijk tegen iets verdedigen».
Nee. Maatschappelijk-politiek is ook de innovatieve kans interessant, en die gaat
verder dan de woordvoerder innovatie of de woordvoerder economische zaken.

Waarover ik zelf verbaasd ben, is altijd zo'n krantenkop als «medisch onderzoek in
het gedrang door privacyregels». Waarom komt de nieuwe Google dan niet uit Nederland,
waar de data bij de patiënt blijven en waar een ander verdienmodel achter zit? StartupDelta
kreeg 60 miljoen en er is een Horizon 2020-programma in Brussel; waarom hebben we
dat niet mee-georganiseerd? Wij zijn goed in mensen, en dat wordt cruciaal.

Ik rond af. Dit is voor mij de moraal: Europa, en ook Nederland, heeft wel degelijk
een positie op het niveau van de andere grote blokken, namelijk vanuit dat mensdenken,
en dan niet enkel via ethici en juristen, maar via innovatieve jonge bedrijven. En
daar zie je dat die vork niet helemaal functioneert, dat «made in Holland or Europe»
en «powered by humans» langs elkaar heen werken, want ondertussen denderen de ethische
en morele veranderingen door, doordat de leidende technologie niet meer in Nederland
of Europa wordt gemaakt.

Ik kan een voorbeeld noemen. Ik was in China. Ik mocht in Beijing les geven aan studenten.
Ik zei: «Vinden jullie het nu leuk dat, als je op een zebrapad oversteekt en ziet
dat je buurman door rood loopt, jij hem moet aangeven op je mobieltje en dat jij dan
punten krijgt voor je komende baan of huis? Maar als jij dat niet doet, gaat de buurman
daarnaast jou en die ander aangeven en krijgt dan dubbele punten.» Toen keek die student
mij aan en zei: «Yes, we want this.» O, dacht ik, hij is hoogopgeleid; hoezo dan?
Hij zei ook, even in het Nederlands vertaald: «Jullie denken nog vanuit de mier. Voor
ons gaat het belang van de mierenhoop veel verder dan dat van de mier.» Nou, je eerste
impuls is: abject. Of je denkt iets van: die moeten de hele verlichting nog doorlopen.
Maar zij zijn nu wel leidend. Dat zette me dus aan het denken. Laten we dat humancentric
niet te soft maken, maar laten we het keihard innovatief maken. Dat is ook mijn ervaring
uit het hele netwerk.

Dus graag meer kennis bij u; ik doel op die driehoek. De maatschappelijk-politieke
doorvertaling heeft zowel een economische, sociaal-maatschappelijke als innovatieve
component. En ten slotte wat betreft de institutionele invulling: het kan absoluut,
maar alsjeblieft géén bewindspersoon en wél een veel intensievere interdepartementale
kracht. Je zou bijvoorbeeld wel een bewindspersoon leidend kunnen maken op een groot
thema dat u de komende periode distilleert; bijvoorbeeld «hoe gaat de overheid om
met data?». U zou kunnen zeggen dat daarin best een bewindspersoon leidend kan zijn
en dat die het primaat krijgt. Maar dat moet dan wel op een andere manier dan nu:
die bewindspersoon moet ook echt het primaat krijgen en een building block kunnen
neerzetten dat iedereen dan ook gaat gebruiken. Dat is er nu niet; we gaan nu weer
verticaal.

De voorzitter:

Er is onrust in de zaal. Ik zie dat even als positieve onrust, want we gaan die dadelijk
vertalen naar vragen. Er wordt gezegd dat men probeert een driehoek te vinden in een
cirkel, en dat dat gelukt is, en nu de propeller nog. Heel goed.

De heer Van Dam (CDA):

Voorzitter, voordat wij naar de vragen gaan: mag ik vragen om die driehoek toch nog
even te specificeren?

De voorzitter:

Ja. Ik ga het als volgt doen. Ik vraag eerst de heer Van Bellen of hij door de inbreng
zoals hij die voor ogen had, heen is.

De heer Van Bellen:

Ja, absoluut.

De voorzitter:

Want de driehoek disruptie, domeindenken en kaders – zo heb ik hem even voor mezelf
genoteerd – vergt nog enige toelichting. Zou u die in één minuut nog even één keer
strak willen neerzetten? Met name de heer Van Dam is een structuurdenker, en de heer
Van Otterloo niet minder. Zij houden van een beetje overzichtelijke structuur. Ze
zijn erg blauw en ze willen dus graag snappen wat er bedoeld wordt met dit soort figuren,
want anders gaan ze toch twijfelen. Ik geef het woord aan de heer Van Bellen en daarna
aan de leden voor de vragen.

De heer Van Bellen:

Ik hoop dat u mij niet bedoelt met één van die figuren, maar ik kom er graag op terug.
U heeft het uitgebreid in het dossier, maar het is veel leuker om het boekje te hebben.
Dus ik zal het boekje waar het in staat, in de zaal of bij de griffier leggen.

Propeller of driehoek: daarmee bedoel ik hetzelfde.

Eén: er zijn disruptieve technologieën. Die denderen onze samenleving binnen en die
moeten we snappen. Is AI belangrijk en waarom dan? Wordt blockchain wat, of is het
een hype en hoeven we er geen aandacht aan te besteden?

Twee: ze denderen domeinen binnen, maar welke domeinen staan daardoor nou op hun kop?
De zorg bijvoorbeeld, of het onderwijs, of het vervoer? Het is heel anders denken.
Er zitten ineens artsen aan tafel, terwijl hier techneuten aan tafel zitten. Dit is
blauw en bruin, dit wordt al wat groener en geler.

Ten slotte: er zijn kaders – dan krijg je een hoog, zeg maar, Rathenau-gehalte – die
daardoor onder druk komen te staan, bijvoorbeeld juridische kaders, kaders met betrekking
tot veiligheid of met betrekking tot educatie. Die kaders worden vaak door kaderstellers
gemaakt; ik zeg dat dat juristen zijn. En die juristen komen nu in botsing met de
artsen. Die artsen zeggen: «Leuk, die privacy, maar ik denk dat deze patiënt die privacy
even niet wil, want ik kan hem nu genezen met deze AI-toepassing.»

Dat is het spel. Ga er maar aan staan. Wij verwachten weer veel van u.

De voorzitter:

Dank voor de introductie en voor het addendum om de driehoek nog even toe te lichten.
Dan wil ik nu naar de heer Azarkan. De heer Azarkan heeft aangegeven dat hij om 11.30
uur eventjes moet vertrekken en later, na de lunch, weer terugkeert. Dus ik wil de
vragen in dezelfde volgorde laten stellen. Laten we even kijken of we de vragen iets
puntiger kunnen formuleren dan zonet het geval was. Dan kunnen de antwoorden en eventueel
de herhaal- of toelichtingsvragen of de tweede vragen wat makkelijker plaatsvinden.
De heer Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter, ik zal meteen mijn best doen. Dank ook aan de heer Van Bellen. Ik
begin meteen met mijn vraag. Die is heel concreet. Het gaat over de Gedragscode artificial
intelligence, uit 2018. Daarbij stond achteraan een soort aanloop qua naam, een beetje
van «er komt nog meer»; het vertrekpunt stond er, dus er komt waarschijnlijk nog iets
daarna. Wie zit erop te wachten? Wie past die code nou toe? En wie houdt dat nou in
de gaten?

De heer Van Bellen:

Dank. Mijn club heeft die code gemaakt met een heleboel anderen uit die verschillende
vijf bloedgroepen en die wordt nu gepilot. Dat zijn partijen die met AI aan de slag
willen. Er loopt onder andere een pilot bij Binnenlandse Zaken met betrekking tot
verantwoordelijkheden van de overheid als dienstverlener naar de burger. Maar er loopt
ook een pilot bij een aantal mkb'ers. Zij zeggen: «We horen over AI en we willen er
iets mee, maar we hebben geen idee hoe we dat aan moeten pakken. Wat we niet willen,
is dat we iets gaan bakken waarbij we binnen de kortste keren allerlei klachten krijgen
dat we het juridisch of ethisch niet goed gedaan hebben. Dus dat willen we in de ontwikkelfase
al meenemen.» En daar helpt die publicatie bij: AI by design, waarin een stukje ethiek
en juridisch is meegebakken, voor een partij die echt al wil, maar zelf geen toegang
heeft tot de informatie van dure consultants of allerlei loketten waar hij net niet
in past. Het kan ook een overheidspartij zijn.

De heer Azarkan (DENK):

Een korte aanvulling. Ik zie aan de voorzitter dat ik dat van hem mag. Nou ben ik
met name geïnteresseerd in partijen met heel veel macht en heel veel geld, die tijdens
verkiezingstijd informatie verzamelen over mensen – dat hebben we allemaal gezien
– en met die data dingen doen die ethisch gezien waarschijnlijk niet overeenkomen
met uw gedragscode en normenkader. Wat doen we met die partijen als het gaat om AI?

De heer Van Bellen:

We hebben verschillende instrumenten. De vraag is natuurlijk welk het meest effectief
is. Je hebt regulering, met daarachter niet te vergeten handhaving. Je hebt coregulering,
waarin je partijen meeneemt en zegt: op basis van deze code gaan we jullie publiekelijk
afrekenen, zodat je je eraan houdt. Dat is een beetje naming-and-shamingachtig. Dan
wordt het al zachter. Dan heb je educatie. Dan zeg je: ja, dit is wel de trend in
de samenleving, maar als jullie een partij willen zijn die aan de samenleving meebouwt
en die niet leegslurpt, doe dan mee in dat portfolio. Dus educatie gaat nog wat verder
dan naming-and-shaming.

In Nederland is mijn opstelling altijd: doe mee in dat portfolio. En daar wordt wereldwijd
best naar gekeken vanuit de googles en facebooks, die gewoon lid bij ons zijn; dat
zijn de unilevers en de ministeries ook. Ze doen daaraan mee, want ze voelen natuurlijk
allang dat hun businessmodellen onder zware druk komen; anders worden ze opgesplitst
of anderszins.

De belangrijkste benoeming van de laatste jaren is dat mevrouw Vestager Commissaris
voor digitale zaken én Commissaris voor mededinging is geworden. Dus zij gaat met
een knuppel hard op de googles slaan, en aan de andere kant gaat zij Europa verder
helpen om die digitale innovatie ook zelf te ontwikkelen. Maar mijn tactiek is niet
de knuppel; de regelgeving en handhaving is niet aan mij. Ik wil ze meenemen in een
soort coregulatief kader. Dus staat bijvoorbeeld Microsoft in die lijst van meegenomen
partijen. Ik geloof daarin.

De voorzitter:

Dank. Dan de heer Van Otterloo.

De heer Van Otterloo (50PLUS):

In de pauze verzuchtte ik al even dat niemand eigenlijk antwoord kan geven op onze
onderzoeksvraag, namelijk hoe we de parlementaire democratie inrichten op de huidige
uitdagingen, maar daarbij vooral ook de toekomstige niet vergeten. Ik zal niet zeggen
dat ik al mijn hoop op u heb gevestigd, maar u bent in ieder geval iemand die vanuit
een wat hoger perspectief kijkt. U heeft niet voor niets een propeller. We zien natuurlijk
veel mensen voorbijkomen die allemaal op deelterreinen weten wat goed gaat en wat
niet goed gaat, maar ik heb nog even niet te pakken waar die propeller of die driehoek
ons nu gaat helpen in de parlementaire democratie.

Als u het heeft over gebruikers, dan heeft u het over Albert Heijn en dat soort partijen,
partijen die informatie gebruiken. Wij hebben te maken met alle Nederlanders. We hebben
te maken met het buitenland en wat dat betekent.

Dus de vraag is de volgende. Wat kunt u ons vanuit uw positie bieden als het gaat
om het beantwoorden van de vraag hoe wij hier het hele proces moeten invullen? Hoe
richten we het in, zodat het zowel naar de toekomst gericht is, als ook alle incidenten
goed aankan? Ik zal niet zeggen dat het de makke van de huidige politiek is, maar
die incidenten horen er wel bij. Hoe richten we het in zodat tegelijkertijd een structuur
wordt gebouwd die Nederland verder helpt?

De voorzitter:

Voordat ik de heer Van Bellen het woord geef, stel ik vast dat hij er wel iets over
heeft gezegd. Hij heeft zelfs heel nadrukkelijk gezegd: geen algemene bewindspersoon,
wel interdepartementale samenwerking en eventueel thematisch een bewindspersoon. Maar
misschien zijn er nog meer ideeën over.

De heer Van Bellen:

Dank voor deze vraag. Natuurlijk volg ik het politieke discours al jaren. Het zit
op verschillende niveaus. We hebben het over bewindspersonen – dat is natuurlijk belangrijk
– met een veel meer geïntegreerde visie op digitalisering, terwijl ze wel hun eigen
verantwoordelijkheden houden. Dat betekent dat uw commissie bijvoorbeeld een bijdrage
kan leveren door een aantal basisthematieken te benoemen – het zullen er niet veel
zijn – waarvan het zonneklaar is dat die op departementaal of eigenlijk overheidsniveau,
op dezelfde manier behandeld moeten worden, omdat ze een bouwsteen zijn voor een goede
digitale samenleving. Bijvoorbeeld: hoe gaat de overheid met data om? Op dit moment
zijn daar zeven commissies mee bezig: bij IenW, bij VWS, bij... Snapt u? Dus die burger
of mkb'er, of wie dan ook, wordt geconfronteerd met verschillende kleuringen van bepaald
beleid. De normen en waarden die daaraan ten grondslag liggen, zijn wel duidelijk,
maar nou de vertaling naar de samenleving nog.

Dus dat is al een bijdrage. Wat ervoor nodig is om één bewindspersoon misschien voor
zo'n deelthema verantwoordelijk te maken, is wel dat bijvoorbeeld de premier bewaakt
dat die doorzettingskracht krijgt op dat dossier. En we moeten iets doen aan het kennisniveau
om dat dossier ook te snappen, zowel bij u als bij de departementen. Ik zal de partij
niet noemen, want dat doet er niet toe, maar ik vond het heel verstandig om te zeggen
dat ook Kamerleden eigenlijk wat meer versterking nodig hebben. Ik zou in de cv's
van eventuele tweede medewerkers – wat een rijkdom zou dat voor u zijn – kijken naar
dit dossier; kijk niet naar een diginerd, maar naar iemand die een visie betoont en
van een generatie is dat hij dit onderwerp kan vertalen naar verschillende beleidsdossiers.
Daar zitten we om te springen.

Ik ben helemaal niet politiek – ik vind jullie allemaal even leuk – maar denk ook
aan de verkiezingen. Wie staan er op de lijsten? Dit onderwerp gaat gewoon om het
volledig beheersen van de kwaliteit van onze samenleving.

Dus: op deelonderwerpen geen bewindspersoon, maar interdepartementaal sterker; benoem
peers op grote blokken, deelonderwerpen die onomstreden publiek op één niveau gehanteerd
moeten worden. We hebben heel veel kralen, maar we missen in Nederland vaak het touwtje
van het verbindend vermogen. Hoe kan je dan een digitale ketting maken? Rond de vorige
verkiezingen werd ik bijvoorbeeld erg blij van een brief van de sg's, de secretarissen-generaal.
Zij zeiden: ho, ho, ho, het zit niet in het regeerakkoord, maar dit wordt wel heel
belangrijk. Dus het maakt mij niet uit waar de touwtjes zitten, maar we hebben ze
nog onvoldoende, op allerlei niveaus.

De heer Van Otterloo (50PLUS):

Maar u bent wel heel enthousiast over een tweede ondervoorzitter voor de EU-commissie
die zich met digitalisering bezighoudt. Misschien kunt u uitleggen waarom het daar
wel een goed idee is en bij ons niet?

De heer Van Bellen:

De crux voor mij was dat die Eurocommissaris de combinatie mag maken met het onderwerp
mededinging, waardoor ze ineens power krijgt en tanden heeft. Want toen het alleen
over digitale zaken ging... Met alle respect voor mensen als mevrouw Kroes. Zij heeft
bijvoorbeeld heel veel bereikt met betrekking tot breedband in Europa en het afschaffen
van roaming, maar dat is een single issue. Hartstikke leuk, maar het heeft natuurlijk
niet die hele beweging, want er was een ander DG voor bijvoorbeeld skills. Nu heeft
de Eurocommissaris meer body, doordat ze ook een andere stevige pet op heeft. Wij
zouden het hier dus niet zo moeten organiseren, maar het in de vorm van een intensieve
samenwerking met mandaat moeten doen. Dat is veel meer het Nederlandse model.

De voorzitter:

De heer Van Dam. Bent u al toe aan een vraag?

De heer Van Dam (CDA):

Ja. Ik dacht dat u vroeg of ik toe was aan een derde kopje koffie.

De voorzitter:

Dat soort vragen zou ik u nooit stellen. Dat weet u.

De heer Van Dam (CDA):

Maar de hint is begrepen. Via de voorzitter, moet ik dan zeggen.

De voorzitter:

Gaat uw gang.

De heer Van Dam (CDA):

Ik moet u zeggen dat ik u in de eerste plaats wil complimenteren met het enthousiasme
en de helderheid waarmee u hier zit, en ook met al die jaren dat u kennelijk al met
dit thema bezig bent. U zat net ook in de zaal, dus u weet wat mijn primaire vraag
is. Dat is de vraag: hoe kunnen wij als Tweede Kamer nou ook grip krijgen op dit onderwerp?
Daar heeft u volgens mij al het nodige voor aangereikt, ook met die driehoek. Je kunt
bijna ook een hartje van zo'n driehoek maken, maar goed. Ik wilde u toch vragen of
u nog wat meer woorden kunt besteden aan die driehoek in relatie tot ons functioneren.
Dat zou mij helpen. Natuurlijk is dat, vergeleken met alles wat u te melden hebt,
een beperkt deel. Maar goed, ik probeer ook maar hier een beetje lijn in te brengen.
Kunt u er misschien iets meer op ingaan wat het ook voor het werk van ons als parlement
zou kunnen betekenen, en misschien ook voor de opdracht van de commissie natuurlijk?

De voorzitter:

Ja. Gaat uw gang.

De heer Van Bellen:

Over de driehoek: ik denk dat het van belang wordt dat uw commissie ook keuzes maakt.
Dus als ik het even bij de propeller of driehoek houd: welke technologieën zijn nu
zo disruptief dat de kern van Nederland, als handelsland maar ook als sociaal-maatschappelijke
samenleving zoals wij die willen, onder druk staat? Mijn keuze zou dan zijn om met
name uw tanden te zetten in het onderwerp kunstmatige intelligentie, want anders komt
alles langs. Natuurlijk, 5G is belangrijk en internet of things, maar overal zit toch
die component in van: «Hé, wacht even, er gebeurt nu iets. Zijn we al te laat en worden
we afhankelijk van anderen?» Dan kun je nog maar één ding doen, namelijk óf reguleren,
óf een niche proberen te pakken, óf zelf nog een grote innovatieve sprong maken. En
dan staan we natuurlijk toch redelijk op achterstand. Dus prioriteit geven aan wat
Nederland met AI kan, en dan niet vanuit bedreigingen door derden, maar vanuit onze
intrinsieke krachten. Denk aan bepaalde diensten, denk aan de landbouw, denk volgens
mij toch ook aan de zorg. Dus dat is een keuze.

Als ik naar de domeinen kijk, is het voor een commissie moeilijk om te treden in die
vork, en in een domein te zeggen: joh, we gaan er nu vol voor dat wij als commissie
een aanzet willen doen zodat bijvoorbeeld de zorg met die digitalisering veel meer
stappen weet te maken. Toch denk ik dat daar wel een aantal domeinkeuzes gemaakt kunnen
worden, als je maar weer de vertaalslag maakt naar het gegeven dat er echt iets aan
de hand is wat grote impact op Nederland heeft. Ik zie in bepaalde domeinen wel dingen
gebeuren waarvan ik denk: zo.

Ik geef een voorbeeld. Willen wij in het domein infrastructuur nou leidend zijn of
niet? Nou ben ik geen belangenbehartiger voor de infrastructuur, maar het is van groot
belang wat onze houding en visie is op hosting, datacenters en alles daarbovenop,
en de nieuwe telecom voor 5G, omdat het een enorme backbone kan zijn die binnen twee
jaar weg is. Ik sprak de Amerikaanse ambassadeur, Pete Hoekstra. Die zei: «Wat doen
jullie nou? Over twee jaar ben je het gewoon kwijt, die hub.» Ik denk dat men er wel
iets op vindt dat ze heel veel stroom verbruiken. Maar als een regionale overheid
komt met maatregelen die niet komen vanuit een visie van wat we met elkaar willen
met die digitale infrastructuur, dan hebben we op hoog niveau – bijvoorbeeld vanuit
deze commissie – een verscherping van onze visie op dat domein nodig. En niet van
een bepaalde woordvoerder, vind ik. Het gaat verder, want rondom dat domein zit ook
educatie en zit ook vestigingsklimaat, zit ook... U ziet het voor u. Ik noem nu een
voorbeeld, maar het is aan u om twee of drie echte voorbeelden te noemen.

Dan die kaders. Welk kader staat nu het meest onder druk? Ik zou veruit op één zetten:
educatie, educatie, educatie, educatie. En dan bedoel ik niet alleen kindertjes die
coderen in de klas. Er zijn 221 initiatieven op dat gebied en dat zijn een heleboel
kralen, maar zonder touwtje. Maar er is echt een mismatch hogerop in de waardeketen,
tussen wat mensen kunnen die van hogescholen en universiteiten komen en wat de samenleving
op datagebied van ze vraagt. Binnen educatie is dat eigenlijk veel ernstiger. Maar
het gaat ook om educatie bij gewone mensen. Er zijn inclusiviteitsvraagstukken voor
doelgroepen die we nog nooit hebben zien aankomen. Dat zijn echt niet meer de ouderen.
Het kan in hele andere kernen zitten. Dus dat is een kader waarop we een agenda kunnen
zetten die ook weer heel innovatief en niet alleen maar defensief is.

De heer Van Dam (CDA):

Het kan een beetje mijn preoccupatie zijn, maar ik hoor u nu verder niets zeggen over
die molshopen en die mier. Of nee, niet molshopen, maar mierenhopen. Ja, ik heb zelf
een mol in mijn tuin, dus het zal vast hiervan komen. Mocht u daar nog adviezen over
hebben, dan houd ik me ook aanbevolen. Nee, maar ik wil het hebben over die mierenhoop
en die mier en de hele waardendiscussie die daaraan zit. Want je kunt die mierenhoop
natuurlijk... In China zal dat een overheidsmierenhoop zijn, terwijl het in Amerika
misschien een marktmierenhoop is. Maar in ieder geval heb ik een vraag over dat element.
Heb ik u nou horen zeggen: «Kies er maar voor om gewoon ook te focussen op de mierenhoop
en laat dat hele concept van die individuele mier maar gaan? Let go, want het is toch
niet meer van belang?» Want wat is daar, en moeten wij daar iets mee?

De heer Van Bellen:

Nee, dat is zeker niet mijn conclusie. Wat ik bedoelde te zeggen is dat het ook een
innovatief concept is om de mier of gewoon de individuele mens en zijn vrijheden,
gebaseerd op onze normen en waarden, voorop te stellen. Die individuen zijn allemaal
kraaltjes. Als we daar een touwtje doorheen doen, hebben we onze hoop; geen mierenhoop,
maar hoop in de zin van verwachting. Dat wordt in allerlei rapporten alleen heel defensief
gepositioneerd. Zo van: wij willen dat niet, dus we moeten die Amerikanen reguleren.
Of: we moeten die Chinezen niet in onze spullen willen hebben zitten. Dat zijn allemaal
lastige discussies, want dit is een mondiaal speelveld.

Nee, laten we dat individuele gedachtegoed over de vrijheden van burgers innovatief
vertalen naar een digitaal concept. Dat kan bijvoorbeeld met een keurmerk op een platform
of website, waarbij de menskant beter beschermd wordt dan in het Amerikaanse en Chinese
model. Er was op een gegeven moment een concurrent voor WhatsApp, omdat er bij WhatsApp
toch dingen met je gebeuren. Maar die concurrent kwam wel van de Russen, die we ook
niet wilden. Daar liggen kansen.

Ik geloof dus in de individualiseringsslag die we gemaakt hebben – in de verlichting,
in gelijkheid en whatever – maar digitaal zullen we dat toch moeten verpakken in een
platform. Ik noemde StartupDelta. We zijn natuurlijk een Koning in van alles en nog
wat. Ik beveel u aan om in de toekomst daarbij mee te geven dat startups daar leuke
dingen mogen gaan doen, maar dat we hogere doelen met elkaar hebben. Dat soort thematische
deelonderwerpen moeten ze dan dus vertalen in hun innovatiebeleid, in hun gedoetje,
omdat ze anders geen geld krijgen.

De voorzitter:

De heer Middendorp is toe aan zijn vragen.

De heer Middendorp (VVD):

Die is tegen een centraal geleide economie, maar dat terzijde.

Voorzitter. Ik houd het kort en ik ga een beetje risico nemen, zeker aangezien ik
naast mijn zeer gewaardeerde CDA-collega zit. Dank overigens voor het betoog, waarvan
een heel groot gedeelte mij bijna uit het hart gegrepen is.

U noemde niet alleen ethici en juristen, maar ook startups. Dat is iets waarmee we
hier in de institutionele architectuur worstelen. Nu komt de gevaarlijke opmerking.
Ik ben namelijk econoom en mag dit dus eigenlijk niet zeggen. Is de strijd tegen of
discussie tussen juristen en anderen, waaronder economen, niet een van de sleutels
om de digitalisering in dit parlement en ons democratisch bestel een stap voorwaarts
te brengen? Is het niet de sleutel om iets te vinden waardoor we die digitalisering
wat makkelijker later lopen? Dat is één.

Twee, heel kort: u gaf als suggestie om AI als centraal thema te nemen. Zou dat niet
AI en algoritmen moeten zijn? Bij AI kom je vaak heel snel terecht in discussies over
self-learning et cetera. De overheid heeft bijvoorbeeld al heel veel moeite met het
inzetten van simpele algoritmen die niet self-learning zijn en die geen AI zijn. Dat
geldt eigenlijk ook voor het bedrijfsleven.

Dank u wel.

De heer Van Bellen:

Ik begin bij uw laatste vraag. Ik wil inderdaad geen discussie over definities. Algoritmen:
ja. AI en deep learning: mwah. De disruptieve impact op onze samenleving en onze economie
is echt de olifant in de hoek. Die technologie in de volle breedte, met al haar deelonderwerpen,
daar gaat het mij om. Het moet dan goed gedefinieerd worden. Algoritmen zijn de kern
daarvan. Dat klopt. Dat is één.

Twee: ik denk dat ik al twintig jaar de leukste baan in Nederland heb, omdat ik juristen,
ethici, mensen uit het bedrijfsleven en politici bij elkaar gooi. Waar je wel voor
moet oppassen, is dat we een soort rondedans van overleg hebben, terwijl het onderwerp
erom vraagt dat we met praktische bouwstenen komen om de ontwikkeling in goede banen
te leiden. Daar moet dan wel een turbo op zitten. We hebben bijvoorbeeld het document
gemaakt dat net genoemd werd. Daar hadden we heel veel overleg voor nodig. Op een
gegeven moment zeg je: nu willen we het hebben en willen we het gaan toetsen. Als
er procesbegeleiding bij hoort die resultaatgericht is en die u zou bewaken als dat
u zou raken, dan is dat belangrijk. Maar het kan niet anders in dit concept. Ik heb
wel tien vergaderingen per week waarbij ik aan het eind Shakespeare moet citeren:
«We are still confused, but on a higher level.»

Die turbo is in Nederland mogelijk. We hebben op dit domein echt dingen voor elkaar
gekregen. Daar zijn we goed in. iDEAL, dat betaalding, is een Nederlandse vinding.
Dat werkt als een trein, maar toen ze het in Europa moesten uitventen, stootten ze
hun neus. Oostenrijk en Duitsland wilden het niet. We gaan ervoor dat ze het volgende
wel willen.

De voorzitter:

«We are still confused, but on a higher level» is denk ik een beetje het motto van
deze kennisdagen. Deze dagen leiden tot heel veel nieuwe vragen en nieuwe inzichten.
Uiteindelijk moeten we die gaan bundelen, maar we zitten nu nog in het uitwaaieren.
Ik zie dat de heer Van Otterloo sowieso nog behoefte heeft aan een vraag. Die gelegenheid
geef ik hem nu eerst. Gaat uw gang.

De heer Van Otterloo (50PLUS):

Ik heb even achterin het boekje gekeken. Het komt uit november 2018. Het kost ook
nog enige tijd om zo'n boekje te maken. Mijn vraag is heel praktisch. Wat staat hier
nu in, dat u vandaag de dag al anders zou opschrijven? Wij worden natuurlijk geconfronteerd
met een speelveld waarvan de lijnen, de hoogte en de diepte veranderen.

De heer Van Bellen:

Een film kan ook heel mooie foto's opleveren. Wij hebben dit toen bevroren. Een van
de belangrijkste dingen die daarna gebeurd is, is dat er een tijdelijke commissie
Digitale toekomst is gekomen. Wij hebben helemaal niet de pretentie om de waarheid
voor een langere periode neer te leggen. Dit is gemaakt door alle partijen samen.
De bedoeling is eigenlijk om mensen die nu doorkrijgen dat digitalisering een van
de belangrijkste ontwikkelingen in de samenleving is, houvast te geven in het denken
daarover; om er greep op te krijgen. Daarbij is bijvoorbeeld de propeller redelijk
tijdloos. We hebben keuzes gemaakt voor bepaalde thema's. We hebben de zorg wat uitvergroot
en ook AI, geloof ik. Dat kan per jaar veranderen. We hebben natuurlijk een website
en andere media, waaraan we onderhoud plegen.

Dit boekje doet het wel goed. We hebben het bijvoorbeeld gestuurd aan alle burgemeesters
en secretarissen van gemeenten. Zo van: volgens mij gebeurt er best wel wat bij u
dat dit ook kan raken. Je krijgt dan heel leuke reacties. Weliswaar komen die reacties
van 2% van de doelgroep, maar dat geeft niet. Daar gaat het ons ook niet om. Af en
toe moet je dit gewoon doen.

U kent wellicht allemaal een andere publicatie van ons. Die had nog het meeste effect
op het dossier over digitale vaardigheid op scholen. We zaten in de VO-raad en de
PO-Raad en probeerden van alles. Dat lukte natuurlijk niet. Curriculum.nu gaat nu
gelukkig goed werk leveren. Dat duurt tien jaar. Dit had het meeste effect: 300.000
Digiducks laten maken, met een verhaallijn over het feit dat digi leuk is, maar dat
je ook op dingen moet passen. Alle scholieren in Nederland hebben dit gekregen. Dat
is leuk aan mijn club: het hoeft niet alleen om overleg te gaan. Dit helpt, en zo'n
boekje ook, maar het gaat om het gedachtegoed.

De heer Van Otterloo (50PLUS):

Ik heb nog één opmerking. Van de week dacht ik dat er weer een storm zou opsteken
en dat de Nederlandse Zorgautoriteit een antwoord had op de HJ Schoo-lezing van Minister
Hoekstra, omdat het handenschudtarief werd afgeschaft. Dat ging niet over het handen
schudden tussen de patiënt en de behandelaar, maar over het feit dat nu ook digitale
en andere vormen van communicatie voldoende zouden zijn om een tarief te mogen rekenen.
Terwijl we al heel lang een telefoon hebben waarmee ook telefonisch consult mogelijk
is, was de tariefstructuur nog zo dat een werkelijke ontmoeting zou moeten plaatsvinden
alvorens er betaald kon worden. Dat geeft aan dat er op heel veel terreinen nog iets
kan gebeuren.

De heer Van Bellen:

Mijn reactie daarop is dat het helemaal niet meer de technologie zelf is die de blokkade
is om grootschalig nut te kunnen ondervinden, maar systeemfalen in heel andersoortige
vorm. U noemt een goed voorbeeld. Het is nog steeds zo dat bepaalde huisartsenposten
liever hebben dat u naar de wachtkamer komt. De vergoeding daarvoor is namelijk € 60
en die voor het e-mailtje maar € 10. Er zijn dus huisartsen die denken: nou, laat
ze maar naar de wachtkamer komen. Nou denk ik niet dat dat snel een overweging is
voor een huisarts. Het is een beetje een plastisch voorbeeld, net als dat van u. Ja,
de zachte kant van de technologie gaat de snelheid van implementatie en maatschappelijke
adoptie bevorderen.

Dit is er misschien ook nog eentje voor u als commissie: wat ging er nou mis bij het
patiëntdossier? Later had ik ook mijn twijfels over de aanpak bij rekeningrijden en
de slimme meter. Bij het patiëntdossier was er vanaf het begin geen patiëntenpanel
aangesloten dat steeds kon aangeven wat het buikgevoel van de doelgroep was bij de
methodiek zoals die werd aangereikt. Het was: u wilt dit, dit is nuttig en zeur niet.
Het living lab van mensen was er dus niet. Een grote, publieke technologische ontwikkeling
kan niet meer zonder living lab, maar je ziet het toch soms nog wel gebeuren.

De voorzitter:

Ik zou zelf ook nog even een vraag willen stellen. Ik kijk daarna rond of er nog slotvragen
van de collega's zijn.

Ik moet u zeggen dat ik uw driehoek, die ook hoofdstuk 2, 3 en 4 van uw boekje is,
in eerste instantie wat aan de abstracte kant vond. Ik vind ook dat u die nu heel
erg concreet durft te maken, met een aantal dingen die u daarover zegt. Dat vind ik
heel aardig. U bent dan dus aan het vertalen, en dat is iets wat wij natuurlijk graag
willen.

Bij het eerste zegt u eigenlijk: bij technologieën zou je echt heel erg naar artificial
intelligence moeten kijken. Er zijn natuurlijk ook andere technologieën. Er zijn ook
allerlei andere vraagstukken. Kun je nou zeggen dat AI uniek is in zijn totale doorsnijdendheid
op alle vlakken? Of ziet u nog andere technologieën die datzelfde hebben? Ik zie dat
bij IoT bijvoorbeeld een beetje. Ik zie het bij big data eigenlijk ook, omdat data
op allerlei terreinen terugkomen. Dat kun je ook koppelen aan AI, want AI en data
gaan hand in hand. IoT draait eigenlijk weer om de verzamelaars van die data. Dat
zijn apparaten die heel veel dingen ophalen doordat ze van bewegingen, stemmen of
wat dan ook data maken. Bij 3D en blockchain zie ik bijvoorbeeld wat meer dat het
zich isoleert. Zou het feit dat dit iets beter in een al bestaande verticale structuur
past, voor de commissie reden moeten zijn om zich daarover wat minder zorgen te maken?

Het is een beetje een gesloten vraag. Excuus daarvoor. Het was semiretorisch. Ik ben
altijd vatbaar voor aanvulling.

De heer Van Bellen:

Ik zeg niet dat het allemaal AI is. Ik denk wel dat de maatschappelijke impact van
AI groter is dan die van sommige technologieën die u noemt. Dat is belangrijk in de
afweging om daar extra aandacht aan te besteden. Het voorbeeld over zorggegevens staat
hier op de voorpagina. Er zijn deelonderwerpen die heel snel de persoonlijke levenssfeer
raken, maar ook deelonderwerpen die markten, marktposities en «winner takes all» enorm
in een versnelling brengen. Dat is bij die andere technologieën iets minder zo.

Blockchain is trouwens wel teruggekomen. Het is een soort S-curve, een hype. Het is
een grote en belangrijke ontwikkeling. Die heeft ook maatschappelijk effect, maar
ik denk vooral economisch, bijvoorbeeld in trustdiensten. Ik zeg dus niet: laat de
rest maar zitten. Het is aan u om een afwegingsmechanisme of instrumentarium te ontwikkelen
waarbij je technologieën toetst op hun maatschappelijke impact. Daarbij zeg ik: de
technologie die door die toetsing heen komt en die op dit moment de meeste impact
heeft, is AI. Die kun je eigenlijk gelijk al oppakken. Gooi die andere niet weg, maar
lever een mechanisme waarmee je alle technologieën tegen het licht kunt houden.

Markten veranderen, onze internationale positie verandert in die markt en er is maatschappelijke
onrust. Vooraf hadden we het even over het feit dat een brandweerman een stervende
jongen die doodgeschoten wordt opneemt op zijn telefoontje en dat ook nog uploadt.
Ik denk dan: jeetje. We zien ook disruptieve gevolgen van technologie waar we echt
wat mee moeten doen. Bij deze zie ik bijvoorbeeld dat het ethische kader hoognodig
met educatie publiek geadresseerd moet worden. Dit is dan horizontale privacy.

Er zijn dus afwegingsmechanismen waarin de maatschappelijke en economische relevantie
eigenlijk de toetssteen is. Voor AI staat dat buiten kijf. In die generieke kaders
is dat misschien wel de ethiek van de technologie, maar dan niet alleen volgens Rathenau
en juristen; het is ook een kans. Die knippert volgens mij in die andere punt.

De voorzitter:

Ik kijk even naar de collega's. Zijn er nog vragen? Zo niet, dan kunnen we het gesprek
beëindigen. De heer Van Otterloo.

De heer Van Otterloo (50PLUS):

Ik heb een vraag in de richting van het platform.

De voorzitter:

Gaat uw gang.

De heer Van Otterloo (50PLUS):

Dat is ook naar aanleiding van dat laatste voorbeeld. Wat voor functie verricht het
platform, of kan het verrichten, om de morele kant te adresseren? U zegt dat u wat
adviserende groepen heeft, zoals een jongerenpanel. Maar hoe kunt u dit soort problemen
aanpakken, over hoe individuen moeten omgaan met de inbreuk op privacy van anderen?
Wij kijken naar de overheid. Wij stellen hier de grens, maar vervolgens wordt er in
de samenleving door individuen anders gereageerd.

De heer Van Dam (CDA):

Mag ik misschien een aanvullende vraag stellen, als de collega dat toestaat?

De voorzitter:

Eerst moet de voorzitter dat natuurlijk goedvinden, en dan de collega. U gaat een
pad op waarvan ik denk dat het constructief is, dus gaat uw gang.

De heer Van Dam (CDA):

Ik zou in dat kader willen vragen of u misschien ook iets kunt zeggen over het begrip
digitaal burgerschap. Als parlement kijken we daarnaar. Dat komt ook door onze opdracht.
Nu dit zo gezegd wordt, en aangezien ik van top tot teen een CDA'er ben die erg bezig
is met het maatschappelijk middenveld en dat soort dingen vraag ik me af of u daar
nog iets over kunt zeggen. Het digitaal burgerschap is eigenlijk nog niet zo aan de
orde gekomen. Dat zou ook een belangrijke waarde kunnen zijn.

De heer Van Bellen:

Wij worden weleens een oliemannetje genoemd. Ik pretendeer helemaal niet dat we een
bijdrage kunnen leveren aan de normen en waarden rondom de digitale samenleving. Maar
we hebben met elkaar normen en waarden. De doorvertaling naar de digitale samenleving
is een heel moeilijk traject. We waren natuurlijk vrij lineair georganiseerd, maar
aan het eind van de keten is iedere burger nu zelf ook digitaal actief, vaardig en
zelfs productief. We noemen hem ook wel de «prosument». Hoe ga je dan toch de kwaliteit
van de samenleving borgen? Dan zoek je hubs: kennisbronnen met autoriteit. In eerste
instantie denk je aan educatiecohorten als scholen, maar ook beroepsopleidingen. Zit
dit onderwerp erin? De valkuil zit hem in iets wat we heel lang gezegd hebben. Dat
is namelijk dat mensen het moeten snappen, bijvoorbeeld moeten kunnen coderen, terwijl
dit onderwerp misschien dichter bij een vak als maatschappijleer ligt. Wat is de impact
hiervan en hoe moet ik me daar als mens toe verhouden? Dat zit niet in het onderwijs.
Dat hebben we natuurlijk besproken met scholen en Ministers van Onderwijs. Zij zeggen:
«Jullie komen met digi. Dan moet je even achteraan in de rij aansluiten, want al mijn
leraren zijn overbelast, overspannen en van een bepaalde leeftijd. En er zijn anderen
die hun thema ook in het onderwijs willen hebben, zoals sociale vaardigheid.» Wij
zeggen dan dat het daar natuurlijk ook in zit.

Ik denk dus dat educatie cruciaal is, maar ouderschap ook. Hoe kun je tegen ouders
zeggen hoe ze dingen moeten doen? Dat moeten ze zelf weten. Toch zijn zij een belangrijke
hub. De overheid is dat toch ook wel, en dan niet alleen regulatief en handhavend.
De grootste digitale gebruiker is niet Albert Heijn of de burger, maar de overheid.
Dat is helaas een beetje ver-Eliast. Hoe zeg je dat? Het lijkt bijna een project of
zo. Gezien de grondrechten ligt daar een heel andere verantwoordelijkheid. «Practise
what you preach» heeft een enorm effect. Dat geldt bijvoorbeeld ook voor het gedrag
van een brandweer die zoiets doet.

Ik heb hier dus geen antwoord op. Ik kan alleen wat hubs noemen die we moeten empoweren.
Zij moeten dit denken op een zorgvuldig niveau verder brengen. We zijn er nog lang
niet, want dit is een heel nieuwe ontwikkeling. Mijn kinderen zijn 19, 16 en 13. Zij
hebben hier op school niets van meegekregen. En ik al helemaal niet. Ik heb mijn scriptie
nog gewoon op een typemachine gemaakt. Het is dus heel snel gegaan.

De voorzitter:

Met een scriptie op een typemachine, de mier en de mierenhoop, de kraal en de kettingen,
Shakespeare en de hogere verwarring die we ook dit uur weer hebben bereikt, wil ik
onze dank uitspreken voor uw komst en uw verhaal. Daar gaan we zeker gebruik van maken.
Het is ook allemaal nog na te lezen in dit boekje.

We gaan om 13.00 uur verder met deze kennisdag. Na de lunch zal de heer Van Zwol van
de staatsraad hier zijn. Hij is rapporteur van het advies van de Raad van State over
digitalisering.

Ik dank de heer Van Bellen en de collega's. We zien elkaar straks weer terug.

De vergadering wordt van 11.53 uur tot 13.06 uur geschorst.

Blok 3

Gesprek met:

– de heer Richard van Zwol, staatsraad en eerste rapporteur van het advies van de Raad
van State over digitalisering

De voorzitter:

Dames en heren, we gaan snel beginnen aan het middagdeel van onze tweede kennisbijeenkomst.
Vanochtend hebben we al een heel aardig blok gehad met de WRR en ECP. Vanmiddag doet
daar zeker niet voor onder. We hebben zo dadelijk Richard van Zwol te gast. Hij was
eerste rapporteur van het advies van de Raad van State over digitalisering. Ik heet
ook de leden welkom. Naast de heer Middendorp en de heer Azarkan, die er vanochtend
waren, is gelukkig ook mevrouw Buitenweg weer bij ons aangeschoven. Andere leden waren
er vanochtend wel, maar hebben een andere Kameractiviteit die hiermee samenvalt. Ik
ben blij dat we in ieder geval met z'n vieren zijn. Heel misschien komt de heer Van
Dam ook nog, zodat we bijna in vol ornaat zijn. Mevrouw Van Weerdenburg heeft zich
moeten afmelden. Ook de heer Van Otterloo heeft zich vanwege die Kameractiviteit voor
het middagdeel moeten afmelden.

Ik wil heel snel naar de heer Richard van Zwol. Zeer veel dank dat u in ons midden
wilt zijn. Als u een introductie zou willen geven over in het bijzonder het rapport
van de Raad van State, maar misschien ook wel over de blik van de Raad van State op
digitalisering meer in het algemeen, dan is dat zeer welkom. Dat mag wat mij betreft
een minuut of tien à vijftien duren. Daarna gaan we dan interactief met elkaar in
gesprek.

De heer Van Zwol:

Dank u wel. Alle waardering en lof voor dit initiatief van de Kamer. Het past in de
traditie van veel aandacht van uw Kamer in de laatste paar jaar voor al deze thema's.
Dat is helder.

Ik heb uw vraag zo opgevat: hoe kunnen wij als Kamer onze kennispositie op het gebied
van digitalisering verstevigen, en hoe kunnen wij onze grip op deze ontwikkelingen
verstevigen? In mijn introductie zal ik betogen dat ik in dat opzicht goed nieuws
voor u heb. Een van uw kernfuncties, namelijk het zijn van medewetgever, maakt het
volgens ons mogelijk dat u uw kennis van en grip op deze materie gaat versterken.

Het ongevraagd advies van de Raad van State van een jaar geleden is bekend. U heeft
daar onlangs een Kamerdebat over gehouden. Dat advies was weliswaar ongevraagd, maar
het had wel een voorgeschiedenis. Ruim een jaar geleden kregen wij ongeveer op hetzelfde
moment drie uiteenlopende wetsvoorstellen voor advies op tafel. Ze hadden allemaal
te maken met digitalisering. Eén ging over een aanpassing in de Algemene wet bestuursrecht
om het elektronisch berichtenverkeer met burgers in te voegen. Twee was de invoeringswet
voor de Omgevingswet, waarin het Digitaal Stelsel Omgevingswet werd ingevoerd. Het
derde was de Wet digitale overheid, voorheen de Wet GDI. Wij zagen met die drie wetsvoorstellen
aan de ene kant dat het vraagstuk van digitalisering de positie van de burger en de
rol van wetgeving actueel op tafel legt. We zagen bij die drie wetten ook dat er van
de kant van de wetgever werd geworsteld met het beantwoorden van de vragen. Dat was
dus een concrete aanleiding om het vraagstuk meer in algemene zin te bezien.

Wij hebben het ongevraagd advies over mijnoverheid.nl, met een vraagteken achter «mijn»,
op twee manieren benaderd. Eén: het versterken van de positie van de burger. Twee:
het versterken van de positie van de wetgever. Het versterken van de positie van de
burger heeft bij ons tot drie inzichten en adviezen geleid. Het eerste is om digitaal
tot stand gekomen besluiten beter te motiveren: geef de burger inzicht in de beslisregels
die je als overheid hebt gehanteerd en in de algoritmen en data die je hebt gebruikt.
Het tweede is om de burger een betere rechtsbescherming te bieden, met name als er
sprake is van digitale besluitvorming in een keten van overheidsorganisaties. Drie
is om in het kader van de beginselen van behoorlijk bestuur ook het beginsel van zinvol
contact van de overheid met de burger een betere plek te geven. Dat waren de drie
onderdelen bij het versterken van de positie van de burger.

We hebben ook de positie van de wetgever onder de loep genomen, ook met drie concrete
invalshoeken en adviezen daarbij. Eén: we hebben vastgesteld dat veel wetten het karakter
hebben van een kaderwet, of vooral van procesbeschrijvingen, maar dat ze niet de materiële
normstelling richting burgers en andere belanghebbenden betreffen. Huiselijk samengevat:
het algoritme dreigt een klein beetje de wet te verdringen. In dat soort wetten wordt
een grondslag gegeven om zaken uit te werken in algemene maatregelen van bestuur en/of
ministeriële regelingen. Om die lagere regelgeving echt uit te voeren, moet een vertaling
plaatsvinden in beslisregels of algoritmen, uit te voeren door overheidsorganisaties.
Maar daardoor zit de normstelling uiteindelijk in het algoritme en niet in de regelgeving,
laat staan in de wet die het parlement vaststelt. Dat is het eerste punt.

Het tweede punt, daarmee samenhangend, is dat ICT nu wordt bezien op het moment dat
een wet eigenlijk klaar is: o ja, in het kader van de uitvoering wordt ook gekeken
naar ICT. Digitalisering en de uitvoering door ICT is van zo'n wezenlijk belang dat
dit naar de voorkant van het proces moet. Bij het ontwerpen van beleid en bij het
ontwerpen van de wet – ook de wet in formele zin – hoort digitalisering al te worden
meegenomen.

Over het derde punt zal ik straks nog iets meer zeggen. Dat is dat digitalisering
mogelijk ook iets vraagt van de inrichting van het wetgevingsproces. In alle eerlijkheid:
het wetgevingsproces is in de kern eigenlijk nog het wetgevingsproces van de tweede
helft van de negentiende eeuw, met zijn stappen binnen de departementen, tussen de
departementen, in de ministerraad, naar beide Kamers, met schriftelijke vragen, AO's,
wetgevingsoverleggen en mondelinge behandelingen. De meest interessante vernieuwing
is de internetconsultatie geweest, maar daarmee is het ook opgehouden. De vraag is
dus of het wetgevingsproces en hoe we dat inrichten binnen de departementen, tussen
de departementen en in de Kamers nog van deze tijd is.

Wij hebben ons advies met deze twee invalshoeken – de positie van de burger en de
positie van de wetgever – bewust ruim een jaar geleden afgeleverd, net voor het moment
waarop het nieuw aangetreden kabinet met de nieuw aangetreden Staatssecretaris van
Binnenlandse Zaken zijn digitale agenda ging opstellen: NL DIGIbeter. We zijn nu een
jaar verder. Vanuit de Raad van State, Afdeling advisering, kijken we heel positief
naar de agenda NL DIGIbeter en naar de voortgang die er op tal van punten is geweest.

Wat betreft de positie van de burger is er in wetgeving zichtbaar meer aandacht voor
de positie van de burger, voor de rechtsbescherming en voor het goede contact van
burgers met de overheid, ook bij digitale besluitvorming. Wij zien ook verbeteringen
in concreet aan ons ter advisering voorgelegde wetgeving: een aanvulling op de Wdo,
een aangepast Digitaal Stelsel Omgevingswet, de Bekendmakingswet over het bekendmaken
van besluiten en wetgeving over het burgerservicenummer. Dat zijn allemaal voorbeelden
waarbij wij in het afgelopen jaar hebben gezien dat er zichtbaar meer is gelet op
de positie van de burger, en er zichtbaar stappen vooruit zijn gezet.

Ook met wat de Staatssecretaris in NL DIGIbeter aankondigt op het punt van de verhouding
van digitalisering ten opzichte van de rechten – vooral grondrechten – van burgers
en het vraagstuk van privacy en persoonsgegevens is er veel in gang gezet, en er komt
nog veel aan. Daar is nadrukkelijk aandacht voor. Dat geldt ook bij andere kabinetsleden,
zoals de Minister voor Rechtsbescherming, met zijn brieven over algoritmen en wetgeving.
Dat zijn allemaal heel goede voorbeelden.

Is het daarmee op het punt van de positie van de burger allemaal klaar? Nee, natuurlijk
niet. Maar dat ligt niet aan de inzet. Dat ligt denk ik gewoon aan het feit dat dit
heel complexe materie is. Dat onderscheidt digitalisering misschien wel van andere
belangrijke ontwikkelingen die we kennen. Ook op ander technologisch vlak gebeurt
er veel. Er zijn ook andere typen economische en maatschappelijke onderwerpen die
zeer van belang zijn, maar digitalisering heeft twee bijzondere aspecten. Eén: ze
raakt werkelijk alle terreinen van de maatschappij. Twee, niet te onderschatten: ze
raakt niet alleen de positie van de burger, maar verandert ook de positie van de overheid
en de overheidsorganisatie zelf. Dat laatste is bij veel andere technologische en
maatschappelijke ontwikkelingen niet per se het geval. We hebben hier dus niet alleen
te maken met een opdracht voor de overheid, maar ook met een opdracht die de overheid
zelf doet veranderen.

Dan kom ik aan mijn tweede punt: de positie van de wetgever. U zult niet verbaasd
zijn dat mijn boodschap is dat daar eigenlijk nog de meeste winst te behalen is. In
het afgelopen jaar zijn daarin nog geen nadrukkelijke stappen gezet. Hier gaat het
met name om de vraag hoe we wetgeving en het wetgevingsproces beter kunnen inrichten.
Een heel belangrijk vraagstuk bij wetgeving betreft de dilemma's rondom flexibiliteit
en het mogelijk maken van experimenten. Er is bij veel maatschappelijke opgaven veel
vraag om te kunnen experimenteren. Er is aan de kant van ministeries veel behoefte
aan zogenaamde experimentwetgeving. Er is ook behoefte om te kunnen experimenteren
met data en met nieuwe technologieën. Dat vraagt een benadering waarbij aan de ene
kant recht wordt gedaan aan het karakter van experimenten, met flexibiliteit om nieuwe
dingen te kunnen verkennen en ruimte te geven. Anderzijds moet ook recht worden gedaan
aan datgene waarvoor een wet bedoeld is, namelijk het bieden van rechtszekerheid en
rechtmatigheid. In de kern is dat denk ik een vraagstuk voor de wetgever, zowel aan
regeringszijde als aan parlementaire zijde. Dat ligt nog vol op tafel en daar is veel
vraag naar. Het is een vraag over de inhoud: hoe maken we dat type wetten op zo'n
manier dat de wet zelf richting geeft en niet een soort blanco cheque is om het allemaal
in lagere regelgeving te regelen, of concreet in de uitvoering, terwijl je ook ruimte
laat voor vernieuwing en experimenten? Ook is er vraag naar hogere snelheden. Wetgevingstrajecten
die jaren duren, verhouden zich niet tot de noodzaak van snelheid en experimenten.
Zowel wat betreft de inhoud – hoe maak je zo'n wet en hoe zet je die in elkaar? –
als het wetgevingsproces ligt er dus nog een grote vraag.

Hierbij moet je ook kijken naar in te zetten instrumenten aan departementale kant
en in de Kamer zelf. U stelde een vraag over mogelijkheden voor kennis. De Dienst
Analyse en Onderzoek probeert op een aantal terreinen alle commissies in de Kamer
heel intensief te ondersteunen. Ik kan me voorstellen dat je ook op dit punt extra
inzicht wenst. Dat vraagt ook het doordenken van de wetgevingsprocedures binnen een
departement en tussen de departementen, en ik vermoed ook in de Kamer zelf. Hoe doe
je dat nou?

Tot slot zeg ik dat hier een grote samenhang ligt met het verbeteren van de uitvoering
door de overheid. Die vragen raken allemaal de digitale uitvoering. Bij de Politieke
Beschouwingen heeft uw Kamer gezegd onderzoek te willen doen naar de uitvoering bij
grote overheidsorganisaties. In de Miljoenennota heeft het kabinet gezegd dat er een
Ministeriële Commissie Uitvoering is gekomen. De Raad van State heeft in zijn miljoenennota-advies
aandacht gevraagd voor de brede maatschappelijke heroverwegingen. Praat niet alleen
over wat nieuw beleid zou moeten zijn, maar ook over hoe je het zou moeten doen. Het
gaat dan dus over vraagstukken van uitvoering, van transitie en van digitalisering.

Een laatste woord: ook aan de kant van de Raad van State gaat het denken voort. Samen
met het Ministerie van Binnenlandse Zaken gaan we dit najaar verder onderzoek doen
naar het fenomeen wetgeving en algoritmen. Binnen de Afdeling bestuursrechtspraak
van de Raad van State wordt verder gestudeerd op het vraagstuk van algoritmen en besluiten
door de overheid waartegen de burger in verzet kan komen. Binnen de Raad van State
wordt door de Afdelingen bestuursrechtspraak en advisering in een kenniseenheid samengewerkt
op het gebied van digitalisering.

De voorzitter:

Zeer veel dank. Een duidelijke inleiding, waar wij als commissie graag onze tanden
in willen zetten. Mag ik weer het woord geven aan de heer Azarkan? We hebben besloten
om het heen en weer te laten gaan. Het ophalen van de vragen gaf toch iets statisch.
Wij gaan dus door op de weg die we vanochtend toevallig vonden, omdat een van de leden
zo brutaal was om gelijk een vraag te stellen die ook gelijk beantwoord werd. Dat
beviel zo goed dat we daarmee doorgaan. We doen inderdaad vraag-antwoord. Als de andere
leden daar behoefte aan hebben, kunnen ze dus makkelijk inspringen. Dat beviel eigenlijk
heel goed. Het woord is aan de heer Azarkan.

De heer Azarkan (DENK):

Dank, voorzitter. Dank ook aan de heer Van Zwol voor zijn overzicht en de schriftelijke
kennis die hij al met ons gedeeld heeft. Ik wil kort focussen op de stelling dat ICT
te veel wordt bezien als de wet al klaar is en op het feit dat we digitalisering naar
de voorkant moeten halen. Hoe krijgen we dat vanuit de Kamer materieel ingericht?
Hoe gaat zoiets?

De heer Van Zwol:

Het begint in alle eerlijkheid bij de inrichting op de departementen. Nu wordt een
beleidsidee of politiek idee vertaald in beleid, in een nota. Dan wordt er een ontwerpfase
gemaakt voor de regelgeving. Daarbij wordt vaak al wel nagedacht over wat in de wet
moet en wat in lagere regelgeving kan, maar daar stopt het. Daarna krijg je het hele
circuit van het interdepartementale overleg, ook u bekend. De uitvoeringstoets wordt
vaak pas gedaan als men aan kabinetskant zegt: oké, het is goed zo. Wat er dan gebeurt,
is heel belangrijk: wat in een wet of in een algemene maatregel van bestuur staat,
moet door degenen binnen een overheidsorganisatie die dit vertalen eerst worden vertaald
in beslisregels. Vervolgens moeten die beslisregels worden vertaald in een programmeertaal.
Dat zijn twee verschillende stappen. U kunt zich voorstellen dat er bij elke stap
vertalingsverlies kan zijn. Er kan iets verloren gaan bij het vertalen van wat de
wetgever bedoelt in beslisregels. Er kan ook nog iets verloren gaan bij het vertalen
van de beslisregel naar daadwerkelijke programmeertaal.

Mijn advies, of het advies van de Raad van State, aan de departementen is om de elementen
van die vertalingen naar de voorkant te halen: als je bezig bent om het probleem en
de mogelijke oplossing te beschrijven, ga dan ook eens nadenken over hoe je dat gaat
vertalen. Je moet je er dan van bewust zijn dat de taal van regelgeving, de taal van
beslisregels en programmeertaal drie verschillende talen zijn. Het bekendste voorbeeld
is natuurlijk dat je in een wet kunt opschrijven dat iets richting een burger «naar
billijkheid» moet worden bezien. Billijkheid in een beslisregel is heel moeilijk.
In de beslisregel waarin je een definitie geeft van billijkheid krijg je een aantal
beslisregels: dit is billijk, dit is billijk, dit is niet billijk en dit is ook niet
billijk. Die dingen ga je dan nog in nulletjes en eentjes vertalen. Als je je daarvan
bewust bent en dat al in het begin probeert te doen, ga je ook harder nadenken of
het wel klopt wat je in die wet opschrijft, en of je het zo bedoeld had.

Net zo goed als een bewindspersoon aan de Kamers bij een memorie van toelichting inzicht
moet geven in Europese aspecten, financiële aspecten en andere dingen, zou ik me kunnen
voorstellen dat bij een ontwerpwet ook inzicht wordt gegeven in niet alleen de uitvoering,
maar ook in de vertaalkant van de wet die daarbij nodig is. Het parlement kan zich
daar dan zelfstandig verder over laten briefen wanneer nodig, en kan daar zelf ook
een oordeel over hebben.

Mevrouw Buitenweg (GroenLinks):

Wat u zegt over billijkheid vind ik heel interessant. Ik zit daar nog even over te
denken. Dat is natuurlijk typisch iets wat in wetgeving staat, omdat je ook een soort
menselijke maat wilt hebben. Dat is heel erg van belang als je geen machine wilt zijn,
maar een samenleving. Maar is dat mogelijk? U zegt: we halen dat dan naar de voorkant.
Is het mogelijk om daar aan de voorkant invulling aan te geven? Of kom je dan tot
de conclusie dat zo'n begrip niet mag gelden, terwijl dat misschien juist wel waardevol
is voor de samenleving?

De heer Van Zwol:

Je kunt inderdaad tegen een grens aanlopen. In ons ongevraagd advies hebben we ook
opgeschreven dat je best kunt constateren dat sommige beslissingen zo gebonden zijn
aan een individuele context en zo zwaarwegend zijn voor individuele burgers – denk
aan bepaalde beslissingen in het familierecht – dat je die eigenlijk per definitie
nooit op een digitale manier zou moeten willen nemen. Als je een wetsvoorstel op zo'n
terrein hebt en probeert om een vertaling te maken, kun je er inderdaad achter komen
dat het een type onderwerp is waarbij dat niet kan.

Overigens, bij veel onderwerpen kan het uiteindelijk wel. Ook hier geldt de stelregel
dat in de bulk van de beslissingen, namelijk 90% tot 95%, heel veel heel goed mogelijk
blijft. Je moet je alleen bewust zijn van die onderwerpen waarbij dat niet zo is.

Ook de welbekende snelheidsovertredingen gaan digitaal. Wat we bijvoorbeeld allemaal
weten, is dat in die digitale beslisregels een kleine marge wordt ingebouwd. Dat weet
je. Eigenlijk zou je dat bij wetgeving altijd moeten weten: wat staat er in de wet
en welk type vertaling hebben we in die beslisregels gemaakt om het uitvoerbaar te
houden?

Nogmaals, ik ben ervan overtuigd dat 90% tot 95% van heel veel beslissingen goed op
die manier kan worden genomen. Maar je test jezelf ook op dat kleine percentage waarbij
het niet kan en/of waarvan ook de wetgever of de politiek zegt: dat willen we niet,
omdat die beslissing zo ontzettend van belang is voor individuele burgers, of zo contextgebonden
is.

De voorzitter:

Naast het feit dat we weten dat de heer Azarkan 103 op de snelweg rijdt: wil hij nog
een vraag stellen? Dat is niet het geval. Dan mevrouw Buitenweg.

Mevrouw Buitenweg (GroenLinks):

Ik vond wat de heer Van Zwol zei over de materiële normstelling interessant. Die staat
dus vaak niet in de wet, maar in een AMvB. Ik vroeg me af of hij ook een voorbeeld
kan geven van iets waarbij dat echt anders moet. Hij zei net natuurlijk al dat zulke
beslisregels eigenlijk ook in de wet moeten worden vervat. Tegelijkertijd zegt hij:
er moet natuurlijk ruimte zijn voor experimenteren, en zo'n wet is niet zomaar aangepast.
Is het nou reëel om te bedenken dat je beslisregels in de wet moet opnemen als die
eigenlijk heel moeilijk kan worden aangepast?

De heer Van Zwol:

Bij die eerste vraag, namelijk op welk niveau de normstelling ligt, zijn er twee trappetjes.
Je ziet heel veel wetgeving waarin de wettelijke grondslag wordt geregeld en de normstelling
in een algemene maatregel van bestuur of in een ministeriële regeling staat. Dat is
schering en inslag. Dat was ook onderwerp van het jaarverslag van de Raad van State:
wetgever, let op uw zaak; bent u zelf nog wel voldoende aan het stuur in de normgeving?

Vervolgens voegen wij daar in dit advies eigenlijk een complicatie aan toe. Ook bij
wetgeving waarbij normstelling pas bij een AMvB of een ministeriële regeling plaatsvindt,
is het vaak zo dat de daadwerkelijke vertaling waar burgers mee te maken hebben niet
eens daar plaatsvindt, maar nog een stapje verder weg wordt geduwd. Dat is het geval
op het moment dat je een beslisregel maakt of een algoritme voor de uitvoering ontwerpt.

De stelling is niet dat alle normen in de wet in formele zin moeten staan. Onze stelling
is dat je je ervan bewust moet zijn waar je wat doet. De wetgever moet zich ervan
bewust zijn dat hij in veel gevallen als het ware wel de wettelijke legitimatie voor
normstelling biedt, maar zelf eigenlijk niet de normstelling doet, omdat die verder
weg in het proces ligt.

Bij zoiets als de Omgevingswet speelt dat een rol. In hoge mate worden daarin nieuwe
processen voorgesteld en ontworpen, maar de daadwerkelijke norm komt uiteindelijk
vaak terecht in de omgevingsplannen die gemeenten moeten maken. Wat nou de precieze
vormgeving van de norm is waar een burger of een bedrijf mee te maken heeft, daar
komt de burger eigenlijk pas achter als er een aanvraag wordt ingediend in het Digitaal
Stelsel Omgevingswet. Dat is typisch zo'n voorbeeld waarin je dat getrapte karakter
terugziet.

De tweede vraag gaat over het type onderwerpen waarmee je zou willen experimenteren.
Daarbij zeg je: hier is het de bedoeling van de wetgever dat hij wel de politieke
legitimatie geeft dát u iets gaat doen, maar bewust ruimte geeft om in de praktijk
een beetje uit te zoeken wát u doet. Maar dan is het ten eerste op dat moment een
bewuste keuze van de wetgever. Het is ten tweede iets waar we ook in andere adviezen
bij concrete wetsvoorstellen op hebben gewezen. Bij wetten die dat karakter hebben,
die experimenten mogelijk maken en waarbij bij het experimenteren niet te veel strobreedten
in de weg worden gelegd, kun je als parlement of wetgever bijvoorbeeld een heel duidelijke
evaluatiebepaling opnemen, of een heel duidelijke horizonbepaling. Dat houdt in dat
je zegt: dit geldt voor drie jaar en daarna vervalt dit automatisch, want over drie
jaar moet er uitgeëxperimenteerd zijn; komt u dan maar eens terug bij ons parlement
met de opbrengst van het experimenteren, en kijk dan of we er nog zijn.

Het derde punt staat ook in ons advies. Bij dit soort wetgeving is het eens te meer
van belang dat de rechtsbescherming van burgers goed geregeld is. U kunt dus als wetgever,
als Tweede Kamer, een afweging maken: wij kiezen hier voor wetten die experimenten
mogelijk maken, maar we zoeken de bescherming van de burgers en rechtszekerheid in
evaluatie, horizon en rechtsbescherming. Dan maakt u een andere afweging, maar dat
doet u dan bewust.

De heer Middendorp (VVD):

De opmerking over het wetgevingsproces sluit aan bij wat net besproken is. Die opmerking
is natuurlijk voor deze commissie zeer relevant. Ik vraag me af of het in het huidige
wetgevingsproces mogelijk is om structurele verandering te krijgen. Graag uw visie
daarop. Ik zou een voorbeeld willen meegeven. Dat hoeft u niet te gebruiken, want
u heeft ervaring genoeg. Dat voorbeeld is dat iemand – of in dit geval twee iemanden
– bedenkt dat een online-identiteit een structurele verandering zou kunnen zijn waarmee
de overheid in één keer een stap verder zet in de digitaliseringswereld. Is het überhaupt
mogelijk om dat in zo'n wet vastgelegd te krijgen volgens het proces van AO, vragen
en mondeling overleg zoals u dat beschreef? Dat is mijn eerste vraag.

Twee: de opmerking dat het algoritme de wet dreigt te verdringen, hebben we als commissie
al een paar keer zien langskomen. U zet die heel scherp neer, en ik denk ook precies
op de manier zoals we daarmee nu geconfronteerd worden. De vraag is of vroeger in
de hoofden van mensen die de uitvoering deden niet ook al een deel gebeurde van de
dingen die we met algoritmen proberen te voorkomen.

De heer Van Zwol:

Op beide vragen ga ik graag in, want ze zijn beide spot on.

De eerste vraag ging over het wetgevingsproces. In de praktijk weten de regering en
beide Kamers wel te differentiëren in het wetgevingsproces. Een heel bekend voorbeeld
is het jaarlijkse belastingplan. Daarbij worden in korte tijd op een gestructureerde
manier veel fiscale wetsvoorstellen via een vrij rappe procedure heel geconcentreerd
afgewerkt. Die procedure is inmiddels al jarenlang in het Haagse ingevoerd. Ook binnen
al uw bestaande procedurele afspraken is dat mogelijk, als je zoiets inricht. Je zou
je ook best kunnen voorstellen dat je eens kijkt of je niet op één moment in het jaar
alle voor de burger relevante digitale aspecten op die manier in een soort verzamelwet
zou willen behandelen. Ik zeg niet dat dit het ei van Columbus is, maar er zijn dus
manieren om dit te doen.

In de praktijk is het ook best weleens voorgekomen dat regering en Kamers iets zo
belangrijk vonden dat, ondanks alle procedures, werkelijk letterlijk in een paar dagen
een hele wetgevingsprocedure werd doorlopen.

Ik onderstreep graag het belang van deze commissie, want je ziet dat dit alle ministeries
en alle wetgeving raakt, en dus in de Kamer zelf ook alle commissies. De vraag is
daarom hoe je hier Kamerbreed aandacht voor krijgt.

Nogmaals, met fenomenen als een verzamelwet, jaarlijks op vaste momenten geconcentreerde
aandacht hebben voor een bepaald onderwerp en dat in je procedures inregelen, kun
je al een heleboel dingen doen. Dat is denk ik het eerste.

Het tweede: u heeft volstrekt gelijk. Vóór de digitalisering werd binnen de uitvoeringsorganisaties
natuurlijk ook met interne voorschriften gewerkt. Dat waren de voorlopers van de algoritmen.
Er zijn denk ik twee redenen waarom het fenomeen algoritme nu desalniettemin nadrukkelijk
aandacht krijgt. De massaliteit en de snelheid is gewoon groter, dus de impact voor
burgers is heviger dan ze vroeger was. Het tweede punt is dat we in de rechtspraak
hebben geleerd dat interne beleidsvoorschriften onderdeel konden worden van een procedure
als een burger ergens zijn recht wilde halen. We zijn nu eigenlijk pas een paar jaar
bezig om datzelfde toe te passen op algoritmen. Uw vergelijking klopt helemaal, maar
ik denk dat massaliteit en snelheid redenen zijn waarom er zo veel aandacht voor is.
Daarnaast is met interne beleidsvoorschriften van uitvoeringsorganisaties binnen de
rechtspraak al lange tijd ervaring opgedaan, namelijk sinds de jaren vijftig of zestig.
Uiteindelijk is er voor de rechtspraak aanleiding geweest voor het verder ontwikkelen
van algemene beginselen van behoorlijk bestuur. Bij algoritmen zijn we daarop eigenlijk
nog maar heel kort met elkaar aan het oefenen.

De voorzitter:

De heer Azarkan wil hier nog op ingaan, maar we doen eerst de heer Middendorp. Daarna
komt de heer Azarkan. Gaat het over dit punt? Dat is niet het geval. Dan eerst een
vervolgvraag van de heer Middendorp en dan de heer Azarkan met een nieuwe ronde.

De heer Middendorp (VVD):

Begrijp me niet verkeerd: de aandacht begrijp ik helemaal en die is ook zeer terecht.
Dat er meer aandacht voor is, is helder. Het tweede punt begrijp ik ook helemaal.
Als we constateren dat de impact groter is, vraag ik me af of we dan niet een weg
inslaan of iets gaan proberen omdat je digitaal veel meer kunt terugzoeken en alles
kunt registreren en controleren, terwijl dat voor de overheid heel lastig uit te voeren
is. Ik heb het dan nog niet eens over handhaven. Het is heel lastig om überhaupt alles
te gaan vastleggen wat vroeger in de hoofden van uitvoerders gebeurde, en digitaal
te controleren of dat allemaal goed is gegaan. Ik denk dat het een betere weg is om
de uitvoering niet gelijk te stellen aan wetgeving en de normstelling op het juiste
niveau te houden.

De heer Van Zwol:

Eens. De kern is uiteindelijk dat de wetgever, en beide Kamers voorop, zich bewust
is van wat hij per se in de wet wil vastleggen en waar hij ruimte wil laten. Dat is
het eerste. En twee: ook hier geldt wat ik al eerder zei, namelijk dat in 90% tot
95% van de gevallen uw redenering zonder meer geldt. Door hier bewust over na te denken,
zou je als wetgever ook kunnen zeggen: voor 5% à 10% van het type besluiten richting
een burger zijn extra waarborgen nodig. Die hebben een grote impact op mensen en zijn
erg moeilijk terug te draaien als je een verkeerde beslissing neemt. Daarvan zou je
moeten zeggen: dat willen we niet automatisch laten doen, in ieder geval niet zonder
meer.

U heeft dus gelijk. Er is een groot verschil tussen de bulk en het kleine percentage
aan lastige gevallen.

De voorzitter:

Zoals zo vaak, denk ik. Maar daarom niet minder belangrijk. De heer Azarkan.

De heer Azarkan (DENK):

Ik wil het nog even hebben over het recht van de burger. In uw paper schrijft u over
de burgerinspectie als het gaat om de kwaliteit van data. Dat deed me denken aan de
thuiswerkplek die ik eind jaren negentig kreeg. Daar had ik recht op. Je kreeg een
ISDN2-aansluiting thuis, een stoel en een bureau. Die moesten aan alle eisen voldoen.
Toen ik met de ICT-afdeling belde, zeiden ze: uw woning bestaat niet; we kunnen dat
niet doen. Ik zei dat dat me nogal sterk leek, omdat ik er al een tijdje woonde. Zij
zeiden: nee, de woning staat niet in ons systeem. Daarmee bestond de woning in hun
werkelijkheid dus niet. Die moest eerst worden toegevoegd. Daarna pas kon men gaan
handelen.

Ik vraag mij hetzelfde af. De overheid neemt heel veel beslissingen ten aanzien van
burgers. Hoe komen we nou af van het punt – voor zover dat nu zo is en dat in de toekomst
zou kunnen voorkomen – dat iemand achter een desk zit en zegt: het systeem zegt nee?
De uitkomst is dan nee. Dat is een ingewikkeld algoritme. Kunnen we het überhaupt
zo maken dat er een soort toelichting komt, waardoor iemand weet om welke reden een
keuze gemaakt is?

De heer Van Zwol:

U raakt hiermee een cruciaal punt dat we niet in ons ongevraagd advies hebben geadresseerd.
Dat is het fenomeen van data en de basisregistraties. Het raakt ook een beetje aan
de vraag van de heer Middendorp over elektronische identiteit. Nederland heeft een
hoogontwikkeld systeem van basisregistraties, als het gaat om zowel personen en bedrijven
als om – zeer cruciaal – allerlei geobasisregistraties. Wereldwijd is men jaloers
op de omvang, de dekkendheid en de kwaliteit daarvan.

U raakt ook de andere kant van de medaille. Als in een basisregistratie iets verkeerd
staat, ben je al snel de klos. Dat heeft dus nog helemaal niets te maken met algoritmen
en besluiten. Het gaat hier om het op orde hebben van basisregistraties en op het
goede gebruik van data. Ik weet dat er bij het Ministerie van BZK veel aandacht is
voor de kwaliteitsverbetering en de samenwerking van basisregistraties. Daar ligt
nu ook de coördinatie van basisregistraties en zitten tegenwoordig ook de heel wezenlijke
geobasisregistraties. Dat is één.

Twee: we kennen allemaal de normale persoonsregistraties. Een onvermijdelijke ontwikkeling
zal zijn dat ook elektronische en onlinepersoonsgegevens moeten worden ontwikkeld,
waaronder het elektronisch paspoort en dergelijke. Daarna heb je twee dingen nodig.
Ten eerste moet er binnen de overheid een controlesysteem voor die basisregistraties
en die data zijn. Dat is er in essentie op dit moment al. Er wordt hard aan gewerkt
om dat in de nieuwe tijd up-to-date te houden.

Het tweede is dat je als burger bezwaar moet kunnen maken als een geautomatiseerd
besluit tot stand is gekomen dat niet klopt, terwijl je niet weet welke beslisregel
daaronder ligt. Een burger moet ook kunnen zeggen: het gaat me niet eens om de beslisregel,
maar om de van mij gebruikte data die niet kloppen; ze geven mij een huis dat echt
niet het mijne is, of omgekeerd. Dat raakt weer een van de elementen in ons advies.
Dat is het advies aan overheidsorganisaties om bij een besluit aan een burger duidelijk
te maken wat de wettelijke grond was, wat voor hem de uitkomst is en hoe hij daartegen
bezwaar kan maken en daarna nog beroep kan instellen. We moeten daaraan toevoegen:
by the way, we hebben gebruikgemaakt van de volgende beslisregels bij de wettelijke
grondslag, en de navolgende data over u zijn onderdeel geweest van dit besluit. Dan
kun je als burger ook zien dat het hem niet zat in de beslisregel, maar in de data.

Mevrouw Buitenweg (GroenLinks):

Ik lees in een van de adviezen inderdaad dat in een besluit moet worden toegelicht
welke beslisregels zijn gebruikt en welke gegevens zijn overgenomen. Dat is een van
de algemene beginselen van behoorlijk bestuur. U zei dat net ook. Mijn vraag is: wat
is een besluit? Is het bijvoorbeeld een besluit dat de overheid extra gaat controleren
of u gefraudeerd heeft? Dat is het SyRI-systeem. Op basis van een besluit komen we
tot de conclusie dat iemand een risico vormt en potentieel misschien meer fraudeert.
Is het een besluit om te kiezen in welke wijken de politie meer gaat patrouilleren?
Ik noem maar wat. Wanneer is iets een besluit?

De heer Van Zwol:

Hiermee betreedt u het heel omvangrijke terrein van de bestuursrechtspraak. Dat is
niet voor niets omvangrijk, want hier gaat het inderdaad vaak om. Dat verwacht u waarschijnlijk
wel. Zodra u hetzij elektronisch, hetzij schriftelijk, hetzij mondeling een op u persoonlijk
toegespitst besluit van een overheidsorganisatie krijgt, is voor u glashelder dat
u een besluit krijgt waar u iets tegen kunt doen. In de bestuursrechtspraak is in
de afgelopen decennia een fenomeen ontwikkeld. Dat gaat over de situatie waarin u
zit te wachten op een besluit en er maar niet besloten wordt. Ook dat niet-besluiten
wordt uiteindelijk een voor bezwaar en beroep vatbaar besluit.

Nu krijgen we de volgende fase, waarin het niet om u als individu gaat, maar het net
een systeem hoger ligt. Als men besluit dat uw postcodegebied onderdeel is van een
nadere zoektocht door de vrienden van de Belastingdienst – laten we maar iemand noemen
– dan heeft u nog steeds geen persoonlijk besluit gekregen. Misschien denkt u daarbij
wel: er is besloten om een onderzoek te doen dat ook mij raakt; hoewel ik het persoonlijk
niet uitgereikt heb gekregen of het nog geen op mij persoonlijk toegespitst gevolg
heeft, vind ik toch dat ik als belanghebbende in beroep moet kunnen gaan. Dat is op
dit moment denk ik onderdeel van de jurisprudentie die zich in de bestuursrechtspraak
aan het ontwikkelen is.

Mevrouw Buitenweg (GroenLinks):

Als ik daar één ding aan mag toevoegen: ik zie vaak dat het standpunt van de overheid
bij heel veel van zulke zaken is dat het gaat om gevoelige, veiligheidsgerelateerde
zaken. Het zijn belangrijke beslissingen, die mensen uiteindelijk raken, maar daarmee
worden ze categorisch uitgesloten van een nadere toelichting op hoe het besluit tot
stand is gekomen.

De heer Van Zwol:

Dat fenomeen is er. Ik denk in alle eerlijkheid dat er ook wel bepaalde terreinen
zijn waarvan je inderdaad kunt denken: hier is het maatschappelijk van belang om niet
zomaar alles te hoeven delen. Denk aan de ondermijnende zware criminaliteit. In alle
eerlijkheid: er kunnen best gegronde redenen zijn om op bepaalde terreinen uit het
oogpunt van veiligheid of om andere zwaarwegende zaken als overheid terughoudendheid
betrachten. De Raad van State zal altijd zeggen: spreek dat dan ook duidelijk uit
in de wet, want dan heeft de wetgever dat afgewogen. Dan is het duidelijk en dan mag
het ook. Daar waar dat niet gebeurt en waar de overheid dat inzicht niet geeft, moet
de burger uiteindelijk bij de rechter terechtkunnen om dat nog eens op te eisen.

De voorzitter:

Ook vanwege het feit dat we iemand hebben die nu weer naar een andere gelegenheid
moet, en omdat ik denk dat wij de materie met betrekking tot dit blok goed hebben
afgedekt, zou ik de heer Van Zwol zeer willen danken voor het kraakhelder toelichten
van het rapport en de discussie daaromtrent. Ik denk dat wij weer een heel ander vlak
hebben bestreken dan vanochtend. Dat vlak hadden we als commissie nog niet zo goed
in beeld, dus dat was zeer waardevol. Zeer veel dank.

We gaan direct na de wisseling door met de heren Rademaker en Stol van HCSS en het
Cyber Science Center, omdat we het programma vanwege de tijd iets moeten indikken.

De heer Van Zwol:

Graag gedaan. U weet dat de Raad van State adviseur is van regering én parlement,
dus meer dan graag gedaan.

De vergadering wordt enkele ogenblikken geschorst.

Blok 4

Gesprek met:

– de heer M. Rademaker, adjunct-directeur Hague Centre for Strategic Studies (HCSS)

– de heer W. Stol, lector Cybersafety, namens het Cyber Science Centre

De voorzitter:

Ik wilde gelijk beginnen. We hebben de heren Rademaker en Stol gevraagd om iets eerder
aanwezig te zijn, zodat we dit blok om 14.45 uur kunnen afronden. We kunnen dan om
15.00 uur met het volgende blok beginnen. Dat is omdat we anders nog een Kamerlid
hebben dat afwezig zou moeten zijn vanwege andere parlementaire activiteiten. Vandaag
is een beetje een ongelukkige dag, omdat er veel verschillende parlementaire activiteiten
zijn. Zeer veel dank aan de heren voor de flexibiliteit.

We gaan gelijk van start. U kunt wat mij betreft gezamenlijk dan wel apart ongeveer
tien à vijftien minuten inleiden. Dat zou dan bijvoorbeeld twee keer maximaal zevenenhalve
minuut zijn. Daarna kunnen we de discussie voeren. In de discussie komen meestal de
meest interactieve en interessante punten naar voren. Ik zou de heer Rademaker willen
vragen om van start te gaan.

De heer Rademaker:

Hartelijk dank voor de gelegenheid. Ik had ongeveer twaalf minuten, maar goed. Ik
ga eens kijken of ik dat kan indikken. Mijn verhaaltje bestaat uit twee delen. Ik
wil in bredere zin wat vertellen over wat we vanuit HCSS zien als bedreigingen voor
de toekomst van de ICT, maar ook over wat we aan de kansenkant zien. Omwille van de
tijd zal ik me niet helemaal aan mijn spreektekst houden. Die hebben jullie wel in
de bundel.

In algemene zin zien we dat Nederland het goed doet in de wereld. Qua ICT-infrastructuur,
in het individuele gebruik, de publieke diensten, het zakelijk gebruik en wet- en
regelgeving zijn we redelijk on par. ICT is daarmee een heel belangrijke economische
sector. Ze is feitelijk voorwaardenscheppend voor alle andere sectoren in Nederland.
Daarmee kan ICT, denk ik, niet worden onderschat. We scheppen hiermee economische
kansen, maar ook inclusie. We zijn ook een voorbeeld voor veel andere landen.

Diezelfde technologie introduceert ook allerlei kwetsbaarheden. De snelle technologische
en geopolitieke ontwikkelingen dwingen ons daarom om ons voor te bereiden op de toekomst,
proactief te zijn, en daar ook meer in te investeren. Dat geldt onder andere voor
kunstmatige intelligentie, AI. Nederland en ook Europa lopen daarin achter op de rest
van de wereld. Er zijn wel plannen. Vanaf 2021 voorziet de EU in een jaarlijkse investering
van zo'n 20 miljard. Ook Nederland is bezig. Binnenkort komt het strategisch actieplan
AI, SAPAI, uit. Op 8 oktober wordt het in Den Haag gelanceerd. Daarnaast is er een
beoogd hoofdkantoor van CLAIRE, de Confederation of Laboratories for Artificial Intelligence
Research in Europe. De hoop is dat de opgelopen achterstand met Amerika en China hiermee
enigszins wordt ingelopen.

Nederland, met de stad Den Haag als voorvechter van vrede en recht, ook in de gedigitaliseerde
wereld – zoals opgenomen in onze Grondwet – heeft hiervoor een perfect profiel. Normatieve
AI is een onderwerp dat een belangrijk onderdeel vormt van de Europese AI-strategie
die al is uitgebracht. Wij denken dat Nederland zich daarin een onderscheidende rol
kan aanmeten.

Daarnaast is accountability een belangrijk opkomend thema. Dat raakt aan alle ICT-ontwikkelingen:
van fake news tot de allernieuwste AI-technologie. De eerste principes rond accountability
zijn ontwikkeld. Ze worden nu vertaald en ondersteund door instrumenten en tools.
Op 6 en 7 november is de tweede Summit on Accountability in the Digital Age in het
Vredespaleis. Daar wordt dit ook besproken. Dat is even in het kort en overall.

Als je kijkt naar bedreigingen zien we dat de westerse waarden in de wereld aan het
afnemen zijn door de opkomst van autoritaire regimes met grote economische macht,
andere waarden en afwijkende principes. Westerse ethiek en normen voor verantwoordelijk
gedrag staan daardoor onder druk. Met de ontwikkeling en versnippering van het internet
worden onderdelen binnenslands volledig gecontroleerd door regeringen, door de staat,
zoals in China en in Rusland. Met de economische en geopolitieke opkomst van China,
onder andere via hun Nieuwe Zijderoute-initiatief, ontstaat er een dynamiek die al
een tijdje aan de gang is. Dit levert enorm veel politieke invloed op die, gecombineerd
met economische marktpotentie, ook een mogelijkheid biedt voor het genereren en verzamelen
van veel data op een wijze die de EU zeker niet voorstaat.

Data zijn erg belangrijke voedingsstoffen voor kunstmatige intelligentie. 5G-netwerken
zijn belangrijk voor de snelle verbindingen en de grote volumes aan datatransport.
Met het internet of things worden steeds nauwere verbindingen met eindgebruikers,
klanten en apparaten gecreëerd. Dat genereert ook weer enorme hoeveelheden bruikbare
data.

Als een land vooroploopt met AI, 5G en IoT, creëert het daarmee ook potentieel voor
de ontwikkeling van nieuwe industriële standaarden, en daarmee het vermogen om de
volgende economische grootmacht te worden, zoals het Verenigd Koninkrijk dat was met
de stoommachine en zoals Amerika de ICT-revolutie heeft doorlopen. Dat land heeft
dan tevens de potentie om de economische vaardigheid van Nederland en Europa te ondermijnen
ingeval hier misbruik van wordt gemaakt. De NCTV heeft daar in 2018 al aan gerefereerd
in een onderzoek naar economische vaardigheid.

Daarnaast zien we dat conflicten tussen staten nieuwe vormen aannemen. Cyberoperaties
spelen daar steeds een belangrijke rol in. Terwijl sommige cybercapaciteiten zijn
gereserveerd voor het slagveld – zeg maar voor de echte oorlogsvoering – en daarmee
enigszins zijn gedefinieerd, is dat bij heel veel andere mogelijkheden minder duidelijk.
Het gebrek aan duidelijkheid over offensieve cybercapaciteiten betekent dat het erg
moeilijk is om te beschrijven wat de middelen ofwel de wapens zijn. Cyberspace biedt
dan ook een sluier van anonimiteit om kwaadwillende activiteiten te ondernemen om
strategische en operationele voordelen te behalen.

Terwijl attributie nog steeds moeilijk is, zien we ook dat staten die aanvallen doorstaan
of onderscheppen steeds vaker een aanvaller weten te attribueren. Cyberaanvallen zijn
daarmee het nieuwe normaal geworden, in aansluiting op schijnbaar alomtegenwoordige
cyberspionage. Er bestaat bezorgdheid over het feit dat in cyberspace een catastrofale
confrontatie tussen staten zou kunnen plaatsvinden. Die houdt verband met de huidige
geopolitieke spanningen, maar heeft ook te maken met de zorg dat het vermogen van
overheden om een dreiging van een groot conflict in cyber te beheersen beperkt is.
Onduidelijk is welke relaties actoren hebben met de overheid. Er wordt veel uitgevoerd
door niet-statelijke actoren.

Er zijn allerlei pogingen gedaan om deze ondermijnende, disruptieve activiteiten op
intergouvernementeel niveau aan te pakken. In 2013 heeft de Group of Governmental
Experts op ICT-gebied van de VN, een belangrijk instrument van de eerste commissie
van de VN, zich hier al over uitgesproken. Het blijkt echter erg lastig te zijn om
hier specifieke internationale toepassingen van wet- en regelgeving op los te laten.
Dat heeft te maken met het feit dat er binnen cyberspace heel veel verschillende regimes
zijn.

Daarnaast zien we een groot ideologisch verschil tussen Oost en West. We zien dat
het Westen zich vooral richt op de technische veiligheid, vertrouwelijkheid, integriteit
en beschikbaarheid van data en systemen. De oostelijke benadering richt zich meer
op het gebruik. Oftewel: kan ik controle houden op de inhoud? Voorbeelden zijn de
grote Chinese firewall en vergelijkbare Russische voorstellen. Die tonen aan dat autocratische
landen dit middel vooral inzetten om dissidente en kritieke inhoud offline te houden.

De vraag is dan ook of je je er als overheid veel tegenaan moet bemoeien of niet.
Een belangrijk punt is dat de internationale gemeenschap zich vooral richt op normen
en op juridisch niet-bindende overeenkomsten. Dat is omdat veel van deze aspecten
niet alleen door overheden worden gedaan, maar vooral ook door individuen. Zij houden
zich heel netjes aan wet- en regelgeving, maar zorgen er ook voor dat het internet
schaalbaar blijft en niet onder de controle van één entiteit komt. Daardoor verliest
het een deel van zijn kracht, zoals je ziet in China en ook in Rusland.

Gezien dit complexe landschap is het zeer onwaarschijnlijk dat er een eenvoudige juridische
oplossing komt die iets afdwingbaar maakt. Er wordt dan ook vaak gerefereerd aan het
mare liberum, oftewel de wet van de high seas, zoals Hugo Grotius die heeft opgesteld.
Technisch betekent dat eigenlijk het ondersteunen van open standaarden, maar politiek
betekent het ook dat we ons moeten inzetten voor een proces van internationale, niet-statelijke
normvorming, met regels die voor iedereen gelden. Dat is, denk ik, een belangrijk
punt.

Ik sla een paar stukjes over. Wat we hebben gedaan? Het Den Haag Centrum voor Strategische
Studies host het secretariaat van de Global Commission on the Stability of Cyberspace.
We zijn in staat geweest om met een heel grote groep stakeholders, namelijk 28 commissioners
uit de hele wereld, een aantal normen te formuleren die ook weerklank vinden bij hun
achterbannen. We hebben het dan over mensen als Jeff Moss van Black Hat en de grootste
hackercommunities in de wereld, tot en met academici die zich met regimecomplexe vraagstukken
bij cyber bezighouden. Dat heeft er al toe geleid dat een van die normen in EU-wetgeving
is doorgedrongen, namelijk de bescherming van de publieke kern van het internet. Inmiddels
heeft het ook al geleid tot een verklaring van zo'n 550 gelijkgestemde staten, bedrijven
en maatschappelijke organisaties in de Paris Call for Trust and Security in Cyberspace.
Dat is iets wat je met een enkelvoudige wet niet zomaar regelt.

Dan het laatste. Daarna houd ik even op. Ik heb ook nog wat over AI, maar daar komen
we misschien later nog wel op. De Global Commission on the Stability of Cyperspace,
het Global Forum on Cyber Expertise, het programma van de Universiteit Leiden over
Cyber Norms en andere initiatieven tonen dat publiek-private samenwerking van Nederlandse
bodem internationaal bereik heeft. Ze zetten Nederland en Den Haag als stad van vrede
en recht, ook in de gedigitaliseerde wereld, op de kaart.

Ik sla een paar pagina's over. Misschien als laatste: ik probeer met het schetsen
van deze situatie duidelijk te maken dat Nederland een toekomstgerichte strategische
positionering en programmering zou moeten nastreven die gericht is op grote systeemtransities
die in de komende twee decennia van enorme invloed zijn op onze waarden en hoe die
zich gaan vertalen in het digitale domein, op hoe we ons geld gaan verdienen en op
de wijze waarop de maatschappij, de overheid en de burger samen optrekken en welvarend
blijven.

Dank u wel.

De voorzitter:

Dank u wel. In één stukje had u het over twee verschillende vormen van controle, namelijk
die van de meer oosters en de meer westers georiënteerde landen. Dat kon ik niet helemaal
volgen.

De heer Rademaker:

In westerse, vrije maatschappijen interesseert het ons wat minder wat er inhoudelijk
allemaal aan data op en neer gaat. We willen er vooral voor zorgen dat het systeem
stabiel is en functioneert. Je ziet dat China en Rusland heel erg geïnteresseerd zijn
in wat er aan data in hun systemen heen en weer gaat. Zij hebben heel veel behoefte
aan controle op de inhoud. Neem het voorbeeld van de Falun Gong en andere partijen
in China. Zij kunnen niet meer bestaan, in ieder geval digitaal niet, omdat ze gewoon
weggefilterd worden. Dat is iets wat in het Westen niet gebeurt.

De voorzitter:

Helder. Dank u wel. Ik geef dan het woord aan de heer Stol voor zijn introductie.

De heer Stol:

Dank u wel voor de uitnodiging. Het Cyber Science Center is een samenwerking van onderzoekers
die zich eigenlijk vooral buigen over het veiligheidsvraagstuk in relatie tot digitalisering.
Ze zijn er met elkaar van overtuigd dat dit een vraagstuk is dat je niet vanuit één
discipline oplost. Er is dus een samenwerking tussen mensen met een verschillende
achtergrond. Met elkaar proberen zij veiligheidsvraagstukken te verhelderen en te
komen tot oplossingen.

Veiligheid is eigenlijk het terugkerende thema als je het hebt over digitalisering
en de vraagstukken die digitalisering voor ons heeft. Alles overziend is de controle
op echtheid of echtheidskenmerken een van de basisprincipes die steeds terugkomen.
We hebben net onderzoek gedaan naar internationale aankoopfraude. Een van de conclusies
daaruit is dat dit een heel complex probleem is waar heel veel mensen en partijen
een rol in spelen, al dan niet bewust. De vraag vanuit de politie aan ons was: hoe
lossen we dat op, anders dan met opsporing? Alles overziend was een van de conclusies
uit het onderzoek dat er zeer slim gebruik dan wel misbruik wordt gemaakt van allerlei
dingen die echt lijken, maar niet echt zijn. Dat gaat tot nummers van de Kamer van
Koophandel aan toe. Die worden gewoon gebruikt. Bedrijfsnamen worden misbruikt, websites
worden nagemaakt, et cetera. Wij zijn met zijn allen niet in staat om te kijken of
wat daar rondgaat allemaal wel echt is. Ook is de individuele burger eigenlijk nauwelijks
nog in staat om te weten wat er uiteindelijk nog allemaal echt is. Dat kun je ook
nauwelijks nog van mensen verwachten. Ook dat was een van de bevindingen. Gezien de
listige kunstgrepen die oplichters toepassen, kun je iemand nauwelijks nog verwijten
dat hij daar op een gegeven moment intrapt. We zijn heel lang op zoek geweest naar
het profiel van degenen die steeds weer in allerlei digitale valkuilen trappen. Een
dergelijk profiel hebben wij, maar ook andere onderzoekers, nog steeds niet gevonden.

Er zijn een heleboel ontwikkelingen. Die stonden ook in de stukken die uw commissie
heeft verzameld. Veiligheid is voor al die ontwikkelingen de basis. Als je veiligheid
goed op orde is bij kunstmatige intelligentie, dan is kunstmatige intelligentie meteen
niet meer zo'n probleem. Daar hebben wij ons dus op gericht.

Een belangrijk thema waar ik zelf aandacht voor vraag is cybersafety. Daar vraag ik
sinds een jaar of tien aandacht voor. Die term hebben we destijds gekozen en overgenomen
uit Australië en Nieuw-Zeeland. De overtuiging van onze groep was toen dat het niet
alleen maar om de technologie gaat. Waar het bij deze materie vooral om gaat, is wat
mensen met de technologie doen. Dat begint natuurlijk al bij de productie en het programmeren,
maar dat zit «m ook in het gebruik, de distributie en alle andere onderdelen van de
digitale samenleving.

De mensen die de nadruk legden op het technologische verhaal, deden dat vaak onder
de term «cybersecurity». Als je op internet gaat zoeken naar «cybersecurity», kom
je ook bijna altijd bij technologieclubs uit. Maar tegenwoordig begint dat wat te
verschuiven. Met de term «cybersafety» hebben we destijds aandacht gevraagd voor de
human factor, ofwel de menselijke en de organisatorische kant van het verhaal. Tegenwoordig
begint dat wat te schuiven, maar naar mijn idee nog lang niet genoeg. De problemen
zijn niet zozeer technisch van aard. Dat wil niet zeggen dat je geen technologische
oplossingen kan vinden voor de problemen waar we mee te maken hebben. Maar de problemen
waarover ik hier nu ook hoor, betreffen allemaal problemen die niet zitten in een
stukje technologie, maar in het gebruik, in het misbruik en in fouten die ontstaan
door allerlei menselijke tekortkomingen.

Vandaar dat wij als groep de overtuiging hebben dat je deze problemen niet vanuit
één discipline oplost. Je moet techneuten samenbrengen met psychologen en criminologen
en misschien ook wel met economen en met nog andere disciplines, afhankelijk van de
aard van het probleem. Samen moeten ze bekijken wat er echt aan de hand is en wat
in dat geval de oplossingen kunnen zijn.

Ik heb u een tekst gestuurd. In die tekst schreef ik dat ik in mijn colleges over
het sturen of het besturen van dit soort vraagstukken vaak het voorbeeld gebruik van
het aantal verkeersslachtoffers in Nederland. Dat is ook ingegeven door het feit dat
ik in de jaren tachtig werkte bij de verkeerspolitie in Amsterdam. We hadden toen
te maken met het verkeersprobleem van meer dan 3.000 verkeersdoden per jaar. Dat aantal
was toen al aan het afnemen, maar het was toen nog het allergrootste probleem waar
we als samenleving mee te maken hadden. De criminaliteit haalde het niet bij die aantallen.
En waarom zitten we nu op en heel ander niveau? Terugkijkend zie je een heel scala
aan maatregelen van een groot aantal partijen. Natuurlijk gaat het ook om de technologie
en natuurlijk gaat het erom dat we veiligere auto's en een veiligere infrastructuur
hebben ontwikkeld. Maar er is ook een cultuurverandering. Ik hoor tegenwoordig niemand
meer klagen over de gordelplicht en dat gebeurde in het begin wel. Het is tegenwoordig
stoer als je de bob bent, en het was in het begin juist stoer als je met zo veel mogelijk
alcohol toch nog naar huis kon komen in je auto. Er moet dus een heel scala aan maatregelen
zijn waar heel veel partijen bij betrokken zijn en dat je lang vol moet houden. Het
duurt tientallen jaren voordat je het tij keert.

Wat je daar onder andere voor nodig hebt, is een goede indicator. Wat maakt nou duidelijk
dat we een probleem hebben? Ik ga weer terug naar de digitalisering. Is dat probleem
het aantal hacks? Is dat het aantal datalekken? Is dat het aantal bedrijven dat failliet
gaat doordat ze gehackt zijn? Zo kun je een heleboel criteria bedenken. Als je geen
goed criterium hebt, weet je ook niet wat de omvang van het probleem is en kun je
ook niet meten – voor zover dat al goed kan – wat er met de omvang van het probleem
gebeurt. Wat mij betreft zijn dat een paar zaken die goed op orde moeten komen. We
zetten stapjes. Er worden sinds 2012 systematisch in de veiligheidsmonitor vragen
gesteld over digitaal slachtofferschap. Maar de hele linie overziend hebben we nog
niet iets duidelijks als het aantal verkeersslachtoffers op verkeersgebied. We hebben
niet iets waaraan we kunnen werken om het omlaag te krijgen. Ik hoop dat deze commissie
daar stappen in weet te zetten.

Dank u wel.

De voorzitter:

Zeer veel dank. Dan gaan wij nu naar de zijde van de Kamer. Ik geef eerst het woord
aan mevrouw Buitenweg voor haar eerste vraag dan wel vragen.

Mevrouw Buitenweg (GroenLinks):

Dank u wel, meneer de voorzitter. Een van de doelen is dat wij meer grip hebben op
het onderwerp digitalisering en al die grote veranderingen. Een van de grote problemen
daarbij is dat we dit in Europa niet in isolement doen. Zoals net ook gezegd werd,
maken bijvoorbeeld China en Amerika ook grote ontwikkelingen door. De heer Rademaker
zei net al dat daar andere ethische normen gelden. Dat brengt mij bij de vraag: hoe
gaan wijzelf om met de ontwikkeling van bepaalde artificial intelligence? Bij The
Hague Centre for Strategic Studies zegt men dat de huidige EU-regels bepaalde vormen
van artificial intelligence ontmoedigen, en dat vindt de heer Rademaker jammer. Maar
ik zit met het volgende. Gezichtsherkenning is misschien niet helemaal een goed voorbeeld,
maar ik kan mij voorstellen dat je dat op een gegeven moment een onwenselijke ontwikkeling
vindt. Maar als wij daar zelf niets in ontwikkelen, dan komen er andere zaken en dan
worden die ethische overwegingen überhaupt niet ontwikkeld. Hoe vindt u beiden dat
we daarmee om moeten gaan? Ik zit daarmee. Als je grip op een ontwikkeling wilt hebben,
hoe zorg je er dan voor dat je de juiste technologie ontwikkelt, terwijl je niet meegaat
in een ontwikkeling die je essentieel onwenselijk vindt?

De heer Rademaker:

Dit is een hele mooie filosofische vraag, maar hij heeft tegelijkertijd ook heel praktische
kanten. We proberen in Nederland op dit moment in het Strategische actieplan Artificial
Intelligence, dat op 8 oktober uitkomt, stukken aan te leveren over maatschappelijke
acceptatie en inclusie. Ik ben een van de mensen die aan het plan meeschrijft, maar
ook bijvoorbeeld professor Jeroen van den Hoven, een ethicus, schrijft mee. In dat
plan geven we in ieder geval aan dat het wel degelijk mogelijk is om binnen economische
kaders wat dingen te doen. Tegelijkertijd zie je dat andere continenten heel hard
gaan en zich niet zoveel gelegen laten liggen aan de ethische vragen. Dat gaat overigens
niet alleen over China en Rusland, maar ook over Amerika. Maar in Europa hebben we
nog steeds een markt van zo'n 500 miljoen mensen. Als je in staat zou zijn om in Europa
een soort moral highground te ontwikkelen, waar we technologieën gebruiken die hier
wel rekening mee houden, en om de markt af te sluiten voor partijen die daar geen
rekening mee houden, dan heb je in ieder geval een stok. Dat hebben we bij GDPR ook
gezien. Ik kom af en toe in India. Iedereen wil daar iedere keer dat ik nog een keer
uitleg hoe het met GDPR zit, omdat ze veel aan Europa leveren en ze niet binnenkomen
als ze niet GDPR-compliant zijn.

Ik denk dat daar een deel van de vraag en het antwoord liggen. We moeten gewoon die
hoge standaarden gaan eisen als onderdeel van de toegang tot de markt. En daarnaast
moeten we zelf veel meer gaan investeren in AI, om goed te weten waar we mee bezig
zijn. Onze investeringen zijn zwaar onder de maat als je die vergelijkt met wat er
nu plaatsvindt op andere continenten. In die zin ben ik dus wel blij met de aankondiging
van de EU dat vanaf 2021 20 miljard beschikbaar gaat komen. Dit gaat alle economische
sectoren op allerlei manieren raken. En dan moeten we ervoor zorgen dat we dat normatieve
er goed hebben ingeregeld.

De heer Stol:

Als onderzoeker zeg ik al snel: kijk ook wat er gebeurt. Er zijn natuurlijk meer voorbeelden
dan gezichtsherkenning. Predictive policing is ook zo'n mooi voorbeeld in mijn vakgebied.
Als ik terugkijk, zie ik dat er in het verleden altijd veel geloof werd gehecht aan
nieuwe technologie. Er werden een heleboel mogelijkheden aan toegekend, die er vaak
in de praktijk maar moeizaam uitkomen en die vaak in de praktijk makkelijk te frustreren
zijn. Een technologie is makkelijker te frustreren dan te ontwikkelen. Ik zie ook
vaak dat er onuitgesproken aannames zijn over een nieuwe technologie, bijvoorbeeld
over wat je ermee zou kunnen of wat je ermee zou moeten.

Dat raakt ook meteen aan de ethische kant. Stel dat we gezichtsherkenning, predictive
policing of artificial intelligence ontwikkelen zonder ons af te vragen wat we er
eigenlijk van verwachten. We vragen ons niet af hoe we denken of willen dat het werkt
en we zoeken vervolgens niet uit of dat ook echt zo is. Dan geven we ons over aan
de toevallige ontwikkelingen. Om grip op ontwikkelingen te krijgen, helpt het om kritische
vragen te stellen. Behalve dat ik een politieachtergrond heb, ben ik geschoold als
socioloog. Ik bemoei me tegen die technologie aan en ik ben gewoon maar zo brutaal
geweest om er kritische vragen over te stellen. Van de technologie an sich weet ik
eigenlijk niets, maar ik weet wel iets van de samenleving, van de politiepraktijk
en van de problemen die je in de samenleving tegenkomt. Ik stel vragen over of die
technologie ons nou echt helpt. Hoe kunnen we dat zichtbaar maken? Daarin zit volgens
mij een soort van terugkoppelingsmechanisme op de ontwikkeling.

Een ontwikkeling kun je niet tegenhouden. Je kunt niet zeggen: nou, wij, Nederlanders,
doen even niks op dit gebied. Maar je kunt het wel op een wat andere manier doen dan
anderen, juist door er zo kritisch over na te denken. Daar word je niet altijd populair
van, heb ik gemerkt, want technologieprojecten zijn vaak heel interessant en mensen
raken er helemaal enthousiast van en lopen erachteraan. Als je dan kritische vragen
stelt, ben je een beetje de spelbreker. Maar ik denk dat je een soort critical friend
moet zijn om toch weer stappen verder te komen.

De voorzitter:

Ik wil er zelf ook even een aanvullende vraag over stellen, als dat mag van de leden.
Ik zie geen belemmering.

Dit is een veelvoorkomend punt. Ik ben de laatste tijd vaak door mensen benaderd,
die zeiden: als Kamer hebben jullie alleen maar oog voor de gevaren van kunstmatige
intelligentie. Wij zouden alleen maar bezig zijn met algoritmes en allemaal zorgen
zien. We moesten er eerst maar eens voor zorgen dat Nederland vooroploopt of meedoet,
want anders zijn die discussies mosterd na de maaltijd. Dan heb je helemaal geen invloed
meer op de ethische keuzes, want die worden dan door anderen gemaakt. Maar u zegt
nu juist weer: je kunt niet blind achter elke technologie en elke belofte aanlopen.
En daar ben ik het ook mee eens en ik ga dus naar een balansvraag toe. Internet beloofde
veel. Het zou de vrijheid in de hele wereld vergroten en het zou één grote enabling
zijn van menselijke vrijheden. Dat is absoluut niet uitgekomen. Aan de ene kant moeten
we dus kritisch zijn. Maar aan de andere kant moeten we ook meedoen. Dat is natuurlijk
best een lastige balans voor politici. Hoe moeten we daar als politiek mee omgaan?
Zou u daar misschien beiden – eerst meneer Stol, omdat hij de vraag aanwakkerde, en
dan de heer Rademaker – nog iets over kunnen zeggen?

De heer Stol:

Ja, dat is inderdaad een lastig dilemma. Ik heb in de loop der jaren gezien dat de
risico's zitten in de details. Als je als organisatie of als land zegt dat je iets
heel specifieks gaat ontwikkelen, dan is de kans op mislukken groot. Maar in de basisvoorzieningen
zul je mee moeten. Ik noem even een heel praktisch voorbeeld, om het handen en voeten
te geven. De politie had vandaag de dag nooit kunnen zeggen: in het verleden hebben
we besloten om niet met de telefonie mee te gaan. Dat is onbestaanbaar. Maar er zijn
in de tussentijd ook allerlei projecten mislukt, omdat de politie dacht: wij gaan
allerlei geavanceerde dingen ontwikkelen. Anderen vroegen dan of de politie wel de
rol van een hightechorganisatie op zich moest nemen, maar de politie zei dan: ja,
we gaan het doen, want wij kunnen dit het best. Dat zijn vaak de projecten die veel
haken en ogen hadden en dus ook mislukten.

De basisfaciliteiten en de basistechnologie, zoals internet, moeten er zijn. Natuurlijk
moet iedereen een internetaansluiting hebben en natuurlijk moeten we mee met de nieuwste
vorm van communicatietechnologie. Maar als je het daarbinnen gaat invullen, dan kom
je op het gebied waar je risico loopt op mislukkingen of op trajecten die heel anders
lopen dan je had bedoeld. We kunnen niet zeggen: wij doen niks aan artificial intelligence,
wij doen even niet mee. Dat kun je niet zeggen. Je moet je de basisprincipes eigen
maken. Maar je moet goed nadenken over hoe en waarvoor je het dan gebruikt en over
de vooronderstellingen die je hebt over het effect. Daar zitten de risico's.

De heer Rademaker:

In de basis ben ik het hiermee eens. Ik wil het benoemen aan de hand van een heel
praktisch, sprekend voorbeeld. De landmacht organiseert op dit moment bij de 13de
Brigade een test met een aantal verschillende autonome systemen, zoals robots. Die
zijn bezig met logistiek of inlichtingenverzameling of andere dingen. Een van de grote
vraagstukken bij robots is: tot hoever gaan ze en hoe autonoom kunnen ze worden? De
basis daarvan heet met een mooie term «meaningful human control». Het is heel belangrijk
– als metaforisch voorbeeld – dat een organisatie die de nieuwe technologie gaat inregelen
de ruimte neemt om een testbed te zijn, waarbij je verdergaat dan je wilt om te weten
waar het fout gaat. Als we dat doen, weet je ook wat je niet wilt. We hebben met z'n
allen, in ieder geval in Nederland, een redelijk gevoel van wat we netjes en binnen
de lijntjes kleuren vinden. Laten we dat als basis nemen, maar wel kijken naar hoe
ver die technologie gaat, en naar wat we wel en wat we vooral niet willen. Als we
daar netjes mee omgaan, geeft dat een license to operate voor heel veel organisaties
die iets willen ontwikkelen wat ze graag willen verkopen. Er zijn altijd landen die
spullen kopen waarvan we denken dat je die echt niet moet willen. Die keuze houden
wij dan niet tegen, maar als Europa kunnen we daar wel degelijk invloed op uitoefenen.

De voorzitter:

Helder. Dank u wel. Ik ga naar de heer Middendorp. Die hebben we dit blok nog niet
gehoord.

De heer Middendorp (VVD):

Mijn betoog sluit eigenlijk aan bij de laatste vraag. Het voorbeeld over de gordelplicht
sprak mij eerlijk gezegd niet zo aan, vooral niet als je weet hoe penicilline is uitgevonden.
We waren toen enigszins overgeleverd aan toevallige ontwikkelingen. Daarom kwam de
innovatie van penicilline naar voren. Dat niemand meer over de gordelplicht klaagt,
is nog geen bewijs dat de gordelplicht werkt. U zei dat je precies moet meten wat
de problemen zijn en wat er gebeurt door de acties die je neemt. Daar trof u mij weer
helemaal aan uw zijde, wat leidt tot twee vragen. Ten eerste: wat zouden wij als commissie
of als parlement moeten gaan meten, of aan het kabinet aan informatie moeten vragen?
Aan wat voor soort dingen denkt u dan? En ten tweede: hoe kijkt u aan tegen het feit
dat die toevallige ontwikkelingen bij innovatie misschien weleens hele mooie gevolgen
kunnen hebben?

De heer Stol:

Natuurlijk kunnen research-and-developmentafdelingen expres, maar soms ook bij toeval,
enorm mooie vindingen doen. Ik word door mijn wat terughoudende opmerkingen over de
succesverhalen van technologie vaak een beetje als criticaster gezien. Mensen vinden
dat we dit of dat moeten doen. Ik zeg in dergelijke discussies altijd: experimenteren
moet je altijd doen. Als je het idee hebt dat iets kan werken of dat er misschien
iets in zit: ga het proberen, maar evalueer ook of het doet wat je wilt. Dat gebeurt
vaak niet. We zouden in al dit soort projecten standaard moeten inlassen dat als je
een idee hebt en denkt dat het werkt, je dan ook zorgt dat je evalueert of het werkt.
Die evaluatie moet eigenlijk al beginnen voordat je iets feitelijk ontwikkelt. Je
hebt vaak al een idee en het idee kun je vaak al evalueren.

Een heel simpel voorbeeldje. Ik kwam in mijn eigen onderzoek ooit tegen dat bij de
politie werd geredeneerd dat als ze een computersysteem hebben, ze de laatste waarschuwing
niet meer bij herhaling hoefden uit te delen. Want ze weten dan wat er de vorige keer
gebeurd is en dan kunnen ze de volgende keer doorpakken. De vraag is of politiewerk
zo werkt. In de praktijk van mijn onderzoek kwam ik erachter dat politiemensen niet
per se willen doorpakken. Ze willen dat de wijk weer rustig wordt, zeker in de nacht,
als er bij herhaling bijvoorbeeld geluidsoverlast is, en dan is doorpakken niet altijd
de beste strategie. Maar in het computersysteem zat ingebakken: we gaan nu doorpakken.
Dat was voor mij een leermoment: je moet dus echt goed nadenken over hoe de praktijk
in elkaar zit voordat je een systeem met succes kunt ontwikkelen.

Ik ben de eerste vraag even kwijt. Er waren twee vragen.

De heer Middendorp (VVD):

Welke dingen moeten we gaan meten?

De heer Stol:

O ja, precies. Dat is cruciaal. Het moeten dingen zijn op verschillend gebied. Er
zal iets technisch in moeten zitten. Hoe vaak hebben we last van technische mankementen?
Want dan gaat er kennelijk in de ontwikkeling iets niet goed. Maar ook: hoe is het
met de veiligheid van de burgers gesteld? Wat vinden burgers er zelf van? Voelen zij
zich veilig of niet? Hoe vaak worden ze slachtoffer? En datalekken is ook nogal een
item om te meten. Zo zullen er nog een paar dingen zijn die we in de gaten moeten
houden, maar liefst niet te veel. Een belangrijke en ook een politieke keus is waar
we de prioriteit leggen. Leggen we die bij de datalekken of bij het veiligheidsgevoel
van burgers? Het hoeft lang niet altijd met elkaar in de pas te lopen. Mijn voorkeur
zou uitgaan naar het meten van niet te veel dingen – ik noemde zojuist een paar voorbeelden
– en dingen van verschillende aard. Dus zowel technisch als niet-technisch, en misschien
zelfs ook iets internationaals, omdat we daar toch altijd mee te maken hebben als
het om dit terrein gaat. Hoe vaak lopen we tegen een internationaal probleem aan?
Dat moet je dan wat verder definiëren. Maar ook: hoe zit het lokaal? Hoe nemen gemeenten
het voortouw op het gebied van digitale veiligheid? Zo zou je een aantal criteria
kunnen ontwikkelen om te kijken of je de goede kant op gaat.

De voorzitter:

Ik heb zelf ook nog een vraag. Zijn er nog andere commissieleden met vragen? Zal ik
nu even een vraag stellen?

Even over de intergouvernementele pogingen. Er wordt vaak op twee niveaus gesproken.
Althans, tegen mij wordt gezegd: de Europese Unie, want met nationale maatregelen
kom je er niet. Of: Nederland kan niet in zijn eentje, enzovoorts. Daar wordt door
sommige partijen in dit parlement weer anders over gedacht, maar dat is de politieke
kant. Die is vandaag helemaal niet aan de orde, want dit zijn kennisdagen en geen
debatdagen, en dat begrijpen mevrouw Buitenweg en de heer Middendorp allebei maar
al te goed. U voegde vanuit uw organisatie en uw ervaring heel nadrukkelijk een heel
belangrijk derde niveau toe, namelijk de pogingen om tot non-statelijke en intergouvernementele
oplossingen te komen, tot wat meer objectieve maatstaven van deskundigen. Wij willen
grip krijgen op de materie. Mijn vraag is daarom: zijn die pogingen overwegend succesvol
te noemen? Of wordt het geprobeerd, maar trekken heel veel landen zich er uiteindelijk
niets van aan, waarna je toch weer in een soort probleemsituatie terechtkomt?

De heer Rademaker:

Laat ik beginnen met dat er ontzettend veel normen en standaarden zijn, van ICANN
tot en met IEEE, IETF en al die andere. Joseph Nye noemde het wel het «regime complex».
Het gaat over technische standaarden – hoe kun je twee apparaten connecten, zodat
ze het ook nog doen? – tot en met de wat bredere vraagstukken. Er is dus al heel erg
veel. Overheden moeten niet denken dat zij wel even een setje normen kunnen bepalen
die in dat geheel nog echt het grote verschil gaan maken. Ik kan me wel voorstellen
dat je als overheid – of je dat nou Europees en/of nationaal doet – de processen helpt
versterken die tot die normstelling leiden. We zien dat nu in Nederland gebeuren met
de Global Commission on the Stability of Cyberspace. Buitenlandse Zaken financiert
dat, evenals Singapore en Frankrijk, maar ook een partij als Microsoft en een aantal
andere. Daar zie je al aan dat het multistakeholder is. Als je een en ander goed inbedt
en het – onder andere met dank aan Marietje Schaake, toen ze nog Member of European
Parliament was – in wet- en regelgeving weet te verankeren, waardoor het in één keer
verdergaande zeggingskracht heeft en je het eventueel kunt laten landen bij ENISA
als toezichtsorganisatie, dan zou dat een van de slimme routes kunnen zijn, als je
als overheid wat wilt doen. Dan portretteer je je als overheid niet als «we gaan het
wel even regelen», maar je legt het in het amalgaam van partijen die er sowieso al
mee bezig zijn en helpt het proces de goede kant op te duwen. Dat zou mijn suggestie
zijn.

De voorzitter:

Ik kijk naar de leden voor een laatste vragenronde.

Mevrouw Buitenweg (GroenLinks):

Er zijn ontzettend veel inhoudelijke vragen die ik heel graag wil stellen, maar we
moeten het een beetje beperken tot onze taak, die voor een groot deel institutioneel
is. Hoe moeten we het als Kamer nu echt gaan aanpakken? We vinden het daarbij niet
heel ernstig als er eens wat kritisch op ons gereflecteerd wordt. Daarvoor zitten
we hier ook. Ik wilde u daarom allebei de gelegenheid geven om iets te zeggen over
waar wij volgens u echt gaten laten vallen of waar de plank misgeslagen wordt. En
om aan de andere kant een voorbeeld te geven van hoe een wetgever juist grip heeft
gekregen op deze ontwikkeling. Dat kan ook een buitenlands voorbeeld zijn.

De heer Stol:

Een reactie op het bestaan van deze commissie zou ook kunnen zijn: dat is ook niks
te laat. Die hoor ik regelmatig. Ik denk op landelijk niveau nog minder dan op lokaal
niveau. Aangezien die niveaus niet losstaan van elkaar, kun je je afvragen hoe het
dan zit met de connectie tussen landelijk en lokaal niveau. En als ik in bestuurlijke
termen praat: hoe zit het met de verbinding tussen ministerie en het bestuur op gemeentelijk
niveau? Bij mij viel in 2014 ergens een kwartje. Waarom zijn politie en OM zo actief?
We hebben toch een driehoeksoverleg? Waarom doet de gemeente niets op digitaal niveau?
Ik heb daar met burgemeesters discussies over gevoerd. Die hadden zoiets van: «Ja
zeg, ik kan niet op cyberspace staan. Ik kan die grens niet zien en het gaat mij niets
aan. Dat is voor de politie». Dat is inmiddels helemaal veranderd. Achteraf kun je
je erover verbazen dat een van de gemeenteambtenaren zei dat ze het daar in de G40
nog nooit over hadden gehad. Ik denk dat er een verbinding zou moeten zijn tussen
landelijk, G40 en lokaal bestuur. Er heeft niemand vanuit de landelijke politiek gezegd:
gemeenten, wat doen jullie eigenlijk op dit vlak? En zo zullen er nog wel meer vergeten
partijen zijn. Misschien is het goed om landelijk te inventariseren of we alle partijen
die we als bondgenoot zouden kunnen mobiliseren, ook gemobiliseerd hebben. Als ik
er in 2014 achter kom dat gemeenten het hier nog nooit over gehad hebben, dan heeft
de landelijke politiek iets laten liggen wat het mobiliseren van bondgenoten betreft.

De voorzitter:

Dit riep bij de heer Middendorp instemming op, maar geen extra vraag. Mevrouw Buitenweg?

Mevrouw Buitenweg (GroenLinks):

Heeft u misschien nog een goed voorbeeld?

De heer Stol:

Als daar nog tijd voor is.

De voorzitter:

Zeker. Er is nog tijd.

Mevrouw Buitenweg (GroenLinks):

Misschien is er nog een goed voorbeeld van een ander land, waar dit op een andere
manier is aangevlogen, wat meer grip gaf aan de wetgever.

De heer Stol:

Nee, wel een komisch voorbeeld. Mag dat ook?

Bij ons onderzoek naar wat gemeenten kunnen doen op het digitale vlak, kwamen we een
lokale verordening uit Groot-Brussel tegen, waarbij de APV, de plaatselijke verordening,
niet alleen van toepassing was verklaard op de gemeente maar ook op cyberspace. Wij
hebben daarop contact opgenomen met ik meen de gemeente Jette. We zijn er niet achter
gekomen wie het bedacht had. Uiteindelijk zijn we maar tot de conclusie gekomen dat
het meer een soort statement was dan een praktische uitvoering. Ik vond het wel een
leuk statement. Zo van: jongens, hier moeten we ook aan denken. Ik vond het wel grappig,
een APV die ook van toepassing was op cyberspace.

Mevrouw Buitenweg (GroenLinks):

Dat doet me denken aan de vele gemeenten die ooit kernwapenvrij zijn verklaard.

De heer Stol:

Ja, precies.

De voorzitter:

De moties die door partijen van allerlei verschillende kleuren in gemeenteraden zijn
gesteund. De heer Middendorp tot slot? Nee? Is het oké?

Ik hoor dat de heer Rademaker misschien nog iets heeft. Gaat uw gang.

De heer Rademaker:

Ik heb een goed voorbeeld en een voorbeeld dat wat mij betreft aandacht behoeft. Ik
vind de GDPR, dus de AVG, echt een goed voorbeeld. Dat heeft een veel verdere uitstraling
dan alleen Europa. Dat vind ik een heel mooi voorbeeld. En een voorbeeld dat ik in
het begin al gaf: we moeten gaan nadenken om ICT tot een topsector te maken. Dat is
het nu niet. Het zit overal een beetje doorheen, maar het verdient aandacht om als
topsector as such neergezet te worden.

De voorzitter:

Mag ik daar nog een vraag over stellen? Ja dat mag u zeker, meneer Verhoeven. En neemt
u daar volledig de gelegenheid toe.

Het eerste punt, over de GDPR, is wel waar. Dat maakt echt wel indruk op partijen
van buiten Europa, en dat was de idee. We hadden het vanochtend bij het blokje ECB
over horizontale en verticale organisatie. De topsectoren zijn in mijn ogen vrij verticaal
georganiseerd, terwijl digitalisering juist een heel horizontaal karakter heeft. Zou
het als topsector werken, of zou een andere manier om het een waardige positie te
geven ook denkbaar zijn?

De heer Rademaker:

Mijn voorbeeld is misschien iets te organisatorisch ingestoken, maar ik denk dat de
sector als zodanig dusdanig belangrijk is dat die separeerbaar moet worden.

De voorzitter:

Mooi. Ik dank de heren Rademaker en Stol zeer voor hun komst. Het was weer een prachtige
toevoeging aan deze toch al rijke dag. We gaan om 15.00 uur door met het laatste blok,
dus een halfuur eerder dan voorzien. Dan hebben we drie organisaties, namelijk de
Open State Foundation, SETUP – dat is met mevrouw Siri Beerends, cultuursocioloog
– en Bits of Freedom. Ik wil u nogmaals zeer bedanken voor uw komst en bijdragen.

De vergadering wordt van 14.43 uur tot 15.01 uur geschorst.

Blok 5

Gesprek met:

– mevrouw Wilma Haan, directeur van de Open State Foundation (OSF)

– mevrouw Siri Beerends, cultuursocioloog en schrijver, namens SETUP

– mevrouw Evelyn Austin, directeur Bits of Freedom

De voorzitter:

Welkom en welkom terug. Dat moet ik er altijd bij zeggen voor de mensen die het debat
op een andere plek volgen. We zijn toe aan het laatste stukje van de tweede kennisdag
van de tijdelijke commissie Digitale toekomst. Dat is het blok met drie vertegenwoordigers
van een wat meer maatschappelijke invalshoek. Dat zijn in de volgorde zoals u ze ziet
zitten, van dichtbij naar ver weg vanaf mij: mevrouw Austin, die vandaag is begonnen
als kersverse directeur van Bits of Freedom, met een hele dikke streep eronder. Van
harte met deze mooie functie en deze start hier in de Tweede Kamer. Dan Siri Beerends
van SETUP, socioloog en schrijver. En Wilma Haan van de Open State Foundation.

We beginnen inderdaad een halfuur eerder dan gepland staat, omdat de heer Middendorp
zich vanaf 15.30 uur moet laten verexcuseren. Dat is bij dezen gebeurd. We kunnen
in ieder geval nog een halfuur van zijn aanwezigheid genieten. Ik geef hem dadelijk
dan ook als eerste het woord. Ik wil de drie sprekers vragen om te proberen de inleiding
iets korter te doen, zodat er nog enige interactie met het lid Middendorp mogelijk
is. We hebben daarna altijd nog de mogelijkheid om uitgebreider op vragen in te gaan.
Ik wil toch even proberen de tijd zo goed mogelijk te benutten.

Onze excuses ook. Er zijn in de Kamer ook andere activiteiten gepland, waardoor een
aantal leden van de commissie afwezig is, namelijk Farid Azarkan, de heer Van Otterloo
en de heer Van Dam. Danai van Weerdenburg heeft zich al eerder afgemeld voor de hele
dag vanwege verplichtingen bij haar partijgenoten. We hebben dus helaas een iets kleinere
bezetting, maar ik denk dat ik wel kan zeggen dat de harde kern er in ieder geval
is. Ik wil nu snel naar mevrouw Austin voor haar introductie.

Mevrouw Austin:

Dank je wel. Geachte leden van de Tweede Kamer. Facebook loog eerder dit jaar tegen
uw Kamer over de maatregelen die het bedrijf genomen zou hebben om manipulatie van
verkiezingen tegen te gaan. Terecht klonk direct de roep om regulering. Een van uw
collega's stelde: wat mij betreft is het moment nu aangebroken dat we de stap van
zelfregulering en het vertrouwen in de belofte van bedrijven gaan inruilen voor wetgeving.
Daar is Bits of Freedom het hartgrondig mee eens, mits die regulering hoofdzakelijk
gericht is op de reparatie van het online-informatie-ecosysteem. Voordat ik inga op
de onderzoeksvragen, schets ik graag eerst de karakteristieken van het huidige ecosysteem.

Het huidige landschap voor online-interacties kent drie bepalende kenmerken: commerciële
bedrijven intermediëren vrijwel al onze online-interacties, een beperkt aantal bedrijven
heeft een dominante positie, en de bedrijven maken gebruik van een uitbuitend verdienmodel.
De enorme schaal waarop de machtigste techbedrijven opereren, maakt het onmogelijk
om onze vrijheden te waarborgen. Eén dienst kan niet met een vrijwel «one size fits
all»-architectuur een groot deel van de wereld bedienen. Zo'n architectuur miskent
de grote diversiteit aan normen en waarden, verschillen in lokale wet- en regelgeving
en de enorme variatie in het gebruik van de dienst. De alsmaar uitdijende hoeveelheid
data die deze bedrijven vergaren, maakt dat zij disproportioneel veel invloed hebben.
De grootste techbedrijven beschikken over enorm veel en gedetailleerde gegevens over
ons gedrag en hebben inzicht in bestaande netwerken, zowel sociaal als in de markt,
en gebruiken die gegevens om hun positie te versterken. Zo faciliteren sommige platformen
een markt waar zij vervolgens zelf ook actief zijn. Deze machtige positie schaadt
onze individuele en collectieve autonomie, onze samenleving en onze democratie.

De bedrijven dicteren met een technologie hoe we ons voelen, hoe we naar de wereld
kijken en hoe we stemmen tijdens verkiezingen. Wij bepalen niet meer onze eigen normen
en waarden of de breedte van ons publieke debat. Het zijn de bedrijven die bepalen
wie er toegang heeft tot informatie en wie er onder welke voorwaarden mag publiceren.
Hun dominantie geeft ze bovendien veel invloed op maatschappelijke discussies in de
media, de politiek en zelfs de wetenschap. Ook de wetgever en het parlement dreigen
buitenspel te worden gezet. Het verslavende van veel van dit soort platformen maakt
bovendien dat wij niet meer zelf bepalen waar we onze tijd en energie aan besteden.
Of al deze beïnvloeding nou bewust is of niet, de impact is enorm en onder de streep
negatief. Als het makkelijk was om deze situatie te doorbreken, zaten we hier nu niet.

De dominantie die ik zojuist beschreef, maakt dat deze bedrijven bijna volledig resistent
zijn tegen elke druk van buitenaf. De consument kan nauwelijks om de platformen heen.
Doordat de bedrijven overmacht hebben waar het aankomt op kennis over het gedrag van
gebruikers en concurrenten, maakt concurrentie nauwelijks kans. Waar concurrentie
toch een bedreiging dreigt te vormen, wordt die opgekocht of wegontwikkeld. Organisaties
uit het maatschappelijk middenveld kunnen met hun beperkte budgetten nauwelijks tegenwicht
bieden. De grote techbedrijven hebben geen enkele stimulans om hun dominantie op te
geven. Zelfregulering, zo hebben we de afgelopen jaren gezien, is niets meer dan een
reeks kortetermijn-non-oplossingen die de illusie wekt van vooruitgang. Ja, regulering
is hard nodig, maar de huidige aanpak is, zoals de werkgroep digitalisering ook opmerkt,
te fragmentarisch en verergert onbedoeld vaak de problematiek. Bijvoorbeeld: voorstellen
die we hebben gezien om bepaalde uitingen op het internet aan te pakken, vormen vaak
zelf een risico voor onze vrijheden. Daarbij komt dat dit soort maatregelen nooit
de kern van de problematiek raakt. Bits of Freedom ziet daarom graag een verschuiving
van symptoombestrijding naar reparatie van het ecosysteem. Daarmee komen we uit bij
de onderzoeksvragen die nu voorliggen. Hoe kan de Tweede Kamer de kennispositie op
dit gebied versterken? En hoe krijgt de Kamer meer grip op de ontwikkelingen die samenhangen
met digitalisering?

Ten eerste wil ik u meegeven dat de dominantie van de technologiebedrijven een van
de belangrijkste thema's op het gebied van digitalisering is die de aandacht van de
Tweede Kamer vereisen. Er zijn weinig thema's die op dezelfde wijze zo'n impact hebben
op alle aspecten van onze maatschappij, of het nu gaat over onze vrijheid van meningsuiting,
het onderwijs, de media, de sociale cohesie, het arbeidsrecht of zelfs onze democratische
rechtsstaat. Het belang is ook af te leiden uit de prominente rol die deze bedrijven
spelen in de parlementaire debatten over elk van deze onderwerpen.

Ten tweede: om beter grip te krijgen op de ontwikkelingen, is het essentieel dat de
Kamer doorgrondt hoe deze bedrijven onze autonomie inperken, ook die van u als parlement.
Op welke manieren dragen deze bedrijven bij aan de maatschappij die we samen voor
ogen hebben? En op welke manieren zitten ze ons dwars, voorkomen ze dat we zelf onze
koers kunnen bepalen? Dit vraagt om een beleidsterreinoverstijgende aanpak.

Tot slot, ten derde: het creëren van een heldere visie over het gewenste online-informatie-ecosysteem
is essentieel. Om het probleem Facebook op te lossen, schreef een van mijn collega's
recentelijk dat we Facebook eigenlijk even helemaal moeten vergeten. Ofwel: om de
problemen op te lossen, moeten we niet primair deze bedrijven reguleren, maar het
ecosysteem waarbinnen ze opereren. Hoe ziet u onze online-interacties het liefst vormgegeven?
Hoe wilt u dat we online interacteren, los van de al bestaande platformen? Dit kan
als basis dienen voor een inventarisatie van de beleidsopties die iets zouden kunnen
betekenen voor meer diversiteit in ons digitale ecosysteem. Kortom, Bits of Freedom
onderschrijft dat deze problematiek elk aspect van onze maatschappij raakt. Een meer
holistische aanpak lost niet alleen de kern van het probleem op, maar leidt er ook
toe dat veel van de symptomen waar we ons op dit moment dagelijks zorgen over maken
zich minder prominent zullen voordoen.

Dank je wel.

De voorzitter:

Dank u wel. Ik geef het woord aan mevrouw Beerends.

Mevrouw Beerends:

Allereerst dank voor de uitnodiging. Goed om hier te zijn. Mijn naam is Siri Beerends.
Ik ben cultuursocioloog, onderzoeker en schrijver bij medialab SETUP. Daarnaast ben
ik buitenpromovendus aan de Universiteit Twente, waar ik onderzoek doe naar kunstmatige
intelligentie en authenticiteit. SETUP is een medialab dat onderzoek doet naar de
ethische implicaties van opkomende, digitale technologieën. We zien dat veel digitale
technologieën – denk aan smart cities, predictive policing, algoritmische besluitvorming
– heel abstract en ontoegankelijk zijn voor burgers. Mensen weten vaak niet welke
belangen deze systemen behartigen en op grond van welke data welke beslissingen zijn
gemaakt. Daardoor bestaan zowel binnen als buiten de wetenschap grote zorgen over
surveillancetechnologie en de impact daarvan op onze autonomie, de problematiek omtrent
automatisering van sociale ongelijkheid, de macht van big tech, en de oneerlijke gevolgen
van het surveillancekapitalisme. Een data-economie waarin ons gedrag wordt bijgestuurd
om betere gedragsvoorspellingen te kunnen verkopen aan bedrijven. Hoewel waarden als
transparantie, privacy, autonomie en inclusiviteit hoog op de politieke en juridische
agenda staan, zien we vaak dat regulering achter de markt aan hobbelt. Een voorbeeld
is de GDPR, wat een goede wet is, maar die natuurlijk niet alle problemen kan oplossen.
Wetgeving is niet zaligmakend. Daarom is het belangrijk om daarnaast ook te investeren
in het creëren van een brede media-, data- en algoritmewijze groep burgers. Dat is
waar we bij medialab SETUP mee bezig zijn. Dat doen we door middel van artistiek ontwerpend
onderzoek. Dat betekent dat we samen met kunstenaars en experts uit verschillende
disciplines installaties, beelden en vocabulaire ontwikkelen die de ethische implicaties
van technologische ontwikkelingen invoelbaar maken voor een breed publiek. We vinden
dat niet alleen technologie-experts moeten kunnen meepraten en meebeslissen over onze
digitale toekomst, maar een bredere groep mensen. Wetenschappelijk onderzoek werkt
vaak volgens gereguleerde methoden en stappenplannen, maar artistiek onderzoek biedt
meer ruimte om te exploreren en inzichten te uiten in andere vormen dan tekst. Wetenschappelijk
onderzoek kijkt terug. Artistiek onderzoek kijkt juist vooruit en kan daardoor vragen
stellen over wat we wenselijk vinden. Zo kunnen we de digitale toekomst invoelbaar
maken nog voordat die arriveert, en politiek en samenleving stimuleren om ethisch
bij te sturen waar nodig. Dat ethisch bijsturen voor elkaar krijgen, kunnen we natuurlijk
niet alleen. Daarvoor werken we samen met uiteenlopende partijen, zoals vmbo-scholen,
universiteiten, overheidsinstellingen, gemeenten, bedrijven, journalisten, maar ook
onderzoeksinstellingen, zoals het Rathenau Instituut. De meerwaarde van het artistieke
onderzoek laat zich denk ik het best verwoorden door wat andere mensen daarover gezegd
hebben. Barend van de Meulen bijvoorbeeld – hij is het hoofd onderzoek bij het Rathenau
Instituut met wie we hebben samengewerkt – zei dat onderzoekers en wetenschappers
vaak op papier schrijven over mogelijke risico's, zonder daarbij de sociotechnologische
praktijk echt zichtbaar en invoelbaar te maken. Dat is waar we ons bij SETUP voor
inzetten: het zichtbaar maken.

Een voorbeeld dat ik graag wil laten zien, is deze algoritmische sollicitatie-installatie.
Tegenwoordig vragen bedrijven steeds vaker aan sollicitanten of ze een videosollicitatie
van zichzelf willen opnemen, waarna het bedrijf de sollicitatie laat beoordelen door
algoritmes; algoritmebeoordelende gelaatsuitdrukkingen van de sollicitant, het stemgebruik
en de woorden. Onze sollicitatie-installatie opent de black box achter deze technologie
en laat sollicitanten ervaren hoe hun woorden en gezichtsuitdrukkingen gekwantificeerd
worden, en vooral hoe onbetrouwbaar en moreel beladen, hoe subjectief die metingen
zijn.

Kenmerkend voor ons ontwerpende onderzoek is dat we gereedschappen ontwikkelen waarmee
burgers nieuwe technologieën kunnen vieren, maar zich ook kunnen wapenen tegen de
risico's ervan. Dat wapenen zag je vooral bij de sollicitatie-installatie. Zo kunnen
we sollicitanten voorbereiden op deze manier van solliciteren. Maar we willen ook
laten zien hoe je opkomende technologieën kunt vieren. Daarom werken we bijvoorbeeld
in navolging van onze sollicitatie-installatie samen met de Nederlandse Stichting
voor Psychotechniek aan de ontwerpvraag hoe kunstmatige intelligentie diversiteit
op de arbeidsmarkt juist kan faciliteren in plaats van frustreren.

Een ander kenmerk van ontwerpend onderzoek is dat we de wenselijkheid van technologische
toepassingen bevragen zonder het onderwerp meteen heel erg zwaar te maken. We zien
dat overheden en bedrijven veel vanuit economische kaders denken: we moeten overal
algoritmes en kunstmatige intelligentie in stoppen, zonder te bevragen of het gebruik
van kunstmatige intelligentie in een specifieke context ook echt een verbetering is.
Een voorbeeld is algoritmische besluitvorming bij de overheid, waar de Raad van State
een uitgebreid adviesrapport over heeft geschreven. Bij SETUP hebben we een klaagrobot
ontwikkeld, genaamd Paaltje. Daarmee hebben we het debat over de wenselijkheid van
algoritmegebruik bij de overheid weer op de maatschappelijke agenda gezet, en vooral
de rol van de human in the loop, en het recht op mensenlogica, waar we veel belang
aan hechten. Ik heb daarover een artikel geschreven in Trouw.

Een ander belangrijk kenmerk van ontwerpend onderzoek is dat we de resultaten vertalen
naar programma's voor onderwijsinstellingen, overheidsinstellingen en bedrijven. Onze
sollicitatie-installatie was bijvoorbeeld ook aanwezig op bedrijfsevenementen voor
hr-professionals, waardoor ook in het vakgebied zelf mensen eerst uitgedaagd worden
om kritisch na te denken voordat ze dit soort systemen gaan inkopen. Ook fungeren
de werken vaak als brandstof voor een ethisch debat over technologie. Er wordt regelmatig
gepubliceerd over onze projecten. We proberen daarover ook in de media te spreken,
om een zo breed mogelijk publiek te bereiken. Maar bijvoorbeeld ook door interessante
sprekers naar Nederland te halen. Samen met SURF hebben we Virginia Eubanks voor een
lezing naar Nederland gehaald, waarna ze ook door de Tweede Kamer werd uitgenodigd
om te spreken over de vergroting van sociale ongelijkheid dankzij algoritmes.

Tot slot. Een belangrijke meerwaarde van ontwerpend onderzoek is dat het heel goed
in staat is om blinde vlekken over technologie bloot te leggen. Een voorbeeld is de
blinde vlek dat meten niet altijd gelijkstaat aan weten. Veel situaties waarin burgers
verkeren zijn niet kwantificeerbaar en passen niet in een algoritmisch model. Niet
elke context is even geschikt voor algoritmisering. Denk aan de problematiek omtrent
predictive policing en de etnische bias daarin.

Een ander probleem, een blinde vlek ook, in het ethische debat is intellectual debts.
Machinelearningsystemen zijn vooral statistische correlatiemachines. Dat betekent
dat ze vooral veel antwoorden geven, zonder verklaringen. Volgens computerwetenschappers
ontstaat daardoor wat zij een intellectuele schuld noemen en die ons afhankelijk maakt
van digitale systemen die ons vertellen wat we moeten doen, zonder dat we begrijpen
waarom.

Een andere blinde vlek is het bigdataverdienmodel, wat eigenlijk maakt dat we kunstmatige
intelligentie stelselmatig overschatten en de mens stelselmatig onderschatten.

Een andere blinde vlek is dat we ons eigenlijk niet zozeer zorgen moeten maken over
kunstmatige intelligentie en algoritmes die ons overnemen, maar dat het belangrijker
is om te kijken hoe beide complementair zijn aan elkaar. Dus in plaats van dat vervangen,
is het belangrijk om de nadruk op de complementariteit te leggen. Daarom staat ons
ontwerpende onderzoek dit jaar volledig in het teken van complementaire samenwerkingen
tussen mens en machine. Dat doen we door te verkennen en te verbeelden hoe die samenwerkingen
er in de praktijk zouden kunnen uitzien. Een voorbeeld is het AI AI Barbie-project,
in samenwerking met Waag en experts uit verschillende velden. Ons project ging over
slim speelgoed en de manier waarop slim speelgoed de morele keuzes van kinderen kan
beïnvloeden. Uit onderzoek blijkt dat slim speelgoed die morele keuze sterker kan
beïnvloeden dan de ouders, dus dat heeft nogal veel impact. Naar aanleiding daarvan
hebben we samen met Waag een hackathon georganiseerd, waarbij we programmeurs speelgoed
in verschillende opvoedstijlen lieten programmeren, en vervolgens de ethische implicaties
daarvan hebben besproken met verschillende experts, wat weer resulteerde in publicaties
in de media over slim speelgoed.

Het is belangrijk om bij onderzoek ook te denken aan artistiek ontwerpend onderzoek.
Academisch onderzoek is vooral gericht op de wetenschappelijke community en op de
vraag: wat is waar? Onderzoek vanuit het bedrijfsleven is meer gericht op economisch
rendement en wat praktisch mogelijk is, terwijl artistiek onderzoek meer op het publieke
domein gericht is en op de vraag: wat is wenselijk? Dat is een hele belangrijke vraag,
vooral nu alles zo snel gaat. Vandaar dat het goed zou zijn om een vast percentage
van het geld dat naar onderzoek gaat te reserveren voor artistiek ontwerpend onderzoek.
Bijvoorbeeld: 2% van het ICT-projectenbudget investeren in onderzoek naar de maatschappelijke
implicaties van de impact van nieuwe ICT-systemen, nog voordat ze gebouwd gaan worden
dus.

Tot slot. Vanaf vandaag staat ons Algoritmisch Historisch Museum in het Atrium hier
in Den Haag. Als jullie zelf willen ervaren en zien wat de resultaten kunnen zijn
van artistiek ontwerpend onderzoek, zou je dat kunnen bekijken. In het Algoritmisch
Historisch Museum kun je zien hoe de geschiedenis eruit zou hebben gezien als we vroeger
al algoritmes hadden gehad.

Bedankt voor jullie aandacht. Als er vragen zijn, dan beantwoord ik die graag.

De voorzitter:

Zeer veel dank. Dan gaan we naar mevrouw Haan, als derde en laatste spreker.

Mevrouw Haan:

Bedankt. Dank ook aan de hele commissie voor de uitnodiging en de mogelijkheid om
hier mee te praten over dit onderwerp, over de vraag hoe de samenleving in het algemeen
en de Kamer in het bijzonder meer grip kan krijgen op huidige en toekomstige digitale
ontwikkelingen. Bij Open State Foundation streven we naar een open overheid, met digitale
transparantie als belangrijkste middel. U heeft in de vorige bijeenkomst, en waarschijnlijk
vandaag, al heel veel waardevolle adviezen gekregen voor het vervolg van uw zoektocht
naar meer grip op de ontwikkelingen. Graag maak ik van deze gelegenheid gebruik om
te focussen op de rol van transparantie en van open data bij de overheid zelf.

Hoewel de digitale ontwikkelingen inderdaad in hoog tempo voortgaan en daarmee de
hoeveelheid digitale informatie exponentieel groeit, bevindt de digitale-informatiehuishouding
van de overheid zich nog in de kinderschoenen. De broodnodige eerste stap om daadwerkelijk
meer grip te krijgen op de digitale ontwikkelingen en de snel toenemende hoeveelheid
en impact van data, is volgens ons een overheidsbrede transparantie-by-designvisie.
Ik betoog dit niet alleen vanuit het ideële idee dat overheidsinformatie van ons allemaal
is en transparantie van belang is voor een digitale democratie, omdat bijvoorbeeld
open data de sleutel is naar een gelijke informatiepositie voor iedereen – een overheid
hoort maximaal digitaal transparant te zijn; open, tenzij – maar we zeggen dit vooral
ook omdat digitale transparantie loont. Er is economisch voordeel te behalen; maatschappelijk
voordeel en democratisch voordeel. Open data bijvoorbeeld zorgt ervoor dat ambtenaren
efficiënter hun werk kunnen doen en dat parlementen en bestuurders beter geïnformeerd
te werk kunnen gaan. Open data maakt het immers mogelijk om analyses uit te voeren
om grote hoeveelheden informatie of informatiestromen met behulp van techniek beter
te ordenen en zo meer grip te krijgen. Digitale transparantie in het algemeen en open
data in het bijzonder stellen bovendien aan wetenschap, bedrijfsleven of maatschappelijke
organisaties de rijkdom beschikbaar die schuilgaat achter overheidsinformatie. Daarmee
kunnen zij weer onderzoek doen of nieuwe toepassingen maken. Het faciliteert ook de
controle op de macht door parlement, pers of betrokken burgers. Door transparant te
zijn over welke informatie je opslaat, welk type data je hebt en welke toepassingen
je daarop loslaat, geef je de samenleving grip op de digitale tijd en zijn ontwikkelingen.
Want wie toegang heeft tot de data achter het besluitvormingsproces of van geldstromen
van de overheid, kan die processen controleren en begrijpen. Wie weet welke data de
overheid verzamelt, kan daar iets van vinden en desgewenst aan de bel trekken. De
rol van publiek toezicht bij het krijgen van grip op digitale processen, al dan niet
via organen als volksvertegenwoordiging of pers, mag niet worden onderschat.

Behalve dat transparantie hoort en loont, moet het soms ook. Zo zien wij ons in onze
roep om meer en betere digitale transparantie in meer of mindere mate gesteund door
bijvoorbeeld de aanstaande Wet open overheid, de Woo, en de herziene Europese PSI-richtlijn.
Dat is de richtlijn inzake data en overheidsinformatie. Ik druk de commissie en de
Kamer dan ook graag vanaf deze plek op het hart om de implementatie van beide wetten
nauwgezet te volgen. In het adviescollege dat in het leven wordt geroepen om de uitvoering
van de Woo, de Wet open overheid, in de eerste jaren te monitoren, zouden wat ons
betreft niet alleen juristen en deskundigen op het gebied van bestuur, ICT en archief
een plek moeten krijgen, zoals nu in het voorstel is geformuleerd, maar juist ook
vertegenwoordigers en hergebruikers van overheidsdata, zoals maatschappelijke organisaties
en misschien wel burgervertegenwoordiging, en zeker de journalistiek. Bij de implementatie
van de PSI-richtlijn dringen we er graag op aan toe te zien op een hele brede interpretatie
van de zogenaamde hoogwaardige datasets, de high value data list, in het bijzonder
op de maatschappelijk enorm waardevolle categorieën mobiliteit, het Handelsregister
en het UBO-register, het bedrijfseigendomregister. Kortom, openheid en digitale toegang
tot informatie. De orde, de onderzoeksmogelijkheden en het publieke toezicht dat je
daarmee creëert en faciliteert, zijn een belangrijke sleutel naar de gewenste grip
op digitale ontwikkelingen enerzijds en gezonde, maatschappelijke en economische impact
anderzijds.

Ik begon dit betoog met te zeggen dat de informatiehuishouding van de overheid nog
onvolwassen is en gebaat is bij een brede transparantie-by-designvisie. Een dergelijke
visie moet volgens ons minimaal de volgende zaken behelzen, in volstrekt willekeurige
volgorde.

Een informatieregister, met daarin op hoofdlijnen transparantie over de aanwezige
informatie en verantwoording voor eventuele gesloten datasets, zodat zowel overheid
als hergebruiker grip krijgt op welke informatie er bestaat en beschikbaar is, en
er rekenschap wordt afgelegd over welke type informatie niet openbaar is.

In het verlengde hiervan een duidelijke vereniging van de vrijheid om informatie te
ontvangen en het recht op privacy; twee zaken met wat ons betreft evenveel belang,
die overigens geen tegenpolen van elkaar zijn. Ik kan geen gelegenheid voorbij laten
gaan om dat zeggen.

De ontwikkeling van striktere opendatastandaarden en toezicht daarop, bijvoorbeeld
door het bestaande Forum Standaardisatie veel meer slagkracht te geven. Pas als de
overheid haar open data volgens standaarden gaat opslaan en publiceren, wordt hoogwaardig
hergebruik mogelijk gemaakt.

De al genoemde brede interpretatie van de high value data list, die hoort bij de Europese
PSI directive, en een evenwichtig adviescollege voor de Woo, met aandacht voor de
belangen van hergebruikers.

Over de hele linie moet het kennisniveau omhoog van wat een digitaal open overheid
in essentie is en hoe je die bereikt. Zowel ambtenaren als politici, bestuurders en
belangrijke hergebruikers zouden beter moeten worden getraind in het verzamelen, publiceren,
analyseren en hergebruiken van data.

Graag sluit ik af met nog twee onderwerpen waarover de commissie in haar vervolgtraject
wat ons betreft zou moeten nadenken. Het kwam zojuist al even ter sprake: in hoeverre
zou dit hele betoog ook moeten gelden voor bedrijven, zeker wanneer zij data opslaan
en een aanzienlijk maatschappelijke impact hebben? En ten tweede mogen in deze rondegang
algoritmes en kunstmatige intelligentie niet ongenoemd blijven. Nou weet ik dat ze
ook zeker niet ongenoemd zijn in deze bijeenkomsten. Ik sluit me heel graag aan bij
iedereen die zegt dat er snel handvatten moeten komen en ethische kaders voor het
gebruik van beslissende en voorspellende algoritmes door de overheid. Ik voeg daar
graag aan toe dat het hele transparantie-by-designbetoog dat ik zojuist hield, ook
van toepassing is op de techniek en het beleid van algoritmes die door de overheid
worden gebruikt, en dat de overheid geen algoritmes zou moeten gebruiken die invloed
hebben op de levens van mensen waarover geen verantwoording kan worden afgelegd.

Dank u wel.

De voorzitter:

Zeer veel dank. Algoritmes zijn vandaag inderdaad heel veel aan de orde gekomen en
morgen stemt de Kamer ook weer over een aantal belangrijke moties op het gebied van
algoritmes. Maar vandaag is vandaag, en vandaag zou vandaag niet zijn als de heer
Middendorp niet een belangrijke bijdrage zou leveren aan dit laatste blok. Hij moet
zo weg, dus ik geef hem nu eerst het woord, met goedkeuring van de anderen, voor een
vraag of meerdere vragen aan een van onze drie gasten.

De heer Middendorp (VVD):

Dank, voorzitter. We zijn het natuurlijk eens dat er veel onderzoek gedaan moet worden
naar algoritmes. Dat lijkt me evident. Ik heb gaandeweg de toespraken mijn andere
meeting een beetje uitgesteld, want dit was natuurlijk food for thought. Ik weet niet
waar ik moet beginnen, dus ik begin maar bij mevrouw Austin. U heeft heel veel dingen
waar wij ook mee worstelen eigenlijk nog eens goed op een rijtje gezet, dus ik maak
even een keuze. Dat zal de voorzitter denk ik ook willen. U zegt dat het onder de
streep allemaal negatief is. Heeft u er dan helemaal geen vertrouwen in dat de maatschappij
zich een beetje gaat aanpassen? Misschien komt er een kentering in de situatie dat
de mensen die die mooie innovatieve diensten gebruiken en daar toestemming voor geven,
daar zelf mee stoppen als het allemaal zo negatief uitpakt? Ik vraag dus eigenlijk
naar de aanpassing van de maatschappij.

Ik kom bij mevrouw Beerends. Als simpele geoloog en econoom vind ik artistiek ontwerpend
onderzoek machtig interessant. Het is volgens mij echt iets wat we bij het onderzoek
naar algoritmes waar we hier in de Kamer mee bezig zijn, zouden kunnen gebruiken.
Ik ben benieuwd naar iets wat mij heel erg aansprak in uw verhaal. Is publieke awareness
eigenlijk niet het startpunt waar we nu staan? Er is heel weinig kennis en kunde,
en heel veel mensen denken dat ze de oplossing al hebben voor innovatie. Eigenlijk
zijn we ons als maatschappij aan het aanpassen. Ziet u dat zo? Ik hoorde dat een beetje
tussen de regels door.

Tot slot. Wat is eigenlijk het verschil tussen overheid en bedrijfsleven? U maakte
daar aan het eind een opmerking over, in het kader van die algoritmes. Ik vraag me
af hoe de Open State Foundation dat verschil ziet, als het gaat om het gebruik van
algoritmes en wat je potentieel moet doen als overheid.

De voorzitter:

Ik denk dat we in volgorde van de vragen naar onze drie gasten kunnen. Mevrouw Austin,
ik geef u als eerste het woord voor de beantwoording.

Mevrouw Austin:

Dank je wel. Dank je wel ook voor de goede vragen. Er zijn heel veel positieve ontwikkelingen
op het gebied van technologie. Bits of Freedom gelooft in technologie en houdt van
het internet. Dat is ook waarom we hier zitten. Maar we hebben de afgelopen jaren
ook gezien dat de ontwikkelingen zodanig slecht zijn dat ze aanpassing vergen. Ik
denk dat de aanpassing vanuit de maatschappij die u beschrijft, er zeker komt en dat
die vanuit de Tweede Kamer moet komen. Dat is waar de bijsturing op dit moment nodig
is. We hebben de afgelopen jaren gezien dat zelfregulering absoluut niet en zeker
niet snel genoeg gaat opleveren wat we nodig hebben. De Tweede Kamer is wat mij betreft
de maatschappelijke bijsturing waar we op dit moment om verlegen zitten.

De heer Middendorp (VVD):

Daar ben ik het natuurlijk mee eens als Tweede Kamerlid, maar ik had iets anders in
gedachten toen ik het had over de maatschappij. Ik zal het maar even plat zeggen:
stemmen consumenten ook niet met hun voeten? Dat deel van de maatschappij bedoel ik:
de mensen die die diensten gebruiken en niet diegenen die top-down vanuit de Tweede
Kamer iets bijsturen.

Mevrouw Austin:

De consument heeft op dit moment eigenlijk veel te weinig macht. Het stemmen met de
voeten gaat niet meer op op het moment dat we al deze diensten gratis krijgen. Dan
heb je als consument te kiezen tussen een gratis dienst en geen dienst. Het consumentenwelzijn,
waar een groot deel van ons mededingingsdenken op berust, is wat die allergrootste
technologiebedrijven betreft, stuk. Ja, consumenten kunnen natuurlijk bepaalde diensten
niet meer gebruiken. Bij de ophef rondom de app Nextdoor hebben zo'n 6.000 mensen
van onze website gebruikgemaakt om hun data bij dat bedrijf weg te krijgen. Maar dat
is een bedrijf waar concurrentie voor bestaat en waar je als gebruiker, als burger,
een alternatief voor hebt. Voor heel veel van de grote techbedrijven waar wij het
over hebben, bestaat dat alternatief niet.

Mevrouw Beerends:

Public awareness is het uitgangspunt van artistiek ontwerpend onderzoek. Dat is die
data-algoritmewijze groep burgers waar ik het in het begin over had. De bedoeling
is vooral om mensen te faciliteren, zodat ze weloverwogen beslissingen kunnen nemen
om niet altijd maar blind achter het marketingjargon van Silicon Valley aan te lopen.
Om die public awareness te creëren, moet je wel kunnen verbeelden en een interessant
verhaal kunnen vertellen. De samenwerking met kunstenaars werkt daarvoor heel erg
goed. Om tussen al het mediagekrakeel uit te komen, moet je iets pakkends hebben,
zoals Paaltje. Dat trekt meteen de aandacht, en daarmee kun je ook zo'n complex onderwerp
als algoritmische besluitvorming bij de overheid, wat uiteindelijk iedereen aangaat,
veel invoelbaarder en tastbaarder maken.

De voorzitter:

En dan mevrouw Haan.

Mevrouw Haan:

U vroeg naar het verschil tussen overheid en bedrijfsleven. Voor de goede orde: ik
maakte die opmerking niet per se alleen in het kader van algoritmes, maar meer in
het bredere kader van transparantie. Als het dan gaat over algoritmes, is mijn betoog
er niet een tegen transparantie van algoritmes bij bedrijven, maar wel een voor die
bij overheden. Het gaat dan vooral om de beslissende en voorspellende algoritmes.
Ik verwijs graag naar het onderzoek van de NOS van een paar maanden geleden, waarin
stond dat de overheid die al op grote schaal gebruikt, en waar je als burger niet
omheen kunt. Bijvoorbeeld een algoritme dat beslist of ik wel of niet een bepaalde
toeslag krijg. We vinden dat er zo veel mogelijk transparantie zou moeten zijn over
het beslismodel waarmee dat gebeurt. Het gaat dan, nogmaals, over algoritmes die invloed
hebben op het dagelijks leven van mensen. Het valt enigszins buiten de scope van onze
organisatie om het over bedrijven te hebben. Tegelijkertijd is er natuurlijk een overlap
en een grijs gebied. Transparantie van algoritmes is natuurlijk heel belangrijk, maar
eigenlijk in bredere zin, want ik maakte die opmerking in iets bredere zin. Met als
toevoeging: wanneer het om overheidsalgoritmes gaat, gaat het vaker over algoritmes
waar je gewoon niet omheen kunt. Dat is bij bedrijven misschien iets anders, hoewel
ik daar ook wel weer nuances op kan bedenken.

De voorzitter:

Nuances. Dat brengt ons automatisch bij de heer Middendorp voor een vervolgvraag.

De heer Middendorp (VVD):

Ik wilde niemand op ideeën brengen, maar ik merkte op dat in het eerste antwoord duidelijk
werd aangegeven dat je er bij die bedrijven ook niet omheen kunt. Ik vraag me af of
dat in de vergelijking tussen Google en Duckduckgo nog steeds zo is. Maar ik onderschrijf
wel dat daar voor een groot gedeelte in de huidige mededingingssituatie voor bepaalde
diensten zeker sprake van is. U heeft eigenlijk helder aangegeven dat u buiten dat
kader opereert, want u focust zich op de Staat, begrijp ik uit uw antwoord.

De voorzitter:

Dan geef ik graag de gelegenheid aan mevrouw Buitenweg.

Mevrouw Buitenweg (GroenLinks):

Dank u wel. Ik zal ook proberen aan iedereen snel een vraag te geven, te beginnen
met mevrouw Austin. Zij zei dat ook de autonomie van de Kamers wordt ingeperkt door
bedrijven en dat het van belang is dat we dat gaan doorgronden. Ik wil daar graag
iets meer reflectie op. U zei dat er vaak geen alternatieven zijn. Zo zie ik het ook.
Bent u dan een voorstander van EU-alternatieven? Alternatieve zoekmachines? Of hoe
wilt u dat die alternatieven ontwikkeld worden?

Dan mevrouw Beerends. Ik vind het enorm leuk, dat artistiek ontwerpend onderzoek.
Het gaat er inderdaad om dat je een soort idee krijgt en dat we gaan nadenken over
de toekomst en over de ethische implicaties. Wanneer is er in uw visie sprake van
reclame en wanneer van oneigenlijke beïnvloeding? Dat vraag ik, omdat het van belang
is voor ons als politieke partijen. In de politieke besluitvorming vindt veel beïnvloeding
plaats, en je doet ook aan reclame. Wanneer wordt die grens overschreden in uw ogen?

En ten slotte mevrouw Haan. U had het over privacy. Is dat in uw ogen een individueel
recht, of een collectief recht? En als dat verschoven is, wat is er dan nodig om dat
te kunnen realiseren?

Mevrouw Austin:

Zal ik beginnen?

De voorzitter:

Uiteraard. Gaat uw gang.

Mevrouw Austin:

Dus de vraag was: op welke manier wordt de autonomie van de Kamer verstoord? Ik denk
dat dat op een aantal manieren gebeurt. Er is eigenlijk heel veel sprake van beïnvloeding
van de maatschappij. Dat is op het gebied van de Kamer niet anders. We vragen ons
af in hoeverre het ons als maatschappij nog lukt om zelf de koers te bepalen. In het
klein, bijvoorbeeld op het gebied van technologie, kunnen we zelf nog bepalen wat
we hier in Nederland willen en wat niet. Of als er zaken gebeuren, dan proberen we
zo goed en kwaad als het kan bij te sturen. Het andere vlak waar we het zien, zijn
de publiek-private samenwerkingen. We hebben hier heel lang tegen geageerd. Ondertussen
denk ik dat we er eigenlijk niet omheen kunnen dat dit een gegeven is, eigenlijk waar
mevrouw Haan het zojuist ook over had. Er zijn hele grote datasets, die over onze
publieke ruimte en over onze collectieve goederen gaan, die worden beheerd door private
bedrijven. Wat moet je daar als overheid mee? Het betreft bijvoorbeeld data over mobiliteit.
Dat is een groot vraagstuk. Maar bijvoorbeeld ook data over het onderwijs. Op scholen
wordt steeds vaker Google gebruikt. Je krijgt als kind op school een Googleprofiel.
Ik chargeer enorm, maar je wordt achter je tablet gezet en er wordt van alles en nog
wat over kinderen bijgehouden. Grote hoeveelheden data, die uiteindelijk leiden tot
voorspellingen, nieuwe producten en innovatie. We vinden dat die eigenlijk op maatschappelijke
waarden moeten rusten. Al dat soort innovatie gaat bij de grote bedrijven gebeuren.
Die gaan alleen maar nog meer data verzamelen, waarmee ze nog machtiger worden. Je
zou kunnen zeggen dat we rijkelijk laat zijn met hierover nadenken. Ik vind dat dat
wel meevalt. Natuurlijk kunnen we daar nog heel veel in betekenen, maar als we niet
de keuze maken om die macht terug te pakken, dan sta je als Kamer buitenspel.

Mevrouw Beerends:

De vraag ging over het verschil tussen reclame en oneigenlijke beïnvloeding. Reclame
is zichtbaarder en duidelijker. Bij oneigenlijke beïnvloeding weten we zelf niet op
welke manier kennis over ons gedrag wordt ingezet om ons gedrag te sturen. Bij algoritmes
wordt het voorspellen eigenlijk meer een vorm van sturen. Algoritmes leiden allerlei
informatie af uit onze data. Daarmee worden wij in hokjes geplaatst. Mensen die veel
naar een bepaald muziekgenre luisteren, worden bijvoorbeeld automatisch in het hokje
«politiek conservatief» geplaatst. Vervolgens krijg je in je timeline alleen nog maar
informatie te zien die geassocieerd wordt met politiek conservatieve boodschappen.
Dat is een oneigenlijke beïnvloeding van gedrag, want je weet niet waarom je dat te
zien krijgt of waarom je in dat hokje geplaatst bent. Dat hokje hoeft ook niet te
kloppen. Het hoeft helemaal niet zo te zijn dat als je naar een bepaalde vorm van
muziek luistert, je dan ook politiek conservatief bent. Maar dat kun je wel worden
als je alleen maar die informatie te zien krijgt. Op die manier lopen voorspellen
en sturen heel erg door elkaar heen. Ik denk dat daar die oneigenlijke beïnvloeding
in zit.

Mevrouw Haan:

De vraag ging over de verschuivingen die invloed hebben op het privacyvraagstuk. Transparantie
kan een belangrijke beschermer zijn van privacy. Dat heeft te maken met al die veranderingen,
want er zijn heel veel veranderingen. In het hele digitale domein veranderen de privacyvraagstukken.
Het privacygevaar wordt ook groter. Er worden heel veel data verzameld en er is heel
veel sprake van persoonsgegevens. Ik heb eigenlijk twee antwoorden op uw vraag. Aan
de ene kant: zo'n transparantie-by-designvisie, waarin privacy in een vroeg stadium
wordt geagendeerd en waarbij ervoor wordt gezorgd dat bij de informatieverzameling
in een vroeg stadium rekening wordt gehouden met privacybezwaren op het moment dat
informatie publiekelijk wordt, haalt heel veel weg. Daarbij zijn ook weer die standaarden
die ik eerder noemde, van belang.

Als overheidsinformatie, of informatie überhaupt, in een vroeg stadium goed wordt
gestructureerd, in parameters, die later wel of niet openbaar worden gemaakt, kun
je al in een vroeg stadium bijvoorbeeld persoonsgegevens beschermen en zorgen dat
er aan het einde toch sprake kan zijn van openheid, transparantie en het delen van
die informatiesets. Een iets hoogdravender antwoord misschien, maar met die publieke
controle, die mogelijk wordt gemaakt door transparantie, bescherm je de privacy. Als
je laat zien wat je hebt en laat zien wat daarvan openbaar is, kunnen mensen aan de
bel trekken als ze vinden dat er iets loos is en dat de privacy wordt gezonden. Is
dat een antwoord op uw vraag?

Mevrouw Buitenweg (GroenLinks):

Het is interessant, maar de vraag was meer dat ikzelf het idee heb dat we het begrip
«privacy» jarenlang gezien hebben, eigenlijk wel lang althans, als een soort individueel
recht dat je individueel kunt afdwingen. Mijn vraag is: moeten we het naast een individueel
recht ook als een collectief iets zien, waarbij het individueel afdwingen dus niet
meer voldoet?

Mevrouw Haan:

Ik snap uw vraag. Ik denk dat het antwoord daarop «ja» is, zeker als ze naast elkaar
komen te staan. Door een visie op openheid wordt je automatisch gedwongen tot een
meer collectieve of brede visie op het privacyvraagstuk, en het in een vroeg by-designstadium
mee te nemen en op te lossen.

De voorzitter:

Gaat uw gang.

Mevrouw Austin:

In aanvulling daarop: ik heb privacy altijd gezien als een soort beschermer van de
mogelijkheid die je als individu hebt om zelf sturing te geven aan je leven. Zonder
privacy ben je geen vrij mens. Ik denk dat dat voor ons als maatschappij ook geldt.
Daar zou net zoiets als een collectief privacyrecht heel nuttig zijn.

De voorzitter:

Ik heb zelf ook nog een paar vragen. Ik wil gebruikmaken van uw aanwezigheid om een
paar dillema's te schetsen die te maken hebben met de grip en misschien ook wel de
keuzes die we als politiek op een gegeven moment zullen moeten maken. Ik begin even
bij mevrouw Austin. U zei op een gegeven moment dat zelfregulering een soort maskerade
is waarbij je niet echt de serieuze oplossingen vindt. U citeerde daarbij ook nog
een uitspraak van mij in een Kamercommissie, waarin het ging om zelfregulering van
het advertentiemodel, het verdienmodel van die bedrijven. Maar als je kijkt naar de
angst voor censuur die door bepaalde wetten wel degelijk aanwezig is, hoe ga je dan
om met de beperking van wetgeving? Daar wil ik graag straks wat over horen, want ik
denk dat sommige wetgeving misschien wel het probleem oplost, maar ook weer nieuwe
problemen creëert. Je zou dan kunnen nadenken over andere vormen van sturing dan alleen
maar wetgeving.

De vraag die ik aan mevrouw Beerends heb, is als volgt. Ik snap de invalshoek van
die artistieke benadering, maar hoe moeten we dat politiek vertalen? De «hum hum»-by
design is heel erg populair tegenwoordig. Of het nou privacy, transparency of security
of wat dan ook by design is, het klinkt altijd heel goed en je hoort het veel. Het
is op congressen en bijeenkomsten heel vaak de benadering, maar ik heb altijd het
gevoel: hoe moeten we dat dan vertalen? Want dan ga je als overheid vooraf bepaalde
dingen zitten designen, terwijl je als overheid ook altijd wel een beetje achter de
feiten aan moet lopen, omdat je anders als overheid niet meer de in-goede-banenleider
bent van maatschappelijke ontwikkelingen door mens en bedrijf. Ik vind dat wel een
ingewikkelde zoektocht.

Nog even inzoomend op de vraag van mevrouw Buitenweg, over de invalshoek privacy versus
transparantie. Ik vind dat toch een hele moeilijke. Ik hou ook niet van de oneigenlijke
tegenstelling privacy versus veiligheid, dus die hoeft ook niet te gelden voor transparantie
versus privacy, maar in het KvK-dossier is het wel degelijk een vraagstuk. De Kamer
van Koophandel wil aan de ene kant bepaalde data allemaal opengooien. Dat is dan goed
voor de economie en die kunnen bedrijven dan benutten. Dat zou je als een vorm van
openheid en transparantie kunnen beschouwen. Ik geloof dat uw organisatie daar ook
voorstander van is. Maar je hoort toch ook heel veel mensen zeggen – ik maak het even
concreet –: luister eens even, nu komt mijn burgerservicenummer en mijn thuiswerkadres
in handen van iedereen die daar maar wat voor overheeft. En er zullen meerdere voorbeelden
zijn. Ik heb eigenlijk geprobeerd u allen een dilemma te geven, omdat we als politiek
geen belangenbehartigers zijn maar belangenafwegers. Als commissie moeten we de opdracht
vertalen naar de vraag: hoe krijgen we nou grip op de materie om die goede afweging
te maken? Misschien kunt u daar alle drie wat over zeggen.

Mevrouw Austin:

U heeft helemaal gelijk. Bij onze buurlanden, in Brussel, was er de afgelopen twee
jaar een hoop wetgeving waarbij de wetgever voor heel veel inbreuk zorgt op de vrijheid
van meningsuiting van burgers. We hebben daar hard tegen gevochten. We waren in die
gevallen tegen wetgeving, omdat al die wetgeving eigenlijk naar symptomen kijkt. Misinformatie,
copyrightschending en hate speech zijn geen nieuwe problemen. Er bestaat al wetgeving
voor al deze problemen. Wat in deze tijd nieuw is en waarom deze problemen opeens
zoveel groter zijn, is dat informatie-ecosysteem waarbinnen we online zijn, waarbinnen
we communiceren. Daarom hameren we in ons verhaal zo op die dominantie. Als je een
gezond ecosysteem hebt met een grote diversiteit aan aanbieders, waarin consumenten
met hun voeten kunnen stemmen, is onze inschatting dat heel veel van deze problemen
weer compleet manageable worden. Daarmee wil ik niet zeggen dat misinformatie en hate
speech kleine problemen zijn. Het is verschrikkelijk wat er allemaal gebeurt. Copyrightschending
is ook verschrikkelijk. Maar daar hebben we wetgeving voor. De wetgeving die nu voornamelijk
in Europa wordt opgetuigd, slaat wat ons betreft de plank mis.

De voorzitter:

Bedoelt u onder andere desinformatie en wetgeving in Frankijk en Duitsland?

Mevrouw Austin:

Ja, en de nieuwe copyrightwetgeving uit Europa.

De voorzitter:

Helder. Dus u zegt eigenlijk: we zijn vooral tegen slechte wetgeving die de problemen
niet oplost?

Mevrouw Buitenweg (GroenLinks):

Hoe ik het zie, is dat u zegt dat heel veel zaken waar we ons als wetgever nu mee
bezighouden, zaken zijn die op zich ook al in de materiële wereld gebeuren en waar
wetgeving voor is. En dat het punt van de dominantie van slechts enige marktpartijen
maakt dat die problemen extra groot zijn, en dat daar te weinig aan gebeurt.

Mevrouw Austin:

Ja. Die dominantie zorgt ervoor dat het maatschappelijk middenveld niet krachtig genoeg
is. De dominantie zorgt ervoor dat consumenten niet genoeg macht hebben. De dominantie
zorgt ervoor dat er geen concurrentie komt. Je moet iets doen aan die dominantie.
Je moet iets doen aan dat systeem waarbinnen deze verschrikkelijke zaken, waar we
het allemaal mee oneens zijn, plaatsvinden. Maar we richten ons op dit moment nog
veel te veel op de symptomen.

De voorzitter:

Dan bent u vast blij met de aanstelling van mevrouw Verstaren als mededingings...

Mevrouw Austin:

U bent niet de eerste die dat zegt.

De voorzitter:

Dat is natuurlijk wel de echte aanpak van de macht van die bedrijven, zou je kunnen
zeggen. Maar goed, dan gaan we te veel de politieke kant op. Mevrouw Beerends.

Mevrouw Beerends:

Hoe artistiek onderzoek politiek te vertalen? Het gaat er meer om dat de politiek
artistiek onderzoek zou moeten faciliteren. Bij de nationale AI-strategie zijn er
volgens mij weinig maatschappelijke partners betrokken geweest. Het zou leuk zijn
als er bij de betrokkenheid van maatschappelijke partijen bijvoorbeeld ook aan SETUP
wordt gedacht, of aan een andere maatschappelijke organisatie die bezig is met artistiek
onderzoek, omdat die zich bezighouden met die verbeelding. Maar het gaat ons meer
om zo'n ontwerpvraag als: hoe kan AI diversiteit op de arbeidsmarkt bevorderen of
belemmeren? Om zo'n vraag überhaupt goed te kunnen onderzoeken, heb je samenwerkingsverbanden
en budget nodig om daar überhaupt mee aan de slag te kunnen gaan. Het gaat dus meer
om het faciliteren van dat onderzoek.

De voorzitter:

Al die verschillende by-designbenaderingen zijn heel populair. In elk boek over technologie
lees je erover. Zoals ethics by design, en ik noemde er net al een aantal. Even los
van wie dat dan moet doen, is mijn vraag hoe je dat goed kunt vertalen naar een politieke
invalshoek. Als je als politiek van tevoren allerlei kaders gaat stellen, kun je ook
weer te vroeg zijn. Dus dan laat je het aan het bedrijf over, maar dan is het eigenlijk
weer een vorm van zelfregulering.

Mevrouw Beerends:

Ja, maar ik denk niet dat het erom gaat om van tevoren al allerlei kaders te maken.
Er moet eerst breder verkend worden wat die kaders kunnen zijn, omdat het anders gekaapt
wordt door commerciële partijen.

De voorzitter:

Dan mevrouw Haan.

Mevrouw Haan:

Staat u mij toe ook nog iets te zeggen over het by-designvraagstuk.

De voorzitter:

Absoluut. U heeft het ook zelf in de mond genomen.

Mevrouw Haan:

Ik beken, ja. Ik denk dat er ook een soort middenweg is en dat dat het antwoord op
uw vraag is. Ik begrijp heel goed dat u zegt dat we niet te ver op de troepen moeten
vooruitlopen, want dan kunnen we te snel zijn. Ik denk wel dat je by design, om het
toch nog één keer te zeggen, allerlei processen op de juiste manier kunt beïnvloeden.
Ons stokpaardje is transparantie, maar het geldt ongetwijfeld ook voor veiligheid
en zeker ook voor privacy en andere belangrijke dingen, zoals ethiek. Je moet in een
vroeg stadium van allerlei processen – bij mij ging het zojuist vooral om informatieprocessen
– erover nadenken dat dingen aan het einde van een bepaald proces openbaar worden.
Je moet dus vroeg, by design, nadenken over privacy, transparantie en ethiek. Ik kan
me zo voorstellen dat uw Kamer en de politiek richting kunnen geven aan die processen,
zonder de processen dicht te timmeren, want dat is natuurlijk iets anders. By default,
kun je ook zeggen.

De voorzitter:

Dat is ook weer zo'n Engelstalige term.

Mevrouw Haan:

Ik weet het. Sorry.

De voorzitter:

Ik kan er nooit zoveel mee. Maar u bedoelt dan gewoon vooraf goed nadenken. Dat is
wat hiervoor ook een paar keer werd gezegd, bijvoorbeeld bij de inzet van algoritmen,
toen de Raad van State hier twee uur geleden te gast was. Je kunt van tevoren niet
helemaal zien hoe het uitpakt. Maar als je in ieder geval nadenkt over de kleine groep
onderwerpen waarbij een algoritmebesluitvorming tot een nadelige uitkomst kan leiden,
heb je een betere beginsituatie dan wanneer je er helemaal niet over nadenkt. Dat
is iedereen denk ik wel met elkaar eens. Dat is overigens niet gebeurd het afgelopen
jaar, dus het valt wel zeker te proberen.

Mevrouw Haan:

Jazeker. Het zijn complexe processen.

U vroeg mij iets over meer privacy versus transparantie. U noemde het een oneigenlijke
tegenstelling. Daar ben ik het heel erg mee eens. U vroeg hoe dat te fixen is en gaf
als voorbeeld het KvK-dossier, maar er zijn er natuurlijk heel veel denkbaar. Het
antwoord is te vinden in het steeds maar weer dossierafhankelijk en onderwerpafhankelijk
zoeken naar een bepaald abstractieniveau om transparant te zijn. Ik blijf even bij
het KvK-dossier. Wij zijn helemaal niet geïnteresseerd in de persoonsgegevens of het
bsn van allerlei individuen, maar wel in de belanghebbenden van bedrijven, of in de
connecties tussen bedrijven, of de mensen met heel veel bedrijven op hun naam. Dat
is een bepaalde vorm van abstractie, die ik hier nu even verzin, waarop je transparant
kunt zijn. Ik denk dat dit het antwoord op al dit soort vragen is. Ook daarbij zijn
weer standaarden van belang. Als je in dit geval voor de KvK, maar voor allerlei andere
informatiehouders geldt hetzelfde, mooie standaarden bedenkt over waarop je transparant
kunt zijn en over welke gegevens je daarvan beschermt, kom je heel ver. Dit geldt
voor privacy, maar ook voor andere dingen die we tegenkomen, zoals veiligheid.

We lopen weleens bij Defensie rond. Daar hebben ze een heleboel andere redenen om
dingen dicht te houden, waar we het helemaal niet mee oneens zijn. We proberen dan
te zoeken naar een abstractieniveau waarop je wel transparant kunt zijn én zo veel
mogelijk kunt uitleggen waarover je niet transparant bent. De KvK kan heel goed uitleggen:
hier staat een bsn en dat is dus afgelakt.

Mevrouw Buitenweg (GroenLinks):

Dat vind ik sowieso soms een lastige kwestie. Aan de ene kant wil je dat er transparantie
is, of dat veel data ook voor anderen beschikbaar zijn die voor één bepaalde partij
beschikbaar zijn. Maar daarbij zie ik dan gelijk voor me dat partijen zoals Google
en dergelijke al die gegevens ook gebruiken, en hun eigen gegevens sowieso hebben
afgeschermd. En dat zij als nettoresultaat per definitie altijd over meer data beschikken
en dus ook de dominante partij zijn. Is dat een probleem?

Mevrouw Haan:

Ik denk het niet. Door die transparantie bewerkstellig je een soort basis van gelijkheid,
van gelijke toegang tot die informatie, en dus ook een gelijke positie op basis waarvan
Google maar ook een start-up en ieder ander aan de slag kan met die informatie, en
ook toepassingen kan maken. Dat Google en welke andere reus daar dan ook van profiteren.
Lijkt mij geen enkele reden om niet transparant te zijn en niet ieder ander diezelfde
mogelijkheden te geven.

Mevrouw Buitenweg (GroenLinks):

Mag ik daar ook de reactie van de anderen op, als zij dat willen?

Mevrouw Beerends:

Er zit nog een vraag voor: moet je alles wel in data vangen? Voor niet elk probleem
is een datagedreven oplossing nodig. Je zou die vraag er nog voor moeten zetten, voordat
je het gaat hebben over transparantie en het risico dat andere bedrijven ermee vandoor
gaan. Dat is mijn toevoeging.

Mevrouw Austin:

Ik heb niet zozeer een antwoord, maar het deed me wel aan iets anders denken. Uw collega
zei dat er voor Google toch een alternatief is, namelijk Duckduckgo. Dat is wat ons
betreft een beetje te kort door de bocht en raakt eigenlijk aan wat u zojuist zei.
Het gaat steeds belangrijker worden om te kijken naar bedrijven die vanuit verschillende
sectoren en vanuit verschillende zusterbedrijven datasets aanleggen en vergaren, en
die combineren. Om het voorbeeld van Google versus Duckduckgo te blijven gebruiken:
het kan best zo zijn dat Google op het gebied van zoeken een goede concurrent heeft,
maar Google kan de data die het uit de zoekresultaten verzamelt ook in andere sectoren
gebruiken om daar weer een voorsprong te krijgen. Gevoelsmatig ben ik het helemaal
met jou eens, maar ik vind het helemaal niet zo'n gekke gedachte dat we wel moeten
opletten of die data in combinatie met andere datasets bij andere partijen misschien
opeens op een heel onvoorziene manier gebruikt zouden kunnen worden.

De voorzitter:

Omdat we toch nog heel eventjes hebben, is het misschien wel aardig om u door middel
van een zogenaamde frustratievraag nog iets te vragen. U bent alle drie in meer of
mindere mate gericht op de overheid en op politieke partijen, waar u vaak mee te maken
heeft bij het behartigen van het belang van waar uw organisatie voor staat. Of dat
nou de opendata-invalshoek is, de burgerrechteninvalshoek of de invalshoek die u heeft
verwoord, dat maakt niet zo veel uit. U loopt daarbij waarschijnlijk tegen allerlei
beperkingen aan van de politiek dan wel de Ministers en Kamerleden en beleidsmedewerkers.
We zijn op zoek naar de manier waarop we dat kunnen verbeteren, waardoor we als politiek
beter met het onderwerp digitalisering en alle subthema's daaronder kunnen omgaan.
Voor u is het misschien iets moeilijker, omdat u net begonnen bent, maar u weet het
denk ik ook wel vanuit andere activiteiten die u verricht heeft. Wat zijn nou dingen
waar de politiek echt verandering in zou moeten brengen om beter met het onderwerp
om te kunnen gaan? Dat is gewoon nog even een soort open vraag aan u.

Mevrouw Austin:

Ik heb de afgelopen vier jaar in een andere hoedanigheid bij Bits of Freedom gewerkt,
dus ik voel me wel op de juiste plek om de frustraties van Bits of Freedom te uiten.
We hebben ontzettend veel met beleidsmedewerkers te maken en zijn daar over het algemeen
ontzettend over te spreken. Het enige wat wij graag zouden zien, is dat ambtenaren
tussen de verschillende departementen wat meer met elkaar zouden praten. Onze grote
vraag is dan ook of het mogelijk is – of in hoeverre gebeurt het, want volgens mij
zijn alle aanzetten er – om dit onderzoek interdepartementaal op te pakken. En lukt
het dan ook om een inventarisatie te maken van welke verschillende beleidsopties we
al hebben, dus het gereedschap dat we al hebben, en hoe verschillende beleidstools
in samenspraak met elkaar zouden kunnen werken? En wat zijn daar dan de risico's en
kansen voor? Dat is een kleine frustratie.

Mevrouw Beerends:

Wat zou de politiek kunnen veranderen om beter met het onderwerp digitalisering om
te kunnen gaan? Ik denk misschien meer kennis over kunstmatige intelligentie en algoritmisering.
Wat is kunstmatige intelligentie überhaupt? We zien vaak dat de technologie zelf als
vertrekpunt wordt genomen; «we moeten iets met blockchain in de gezondheidszorg»,
of «we moeten iets met data in deze sector of bij deze gemeente». Dat vinden wij de
verkeerde volgorde. Je zou moeten beginnen met het probleem, en dan kijken of big
data daar een rol in kan spelen of niet. Daar wil ik het bij houden.

Mevrouw Haan:

Wij hebben van een paar dingen last. Een daarvan is fragmentatie, wat natuurlijk bijna
inherent is aan zo veel informatie. Ik denk wel dat er inspanningen mogelijk en nodig
zijn om te werken aan opendatastandaarden. Onderzoekers en hergebruikers van open
data hebben veel betere standaarden nodig van de overheid. Die standaarden zouden
overheidsbreed moeten worden opgepakt om de data waardevol te maken voor hergebruikers.
Ik denk aan machineleesbare standaarden. Om een voorbeeld te noemen: we hebben begin
dit jaar gemerkt dat het bij zelfs een vrij simpele dataset zoals verkiezingsuitslagen
heel erg moeilijk is om die te analyseren, omdat ze per gemeente op een andere manier
zijn gepubliceerd. Je moet in de eerste paar weken in eerste instantie 355 gemeentewebsites
af om de data te verzamelen. Dat is laaghangend fruit. Het zijn op zich simpele data.
Daar zou overheidsbreed verbetering in kunnen komen.

Ook merken we vaak dat we bij verschillende overheidsinstellingen en op landelijk
en lokaal niveau nog iets te vaak afhankelijk zijn van individuen. Individuen die
de materie snappen. Individuen die het onderwerp omarmen. Iets meer contactpersonen
en commissarissen die van de open overheid zijn, of zo je wilt van de digitale transparantie,
zouden de zaak vooruithelpen.

Tot slot. Het is misschien een wat meer overkoepelend antwoord, maar we zitten met
enige regelmaat bij bijeenkomsten, vaak van lokale overheden, maar ook wel op landelijk
niveau. Die bijeenkomsten gaan altijd over wat wij dan precies willen en wat de hergebruiker
dan wil, want als ze dat goed weten, kunnen ze daarop anticiperen en datasets waar
vraag naar is transparant maken. Dat is natuurlijk een nobel streven. Maar wij zouden
nog veel liever zien dat de overheid gewoon open is, omdat de overheid open zou moeten
zijn, de WOB eigenlijk bijna niet meer nodig is en de overheid goed uitlegt op welke
gebieden er misschien geen transparantie mogelijk is. Dus die hele andere manier van
denken, waarbij je echt open bent, tenzij, en dus eigenlijk niet meer op zoek bent
naar wat de maatschappij en de hergebruiker dan zo graag willen. Ook dat zou denk
ik de zaak verbeteren.

De voorzitter:

Mooi. Mevrouw Buitenweg nog? Nee? Nog nabranders? Dingen waarvan gevonden wordt dat
ze naar voren gebracht hadden moeten worden? Waarschijnlijk zo meteen, hoor ik zeggen.
Dat kan altijd inderdaad.

Ik wil u alle drie zeer danken voor het mooie sluitstuk van deze ook zeer nuttige
kennisdag, mag ik wel zeggen. We hebben vandaag een aantal hele mooie verschillende
invalshoeken langs zien komen, en dat allemaal samengebald in een kort tijdsbestek
en met duidelijke voorbeelden en illustraties. U heeft daar ook een belangrijke bijdrage
aan geleverd en daar zijn we u zeer erkentelijk voor.

Ik dank mevrouw Buitenweg in het bijzonder, want die is er tenminste nog, en de andere
leden die dit voor een deel ook hebben kunnen meemaken, en die een deel misschien
nog wel via de verslagen en anderszins gevolgd hebben. We hebben volgende week weer
een kennisdag; de derde en laatste van de eerste fase van waarin we zitten.

Ik wil dan nu de bijeenkomst afsluiten. Veel dankzegging aan iedereen die dit mogelijk
gemaakt heeft, aanwezig is geweest en dit gevolgd heeft.

Sluiting 16.07 uur.