Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 30 november 2022, over Telecomraad (Formeel) d.d. 6 december 2022

Nr. 997
VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 21 december 2022

De vaste commissie voor Digitale Zaken heeft op 30 november 2022 overleg gevoerd met
mevrouw Adriaansens, Minister van Economische Zaken en Klimaat, en mevrouw Van Huffelen,
Staatssecretaris Koninkrijksrelaties en Digitalisering, over:

– de brief van de Minister van Economische Zaken en Klimaat d.d. 23 november 2022 inzake
geannoteerde agenda voor de formele Telecomraad van 6 december 2022 (Kamerstuk 21 501-33, nr. 982);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 7 juli 2022 inzake
verslag van de formele Telecomraad van 3 juni 2022 (Kamerstuk 21 501-33, nr. 944);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 12 september
2022 inzake ontwikkelingen in het Comité voor kunstmatige intelligentie (CAI) van
de Raad van Europa (Kamerstuk 22 112, nr. 3482);

– de brief van de Minister van Buitenlandse Zaken d.d. 14 oktober 2022 inzake fiche:
Aanbeveling onderhandelingsmandaat voor de Europese Commissie over het AI-verdrag
van de Raad van Europa (Kamerstuk 22 112, nr. 3529);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 21 oktober 2022 inzake
Nederlandse non-paper CRA en positionpaper AI Act (Kamerstukken 22 112 en 26 643, nr. 3523);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 11 november
2022 inzake antwoorden op vragen commissie over het fiche: Mededeling Een digitaal
decennium voor kinderen en jongeren (Kamerstuk 22 112, nr. 3454) (Kamerstuk 22 112, nr. 3543);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 25 november
2022 inzake antwoorden op vragen commissie over de voortgangsrapportage Europese digitale
identiteit (Kamerstuk 26 643, nr. 944).

Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie, Kamminga

De griffier van de commissie, Boeve

Voorzitter: Dekker-Abdulaziz

Griffier: Van Tilburg

Aanwezig zijn zes leden der Kamer, te weten: Bontenbal, Ceder, Dekker-Abdulaziz, Koekkoek,
Leijten en Rajkowski,

en mevrouw Adriaansens, Minister van Economische Zaken en Klimaat, en mevrouw Van
Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering.

Aanvang 10.01 uur.

De voorzitter:

Goedemorgen. Ik open de vergadering van de vaste commissie voor Digitale Zaken. We
hebben vandaag een commissiedebat ter voorbereiding van de Telecomraad. Ik heet mevrouw
Adriaansens, Minister van Economische Zaken en Klimaat, en mevrouw Van Huffelen, Staatssecretaris
Koninkrijksrelaties en Digitalisering, en de ondersteunende ambtenaren welkom. Er
zit vandaag één ambtenaar aan tafel en de rest kijkt ergens in het gebouw online mee.
Ik heet ook de leden welkom. Dat zijn Don Ceder van de ChristenUnie, mevrouw Koekkoek
van Volt, mevrouw Rajkowski van de VVD en mevrouw Leijten van de SP. Ik voer zelf
ook als laatste het woord. Ik heet voorts de mensen op de publieke tribune en de mensen
die het debat thuis volgen, welkom.

We hebben vandaag drie minuten spreektijd. Aangezien wij niet met heel veel Kamerleden
zijn, zal ik de interrupties niet beperken. Ik wil wel vragen om de interrupties kort
en bondig te houden. Ik meld tot slot dat mevrouw Van Weerdenburg zich afgemeld heeft
voor vandaag.

Ik geef allereerst het woord aan de heer Ceder van de ChristenUnie.

De heer Ceder (ChristenUnie):

Dank u wel, voorzitter. We hebben een paar maanden terug een mooi debat met elkaar
gehad over het voorstel inzake de Europese digitale identiteit. Toen was de ChristenUnie
en volgens mij ook een groot deel van de commissie nogal kritisch. Dat had met een
aantal zaken te maken. Ik noem in dit verband open source, de vrijwilligheid, zowel
direct als indirect, en ook de vraag hoe het zit met dataconcentratie. Daar zou je
aan de voorkant goede waarborgen voor willen hebben. Ik heb begrepen dat de Staatssecretaris
destijds ook kritisch was en dat zij het merendeel van de landen meekreeg in die kritiek.
Ik heb haar daarvoor toen ook complimenten gegeven.

Voorzitter. Ik heb gezien dat de Staatssecretaris in de afgelopen maanden toch wat
positiever is geworden, dat de bezwaren weggenomen zouden zijn en dat andere landen
in principe wel op deze wijze door zouden willen gaan. Daar maak ik me best wel zorgen
over, want een aantal waarborgen die ik net genoemd heb, zijn wat ons betreft nog
onvoldoende uitgewerkt. Dat vinden we lastig. Als je geen gebruik kan of wil maken
van het Europese digital ID, dan moet je dat ook niet hoeven te gebruiken. Dat vinden
wij echt, of je nu te maken hebt met de overheid of met een bedrijf. Die strekking
is ook terug te vinden in de motie die ik heb ingediend samen met mevrouw Dekker-Abdulaziz.
Voldoet het voorstel dat er nu ligt aan die maatstaf? Mijn fractie heeft het gevoel
dat dit nog niet het geval is. Voor contact met de Nederlandse overheid is dat misschien
wel het geval, maar daarbuiten niet. Dat geldt dus voor andere Europese overheidsdiensten,
maar ook voor contacten met bedrijven.

Voorzitter. Wij maken ons er zorgen over of wij niet meewerken aan een systeem dat
mogelijk uitsluiting in de hand werkt. Die uitsluiting is er misschien niet expliciet,
maar als je onder voorwaarden nog maar één optie neerlegt, dan is er de facto wel
sprake van onvrijwilligheid. Dat zouden wij heel jammer en misschien ook zelfs zorgelijk
vinden. Waarom heeft de Staatssecretaris vrijwilligheid bij private partijen niet
eens ingebracht? Vrijwilligheid hangt er nu als optie bij, maar wat ons betreft had
die juist de kern van het voorstel moeten vormen.

Daarnaast lopen er nog onderzoeken naar de risico's op uitsluiting met het digital
ID. Onze fractie vindt dat Nederland niet kan instemmen met het voorstel op het moment
dat er nog onderzoeken naar lopen. Richten deze onderzoeken zich dan ook op uitsluiting
bij andere diensten dan de Nederlandse overheidsdiensten? De zorg over de vrijwilligheid
zit ’m ook in het Europese bsn. Kan worden uitgesloten dat Nederlanders hier of in
het buitenland een Europees bsn-nummer krijgen? Die vraag is ook al eerder aan de
orde geweest en ook daar was de Kamer vrij helder over.

Voorzitter. Dan de bescherming van gegevens. Het lukt Nederland niet om het verhandelverbod
op te nemen in het voorstel. Wat zegt dit eigenlijk als hier geen steun voor is? Welke
argumenten hebben de Staatssecretaris dan overtuigd om ondanks het ontbreken van het
verhandelverbod, wel met het voorstel te kunnen instemmen?

Voorzitter. Ik wil het tot slot hebben over de zorgen over dataconcentratie. Ook de
reactie van het kabinet op dat punt vind ik ingewikkeld, omdat het erop lijkt dat
met dit deel van de motie niets of te weinig is gedaan. Welke waarborgen zijn er om
te voorkomen dat lidstaten van de Europese Unie of bedrijven die betrokken zijn bij
het onderwerp en het aanbieden van wallets grote hoeveelheden data tot hun beschikking
krijgen? Dat moeten we toch niet willen? Ik noem het voorbeeld dat een groot aantal
lidstaten de wallet via hetzelfde bedrijf ontwikkelt.

Voorzitter, als u mij toestaat, zeg ik ten slotte nog iets over transparantie. De
motie-Dekker-Abdulaziz vroeg als derde om het gebruik van open source. Ook dit is
enkel in de overweging opgenomen, maar er ligt geen bindend artikel. Waarom is dit
niet het geval? Wat zegt het dat hier geen meerderheid voor te vinden was?

U hoort het, voorzitter: wij hebben nog echt zorgen. Daarom leggen wij deze vragen
op tafel en hebben wij alvast een eventueel tweeminutendebat aangevraagd. Wij willen
echt dat er de juiste waarborgen aan de voorkant zijn voordat we hiermee kunnen instemmen.

De voorzitter:

U heeft een interruptie van mevrouw Leijten.

Mevrouw Leijten (SP):

Ik kan me om heel eerlijk te zijn zeer vinden in het betoog van de ChristenUnie, met
de zorgen die er zijn en ook het grote verschil tussen de zorgen hier in de Kamer
geuit en de positieve hallelujatoon in de brief. Maar wat is nou precies het gevolg
hiervan, vraag ik de heer Ceder. We weten allemaal hoe de kaarten ervoor liggen. Nederland
gaat tekenen, Nederland heeft geen signaal afgegeven door niet te tekenen. Het wordt
internationaal in Europa als nogal een affront opgevat als je dan toch niet instemt.
Maar wat is dan de positie van de ChristenUnie: niet tekenen? Want u zei net: ik wil
niet dat er wordt ingestemd. Of is dit toch een onmachtig debat en raast de Europese
trein door?

De heer Ceder (ChristenUnie):

Als de trein door zou razen terwijl een paar maanden geleden een groot deel van de
Kamer, oppositie én coalitie, heeft gezegd dat we dat op deze wijze niet zouden moeten
willen, dan zou ik dat heel jammer vinden. Bij dit traject hebben we volgens mij juist
geprobeerd om er op tijd bij te zijn. Daarom hebben we een paar maanden geleden ook
een serieus debat met elkaar gehad. Ik heb toen aangegeven welke waarborgen ik zou
willen zien. Op sommige momenten zie ik dat te weinig terug, of ik heb er nog vragen
over. Misschien kan de Staatssecretaris me nog overtuigen. Maar ik lees ik ook een
hallelujatoon waarvan ik denk: volgens mij lees ik niet terug wat ik had willen zien.
Dat vind ik lastig. Dan is inderdaad de vraag: wat zou je dan willen? Als er een slecht
voorstel ligt, vindt de ChristenUniefractie dat we dat dan misschien niet moeten willen.
Je zou ook kunnen verkennen of Nederland voor een bepaald gedeelte voor een opt-out
zou kunnen gaan. Dat zijn zwaarwegende middelen. Dat weet ik. Dat begrijp ik. Daarom
stel ik nu vooral vragen. Als ik deze brief lees, ben ik er nog niet gerust op. Op
deze punten heeft de Kamer een bepaalde opdracht gegeven. De Staatssecretaris heeft
daarvan in haar eerste gesprek na de Telecomraad een paar maanden terug aangegeven:
positief, het lijkt erop dat meer landen dat willen. Nu lijkt het toch de andere kant
op te gaan en dat vind ik jammer. Ik overweeg een aantal dingen, maar ik wil ook van
de Staatssecretaris horen hoe zij ernaar kijkt.

Mevrouw Leijten (SP):

Zoals ik al zei: terechte zorgen. Persoonlijk ben ik rapporteur geweest op de eID.
Niet voor niets hebben we als Kamermeerderheid de hele tijd een duidelijke positie
ingenomen, maar de positie van de regering is een andere. Ik zal niet zeggen diametraal,
maar die staat er behoorlijk haaks op. Ik vind dat nou juist zo zorgelijk. Ik steun
de ChristenUnie in de toon, in de vragen en in de zorgen, maar wat heeft het straks
voor gevolg? We hebben het nu over de eID, maar ook de AI Act en nog andere dingen
staan op de agenda waarbij hetzelfde te zien is, waarbij de risico's die wij zien
voor de privacybescherming, voor het gebruik van mensen, totaal niet gezien worden
door de regering, omdat ze van alles enkel en alleen het economische belang onderstreept.
Wat hebben wij als Kamer te doen, vraag ik aan de heer Ceder, op het moment dat wij
zeggen: we hebben rode lijnen getrokken, dit willen we niet? De lijst van aangenomen
Kamermoties is lang en toch wordt er straks getekend. Wat gaan we dan doen? Gaan we
dan opt-outen op het hele digitale dossier? Dat lijkt me ook een forse stap. Welke
ruimte ziet de heer Ceder nou voor de Kamer op dit onderwerp?

De heer Ceder (ChristenUnie):

Voor mij is het een mooie testcase om te zien hoe het lokale parlement zich verhoudt
tot de EU en de razende trein. Wij zouden hier graag grip op hebben. Dat is ook de
reden dat we dit debat serieus genomen hebben en ook een rapporteur hebben aangesteld.
Er zijn een aantal instrumenten, het ene zwaarwegender dan het andere. Ik verken er
een aantal, zoals ik een paar maanden geleden ook heb aangegeven. Maar ik zou ook
graag de Staatssecretaris willen horen, want ik begrijp het niet. Wat is er gebeurd
de afgelopen maanden waardoor ze eerst terugkoppelt dat ze de zorgen heeft overgebracht
en dat meerdere landen die delen – dat is positief – en vervolgens met deze brief
komt? Ik kan het gewoon niet rijmen met wat er in de afgelopen maanden heeft plaatsgevonden
en met het standpunt van de Staatssecretaris daarin. Ik deel de zorgen. Mevrouw Leijten
is hiervoor ook de rapporteur geweest. Ik beraad me serieus op een aantal stappen,
juist ook omdat dit een testcase is voor hoe we omgaan met de verhouding lokale overheid-EU.
Tegelijkertijd begrijp ik dat het zwaarwegend kan zijn. Ik probeer er constructief
in te zitten. Dat betekent dat ik de Staatssecretaris hierin de ruimte wil geven.
Maar ik maak mij zorgen. Dat is...

De voorzitter:

Duidelijk. Nogmaals, kort en bondig. U was klaar met uw betoog, meneer Ceder?

De heer Ceder (ChristenUnie):

Ik had nog twee vragen, maar u keek me heel streng aan.

De voorzitter:

Ja, het was ook al vier minuten. Bewaar die maar voor de tweede termijn, zou ik zeggen.

De heer Ceder (ChristenUnie):

Ja, prima.

De voorzitter:

Dan geef ik nu het woord aan mevrouw Koekkoek.

Mevrouw Koekkoek (Volt):

Dank, voorzitter. Van alle opkomende technologieën heeft AI misschien wel de meeste
invloed op hoe de wereld er over 10, 20 of 50 jaar uitziet. Daarom is het des te belangrijker
dat we nadenken over de waarden waarop deze zijn gebaseerd. De Europese Commissie
stelt voor om AI te reguleren op basis van risico- en productbenadering. Daarop heeft
het Europees Parlement een aantal amendementen ingediend. Nu is mijn vraag aan de
bewindspersonen hoe zij over deze amendementen oordelen. Wat vinden zij met name van
de voorstellen om de EU-database voor highrisksystemen uit te breiden en om toezichthouders
in de EU samen te laten werken bij overtredingen van de AI-verordening, waarbij ten
minste 45 miljoen EU-burgers betrokken zijn?

De Raad van Europa werkt aan een voorstel dat zich baseert op fundamentele rechten.
Hierin worden ook publieke waarden als uitgangspunt genomen. Dat is op zich goed,
maar ik heb daar nog wel een aantal vragen over. Zijn er concrete aanwijzingen dat
landen als de VS, Canada en Japan niet bij de onderhandelingen aansluiten als de Europese
Commissie het volledige onderhandelingsmandaat krijgt? Welke extra zaken zien deze
landen in het verdrag van de Raad van Europa waarover ze zouden willen onderhandelen
die nog niet in de AI-verordening verwerkt zijn? Hoe oordelen de bewindspersonen over
de aanbevelingen van de European Data Protection Board?

Voorzitter. De Data Act is misschien wel de belangrijkste wet van het decennium om
de data-economie vorm te geven. Dat moeten we nu dus ook goed regelen. Want wie toegang
heeft tot data, zal ook bepalen hoe onze maatschappij er in de toekomst uitziet. Daarom
de vraag aan het kabinet om in Brussel te pleiten voor duidelijkere regels en definities
op het gebied van met name niet-persoonlijke gegevens die worden verstuurd tussen
bedrijven. De rechten van gebruikers moeten versterkt worden ten opzichte van de makers
van producten om zo de toegang tot data te verbeteren. Zo voorkomen we ook dat een
selecte groep bedrijven straks alle data in handen heeft. Dan is de vraag aan de bewindspersoon:
wie heeft volgens de Staatssecretaris het recht om deze data te gebruiken, te delen
en om eraan te verdienen? Hoe regelen we dat?

Voorzitter. Het voorstel van de Europese Commissie schiet tekort op het gebied van
regels over complexere industriële gegevensuitwisseling, zoals op het gebied van energie
of vervoersinfrastructuur. Die regels ontbreken namelijk nog. Hoe zit het bijvoorbeeld
met de windsnelheidsgegevens die een windmolen verzamelt of met de stroom in het energienetwerk?
Ook daarover heb ik een aantal vragen. Pleit Nederland ervoor om deze gegevens ook
onder de Data Act te laten vallen? Welke definitie hanteert Nederland hiervoor? Deelt
het kabinet het standpunt dat transmitted data ook hierin moeten worden opgenomen?

Dank, voorzitter.

De voorzitter:

Dank. Dat was ruim binnen de tijd. Ik zie één interruptie van de ChristenUnie.

De heer Ceder (ChristenUnie):

Ik hoorde ook een punt over dataconcentratie. Dat is voor mij een zorg. Ik heb mijn
bijdrage specifiek gericht op de digital ID. Ik vroeg me af: wat vindt Volt dat er
met die zorg zou moeten gebeuren? U heeft vragen gesteld. Die heb ik ook gesteld.
Maar waar ziet u nog ruimte voor ons als Kamerleden om daar nog iets mee te doen?
Ik neem aan dat u het ook jammer zou vinden als het een voldongen feit zou zijn dat
er op dit punt met onvoldoende waarborgen verdere stappen worden gezet.

Mevrouw Koekkoek (Volt):

Daar ben ik het mee eens. De vragen die ik heb gesteld, gingen met name over de situatie
dat je dataconcentratie hebt bij bedrijven, omdat dat iets doet met je markt en daarmee
ook met je samenleving. Als daar helemaal geen bewegingsruimte meer in zou bestaan,
dan zou ik zeggen dat de voorstellen die er nu liggen dus onvoldoende zijn, juist
omdat het zo belangrijk is voor onze samenleving in de toekomst. Ik denk wel, althans
ik hoop dan altijd nog dat als wij hier het debat voeren en er een heel duidelijk
signaal vanuit de Kamer komt, dat vervolgens meegaat naar de Raad en dat daarin dus
wel bewegingsruimte gevonden wordt.

De voorzitter:

Dank u wel. Dan geef ik nu het woord aan mevrouw Rajkowski van de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Ik heb twee onderwerpen. Ik wil het hebben over de AI Act en over
de digitale Europese identiteit.

Voorzitter. Eerst de AI Act. Wat vinden wij er goed aan? We vinden de piramidestructuur
goed, dus hoe hoger het risico, hoe meer regels met hoge boetes. We vinden het ook
goed dat we de ontwikkeling voor zijn. Bij de DMA en de DSA hebben we ook goede pakketten,
alleen waren we wel een beetje laat. We zijn blij dat we hier nu al over nadenken
en dat het gericht is op het beschermen van mensen, op waarden, normen en mensenrechten.
Dat vinden wij er dus goed aan.

Voorzitter. Dan over toezichthouderschap. Het toezichthouderschap moet wat ons betreft
niet alleen bij de AP liggen, maar ook in samenwerking gaan met de sectoren. Zo worden
bij het heen en weer rijden van karretjes met bloemen op de bloemenveiling ook algoritmen
en AI gebruikt. Ik denk dat de AP daar vrij weinig over hoeft te zeggen, omdat er
geen persoonsgegevens verwerkt worden. Voor ons is het wel belangrijk dat er een soort
sectoraal toezichthouder komt, samen met de AP, en dat er dan niet alleen informele
afspraken zijn, maar dat duidelijk is wie wanneer waarover gaat. Graag een reactie
daarop.

Voorzitter. Dan ook nog een opmerking over waardegedreven toezicht houden. De kritiek
vanuit de VVD op de AP is dat er vaak heel juridisch, heel zwart-wit, wordt gekeken.
Uiteindelijk is het ook belangrijk dat de AP steeds meer gaat kijken welke waarden
eronder liggen. Gaan wij een hele kleine voetbalclub een zodanig hoge boete geven
dat die failliet gaat omdat die de wet overtreden heeft, of gaan we samen met zo'n
kleine sportclub nadenken hoe we die kunnen helpen en het kunnen verbeteren? Volgens
mij zijn er wat bewegingen bij de AP op dit vlak. Juist omdat de AI Act ook zo waardegedreven
is, is het volgens mij een mooi moment om die bewegingen bij de AP mee te pakken.
Graag ook daar een reactie op.

Voorzitter. Gezien de tijd ga ik naar de Europese identiteit. Wat mij betreft houden
we vast aan een compromistekst en moeten we niet nog meer toe willen geven. Volgens
mij is dat helaas een beetje de speelruimte die wij als Kamer hebben.

Dan iets wat voor de VVD echt te ver zou gaan. Er gaan wat spookverhalen rond over
dat uiteindelijk ook socialemediagedrag gekoppeld zou worden aan de Europese identiteit.
Volgens mij staat het nergens in de voorstellen, maar mocht het een keer op tafel
komen, dan zou het fijn zijn als we hier vooraf vaststellen dat we daarbij met een
harde nee komen, want dan gaan we echt naar een soort onlinepolitiestaat toe.

De voorzitter:

Mevrouw Rajkowski, u heeft een interruptie van mevrouw Leijten en daarna van mevrouw
Koekkoek.

Mevrouw Leijten (SP):

Collega Ceder van de ChristenUnie gaf best een goede opsomming van de punten waarop
de compromistekst haaks staat op wat de Kamer, ook met steun van de VVD, heeft uitgesproken.
Nu hoor ik de VVD zeggen: je moet niet nog verder ingeven op de compromistekst; dat
is het hoogst haalbare. Wat is het oordeel van de VVD daarover?

Mevrouw Rajkowski (VVD):

Zo ziet het er wat mij betreft nu wel uit. Even los van wat wij zouden willen – dat
staat in de motie en dat hebben we in andere debatten ook met elkaar afgesproken –
zie ik in de beantwoording van de schriftelijke vragen die we maandag geloof ik hebben
gekregen, dat niet alles wordt toegezegd wat wij als Kamer willen. Ik ben benieuwd
wat er naar aanleiding van de reactie van het kabinet, vanuit de ChristenUnie en de
SP komt. Als ik kijk naar de compromistekst, stel ik vast dat niet langer wordt vastgehouden
aan het gebruik van een universeel nummer. Aan de andere kant is het ook geen garantie
dat er geen sprake zal zijn van een verplichting van een eID-nummer. Ik vind het heel
lastig. Ik heb zelf het idee, maar misschien kan de Staatssecretaris er straks meer
over vertellen, dat dit blijkbaar het hoogst haalbare was op Europees niveau. Dan
zou ik willen zeggen: hou daar vooral aan vast. Maar als er meer te halen is, graag.
Alleen, ik ben het eens met mevrouw Leijten van de SP: hoeveel kunnen we eigenlijk
nog doen? Het is misschien een beetje pessimistisch, maar ik zie het ook niet.

Mevrouw Leijten (SP):

Ik haat het als je debatten hebt waarin je de onmacht organiseert. Maar we organiseren
zeker de onmacht, zou ik tegen mevrouw Rajkowski willen zeggen, op het moment dat
wij ons er al bij neerleggen dat de compromistekst blijkbaar het maximaal haalbare
is. Volgens mij kunnen wij ook tegen de bewindspersonen zeggen: dan moet je maar niet
tekenen; het mag gewoon niet van het parlement. Uiteindelijk is dit natuurlijk wel
gewoon onze positie. In het verleden zijn er zat lidstaten geweest die hebben gezegd:
nou, als het zo gaat, dan kiezen we onze eigen route, een opt-out. Ga daar dan maar
voor. Het gaat over een lager beveiligingsniveau, er is geen garantie van geen verplichting.
We weten niet hoe er om wordt gegaan met de dataopslag, of de gegevens worden gedeeld
met commerciële partijen. De vragen die gesteld zijn door de ChristenUnie kunnen nog
verdubbeld worden met andere zorgen die wij hebben. Wij hebben vorige week een heel
debat gehad over de digitale euro, met een afgesloten Kamer. Het zou toch niet goed
zijn als wij hier toegeven aan de hosannatrein die rijdt, terwijl wij allemaal de
privacygevolgen in de praktijk zien? Blijkbaar zijn er twee blikken op wat er nu speelt.
Je hebt de euforische blik van het ministerie of misschien van de regering, van «dit
is allemaal geweldig en goed voor onze economie», terwijl wij als volksvertegenwoordigers
veel meer kijken naar: wat betekent dit eigenlijk voor mensen, voor je privégegevens?
Volgens mij moeten wij wel vasthouden aan dat laatste anker dat wij zijn, want als
wij dit anker niet uitgooien, stopt niemand dit meer.

De voorzitter:

De volgende keer iets korter, mevrouw Leijten. Mevrouw Rajkowski.

Mevrouw Rajkowski (VVD):

Ik ben dan vooral nieuwsgierig met welke oplossingen mevrouw Leijten straks gaat komen
in haar spreektekst. Als ik haar zo hoor, zal dat vast een opt-out worden. Ik denk
dat het belangrijk is dat Nederland meedoet aan digitale ontwikkelingen, want economie
is niet alleen belangrijk voor de economie, maar ook voor de mensen. Als je met een
DigiD in heel Europa kan inloggen, hoeft ook een kleine ondernemer niet meer met een
kopietje van een paspoort naar een loket in Duitsland, in Frankrijk et cetera. Die
voordelen zien we dus ook, maar de VVD wil niet dat het uitgroeit tot een veel te
groot monster, een moloch. De zorgen die mevrouw Leijten heeft herken ik zeker en
ik ben benieuwd wat de Staatssecretaris daarop zegt. We hebben ook altijd nog een
tweede termijn.

De voorzitter:

Dank je wel. Mevrouw Koekkoek had ook een interruptie.

Mevrouw Koekkoek (Volt):

Ik sloeg even aan op het idee van waardegedreven toezicht. Ik denk dat dat heel interessant
is. Ik vroeg me af of de VVD al heeft nagedacht over hoe dat eruit kan zien in termen
van hoe je dat dan opschrijft om een toezichthouder richting te geven.

Mevrouw Rajkowski (VVD):

Stel je krijgt als AP of als andere toezichthouder een bepaalde casus op je bureau,
dan ga je niet alleen kijken wat juridisch nou wel of niet mag, maar ook: wat betekent
deze club voor Nederland, wat betekent het in de buurt? Welke waarden liggen hieronder
als het gaat om de vraag: is het hier vooral belangrijk dat mensen elkaar makkelijk
kunnen bellen en bereiken? Vroeger had je zo'n bellijn op de middelbare school. Hoe
heette dat? «Sneeuwbal» heette dat, ja. In sommige situaties is het misschien handig
om te kunnen delen met elkaar, maar dan moet het gewoon goed ingeregeld worden. Als
je gaat afpellen wat de maatschappelijk toegevoegd waarde is van een melding – hier
gaat iets niet goed – ga je kijken: oké, de maatschappelijke waarde erkennen wij,
maar het mag niet op die manier; we gaan meedenken over op welke manier het wel zou
kunnen. Dan heb je denk ik een heel ander gesprek. Nu krijgen wij nog veel te veel
signalen van echt kleine clubs. Ik weet dat er een kleine politieke partij is, niet
van onze kleur, in het oosten van het land die per ongeluk alle leden in de cc had
gezet, in plaats van in de bcc. Die had het ook netjes bij de AP gemeld: sorry, ik
heb een foutje gemaakt. Volgens mij hebben ze een boete gekregen van vijf cijfers.
Dat kan zo'n kleine partij helemaal niet dragen. Dan denk ik: oké, iemand heeft per
ongeluk een foutje gemaakt, meldt dat ook nog netjes en krijgt dan zó'n grote boete
dat ie de komende jaren eigenlijk niet eens campagne kan voeren; dan heb je wel goed
gehandeld volgens de wet, maar niet volgens de waarde voor de maatschappij. Ik ben
geen toezichthouder, maar zo bedenk ik het even met mijn lekenbrein.

De voorzitter:

Ja, duidelijk. Ook geen vervolginterruptie van mevrouw Koekkoek meer. U gaat verder
met uw... O, meneer Ceder.

De heer Ceder (ChristenUnie):

Toch nog wel even over dit punt. De VVD heeft mijn zorgen gehoord. Volgens mij heeft
u ook meegetekend met of meegestemd voor de eerdere motie. Eenieder heeft meegetekend,
begrijp ik. Oké, maar daarom vind ik het wel belangrijk om even door te vragen. Het
is toch niet zo dat het voorstel dat er nu ligt tegemoetkomt aan wat wij gevraagd
hebben? Een punt is vrijwilligheid. Onze zorg is dat je op papier wel zegt dat er
sprake is van vrijwilligheid, maar dat het de facto het enige alternatief is, de enige
manier om iets te kunnen afnemen. Op papier zijn er wel alternatieven, maar er kan
de facto wel sprake zijn van onvrijwilligheid. De VVD is het er toch mee eens dat
je dat echt niet moet willen?

Mevrouw Rajkowski (VVD):

Die snap ik wel heel goed, voorzitter. Maar eerlijkheidshalve vind ik ’m nog lastig.
Ik vind een opt-out wel heel ver gaan. Volgens mij is dat wel een van de weinige mogelijkheden
die je als parlement hebt als je het er echt niet mee eens bent. Dat gaat voor mij
denk ik echt te ver. Daar zou ik nog even goed over na willen denken. Maar ik deel
de zorgen. Veiligheid is belangrijk, vrijwilligheid is belangrijk en als de hele samenleving
volgens een bepaalde manier gaat werken en een paar mensen zich daar vrijwillig buiten
kunnen houden, hoe vrijwillig is het dan nog? Ik snap de zorgen van de ChristenUnie
zeker, maar ik moet hier nog even over nadenken. Misschien kunnen we het er in tweede
termijn verder over hebben.

De voorzitter:

U gaat verder met uw betoog.

Mevrouw Rajkowski (VVD):

Dan gezien de tijd nog één puntje. Dat gaat over het versterken van ons digitale knooppunt.
De VVD heeft al vaker moties ingediend om ervoor te zorgen dat de we zeekabels houden
die ervoor zorgen dat we ons digitale knooppunt behouden. Twee die we hebben gaan
met pensioen. Sommige worden geüpdatet. Nou is het aanleggen van een nieuwe zeekabel
vrij lastig en complex als Nederland gaat bedenken om een soort wereldwijde structuur
neer te gaan zetten. Maar de Far North-kabel, die van Canada naar Azië gaat lopen,
gaat aanlanden in Denemarken en slaat Nederland voorlopig over. Als wij ervoor zouden
kunnen zorgen dat die ook in Nederland aanlandt, zorgen wij dat wij op het hoofdknooppunt
blijven, dat wij op de digitale zijderoute zitten, in plaats van op een zijweggetje.
Misschien zou dat een slimme manier zijn om ons digitale knooppunt, onze digitale
economie zeker te stellen in de toekomst.

De voorzitter:

Dank. Dan geef ik het woord aan mevrouw Leijten.

Mevrouw Leijten (SP):

Voorzitter. Bij het debat over de Europese top in maart 2021 stond de Europese digitale
wereld op de agenda. Daarachter komt heel veel weg, onder andere alles wat wij nu
bespreken, maar bijvoorbeeld ook de digitale rechten en beginselen van het digitale
decennium. Ik zou graag willen beginnen met de vraag hoe het daarmee staat. Dat verklaart
dat er allemaal rechten en beginselen zijn, zonder dat daar enige juridische toets
op heeft plaatsgevonden. Ik zou graag willen weten hoe het daarmee staat.

Er staan deze Telecomraad een aantal zaken op de agenda waar wij moeite mee hebben,
allereerst de AI-verordening. Wij krijgen zorgelijke signalen, bijvoorbeeld van Bits
of Freedom, dat de geautomatiseerde besluitvorming onbegrijpelijk is en zeker niet
geborgd is voor mensen. Hoe reageert de Staatssecretaris daarop? Onder andere de Raad
van State heeft anderhalf jaar geleden een interessant advies gegeven, waar we nog
steeds geen reactie op hebben van de regering, over hoe om te gaan met automatische
besluitvorming, bijvoorbeeld vanuit de overheid, en hoe mensen daar grip op kunnen
hebben. Nu zien we dat het binnen Europa eigenlijk al ontspoort, terwijl we nationaal
onze waarborgen nog niet eens hebben vormgegeven.

Het verbod op realtimegezichtsherkenning kan omzeild worden, wordt aangegeven, op
basis van de terrorismewetgeving. Nou, we weten allemaal hoe die de boel naar voren
kan pushen op het moment dat dat goed uitkomt. Over hoogrisico-AI wordt wel gezegd
dat er waarborgen moeten zijn, maar moeten we daar ook niet gewoon af en toe zeggen
«dit mag niet»? Op deepfake gaat een verbod komen, zowel Europees als nationaal. Is
dat gewenst? Maar misschien geldt dat wel voor meer. Kan de Staatssecretaris tot slot
als het gaat om AI het gebied van de sociale ratingsystemen aangeven? Dat is nu verboden
voor de publieke sector, maar natuurlijk niet voor de private sector. We zien dat
bedrijven als Uber dat gewoon al gebruiken. Hoe denkbaar is het dat het wel overslaat
naar de publieke sector?

Voorzitter. Dan de eID. Ik probeer het zo snel mogelijk te doen. In het debat over
de Basisregistratie Personen heb ik al gevraagd: waarom is Nederland al bezig met
de ontwikkeling van een wallet? Bij het voorbereiden van dit debat wist ik waarom.
Die moet er volgend jaar al zijn. Die is eigenlijk al klaar, zeg ik tegen de Staatssecretaris.
Waarom volgt u het parallelle spoor als u weet dat er in de Kamer zo ontzettend veel
bezwaren zijn? Waarom is niet opgelost waar de data worden opgeslagen? Waarom is niet
opgelost wie de data verhandelen? Waarom is niet opgelost dat iedereen mee moet kunnen
doen? Dat we in Europa op verschillende punten misschien geen meerderheid krijgen
of niet de debatten op het juiste spoor krijgen, is wat de SP-fractie betreft geen
reden om het hoofd dan maar in de schoot te leggen. Dan moeten we gewoon zeggen: tot
hier en niet verder.

We hebben een Tweede Kamer, die op het gebied van de privacywaarborgen iets anders
wil dan de Europese trein die voortdendert. Ik zit lang in de Tweede Kamer. We hebben
echt heel vaak nee gezegd op dossiers. We hebben op dossiers ook onze poot stijf gehouden.
Waarom is dat op het digitale dossier nu niet in zicht, vraag ik aan de Staatssecretaris.
Waarom is zij niet bereid om de wens van de Kamer uit te voeren? Als andere landen
werken met lagere beveiligingsstandaarden, waar worden we dan in getrokken? Waar blijven
onze data dan? Van wie zijn onze data uiteindelijk nog?

Voorzitter, er is nog heel veel te zeggen hierover, maar ik zie dat ik al over de
tijd heen ga. De SP roept op om niet in te stemmen met de compromistekst die er nu
ligt. Als het niet klaar is, is het niet klaar. Dan is het jammer voor het voorzitterschap
van Tsjechië. Dan gaan we verder met de Zweden, en anders komt het bij het volgende
voorzitterschap. Als het niet klaar is, is het niet klaar. We gaan hier niet de privacy
van onze Nederlandse inwoners en wat mij betreft van alle inwoners van de Europese
Unie te grabbel gooien omdat we vaart moeten maken.

De voorzitter:

Dank. U heeft één interruptie van de heer Ceder.

De heer Ceder (ChristenUnie):

Mevrouw Leijten was net ook kritisch richting mij. Zij vroeg wat mogelijke handvaten
waren. U heeft het over niet instemmen. Volgens mij gaat het dan over een groter pakket,
want er ligt nu veel meer voor. Dat zou ook rigoureus zijn. Ik worstel dus met een
dilemma. Ik vraag aan mevrouw Leijten of zij dat dan bedoelt, of bedoelt zij een specifiek
onderdeel? Vanuit haar rapporteurschap vraag ik: kan je op een specifiek onderdeel
nee zeggen? Hoe ziet u de mogelijkheden voor een opt-out? Ik ben dus even benieuwd.
U zegt: niet doen. Dat begrijp ik, maar waartegen zegt u «niet doen»? Want er ligt
best veel op tafel waar de Staatssecretaris straks mee te maken heeft.

Mevrouw Leijten (SP):

Zeker, en wat de SP betreft zeggen we «niet doen» tegen het verwachte Raadsakkoord
over de eID, de Europese digitale identiteit. Wat wij daaronder hebben verstaan en
wat ik als rapporteur heb overgebracht, begint echt af te wijken van hoe dat aan ons
is verkocht en hoe dat is vormgegeven in de eIDAS. Er worden echt besluiten genomen
die we onvoldoende hebben getoetst aan de subsidiariteit en noem allemaal maar op.
Ik zou in dezen het liefst een opt-out doen. Je wil op digitale zaken wel samenwerken
en zeker ook je invloed uitoefenen, maar als er zo'n verregaande inbreuk wordt gemaakt
op de privacy van Nederlandse inwoners, vind ik dat we de proportionaliteit en de
subsidiariteit voorop moeten zetten in plaats van de Europese markt. Daarmee hebben
wij wel een probleem. Tijdens de Europese Raad van maart 2021 is namelijk de Europese
digitale markt aangenomen als de volgende vrijheid van Europa. Die is eraan toegevoegd,
naast de vrijheden die we al kennen: de interne markt, verkeer van goederen, verkeer
van kapitaal en verkeer van personen. Op dat moment konden we daar geen debat over
voeren, omdat je nooit over de conceptbesluiten van de Europese Raad mag debatteren.
Op het moment dat het erover ging of we dit wel moesten doen, mochten we er dus niks
over zeggen. Ik heb het geprobeerd, maar dan zegt de Minister-President nooit iets,
want dat mag niet. Nu het over de uitwerking gaat, zitten we eraan vast. Wat de SP
betreft gaan we niet opt-outen uit de hele digitale interne markt, maar als dat het
gevolg is, dan is dat dus het gevolg van de manier waarop de besluitvorming in Europa
gaat. Het liefst doen we het dus smal, maar nog liever zou er nog geen Raadsbesluit
zijn en kunnen we verder onderhandelen. Dan hoeven we ook geen nee te zeggen of te
opt-outen. Maar als het niet anders kan, vind ik wel dat we hier moeten zeggen: dan
is er maar eventjes geen Europese trein met ons; dan nemen we de ontwikkeling en bescherming
maar in eigen hand. Dat is trouwens ook conform moties die zijn aangenomen, bijvoorbeeld
de motie-Leijten/Bosman en de motie-Leijten/Rajkowski. Daarin staat telkens dat we
nationaal onze eigen snelheid moeten bewaken.

De voorzitter:

Dank. Er is nog een vervolgvraag van de heer Ceder.

De heer Ceder (ChristenUnie):

Dan nog een technische vraag. Ik weet niet of u de juiste persoon daarvoor bent, maar
u was wel rapporteur. Kan je op een specifiek onderdeel zeggen: over dit stuk besluiten
we nog niet, hier doen we nog niet mee of hier opt-outen we? Of kun je dat alleen
maar tegen het hele pakket zeggen, is het dus take it or leave it?

Mevrouw Leijten (SP):

Om heel eerlijk te zijn weet ik het antwoord niet. Laten we dat vragen. Ik was echt
rapporteur op: wat is eID, wat ligt er voor, hoe ziet de herziening van eIDAS eruit,
wat is de wens van de Kamer, wat is de inzet van het kabinet geweest? Ik was dus eigenlijk
alleen maar op dat kleine onderdeel rapporteur. Ik kan dus niet het antwoord geven
op deze grotere vraag, maar laten we dat vragen aan de bewindspersonen.

De voorzitter:

Dank je wel. Ik ben vergeten de heer Bontenbal, die later binnen is gekomen, welkom
te heten. Ik geef u nu het woord.

De heer Bontenbal (CDA):

Dank u wel, voorzitter. Een kort debat met weinig spreektijd, dus helaas geen algemene
grote beschouwingen en zo. Jammer, want dat vind ik vaak de leukste onderdelen van
het debat. Ik ga gewoon hele concrete punten noemen, waarbij ik wel ga voortborduren
op wat een aantal collega's hebben gezegd. Dus als een aantal punten al zijn aangeraakt,
sla ik die gewoon over, waarmee ik niet wil zeggen dat ik ze niet belangrijk vind.

Allereerst over de AI Act, een van de belangrijkste punten op de agenda van de Telecomraad.
Ik ga even een aantal punten uit de geannoteerde agenda langs. Nederland heeft steeds
benadrukt dat er een nationale toezichthouder moet zijn en geen Europese toezichthouder,
maar wij vragen ons dan wel af wat die AI Board dan toevoegt. Wat gaat die precies
doen als je daar weinig tanden aan geeft?

Mijn tweede vraag gaat over het raamwerk voor Europese digitale identiteit. Ik lees
de volgende zin: «De afgevers van wallets mogen geen informatie over het gebruik van
wallets verzamelen en mogen opgeslagen persoonsgegevens en gebruiksgegevens niet combineren
met persoonsgegevens van andere diensten indien dat niet noodzakelijk is voor het
leveren van walletdiensten, tenzij de gebruiker daar zelf uitdrukkelijk om heeft gevraagd.»
De vraag is dan wat er wordt bedoeld met die «andere diensten». Zijn dit diensten
van andere organisaties of bedrijven, of ook andere diensten van hetzelfde bedrijf,
dus van de afgever van de wallet? Als dat laatste het geval is, maakt dat best veel
verschil, want dan zouden bepaalde bedrijven met meerdere diensten wellicht te veel
macht kunnen krijgen. Ik hoor daar graag een duiding op.

Over de Data Act schrijft het kabinet: «Het kabinet zet zich in dat in aanvulling
hierop ook maatregelen worden genomen om de interoperabiliteit tussen clouddiensten
in het algemeen te bevorderen.» De concrete vraag is dan gewoon: hoe, aan welke maatregelen
denkt het kabinet dan?

Mijn vierde punt over de geannoteerde agenda is het volgende. We hebben pas gezien
dat de Nederlandse gasinfrastructuur kwetsbaar is. Ik heb daar schriftelijke vragen
over gesteld, maar volgens mij dook mijn collega Rajkowski daar ook op. In hoeverre
gaat de Cyber Resilience Act de kwetsbaarheid van dergelijke energie-infrastructuur
verminderen?

Dan sla ik een paar punten over en ga ik naar het stuk over een digitaal decennium
voor kinderen en jongeren. In veel onlinediensten en -producten wordt alleen naar
de leeftijd van een kind gevraagd. Het is voor kinderen dan vrij eenvoudig om toegang
te krijgen door een hogere leeftijd op te geven dan ze daadwerkelijk hebben. Dit heeft
de aandacht van het kabinet en de Europese Commissie, maar omdat de Europese norm
voor leeftijdscontrole nog in ontwikkeling is, is het kabinet nog aan het verkennen
voor welke toepassingen de onlineleeftijdscontrole zal gelden. Is er al een idee hoe
die Europese norm eruit zal zien? Niet alleen die norm is belangrijk, maar ook voor
welke toepassing je deze norm gaat gebruiken. Waar denkt het kabinet dan aan? Moeten
we wachten op de Europese Commissie, of gaat Nederland zelf een duidelijke positie
innemen? Wanneer wordt er naar verwachting meer bekend over hoe de norm eruit komt
te zien? Het kabinet schrijft ook iets over een adequatere leeftijdsverificatie via
het eIDAS-systeem, maar ja, hoe gaat dat dan precies werken? Moeten kinderen dan zelf
gaan inloggen met eIDAS? Of zijn er andere oplossingen voor adequate leeftijdsverificatie?

Tot slot, voorzitter. Er zijn in deze Kamer meerdere moties ingediend en gesprekken
gevoerd over de bescherming voor kinderen, over digitale grondrechten voor kinderen,
moties over de code voor kinderrechten. We hebben het over de big plus. Ik heb zelf
een motie over lootboxes. Ik heb eigenlijk wel behoefte aan een brief waarin het kabinet
een satéprikker door al die voorstellen doet en gewoon eens opschrijft hoe wij als
Nederland, als kabinet, omgaan met het beschermen van kinderen met digitale technologieën.
Het zal mijn onvermogen zijn om een heldere helicopterview over alles te hebben, maar
ik heb erg behoefte aan een duidelijke overzichtsbrief: wat doen wij om kinderen te
beschermen, wat ligt er allemaal voor, wat is het standpunt van het kabinet?

Dank u wel, voorzitter.

De voorzitter:

Dank. Dank. Zou mevrouw Leijten even het voorzitterschap willen overnemen?

Voorzitter: Leijten

De voorzitter:

Zeker, dat wil ik. Hierbij geef ik het woord aan mevrouw Dekker-Abdulaziz namens D66
voor haar drie minuten.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank ook aan de collega's, die eerder hun zorgen uitspraken over
de eIDAS. Deze zorgen deelt D66, maar ik ga mij focussen op de AI Act. Dit is een
belangrijke Telecomraad. Hoewel de AI-verordening een stap in de goede richting is,
zijn er te veel haken en ogen. Er zijn te veel uitzonderingen die het voorstel tandeloos
maken. Er kan een algehele uitzondering voor nationale veiligheid gemaakt worden.
Deze term wordt niet gedefinieerd en kan daarom willekeurig ingezet worden door de
nationale overheden. Dat moet toch beter ingevuld worden? Is de Staatssecretaris bereid
om een betere afbakening te geven of te maken? In welke mate wordt predictive policing
aan banden gelegd? We begrijpen dat het Europarlement dat ook wel wil. Daar is D66
het mee eens.

De Algemene Rekenkamer heeft al eerder geoordeeld over een predictive policing-algoritme
dat hier in Nederland gebruikt wordt, dat die niet voldoet aan de mensenrechtentoets.
Valt predictive policing onder hoogrisicoalgoritmesystemen, zoals het Risico Taxatie
Instrument Geweld, het RTI-Geweld? Te veel AI-systemen vallen namelijk onder uitzonderingen
in de wet, waardoor dit soort AI-systemen niet eens geregistreerd hoeven te worden.
Denk bijvoorbeeld aan law enforcement. Waarom hoeft dat eigenlijk niet? Controle en
toezicht begint toch bij transparantie? Kan de Minister een goede reden geven waarom
AI-systemen, los van de nationale veiligheid, niet thuishoren in een algemeen register?
Wat D66 betreft heffen we alle uitzonderingen op de registratieplicht op. Graag een
reactie, en anders heb ik een motie in voorbereiding voor het tweeminutendebat straks.
Wie is straks toezichthouder hierop? Acht de Minister het wenselijk dat dit systeem
straks niet geregistreerd staat? Welke consequenties heeft dat?

Parallel aan het Europees traject krijgen we natuurlijk een nationaaltoezichthouderregister
en een mensenrechtentoets. We vinden het goed dat het kabinet al bezig is met een
toezichthouderregister, maar we hebben een sterke voorkeur voor verankering in een
nationale wet. Moeten we dit niet nationaal vastleggen, helemaal als het proces van
inwerkingtreding in de EU nog een aantal jaren op zich laten wachten? De rijksoverheid
kan alvast het goede voorbeeld geven.

Tot slot, voorzitter. Private AI-systemen zijn minstens zo belangrijk. Kan de Minister
aangeven waarom nieuwsfeeds van sociale media niet vallen onder hoogrisicoalgoritmes?
Is het onder de AI Act toegestaan dat algoritmische nieuwsfeeds kwetsbare groepen
bereiken, zoals kinderen, ook als dit mogelijk nadelige effecten heeft voor kinderen?
Denk aan een verslaving, een eetstoornis of een depressie. Graag een reflectie.

Dan de biometrische identificatiesystemen, oftewel gezichtsherkenning. Het Europarlement
heeft daar een amendement over ingediend. Ik wil graag een reactie van de onderhandelaars
op de vraag hoe ze daartegen aankijken.

Helemaal tot slot, de begrijpelijkheid en de uitlegbaarheid van AI-registratie en
AI-toezicht. Bits of Freedom heeft ons een brief gestuurd; mevrouw Leijten heeft dat
al gezegd. Hoe kan de begrijpelijkheid van AI en de beslissingen die hieruit voortkomen,
beter geborgd worden in de AI Act?

Dank je wel.

De voorzitter:

Ik dank mevrouw Dekker-Abdulaziz voor haar termijn en geef het voorzitterschap aan
haar terug.

Voorzitter: Dekker-Abdulaziz

De voorzitter:

Dank je wel. We zijn nu klaar met de eerste termijn van de Kamer. Hoeveel tijd heeft
het kabinet nodig? Twintig minuten? Laten we 11.05 uur weer starten. Dan schors ik
nu de vergadering. O, laten we 11.10 uur doen. Dan zijn we straks, tijdens onze tweede
termijn, zuinig.

De vergadering wordt van 10.43 uur tot 11.15 uur geschorst.

De voorzitter:

Ik geef graag het woord aan mevrouw Adriaansens, de Minister van Economische Zaken.
Aan u het woord.

Minister Adriaansens:

Voorzitter, veel dank. Gezien de tijd zal ik me vooral richten op het beantwoorden
van de vragen en zal ik allerlei algemene introducties achterwege laten. Bovendien
is uw Kamercommissie zeer goed geïnformeerd.

Even als korte aftrap: wij hebben uw zorgen heel goed gehoord, maar ik denk dat het
wel belangrijk is om even te laten zien wat wij daarmee gedaan hebben, want een heleboel
zorgen delen we. Daar zijn we ook hard mee aan de slag gegaan. We menen dat we ook
best wel resultaten hebben geboekt. Ik denk dus dat het goed is om daar vooral het
gesprek over te voeren met elkaar om te kijken of we elkaar daarin begrijpen, en zodat
we weten wat er haalbaar en minder haalbaar is en wat de consequenties daarvan zijn.

Ik heb een aantal mapjes, voorzitter. Dat zijn CRA, Data Act, overig en de AI Act.
Ik zal eerst een paar korte mapjes, soms bestaande uit één vraag, behandelen.

Dan begin ik bij de CRA, de Cyber Resilience Act. Er was een vraag van de heer Bontenbal.
Hij zei: we hebben gelezen dat de Nederlandse gasinfrastructuur kwetsbaar is voor
aanvallen. Hij vroeg in hoeverre de CRA nou kan helpen. We zien met elkaar natuurlijk
een verhoogde dreiging op onze infrastructuur door alles wat er geopolitiek gebeurt.
We hebben in eerste instantie een overkoepelende richtlijn. Dat is de richtlijn Netwerk-
en informatiebeveiliging, de NIB. Dat is eigenlijk de koepelregelgeving die aangeeft
wat je moet doen voor vitale entiteiten die kwetsbaar zijn. Dan moet je zorgen voor
een bepaalde weerbaarheid van je organisatie. Je hebt ook een meldplicht als er echt
grote incidenten zijn. Op die manier beveiligen die organisaties dus hun systemen.
De Cyber Resilience Act ziet veel meer op de producten die zo'n bedrijf dan gebruikt,
die door een andere aanbieder worden geleverd. Daar zit dus daadwerkelijk een soort
extra check. Het geeft een vitale aanbieder iets meer zekerheid over wat voor product
er wordt aangeboden. Maar de echte overkoepelende regulering zit dus bij die NIB.

De voorzitter:

De heer Bontenbal voor een interruptie.

De heer Bontenbal (CDA):

Om het dus goed te begrijpen: op die vitale infrastructuur zit natuurlijk heel veel
meetapparatuur en apparatuur om te sturen. Dan heb ik het over trafo's en metingen.
Dat is allemaal natuurlijk zwaar gedigitaliseerd. Op dat soort assets zit de verantwoordelijkheid
bij de leveranciers, dus de categorie Siemens en dat soort jongens, die aan die wetgeving
moeten voldoen, zodat ook de vitale aanbieders zeker weten dat het klopt. Dat valt
onder de CRA.

Minister Adriaansens:

Exact. De CRA ziet op de producten. Ik moet eerlijk zeggen dat we nog wel een discussie
hebben over de precieze definitie, ook wat betreft diensten. Daar zit een soort grijs
vlak tussen. Dat is een andere discussie die daar nog loopt. Wij vinden het namelijk
heel belangrijk om te weten wat er nou precies onder valt. Maar: ja, als het echt
over dit soort operationele producten gaat, zoals ICT-producten, applicaties en systemen,
dan vallen ze onder de CRA.

De voorzitter:

U gaat verder met uw betoog.

Minister Adriaansens:

Over de Data Act had mevrouw Koekkoek een vraag. Zij vroeg of Nederland ervoor pleit
om industriële data onder de Data Act te laten vallen, welke definitie we daarvoor
hanteren en of transmitted data daar ook onder vallen. Dat is een term die volgens
mij vooral uit de hoek van Volt komt, dus we zijn nog een beetje op zoek naar wat
Volt daarmee bedoelt. Dat wil ik heel graag nader onderzoeken om te kijken of wij
dezelfde betekenis daaraan kunnen geven. De Data Act is breed. Onder de verschillende
onderdelen vallen dus ook verschillende data, maar wij vinden dat ook industriële
data daaronder moeten vallen. In het voorstel staat wel duidelijk aangegeven wat onder
het «internet of things»-deel valt. Er is bijvoorbeeld het «ready available»-databegrip
geïntroduceerd, zodat de ruwe data eronder vallen. Daarmee vallen dus ook de industriële
data onder de wet. Maar laten we afspreken dat we nog eens even verder spreken over
wat er precies met «transmitted data» wordt bedoeld, of dat u daar nu een antwoord
op kan geven. Ik ben benieuwd naar de verdere uitdieping van dat begrip.

Dan vroeg mevrouw Koekkoek ook wie onder de Data Act het recht krijgt om de data te
delen. Het doel van de Data Act is om de positie van de gebruiker ten opzichte van
de datahouder te versterken. De gebruiker krijgt het recht om de data te gebruiken
en te delen. Daar ligt de verantwoordelijkheid. Er zijn in het voorstel nog wel onderdelen
die verder aangescherpt moeten worden om te zorgen dat de gebruikers ook echt de controle
kunnen krijgen over het gebruik van de data. Ik geef een praktisch voorbeeld: hoe
zit het met de compensatie als je je gegevens van Fitbit naar een Apple Watch wil
overdragen? Dat is een van de zaken die nog geregeld moet worden onder dit voorstel.

Voorzitter. Ik kom bij een vraag van de heer Bontenbal onder het kopje Data Act. Hij
vroeg met name naar de interoperabiliteit. De belangrijkste maatregelen ...

De heer Bontenbal (CDA):

U spreekt het wel in één keer uit. Op de een of andere manier stoort me dat.

Minister Adriaansens:

Je moet het vooral in stukjes hakken: inter-opera-biliteit. De belangrijkste maatregel
waar het kabinet aan denkt, is dat aanbieders van clouddiensten worden verplicht om
de standaarden waarmee ze werken te publiceren. Die API's, application programming
interfaces, moeten ook beschikbaar worden gesteld. Dat is eigenlijk de belangrijkste
maatregel waar wij aan denken. Daarmee stel je de aanbieders ook in staat om die diensten
op elkaar te laten aansluiten. Die voorstellen doen wij in lijn met wat de ACM daarover
heeft gezegd.

Voorzitter. Ik kom bij de AI Act. Nee, die pak ik als laatste. Ik ga eerst even terug
naar de zeekabels. Ik heb net nog even naar het plaatje gekeken. Het is echt een heel
indrukwekkend netwerk dat met die Far North-zeekabel wordt gecreëerd. Het zorgt ook
voor meer redundantie, waarmee we blij zijn. We bekijken hoe we met de lidstaten ervoor
kunnen zorgen dat die kabel er komt. De route landt nu aan bij Finland en bij Ierland.
Vanuit daar zou de verbinding naar de andere lidstaten in Europa worden gemaakt. Dat
is het ontwerp. Als je naar het plaatje kijkt, dan zie je dat dat een logische lijn
is. De Noordzee komt daar niet direct voor in aanmerking, omdat die veel ondieper
en drukker is. We willen meer verbindingen hebben, waarmee we minder kwetsbaar zouden
worden, maar het is dus niet direct logisch om het in Nederland te laten aanlanden.
Dat doen we dus via Ierland en Finland. Met de Europese lidstaten bekijken we hoe
we het het best kunnen laten aansluiten op het vasteland.

De voorzitter:

Mevrouw Koekkoek heeft een vraag.

Mevrouw Koekkoek (Volt):

Ik kom even terug op de vraag: wie mag data delen? Zoals ik het zie, is de Data Act
heel erg vanuit de consument geschreven. Ik vroeg in mijn inbreng specifiek wat we
doen met de windsnelheidsgegevens die windmolens verzamelen. Dat is dus meer dan de
consument. Het voorbeeld van de Fitbit begrip ik heel goed. Dat is het individu, de
consument. Maar wie is de eigenaar van meer complexere data? Zou dat niet ook meer
moeten worden uitgekristalliseerd onder die Data Act?

Minister Adriaansens:

Ik realiseer me dat ik niet direct antwoord heb gegeven op die vraag. Goed dat u er
nog naar vraagt. Ik denk dat we goed moeten bekijken wat al geregeld wordt. Je hebt
natuurlijk bedrijfsgeheimen die een bedrijf niet met anderen hoeft te delen. Je hebt
regelgeving die je soms verplicht om data wél te delen. In eerste instantie valt dit
denk ik onder andere regels dan onder deze Data Act, maar ik zeg mevrouw Koekkoek
toe dat ik hier nog eens even heel goed naar zal kijken. Is het wel voldoende geborgd
in aansluiting met deze Data Act?

De voorzitter:

Dank. Komt er dan een brief?

Minister Adriaansens:

Als we een tweede termijn hebben, doe ik het in de tweede termijn. Dat wordt dus een
uitdaging. Anders zal ik het in een briefje doen.

De voorzitter:

U gaat verder met uw betoog.

Minister Adriaansens:

Dan kom ik bij de vragen die gesteld zijn over de AI Act. Voor een deel raken die
overigens de Staatssecretaris voor Digitale Zaken. De heer Bontenbal vroeg met name
naar die nationale toezichthouder. Die AI Board geeft advies over het toezicht. De
idee is dat daar een bepaalde harmonisatie, een bepaald kennisniveau wordt ontwikkeld
dat gedeeld wordt met de lokale toezichthouders. Wij vinden het belangrijk dat er
verantwoordelijkheden en bevoegdheden blijven op nationaal niveau en dat kennisontwikkeling
daar centraal staat. Dat is wat de AI Board toevoegt. Alle ervaringen uit de individuele
lidstaten komen daar samen en worden gedeeld om stappen in de harmonisatie te zetten.

De voorzitter:

Er is een interruptie van de heer Bontenbal.

De heer Bontenbal (CDA):

In de energiemarkt hebben we een ACM. Die wordt in Europa vertegenwoordigd door een
platform daarboven, waar alle toezichthouders in zitten. Wordt het zo'n soort organisatie:
een koepelorganisatie van toezichthouders waarin ervaringen van lidstaten worden gedeeld?

Minister Adriaansens:

Ik check het nog even, maar in mijn beleving is dat zo.

De voorzitter:

Mevrouw Leijten heeft ook een vraag.

Mevrouw Leijten (SP):

Ja, over die AI Board. De Minister zegt dat dat richting harmonisatie gaat, maar dan
hebben wij natuurlijk wel een probleem. De Minister en de Staatssecretaris geven aan
dat wij op de meeste zaken een hogere standaard hebben dan de rest. Als er dan geharmoniseerd
wordt, kachelen we dus achteruit. Hoe ziet de Minister dat?

Minister Adriaansens:

Zo zou ik het zeker niet interpreteren en het zou ook niet goed zijn als dat zo zou
zijn. Dat zou een zorg zijn en dat moeten we bewaken. Harmonisatie is een mogelijkheid.
In eerste instantie is die AI Board bedoeld om te adviseren en kennis te delen. Ik
noem iets positiefs dat eruit zou kunnen voortvloeien, maar het is niet de primaire
doelstelling van die AI Board. Als de toezichthouders de problematiek die zich in
de verschillende landen voordoet bespreken, is het idee dat er een soort gemeenschappelijk
kennisniveau ontstaat dat zich ontwikkelt. Mevrouw Leijten heeft de zorg dat we daarmee
gaan inleveren op onze standaarden, maar dat is absoluut niet onze inzet en dat mag
ook niet de bedoeling zijn.

Mevrouw Leijten (SP):

We kennen de werking van de interne markt en de toelating op die markt. De laagste
standaard in een lidstaat garandeert de toegang tot de markt voor degene die geen
hoge standaarden wil hebben. Dat zien we op allerlei vlak. Ik wijs op gewasbescherming,
geneesmiddelen en noem maar op. Denkt de Minister niet dat dit straks op dezelfde
manier gaat werken?

Minister Adriaansens:

Daarom zetten wij als Nederland in om die standaarden in die wet op te nemen. Zo gaan
we het niveau van de standaarden bewaken. Mevrouw Leijten noemde het risico terecht.

De voorzitter:

De Minister gaat verder met haar betoog.

Minister Adriaansens:

Mevrouw Koekkoek vroeg naar het samenwerken van de toezichthouders bij overtredingen
van de AI-verordening. Wij zijn heel positief over het samenwerken daarin, vooral
als het gaat om grote aantallen burgers die erbij betrokken zijn. Er moet wel ruimte
blijven voor het nationale toezicht. Dit is precies wat ik net bedoelde met die AI
Board. Juist daar moeten dit soort zaken aan de orde komen.

Mevrouw Rajkowski vroeg wat de samenwerking met de sectorale toezichthouders is. Als
je naar de zorg en andere gebieden kijkt, dan zie je dat daar heel veel kennis is
en dat daar ook toezichthouders actief zijn die een relatie hebben met alles wat zich
op dit terrein afspeelt. Het is mogelijk onder de AI Act. Wij zijn nog wel aan het
kijken hoe wij dat precies landelijk gaan inrichten. Dat is op dit moment onderhanden.
Het kabinet is echt heel erg van zins om die samenwerking ten optimale te benutten.
Op dit moment is er een werkgroep van toezichthouders waarmee we in gesprek zijn om
te kijken hoe je dat kunt vormgeven.

Mevrouw Rajkowski vroeg ook hoe we de waardegedreven benadering ook voor kleine ondernemers
kunnen waarborgen. Ik was een beetje op zoek naar de achtergrond van die vraag. De
AI is volledig doordesemd met waardes. Die gelden voor burgers en dus ook voor het
mkb. Op die manier is het van toepassing. Hoe gaan we ervoor zorgen dat dit ook bij
het mkb tussen de oren komt en in het gedrag tot uiting komt? We zullen echt veel
aandacht moeten besteden aan de implementatie. Het is natuurlijk ook zo dat die verordening
een aantal verplichtende regels heeft, bijvoorbeeld op het punt van hoge risico's.
Die gelden ook voor het mkb. Ik zou bijna zeggen dat met name start-ups daarmee werken.
In de brede zin zullen we echt veel moeten doen aan voorlichting. Dat is nog wel een
uitdaging.

Voorzitter. Dan heb ik een vraag van mevrouw Dekker. Hoe wordt AI uitlegbaar? Die
vraag ligt een beetje in het verlengde van de vorige, maar is wel wat technischer.
De AI Act bepaalt ook – ik meen dat zij de vraag zo bedoelde – dat handleidingen moeten
worden opgesteld voor gebruikers van hoogrisico-AI-systemen. Ook moet uitgebreide
technische documentatie worden gemaakt. De werking van AI moet daarin worden uitgelegd.
Dat moet ook worden gepubliceerd, althans, dat is beschikbaar voor de koper of gebruiker
van de toepassing.

De voorzitter:

Dat is min of meer wat ik bedoelde, maar ik wil doorvertalen wat in de brief van Bits
of Freedom aan ons gevraagd werd. Dat gaat om de uitlegbaarheid van het besluit. Dat
dit gepubliceerd moet worden snap ik wel, maar snapt een 13-jarige dat ook? Heeft
een 13-jarige in de gaten dat AI hiermee te maken heeft?

Minister Adriaansens:

Ik ga er even goed naar kijken, want ik begrijp de zorg. Het is vaak een kunst als
je de handleidingen begrijpt. Ik denk dus dat dit een aandachtspunt zou moeten zijn
qua toezicht. We moeten ervoor zorgen, en dat gaan we even meenemen in de werkgroep,
dat het voor gebruikers – verschillende toepassingen zullen verschillende gebruikersgroepen
kennen, maar ik doel met name op de groep die u bedoelt – leesbaar en begrijpelijk
is, want anders heeft de uitleg geen zin. Dat is de bedoeling van de regeling, maar
dan moet het ook zo werken.

De voorzitter:

Dank. Ik heb nog één laatste vraag. Ik werd ook getriggerd door de werkgroep van toezichthouders.
Kan de Minister uitleggen hoe het zich verhoudt tot de algoritmewaakhond die wij nationaal
hebben? Hoe gaat dat? Over welke toezichthouders hebben wij het hier eigenlijk?

Minister Adriaansens:

Dat is nou precies wat er moet gebeuren. We hebben de AP aangewezen. Die heeft daarin
een coördinerende rol, zo verwachten wij. Maar hoe die daar inhoud aan gaat geven,
wordt nu uitgewerkt.

De voorzitter:

U gaat verder met uw betoog.

Minister Adriaansens:

Over de nieuwsfeeds en de sociale media werd gevraagd waarom het geen hoogrisico-AI
is. Als je het hebt over illegale content en dergelijke, dan wordt dat geregeld door
de DSA. Daarin staat dat er controle moet plaatsvinden op degene die de informatie
online zet en dat er maatregelen getroffen moeten worden. Het is onder de AI-verordening
verboden om manipulatieve tactieken en technieken in te zetten om het gedrag van mensen
te veranderen. Het verbod geldt ook voor AI-systemen die misbruik maken van kwetsbare
groepen, zoals kinderen. Het is belangrijk om dit met elkaar in verband te zien. Het
is een heel belangrijk onderwerp. Ik vermoed dat de Staatssecretaris daar zo ook nog
het nodige over zal zeggen. Als er echt grote risico's zijn, moet zo'n provider dat
onder de DSA melden bij de Europese toezichthouder, in dit geval de Commissie. Die
zijn bezig om een unit in te richten die al dit soort meldingen gaat behandelen.

Mevrouw Dekker vroeg wie er toezicht houdt op de rechtshandhaving van de AI Act. Ik
neem deze vraag even waar voor de Minister van JenV. Toezicht op algoritmes vindt
plaats door verschillende toezichthouders, zoals we ook al hebben besproken. Dat gebeurt
in eerste instantie door de sectorale toezichthouders. Voor de politie geldt dat het
toezicht op algoritmes door de Inspectie Justitie en Veiligheid wordt gedaan. Het
toezicht op de verwerking van de gegevens wordt gedaan door de Autoriteit Persoonsgegevens
en het toezicht op de doelmatigheid – hoe ga je dan om met die gegevens? – door de
Algemene Rekenkamer. Nu begrijpen we volgens mij ook dat het belangrijk is dat al
deze toezichthouders dit een beetje gaan afstemmen met elkaar, want het is nogal veel.
Maar in ieder geval heeft de Autoriteit Persoonsgegevens er een belangrijke rol in
om dit op elkaar te laten aansluiten en om het efficiënt en effectief te doen.

Vervolgens vroeg mevrouw Dekker of predictive policing hoogrisico is. O, zei ik «policing»
verkeerd? Ah, jammer zeg! Het antwoord is: ja, maar wel als het aan die definitie
voldoet. In de AI-verordening worden AI-systemen die worden gebruikt door of namens
de rechtshandhaving voor het voorspellen van daadwerkelijke of te verwachten criminaliteit,
als hoogrisico benoemd. Als een zogenoemd predictive policing-algoritme voldoet aan
de definitie van de AI, de kunstmatige intelligentie, zoals beschreven, is het antwoord
ja.

De volgende vraag hoorde ik nu impliciet ...

De voorzitter:

Mevrouw Leijten vroeg ...

Mevrouw Leijten (SP):

Ja, ik hoop dat de Minister daar nog op komt. Ik vroeg: wat kunnen mensen die geautomatiseerde
AI-besluiten voorgeschoteld kregen? Dit gaat allemaal nog over toezicht en over inrichting.
Begrijpt degene die het maakt en inricht wel hoe het werkt? Maar het gaat uiteindelijk
ook over de besluiten die worden genomen voor mensen. We hebben net – ik hoop dat
de Minister daar ook tijd voor heeft gehad – de documentaire Moeders gezien over moeders
in Amsterdam. Het is echt een drama als je in die situatie zit. Wat kunnen mensen
die te maken krijgen met de besluiten hierop ... Je kunt het nog zo goed uitspreken,
maar als jouw kind als crimineel wordt gemarkeerd door de AI-systemen van Amsterdam,
omdat zij een lijst van de top 400 hebben, kom er dan maar eens uit. Dan weet je niet
eens dat het komt door algoritmen. Dat heb ik wel gevraagd. Ik vraag dit consequent
in ieder debat. Ik weet dat ik alweer veel te lang aan het woord ben, maar dit heeft
ook te maken met het ongevraagde advies van de Raad van State, waar we nog altijd
geen positie op hebben. Dit heeft daarmee te maken. Het gaat wel echt over de impact
op gewone mensenlevens.

Minister Adriaansens:

Ik deel die zorg volledig. Er zijn natuurlijk te veel voorbeelden waarbij dat niet
goed is gegaan. Het moet onze grootste zorg zijn dat dit niet gebeurt. Voor een deel
zit het in het gedrag van mensen, dus daar moeten wij wat mee. Dat is heel belangrijk.
Ik denk dat deze regelgeving daarin ontzettend gaat helpen. Maar het betekent dat
we continu aan moeten staan om te kijken of het leuk op papier staat en of het goed
wordt toegepast. Daarin heeft mevrouw Leijten volledig een punt. De AVG regelt natuurlijk
het nodige als het gaat over het omgaan met persoonsgegevens. Op dat punt hebben we
een goede wet. Maar het zit ’m ook in de toepassing ervan. Ik denk dat het goed is
als de Staatssecretaris het voor een deel meeneemt in haar betoog, maar dit is in
ieder geval mijn primaire reactie. De zorgen worden dus volledig gedeeld. We moeten
elkaar scherp houden op of het voldoende geregeld is.

De voorzitter:

De Minister gaat verder. O, mevrouw Leijten heeft een vervolgvraag.

Mevrouw Leijten (SP):

Even heel scherp dan. De Minister heeft het terecht over allerlei waarborgen voor
de ontwikkelaars, de gebruikers en de toepassers, maar dit gaat over degenen op wie
dat besluit ziet, dan wel door de overheid dan wel door een commerciële partij. «Je
bent eruit gepikt omdat we deze gegevens van jou hebben gebruikt.» Dat zou toch eigenlijk
standaard altijd inzichtelijk moeten zijn? Dan kun je het wijzigen op het moment dat
het fout is en uitzetten op het moment dat je denkt: dit wil ik niet. Zou het niet
goed zijn als Nederland dit consequent blijft inbrengen in Europees verband?

Minister Adriaansens:

Dat doen we. We hebben met de AI Act bereikt dat het klachtenrecht is opgenomen. Dat
is echt een opbrengst die Nederland voor elkaar heeft gekregen. Dan is het kwaad al
geschied; daar heeft mevrouw Leijten gelijk in. Dat is achteraf. Je moet het een en
ander ook vooraf waarborgen. De AI Act regelt meer dan hiervoor, dus het is een stap
in de goede richting. Sterker nog, het is een hele grote stap. Als het gaat over de
consequenties van de AI Act voor mensen, stel ik voor dat ik de vragen daarover aan
de Staatssecretaris laat. We trekken hierin samen op.

De voorzitter:

Als de commissie het toelaat, heb ook ik nog een vraag. Ik heb gevraagd om de uitzonderingen
van de AI Act. Ik weet niet of de Minister of de Staatssecretaris daar antwoord op
geven. Juist voor law enforcement is een uitzondering gemaakt in de AI Act. De vraag
is natuurlijk of predictive policing of zaken als de top 400 daaronder vallen. Als
die uitzondering daarvoor geldt, dan hebben we toch wel een probleem. Wat vindt de
Minister daarvan?

Minister Adriaansens:

Ja, het is inderdaad ingewikkeld om een goede balans te vinden. Daar ben ik eerlijk
over. Dat is ingewikkeld. In de AI-verordening wordt rekening gehouden met de bijzondere
positie van rechtshandhaving. Dat is heel erg nodig. Maar als ik kijk naar de positie
van het EP, het Europees Parlement, dan ben ik het eens met D66 dat deze uitzonderingen
niet te ruim moeten zijn. Dat zijn de zorgen die we delen. Het gaat over inbreuken
op grondrechten. Die moeten echt gerechtvaardigd zijn. Wat belangrijk is, is het volgende.
Het is niet zo dat je die uitzonderingen zomaar kan gebruiken. In de AI-verordening
wordt juist geregeld dat er een grondslag voor moet zijn in het nationale recht. Dat
moet je dus regelen. Op die manier heeft het parlement daar controle over. Dat is
dus de waarborg die we daar nu voor zoeken. Maar het is inderdaad balanceren.

De voorzitter:

De Minister gaat verder.

Minister Adriaansens:

Daarmee was ik gekomen aan de beantwoording van de laatste vraag.

De voorzitter:

Dank aan de Minister. Ik zie geen vragen meer. Dan geef ik het woord aan de Staatssecretaris
Digitale Zaken.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Ik heb ook een paar blokjes. Ik begin met de Europese digitale
identiteit. Dan kom ik op de vragen over AI. Dan volgt nog een aantal andere thema's,
zoals Better Internet for Kids en digital rights and principles. Daarna is er nog
een laatste blokje. Ik probeer zo snel mogelijk de vragen te beantwoorden, gegeven
het feit dat we krap in de tijd zitten.

De eIDAS-verordening is erop gericht dat degenen die dat willen op een veilige manier
gebruik kunnen maken van een Europese digitale identiteit. Ik geef nadrukkelijk aan
dat het gaat over degenen die dat willen. In het debat hebben meerderen van u aangegeven
dat u zich nog zorgen maakt over onderwerpen die we uiteraard eerder hebben besproken,
namelijk vrijwillig gebruik, het Europees bsn, het verhandelverbod, dataconcentratie,
transparantie en open source. Ik wil heel graag met u wat verder in deze punten duiken.
Dat ga ik zo meteen dan ook doen. Ik vind het namelijk van belang om precies aan te
geven wat wij op die punten bereikt hebben op basis van de debatten die wij daar eerder
over hebben gevoerd en de moties die daarover zijn ingediend, en waarom wij denken
dat we nu zover zijn dat deze punten, deze zorgen, op een vergaande manier zijn weggenomen.
Maar het is altijd zo – mijn collega zei dat ook – dat je nooit helemaal, 100%, kunt
bereiken wat je wilt. Ik begin dan even met dat thema van het vrijwillig gebruik.
De vraag werd gesteld door de heer Ceder en werd door een aantal van u onderschreven.
Het is ongelofelijk belangrijk om te benadrukken dat voor elke vorm van identiteit
die er ook komt, de wallet, de datakluis of anderszins, geldt dat je er geen gebruik
van hoeft te maken maar dat je dat wel kunt doen. Ook hebben we eerder met uw Kamer
vastgesteld dat het in transacties met de overheid altijd mogelijk moet zijn om ook
face to face zaken te doen. Daarvoor hoef je geen wallet te hebben, en die verplichting
zal er ook niet komen. Face to face kan ook per telefoon betekenen. We hebben altijd
gezegd dat die drie opties naast elkaar moeten bestaan: click, call en face, zoals
dat zo mooi heet. Dat betekent dus digitaal, per telefoon of live.

Het is dan ook heel belangrijk dat private partijen die wallets gaan aanbieden, die
natuurlijk volledig moeten voldoen aan de Europese vereisten die daarvoor gelden,
waar natuurlijk ook toezicht op wordt gehouden, pas worden toegelaten als ze aan die
vereisten voldoen. Het is van belang dat er dan ook niet kan worden gehandeld met
de gegevens die worden verzameld door de partijen die een wallet aanbieden. Ik vind
het vooral heel erg belangrijk dat de private sector ook alternatieven blijft aanbieden.
Ik weet dat we dat niet 100% kunnen regelen. We hebben het daar ook eerder over gehad.
Er zal altijd een mogelijkheid blijven om zaken te doen met de publieke sector, met
de overheid, zonder een wallet of zonder een digitale manier van werken. Dat zal voor
de private sector iets zijn wat ze zelf mogen bepalen, maar ik hecht er wel aan om
ervoor te zorgen dat we daarop in kunnen grijpen wanneer dat tot grote problemen gaat
leiden.

Een tweede zorg van u gaat over dat Europese bsn. U heeft daar de vorige keer heel
helder en terecht over gezegd: dat moet er moet komen. Dat gaat er dus ook niet komen.
Dat is een van de belangrijkste punten die we hebben behaald in de onderhandelingen:
er komt niet één universeel nummer. Er kunnen verschillende nummers naast elkaar bestaan
in de Europese Unie. Dat is ook in de huidige compromistekst opgenomen.

Uw derde zorg betreft een verhandelverbod van gegevens. Wij wilden graag een expliciete
tekst daarover in de verordening. Dat is ons niet gelukt, maar de reden daarvoor is
wel van belang, namelijk dat dat verhandelverbod wel is geregeld, namelijk middels
de punten over de gegevensbescherming die in de verordening staan in combinatie met
de AVG. Dat was ook wel de belangrijkste reden waarom andere lidstaten zeiden: dat
hoeven we niet nog explicieter te regelen; er mag namelijk niet gehandeld worden met
de gegevens van mensen die zo'n digitale identiteit hebben, noch met de gegevens die
erin staan, bijvoorbeeld je identiteitsgegevens of je rijbewijs, noch met het feit
dat je inlogt. Er mag dus ook niet gezegd worden: meneer of mevrouw, log nu in bij
de Belastingdienst of bij een ander. Het is alleen mogelijk als iemand het heel expliciet
zelf wil. Het kan dus alleen wanneer dat expliciet zo is. Daarmee denken wij dat dat
verhandelverbod goed gesecureerd is.

Dan het thema dataconcentratie. Gaan we er nou voor zorgen dat er geen dataconcentratie
komt? Bedrijven mogen dus niet handelen met de gegevens, en wij zorgen er ook voor
dat alle data van een persoon niet op één plek zijn. Er blijft een apart register,
de BRP, waar bijvoorbeeld je identiteitsgegevens in staan. Er is ook een apart register
met je rijbewijs. Er zijn andere registers die naast elkaar kunnen bestaan. Bedrijven
mogen het dus niet verhandelen en ook niet bij elkaar brengen. We gaan het technisch
verder regelen door privacy by design en dataminimalisatie in te voeren, waardoor
het niet mogelijk is om dit met zo'n wallet te doen.

Dan open source, een andere zorg die u had.

De voorzitter:

Ik zie twee interrupties. Sorry, drie zelfs. De eerste was van mevrouw Leijten, dan
de heer Bontenbal en dan de heer Ceder.

Mevrouw Leijten (SP):

Omdat die datahandel al geregeld zou zijn, staat het er nu niet in. Als het nu al
geldt onder de AVG, waarom vindt het dan zo ontzettend vaak plaats, ook door de overheid?

Staatssecretaris Van Huffelen:

We hebben het hier over de digitale identiteit en de wallet. Daar staat in dat die
identiteitsgegevens van mensen, en dus de gegevens die in de kluis zitten, niet verhandeld
kunnen worden. Dat verhandelverbod is in combinatie met de verordening en de AVG dan
ook geregeld, want wij vinden het heel belangrijk dat bedrijven die zo'n wallet aanbieden
– overigens gaan wij dat als overheid ook zelf doen – die gegevens niet kunnen verhandelen.
Zoals ik al heb aangegeven: noch het feit dat je ergens hebt ingelogd, noch de data
zelf.

Mevrouw Leijten (SP):

Dan gaat het dus over bedrijven die het niet mogen verhandelen. Overheden mogen profielen
maken en mogen die eindeloos delen: dat is dus hoe ik het begrijp. Dat is nu al zo
en dat blijft zo? Want het is er niet in opgenomen. U verwijst naar de AVG, maar onder
de AVG vindt er nu natuurlijk van alles plaats waarvan we eigenlijk denken: zouden
we dat niet opnieuw moeten onderhandelen? Ik weet dat het een absolute no-go in Europa
is om opnieuw over de privacyverordening te gaan praten, maar u zegt dat het nu goed
geregeld is, dus dat het er niet in hoeft, terwijl we juist nu zien dat er zo ontzettend
veel misgaat.

Staatssecretaris Van Huffelen:

Even voor de helderheid: ook overheden mogen data van mensen niet verhandelen. Ze
mogen niet zomaar data aan elkaar koppelen. Dat is in de AVG verboden. U zegt dat
er voorbeelden zijn waaruit blijkt dat dat wel gebeurt. Dan moeten we ervoor zorgen
dat er beter wordt gehandhaafd, dat beter helder wordt wat wel en niet mag. U en ik
kennen elkaar van een ander dossier: gegevens van burgers mogen niet zomaar aan andere
instanties worden gegeven. Dat mag totaal niet, behalve als er een wettelijke grondslag
voor is. Zonder die grondslag moet het niet kunnen. Waar dat gebeurt, moeten we dat
heel hard aanpakken, want dat is precies wat er misgaat in sommige opzichten en waar
mensen, burgers, enorm veel last van hebben. Dat moet dus worden uitgeroeid. Dat is
eigenlijk in lijn met wat de Minister daar net ook al over zei.

De voorzitter:

De heer Bontenbal heeft nog een vraag.

De heer Bontenbal (CDA):

Om het goed te begrijpen: kun je «handelen» goed definiëren? Is er bijvoorbeeld een
duidelijk onderscheid te maken tussen het handelen met gegevens en het delen van gegevens?

De voorzitter:

«Verhandelen» bedoelt de heer Bontenbal.

Staatssecretaris Van Huffelen:

Het is beide niet mogelijk. Dus of je er nu wel of niet geld voor vraagt – als dat
een onderscheid zou zijn: in beide gevallen kan het niet zonder dat er expliciete
toestemming is van degene van wie die wallet is. Het gaat dus over het delen van de
gegevens of het verkopen van die gegevens. Beide kan niet. Punt.

De heer Bontenbal (CDA):

En wat gebeurt er op het moment dat dat soort organisaties of bedrijven een soort
analyse maken op basis van die data, en met die inzichten aan de slag gaan? Want je
kunt natuurlijk op een iets hoger abstractieniveau onwijs veel relevante data en inzichten,
die vaak ook heel nuttig zijn, verhandelen óf beschikbaar maken voor de samenleving
als geheel.

Staatssecretaris Van Huffelen:

Dat mag ook niet. De kern is dat eigenaren van wallets of degenen die wallets aanbieden,
geen combinaties mogen maken van gegevens die ze daarin verzamelen, al dan niet met
gegevens die ze al hebben. Dat mag niet.

De voorzitter:

Nog één laatste vraag.

De heer Bontenbal (CDA):

Even om het precies te begrijpen. Stel dat zo'n walletaanbieder een kaartje van Nederland
maakt en heel simpel aangeeft wat de intensiteit van het gebruik van die digitale
wallet per provincie is. Ik bedoel dus een heel simpel kaartje, met twaalf provincies
en kleuren voor hoeveel inwoners daar gebruik van maken. Mogen ze dat delen, ja of
nee?

Staatssecretaris Van Huffelen:

Nee, want ze mogen die inloggegevens niet gebruiken voor iets anders dan zorgen dat
iemand gewoon bediend wordt en z'n wallet kan gebruiken. Die wallet mag dus niet zomaar
voor allerlei andere dingen worden gebruikt, ook al zijn die geabstraheerd van de
personen.

De voorzitter:

Er was ook nog een interruptie van de heer Ceder. Of hoeft dat niet meer?

De heer Ceder (ChristenUnie):

Ik had gevraagd in hoeverre er aan de eis van vrijwilligheid is voldaan. Ik ben blij
met de stappen die qua overheid zijn gezet en dat er een alternatief moet zijn. Dat
is mooi. In onze motie vroegen we in z'n algemeenheid ook naar bedrijven, juist ook
omdat bedrijven een heel belangrijke functie kunnen hebben. Het zijn geen overheden
maar ze kunnen de facto wel bijna als overheidsdienst functioneren. Daar lees ik weinig
over, waardoor je er in de praktijk met dit voorstel dus wel degelijk via bedrijven
op kan aansturen om hiervan gebruik te maken, waardoor de vrijwilligheid in het gedrang
komt. Is de Staatssecretaris dat met me eens? Dat is ook een onderdeel van de motie.
We vroegen namelijk niet alleen maar om dat op overheidsniveau maar ook qua bedrijven
te kunnen garanderen. Dat mis ik. Mijn vraag is of de Staatssecretaris het met mij
eens is dat er op dat punt wat uitdagingen zijn.

Staatssecretaris Van Huffelen:

Ik ben het met u eens. Er zijn bedrijven – dat hebben we vorige keer in het debat
ook zo gewisseld – die behoren tot de zogenaamde «zeer kritische partijen». Dan hebben
we het bijvoorbeeld over banken of energiebedrijven. Het zijn in ieder geval bedrijven
waar in feite iedere Nederlander mee te maken heeft. Mocht het nou zo zijn dat die
ervoor gaan kiezen om alleen nog maar digitaal zaken te doen met hun klanten, dan
wil ik daar niet alleen het debat over aangaan met hen, maar ook kijken hoe we dat
juridisch kunnen regelen. Deze verordening regelt dat niet, maar ik vind het wel van
belang. Er is natuurlijk een keuzevrijheid voor bedrijven, aanbieders van welke producten
dan ook, om te interacteren met hun klanten op de manier waarop zij denken dat het
beste is. Ik vind het wel van belang dat het altijd mogelijk blijft voor mensen om
met die grote, cruciale partijen – dan hebben we het over banken, energiebedrijven,
enzovoorts – zaken te doen. Daar wil ik vanuit mijn rol en samen met het kabinet op
blijven inzetten. Het is volgens deze verordening niet verboden om dat te doen, maar
ik denk dat het wel een ander soort vraagstuk is wat je dan doet met de identiteit.

De heer Ceder (ChristenUnie):

Mijn zorg is dat overheden onvoldoende grip hebben op bedrijven om die ertoe aan te
zetten om alternatieven te blijven presenteren. Ik vraag mij toch af waarom het niet
gelukt is om landen te overtuigen. Was het de lobby van het bedrijfsleven? Waren er
overheden die dat niet zagen zitten? Hebben wij te weinig ingebracht? Ik kan gewoon
niet begrijpen waarom dat aspect is weggevallen, terwijl het voor ons heel wezenlijk
is. Sommige bedrijven – dan heb ik het niet over het mkb, maar over de grotere bedrijven
– zijn zo groot dat als zij specifiek zeggen dat je alleen op een bepaalde wijze gebruik
mag maken van hun diensten, ik het ten zeerste betwijfel of vrijwilligheid nog een
feit is. Kunt u even iets over dat proces zeggen en waar het op is stukgelopen? Waarom
moeten bedrijven – volgens mij is dat een redelijk verzoek – ook niet gewoon vrijwilligheid
kunnen garanderen en wordt dat niet in de tekst vastgelegd?

Staatssecretaris Van Huffelen:

Je hebt het over een erg groot scala aan bedrijven. Dat is ook de discussie. Je hebt
het over energiebedrijven, dus bedrijven die diensten leveren waar eigenlijk iedere
burger mee te maken heeft, maar het zou ook kunnen gaan over veel kleinere bedrijven,
bijvoorbeeld een bedrijf dat op internet kinderkleding verhandelt of tweedehands dingen.
Om hen allemaal te dwingen om ook op een niet-digitale manier zaken te doen met hun
klanten is een te vergaande stap in deze verordening. Dat laat onverlet dat ik uw
zorg deel. Het is heel belangrijk dat juist bedrijven waar iedereen van afhankelijk
is, of het nou gaat over banken of over energiebedrijven, ook die dienstverlening
blijven bieden. Het moet mogelijk blijven voor mensen om dat zo te doen. Daar wil
ik toezicht op houden om te kijken of dat blijft bestaan en of dat goed gaat. Ik wil
daar een juridische basis voor proberen te creëren. Ik heb dat nu nog niet geregeld,
maar in deze onderhandelingen is het als veel te vergaand gezien door vele lidstaten
om dit ook voor bedrijven te regelen die vooral bestaan op basis van digitaal zakendoen.

De voorzitter:

De Staatssecretaris gaat verder met haar betoog.

Staatssecretaris Van Huffelen:

Dan de vraag van mevrouw Rajkowski over de socialemediakoppeling. Zij vroeg of er
geen accounts worden gekoppeld aan de wallet. Dat is het geval. Dat gebeurt dus niet.

Mevrouw Rajkowski had ook een vraag over de combinatie van diensten. Daar heb ik al
iets over gezegd, namelijk dat dat niet anders kan dan wanneer mensen dat expliciet
willen.

De heer Bontenbal had een vraag over leeftijdsverificatie, namelijk of er andere oplossingen
zijn dan via het eIDAS-systeem. Die zijn er wel en die willen we de komende tijd gaan
inventariseren. De Europese Commissie is daar hard mee bezig in het kader van de «Better
Internet for Kids»-strategie. Zijn vraag was of ik een brief kan sturen over wat we
daar aan het doen zijn. Dat zeg ik hierbij toe, want dit is nog wel een probleem.
Kinderen kunnen nu veel te makkelijk online zeggen dat ze 18-plusser zijn en vervolgens
gebruikmaken van diensten en inzage hebben in content die niet gewenst is. Ik vind
dat het van belang is dat we niet alleen maar samen met de Europese Commissie, zoals
we nu al doen, gaan kijken naar hoe we dat kunnen regelen, maar ook dat we dat op
een manier doen die ook buiten de wallet mogelijk is.

De voorzitter:

De heer Bontenbal wil dit even inkoppen.

De heer Bontenbal (CDA):

Voorzitter, dank voor deze subtiele aankondiging. Dank voor de toezegging. Wat bij
betreft gaat de brief niet alleen over die leeftijdsverificatie, maar ook over wat
dit kabinet gaat doen om kinderen te beschermen bij digitale technologieën en op internet.

Staatssecretaris Van Huffelen:

Daar staat iets over in de werkagenda, namelijk dat we daarmee aan het werk gaan.
Ik maak een brief die breder gaat, maar daar komt het onderwerp leeftijdsverificatie
dus ook in terug. De brief gaat dus ook over uw vraag over de lootboxes en andere
punten die van belang zijn.

De voorzitter:

De Staatssecretaris gaat verder.

Staatssecretaris Van Huffelen:

Ik ga door naar de vraag die mevrouw Leijten stelde, namelijk waarom wij voorop willen
lopen met het maken van die Nederlandse wallet. Eigenlijk is onze belangrijkste reden
daarvoor dat we het belangrijk vinden dat wij de toon zetten in het debat in Europa,
om te zorgen dat de zorgpunten die door haar en ook door andere leden van de Kamer
zijn genoemd – vrijwillig gebruik van bsn, verhandelverboden, dataconcentratie, transparantie,
open source – ook daadwerkelijk worden geregeld. Het is juist van belang dat we, als
we zo'n wallet gaan introduceren, ervoor zorgen dat die ook voldoet aan die standaarden
zodat de mensen die er gebruik van willen maken, weten dat ze dat veilig kunnen doen.

Ik realiseer me dat ik nog niet voldoende ben ingegaan op de vragen over open source.
Daar was ik net aan begonnen. Wij hebben een discussie, een vrij indringende discussie,
gehad over dat onderwerp. In de verordening is nu aangegeven dat het vrijstaat om
open source te introduceren. Dat gaan wij als lidstaat ook doen, want wij vinden open
source heel erg belangrijk. Een aantal lidstaten had daar moeite mee, vooral omdat
de dienstverlening die zij op dit moment al hebben, niet open source is en ze het
een te vroeg moment vinden. Wij vinden het wel van belang en wij gaan het ook introduceren,
zodat de wallets die we hier gaan toestaan, ook voldoen aan die opensourcecriteria.

De heer Ceder (ChristenUnie):

Het gevolg hiervan is dat Nederlandse burgers die binnen een EU-markt opereren, er
wel degelijk de nadelen van kunnen ondervinden zodra ze met een bedrijf, dienst of
overheid in aanraking komen die geen open source beschikbaar stelt.

Staatssecretaris Van Huffelen:

Als die burgers gewoon gebruikmaken van een Nederlandse wallet, een in Nederland toegestane
wallet, hebben ze daar geen nadeel van. Zij kunnen gewoon werken met een wallet die
wij maken, die op opensourceprincipes is gebaseerd. Dat hebben we ook afgesproken,
in het kader van de WDO enzovoorts, enzovoorts. Het idee is nou juist dat we dat wel
regelen. Dus wij zorgen ervoor dat mensen gewoon gebruik kunnen maken van een wallet
die open source is, die door een community wordt beheerd, gecheckt en verbeterd. Punt.

De voorzitter:

Ik wil de leden en het kabinet er even op attent maken dat het één minuut voor twaalf
is. Is de Staatssecretaris bijna zover? Ik hoor haar zeggen dat er nog vijf keer één
vraag is. Ik heb gehoord dat we eventueel wel een beetje kunnen uitlopen. Is dat oké?
Ik zie mensen nee schudden.

Staatssecretaris Van Huffelen:

Ik zal proberen om het staccato te doen. Ik weet natuurlijk niet welke vragen er nog
vanuit de Kamer zijn.

Een vraag van Volt is wat we vinden van de EP-amendementen. Het lijkt erop dat één
amendement een meerderheid gaat krijgen, maar de discussie, het debat, in het parlement
is natuurlijk nog gaande. Dat gaat over het verbod op biometrische identificatie.
Wij vinden dat een totaalverbod wel heel erg ver gaat. Wij zouden graag ruimte willen
houden voor uitzonderingen, maar het is natuurlijk aan het Europees Parlement om daarover
te stemmen.

De voorzitter:

Mevrouw Koekkoek, toch nog.

Mevrouw Koekkoek (Volt):

Ja, sorry. Ik zou graag heel specifiek nog iets willen horen over het uitbreiden van
die EU-database voor highrisksystemen.

Staatssecretaris Van Huffelen:

Dat voorstel steunen we. Ik heb mij daar ook hard voor gemaakt in de Raad. Punt.

Een vraag van fractie van D66 was of het mogelijk is om het register, de impactassessment
mensenrechten en de toezichthouder eerder wettelijk te regelen. Die mogelijkheid zou
er alleen zijn als wij iets anders gaan regelen dan we in de EU willen regelen. Ik
wil juist zorgen dat we dat in die AI-verordening in Europa regelen. Los daarvan werken
we nu aan een nationaal algoritmeregister, een toezichthouder en een implementatiekader.
Daarover wordt u binnenkort geïnformeerd, namelijk voor het einde van dit jaar. Mijn
collega heeft de antwoorden gegeven op de vragen over veiligheid. Dan ga ik naar het
CAI-verdrag, dus het verdrag van de Raad van Europa. De vraag was of de Europese Commissie
namens de lidstaten gaat onderhandelen. Er is inmiddels afgesproken dat ze dat niet
gaat doen. Zij zit aan tafel, maar wij zitten ook aan tafel. Dat wilden we heel graag
vanuit Nederland en dat hebben we voor elkaar gekregen. Wat mij betreft is dat heel
belangrijk, niet in de laatste plaats omdat juist dit verdrag ertoe zou kunnen leiden
dat we, wat we in Europa regelen op het gebied van regulering van algoritmes en AI,
ook in een veel bredere context zouden kunnen regelen wereldwijd, met name met de
Verenigde Staten. Ik ben er dus groot voorstander van dat dit verdrag er komt. Uiteraard
moet het voldoen aan onze vereisten. Daarom is het fijn dat we zelf aan tafel zitten
en niet alleen de Europese Unie namens de lidstaten spreekt. Er was ook nog de vraag
of wij daar dingen in willen zien die er niet in staan. We willen vooral zorgen dat
het thema van de mensenrechten hier goed in wordt verankerd.

Ik ga door naar de vragen over Better Internet for Kids. Volgens mij heb ik daar al
iets over gezegd, namelijk dat die brief er komt. Daar laat ik het even bij.

De voorzitter:

Mevrouw Koekkoek heeft toch nog een vraag.

Mevrouw Koekkoek (Volt):

Ja, want die zat ook in dat stukje. Mijn vraag was wat de appreciatie is van de European
Data Protection Board.

Staatssecretaris Van Huffelen:

Die gaan wij overnemen.

Dan nog even over de verklaring over digitale rechten en beginselen. Die is inmiddels
gepubliceerd. Wij ondersteunen dat heel erg. Het belangrijkste daarbij is dat we ervoor
gaan zorgen dat dat ook het kader wordt – het is alleen een kader, geen wet – voor
alle regelgeving op het gebied van digitalisering in de EU en dat dat aansluit bij
onze verordeningen. We hebben overigens een behoorlijke hoeveelheid punten kunnen
realiseren in de onderhandelingen om die digital rights and principles daadwerkelijk
aan te vullen.

Mevrouw Leijten had nog een vraag over de geautomatiseerde besluitvorming. Er is net
al iets over gezegd, maar ik wil daar graag mee eindigen. De AVG regelt dat geautomatiseerde
besluitvorming nooit kan plaatsvinden zonder dat er menselijke tussenkomst is en transparantie.
Dat is precies wat wij al eerder met elkaar hebben besproken, namelijk dat het zo
ontzettend belangrijk is en dat het nooit zo kan zijn dat een algoritme in z'n eentje
een besluit neemt zonder dat er sprake is van menselijke tussenkomst.

Mevrouw Leijten (SP):

Ik weet niet in hoeveel debatten ik dit nu al gevraagd heb, maar ik denk dat ik er
nu maar gewoon een motie op ga indienen. Het gaat erom dat het kenbaar is voor mensen
die een besluit voor hun kiezen krijgen. Het gaat dus niet om een klachtenregeling.
Het gaat niet over toezicht bij het maken. Het gaat niet over een mensrechtentoets,
over of het wel kan. Het gaat niet over hoog of laag risico. Het gaat gewoon over:
mevrouw Leijten, u krijgt deze reclame of u krijgt dit besluit om dat dit en dit en
dit aan data van u bekend is. Dat is wat gevraagd wordt en dat is ook waar Bits of
Freedom zich zo'n zorgen over maakt. Als je dat niet weet, kan er namelijk van alles
gebeuren met jouw data, met jouw profiel op internet. Dat kan ook een verkeerde route
zijn, waar je dus geen zeggenschap meer over hebt. Ik wil dus echt graag dat de Staatssecretaris
daar nu op ingaat. Als dat nog niet de koers is van Nederland, zou ik graag willen
dat die het wordt en dat die actief wordt ingebracht in de discussies in Europa. Dit
is ook al anderhalf jaar geleden geadviseerd door onze Raad van State.

Staatssecretaris Van Huffelen:

Even voor de helderheid. We willen sowieso dat dit geregeld wordt voor de Nederlandse
overheid. Dus niet alleen maar dat het, als je bijvoorbeeld een aanvraag doet voor
een subsidie, helder is op basis waarvan de besluiten worden genomen, maar ook dat,
als er AI aan te pas komt, hoe die wordt ingezet, welke gegevens worden gebruikt,
waar die gegevens vandaan komen enzovoort, enzovoort, enzovoort. Dat geldt dus ook
als een besluit is genomen met behulp van AI. Dus voor de Nederlandse overheid gaan
we dat sowieso regelen. Ik vind het zeker van belang om dat ook mee te nemen naar
Europa, omdat het inzicht biedt in hoe iemand voor jou een besluit heeft genomen of
hoe iemand gekomen is tot de afweging om iets wel of niet toe te kennen. Voor de Nederlandse
overheid gaan we dat dus sowieso doen. Dat is ook opgenomen in onze werkagenda voor
digitalisering.

Mevrouw Leijten (SP):

Dat is dan in ieder geval een stap in de goede richting, maar het is niet geregeld
in het besluit dat nu voorligt in de EU. Dus wat gaat Nederland daarin doen, in die
situatie?

Staatssecretaris Van Huffelen:

Dit besluit gaat niet over hoe overheden besluiten maken. De eIDAS-verordening en
de AI-verordening hebben een ander oogmerk. De eIDAS-verordening gaat niet over hoe
een overheid besluiten maakt, maar over Europese identiteit en identificatie. In de
AI ACT – daar kan de Minister nog wat meer over zeggen – staat weliswaar transparantie
als beginsel, maar misschien is het goed om nog iets meer te vertellen over hoe dat
verder doorwerkt in het kenbaar maken van besluitvorming.

Mevrouw Leijten (SP):

Maar toen ik het net aan de Minister vroeg, werd dit doorgeschoven naar de Staatssecretaris.
Ik vind dat een beetje ingewikkeld. Ik ga hierover een motie indienen. Ik denk dat
dat het beste is. We zien om 14.30 uur of 15.00 uur, of wanneer het tweeminutendebat
dan ook is, wel hoever we elkaar kunnen naderen.

De voorzitter:

De Staatssecretaris gaat verder met haar beantwoording. Hebben de leden behoefte...
Mevrouw Leijten.

Mevrouw Leijten (SP):

Er is een belangrijke vraag gesteld: wat gaat er gebeuren als Nederland er niet mee
akkoord gaat? Hoe ziet dat er dan precies uit?

Staatssecretaris Van Huffelen:

Nederland kan er niet zomaar niet mee akkoord gaan. Ik heb begrepen dat er in zeer
uitzonderlijke gevallen weleens opt-outs zijn geweest, maar ik zie daar op dit moment
geen reden toe. Ik heb net toegelicht op welke punten van zorg die u heeft aangegeven,
wij stappen hebben gezet in het kader van deze eIDAS-verordening. We hebben aangegeven
hoe we omgaan met privacy, met open source, met vrijwilligheid enzovoorts enzovoorts
enzovoorts. Op basis van de punten die u eerder heeft genoemd, die zeer terecht waren
en die wij ook hebben meegenomen in de verordeningen, hebben wij belangrijke resultaten
gehaald. Wij zien op dit moment geen reden om uit deze verordening te stappen. Overigens
kan een opt-out ook niet bij verordeningen. Ik heb begrepen dat dat alleen in hele
bijzondere gevallen gebeurt bij verdragen, zoals het Schengenverdrag.

Mevrouw Leijten (SP):

Volgens mij is dat niet zo. Daar kunnen we nog heel lang over spreken, maar dat is
gewoon niet zo. Je kunt ook bij een verordening zeggen: hier doen we niet aan mee.
Maar je kunt natuurlijk ook de Raadsconclusies opschorten en zeggen: we zijn nog niet
klaar om ze aan te nemen. Je kunt er ook een aanhangsel in zetten dat de Nederlandse
positie helder maakt op verschillende punten. Als ik dit langs de moties leg die wij
in de afgelopen jaren hebben ingediend op dit punt, dan zie ik dat de regering veel
verder gaat dan de Kamer wil. Ik vind het ook een beetje raar... Misschien moet ik
het verpakken in een vraag: heeft de Staatssecretaris zich in de aanloop naar dit
debat gerealiseerd dat de Kamer weleens iets anders zou kunnen willen dan meegaan
in de Raadsconclusies? Heeft zij uitgezocht, ook juridisch, wat de positie is van
Nederland op dit moment? Hebben de sherpa's, die de onderhandeling deden, het signaal
afgegeven dat het Nederlands parlement hier in de afgelopen jaren anders in heeft
gezeten? Met andere woorden, is er ruimte gecreëerd om een andere positie in te nemen
dan wel een aanhangsel toe te voegen waaruit blijkt dat de positie van Nederland anders
is?

De voorzitter:

Dat is een duidelijke vraag.

Staatssecretaris Van Huffelen:

Mevrouw Leijten gaat ervan uit dat de positie van de Nederlandse regering en die van
het Nederlands parlement van elkaar verschillen, maar dat is niet zo. De zorgen die
u heeft aangegeven in eerdere debatten die we met elkaar hebben gevoerd, worden ook
gedeeld door de regering. We hebben die met heel veel kracht en aandacht meegenomen
in de onderhandelingen in Brussel. Daarom zijn we blij dat we zijn waar we nu zijn
met deze verordening. We hebben het mogelijk gemaakt dat datgene wat u zo belangrijk
vond, ook geregeld is. Denk bijvoorbeeld aan één Europese bsn en voldoende waarborgen
voor open source en verhandelverboden. We zijn juist heel erg hard aan het werk gegaan
met datgene wat u wilt. We hebben aangegeven, ook in onze brief aan u, dat wij in
datgene wat er nu is, in deze verordening, voldoende waarborgen zien voor de wensen
van het Nederlands parlement.

De voorzitter:

We zijn gekomen aan het einde van de eerste termijn van het kabinet. Ik wil de leden
vragen of ze behoefte hebben aan een tweede termijn. Dat is het geval. Dan gaan we
gewoon beginnen. In de tweede termijn krijgt elke fractie één minuut, als we daar
nog tijd voor hebben. De heer Ceder.

De heer Ceder (ChristenUnie):

Voorzitter. Dan houd ik het kort. Ik begrijp dat de Staatssecretaris haar inzet heeft
gepleegd in Europa. Dat waardeer ik, maar er ligt wel een resultaat waartoe we ons
ook als Kamer moeten verhouden: in hoeverre is dit voldoende? Ik heb een aantal positieve
punten van de Staatssecretaris gehoord, bijvoorbeeld dat opensourcetechnologie geen
nadeel hoeft te zijn voor Nederlandse burgers. Ik maak me nog wel erg veel zorgen
over bijvoorbeeld de vrijwilligheid, ook omdat dit bij bedrijven wat ons betreft in
de praktijk wel kan leiden tot onvrijwilligheid. Ik vraag me ook af waarom het verhandelverbod,
ook al kan dat op een andere manier uitgelegd worden, niet alsnog in de tekst is opgenomen.
Er leven dus nog wel wat zorgen. Ik vraag me ook oprecht af of het voorstel rijp is.
Daar ga ik me op beraden. Ik zou dus een tweeminutendebat willen aanvragen, zodat
we hier nog even over kunnen nadenken en ook met de andere Kamerleden kunnen afstemmen,
want dit is een groot voorstel en ik maak me nog steeds zorgen over waar we nu staan.

De voorzitter:

Dank. Dan geef ik nu het woord aan mevrouw Koekkoek van Volt.

Mevrouw Koekkoek (Volt):

Dank, voorzitter. Ik zou nog even terugkomen op transmitted data. Daar ga ik nu dus
nog even op in. Zoals ik het nu begrepen heb, ligt er in de Data Act een voorstel
om verschillende vormen van data te definiëren: wat is «opgehaald», wat is «verwerkt»,
et cetera? In mijn optiek is dat best ingewikkeld. Daar komen die transmitted data
vandaan. Neem het voorbeeld van zo'n windmolen: ja, er worden data opgehaald, maar
er worden ook data verwerkt en gedeeld. Dan zou je dus onderscheid moeten gaan maken.
Ons voorstel is om dat samen te pakken, zodat je ook de data die vervolgens gedeeld
worden – dus hoeveel energie is er opgewekt – onder de Data Act schaart. We hebben
straks natuurlijk nog een tweeminutendebat. Daar kunnen we dus nog even over schakelen
en doorpraten.

De voorzitter:

Dank. Dan geef ik nu het woord aan mevrouw Rajkowski van de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Allereerst ook dank voor de beantwoording over het sectoraal toezicht
op de AI. Daar zijn we erg blij mee en daar horen we te zijner tijd graag meer over.

Over de zeekabel, de Far North kabel: het is jammer, maar als de Noordzee te druk
en te ondiep is, kunnen we eigenlijk niet zo veel. Het is natuurlijk wel een punt
waarover wij ons continu zorgen blijven maken, maar ik wil de Minister bij dezen wel
complimenteren voor haar inzet op dit punt, want ik hoor veel geluiden dat er druk
overlegd wordt, ook over het zeekabelbeleid, dat volgens mij volgend jaar naar de
Kamer komt. Dus alvast dank daarvoor.

Over de digitale Europese identiteit vond ik de beantwoording van de Staatssecretaris
heel helder.

Daar laat ik het bij.

De voorzitter:

Mevrouw Leijten van de SP.

Mevrouw Leijten (SP):

Voorzitter. Ik vind het nu gesloten compromis over de Europese identiteit eerlijk
gezegd niet voldoende. Dat gaat voornamelijk over de bescherming van het niveau en
de mogelijkheden om toch nog af te wijken en wel naar één bsn-nummer te gaan. Ik vind
het dan echt te dun om te zeggen dat de verhandelbaarheid al in de AVG is opgenomen,
terwijl er onder de nu in Nederland geldende AVG echt van alles gebeurt wat wij allemaal
niet willen. Ik verbaas me erover dat de Staatssecretaris zich blijkbaar niet heeft
vergewist van het feit dat er ook nog andere scenario's zouden kunnen zijn die uit
de Kamer komen. Ik ben daar dus echt enorm verbaasd over. Ik zou het liefst zien dat
dit niet klaar is en dat we er niet maar op moeten hopen dat het Europees Parlement
in tegenstelling tot de lidstaten zijn werk wel doet. Ik ga me beraden op de tekst
van de motie of nog even kijken wat meneer Ceder wil doen, maar ik maak me hier erg
veel zorgen over.

Ik vind ook het antwoord over de digitale rechten en beginselen van het digitale decennium
een beetje dun. Ik zou graag meer van de Staatssecretaris willen weten over de stand
van zaken daarvan en de juridische implicaties daarvan, want als daar wel degelijk
heel veel van Nederland in zit wat wij daar hebben bereikt, ben ik daar ook zeer verbaasd
over. Het is immers in maart gepubliceerd. Hoe heeft dat dan in de afgelopen tijd
zijn gang gehad?

De voorzitter:

Dank u wel. Bij dezen geef ik het voorzitterschap aan mevrouw Leijten.

Voorzitter: Leijten

De voorzitter:

Dan is het woord voor de tweede termijn aan mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank aan het kabinet voor de beantwoording. D66 maakt zich nog steeds
zorgen over de uitzonderingen van de AI Act, want we hoorden de Minister zeggen dat
er via nationale wetgeving het een en ander geregeld wordt. Dat klopt alleen op het
gebied van gezichtsherkenning, maar het klopt niet op het gebied van een register.
Wij zijn dus nog steeds van mening dat die uitzonderingen in law enforcement voor
het registreren van algoritmes op z'n zachtst gezegd nog steeds niet wenselijk zijn.
Ik wil dus wel een antwoord van de Minister: wat kan daarmee gedaan worden?

Mijn tweede vraag gaat over de standaarden en de mate van beveiliging van AI in Nederland.
Als wij hier strenger toezicht willen houden en reguleren op mensenrechten op het
punt van AI, kan dat dan als de AI Act straks geldig is?

Dank u wel.

Voorzitter: Dekker-Abdulaziz

De voorzitter:

Ik pak dan gelijk het voorzitterschap weer terug. Heeft het kabinet een schorsing
nodig? Ja, ik schors voor een paar minuten.

De vergadering wordt van 12.17 uur tot 12.20 uur geschorst.

De voorzitter:

Ik geef het woord aan de Minister van Economische Zaken.

Minister Adriaansens:

Voorzitter. Laten we even kijken hoever we komen. Allereerst de vraag van mevrouw
Koekkoek over het zoeken van een definitie van die data. Dank voor het scherp houden
hierop, want het voorbeeld van die windmolen is inderdaad heel visueel. Daarmee wordt
duidelijk waar het over gaat, namelijk over de sensoren die bijvoorbeeld onderhoudsgegevens
verkrijgen en die die gegevens ook weer delen, soms ten behoeve van anderen, om daarmee
het onderhoud te doen. Ik begrijp die vraag. Er wordt nog hard gewerkt. Er is nog
een discussie in de Raad over die definities. Ons voorstel is om deze verdieping mee
te nemen in die discussie, dan te kijken wat daaruit komt en dan te bezien of verbeteringen
nodig zijn. Het is niet zo dat wij er anders in zitten. Ik ben dus blij met de aanvulling.
Dat is dus mijn reactie in de richting van mevrouw Koekkoek. We moeten dan gewoon
goed in de gaten houden of dit op een goede manier wordt verwerkt.

De tweede vraag waar ik op inga, betreft de uitzonderingen in law enforcement, waar
met name D66 naar vroeg. De vraag was ook of het register dan van toepassing is, omdat
ik aangaf dat de andere wettelijke kaders dan gelden. Ik moet eerlijk zeggen dat dat
toch te veel specifiek JenV is. Ik zal die vraag dus doorgeleiden naar de Minister
van Justitie en Veiligheid, in de verwachting dat zij daar dan nog op terugkomt.

De andere vraag ging over de standaarden, de beveiliging en de mensenrechten: hoe
houd je er toezicht op dat dat overal op een goede manier gebeurt? Ik denk dat het
heel belangrijk is dat wij in Nederland ons toezicht heel sterk, scherp en stevig
inrichten. Daar is de ambitie ook volledig op gericht, maar de zorg zit natuurlijk
breder: hoe doe je dat in Europa? Daar is die board ook echt voor bedoeld. Die zal
adviezen geven. Ik ga ervan uit dat die adviezen openbaar zijn, zodat wij in de gaten
kunnen houden of dat voldoende gebeurt.

Dank.

De voorzitter:

Dank voor de beantwoording. Ik zie geen vragen. We gaan dus door naar de Staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Over de vraag die mevrouw Leijten stelde over het niveau van
de bescherming: in de eIDAS-verordening wordt gezegd dat wij toewerken naar het hoogste
niveau van bescherming, en dat is ook precies wat wij graag willen. Er is wel een
lidstaat die heeft gevraagd om daar een soort ingroeimodel voor te hebben, en dat
sluit eigenlijk aan bij vragen die mevrouw Leijten eerder heeft gesteld, bijvoorbeeld
over het beschermingsniveau van DigiD, namelijk om het voor burgers mogelijk te maken
om ook met een hoger niveau van bescherming te werken zonder dat je bijvoorbeeld een
smartphone te hebben of, als je die niet hebt, dit of dat, enzovoorts, enzovoorts.
Wij gaan dus naar dat hoogste niveau, maar dat kent een ingroeimodel.

Mevrouw Leijten heeft een terecht punt: er is een AVG-wet, maar niet iedereen in Nederland
houdt zich daaraan, of het nou gaat om bedrijven of om de overheid. Dat is natuurlijk
zeer kwalijk, maar in ons perspectief helpt het dan niet om nog meer regels op te
schrijven. In ons perspectief werkt het als we zorgen dat we handhaven, zodat mensen
zich houden aan die regels, zeker als het gaat om kwetsbare personen of personen in
kwetsbare posities. Juist daar willen we goed toezicht invoeren en versterken. Dit
kabinet heeft er ook voor gekozen om de AP te versterken. Zeker in combinatie met
de Europese verordening, waar meerdere toezichthouders een rol bij spelen, kunnen
we dat goed introduceren.

U stelde nog een vraag over de verklaring over de digitale rechten en beginselen,
die gepresenteerd is op 14 november, vorige week dus. Die verklaring over digitale
rechten en principes en beginselen voor het digitale decennium is een verklaring die
zorgt dat juist de door ons ook zo belangrijk gevonden waarden de context vormen voor
de regelgeving. Het kabinet heeft in de onderhandelingen gezegd dat het belangrijk
is dat we dat ook steeds blijven monitoren en dat de universele mensenrechten daarin
expliciet zijn opgeschreven en in de wetgevingsvoorstellen moeten worden vertaald.

Dan de vraag wat de juridische positie is van Nederland als het gaat om de eIDAS-verordening.
We hebben niet de mogelijkheid van een opt-out. We kunnen er ook niet zomaar uitstappen
en het daarmee tegenhouden, want hier wordt gewerkt met een gekwalificeerde meerderheid.
Dat betekent dat meerdere lidstaten ertegen zouden moeten zijn. Dat is op dit moment
niet het geval. Uiteraard kunnen wij de punten die wij niet of niet volledig hebben
gerealiseerd sterker meenemen in de discussies van het Europees Parlement, maar met
alles wat wij in de verordening hebben kunnen regelen, vinden wij dat wij in de balans
van de dingen die we wel en de dingen die we niet hebben gehaald, meer dan voldoende
hebben geregeld om te bewaken dat de digitale identiteit die Nederlanders kunnen gebruiken
als ze dat willen ook echt voldoet aan de vereisten die wij met elkaar, u als Nederlands
parlement en wij als regering, hebben vastgesteld voorafgaand aan de onderhandelingen.

Dank u wel, voorzitter.

De voorzitter:

Ik zie dat mevrouw Leijten een vraag heeft.

Mevrouw Leijten (SP):

Over die verklaring over de digitale rechten en beginselen hebben wij een BNC-fiche
ontvangen in maart. Dat was een concept. Is dan nu de definitieve verklaring gepubliceerd?

Staatssecretaris Van Huffelen:

Ja.

Mevrouw Leijten (SP):

Oké. Maar wat is dan precies de onderhandelingspositie van Nederland geweest? Want
in die BNC staat daar niks over. Het hoeft niet per se nu, de Staatssecretaris kan
dat misschien in het verslag meenemen. Ze zegt: dit gaat ook in wetgeving en noem
maar op. Ik ben benieuwd wat hier precies de juridische consequenties van zijn en
wat hierin de positie van Nederland is geweest. Daar ben ik wel benieuwd naar, want
het kwam voor mij een beetje als een verrassing.

Staatssecretaris Van Huffelen:

Het korte antwoord is dat het een beginselverklaring is, en niet wetgeving. Maar het
heeft wel degelijk consequenties, want het is bedoeld als contour waarin de Europese
regeling wordt vormgegeven. Maar ik kom daar heel graag schriftelijk op terug. Dan
kunnen we iets meer toelichten hoe dat proces is gelopen, welke elementen daarin zitten
en wat de resultante is geweest van de gesprekken en de onderhandelingen die we vanuit
Nederland hebben gevoerd.

De voorzitter:

Ik zie mevrouw Leijten een beetje vragend kijken, maar ik wil eigenlijk deze vergadering
beëindigen. Ik wil aan kabinetszijde de Minister en Staatssecretaris bedanken voor
de beantwoording. We hebben een aantal toezeggingen. Er is een tweeminutendebat aangevraagd
door de heer Ceder. Die is gepland voor vandaag, om 14.30 uur. Morgen stemmen we over
de moties.

Ik heb drie toezeggingen:

– Aan de heer Bontenbal is toegezegd dat de Staatssecretaris een brief stuurt over het
beschermen van kinderen tegen digitale technologie en het beschermen van kinderen
op internet.

De vraag is wanneer.

Staatssecretaris Van Huffelen:

Begin volgend jaar, zou ik zeggen. Maar zo snel mogelijk.

De voorzitter:

Begin volgend jaar. Dat gaan we opschrijven.

– Een toezegging aan mijzelf door de Minister: de Minister van JenV zal de vragen over
de uitzonderingen van de law enforcement en registers beantwoorden.

– Een toezegging aan mevrouw Leijten: de Staatssecretaris komt schriftelijk terug op
de verklaring digitale rechten en beginselen en de positie van Nederland.

Ook hier weet ik niet wanneer.

Staatssecretaris Van Huffelen:

In het verslag.

De voorzitter:

Oké. Dan dank ik iedereen voor de bijdrage en sluit ik de vergadering. We zien elkaar
om 14.30 uur.

Sluiting 12.27 uur.