Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 24 november 2021, over Telecomraad (formeel) d.d. 3 december 2021

Nr. 898
VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 14 december 2021

De vaste commissie voor Digitale Zaken heeft op 24 november 2021 overleg gevoerd met
de heer Blok, Minister van Economische Zaken en Klimaat, over:

– de brief van de Minister van Economische Zaken en Klimaat d.d. 18 november 2021 inzake
geannoteerde agenda formele Telecomraad 3 december 2021 (Kamerstuk 21 501-33, nr. 885);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 12 oktober 2021 inzake
antwoorden op vragen commissie over onder andere de informele Telecomraad d.d. 14 oktober
2021 (Kamerstuk 21 501-33, nr. 877);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 15 oktober 2021 inzake
antwoorden op vragen commissie inzake fiche: Verordening betreffende kunstmatige intelligentie
(Kamerstuk 22 112, nr. 3221);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 15 oktober 2021 inzake
reactie op verzoek commissie over de brief van het Rathenau Instituut inzake «Zeven
aandachtspunten voor de AI-verordening» van Rathenau Instituut (Kamerstuk 22 112, nr. 3222);

– de brief van de Minister voor Rechtsbescherming d.d. 18 oktober 2021 inzake kabinetsreactie
op het bericht in de Volkskrant over de EDPB/EDPS-opinie betreffende de AI-verordening
(Kamerstukken 32 761 en 22 112, nr. 198);

– de brief van de Minister van Buitenlandse Zaken d.d. 29 oktober 2021 inzake Fiche:
Beleidsprogramma 2030: Weg naar een Digitaal Decennium (Kamerstuk 22 112, nr. 3238);

– de brief van de Minister van Economische Zaken en Klimaat d.d. 11 november 2021 inzake
verslag informele Telecomraad VTC 14 oktober 2021 (Kamerstuk 21 501-33, nr. 882).

Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De fungerend voorzitter van de commissie, Leijten

De griffier van de commissie, Boeve

Voorzitter: Van Weerdenburg

Griffier: Van Tilburg

Aanwezig zijn vier leden der Kamer, te weten: Dassen, Van Ginneken, Rajkowski en Van
Weerdenburg,

en de heer Blok, Minister van Economische Zaken en Klimaat.

Aanvang 10.03 uur.

De voorzitter:

Goedemorgen allemaal. Ik open deze vergadering van de vaste commissie voor Digitale
Zaken. Aan de orde is vandaag een commissiedebat over de formele Telecomraad van 3 december
2021. Ik heet welkom de Minister van EZK, de heer Blok, evenals de leden: mevrouw
Rajkowski namens de VVD en mevrouw Van Ginneken namens D66. Mijn naam is Danai van
Weerdenburg. Ik ben woordvoerder namens de PVV en vandaag fungerend voorzitter.

Wij hebben twee uurtjes de tijd voor dit debat. De spreektijd hebben we vastgesteld
op drie minuten. Ik wil niet gelijk al de interrupties beperken. We gaan even kijken
hoe het loopt en indien nodig kan ik dat later nog doen. De heer Dassen van Volt loopt
nog binnen. Welkom ook. Ik kijk even naar de griffier of ik nog iets ben vergeten.
Laten we afspreken dat de spreker die aan het woord is op het moment dat de openingsbel
voor de plenaire vergadering begint, eventjes pauzeert, want dat duurt een minuut.

Dan geef ik de eerste spreker het woord en dat is mevrouw Van Ginneken namens D66.

Mevrouw Van Ginneken (D66):

Dank voorzitter en dank aan de Minister dat hij wederom bij ons is. Ik focus mijn
inbreng op de AI-verordening, want het reguleren van kunstmatige intelligentie is
cruciaal. AI-systemen hebben een enorme impact op onze levens, zowel qua mogelijkheden
alsook qua schaduwzijden. Zelflerende algoritmes bij de Belastingdienst zagen vooral
mensen met lagere inkomens als fraudeverdachten. Zelfrijdende auto's bleken mensen
van kleur niet zo goed te herkennen. Dat zijn twee potentieel zeer ingrijpende fouten.
Maar ook op maatschappelijk niveau zijn er risico's, deepfakes bijvoorbeeld, die het
vertrouwen in elkaar en de overheid bedreigen. D66 wil menselijke en transparante
AI, waarbij de fundamentele rechten van burgers beschermd zijn.

Voorzitter. Allereerst wil ik het hebben over gezichtsherkenning. D66 maakt zich zorgen
over het gebruik van gezichtsherkenning zonder strenge wettelijke waarborgen, want
mensen hebben het recht onbespied te zijn. Desondanks maakt onze politie er gebruik
van, ook zonder wettelijke basis. D66 is blij dat gezichtsherkenning nu ook verboden
wordt als het in een kort tijdsbestek gebeurt, dus niet alleen realtime. Dat dicht
wat ons betreft een belangrijke maas in de verordening, maar het huidige voorstel
staat gezichtsherkenning toe in gevallen van ernstige criminaliteit. Die definitie
is veel te ruim. Dat leidt tot een paar vragen. Wat verstaat de Minister onder ernstige
criminaliteit? Hoe voorkomen we function creep? Gaat de Minister zich inzetten voor
een smallere en specifiekere afbakening en zal er een verbod op gezichtsherkenning
blijven bestaan zolang er geen goede waarborgen zijn?

Voorzitter. Ten tweede vraag ik aandacht voor kwetsbare groepen. D66 is tevreden dat
de definitie van kwetsbare groepen in artikel 5 van de verordening wordt uitgebreid
met groepen die economisch en sociaal kwetsbaar zijn. Maar ook hier is de definitie
vaag. Welke groepen vallen hieronder? Horen vrouwen, lhbti'ers en mensen met een migratieachtergrond
daar ook bij? Deze groepen zijn namelijk disproportioneel vaak slachtoffer van schade
door AI-systemen.

Voorzitter. Tot slot wil ik het hebben over transparantie, want pas als we zeker weten
dat algoritmes de mensenrechten respecteren, zouden we hoogrisicosystemen, zoals de
verordening ze noemt, ook mogen toestaan. Wat mij betreft rechtvaardigt dat een verplichte
mensenrechtentoets voordat zo'n systeem in gebruik wordt genomen. Toch lees ik dat
niet in de voorschriften terug. Zou zo'n toets, is mijn vraag aan de Minister, niet
onderdeel van de verordening moeten uitmaken? Zou onze eigen overheid dergelijke toetsen
niet nu al moeten gaan uitvoeren? Het goede voorbeeld is wel op z'n plaats, gezien
de recente missers met discriminerende AI bij fraudebestrijding.

Het is belangrijk om te weten dat de ingrijpende algoritmes die de overheid gebruikt,
in orde zijn. D66 heeft samen met het CDA weleens gepleit voor een algoritmewaakhond.
Verschillende gemeentes zoals Amsterdam, Utrecht en Den Haag werken aan algoritmeregisters
om burgers en experts dit inzicht te geven. Dat is heel goed, maar mijn zorg is dat
hier vele wielen opnieuw worden uitgevonden. Ziet de Minister noodzaak om deze registers
te harmoniseren? En wanneer komt er een register voor de rijksoverheid? De motie-Klaver
is immers al in januari aangenomen.

Tot slot, want ik zie de voorzitter al neigen naar ingrijpen. Kan de Minister al zeggen
wie de toezichthouder wordt voor deze AI-verordening? Ik kijk uit naar de beantwoording
door de Minister.

De voorzitter:

Dank u wel, mevrouw Van Ginneken. Dan geef ik nu het woord aan mevrouw Rajkowski namens
de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. We maken ons zorgen dat de computer heel slim wordt en op een gegeven
moment de wereld zal overnemen. De werkelijkheid is echter: de computer is eigenlijk
ontzettend dom, maar heeft de wereld al overgenomen. Deze woorden zijn van AI-hoogleraar
Domingos van de University of Washington. En hij heeft gelijk: AI heeft op vele manieren
Nederland al overgenomen.

Algoritmes spelen een steeds grotere rol in onze samenleving. Ze kunnen helpen bij
het constateren van ziektes en fraude, het oppakken van criminelen of het voorkomen
van grote ongelukken. Ze kunnen heel simpele of juist heel complexe taken van ons
overnemen. Dit biedt tal van mogelijkheden. Maar algoritmen kunnen, al dan niet onbedoeld,
leiden tot willekeur of onrechtvaardigheid, bijvoorbeeld wanneer jij meer moet betalen
voor hetzelfde product dan je buren, de prijs van een medicijn ineens stijgt omdat
er voorspeld wordt dat jij het wellicht nodig hebt, of als je onterecht als fraudeur
wordt aangewezen. Ook in de digitale wereld moeten grondrechten geborgd zijn en moet
de overheid haar dienstverlening op orde hebben.

Kunstmatige intelligentie is de wereld aan het vormen. Vladimir Poetin zei al in 2017
dat degene die leider zou worden op AI, de leider van de wereld wordt. Over het Europese
voorstel over kunstmatige intelligentie wil ik het volgende zeggen. De VVD-fractie
is het ermee eens dat er voor de hoogrisicosystemen striktere verplichtingen gelden
om zo de veiligheid, gezondheid en fundamentele rechten te beschermen. De deepfaketechnologie
is wat ons betreft een hoogrisicosysteem en moet in de verordening ook op deze manier
geclassificeerd worden. We wachten het onderzoek van de Universiteit van Tilburg dan
ook met spanning af. De VVD heeft eerder haar zorgen geuit over de extra administratieve
lasten voor het mkb. Het kabinet antwoordde dat er een mkb-toets komt. Kan het kabinet
toezeggen dat deze met de Kamer gedeeld gaat worden?

Voorzitter. Daarnaast wil ik het met u hebben over de uitrol van 5G. 5G is op dit
moment voor een stukje in gebruik. Mensen zien wel het icoontje op hun telefoon, maar
om als Nederland echt te kunnen profiteren van de mogelijkheden die 5G biedt, moet
er nog een groot deel van het netwerk in gebruik genomen worden en dus ook geveild
worden onder telecomaanbieders. Elke vertraging van dit proces is een potentiële aderlating
voor onze Nederlandse economie. Daarom zou ik de Minister willen vragen om haast te
maken langs de volgende drie lijnen. 1. Stel die adviescommissie zo snel mogelijk
in, het liefst nog voor het kerstreces. Wacht geen dag te lang. 2. Laat de adviescommissie
uiterlijk 1 april 2022 een advies uitbrengen. 3. Zorg dat het besluit over het wijzigen
van het NFP uiterlijk 1 augustus 2022 gereed is. Ik weet dat dit krap is, maar als
we aan deze voorwaarden voldoen, kan de veiling begin 2023 van start gaan en kan Nederland
nog voor de zomer van 2023 eindelijk een volwaardig 5G-netwerk hebben.

Dank u wel.

De voorzitter:

Dank u wel, mevrouw Rajkowski. Dan geef ik nu het woord aan de heer Dassen namens
Volt.

De heer Dassen (Volt):

Dank u wel, voorzitter. In het fiche over de weg naar het digitale decennium noemt
de Minister twee sporen: het inzetten op concurrentie, innovatie en verdienvermogen
en het ordenen van fundamenten voor digitalisering. Daarbij moet bovendien rekening
gehouden worden met publieke waarden en mensenrechten. Ik vraag de Minister hoe deze
verschillende doelstellingen zich tot elkaar verhouden en hoe deze elkaar completeren.
Welke prioriteiten stelt de Minister daarin?

Voorzitter. Dan iets anders, iets wat ik blijf herhalen. Ze zijn nog steeds relevant
en ik zag ze ook weer terugkomen: de RRF-gelden. Ik vraag me af hoe de concrete plannen
eruitzien die op het gebied van digitalisering ontwikkeld worden. Hoe zijn deze tot
stand gekomen en zijn decentrale overheden daarbij geconsulteerd? Daartoe is eerder
opgeroepen in een aangenomen motie. Hoe staat het daarmee?

Voorzitter. Ik las over een kleine strubbeling tussen Financiën en Economische Zaken
over de RRF-gelden. Ik vroeg me af of de Minister daar meer duiding over kan geven.
Kan hij mij garanderen dat we niet met oude bonnetjes de RRF-gelden gaan opmaken?

Voorzitter. Dan kunstmatige intelligentie. Omwille van de tijd sluit ik mij aan bij
de vragen van mijn collega's. Het kabinet gaat niet in op een algeheel verbod op AI-systemen
die individuen clusteren naargelang hun etniciteit, gender, politieke of seksuele
oriëntatie of andere discriminatiegronden. Kan de Minister uitleggen wanneer het gebruik
van dergelijke systemen wel mogelijk zou moeten zijn? In welke concrete gevallen is
dat? Ik vind me dat nog lastig voor te stellen. Kan de Minister uitleggen in welke
concrete gevallen hij het gebruik van AI voor geautomatiseerde herkenning van menselijke
kenmerken in de publieke ruimte zinvol acht?

Voorzitter. Als laatste over het informele lunchdebat, waarin de Minister langs de
lijnen van de Nederlandse positionpaper zal spreken over de Data Act. Hoe moet de
Data Act ervoor zorgen dat start-ups en mkb eerlijke toegang krijgen tot gegevens
en eerlijk gebruik kunnen maken van die gegevens? Hoe kunnen eindgebruikers van bepaalde
producten en diensten toegang krijgen tot de gegevens die worden geproduceerd? Hoe
ziet dat er concreet uit volgens de Minister? Hoe moet de Data Act vendor lock-in
tegengaan door dataportabiliteit te versterken? Welke concrete regels of maatregelen
ziet de Minister voor zich? Dan als laatste begrijp ik dat er toch een kleine draai
is geweest van Nederland in de triloogfase. Wil de Minister daar nog op reflecteren?

Minister Blok:

Ik heb geen idee wat u bedoelt.

De heer Dassen (Volt):

Ik doelde op een draai in de Data Governance Act, waar we het vorige keer over hadden.

Minister Blok:

Ik begrijp het nog steeds niet.

De heer Dassen (Volt):

We hebben de vorige keer bij de behandeling van de begroting van Economische Zaken
een kort debat gevoerd over de Data Governance Act en over het belang van een gelijk
speelveld voor mkb-bedrijven en big tech. Toen gaf u aan dat we in de triloogfase
zaten en niet meer tot een verandering van standpunt konden komen. Nu begrijp ik dat
er toch een verandering van standpunt is geweest. Dus ik vroeg me af of u daar wellicht
nog op kunt reflecteren.

De voorzitter:

De Minister gaat het uitzoeken. Dank u wel, meneer Dassen. Ik vraag mevrouw Van Ginneken
om tijdelijk het voorzitterschap over te nemen, zodat ik mijn inbreng namens de PVV-fractie
kan doen.

Voorzitter: Van Ginneken

De voorzitter:

Dat doe ik graag. Dan geef ik bij dezen het woord aan mevrouw Van Weerdenburg, namens
de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Een aantal vragen is al gesteld. Kortheidshalve zal ik me
daarom daarbij aansluiten. Mevrouw Van Ginneken had vragen over de definitie van ernstige
criminaliteit. Die deel ik. En ook hoe je function creep kunt voorkomen. Ik hoor de
Minister ook graag over een waakhond of een register voor algoritmes. En de PVV had
inderdaad ook de vraag wie beoogd toezichthouder is voor deze verordening. Ik wil
me ook aansluiten bij de zorgen van mevrouw Rajkowski over het mkb. Het is natuurlijk
een heel mooi streven om die verordening lastenluw te maken voor het mkb, maar de
ervaring leert dat dat redelijk onhaalbaar is, omdat er met 27 landen helaas heel
vaak een redelijk onleesbare tekst uitkomt. Dus ik hoor graag van de Minister wat
hij allemaal nog kan doen om inderdaad die lastenluwheid te bereiken. Wat de PVV ook
zorgelijk vindt, is dat de volledige impact op het mkb nog heel lastig te beoordelen
is. Daar zou ik nog wel wat verduidelijking over willen.

Als algemene opmerking wil ik graag kwijt dat ik het wel problematisch vind om mijn
controlerende taak te kunnen doen als volksvertegenwoordiger als, op het moment dat
wij een debat voeren, er nog geen duidelijkheid is over bepaalde cruciale aspecten
van ontwerpvoorstellen, zoals de beoogde reikwijdte, of zelfs basisdefinities waar
voorstellen überhaupt over gaan, zoals bij de AI Act al in een vroeg stadium al onduidelijk
was over welke AI-systemen de verordening gaat. Ik begrijp dat het lastig is om met
27 landen tot een compromis te komen, maar dat is natuurlijk de handicap van alle
EU-voorstellen. Ik zou graag meegeven aan de Minister dat hij wel wat vaker in een
vroeg stadium met de vuist op tafel mag slaan in Brussel en mag zeggen: of we doen
het goed of we doen het niet. Want op deze manier zitten we constant vragen te stellen
over verduidelijking van begrippen en definities. De Minister gaat elke keer braaf
om opheldering vragen in Brussel, maar de tijd tikt ondertussen door. Van meer grip
op de totstandkoming van deze voorstellen is ondertussen geen sprake. Dat is jammer.
Het zou mooi zijn als we hier vandaag een manier overeen zouden kunnen komen waarop
we een betere controle kunnen uitoefenen. Wat mij betreft in ieder geval niet voor
herhaling vatbaar is dat we nu hier een oordeel moeten geven of de Minister moeten
bevragen over conceptteksten van artikelen die nog niet eens bekend zijn gemaakt.
Kortom, de vraag is hoe wij dit kunnen verbeteren.

Ik kijk eventjes naar de tijd, want ik moet me daar ook aan houden. Nog een paar korte
puntjes over de AI Act. Uitsluiting van nationale veiligheid. Dat is volgens mij sowieso
een exclusieve competentie van lidstaten. Hoezo was dat nodig om dat hierin uit te
sluiten? Over de rondetafelsessies die ook op de planning stonden om een zo breed
gedragen en een zo volledig mogelijk geïnformeerd standpunt over de verordening in
te kunnen nemen: dat zou dit jaar nog plaatsvinden. Is daar al meer duidelijkheid
over of zijn die sessies al geweest?

Dank u wel.

De voorzitter:

Dank, mevrouw Van Weerdenburg. Ik heb u iets meer seconden gegeven, omdat u zo heel
mooi mijn fractievoorzitter citeerde. Dank daarvoor. Dan geef ik nu het voorzitterschap
terug aan u.

Voorzitter: Van Weerdenburg

De voorzitter:

Dank u wel. Ik kijk even naar de Minister hoelang hij nodig heeft. Een kwartier, begrijp
ik. Dan schors ik voor een kwartier.

De vergadering wordt van 10.19 uur tot 10.34 uur geschorst.

Minister Blok:

Voorzitter. Ik heb één groot blok AI en doe daarna de rest. Dat was ook wel een beetje
de verhouding in de vragen van de Kamer.

De voorzitter:

Oké, prima. Dan mag u beginnen. Ik zal de leden in de gaten houden. Op het moment
dat een van u een vraag wil stellen, geeft u maar een seintje. De Minister.

Minister Blok:

Dank u wel, voorzitter. Ik denk dat ik begin met de procedure en de onvrede die ik
proefde bij mevrouw Van Weerdenburg. Er werd gesproken over een draai, maar ik moest
daar echt even naar zoeken. Ik ben vast weleens gedraaid in mijn leven en in mijn
politieke leven, maar ik begreep gewoon even niet waar de vraag over ging. Nu denk
ik «m toch te begrijpen.

Net zoals in het vorige overleg dat wij in deze samenstelling hadden, dat ging over
de Digital Markets Act en de Digital Services Act, begin ik met de constatering dat
ik dit bij uitstek onderwerpen vind om Europees te regelen. Die moet je niet van land
tot land regelen. Dat is zinloos en verwarrend, ongeacht of dat nu is voor mkb'ers,
voor het publiek dat ermee om moet gaan of voor grote bedrijven. Ik vind dat je dit
juist Europees moet doen. Vervolgens is het nadeel van dingen Europees regelen – mevrouw
Van Weerdenburg wees daar scherp op – dat je het met 27 landen eens moet worden. Dat
gebeurt dan ook nog in een getrapte procedure. Eerst komt er een voorstel van de Commissie.
Dat staat open voor commentaar, wat ook goed is. Vervolgens onderhandelen landen daarover,
waarbij ze gecontroleerd worden door hun parlement. Ook in vorige rollen heb ik het
Nederlandse parlement er vaak mee gecomplimenteerd dat die rol hier serieus wordt
genomen. Het is aan ieder land zelf, maar er zijn een heleboel landen die ... Kijk,
het meest extreme voorbeeld was, denk ik, de brexit. Dat was een grote beslissing.
Er was één land waar het parlement terugkwam in het kerstreces om over het brexitverdrag
te spreken, en dat was Nederland. Dat even ter illustratie. Het Nederlandse parlement
is zeer betrokken.

Tegen die achtergrond begrijp ik ook wel de ergernis van mevrouw Van Weerdenburg.
Zij zegt: wij geven input mee aan Onze Minister, als een van de 27. Hij brengt het
daar in, maar wat gebeurt ermee? Voor in ieder geval de AI-verordening geldt een gekwalificeerde
meerderheid. Het werk van Nederlandse bewindslieden in Europa is altijd om coalities
te vormen. Daar zijn we over het algemeen echt wel succesvol in. Maar als je coalitie
niet groot genoeg is, sneeuwt je mening onder. Dat is helaas de werkelijkheid. Een
gekwalificeerde meerderheid betekent dat je het ook niet kunt tegenhouden, nog even
los van de vraag hoe verstandig het is om in je eentje dingen tegen te willen houden.
Een enkele keer kan dat noodzakelijk zijn, maar hierbij geldt die optie überhaupt
niet, want het gaat om een gekwalificeerde meerderheid. Aan de andere kant moeten
we het ook niet al te somber maken, want wij zetten met onze mensen in Brussel en
Den Haag heel vroeg in op deze processen. Daarom kunnen we gelukkig ook vaak rapporteren
dat we wel degelijk dingen binnenhalen. Maar ik geef u onmiddellijk toe: niet alles.
Er zijn onderdelen waarop Nederland, hoewel vaak met Duitsland, toch vaak in een hele
kleine coalitie striktere wensen heeft dan andere landen. Een voorbeeld van zo'n onderdeel
is aandacht voor privacy, wat heel cruciaal is bij al deze onderwerpen. Dat moeten
we maar even als feit constateren: er zijn nationale verschillen. Die gelden juist
op dat onderdeel. Gezien de vraag van mevrouw Van Weerdenburg was het onvermijdelijk
om deze brede achtergrond te schetsen.

Ik pak meteen de draai of het misverstand mee waar de heer Dassen het over had. Dat
heeft te maken met de procedure. Ik heb bij de begroting aangegeven, en dat doe ik
nu nog steeds, dat Nederland als land niet meer aan zet is omdat dat voorstel in de
triloogfase is. Dat zijn we hoogstens als het voorzitterschap bij ons terugkomt, zodat
we een nieuw mandaat kunnen vragen. Dat mandaat is dan overigens geen mandaat aan
Nederland, maar aan alle lidstaten. Er is een reële kans dat die vraag terugkomt,
maar die vraag is er nu niet. Misschien komt er wel of niet een draai; dat weet ik
niet. Maar op dit moment is er de triloogfase, dus blijft mijn stelling, net als bij
de begroting, dat ik niet zelf aan tafel zit en dat ik pas weer aan tafel kom als
een van de 27 op het moment dat er een vraag om wijziging van het mandaat komt. Allemaal
heel procedureel, maar wel van belang.

Ik ga in op de AI-verordening. Ook daar toch een algemene, ik zou haast willen zeggen
filosofische beschouwing. Iedereen constateert vandaag terecht hoe groot de impact
van AI kan zijn en op sommige terreinen al is, wat overigens ook terreinen zijn waar
hoog gestelde verwachtingen zijn. Iemand noemde het voorbeeld van zelfstandig rijdende
auto's. Dat lijkt me eerlijk gezegd geweldig, maar ze komen er maar niet, omdat de
techniek zich onvoldoende ontwikkelt. Overigens had dat onderwerp recent de aandacht
van de WRR, die er een uitgebreid rapport over publiceerde, dat ik ook in ontvangst
mocht nemen. Het kabinet gaat daar bijna kabinetsbreed op reageren, omdat het heel
veel beleidsterreinen raakt. Waar je bij AI tegenaan loopt, is dat we op een bewegend
doel schieten. We weten ongeveer waar we het over hebben, maar een precieze afbakening
is best ingewikkeld. Ook in het debat kwamen de termen algoritmes en AI aan de orde.
Algoritmes bestaan al heel lang en zijn niet allemaal AI. Een plat voorbeeld: volgens
mij kan iedereen op internet een modelletje vinden waarmee hij kan berekenen hoeveel
hij kan lenen voor een huis. Dat is een algoritme: daar stop je je inkomen in en dan
rolt er een sommetje uit, zonder garantie, hoeveel je ongeveer kunt lenen. Heel veel
bedrijven en ook de overheid hebben intern dat soort van systemen. Bij AI wordt over
het algemeen – maar daar geef ik een wat oneerbiedige definitie – daaraan toegevoegd
dat het autonoom en zelflerend moet zijn. Maar een register voor alle algoritmes wordt
denk ik onwerkbaar. Volgens mij zitten de behoefte aan inkadering en de zorgen heel
erg bij autonoom/zelflerend. Daar is ook weer een wat bredere beschouwing voor nodig.

Mevrouw Van Ginneken vroeg naar een algemene mensenrechtentoets in de AI-verordening.
Natuurlijk mag je binnen de Europese Unie of Nederland niets doen of nalaten wat mensenrechten
schendt. En om deze heel brede notie behapbaar te maken, is in de AI-verordening die
onderverdeling gemaakt in hoog risico met de zwaarste toetsen op dit gebied, laag
risico en zelfs een niet te toetsen categorie. Dat lijkt mij ook de enige werkbare
manier. Waarbij blijft staan dat niemand iets mag doen of ontwikkelen dat in strijd
handelt met mensenrechten. Specifiek voor de Nederlandse situatie, want dat was de
vervolgvraag van mevrouw Van Ginneken: ik denk dat het niet voor de hand ligt om nationaal
daaraan andere toetsen toe te voegen. Ik vind het heel verstandig om dit Europees
te regelen. Dan denk ik dat we daarin consistent moeten redeneren. Punt één om het
behapbaar te houden voor Nederlandse consumenten en bedrijven. We hadden in het vorige
debat een mooie discussie over een hypothetisch land: Chocolakije. Ook hier haal ik
dat voorbeeld maar even uit de kast. Als wij additionele toetsen los mogen laten,
dan mag Chocolakije dat ook. Dan moet je ook even de vraag stellen of je ook zeker
weet dat je dat wilt.

De voorzitter:

Een interruptie van mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. De vorige keer dat u Chocolakije ter sprake bracht, reisde ik met
u mee. Dat ben ik deze keer niet van plan, omdat ik toch even stil wil staan bij de
mensenrechtentoets. U zegt terecht dat het niet is toegestaan als dit soort systemen
mensenrechten met voeten treedt. Maar mijn hele punt was nou juist dat we dat nu in
de praktijk vaak te laat, achteraf merken als deze systemen al enige tijd in gebruik
zijn en er slachtoffers gevallen zijn. Ik verwijs nog maar eens naar de toeslagenaffaire.
Mijn pleidooi was nou juist om voorafgaand aan de ingebruikname van zo'n systeem zo'n
toets uit te voeren. Dat kan wat mij betreft best selectief, dus alleen de hoogrisicosystemen
en dus niet te categorisch. Dus wilt u daar nog even op reflecteren? Ik snap dat u
zegt: als we dit in Nederland verplicht gaan stellen, gaan we afwijken en dan worden
we een soort Chocolakije. Maar je kunt als overheid daarin ook zelf het goede voorbeeld
geven, zonder het verplicht te stellen maar door het wel te gaan doen. Kan de Minister
daar nog even op reflecteren, voorzitter?

De voorzitter:

Dank u wel, mevrouw Rajkowski heeft ook een interruptie. Een aanvullende vraag, oké.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Als ik mijn collega Van Ginneken goed begrijp, gaat het inderdaad
om een toets vooraf. Ik zou dat nog willen aanvullen met een pleidooi dat er niet
alleen een toets vooraf komt, maar dat er ook al bij het maken van het algoritme wordt
nagedacht over een bepaalde mate van diversiteit bij mensen die dit creëren.

Minister Blok:

Ik denk dat, zoals mevrouw Van Ginneken het nu formuleert, je de mensenrechtentoets
intensiever doet bij hoog risico, want we zijn het met elkaar eens dat je nooit iets
mag doen wat in strijd is met mensenrechten. Dus dat je de toets vooraf intensiever
doet bij hoog risico dan de toepassingen lager in de trede. Dan is het niet alleen
uitvoerbaar, maar zit het ook wel in de verordening. Ik wil daar voor de zorgvuldigheid
ook even schriftelijk op terugkomen, omdat ik hier ook echt even goed met mijn juristen
over wil overleggen of mijn interpretatie ook de juridisch juiste is.

Mevrouw Van Ginneken (D66):

Dank aan de Minister voor het aanbod om daar schriftelijk op terug te komen. Ik zou
het op prijs stellen als dat dan binnen enkele dagen is, zodat we in ieder geval voordat
de Telecomraad plaatsvindt daar eventueel nog met elkaar over van gedachten kunnen
wisselen.

Minister Blok:

Ja.

Mevrouw Van Ginneken (D66):

En ik wil de Minister daarin meegeven dat ik op de hoogte ben van het feit dat in
de verordening gesproken wordt over een conformiteitsbeoordeling die ook vooraf moet
plaatsvinden. Daarin wordt iets gezegd over welke data gebruikt wordt, et cetera.
Maar daar wordt heel erg opengelaten tegen welk kader die toets uitgevoerd moet worden.
Daar zie ik wel echt een omissie voor het expliciet toetsen van mensenrechtenschendingen.
Dus als de Minister dat in de beantwoording kan meenemen, heel graag.

Minister Blok:

U illustreert precies waarom ik er even schriftelijk op terug wil komen, omdat ik
heel precies de tekst zoals we die nu hebben wil leggen naast de redenering zoals
ik die net geef, dat het er volgens mij in zit. Daar kom ik even schriftelijk op terug.

Voor het nationale deel: er komt binnenkort een brief over het algoritmeregister.
Dat was dacht ik ook een vraag van meerderen van u maar ook van mevrouw Van Ginneken.
Overigens ligt het voortouw bij de collega van BZK. Ik vind het logisch om in die
brief ook in te gaan op de vraag hoe de Nederlandse overheid, dat was uw vraag, daarin
de mensenrechtentoets of -weging hanteert.

De vraag van mevrouw Rajkowski. Als ik haar goed begrijp – maar als dat niet zo is
gaat ze mij corrigeren – zegt zij dat bedrijven die AI-toepassingen maken intern voldoende
divers moeten zijn. Was dat uw vraag?

Mevrouw Rajkowski (VVD):

Ja, waarbij ik als het gaat over regulering eerst naar de rijksoverheid zelf zou willen
kijken, dus als het gaat om de zelflerende autonome algoritmen die ook in het besluitvormingsproces
gebruikt gaan worden. Dat dus niet alleen vooraf getoetst wordt als een algoritme
af is of het voldoet, want het zijn best wel complexe gehelen. Dat weet deze Minister
volgens mij nog beter dan ik, gezien zijn jarenlange ervaring. Maar uiteindelijk gaat
het mij er ook om dat de mensen die het algoritme maken ook met verschillende blikken
daarnaar kijken.

De voorzitter:

Helder. De Minister.

Minister Blok:

Ik denk dat iedereen het ermee eens is dat het goed is, voor welk team dan ook, dat
het divers is, dus ook bij de samenstelling van algoritmes. Ik moet wel eerlijk zijn,
daarom testte ik eventjes aan het begin of ik de vraag goed begrepen heb, dat ik niet
voorzie hoe je zoiets met regels af kan dwingen. Ik herinner mij een eerdere discussie
over diversiteit op de werkvloer, waar ik zeer voor ben, en waar ik mij als Minister
voor de Rijksdienst ook binnen het Rijk enorm voor heb ingezet. Maar sommige bedrijven
kwamen mij gewoon melden: voor mijn type beroep is heel weinig aanbod, bijvoorbeeld
van vrouwen, omdat je in studiekeuzes nog steeds – het groeit meer naar elkaar toe
– geen totaal neutrale verdeling ziet. Mensen maken eigen keuzes. Dat betekent dus
ook op dit gebied dat ik geen werkbare regelgeving voor kan stellen, of het nou voor
de overheid zelve is of voor bedrijven, dat teams die AI ontwikkelen representatief
moeten zijn samengesteld. Ik denk dat dat niet lukt. Ik kan in ieder geval voor de
overheid zélf wel zeggen dat het onze volle inzet is om de overheid zelf en de onderdelen
daarvan zo divers mogelijk te maken.

Mevrouw Rajkowski (VVD):

Dat begrijp ik ook. Ik zou het ook zonde vinden als zodanige regels worden opgesteld
dat dat zou betekenen dat als er een tekort is aan een bepaald type diversiteit, de
rijksoverheid ook niet verder kan met haar werk. Kan ik dan toch de Minister vinden
– dan gaat het niet over de regels maar over richtlijnen of inspanningsverplichtingen
– dat op het moment dat algoritmen besluitvormend zijn in hoog risico, er dan zoveel
mogelijk naar gestreefd wordt dat ook aan de voorkant, bij het maken van het algoritme,
daar met verschillende ogen naar gekeken is?

Minister Blok:

Als inspanningsverplichting zeker. Maar nogmaals, toch even oneerbiedig, een blik
in de collegebanken van de faculteit Informatica laat al zien dat het diverser is
dan tien jaar geleden, maar het is echt niet een doorsnede van de Nederlandse bevolking.
Dat is overigens vrees ik niet anders bij de faculteit Weg- en waterbouw, waar gelukkig
ook aanzienlijk meer vrouwen dan in het verleden zitten, maar het is nog steeds niet
fiftyfifty.

De voorzitter:

U vervolgt met de beantwoording.

Minister Blok:

Ja. Dan kom ik op het onderwerp gezichtsherkenning. Mevrouw Van Ginneken ging daarop
in, maar eigenlijk alle anderen ook. Er is sowieso al een streng wettelijk kader voor
gezichtsherkenning, maar het is niet expliciet verboden. Dat lijkt me ook onverstandig
omdat er, mits je het wettelijk inkadert, wel degelijk toepassingen zijn te bedenken
waarbij gezichtsherkenning op een veilige maar ook simpele manier plaats kan vinden,
bijvoorbeeld bij paspoortcontroles, en daarnaast in heel specifieke toepassingen in
het kader van politie en justitie. Dus op een totaalverbod zou ik tegen zijn, maar
ik ben er zeer voor om dat alleen onder heel streng wettelijk ingekaderde condities
te doen. Dat is ook precies de manier waarop de AI-verordening die mogelijkheid nu
biedt. Dat is volgens mij ook het antwoord op de vraag van mevrouw Van Ginneken hoe
je mission creep voorkomt. Door het alleen wettelijk streng ingekaderd toe te staan.

Mevrouw Van Ginneken (D66):

Dank. Voor de goede orde, ik ben er niet op tegen dat mijn iPhone aan mij vraagt om
even in de camera te kijken om de iPhone te openen, zoals ook andere telefoons dat
doen. Ik ben er ook niet op tegen dat er een camera op Schiphol is die mijn gezicht
bekijkt en checkt of dat overeenkomt met de informatie op mijn paspoort. Het gaat
mij dus niet om dat soort gezichtsherkenning. Het gaat mij om gezichtsherkenningsfuncties,
zoals ook in de verordening beschreven, die gezichten van onverdachte, onschuldige
burgers massaal in beeld brengen en controleren, in de hoop een enkele crimineel op
te sporen. Het gaat mij om dat soort gezichtsherkenningstoepassingen. Ik hoor de Minister
spreken over een streng kader en dat dat in de AI-verordening al goed geborgd is.
Dat ben ik toch niet helemaal met de Minister eens, omdat de verordening het niet
specifieker maakt dan de aanduiding «ernstige criminaliteit» en daarbij nog de opmerking
maakt «die strafbaar is met een vrijheidsstraf». Daar valt heel veel onder waarvan
ik denk: dat zijn vergrijpen waarbij ik de proportionaliteit zoek vind als het gaat
om het breed inzetten van gezichtsherkenning in de publieke ruimte.

Minister Blok:

Ik had inderdaad nog het antwoord liggen op de vraag wat er verstaan wordt onder serieuze
criminaliteit. Daarvoor wordt de definitie gehanteerd die al in 2002 door de Europese
Raad is vastgelegd. Daar zijn geen veranderingen op gekomen. Daarmee is het dus wel
ingekaderd.

Mevrouw Van Ginneken vroeg ook of het verbod in de conceptverordening om AI-systemen
zich te laten richten op kwetsbare groepen, uitgebreid kan worden. Zij noemde onder
meer vrouwen, lhbti'ers en migranten. De inzet van het kabinet is inderdaad om dat
verbod uit te breiden. Daarvoor geldt wel het betoog dat ik aan het begin hield: ik
kan de uitkomst niet garanderen. Maar ik deel wel de analyse van mevrouw Van Ginneken
dat dat breder zou moeten gelden.

De voorzitter:

De heer Dassen heeft een interruptie.

De heer Dassen (Volt):

Ik wil nog even terug naar de vraag die mevrouw Van Ginneken net stelde. Zij gaf aan:
paspoortcontroles en uitvoeringstoepassingen zijn tot daaraan toe, maar niet in de
publieke ruimte, waar en masse gezichtsherkenning is. De Minister gaf daar geen antwoord
op. Die vraag heb ik ook gesteld.

Minister Blok:

Daar wil ik heel precies in zijn, omdat ik in het kader van politie en justitie niet
helemaal kan uitsluiten dat je daar systemen voor nodig hebt. Ik wil dat dus ook niet
preciezer inkaderen zonder ruggespraak met de collega van politie en justitie, pardon,
van Veiligheid en Justitie.

De heer Dassen (Volt):

Dan is mijn vraag of de Minister er met een volledig antwoord op terug kan komen na
ruggespraak met de andere Minister.

Minister Blok:

Ja, dat zal ik doen.

De voorzitter:

Schriftelijk.

Minister Blok:

Ja.

Dan de vraag van mevrouw Van Ginneken en mevrouw Van Weerdenburg: wie wordt de toezichthouder
en wanneer hakken we die knoop door? Omdat het toepassingsbereik van AI enorm is,
is de keuze uit toezichthouders ook enorm. Omdat we nu nog spreken over een conceptverordening
kunnen we wel in grote trekken in kaart brengen wie er in aanmerking zouden kunnen
komen van de bestaande toezichthouders, variërend van de Autoriteit Persoonsgegevens
tot Agentschap Telecom tot de Voedsel- en Warenautoriteit, maar is het niet logisch
om die keuze nu te maken. Ik kan ook nog geen precies tijdstip geven, want ik wil
echt de definitieve verordening hebben om de keuze te kunnen maken. Sorry dat ik u
daar niet meer helderheid over kan geven, maar volgens mij is het verstandig om de
opties nog even in de lucht te houden. We schatten in dat er uitbreiding van de capaciteit,
en dus ook van het aantal arbeidsplaatsen, voor nodig is, maar waar precies? Daar
zullen wij u natuurlijk over informeren, maar dat is nu echt te vroeg.

Mevrouw Van Ginneken (D66):

Ik heb er begrip voor dat de Minister niet alle antwoorden heeft, hoewel ik het wel
jammer vind dat veel vragen later beantwoord zullen worden. Bij deze vraag heb ik
er begrip voor dat de Minister dat nog niet kan zeggen, maar kan de Minister wel aangeven
op welke termijn dit wél helder zal zijn?

Minister Blok:

Ik moet echt eerst de AI-verordening hebben voordat ik daar antwoord op kan geven.
Anders doe ik het in de verkeerde volgorde.

De voorzitter:

Wanneer wordt die ongeveer verwacht?

Minister Blok:

Tsja, dat is niet helemaal in mijn handen. Sterker nog, dat is helemaal niet in mijn
handen, want dat hangt af van die procedure, waar ik mee begon.

De voorzitter:

De heer Dassen, nog een toevoeging?

De heer Dassen (Volt):

Ik snap het antwoord van de Minister gedeeltelijk. Tegelijkertijd kan ik me voorstellen
dat het actieve gesprek met de verschillende toezichthouders al wel gestart kan worden
om te kijken wat de meest logische plek zou zijn waar dat toezicht komt te liggen,
maar vooral ook hoe het zit met de capaciteit, want dat is volgens mij een probleem
dat we bij meer toezichthouders hebben. De Minister noemt dat terecht, maar dan is
de vraag: we zien dit nu op ons afkomen, dus wat hebben we daar aan capaciteit voor
nodig? Ik denk dat het wel goed is dat de Minister dat gesprek nu al start.

De voorzitter:

Ja, en dat hij daar alvast rekening mee houdt.

Minister Blok:

Het gesprek is gestart. Vandaar dat ik aan kan geven dat er een palet aan toezichthouders
is dat er potentieel voor in aanmerking kan komen. Uit die gesprekken blijkt ook dat
daar een vergroting van de capaciteit voor nodig is.

De voorzitter:

De Minister vervolgt zijn beantwoording.

Minister Blok:

Ja. Dan kom ik bij de vraag van mevrouw Rajkowski over de gevolgen voor het mkb. Ik
ben het met haar eens – mevrouw Van Weerdenburg ging daar ook op in – dat de verordening
zo moet worden vormgegeven dat die werkt, maar dat die het het mkb en start-ups tegelijkertijd
niet onmogelijk maakt om hun werk te doen. Dat is dus ook onze inbreng in de Europese
discussie. De Commissie heeft ook de toezegging gedaan om voorrang te verlenen aan
het mkb en start-ups bij testomgevingen. Wij zullen inderdaad een mkb-toets uitvoeren.
We zullen die natuurlijk delen met de Kamer. Maar ook daarvoor geldt: naarmate het
voorstel specifieker is, kunnen we die toets ook specifieker uitvoeren.

Mevrouw Rajkowski vroeg ook naar de omgang met deepfakes in de AI-verordening. In
de conceptverordening wordt in ieder geval transparantie vereist over het gebruik
daarvan. Mevrouw Rajkowski verwees ook naar het lopende onderzoek van de Universiteit
Tilburg. Dat heb ik eerlijk gezegd ook nodig voor het beantwoorden van de vraag die
mevrouw Rajkowski stelde, namelijk of deepfake altijd hoog risico is. Ik sluit dit
niet helemaal uit, maar ik vind het wel verstandig om dat onderzoek – dat zal natuurlijk
openbaar worden en dat zullen we delen – op tafel te hebben voor de precieze beantwoording
van die vraag. Die beantwoord ik nu dan dus ook nog niet.

De heer Dassen vroeg of er in de AI-verordening geen algeheel verbod moet komen op
het clusteren op grond van etniciteit en seksuele oriëntatie. Ook dat vraagt grote
precisie. Het is in zijn algemeenheid niet toegestaan om op basis hiervan te clusteren.
Maar het kan nodig zijn om, juist bij het beoordelen of een systeem discriminerend
is, toch te gaan clusteren. Anders kan je de toets namelijk niet uitvoeren. Ook hier
geldt dus: mensenrechten mogen nooit geschonden worden. Maar door een heel specifiek
onderdeel te gaan verbieden, maak je in dit geval ook de controle onmogelijk.

De voorzitter:

Meneer Dassen heeft een vraag.

De heer Dassen (Volt):

Ik probeer het iets beter te begrijpen. Want de Minister zegt: juist hetgeen je niet
wilt, moet je kunnen controleren; daardoor is het toegestaan. Ik ben een beetje zoekende
wat dat betreft. Misschien begrijp ik het verkeerd.

Minister Blok:

Daarom is het niet verboden. Een aantal van u verwezen naar berichten die er de afgelopen
dagen waren over de manier waarop de Belastingdienst geclusterd heeft. Die berichtgeving
geeft dus een clustering aan. Ik weet niet precies hoe de betreffende onderzoekers
die gegevens naar buiten hebben gekregen. Maar om ze naar buiten te krijgen, moet
je clusteren. We zijn het er met elkaar over eens dat je niet moet clusteren op grond
van ras of geslacht, en dat je mensen op grond daarvan geen verschillende behandeling
moet geven. Dat mag ook niet. Maar helemaal verbieden om het ooit te doen, maakt een
onderzoek onmogelijk. Harde verboden hebben natuurlijk de charme van de eenvoud, maar
je maakt er ook echt alles mee onmogelijk.

De voorzitter:

Dat lokt nog meer vragen uit. Eerst mevrouw Rajkowski, en daarna mevrouw Van Ginneken.

Mevrouw Rajkowski (VVD):

Ik zou de Minister eigenlijk wel willen bijvallen. Ik kan namelijk wel voorbeelden
bedenken waarbij ik het heel fijn zou vinden dat wordt meegenomen of je bijvoorbeeld
een man of een vrouw bent, in de medische wereld bijvoorbeeld. Die lichamen werken
gewoon anders. Dat kan betekenen: andere medicijnen of andere symptomen. Gelukkig
komt er steeds meer informatie hierover beschikbaar. In heel veel van dit soort onderzoeken
is naar mannenlichamen gekeken en niet naar vrouwenlichamen. Ik ben er dus heel blij
mee dat als er bijvoorbeeld algoritmen in dit soort toepassingen gebruikt worden,
dit dan ook meegenomen gaat worden.

Mevrouw Van Ginneken (D66):

De opmerking van collega Rajkowski triggert mij. Vanzelfsprekend is het om medische
redenen belangrijk om een onderscheid te kunnen maken in type lichamen, zeg ik dan
even met een knipoog. Maar het laat meteen ook zien waar de kwetsbaarheid zit. Als
je namelijk gaat sorteren op mannen en vrouwen, doe je dan medisch gezien wel het
juiste? Dan verwijs ik even naar mijzelf. Ik heb vrouwelijke hormonen en mannelijk
DNA. Dat laat dus precies zien waarom dit soort indelingen superkwetsbaar zijn. Dat
kan mensen fundamenteel benadelen. Ik sluit me dus graag aan bij de opmerking of vraag
van de heer Dassen. De Minister liet in de beantwoording wel zien dat hij inhoudelijk
goed weet waar het over gaat. Als je dit soort algoritmes controleert, zou je natuurlijk
kunnen clusteren richting dit soort kenmerken: etniciteit, seksuele voorkeur et cetera.
Anders kun je namelijk niet vaststellen of ze discriminerend werken. Maar dat neemt
niet weg dat je dat in een algeheel verbod als uitzondering zou kunnen opnemen. Dan
mogen de algoritmes daar dus geen gebruik van maken. Je gebruikt die dan alleen maar
bij de beoordeling of algoritmes discriminerend zijn of niet. Kan de Minister daar
nog op reflecteren?

Minister Blok:

Ook dan maak je het zo specifiek dat je sommige toepassingen daarmee verbiedt. Mevrouw
Rajkowski kwam met het terechte voorbeeld van medische verschillen, gekoppeld aan
geslacht. Dat zou dan verboden zijn. Waarom zou je dat willen verbieden? Ik vind de
omgekeerde aanvliegroute echt veel logischer. Dan zeg je: niemand mag mensenrechten
schenden, dus je mag niet discrimineren. Daarbij is er zware controle op de hoogrisico-AI-systemen.
Voor iedereen blijft dit verbod gelden. Maar met een keihard verbod op clusteren schiet
je door.

Mevrouw Van Ginneken (D66):

Als ik de Minister een beetje probeer te volgen in zijn betoog, kan ik me zo voorstellen
dat de Minister nu ook impliciet een pleidooi heeft gedaan voor het vooraf uitvoeren
van een mensenrechtentoets. Zo hoor ik het antwoord van de Minister. Ik wil even checken
of het ook zo bedoeld is.

Minister Blok:

Ik gaf u al aan dat, zoals ik de richtlijn begrijp, al ben ik maar een eenvoudige
doctorandus met inleiding recht... Ik wil daar even de mensen die jarenlang recht
gestudeerd hebben, precies naar laten kijken. Want de precisie luistert hier nauw.
Ik interpreteer het dus zo dat... Alhoewel, ik interpreteer het niet, want ik weet
zeker dat je niks mag doen dat in strijd is met mensenrechten. Daarvan hoeven we elkaar
niet te overtuigen. Maar de zware toets op de hoogrisico-AI-toepassingen bergt dat
ook al in zich. Maar ik zou niet de maker van wat ik daarstraks even als voorbeeldje
gaf, het moduletje dat je leencapaciteit op de woningmarkt berekent, willen verplichten
om een mensenrechtentoets te doen. Want dan krijg ik in ieder geval een deel van u
over mij heen met het verzoek of ik wil ophouden met het mkb het leven zo moeilijk
te maken. Daar heb ik ook wel begrip voor. Maar nogmaals, ik denk dat wij heel dicht
bij elkaar zitten.

Mevrouw Van Weerdenburg vroeg of het niet dubbelop is om nationale veiligheid uit
te zonderen. Eigenlijk wel, maar het kan ook geen kwaad. Nationale veiligheid is een
nationale bevoegdheid.

Ik hoop hiermee de vragen over de AI-conceptverordening beantwoord te hebben. Dan
wil ik overgaan naar de andere vragen.

De voorzitter:

Dan check ik eventjes aan de linkerkant. Mevrouw Van Ginneken schudt in ieder geval
alvast neen. Mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Het waren veel vragen en ook veel antwoorden van de Minister; dank
daarvoor. Dus misschien heb ik het gemist, maar ik heb de vragen over algoritmeregisters
volgens mij nog niet beantwoord gekregen.

Minister Blok:

Dat was tussen neus en lippen door: de collega van BZK komt met een brief daarover.

De voorzitter:

Voldoende? Ja? Dan mag de Minister naar het volgende blokje.

Minister Blok:

Dan vroeg de heer Dassen mij hoe we bij de Data Act ervoor kunnen zorgen dat start-ups
en mkb'ers toegang kunnen krijgen tot de gegevens. Dat is eigenlijk juist de kerndoelstelling
van deze wet. Omdat het omgaan met data nu in private contracten is geregeld, en vaak
nog wel impliciet, is die toegang juist nu en blijven die data dus in handen van,
vaak ook, heel grote platforms en bemiddelaars. De Data Act wil dit juist openbreken.

De voorzitter:

De heer Dassen heeft een interruptie.

De heer Dassen (Volt):

Nee, dat begrijp ik; ik snap het hele idee daarvan natuurlijk. Maar met het alleen
openbreken – en daarnaar ben ik zoekende – is er niet direct een level playing field,
juist omdat die grote bedrijven toch makkelijker toegang tot die data hebben. Ik vroeg
me af of in die Data Act ook meegenomen wordt hoe mkb-bedrijven wellicht bevoordeeld
worden om tot die data te kunnen komen, hoe ze daarin verder geholpen worden.

Minister Blok:

Het is zeker mijn inzet, de Nederlandse inzet, om de Data Act zo vorm te geven dat
start-ups en mkb'ers daar voordeel van hebben. Het woord «bevoordelen»... Ik weet
niet of ik zo ver zou willen gaan; dat raakt namelijk al heel snel ook weer aan fundamentele
rechtsprincipes. Als je geen misbruik maakt van je marktpositie, dan kan de overheid
je ook niet zomaar het gebruik van die marktpositie ontzeggen. Maar met de eerste
vraag, of dit ertoe moet leiden dat start-ups en mkb'ers toegang krijgen tot data
die ze nu niet hebben: mee eens.

Dan vroeg de heer Dassen ook naar het stuk over de digitale decennium en de schets
die ik in de geannoteerde agenda geef over, aan de ene kant, het natuurlijk waarborgen
van grondrechten en mensenrechten, en aan de andere, meer zakelijke kant hoe ik het
verdienvermogen wil waarborgen. De spanning zoals de heer Dassen die schetst, is natuurlijk
niet uniek voor de digitale vraagstukken die voor ons liggen. Ook als je bedrijven
in een totaal andere sector hebt, moet je je altijd bewegen binnen de ruimte die wet-
en regelgeving en mensenrechten je bieden. Ik ben altijd een groot liefhebber van
de aloude formulering «wat offline geldt, geldt online ook». De opgave is, ook omdat
onze regelgeving nog steeds niet is toegeschreven naar de onlinewereld, om de formuleringen
daarin zo te kiezen dat ze ook echt effect hebben in die onlinewereld. En bij dat
effect – en eigenlijk gaat het debat van vanochtend daar ook over – staat buiten kijf
dat mensenrechten en rechtsregels niet geschonden kunnen worden, maar ook dat ondernemers,
of het nou een start-up is of een bedrijf dat ooit een start-up was maar inmiddels
groot is geworden, uiteindelijk toch hun brood moeten kunnen verdienen; en daarnaast
dat de overheid soms specifieke taken heeft, of dat nou nationale veiligheid is of
criminaliteitsbestrijding, die geen enkele vrijbrief moeten vormen bij het gebruik
van data of AI, maar de overheid soms in een positie brengen dat ze dingen moet mogen
die anderen niet mogen. Dat moet je wettelijk inkaderen. Dus binnen die kantlijnen:
bescherm burgers en bedrijven tegen een te bemoeizuchtige overheid – en ook tegen
elkaar – maar maak innovatie en bedrijfsactiviteiten niet onmogelijk. Binnen die kantlijnen
beweeg ik mij, bewegen ik en mijn collega's ons, want dit speelt natuurlijk evenzeer
voor de collega's. De collega van Justitie zal bij u komen of is al bij u gekomen
op een aantal terreinen, waarbij hij in dit geval zegt: ik heb wat meer bevoegdheden
nodig. De collega verantwoordelijk voor Rijksdienst is met u in discussie over de
hele digitaliseringsstrategie. Ikzelf voer deze discussies in Brussel, maar moet er
ook voor zorgen dat in Nederland bedrijven, van groot tot klein, mee kunnen bewegen
in deze hele slag en fatsoenlijk beschermd zijn tegen cybercriminaliteit. Dat is ook
een belangrijk onderwerp, dat volgende week op de agenda staat. Ik kan hier dus alleen
maar met een lang betoog antwoord op geven, maar dat komt doordat ik me tussen een
aantal kantlijnen beweeg.

Dan was er, ook van de heer Dassen, de vraag die hij heel consistent stelt, namelijk
hoe met het geld uit het recovery fund omgegaan zal worden. Daarbij blijft het antwoord
van dit kabinet dat we weliswaar opties op de plank hebben liggen, maar het als demissionair
kabinet niet juist vinden om die keuze te maken en dus ook niet om daarover nu uitgebreide
gesprekken met medeoverheden of sociale partners te voeren. Dat geldt ook voor het
precieze gebruik van de RRF. U wees op Wob-stukken en een discussie die daar tussen
Financiën en EZK over is geweest. Het is volgens mij geen groot geheim dat er altijd
discussies zijn tussen ministeries. Dat is ook een groot goed, want dat is onderdeel
van de belangenafweging. Er wordt veel gewobd. Ik kan u garanderen dat u, als u stukken
wobt over ministeries onderling, zult zien dat die altijd wel verschillende meningen
zullen hebben.

De voorzitter:

Meneer Dassen heeft een interruptie.

Minister Blok:

Misschien haal ik de spanning er nu een beetje af. Uiteindelijk spreekt het kabinet
wel met één mond.

De heer Dassen (Volt):

Begrijp ik nou goed uit de beantwoording van de Minister dat de motie die eerder door
de Kamer is aangenomen om per direct consultaties te starten met gemeenten en provincies,
niet wordt uitgevoerd?

Minister Blok:

O jee! Die motie is aangenomen bij Financiën, denk ik. Daar moet ik even in duiken,
want dat weet ik gewoon niet.

De heer Dassen (Volt):

Nee, die motie is aangenomen bij de begroting EZK. Daarin werd het kabinet ertoe opgeroepen
om per direct te starten met de consultaties van de gemeenten en de provincies, juist
om ervoor te zorgen dat zij er straks in de uitvoering bij betrokken zijn. Die motie
heeft geloof ik Kamerbrede steun gekregen. Ik krijg daar dus graag nog een reactie
van de Minister op.

Minister Blok:

U merkt aan mijn reactie dat ik het gewoon niet weet, sorry. Daar wil ik even op terugkomen.
U heeft kennelijk ook geen schriftelijke reactie gehad op de motie, dus dan moet ik
er schriftelijk op terugkomen.

De voorzitter:

Akkoord? Ja. De Minister vervolgt zijn beantwoording.

Minister Blok:

Dan had mevrouw Rajkowski een vraag over de verdere procedure en het belang van tempo
voor het in gebruik nemen van 5G. Zij wees erop dat een commissie gevraagd is om een
advies uit te brengen in het dispuut dat gerezen is over het gebruik van de bandbreedte.
Die commissie komt uiterlijk 1 mei met haar advies. Omdat ik de inhoud van dat advies
niet ken, kan ik niet garanderen dat we voor 1 augustus – dat was de vervolgvraag
van mevrouw Rajkowski – gereed kunnen zijn met een wijziging. We moeten dus echt even
stap voor stap opereren. Natuurlijk wordt het advies zodra het er is ook, ook gedeeld.
Maar ik zou de commissie ook tekortdoen door van tevoren al te gaan voorspellen hoe
snel we het kunnen implementeren.

Mevrouw Rajkowski (VVD):

Ik begrijp het antwoord ook. Het is natuurlijk een langlopend dossier. Helemaal chronologisch
terugkijkend is het al in 2007 gestart. Ik begrijp ook wel dat er zo veel complexiteit
is geweest gedurende de afgelopen jaren. Toen ik mijn spreektekst voor dit debat aan
het schrijven was en nadacht over hoe het nog sneller kan, kwam ik, met een maandje
en weekje verschuiven, tot de conclusie: dan halen we misschien de zomer van 2023
wel. En dat vind ik eigenlijk al zo laat. Al zouden we elke keer één maand eerder
dit en één maand eerder dat doen, dan zou dat al veel helpen, want we lopen al zo
achter. Kan de Minister daar nog iets over zeggen?

Minister Blok:

Het is zeker mijn ambitie om het niet 2023 te laten worden, maar om in 2022 met die
wijziging van het NFP bij u te komen. Alleen, die datum van 1 augustus die ik van
u hoorde, kan ik niet garanderen, omdat dat heel erg samenhangt met de inhoud van
dat advies, waarvan we wel weer weten dat we dat voor 1 mei krijgen. De urgentie zie
ik natuurlijk volkomen, dus de ambitie is wel om het vervolgens dit jaar af te ronden.

De voorzitter:

Mevrouw Rajkowski, kort.

Mevrouw Rajkowski (VVD):

Dat is heel fijn om te horen. Op het moment dat dat advies over het NFP er is, moet
er ook nog een veiling voorbereid worden. De telecomproviders hebben aangegeven dat
ze daar ook weer een halfjaar voor nodig hebben. Dan heb je nog de veiling en daarna
de technische voorbereidingen op 5G. Daar komt nog zo'n vertragingsslag achteraan.
Zou de Minister dan kunnen toezeggen om in gesprek te gaan met de telecomproviders
om te kijken of er voor zo'n veiling echt zes maanden nodig is of dat het ook naar
vier maanden kan? We moeten echt op alle punten in dit proces bekijken of het misschien
niet iets korter kan, want daar is volgens mij iedereen bij gebaat.

Minister Blok:

Iedereen is gebaat bij de verkorting. Dus alles wat daarbij kan helpen wil ik doen.
Ik ben nooit tegen een gesprek met telecomproviders, maar dat kan al snel gaan over
de vormgeving van de veiling. En dan zeg ik maar even scherp: daar zitten heel harde
commerciële belangen achter. Overigens mag dat in een vrij land, maar dan moeten we
wel even goed begrijpen waar de discussie over gaat.

De voorzitter:

Mevrouw Rajkowski, afrondend. Want met het oog op de klok: we hebben ook nog ruimte
nodig voor een tweede termijn.

Mevrouw Rajkowski (VVD):

Ja, dat is goed. Ik zal het kort houden en misschien is een tweede termijn van mijn
kant dan ook wel niet nodig. Ik probeer gewoon een beetje creatief mee te denken om
ervoor te zorgen dat we 5G eindelijk echt goed kunnen gaan gebruiken in Nederland.
Dat is ook voor onze economie heel belangrijk. Met al deze kortingen en misschien
soms iets te ver out of the box denken kom ik al op zomer 2023 uit. Dus als al deze
voorstellen al niet mogelijk zijn, dan betekent dat dat we pas najaar 2023 of misschien
wel pas met kerst 2023 iets van 5G kunnen hebben. Dat vind ik echt laat. Dat wil ik
toch nog even meegeven.

Minister Blok:

We moeten elkaar ook niet de put in praten daar waar dat niet nodig is. Ik ben me
heel goed bewust van de urgentie en natuurlijk de ongemakkelijke manier waarop dit
proces is verlopen. Ik wil ook graag beloven dat zodra we dat advies hebben, nogmaals
uiterlijk 1 mei, we de Kamer zullen aangeven hoe het verdere proces verloopt. Dan
zullen we ook de verdere data met u delen. Maar nogmaals, ik moet wel het advies serieus
nemen.

De voorzitter:

De heer Dassen wilde ook nog interrumperen op dit onderdeel? Nee, toch niet. Oké.
Dan gaat de Minister door met de beantwoording.

Minister Blok:

Ik hoopte hiermee de vragen in eerste termijn beantwoord te hebben.

De voorzitter:

Dan kijk ik even naar de leden of er nog vragen zijn. Dat is niet het geval. Dan dank
ik de Minister voor de beantwoording van de vragen in eerste termijn en dan kunnen
we over naar de tweede termijn, als daar behoefte aan is. Ja, in ieder geval bij mevrouw
Van Ginneken. Ik geef haar nu het woord.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Ik kan mijn tweede termijn kort houden. Ik dank de Minister voor
de uitgebreide beantwoording van onze uiteenlopende vragen. Ik realiseer mij dat dat
ook voor de Minister een klus is. Ik heb dus begrip voor het feit dat er op sommige
vragen een schriftelijk antwoord komt, maar ik wil hem wel nog het volgende meegeven.
Ik heb de Minister horen toezeggen dat hij schriftelijk gaat reageren op de vragen
over de mensenrechtentoets, namelijk hoe die al dan niet geborgd is in de verordening
en of de Nederlandse overheid die, los van de verordening, niet ook zelf zou kunnen
uitvoeren. Ik wil de Minister daarbij het volgende meegeven. De Minister gebruikt
steeds als voorbeeld het doen van een hypotheekberekening op websites. Dat is ook
een algoritme, maar het gaat bij die mensenrechtentoets natuurlijk om hoogrisicotoepassingen,
anders zijn we elkaar aan het bezighouden.

De andere toezegging was om meer informatie te geven over een eventuele smallere afbakening
van de term «ernstige criminaliteit», en wat die nou precies omvat. Ik was daar zojuist
niet zo expliciet over, maar ik zou voor beide toezeggingen graag willen afspreken
om, als dat haalbaar is, vrijdag de antwoorden te krijgen, zodat wij eventueel volgende
week nog een tweeminutendebat zouden kunnen voeren vóór de Telecomraad. Anders kunnen
we weer niet zo heel veel met de antwoorden.

De derde toezegging die ik van de Minister heb gehoord, is dat wij van zijn collega
van BZK in januari een antwoord krijgen op de vraag over de algoritmeregisters. Dat
is prima.

Ik dank de Minister.

De voorzitter:

Mevrouw Van Ginneken, u heeft mijn werk al gedaan door de toezeggingen voor te lezen,
maar ik ga het straks nog even dubbelchecken. Mevrouw Rajkowski had geen behoefte
aan een tweede termijn. De heer Dassen.

De heer Dassen (Volt):

Voorzitter. Heel kort toch even over de RRF. Kan de Minister ervoor zorgen dat er
deze week meer informatie komt over de consultaties? Die motie is eerder aangenomen
en het verbaast mij echt dat, ondanks dat die oproepen meerdere keren zijn gedaan,
het antwoord blijft dat men daar in de formatie mee aan de slag gaat, terwijl wij
echt niet veel vragen. Die consultaties met de gemeenten kunnen prima gestart worden.

De voorzitter:

Ja, die hebben we ook al geregistreerd als toezegging. Dat was uw tweede termijn?
Dan vraag ik mevrouw Van Ginneken weer heel eventjes om het voorzitterschap over te
nemen.

Voorzitter: Van Ginneken

De voorzitter:

Dat doe ik met alle plezier. Dan geef ik nu het woord aan mevrouw Van Weerdenburg
van de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Een paar afsluitende opmerkingen mijnerzijds. Ik dank de Minister
voor alle antwoorden. Ik ben heel blij om te horen dat hij niet toegeeft in de discussie
over verplichte diversiteit. Het doet mij wel een beetje verdriet dat de VVD daar
nu zo op hamert. In het digitale domein is er een schreeuwend tekort aan capabele
mensen. De Minister had het daar ook al over. Dus het lijkt mij heel onverstandig
om al aan de poort eisen te stellen rondom vrouwen dan wel minderheden. Laten we op
dit moment iedereen gebruiken die daarvoor is opgeleid. Natuurlijk moeten we proberen
om in de toekomst ... Ik kan me uit mijn jeugd de publiekscampagne herinneren Een
slimme meid is op haar toekomst voorbereid. Nou ja goed, er ligt ook voor onze commissie
een taak om dat te stimuleren, maar laten we het bedrijven en overheden niet nog moeilijker
maken om capabel personeel binnen te halen.

Een laatste vraag aan de Minister. Ik snap dat hij nu niet kan zeggen wanneer die
conceptartikelen van de AI Act er eenmaal liggen, dat dat allemaal nog onzeker is.
Zou hij ons kunnen toezeggen dat hij een tijdspad stuurt zodra er meer duidelijkheid
is over wanneer de conceptartikelen en gepubliceerd zijn en er data zijn over besluitvorming,
zodat wij iets meer grip hebben?

Dank u wel.

De voorzitter:

Dank. Kan de Minister direct antwoord geven op de gestelde vragen? Ja? Dan geef ik
het woord aan de Minister.

Minister Blok:

Mevrouw Van Ginneken. Zij en ik zijn het eens over de zwaarste mensenrechtentoets
voor de zwaarste categorie. Voorbeelden zijn altijd kwetsbaar, maar ik gebruikte ze
even om aan te geven dat een algoritme heel breed gebruikt wordt en AI specifieker
is. Maar juist door ons te concentreren op de hoogrisicocategorie vinden wij elkaar.
Voor de afbakening van ernstige criminaliteit wil ik blijven bij de definitie die
in 2002 is gegeven, omdat ik het zuiver vind dat, als wij met elkaar in Europees verband
een definitie hebben afgesproken, wij die niet gaan veranderen bij verschillende toepassingen.
Dus op dat punt was ik niet voornemens om met een andere definitie te komen. En inderdaad,
de collega van Binnenlandse Zaken zal in een brief ingaan op het register.

De heer Dassen. Nogmaals mijn verontschuldigingen omdat ik niet helder voor ogen had
dat deze motie bij mijn begroting is aangenomen. De beantwoording moet in ieder geval
samen met de Minister van Financiën. Ik denk zelfs dat hij de eerste ondertekenaar
is. Ik ga mijn best doen om dat deze week te doen. Ik weet dat hij veel in Hilversum
verblijft, dus het is een inspanningsverplichting. Maar u krijgt een reactie op de
motie. Daar heeft u zeker recht op.

Mevrouw Van Weerdenburg. De Kamer krijgt natuurlijk bij de volgende geannoteerde agenda
onze inschatting van het verdere tijdspad. Helemaal mee eens. Dat is voor ons allemaal
van belang.

De voorzitter:

Dank. En vergeef me mijn overmoed, mevrouw Van Weerdenburg. Ik geef hierbij het voorzitterschap
aan u terug.

Voorzitter: Van Weerdenburg

De voorzitter:

Dank u wel. Ik heb geduldig gewacht, geen probleem. Dank aan de Minister voor de beantwoording
in tweede termijn. Ik kijk eventjes naar de leden. Zijn er nog dingen blijven liggen,
nabranders? Nee? Dan ga ik nu de toezeggingen voorlezen.

Wij hebben gehoord dat de Minister toegezegd heeft om de Kamer voorafgaand aan de
Telecomraad van 3 december schriftelijk te informeren over de mensenrechtentoets bij
hoogrisicosystemen van AI en over de vraag in hoeverre dit al geborgd is in de verordening.

De tweede toezegging. De Minister zal in overleg met de Minister van JenV de Kamer
schriftelijk informeren over de inzet van gezichtsherkenning in de openbare ruimte
door politie en justitie.

De derde toezegging. De mkb-toets voor de AI-verordening zal met de Kamer gedeeld
worden.

De Minister informeert de Kamer zo mogelijk – hij zei net dat hij dat gaat proberen
– deze week nog schriftelijk over de uitvoering van de motie waar de heer Dassen het
over had, die het kabinet vraagt consultaties te starten met de gemeentelijke en provinciale
overheden over de RRF-gelden.

Tot slot heb ik hier geregistreerd dat de Kamer in januari per brief geïnformeerd
zal worden over de stand van zaken over het algoritmeregister. Die brief wordt door
de Minister of Staatssecretaris van BZK naar de Kamer gestuurd. Ja, dat klopt.

Zijn er nog hiaten? Mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Ja, volgens mij hoorde ik u bij de eerste twee toezeggingen niet noemen dat de Minister
die uiterlijk vrijdag deze week naar ons toe gaat sturen, zodat wij er nog iets mee
kunnen in een eventueel tweeminutendebat.

De voorzitter:

Dank u wel. Dan voeg ik dat toe. Ik had gezegd: voor de Telecomraad op 3 december.
Ik kijk even naar de Minister – die kijkt bezorgd – om te checken of vrijdag haalbaar
is.

Minister Blok:

Ik beantwoord netjes al uw vragen, maar het punt is dat dit niet nu op de agenda van
de Telecomraad staat. Maar we gaan gewoon ons best doen, want dit zijn inhoudelijke
vragen die vroeger of later wel aan de orde komen. Dus ik ga gewoon mijn best doen
voor vrijdag. Ik ga even overleggen.

De voorzitter:

Oké. Dank u wel. Dan sluit ik hiermee de vergadering, niet dan nadat ik iedereen hartelijk
bedankt heb voor de antwoorden en de vragen en de toeschouwers voor het volgen van
dit debat.

Sluiting 11.36 uur.