Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 25 januari 2023, over Kunstmatige intelligentie

Nr. 972 VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 13 februari 2023

De vaste commissie voor Digitale Zaken heeft op 25 januari 2023 overleg gevoerd met
mevrouw Adriaansens, Minister van Economische Zaken en Klimaat, en mevrouw Van Huffelen,
Staatssecretaris Koninkrijksrelaties en Digitalisering, over:

– de brief van de Minister van Economische Zaken en Klimaat d.d. 7 oktober 2022 inzake
kabinetsreactie WRR-rapport Opgave AI. De nieuwe systeemtechnologie (Kamerstuk 26 643, nr. 943).

Van dit overleg brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie, Kamminga

De griffier van de commissie, Boeve

Voorzitter: Dekker-Abdulaziz

Griffier: Muller

Aanwezig zijn vier leden der Kamer, te weten: Bouchallikh, Dekker-Abdulaziz, Rajkowski
en Van Weerdenburg,

en mevrouw Adriaansens, Minister van Economische Zaken en Klimaat, en mevrouw

Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering.

Aanvang 13.31 uur.

De voorzitter:

Goedemiddag. Welkom bij de vaste commissie voor Digitale Zaken. Vandaag hebben we
het commissiedebat Kunstmatige intelligentie. Ik heet de Minister en de Staatssecretaris
welkom, net als de mensen op de publieke tribune. Ik heet ook de leden welkom: mevrouw
Van Weerdenburg van de PVV, mevrouw Rajkowski van de VVD en, net op tijd, mevrouw
Bouchallikh van GroenLinks. Ikzelf ga ook het woord voeren. We hebben één bericht
van verhindering gekregen, van mevrouw Koekkoek van Volt. Die komt later in verband
met een plenair debat. We hebben vijf minuten spreektijd. Omdat we niet met heel veel
mensen zijn, zal ik een beetje schappelijk zijn, maar niet té. Ik wil eerst het woord
geven aan mevrouw Van Weerdenburg van de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Streng maar rechtvaardig, zullen we maar zeggen. Ik ga meteen
met de deur in huis vallen: ik had bij dit debat heel graag een paar inleidende opmerkingen
gemaakt, want we hebben er lang op gewacht. Het is bijvoorbeeld wrang dat vandaag
alle aandacht uitgaat naar de plenaire zaal, waar op dit moment een debat over het
slavernijverleden bezig is, over gebeurtenissen uit een zeer ver verleden, terwijl
dit debat, dat in een klein achterafzaaltje plaatsvindt met een stuk minder deelnemers,
juist gaat over onze toekomst.

We staan echt aan de vooravond van een ongekende technologische revolutie. Nou ja,
niet aan de vooravond, want die revolutie is er al. De afgelopen maanden heeft het
grote publiek kennis kunnen maken met revolutionaire transformatiemodellen van onder
meer OpenAI. Het is overal een hot topic. Ik heb er zelf ook een paar in actie gezien,
zoals DALL•E, GitHub Copilot en ChatGPT, en stuk voor stuk zijn ze ontegenzeggelijk
verbluffend. De mogelijkheden zijn misschien wel eindeloos. Gaat dat zien en test
het uit, zou ik aan eenieder die kijkt willen meegeven. De toekomst is hier. Spring
aan boord.

Ik had daar graag langer bij stil willen staan, maar dan zou ik veel te weinig spreektijd
overhouden voor de geagendeerde brief, namelijk de langverwachte kabinetsreactie op
het WRR-rapport over AI. De Wetenschappelijke Raad voor het Regeringsbeleid heeft
op verzoek van de regering heldere wegwijzers geplaatst om te komen tot een solide
inbedding van AI. Het is een rapport van 500 pagina's, die uitmonden in tien heldere
aanbevelingen. Het kabinet heeft een jaar nodig gehad om met een reactie te komen
op dat rapport. Als ik de brief lees, is het mij echt een raadsel waarom dat zo lang
heeft geduurd, want deze kabinetsreactie is namelijk een grote ontwijkingsmanoeuvre,
een soort elandproef. De brief heeft een behoorlijk defensieve toon en ademt onwil
om de huidige koers bij te stellen.

De PVV is niet te spreken over de huidige koers. In Amerika zouden ze het «the fast
track to nowhere» noemen; ik kon daarvoor helaas geen goed Nederlands alternatief
vinden. Het kabinet loopt in kringetjes, met de Staatssecretaris Digitalisering voorop.
Soms versnellen ze hun pas voor de show, maar het blijven dezelfde kringetjes. Wat
in deze brief wordt opgevoerd als daadkracht is louter windowdressing. Ik geef een
paar concrete voorbeelden ter illustratie van wat in deze brief wordt opgevoerd als
daadkracht en behaalde resultaten voor de vijf grote opgaven voor AI die door de WRR
zijn geformuleerd. Op vrijwel elke concrete aanbeveling die de WRR doet, komt het
kabinet met een nietszeggend antwoord zoals «het staat op de agenda», «daar zijn we
mee bezig», «daar gaat Brussel over», «we voeren de dialoog», «we nemen het op in
de werkagenda», «er is een actieplan gemaakt», «we gaan richtlijnen stroomlijnen in
een implementatiekader en er komt ook nog een uitvoeringstoets bij», «het actieplan
wordt nu uitgewerkt», «we hebben een samenwerkingsverband opgericht», «we werken aan
een afsprakenstelsel» en ga zo maar door. O, laat ik deze niet vergeten: «Er is een
apart hoofdstuk gewijd aan digitalisering in het coalitieakkoord. Er is zelfs een
speciale hoofdlijnenbrief Digitalisering gekomen.» Wat een daadkracht, poehpoeh! Opschrijven
wat je belangrijk vindt en wat je van plan bent om daarmee te doen, is niet hetzelfde
als daadwerkelijk iets doen, iets uitvoeren, iets tot stand brengen of iets implementeren.
Dat zijn de bewindspersonen toch met mij eens?

Last but not least, voorzitter. Er is een Staatssecretaris Digitalisering aangesteld.
Spoiler alert: die was er in het vorige kabinet ook al, want Staatssecretaris Knops
had deze taken ook allemaal in zijn portefeuille. Hij had slechts de titulatuur niet.
Dit alles telt toch niet serieus als actie ondernemen, als iets doen? De brief is
een lege huls die is ondertekend door maar liefst zes bewindspersonen. Zes! Hoeveel
ambtenaren hebben die gezamenlijk wel niet? En dan duurt het toch een jaar om tot
deze achttien kantjes windowdressing te komen. Wat een ongelofelijke schoffering van
de WRR en ook een schoffering van deze commissie, want we zijn heel erg geduldig geweest.
We hebben dit kabinet alle ruimte gegeven voor een gedegen reactie op dit belangrijke
rapport en we hebben dit commissiedebat daarom steeds uitgesteld. We hadden het idee
dat er in de tussentijd daadwerkelijk iets gedaan werd, dat er daadwerkelijk nagedacht
werd over de vraag: hoe gaan we wat de WRR voorstelt allemaal doen? Ik vind dat we
hadden mogen verwachten dat deze brief een soort uitvoeringsplan zou bevatten, waarin
staat hoe de aanbevelingen die de WRR doet zo snel mogelijk uitgevoerd gaan worden
en wanneer, met een tijdpad erbij. Ik vind eigenlijk dat het kabinet zijn huiswerk
opnieuw moet doen. Ik overweeg er desnoods een paar moties tegenaan te gooien om het
daartoe te dwingen, maar ik geef de bewindspersonen nog de kans om er in antwoord
hierop misschien nog mondeling uitwerking aan te geven. Laat ik voor nu concluderen
– we hebben namelijk nog een tweede termijn – dat het geduld van de PVV in ieder geval
helemaal op is.

De voorzitter:

Dank. Als het mag van de commissie ga ik één interruptie plaatsen. Ik hoor de frustraties
van de PVV en die deel ik deels. Tegelijkertijd heeft het kabinet net een AI-toezichthouder
en een algoritmeregister gelanceerd. We zijn er nog niet, maar we zijn ergens. Wat
vindt de PVV daarvan? Dat is tenminste iets.

Mevrouw Van Weerdenburg (PVV):

Dat ben ik met mevrouw Dekker eens. Dat is eigenlijk een van de minikruimeltjes die
daadwerkelijk meetellen als «we hebben iets gedaan». We kunnen discussiëren over hoe
goed de AP is en wat er nog allemaal bij moet, maar dat zou inderdaad het enige puntje
zijn dat daadwerkelijk past bij wat wij voor ogen hebben. Misschien had ik dat eerlijkheidshalve
zelf ook moeten melden. Daarvoor kunnen we eindelijk een vinkje zetten op de to-dolijst,
zo van: dat is in ieder geval gedaan. Dan kunnen we monitoren of dat goed genoeg is
en of er nog wat getweakt moet worden. Maar dat is wel het enige. Na al die tijd en
na al dat wachten, voel ik me echt misleid.

De voorzitter:

Fijn dat de PVV dat ziet. Ik geef nu het woord aan mevrouw Rajkowski van de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Misleiding is inderdaad iets wat bij nieuwe technologie hoort, dus
wie weet komen we er nog uit.

Voorzitter. Elke Nederlander gaat in alle facetten van het dagelijks leven te maken
krijgen met kunstmatige intelligentie. Misschien zijn we al wel zover, als we bijvoorbeeld
kijken naar de discussie over ChatGPT in het onderwijs. Maar ook op de werkvloer wordt
het echt al door veel mensen gebruikt, zeker in de techwereld. Vandaag is er in het
AD een opinieartikel te lezen dat ik samen met collega Mariëlle Paul heb ingestuurd.
Het artikel is volledig door deze chatbot geschreven. Dat hebben we gedaan om te laten
zien hoe geavanceerd sommige technieken al zijn en om te laten zien dat ook hier echt
en nep niet van elkaar te onderscheiden zijn. Wij moeten ons bewust zijn van de mogelijkheden
van AI, maar we moeten ook weerbaar zijn tegen eventuele negatieve kanten, ook in
het onderwijs.

Voorzitter. Daarnaast bekleedt Nederland wereldwijd een unieke positie in AI, van
waaruit het koploper kan worden op dat gebied. Dat is niet alleen iets waar we blij
van kunnen worden of wat we leuk zouden moeten vinden, maar het is ook gewoon bittere
noodzaak. Daarmee verzekeren we niet alleen ons toekomstige verdienvermogen, maar
daarmee beschermen we ook ons mkb en onze inwoners tegen de enorme datamarktmacht
van de VS en China. Zo verzekeren we onze geopolitieke, strategische positie en kunnen
we zorgen voor veilige systemen voor ons allemaal. Daarvoor moeten we echter wel een
aantal dingen goed regelen. Juist vanwege de politieke verantwoordelijkheid die wij
voelen om ruim baan te geven aan die kansen én om Nederlanders te beschermen tegen
de risico's van deze ontwikkeling, heeft de VVD dit debat aangevraagd. Ik ben dus
blij dat we daar vandaag met elkaar over praten.

Voorzitter. De kansen om maatschappelijke problemen aan te pakken met AI zijn eindeloos.
Neem bijvoorbeeld de zorgrobot TUG, Paro de zeehond of de sociale robot Phi. Die kunnen
voor mensen die thuishulp of extra mentale steun nodig hebben bijvoorbeeld bij thuiskomst
hun lievelingsliedje afspelen of een spelletje met hen doen. Soms kunnen dit soort
dingen sociaal gezien al enorm helpen. Wat dit soort technologieën allemaal voor positiefs
voor de samenleving gaat betekenen, weten we natuurlijk nog niet. Wat de VVD wel weet,
is dat we er met deze inzichten alles aan moeten doen om deze ontwikkeling zodanig
te implementeren dat we de maatschappelijke vraagstukken van deze tijd kunnen oplossen
en brede welvaart kunnen creëren voor ons allemaal, ook om ons land toekomstbestendig
te maken.

Voorzitter. Eén van die kansen ligt in de gezondheidszorg binnen Health~Holland; dat
is een van de topsectoren van Nederland. In sommige gevallen kan AI nu namelijk al
beter dan een arts een ziekte of aandoening constateren. 60% van de medicijnen wordt
nu al niet meer in laboratoria gemaakt, maar in systemen. Denk aan persoonlijke medicatie.
Ook hier zijn de mogelijkheden eindeloos. Maar dan moeten we wel stappen durven te
zetten, ook op het gebied van datadeling, ook op dit terrein, want anders raken wij
gigantisch achter. Dus mijn vraag aan de Minister is: ziet de Minister drempels binnen
deze topsectoren? Is er daar wellicht sprake van angst om het fout te doen op het
gebied van datadeling, waardoor innovatie juist geremd wordt? Wat gaat zij hieraan
doen? Wij hechten natuurlijk aan de AVG, dus het gaat ons om dingen die mensen wel
mogen, maar niet durven.

Voorzitter. Hoe gaat het met het inrichten van de regulatory sandboxes? Daarmee kunnen
start-ups, mkb en andere bedrijven experimenteren met nieuwe vormen van AI. Kan de
Minister daarop reflecteren?

Voorzitter. Dan de risico's. Als deze techniek verkeerd wordt ingezet of in de verkeerde
handen valt, kan dat niet alleen negatief zijn voor mensen en bedrijven maar kan ook
Nederland, als land, daarvan de dupe zijn. Daarom blijft het belangrijk voor de VVD
om de ethische aspecten scherp te houden. Maar dat moeten we op Europees niveau gaan
regelen. Brussel is namelijk een sterke trendsetter in het stellen van wereldwijde
ethische normen. Daarmee voorkomen we ook dat we in Nederland allerlei andere regels
gaan bedenken die alleen in Nederland gelden. Dat zorgt weer voor bureaucratie en
remt onze innovatie.

De VVD wil graag dat de Minister zich in Europa voor de volgende drie spelregels gaat
inzetten. Eén. Het moet altijd duidelijk zijn voor iemand dat je praat met een systeem
in plaats van een echt persoon. Dat geldt niet alleen voor contacten met de overheid,
maar ook op het commerciële vlak, bijvoorbeeld in de metaverse. Twee. De VVD wil dat
er internationaal meer wordt samengewerkt met gelijkgestemden. Zo heb je de EU, Singapore,
Japan en Canada. De WRR adviseert om in te zetten op AI-diplomatie. Hoe gaat het kabinet
dit vormgeven? Drie. Dit punt is ook namens de Partij voor de Dieren. Een oplossingsrichting
kan de zogenaamde «value alignment AI» zijn. Een moeilijk woord, maar daarmee kun
je ervoor zorgen dat geavanceerde AI altijd blijft handelen op basis van waarden die
wij in acht nemen en belangrijk vinden. Hoe kunnen we dat precies inbouwen? Dat is
een belangrijke vraag. Als AI een dusdanige impact heeft op de mens, de omgeving en
de maatschappij, is het voor ons, voor beide partijen, in ieder geval belangrijk dat
er altijd een ethische sturing vooraf moet zijn en dat technieken niet zomaar in de
markt gebruikt mogen worden.

Dan mijn laatste punt, voorzitter. De WRR stelt ook voor om te werken aan een soort
AI-brevet, zoals ze dat noemen. Ik heb gesproken met twee wiskundigen, Marieke Kootte
en Vandana Dwarka. Zij werken bij de TU Delft. Zij pleiten ervoor om nog een stap
verder te gaan, dus niet om te werken aan een AI-brevet, maar om echt toe te werken
naar een AI-engineer. Daarmee willen ze een soort beroepsgroep creëren die niet alleen
handig is met codes, maar die ook opgeleid wordt en getoetst wordt op normen, waarden
en mensenrechtenaspecten. Op technische universiteiten wordt hier dus al over nagedacht.
De VVD onderschrijft deze ambitie. Kan de Minister hierop reageren?

De voorzitter:

Dank u wel. Ik zie een interruptie van de PVV.

Mevrouw Van Weerdenburg (PVV):

Allereerst complimenten aan mevrouw Rajkowski omdat zij hartstochtelijk de kansen
benoemt van deze technieken en niet, zoals sommige partijen, gelijk denkt aan risico's
en barrières opwerpt. Er wordt veel te vaak over verboden gesproken hier. Ik ben het
dus helemaal met haar eens. Ik zou graag nog iets uitgebreider van mevrouw Rajkowski
willen horen wat zij vindt van de kabinetsreactie op het WRR-rapport. Zij heeft het
wel al even gehad over dat AI-brevet, maar is zij overall tevreden? Is dit wat zij
ervan had verwacht?

Mevrouw Rajkowski (VVD):

Eerlijkheidshalve had ik van tevoren bedacht om met een hele waslijst aan punten te
komen. We hebben hier een debat over AI, dat ik zelf heb aangevraagd. Maar het is
natuurlijk heel breed. Je kunt het hebben over de maatschappij. Je kunt het hebben
over het kabinet. De mogelijkheden zijn eindeloos, dus wij hebben het een beetje moeten
inkorten. Ik meen dat ik het debat in september, of misschien zelfs in het voorjaar
vorig jaar heb aangevraagd. Toen wisten we wel dat AI de samenleving zou gaan veranderen,
maar we wisten nog niet hoe snel het zou gaan. In de afgelopen weken zagen we steeds
meer voorbeelden in de praktijk waaruit blijkt dat AI de samenleving echt aan het
veranderen is. Ik kan me zomaar voorstellen dat de kabinetsreactie dan misschien nog
niet ver genoeg is. Maar daar hebben we dit debat voor. We kunnen het aan het kabinet
vragen. Ik ben het zeer eens met de inhoudelijke lijn, maar ik kan me voorstellen
dat we misschien nog wat haast moeten maken met een aantal stappen of ambities die
er zijn. Wat dat betreft ben ik misschien iets minder kritisch dan mijn collega van
de PVV. Woorden als «ondermaats» zult u mij zeker niet horen zeggen.

De voorzitter:

Dank. Dan geef ik nu het woord aan mevrouw Bouchallikh, van GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter. Laatst werd mij gevraagd of ik weleens mijn spreektekst heb
laten maken door ChatGPT. Ik moest daar wel een beetje om lachen. Ik zal bekennen
dat ik het niet heb gedaan, maar het laat wel zien hoe belangrijk dit thema is, hoe
wijdverspreid het is en hoe belangrijk het is dat we hier als Kamer kritisch over
blijven nadenken, en constructief.

Allereerst de mensenrechtentoets op algoritmes. Goed dat daarin ontwikkelingen gaande
zijn. Ik wil van de Staatssecretaris nog wel graag horen dat de mensenrechtentoets
echt verplicht, bindend en transparant wordt en dat het niet, zoals de brief van 7 oktober
geïnterpreteerd kan worden, slechts een adviserende toets wordt. Ook tijdens de rondetafel
van vorige week bleek dat daar nog wat zorgen over zijn. Ik hoop dat de Staatssecretaris
ons daarover gerust kan stellen.

Naast een mensenrechtentoets vooraf, is het ook van belang dat data en algoritmes
continu gemonitord worden om te voorkomen dat kunstmatige intelligentie leidt tot
het schenden van mensenrechten. Goed dat daar nu via de Autoriteit Persoonsgegevens
toezicht op komt. Het enthousiasme bij de aftrap vorige week was heel mooi om te zien.
We zijn ook blij dat er wat budget bij komt. We maken ons er echter nog wel zorgen
over of dat genoeg is. De Autoriteit Persoonsgegevens kampt namelijk al langere tijd
met tekorten. Hoe gaat de Staatssecretaris ervoor zorgen dat de Autoriteit Persoonsgegevens
voldoende capaciteit heeft en, gezien het onderwerp van vandaag, specifiek voldoende
capaciteit heeft als toezichthouder algoritmes? Hoe zit het met de bevoegdheden? In
hoeverre is het voldoende wat de AP op dit moment kan? Zal dat voldoende blijken in
de toekomst als het gaat om de uitvoerende taken die nog aan de orde zullen zijn?

Dan discriminatie. Dat is verboden op grond van artikel 1 van de Grondwet.

De voorzitter:

Mevrouw Bouchallikh, ik zie een interruptie van de VVD. Mevrouw Rajkowski.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Ik onderbreek niet graag mensen als ze belangrijke artikelen uit
de Grondwet citeren, dus excuus daarvoor. Ik heb nog een vraag over dat toezichthouderschap.
Die zorg deelt de VVD. AI of algoritmes gaan natuurlijk overal in zitten. Ik ben bij
de bloemenveiling langs geweest. Daar zijn ze bezig met AI om ervoor te zorgen dat
bepaalde bloemenkarretjes kunnen gaan rijden. Dat heeft wat de VVD betreft wat minder
impact op mensenrechten. Dan is het dus belangrijk dat je als AP naast dat je verstand
hebt van mensenrechten en de AVG ook sectorale kennis mee kunt nemen in dat toetsen.
De VVD heeft al gevraagd om met een brief te komen vanuit het kabinet over het waardegedreven
toezicht, maar ook over het sectorale toezicht. Daarover komt dus volgens mij wat
deze kant op. Ik ben een beetje naar het zoeken wat GroenLinks daar nog aan toe zou
willen voegen. Of is het gewoon het weer onder de aandacht brengen hiervan?

Mevrouw Bouchallikh (GroenLinks):

Ik ben blij met deze inhoudelijke toevoeging. Ik heb het tot nu toe vooral gehad over
de capaciteit en de middelen, omdat ik me daar heel veel zorgen over maak. Het ging
al eerder over de middelen van de AP in het algemeen. Er was al onderzoek gedaan en
daaruit bleek dat ze gezien de taken die ze moeten uitvoeren eigenlijk het dubbele
nodig hebben van wat ze nu krijgen. Waar ik me zorgen over maak op het moment dat
wij daar nu een extra bevoegdheid neerleggen, waar we overigens wel een budget bij
hebben ingekaderd, is of dat wel genoeg is. Ik hoop dan niet dat we terwijl zij bezig
zijn met sectorale kennis ontwikkelen, ophalen en uitvoeren over een jaar moeten constateren:
hé, er had toch wat bij gemoeten. Ik wil dus graag de inhoud naast de capaciteit en
de middelen laten ontwikkelen. Ik weet nog niet of het voldoende is. Misschien wel,
maar misschien ook niet. Dus ik wil graag alvast van tevoren beoordelingskaders mee
krijgen.

De voorzitter:

Mevrouw Van Weerdenburg heeft ook een interruptie.

Mevrouw Van Weerdenburg (PVV):

Helemaal eens. Wij delen de zorgen over de middelen die de AP op dit moment tot haar
beschikking heeft. Ziet mevrouw Bouchallikh misschien ook nog een rol weggelegd voor
het Samenwerkingsplatform Digitale Toezichthouders? Dat is een paar jaar geleden met
veel bombarie gelanceerd, ineens, out of the blue, door de AFM, de ACM, de AP en het
Commissariaat voor de Media. Ik heb eigenlijk niet zo goed kunnen vinden wat zij op
dit moment doen en of het nog actief is. Ze hebben niet eens een website. Wellicht
kan dat een aanvulling zijn op het werk van de AP.

Mevrouw Bouchallikh (GroenLinks):

Ik vind dit echt een heel goede vraag. Ik heb vorige week bij de rondetafel ook gevraagd
wat de verhouding wordt ten opzichte van de Europese toezichthouders. We zijn met
zijn allen een soort puzzel aan het leggen. Ik ben blij dat daar ontwikkeling in zit,
maar ik ben ook aan het zoeken. Ik vermoed dat er meer middelen bij moeten, maar het
kan zijn dat dat niet zo is en dat die met samenwerking op een andere manier nuttiger
kunnen worden besteed. Dan is dat handig, maar ik kan het nu gewoon nog niet beoordelen.
Ik ben aan het zoeken naar manieren om dat als Kamer te kunnen controleren en ik ben
het benieuwd hoe het kabinet daarnaar kijkt. Misschien heeft het die afweging wel
al gemaakt en heb ik dat gemist. Vandaar mijn vraag.

De voorzitter:

Mevrouw Bouchallikh, u vervolgt uw betoog.

Mevrouw Bouchallikh (GroenLinks):

Dan gaan we terug naar de Grondwet, discriminatie. Algoritmes kunnen nog steeds zorgen
voor etnisch profileren, omdat op basis van risicoprofielen wordt gewerkt. We hebben
dit punt vaker gemaakt, maar wat ons betreft wordt het verboden om met algoritmes
op basis van afkomst en etniciteit te werken. Ik het verleden hebben we bij het debat
over het toeslagenschandaal een motie aangenomen gekregen over het volledig uitsluiten
van risicomodellen op basis van etniciteit. Kan de Staatssecretaris een update geven
van hoe het daar op dit moment mee staat?

Dan het algoritmeregister. Dat is van belang om ervoor te zorgen dat er meer transparantie
komt over de gebruikte algoritmes en over de effecten van deze algoritmes. We zijn
dan ook blij met de ontwikkelingen in dezen. We vinden het nog wel zorgelijk dat er
een uitzondering komt voor algoritmes die gebruikt worden voor rechtshandhaving. Daar
wijst bijvoorbeeld Amnesty International op, juist ook omdat hier inperking van burgerrechten
aan de orde is, terwijl volgens mij zowel de Kamer als het kabinet een manier probeert
te vinden om dat te beperken. Kan het kabinet hierop reflecteren en hoe kunnen we
voorkomen dat juist dit middel niet afdoende zal zijn om die burgerrechten te beschermen?

Voorzitter. Over een ander voor GroenLinks belangrijk punt heb ik in de stukken niet
zo veel gelezen. Dat betreft de milieu-impact van kunstmatige intelligentie en van
data in de bredere context. De ICT-sector stoot veel CO2-uit en die uitstoot is inmiddels te vergelijken met die van de luchtvaart. In de
toekomst zal dit alleen maar toenemen, want onderzoek toont bijvoorbeeld aan dat het
trainen van kunstmatige intelligentie in een home assistant als Alexa of Google 300 ton
CO2 kost. Ik schrok eerlijk gezegd zelf van dit getal, maar het is dan ook absurd veel.
En dan hebben we het nog niet eens gehad over de zeldzame materialen die de ICT-sector
en AI nodig hebben.

Wat GroenLinks betreft worden Europa en Nederland voorlopers in duurzame technologie.
Het is wat ons betreft daarom ook belangrijk dat landen gaan rapporteren over de milieu-impact
van AI. Duitsland is dit gelukkig al van plan. Wat is de inzet van ons kabinet en
wat kunnen we in dezen van Duitsland leren? We zouden ook graag zien dat er duurzaamheidsstandaarden
voor AI komen, zodat effectief gestuurd kan worden op het terugdringen van de CO2-uitstoot. Ook hierop graag een reactie van het kabinet.

Dank u wel, voorzitter.

De voorzitter:

Dank, mevrouw Bouchallikh. Dan geef ik het voorzitterschap even tijdelijk aan mevrouw
Van Weerdenburg.

Voorzitter: Van Weerdenburg

De voorzitter:

Dank u wel. Dan geef ik nu het woord aan mevrouw Dekker voor haar inbreng namens D66.

Mevrouw Dekker-Abdulaziz (D66):

Dank u wel.

Voorzitter. Voor velen lijkt AI zowel een groot onderwerp als vrij ongrijpbaar, maar
met ontwikkelingen als ChatGPT komt daar snel verandering in. We kunnen er niet meer
omheen. Het is nu aan de politiek om keuzes te maken. Dit is het jaar van de regelgeving.
Daarom is het goed dat wij dit debat voeren. Namens D66 zal ik ingaan op de kansen
en bedreigingen, de Europese en internationale regelgeving, en de kabinetsreactie
op het WRR-rapport.

Voorzitter. Zoals de WRR beschrijft is AI een systeemtechnologie die onze maatschappij
sterk verandert en die vraagt om keuzes. Het besef begint te dagen dat ons onderwijs,
onze arbeidsmarkt en ons leven binnenkort niet meer hetzelfde zijn. Volgens D66 is
het een grote kans, maar ook een bedreiging voor mensenrechten, democratie en onze
rechtsstaat. AI is als een groeiende golf die steeds sneller op ons af komt. Als we
niet oppassen dendert die over ons heen, maar als we er op tijd klaar voor zijn, surfen
we mee met de grote voordelen die het biedt. Er zijn voordelen voor de wetenschap,
de ontwikkeling van onze medicijnen, voor onze bedrijven om nieuwe banen te creëren
en voor Nederland als digitale koploper. Deelt de Staatssecretaris de mening van D66
dat AI ook bij het onderwijs betrokken zou moeten worden? En kan de Staatssecretaris
uitleggen welke kansen zij ziet om AI te gebruiken om ons strategisch zelfredzamer
te maken, bijvoorbeeld tegenover China?

Voorzitter. D66 ziet ook de keerzijde van kunstmatige intelligentie, bijvoorbeeld
dat student Robin in coronatijd haar onlinetentamen niet kon maken, omdat ze vanwege
haar huidskleur niet werd herkend door de camera. Deelt de Staatssecretaris de zorgen
van D66 over hoe offline ongelijkheid online terugkomt en wordt doorgezet door AI?
Maakt de Staatssecretaris zich ook zorgen over door AI gebruikte foto's en data zonder
toestemming en over het grote energiegebruik dat daarmee gepaard gaat? Graag een reactie.

Voorzitter. Dit is het moment om keuzes te maken, om richting te geven aan welke kunstmatige
intelligentie wij willen en juist niet willen. Dit is het jaar van de regelgeving
met zowel de AI Act van de Europese Unie als het AI-verdrag van de Raad van Europa,
waar druk aan wordt gewerkt. Dat AI-verdrag van de Raad van Europa is nog grensoverschrijdender
dan de AI Act, want daarbij zijn ook Canada en de VS aangehaakt. Samen geeft dat een
grote regelmacht voor bedrijven en staten.

Dank aan de Staatssecretaris voor het delen van de mogelijke elementen van het verdrag
met de Kamer. Deelt de Staatssecretaris de visie van D66 dat dit een cruciaal moment
is om platformen als Facebook en Twitter verantwoordelijk te houden voor de inhoud
op het web? Op dit moment is Europa hier veel verder dan de VS en dan is het voor
D66 zorgelijk dat de VS de onderhandelingen nu de deuren sluit en de onderhandelingen
zonder maatschappelijke organisaties wil voeren. Wat vindt de Staatssecretaris daarvan?
Wanneer zal de Staatssecretaris de onderhandelingen voeren? En kan de Staatssecretaris
de Kamer toezeggen om voorafgaand aan de onderhandelingen de kans te bieden inbreng
mee te geven?

Voorzitter. Dat brengt mij bij de rol van het kabinet. Het is goed dat we nu een Staatssecretaris
Digitalisering hebben, dat Nederland een buitengewoon serieuze gesprekspartner is
voor bedrijven en dat Nederlandse onderhandelaars bijvoorbeeld Microsoft en Google
helpen steviger aan de eisen te voldoen, waar zowel wij als zij beter van worden.
Er gebeurt al heel veel en dat verdient oprecht een compliment, maar de vraag is of
het genoeg is. Zo is bijvoorbeeld nog niet bekend wanneer het algoritmeregister wettelijk
verplicht wordt, terwijl we hebben gezien dat algoritmes grote schade toe kunnen toebrengen
aan het maatschappelijke vertrouwen. Kan de Staatssecretaris uitsluitsel geven over
wanneer de verplichting wordt verwacht? En los van al het goede werk op de departementen
zouden de krachten in onze ogen nog sterker gebundeld kunnen worden, ook met het veld.
Hoe kijkt de Staatssecretaris aan tegen een expertisecentrum – dat was ook een aanbeveling –
waarin kennis gebundeld wordt op bijvoorbeeld economisch, sociaal, juridisch, technisch
en ethisch vlak? En onderschrijft de Staatssecretaris het belang van een actuele overkoepelende
AI-strategie, een gecoördineerde aanpak van het kabinet?

Voorzitter, ik sluit af. Dit is het jaar van de waarheid op het gebied van AI, het
jaar van keuzes, van beeld naar begrip, van techniek naar toepassing, van monoloog
naar dialoog, van reactie naar regie, van natie naar netwerk, en bovenal van stilstand
naar vooruitgang.

Dank je wel.

De voorzitter:

Dank u wel. Ik zie aan mijn linkerzijde geen interrupties, maar ik heb zelf nog wel
een vraag.

Ik ben het eens met de aanbeveling om te komen tot een coördinatiecentrum AI. Ik denk
dat dat een van de absolute musts is op de to-dolijst. Maar ik hoor mevrouw Dekker
vragen wat de Staatssecretaris daarvan vindt, maar nu ik de brief gelezen heb denk
ik dat het een nee is. Is D66 dan bereid om vanuit de Kamer de regering daartoe te
bewegen, desnoods met een motie?

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de vraag. Ik weet niet of ik met een motie ga komen. Ik wacht even op de
reactie van het kabinet. Het was inderdaad een nee in de brief en daarom vragen we
het nu alsnog in de hoop dat we wat beweging kunnen creëren.

De voorzitter:

Dank u wel. U bent heel coulant.

Dan geef ik u hierbij het voorzitterschap terug.

Voorzitter: Dekker-Abdulaziz

De voorzitter:

Dank. Ik wilde eigenlijk de eerste termijn van de Kamer afsluiten. Maar heeft iemand
nog een bericht gekregen van mevrouw Koekkoek? Ik zie dat dat niet zo is en dan zit
er niks anders op dan dat we de eerste termijn nu afsluiten. We gaan zo naar de beantwoording
door het kabinet luisteren. Hoeveel tijd heeft u nodig? Ik hoor dat dat een halfuur
is.

De vergadering wordt van 13.59 uur tot 14.29 uur geschorst.

De voorzitter:

Ik wil graag eerst het woord geven aan de Minister van Economische Zaken.

Minister Adriaansens:

Dank u, voorzitter. We hebben twee debatten in deze periode. Ik vroeg net even na
wat precies het accentverschil is. Eigenlijk was het de bedoeling om het vandaag vooral
over de kansen van artificial intelligence te hebben en uiteraard aandacht te besteden
aan de risico's, maar ook om die beide in balans te zien. Ik ben dan ook heel blij
dat we het daarover hebben. Het is namelijk een spannende ontwikkeling. Dat is ook
al door uw leden aangegeven. Maar het biedt ook heel veel kansen en heel veel potentie.
Als we kijken naar de ontwikkeling van Nederland, zien we dat we het al best goed
doen wat betreft onze digitale ontwikkeling. Als we kijken naar de DESI-ranking en
allerlei andere lijsten waarop wordt gemeten wat wij in Nederland doen met digitalisering,
dan zien we dat wij het goed doen. Maar de wereld gaat heel snel. De bewegingen gaan
heel snel. Ontwikkelingen gaan snel. Dat betekent dus dat we ook heel hard bezig moeten
blijven met daarin de goede dingen doen. Omdat het zo veel nieuwe technologie betreft
en we een heleboel dingen nog niet doorhebben, vraagt dat veel alertheid van ons,
en ook in deze samenstelling, zou ik zeggen.

Ik begin met de opmerking van mevrouw Van Weerdenburg. Ik herken dat volledig niet.
Ik begrijp wel dat we heel goed moeten uitleggen wat we doen, maar we doen waanzinnig
veel rond het bevorderen van artificial intelligence. Ik noem maar iets. Wat doet
de overheid? De overheid stimuleert, normeert en beprijst. Het repertoire van de overheid
bestaat natuurlijk vaak uit anderen stimuleren om activiteiten op te pakken en resultaten
te boeken. Als je kijkt wat de overheid doet op het gebied van AI, kunstmatige intelligentie,
dan zie je dat wij investeren en stimuleren. We investeren bijvoorbeeld 230 miljoen
– dat is echt veel geld – in kennis, innovatie en talent op het gebied van AI in Nederland.
We zorgen dat we kennis ontwikkelen.

Dat doen we bijvoorbeeld via AiNed en het Kickstart AI-programma. We hebben begin
2023 het ROBUST-langetermijnprogramma gestart voor fundamenteler onderzoek op het
gebied van betrouwbare en uitlegbare AI. NWO draagt ook voor 25 miljoen bij. Daarbovenop
doet Economische Zaken nog eens 7,5 miljoen. Kijk bijvoorbeeld ook naar het onderwijs.
Het is heel belangrijk dat we investeren in vaardigheden. Er is het Nationaal Onderwijslab
AI, het NOLAI. Dat is gestart met een investering van 80 miljoen uit het Nationaal
Groeifonds. De bedoeling is – daar kom ik zo anders nog wel even over te spreken –
om vooral te zorgen dat we de scholing ook op dat niveau gaan krijgen en daar bijvoorbeeld
in het curriculum eisen aan te gaan stellen, zodat iedereen mee kan met deze ontwikkelingen.
Dat is superbelangrijk.

Daarnaast hebben we nog Digital Europe. Wij cofinancieren met de Europese Commissie
verschillende projecten die helpen bij het toepassen van AI als gebruiker en bij het
bevorderen van de ontwikkeling van AI. Dat doen we onder andere via de Europese digitale
innovatiehubs en de test- en experimenteerfaciliteiten.

Naast dat stimuleren en investeren hebben we natuurlijk ook de regulering. We bewandelen
beide sporen. Daar hebben we al eerder over gesproken. Dat staat ook allemaal beschreven
in de strategie digitale economie van het Ministerie van Economische Zaken, maar ook
in het werkprogramma dat u heeft ontvangen. Dat kijkt wat breder naar de ontwikkeling
van AI. Dat is de Werkagenda Waardengedreven Digitaliseren. Over de digitale strategie,
waarop wij de regie voeren, zullen we jaarlijks rapporteren aan de Kamer over de voortgang
van die acties. Ik deel namelijk met mevrouw Van Weerdenburg dat we voortgang moeten
maken, dat we acties moeten hebben maar ook resultaten, en dat er op enig moment daadwerkelijke
wapenfeiten moeten worden bereikt. Daarover moeten we rapporteren aan uw Kamer. U
kunt ons dan weer scherp houden op de voortgang daarvan.

Mevrouw Van Weerdenburg (PVV):

We mogen er toch van uitgaan dat de WRR op de hoogte is van wat de Minister nu allemaal
opnoemt, van wat er allemaal is en wordt gedaan? Toch komen zij tot een aantal stevige
aanbevelingen. Ik begin me af te vragen waarom je advies vraagt aan zo'n raad als
je de wegwijzers toch niet gaat gebruiken. Of zegt de Minister hier het volgende?
In juni 2018 is deze adviesaanvraag gedaan. Dat duurt natuurlijk een tijd. De WRR
is er lang mee bezig geweest en inmiddels hebben we het in de tussentijd allemaal
al zelf gedaan, dus is het nu niet nodig om extra te doen. Ligt het dan zo?

Minister Adriaansens:

Het is altijd goed om te kijken of je met de doelen die je voor ogen hebt, nog extra
activiteiten moet verrichten. Je moet dus altijd alert blijven. Daarom is het ook
goed om minimaal jaarlijks daarover te rapporteren en te kijken of je doelen behaalt.
Maar een van de redenen dat het misschien niet helemaal zwaluwstaarten is, is dat
die trajecten gezamenlijk op zijn gegaan. Dat klopt. Er heeft ook nog een formatie
plaatsgevonden. Er is een heleboel in gang gezet. Daarnaast liep de ontwikkeling van
het WRR-rapport. Het zou zomaar kunnen zijn dat dat onvoldoende met elkaar in verband
is gebracht. Maar ik neem in ieder geval de aanbevelingen van de WRR zeer serieus.
Ik zal die ook naast onze plannen blijven leggen.

De voorzitter:

Een vervolginterruptie van mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Ik ben een beetje verbaasd. Wat ik nu namelijk hoor, is: bedankt voor het rapport,
WRR, maar de conclusies zijn eigenlijk al achterhaald. Ik ben het daar eerlijk gezegd
niet mee eens, in ieder geval niet wat betreft de aanbeveling dat er een coördinatiecentrum
of kenniscentrum moet komen op het gebied van AI. Niet alleen de WRR vindt dat een
goed idee, maar ook een heleboel meer spelers uit het veld. Maar dat vindt het kabinet
ook niet nodig. Kan de Minister uitleggen waarom niet?

Minister Adriaansens:

Ik heb volgens mij net ook bevestigd dat wij als kabinet zeer veel belang hechten
aan het WRR-rapport. Dat staat ook in de kabinetsreactie. De WRR wijst vooral op langetermijnopgaven
en die moeten wij goed in de gaten houden bij de uitvoering van ons beleid en het
vormgeven daarvan. Wij omarmen het WRR-rapport, maar de aanbevelingen daarin moeten
wij op een bepaalde manier uitvoeren.

Mevrouw Van Weerdenburg noemt het coördinatiecentrum als voorbeeld. Wij hebben daar
wel degelijk een bepaalde aanpak voor. We hebben met het Strategisch Actieplan voor
AI uit 2019 de basis gelegd voor een gezamenlijke aanpak. Zoals ik net zei, hebben
we in de werkagenda digitalisering – daarin heeft de Staatssecretaris de lead – en
in de strategie digitale economie de acties en de doelen voor AI verder uiteengezet.
Om de coördinatie van de gezamenlijke aanpak te versterken, hebben we nog drie stappen
gezet. We hebben een ambtelijke commissie digitalisering gestart om de samenwerking
tussen de departementen te versterken. We hebben de samenwerking in het veld een boost
gegeven. Die vindt met name plaats via de Nederlandse AI Coalitie. Ik geloof dat inmiddels
zo'n 500 partijen daarbij zijn aangesloten. Die hebben een ambitieus werkprogramma
met allerlei werkgroepen waarin van alles gebeurt. Daar zijn wij nauw bij betrokken.
Dat gaat dus over de samenwerking tussen het bedrijfsleven, de overheid, kennisinstellingen
en maatschappelijke organisaties. De samenwerking tussen de toezichthouders wordt
verstevigd via de directie Coördinatie Algoritmes bij de Autoriteit Persoonsgegevens.
Die directie gaat dus de verschillende acties in de verschillende sectoren coördineren
en zorgen dat we daar samenhang in krijgen. Wij hebben gemeend dat met al deze acties
een apart centrum niet nodig was, omdat we het op deze manier hebben vormgegeven.

De voorzitter:

Tot slot, mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Tot slot, voorzitter, beloofd. Dat is het nou juist. Deze discussie hebben we ook
op het gebied van cyberveiligheid. We hebben nu zo'n lappendeken. We hoeven niet opnieuw
het wiel uit te vinden. Hier zijn inderdaad een heleboel instanties en organisaties
al mee bezig. Mijn vraag is nou juist: breng ze allemaal samen. Dat het gebeurt op
het departement of dat de ambtenaren met iedereen in gesprek zijn, is nog iets anders
dan dat er een onafhankelijk kenniscentrum of coördinatiecentrum is waar iedereen
uit de maatschappij terechtkan. Dat is niet hetzelfde als al die ambtelijke werkgroepjes
en commissies. Ik geloof best dat er met iedereen gepraat wordt, maar ik wil dat het
gewoon allemaal bij elkaar gebracht wordt, dat het helder is, dat er korte lijnen
zijn en niet dat het zo'n overlegcircus is in de vorm van zo'n lappendeken.

De voorzitter:

Ik heb geen vraag gehoord. De Minister.

Minister Adriaansens:

Dan ga ik het herhalen. Het kabinet meent dat op deze wijze de coördinatie wordt vormgegeven.
Het is natuurlijk wel zo dat de werkwijze van de directie bij de AP waar we het over
hebben nog zijn beslag moet krijgen. Daar wordt aan gewerkt. Dat het dus nog niet
meteen voelbaar en merkbaar is, kan ik me van alles bij voorstellen. Maar met die
coördinatie menen wij dat er een hele stap is gezet, net als overigens met die ambtelijke
commissie digitalisering.

De voorzitter:

De Minister vervolgt haar betoog.

Minister Adriaansens:

Een andere vraag was of ik de mening deelde dat AI bij het onderwijs betrokken zou
moeten worden. Dat was een specifieke vraag van D66. Dat heb ik net eigenlijk al bevestigd.
Het is ontzettend belangrijk. We willen de risico's adresseren, maar we willen ook
de kansen benutten. Er is vanuit het Groeifonds bijvoorbeeld 80 miljoen euro toegekend
aan het Nationaal Onderwijslab AI in het funderend onderwijs, om dat op te zetten.
Dan hebben we het over p.o. en vo. Dat project wordt vormgegeven door partijen als
Kennisnet, de PO-Raad, de Radboud Universiteit. Scholen zijn ook een partner in die
ontwikkeling. De kern van het Nationaal Onderwijslab AI is te zorgen dat het in de
onderwijspraktijk gaat werken. We hebben het over het scholen, een programma maken
voor de scholing – het is eigenlijk een aanpassing van het lesprogramma – maar ook
over het vernieuwen van het curriculum. Er zit nu geen digitale geletterdheid in het
curriculum. Wij zijn aan het kijken of dat niet zou moeten gebeuren. We moeten ook
zorgen voor onderwijsmateriaal. We moeten zorgen dat we dit een boost geven, zodat
we kunnen zorgen dat alle jonge mensen mee kunnen doen in deze ontwikkeling. Dat benadrukte
ik net ook al.

D66 vroeg ook welke mogelijkheid ik zie om ons strategisch zelfredzaam te maken, bijvoorbeeld
richting China. De eerste stap daarin is heel goed samenwerken in Europa door te investeren,
zoals ik net aangaf, en te reguleren. Europa is namelijk sterk als wij dezelfde regels
in de Unie hebben en zorgen dat we die markt reguleren. Dat doen we met de AI-verordening.
We moeten zorgen dat de AI-systemen van buiten de Europese Unie ook aan die regels
voldoen. Op die manier kunnen wij een Europese standaard zetten. Daar kunnen we heel
sterk in zijn. Daar lopen we in die zin al wel in voorop. Die regulering zorgt dan
ook voor een sterke en versterkte Europese AI-markt. Dat is een heel belangrijke pijler
in ons beleid. Daarnaast noemde ik net de Nederlandse investeringen, maar de Commissie
investeert jaarlijks ook zo'n 1 miljard euro in artificial intelligence via Horizon
Europe en Digital Europe. Er wordt geschat dat in de Europese Unie jaarlijks ongeveer
20 miljard euro wordt geïnvesteerd in AI. Als je dat gaat matchen aan Amerika en China,
is de vraag altijd of dat genoeg is, maar het is in ieder geval veel voor Europese
begrippen.

De voorzitter:

Ik heb eigenlijk een interruptie. Ik vind het fijn om te horen dat de Minister vindt
dat regulering vanuit Europa heel goed is. Ik heb een specifieke vraag over de AI
Act, want wij willen in een interne markt dezelfde regels. Alleen, wat gebeurt er
als een lidstaat zoals Nederland de mensenrechten beter wil beschermen dan andere
lidstaten? Gaan we daarop bestraft worden door de AI Act of juist niet?

Minister Adriaansens:

Ik ben een groot pleitbezorger van gelijkheid in Europa. Ik denk namelijk dat hoe
overtuigend wellicht een afwijkend standpunt op een deelonderwerp ook zou kunnen zijn ...
Mensenrechten zijn altijd een heel nobel streven, dus je zou de neiging hebben om
daar dan misschien iets meer op te doen. Dat hebben we overigens ook met klimaat.
Er zijn een aantal doelstellingen waarop we met elkaar in Nederland hele hoge ambities
hebben. Voor de langere termijn meen ik dat dat zeer schadelijk is voor onze positie
als Nederland. We moeten ervoor waken dat we niet door onze eigen ambitie te direct
onze eigen regels verzwaren. We moeten zorgen voor een gelijk speelveld. De weg is
dus om te zorgen dat we in Europa een hele actieve rol vervullen om andere landen
mee te nemen in die lijn.

De voorzitter:

Laatste vraag. Ik ben het met de Minister eens over dat laatste, dat wij in Europa
juist voor de beste regels moeten zorgen. Mensenrechten zijn niet alleen nobel streven,
maar ook van levensbelang. Want wat gebeurt er als er op de private markt een AI komt
voor verzekeringen die mensen juist uitsluit? Wat gaan wij dan doen als land, als
lidstaat?

Minister Adriaansens:

Zoals het systeem nu in elkaar zit – dat moeten we met elkaar helemaal gaan vormgeven,
dus we moeten er ook kritisch op blijven of het werkt – is dat de nationale toezichthouder
daarop intervenieert, maatregelen kan treffen en het ook in de AI Board kan aankaarten.
In die AI Board gaat als het goed is een stuk harmonisatie en richting bepaald worden.
Dat is de lijn die wij voor ogen hebben. Je zou ook naar een andere vorm kunnen kijken,
maar dit is wat er nu uit de Europese overleggen is gekomen. We moeten dat heel kritisch
volgen en erover blijven nadenken. Dit zou een hele goede werkwijze kunnen zijn. We
moeten wel kijken of het werkt.

De voorzitter:

De Minister vervolgt haar betoog.

Minister Adriaansens:

Dan kom ik bij een vraag van de VVD. Mevrouw Rajkowski vroeg hoe het staat met de
pilots op de technische universiteiten voor het ontwikkelen van gecertificeerde AI-engineers.
Het klopt inderdaad dat technische universiteiten in hun reguliere programma's al
vele jaren AI-specialisten kennen, maar nog geen aparte certificering hebben. Die
nieuwe AI-kennis wordt ontwikkeld via een samenwerking van alle universiteiten en
onderwijsinstellingen met ondernemingen en overheden, onder andere in die ELSA Labs,
die ik net noemde. Vanuit de Nederlandse AI Coalitie wordt nu gewerkt aan certificering.
Die certificering heet «AI for business and government». Die is bedoeld om toe te
passen op professionals die in hun werkomgeving AI willen inzetten en voor mensen
die beslissingen moeten nemen op het gebied van AI. Je ziet dus dat die ontwikkeling
is ingezet. Ik geloof er met mevrouw Rajkowski ook in dat dit een hele belangrijke
waarborg kan zijn voor de wijze waarop je omgaat met AI. De technische universiteiten
zijn ook lid van de Nederlandse AI Coalitie. Ik zal ze om hun ideeën vragen. Ik ga
nog even een stapje verder, want ik zal ze ook nog even expliciet vragen om hun ideeën
over die certificering daar in te brengen.

De volgende vraag was van D66. Die ligt misschien een beetje in het verlengde van
een eerdere vraag van mevrouw Van Weerdenburg. De vraag was: hoe kijken wij aan tegen
een expertisecentrum of een stukje coördinatie, waarbij kennis op economisch, sociaal,
juridisch, technisch en ethisch vlak gebundeld wordt? Dat bundelen en ontwikkelen
van kennis gebeurt expliciet in die Nederlandse AI Coalitie. Zij geven dat bijvoorbeeld
vorm door hun rol in die regionale AI-hubs. Daar zijn er vijf van, als ik het goed
heb. Of zijn het er meer? Nou, hou het me te goede. Er zijn in ieder geval een aantal
regionale AI-hubs. Die zijn ook weer verbonden aan die ELSA Labs. Die gaan met name
over de normen en de aspecten van AI die u noemde, zoals ethisch, legal en societal.
Wij menen dus dat daar op die manier goed invulling aan wordt gegeven. We moeten gewoon
in de gaten houden hoe dat zich verder ontwikkelt.

Dan kom ik op het volgende blokje, de Europese inzet. Mevrouw Rajkowski vroeg hoe
we de regulatory sandboxes goed inrichten. Wij zijn een believer in die sandboxes.
We denken dat daarmee de verbinding met het mkb ook goed gemaakt kan worden. We willen
met name dat ondernemers daarin kansen kunnen gaan benutten. We hebben ons tijdens
de Raadsonderhandelingen ook heel erg ingezet voor aanpassingen die zorgen dat we
betere lessen trekken uit die sandboxes. Zo'n sandbox is eigenlijk een afspraak tussen
de toezichthouder en een ontwikkelaar van AI om er samen uit te komen op het gebied
van lastige vragen over het voldoen aan de wet en aan bepaalde eisen. Het is dus eigenlijk
een proefomgeving. De bedoeling is dan dat we verplichte rapportages krijgen van zo'n
vraagstelling. Die delen we, zodat we een soort van body of knowledge opbouwen. Dan
kunnen ook bedrijven die niet meedoen daar kennis van nemen. We zijn nu samen met
de toezichthouders aan het kijken hoe we zo'n regulatory sandbox het beste kunnen
inrichten.

Dan nog een vraag van de VVD en de Partij voor de Dieren: wat is onze reactie op de
suggestie om de value alignment AI te zien als een oplossingsrichting? Ik moet zeggen:
bedankt voor deze innovatieve suggestie. Die gaan we meenemen in de EU-besluitvorming.
Ik denk namelijk dat dat een goede gedachte is. We willen met die AI-verordening natuurlijk
voorwaarden scheppen om de risico's op grote negatieve gevolgen te verminderen. Ik
denk dat het goed is om op die manier te kijken of je iets van een value alignment
kan vinden en hoe dat dan het beste vormgegeven kan worden. Dat nemen we dus graag
mee.

Dan nog de vraag van D66 of ik de visie deel dat het een cruciaal moment is om platformen
als Facebook en Twitter verantwoordelijk te houden voor de inhoud op het web. Ja,
maar laat ik dat nuanceren. Met de opkomst van grote platforms en gezien de macht
en de data die zij hebben, is het heel erg belangrijk dat de verantwoordelijkheid
van die partijen voor de inhoud en het gebruik van hun diensten wordt herzien. De
Digital Services Act regelt dat ook. De DSA bevat regels over de verantwoordelijkheid
en de aansprakelijkheid van online tussenpersonen voor de inhoud van de diensten.
Die zal in 2024 in werking treden. De allergrootste online platforms, zoals Facebook
en Twitter, zullen onder de DSA aan de zwaarste verplichtingen moeten voldoen. Daarmee
zetten we dus een stap qua regulatie.

De voorzitter:

Ik heb toch even een vraag namens D66. Dat bedoelde ik niet. De Digital Services Act
is natuurlijk fantastisch. Daarom zei ik in mijn betoog ook dat wij hierin als Europa
vooroplopen. Maar is dit in het kader van het AI-verdrag, waarbij ook Canada en de
VS aangesloten zijn, niet een heel mooi moment om ze erop te wijzen dat dit het moment
is om te voldoen aan deze regels? Zij hebben namelijk speciale wetgeving die zegt
dat platformen niet verantwoordelijk zijn voor de inhoud. Daarom komen ze daaronder
uit. Hoe kijkt de Minister daartegen aan?

Minister Adriaansens:

Dit betreft de taakverdeling. De Staatssecretaris is betrokken bij de onderhandelingen
over het verdrag, dus ik denk dat het beter is als de Staatssecretaris dat meeneemt,
al kijk ik even of ze het daarmee eens is. Ik begrijp van wel.

De voorzitter:

Dan vervolgt de Minister haar betoog.

Minister Adriaansens:

Dan kom ik bij de vraag van mevrouw Rajkowski van de VVD over het inzetten op AI-diplomatie.
Wat doen wij, vroeg zij. Het is best een lijst. We doen best wel veel. Dat is goed,
want we vinden het heel belangrijk. Zoals ik aan het begin ook zei, willen we alles
eruit halen maar ook zorgen voor de borging. Dan moet je actief meedoen. We zijn eigenlijk
ook constant in contact met landen buiten de EU. Over Europa hebben we het namelijk
gehad, maar we hebben ook contact met landen buiten de EU, om te zorgen dat we begrip
en steun krijgen voor de mensgerichte AI-benadering. Ik probeer «mensgerichte AI»
altijd simpel te vertalen, want wat is dat nou, «mensgerichte AI»? Het is weer zo'n
kreet, maar daarmee bedoelen we dat het uitlegbaar, duidelijk en veilig is en de rechten
beschermt. Via de Europese Unie werken we aan het versterken van de relaties met Amerika
op het gebied van AI. Dat doen we met name in de standaarden die we bespreken in de
Trade en Technology Council. We hebben ook het Global Partnership on AI. Daarmee werken
we aan het bevorderen van waardegedreven AI.

Binnen de OESO is Nederland betrokken bij de verdere invulling van de OESO-AI-principes
– eigenlijk moet ik dan «KI» zeggen – over ethisch gebruik van AI-systemen. Zoals
we net ook al even bespraken, werken we ook actief aan de totstandkoming van een verdrag
in de Raad van Europa. Daar zal dadelijk nog iets over gezegd worden door de Staatssecretaris.
We hebben ook actief bijgedragen aan de aanbevelingen van UNESCO voor een mensgerichte
en ethische inzet van artificial intelligence. We zijn oprichter van de internationale
Freedom Online Coalition. We nemen ook deel aan de taskforce voor AI en human rights,
om de bewustwording over AI en mensenrechten te bevorderen. We organiseren komende
februari een internationale ministeriële conferentie over verantwoorde militaire toepassingen
van kunstmatige intelligentie. We zijn ook betrokken bij het opstellen van Europese
en internationale standaarden om grensoverschrijdend ondernemen te ondersteunen en
daarbij AI te betrekken. Dan gaat het eigenlijk over de hele wereld.

Voorzitter. Dan iets over de risico's. GroenLinks vroeg of wij ons zorgen maken over
het energiegebruik dat gepaard gaat met AI. Daar kan ik volmondig ja op zeggen. Het
trainen van AI-modellen kost veel computerkracht vanuit de datacenters. Daar hebben
we al eens eerder met uw Kamer over gesproken. Het kost veel energie. De datacenters
zijn nu al verplicht om energiebesparende maatregelen te nemen. 94% van de elektriciteit
die de ICT-sector op dit moment gebruikt, wordt groen ingekocht. Dat zegt echter nog
niets over de hoeveelheid.

Vanuit de digitale sector zelf is die nationale coalitie nu met een apart programma
duurzame digitalisering actief. Daar hebben ze ook een rapportage met actielijnen
over gepubliceerd. Die heb ik vorig jaar in ontvangst genomen. Ze ontwikkelen ook
nieuwe energiebesparende maatregelen. Het is echter niet alleen maar slecht. We gebruiken
AI bijvoorbeeld ook in het kader van energie bij de klimaatopgave. We kunnen met AI
ook warmtenetten efficiënter maken en bijvoorbeeld zorgen voor 20% minder warmteverlies
et cetera et cetera. Maar het is wel een thema waarover we ons in brede zin zorgen
moeten maken. Ik heb eerder toegezegd dat ik een onderzoek zou doen naar het duurzaamheidsaspect
van digitalisering. Daar zijn we mee bezig. Ik heb in de planning om uw Kamer daar
in het derde kwartaal over te informeren.

Dan heb ik nog een vraag van mevrouw Rajkowski: zijn er binnen de topsectoren drempels
rondom datadelen? Ja, het is inderdaad zo dat datadelen lastig is en dat er drempels
zijn. Soms is er misschien angst om te delen, maar er zijn ook daadwerkelijk drempels.
Wij zetten in op het vergroten van het vertrouwen en het goed uitvoeren van de regels.
We kijken ook waar men verantwoord kennis kan delen. Waar mogelijk willen we dus die
drempels wegnemen. Bij het Groeifonds zijn ook al een aantal projecten of voorstellen
goedgekeurd rondom datadelen in de logistiek en de zorg. Daar kunnen we ook breder
lering uit trekken. Het kabinet stimuleert bedrijven dus ook om aan verantwoorde datadeling
te doen, via initiatieven zoals de Data Sharing Coalition en de Nederlandse Gaia-X
hub.

Een andere belangrijke drempel voor datadelen is dat vaak alleen de datahouder bepaalt
wie er toegang heeft tot de data. Daardoor kunnen die data dus niet door andere partijen
worden gebruikt. Daarom zetten we erop in om in de komende dataverordening te zorgen
dat gebruikers van clouddiensten en internet-of-thingsproducten hun data gemakkelijker
kunnen gebruiken. Dat willen we dan vooral doen door het gebruiksrecht duidelijker
te maken.

De voorzitter:

Ik zie dat de VVD een interruptie heeft. Mevrouw Rajkowski.

Mevrouw Rajkowski (VVD):

Snel nog even over dat gebruiksrecht: oké, top! Dan is dat ook weer goed.

Fijn om te horen dat er op dit gebied ook over datadeling goed wordt nagedacht. Ik
heb de afgelopen weken namelijk verschillende voorbeelden gehoord van mensen. Zij
kwamen naar me toe om die te vertellen. Eén iemand had bijvoorbeeld een AI-rechtbanktool
ontwikkeld. Hij wilde die graag testen. Hij wilde kijken of de rechterlijke macht
ontlast kon worden op het gebied van simpele cases. Dan kom je al snel op de arbeidsmarkttekorten
en op onze maatschappelijke problemen. Je moet tot op het hoogste niveau, tot aan
de toezichthouder, eigenlijk van iedereen, een stempel van goedkeuring hebben.

Deze persoon had dat gekregen. Maar op het moment dat hij data ging ophalen bij de
organisaties, durfden de organisaties die data niet te delen. Volgens de AVG mochten
die data gedeeld worden om te oefenen en te experimenteren. Op alle niveaus zijn stempels
verkregen. En toch waren organisaties erg huiverig. Die dachten: ja, maar straks komt
er toch iets uit en dan zijn wij toch weer schuldig. Ik wil het nu niet specifiek
voor deze tool opnemen, maar ik noem het als voorbeeld. Ik heb heel veel van dit soort
voorbeelden waarbij het wel mag maar mensen het toch niet durven. Ik ben blij om te
horen dat er via het Groeifonds een aantal projecten zijn goedgekeurd. Daar kunnen
we volgens mij stappen mee zetten. Maar ik denk dat dit gewoon een algemeen aandachtspunt
is waar we echt aandacht voor moeten blijven houden. Er is angst om te delen, terwijl
het wel mag.

Minister Adriaansens:

Dat onderschrijf ik. Ik begrijp het ook wel, want als je het niet zeker weet, is het
natuurlijk heel lastig om die data te delen. Het ligt namelijk heel gevoelig. Ik kan
me dus wel voorstellen dat iemand denkt: dan doe ik het liever niet, want dan heb
ik het in ieder geval niet fout gedaan. Die andere doelen zijn wat meer op de langere
termijn gericht. Dat is vaak ook wat minder persoonlijk, zogezegd. Ik begrijp die
terughoudendheid dus wel. Maar het is zonde als het theoretisch wel kan, maar niet
gebeurt. Ik hecht daar zelf ook heel erg aan. Ik denk dat we veel kansen krijgen als
we daar goed mee omgaan, dus dat deel ik. Laat ik hierbij goed de vinger aan de pols
houden en goed kijken wat er gebeurt met die Groeifondsprojecten die specifiek gaan
over datadelen.

Ik denk ook dat het goed is om deze voorbeelden te delen met de toezichthouder. Ik
denk dat die met name het comfort kan geven. Ik heb hier ook weleens met de Autoriteit
Persoonsgegevens over gesproken. Zij zien die rol ook wel voor zichzelf. Zij kunnen
wat meer comfort geven in wat er kan. Misschien moeten we ook kijken of we via de
Nederlandse AI Coalitie nog wat meer comfort kunnen geven en wat meer kennis kunnen
organiseren. Daar zijn al 500 organisaties bij betrokken, maar misschien kunnen we
die groep nog groter maken. Daarmee kunnen we dit soort onrust of onzekerheid wegnemen.
Het heeft dus de aandacht. Ik denk dat we gewoon goed moeten monitoren of de ontwikkelingen
de goede kant opgaan.

De voorzitter:

Ik zie instemmend geknik, dus de Minister gaat verder met haar betoog. O, mevrouw
Van Weerdenburg nog voor een interruptie.

Mevrouw Van Weerdenburg (PVV):

Maar, voorzitter, hoe kunt u nou bij mij instemmend geknik hebben gezien?!

Ik heb eventjes een concrete vraag over de brief, over het kopje «AI in de samenleving».
Daar staat dat het kabinet in aansluiting op de aanbeveling van de WRR over demystificatie
een investering doet van 200 miljoen euro per jaar om de digitale kennis en vaardigheden
van mensen te vergroten, zodat iedereen kritisch kan nadenken over de voor- en nadelen
van AI en zo veel mogelijk zelfstandig mee kan doen in de digitale samenleving. De
bewindspersonen doelen hier dus op dat potje dat gemaakt is voor de aanpak van digibetisme.
Laten we nou eerlijk zijn: dit is dan toch heel creatief opgeschreven? Dit krijgt
nu ook een labeltje AI, maar dit ging er toch over dat mensen leren om een computer
te gebruiken, de absolute basisvaardigheden? Daar kunnen we nu toch niet serieus de
voor- en nadelen van AI aan hangen? We hebben het nu toch over ditzelfde potje?

Minister Adriaansens:

Dit valt onder de regie van mijn collega, de Staatssecretaris. Maar in algemene zin
is het natuurlijk wel zo dat je pas AI kan gaan gebruiken als je ook weet hoe een
computer werkt, dus die twee hangen natuurlijk wel met elkaar samen. Maar ik zal de
inhoudelijke beantwoording aan mijn collega overlaten.

Mevrouw Van Weerdenburg (PVV):

Daarmee samenhangend. Daaronder staat ook dat er een jaarlijkse monitoring zal plaatsvinden
waarin de aspecten digivaardigheid, mediawijsheid en kennis van technologie worden
meegenomen. Maar die monitoring is er toch al? Dat is toch die CBS-monitor over ICT,
kennis en economie? Dat is toch niet iets nieuws?

Minister Adriaansens:

Er zijn meerdere monitoren. Ik noemde net ook de Europese monitor, DESI. Er is inderdaad
ook een monitor van het CBS. Er zijn dus inderdaad monitoren die wij zullen delen
met de Kamer. Wij zullen de voortgang daarvan bijhouden.

De voorzitter:

Mevrouw Van Weerdenburg, tot slot.

Mevrouw Van Weerdenburg (PVV):

Voorzitter, excuus. Ik wil ook niet elke keer interrumperen. Maar op welke monitor
wordt hier in die laatste zin nou gedoeld? Het lijkt namelijk alsof het iets nieuws
is, maar dat is het dus volgens mij niet.

De voorzitter:

Is het dezelfde monitor of niet, Minister?

Minister Adriaansens:

Dan moet ik die zin erbij halen, voorzitter. Dan moet ik namelijk kijken welke vraag
precies bedoeld wordt. Anders moet ik daar misschien in de tweede termijn op terugkomen,
want dat moet ik even checken.

De voorzitter:

Dat is goed. Tweede termijn, noteer ik dan.

Minister Adriaansens:

Anders ga dat nu ter plekke zitten doen en ik denk dat dat niet handig is.

De voorzitter:

Is goed. Dan gaat de Minister door met haar betoog.

Minister Adriaansens:

D66 vroeg of ik mij zorgen maak over zonder toestemming door AI gebruikte foto's en
data. We hadden het er net al even over dat voor de verwerking van persoonsgegevens
een rechtsgrondslag nodig is, zoals toestemming. Dat is zo volgens de AVG. Anders
is die onrechtmatig. Het gaat dus om een gerechtvaardigd belang of wettelijke grondslag
op basis waarvan je die gegevens kan verwerken. De manier waarop je die gegevens verwerkt,
dus of dat handmatig of geautomatiseerd gebeurt, doet er dan niet toe. Of dat een
AI-aspect heeft, maakt dus niet zo veel uit. Het gaat erom dat persoonsgegevens alleen
op een rechtmatige manier verwerkt kunnen worden. Dat is dus eigenlijk een algemene
regel.

De voorzitter:

Ik ga toch even een vraag stellen namens D66, want ik bedoelde eigenlijk het volgende.
Dat AI-aspect is toch wel redelijk van belang. Laten we het bijvoorbeeld hebben over
die ChatGPT. Die gebruikt natuurlijk allerlei teksten die op internet te vinden zijn.
Op sommige van die teksten en foto's zit ook auteursrecht. Er wordt gescrapet en op
basis daarvan wordt iets dan niet letterlijk gekopieerd en geplakt, maar wordt er
wel iets mee gedaan. Hoe gaan we dan het auteursrecht in acht nemen met betrekking
tot AI?

Minister Adriaansens:

Dat geldt gewoon, dus dat mag niet. De regels gelden ook voor ChatGPT. Maar wat betreft
de vraag hoe we dat dan feitelijk gaan doen – dat is natuurlijk de achterliggende
vraag die u stelt – zullen we met elkaar natuurlijk handig moeten manoeuvreren. Dit
gaat namelijk snel. Kun je dit allemaal zien? Waar kan je het melden? Dus op alle
ontwikkelingen, die zo snel gaan, moeten we gewoon goed inspelen. Maar het gaat er
niet om dat de regels niet helder zijn; het gaat meer over hoe je die toepast.

De voorzitter:

De Minister gaat door met haar betoog.

Minister Adriaansens:

De VVD, en volgens mij ook een van de andere leden, zei dat het duidelijk moet zijn
wanneer je in zo'n chatbox niet met een echt persoon praat. Dat is belangrijk. De
AI-verordening regelt via transparantie-eisen dat het voor een natuurlijk persoon
altijd duidelijk moet zijn als die met een AI-systeem interacteert, bijvoorbeeld in
een chatbox. Die transparantie-eisen gelden niet als duidelijk uit de context blijkt
dat je met AI te maken hebt. Dat is natuurlijk weer even een grijze opmerking, want:
wanneer weet je dat? Ik denk dat we daar heel scherp op moeten zijn. Op het moment
dat je daar zelf over twijfelt en je het gevoel hebt dat dat niet correct is, mag
je in ieder geval een klacht indienen bij de toezichthouder. Dat is wel secundair,
want je zou dat eigenlijk aan de voorkant willen regelen. Maar dit is nu de lijn van
de verordening.

Daarmee ben ik aan het einde van de beantwoording van de vragen gekomen.

De voorzitter:

Ik zie verder geen interrupties, dus dan gaan we verder met de Staatssecretaris van
Digitale Zaken.

Staatssecretaris Van Huffelen:

Dank, en dank voor de gestelde vragen. Zoals de Minister heeft aangegeven, zijn we
inderdaad heel erg hard aan het werk met het thema van die algoritmes, wat een groot
onderwerp is en waarvan de WRR ook heeft aangegeven dat het een heel grote impact
kan hebben op onze samenleving. Dat gaat niet alleen maar over het stimuleren van
de mooie en positieve kanten daarvan, maar natuurlijk ook over het reguleren van datgene
waar we ons zorgen over maken. Daar wordt dan ook heel erg hard aan gewerkt.

Ik ga na de beantwoording van de Minister vooral nog in op de onderwerpen rondom de
AI Act en de Raad van Europa. Daarnaast heb ik nog een aantal verdere onderwerpen.

Dan begin ik met het verdrag van de Raad van Europa, dat AI-verdrag. Daarover wordt
op dit moment namelijk onderhandeld. Het interessante daarvan is dat de leden van
de Raad van Europa natuurlijk een bredere set aan partijen vertegenwoordigen dan alleen
de Europese lidstaten die betrokken zijn bij de AI-verordening. De onderhandelingen
zijn op dit moment lopend. Die zijn begonnen in september van vorig jaar. Er zijn
ook deze maand nog gesprekken gevoerd. Als lidstaat zitten wij bij die onderhandelingen
aan tafel en hebben wij dus ook ruimte om onze mening in te brengen. Overigens is
ook de EU als orgaan vertegenwoordigd. De EU zal er vooral zicht op houden en voor
proberen te zorgen dat datgene wat in de AI-verordening staat en daarin verder wordt
ontwikkeld, aan blijft sluiten op wat er in het AI-verdrag staat. Het idee is wel
dat daar waar ook de AI-verordening een component heeft die meer economisch van oorsprong
is, het AI-verdrag van de Raad van Europa zich natuurlijk ook specifiek richt op het
thema van de mensenrechten.

De vraag was ook: hoe kunnen wij als Tweede Kamer goed betrokken blijven bij het verloop
van die onderhandelingen? Ik heb daarvoor het volgende voorstel, namelijk om een briefing
te organiseren. De Raad van Europa wil heel graag hier in de Kamer vertellen hoe dat
verdrag in elkaar zit op dit moment, welke stappen daarin zitten en wat er vooral
inhoudelijk aan de orde is. Dat zouden we eventueel kunnen laten volgen door een schriftelijk
debat, waarin u als Kamer ook nog een keer extra meegeeft van welke punten u van belang
vindt dat ze in dat verdrag aan de orde komen, zodat wij dat weer kunnen meenemen
in onze onderhandelingen. Nogmaals, de Raad van Europa heeft ook Nederlandstalige
medewerkers die specifiek hierbij zijn betrokken en het fijn zouden vinden om alle
informatie die gedeeld kan worden ook met uw Kamer te delen.

Mevrouw Dekker-Abdulaziz vroeg of het wenselijk was om platforms zoals Facebook en
Twitter aan de kaak te stellen. Dan is het wel goed om te weten dat het verdrag over
AI iets anders is dan de DSA. Het is niet hetzelfde, dus het regelt ook niet hetzelfde
wat in de DSA zit. Natuurlijk, daar waar er links zitten, zullen die ook worden ingebracht.
Ik denk dat het toch van belang is dat we in Europa beogen afspraken te maken met
die platforms die een bredere werking hebben dan alleen het Europese gebied. Want
als je moet modereren, dan modereer je natuurlijk ook over de grenzen van Europa heen.
Bij het maken van de afspraken in het AI-verdrag zitten de partijen aan tafel, dus
de Verenigde Staten en andere. Maar we hopen natuurlijk wel dat de afspraken die wij
als Europa hebben over moderatie van de content – hoe zorgen we dat Twitter en Facebook
illegale informatie van hun platforms af halen, hoe zorgen we dat ze monitoren op
desinformatie, labelen, enzovoorts, enzovoorts, enzovoorts? – een bredere werking
zullen hebben dan alleen maar Europa. Maar dat is niet 100% geregeld en dat kunnen
we niet via het AI-verdrag allemaal regelen. We kunnen wel kijken hoever we kunnen
komen.

Dan was er ook de vraag: kunnen wij voorafgaand aan de onderhandelingen inbreng meegeven?
Daar heb ik net iets over gezegd. Ik denk dat het heel goed is om dat te doen, met
misschien eerst die briefing zodat u goed op de hoogte bent van hoe het proces loopt,
enzovoorts, enzovoorts, enzovoorts. Want de planning van het maken van het verdrag
loopt eigenlijk ook dit jaar. Het loopt eigenlijk parallel aan de trilogen over de
AI-verordening. Dat is op zich mooi, want daarmee kunnen we zorgen dat ze elkaar goed
blijven aanvullen waar dat nodig is, maar in ieder geval niet tegenstrijdig zullen
worden. Daar zit ook de Europese Commissie voor aan tafel in die onderhandelingen.

Dan vroeg u hoe het zat met de betrokkenheid van maatschappelijke organisaties in
de onderhandelingen over dat verdrag van de Raad van Europa. De kern is dat die maatschappelijke
organisaties betrokken zijn. Ze nemen deel aan de plenaire vergaderingen waarin de
teksten van het verdrag worden bediscussieerd en ook besluiten worden genomen. De
standpunten van deze organisaties worden natuurlijk ook door ons meegenomen. Er is
naast die groep en die plenaire onderhandelingen ook een schrijfgroep. Daar zitten
de verdragspartijen aan tafel om teksten te maken. Dat is een groep die zelf geen
beslissingen neemt, maar wel rapporteert aan die plenaire bijeenkomsten met de maatschappelijke
organisaties. Die worden dus wel degelijk ook betrokken. Ik denk dat dat belangrijk
is, want er zijn veel maatschappelijke organisaties die heel goede input kunnen leveren
als het over dit verdrag gaat. Ik denk dat ik dan voldoende heb gezegd over de Raad
van Europa.

Dan heb ik een aantal andere thema's die u nog voorlegde. Er was een vraag van mevrouw
Bouchallikh of de mensenrechtentoets voor algoritmes verplicht en bindend is. Dat
is inderdaad zo. In de artikelen 9 en 10 van de huidige raadstekst worden ontwikkelaars
van hoogrisico-AI-systemen verplicht de mensenrechtentoets uit te voeren ten aanzien
van fundamentele rechten, veiligheid en gezondheid. Dat is echt een stevige toets
die aanvullend is op de al bestaande, bijvoorbeeld privacy-assessments, die sowieso
ook moeten worden gedaan.

Dan was er nog een vraag van mevrouw Dekker-Abdulaziz over wanneer er verplicht wordt
deelgenomen aan het algoritmeregister. Op z'n vroegst kunnen we die verplichting invoeren
in 2024. Dat hangt ook samen met de AI-verordening vanuit Europa. We moeten daarvoor
nog wel een aantal keuzes maken die ook aansluiten bij wat we in Europa afspreken.
Wat is de precieze definitie van de algoritmes die moeten worden opgenomen? Welke
informatie moet je opnemen? We kijken natuurlijk ook naar de uitvoerbaarheid daarvan.
Los daarvan zijn we wel alvast begonnen met dat register. Het is ook onze bedoeling
dat met name overheidspartijen – daar is dat register in eerste instantie voor bedoeld –
ervoor zorgen dat ze zo veel mogelijk van hun algoritmes registreren, met name de
algoritmes die behoren tot de categorie hoog risico, bijvoorbeeld algoritmes waarin
persoonsgegevens worden verwerkt of waarbij sprake is van het maken van risicoassessments
door bijvoorbeeld uitvoeringsorganen van de overheid zoals UWV, Belastingdienst enzovoorts.

Dan een vraag van mevrouw Dekker-Abdulaziz over of we ons ook zorgen maken over hoe
offline ongelijkheid online terugkomt en ook in AI wordt voortgezet. Ik deel natuurlijk
uw zorgen, want dat is een van de belangrijkste redenen. We willen vooral zorgen dat
ongelijkheid, vooroordelen maar zeker ook discriminatie niet onderwerp kunnen worden
van een AI-systeem en van de datasets die daarin worden gebruikt, en ook niet van
de manier waarop die AI-systemen worden getraind. Op Europees niveau zetten we daar
natuurlijk op in vanwege de fundamentele rechten waarvan we willen dat ze beschermd
worden. Niet in de laatste plaats is ook de toezichthouder ervoor om daar goed op
te letten. Laten we er helder over zijn. Hoewel zowel het AI-verdrag als de AI-verordening
nog in wording is, geldt natuurlijk al de AVG en geldt natuurlijk al non-discriminatie,
enzovoorts, enzovoorts. De toezichthouder kan dus op dat gebied al aan het werk.

Dan was er nog een vraag van mevrouw Bouchallikh van GroenLinks over de uitvoering
van de motie van Marijnissen en Klaver over het opruimen van afkomstgerelateerde indicatoren
in risicomodellen en algoritmen, de zogenaamde motie 21. In het kader hiervan inventariseren
we welke algoritmes of welke risicomodellen worden gebruikt. Ministeries doen dat
ieder voor zich en ik heb daarbij een coördinerende taak. Een aantal ministeries heeft
inmiddels al alle informatie opgeleverd: AZ, BZK, IenW, JenV en VWS. Overige departementen
volgen eind januari, EZK, LNV en OCW, en begin februari de overige. BZ en Defensie
komen ook nog in het eerste kwartaal van dit jaar. We geven een overzicht van de modellen
die worden gebruikt. Er wordt ook aangegeven of er sprake is van problemen, van risico's
die onoorbaar zijn. Voor het commissiedebat Inzet algoritmes en data-ethiek op 15 februari
meld ik u schriftelijk nog de voortgang van hoe het staat met deze motie.

Dan was er nog de vraag over het algoritmeregister en algoritmes in de rechtshandhaving.
Volgens mij heeft mijn collega daar al iets over gezegd. Het idee is dat we in principe
in het register alle algoritmes van de overheid opnemen. Wanneer er sprake is van
uitzonderingen omdat dat nodig is vanwege bijvoorbeeld de handhaving en defensie,
is het altijd zo dat de coördinerend toezichthouder wel degelijk inzicht heeft in
deze algoritmes. Dat is natuurlijk ontzettend belangrijk. Want ja, het is soms onwenselijk
om ze helemaal openbaar te maken, bijvoorbeeld omdat in strijd zou zijn met opsporingsbevoegdheden
of omdat algoritmes worden gebruikt bij bepaalde controles. Dan wil je niet dat iemand
er misbruik van kan maken dat je precies weet hoe die algoritmes werken. Maar je wil
wel zorgen dat die ook voldoen aan alle eisen die we daaraan stellen. Daarom moet
de toezichthouder altijd inzicht en toegang hebben en dus ook naar die algoritmes
kunnen kijken. Overigens is het idee dat de gebruikte algoritmes wel inzichtelijk
zijn. Dat er een algoritme is, is wel inzichtelijk. Je kent alleen niet alle details
van het algoritme.

Dan was er nog een vraag van GroenLinks, namelijk of de capaciteit van de Autoriteit
Persoonsgegevens voldoende is en of er nog noodzaak is tot de aanvulling van budgetten
en van kennis en kunde. Het antwoord daarop heb ik toch maar even laten voorleggen
aan ChatGPT. Ik zal u vertellen wat voor antwoord die geeft: «Ik ben een computerprogramma.
Ik heb geen informatie over specifieke situaties of capaciteiten van specifieke instanties,
zoals de Nederlandse autoriteit voor persoonsgegevens. Het is echter wel belangrijk
om te weten dat de bescherming van persoonsgegevens een belangrijke taak is en dat
instanties die verantwoordelijk zijn voor deze bescherming over de juiste middelen,
bevoegdheden en menskracht moeten beschikken om hun taken goed uit te voeren. Het
is ook belangrijk dat deze instanties regelmatig worden geëvalueerd en dat er wordt
gekeken naar de manier waarop ze hun taken uitvoeren, of er aanpassingen nodig zijn
en om ervoor te zorgen dat ze hun taken goed kunnen uitvoeren.» Dit zegt dus ook wel
iets over wat ChatGPT wel en niet kan. Want dit antwoord is natuurlijk fantastisch,
maar zegt ook helemaal niets.

Ik heb in de afgelopen tijd over dit interessante fenomeen een aantal interessante
podcasts geluisterd. Eentje daarvan was een Amerikaanse podcast waarin gevraagd werd
aan ChatGPT wat het gender zou zijn van the next female American president, dus het
geslacht van de volgende vrouwelijke Amerikaanse president. Ook daar kwam ChatGPT
niet uit. Met andere woorden, het is een heel interessante tool en er zijn allerlei
dingen die mogelijk zijn, maar we moeten ook goed zien dat deze tool beperkingen kent.
Om die reden is het denk ik ook altijd nog belangrijk om goed te blijven werken en
nadenken, omdat politieke keuzes nu eenmaal niet door een algoritme kunnen worden
gemaakt, of eigenlijk niet kunnen worden gemaakt. Dat doen wij hier.

Desalniettemin ...

De voorzitter:

Staatssecretaris, ik ga u even onderbreken, want ik zie een interruptie van mevrouw
Bouchallikh van GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Ik vind dit best wel grappig, want ik heb eigenlijk nog steeds geen antwoord gekregen.
Het ging ineens best lang over ChatGPT, maar ik vroeg of we weten of het bedrag groot
genoeg is en hoe we dat gaan controleren. Ik dacht: komt dat er nog aan na dit intermezzo?

Staatssecretaris Van Huffelen:

Ik zei ook «desalniettemin». Daarmee wilde ik juist zeggen dat ik gewoon zelf antwoord
wil geven op deze vraag. We hebben ervoor gekozen om niet alleen de toezichthoudende
taak voor algoritmes aan de AP te geven en hun daarvoor dit jaar een bedrag van 1 miljoen
te geven. Dat bedrag loopt volgend jaar op tot 3,6 miljoen. Op dit moment is er voor
hen geen tekort om dit te kunnen doen en dat hebben we ook besproken met de AP. Maar
natuurlijk moeten we goed in de gaten blijven houden of dat zo blijft. De taak is
belangrijk. Die wordt ook met veel inzet opgezet door de AP. Het is altijd belangrijk
om te blijven controleren of dit voldoende is, maar op dit moment is er voldoende
budget en zijn er voldoende mogelijkheden voor de AP om deze taak op te zetten. We
hebben voor de overige taken van de autoriteit met het coalitieakkoord overigens extra
middelen gegeven aan de AP.

De voorzitter:

Ik zie toch een interruptie van mevrouw Bouchallikh.

Mevrouw Bouchallikh (GroenLinks):

Mijn excuses voor mijn ongeduld; ik dacht dat het er nog niet aankwam. Fijn dat er
op dit moment geen signalen zijn dat het niet genoeg is. Ik vraag me wel het volgende
af, juist omdat de ontwikkelingen echt supersnel gaan. Hoe kunnen we ervoor zorgen
dat we wel op vaste momenten kunnen checken of het nog steeds voldoende is of niet
en we dat dan niet achteraf hoeven te lezen in de krant? Ik ben een beetje aan het
zoeken naar hoe we dat met z'n allen kunnen voorkomen, juist ook omdat dit zo'n belangrijk
thema is en die ontwikkelingen gewoon supersnel gaan.

Staatssecretaris Van Huffelen:

Ons idee is dat we die rol van de toezichthouder jaarlijks tegen het licht houden.
Ik zeg u dus toe dat we zorgen dat we ergens aan het eind van dit jaar, of beter gezegd,
dat we misschien begin volgend jaar, wanneer de AP daar het eerste jaar aan heeft
gewerkt, gaan kijken hoe het zit. De AP heeft in dit opzicht namelijk een multipele
taak. Het gaat erom dat ze kijken vanuit hun eigen gebied, met name natuurlijk de
AVG, de privacyverordeningen, hoe het werkt voor algoritmes. Ze hebben ook een coördinerende
taak, omdat het de bedoeling is dat andere toezichthouders voor andere deelgebieden
ook op dit gebied actief worden. Ik denk dus dat het sowieso goed is dat we scherp
in de gaten blijven houden of dit echt werkt en goed gaat. We weten aan het eind van
dit jaar hopelijk ook meer over hoe die AI-verordening er precies uit komt te zien
en hoe die toezichtrollen op basis daarvan worden ingevuld. Dat is namelijk natuurlijk
ook onderdeel van die verordening. Dat lijkt me dus altijd goed.

De voorzitter:

Ik zie ook een interruptie van de PVV, mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Dank, voorzitter. Tijdens het interruptiedebatje van zonet met mevrouw Bouchallikh
hadden we het ook al even over dat SDT. Dat is het Samenwerkingsplatform Digitale
Toezichthouders. Doet dat nog iets? Is dat nog actief? Zo ja, kan de Staatssecretaris
dan wat meer vertellen over het platform en hoe dat misschien ook een ondersteuning
kan zijn van de AP bij deze taak?

Staatssecretaris Van Huffelen:

Zeker, dat platform is er nog. Er zijn inderdaad meerdere toezichthouders die daarin
samenwerken. Dat zijn de AP, de ACM en het Agentschap Telecom. Dat laatste heeft inmiddels
een andere naam volgens mij, maar ik ben even kwijt welke dat is. Ik hoor dat dat
de Rijksinspectie Digitale Infrastructuur is. Het punt is dat deze organisaties inderdaad
met elkaar aan het kijken zijn hoe ze de taken in dat digitale domein moeten verdelen
en inrichten. Binnenkort is daar ook overleg over met ons beiden. Dat is niet alleen
maar van belang in het kader van die AI-verordening, oftewel de kunstmatige intelligentie
verordening, maar ook voor de verordeningen die er nog aan zitten te komen in de komende
tijd. Dat zijn dus de DSA, de DMA, enzovoort, enzovoort. Want heel vaak is er toch
sprake van een soort mix van toezichthouders die delen van het toezicht moeten organiseren.

Het is ontzettend belangrijk dat we dat goed doen. Ik vind dat belangrijk, omdat het
niet alleen maar gaat over wie nou de toezichthouder wordt, maar ook zodat we samen
met die toezichthouders heel duidelijk kunnen maken aan Nederlandse organisaties en
bedrijven aan welke vereisten zij nou precies moeten voldoen als die verordeningen
er straks zijn. Want een van de dingen – dat staat ook letterlijk in onze werkagenda
als een van onze speerpunten – waar ik me ook echt wel zorgen over maak, is dat er
nu veel verordeningen komen waarin wat mij betreft ook echt goede dingen geregeld
worden die we ook zeker moeten omarmen. Ik zeg «moeten», maar ik bedoel dat ik het
belangrijk vind dat we ze omarmen. Maar tegelijkertijd hecht ik er natuurlijk ook
aan dat het implementeerbaar is en dat mensen, bedrijven, organisaties en overheden
begrijpen wat zij dan moeten doen. Daar zijn we hard mee aan het werk. Die clubs zijn
dus heel actief en doen dat dus ook samen met de AP.

Mevrouw Van Weerdenburg (PVV):

Zou de Staatssecretaris daar goed op door kunnen vragen bij de toezichthouders als
zij binnenkort door hen wordt gebrieft? Zou zij misschien ook een briefje naar de
Kamer kunnen sturen, al is het een A4'tje, met wat daaruit is gekomen en hoe de stand
van zaken is?

Staatssecretaris Van Huffelen:

Dat doe ik graag. Dus zodra ik met hen heb gezeten, kan ik u daarover informeren.

Ik had nog één thema waar ik iets over wilde zeggen. Dat gaat over het delen van data
en dan met name ook de AVG-problematiek, maar dan wat meer vanuit het perspectief
van de overheid. De Minister heeft daar namelijk ook al iets over gezegd. Ook binnen
de overheid zelf herkennen we dat probleem. Ik was gisteren nog op bezoek bij gemeenten.
Die gaven aan dat zij tussen de verschillende poten van de gemeente of sociale instanties
zoals het UWV en DUO, de Belastingdienst en anderen, niet zomaar data kunnen delen
en dat dat soms ten koste gaat van bijvoorbeeld de burger zelf. Er is dus veel niet-gebruik
van voorzieningen omdat mensen dat soms niet weten.

Wij weten wel dat ze eigenlijk recht hebben op een bepaalde toeslag, uitkering of
de energietegemoetkoming, enzovoort. Maar mensen weten het niet. Zij vragen het dan
niet aan en komen daardoor soms in de financiële problemen, ondanks deze toeslagen
er zijn. Wij zijn daar in het kader van het programma Werk aan Uitvoering sowieso
aan het induiken, ook omdat we er samen met de AP naar het volgende willen kijken.
Daar waar het delen van data tussen overheidsorganisaties ten gunste van burgers is,
zouden we dat ook moeten kunnen en willen doen, uiteraard met de juiste waarborgen
eromheen.

Niemand hoeft maar iets te vertellen over wat er mis kan gaan als je kijkt naar wat
er bij de toeslagen fout is gegaan. Maar daar zijn we mee aan het werk. Voor instanties,
organisaties en overheden die vragen hebben op dit gebied hebben we overigens een
speciaal loket gemaakt. Dat loket heet de adviesfunctie verantwoord datagebruik, waar
je ook alvast vragen kunt stellen als «zou ik deze data nou wel mogen delen of niet?»
en «ben ik dan op een goede manier bezig?» Ik hecht daar dus ook aan.

Binnenkort ga ik overigens naar België, omdat daar een soort voorziening is gemaakt
die nog een stapje verder gaat. Daar wil ik eigenlijk wel iets meer over begrijpen.
Daar zit dan ook een instantie die wat meer meedenkt over hoe je op een verantwoorde
manier data kunt delen wanneer dat, nogmaals, ten gunste is van burgers of bedrijven.

Dat was het wat mij betreft.

De voorzitter:

Dank voor de antwoorden van de Staatssecretaris. Ik zie nog één laatste interruptie
van mevrouw Van Weerdenburg

Mevrouw Van Weerdenburg (PVV):

Ik vroeg me af of de Staatssecretaris misschien wel antwoord kan geven op de vraag
die ik de Minister ook had gesteld. Er wordt nu een labeltje, AI-demystificatie, gehangen
aan haar potje voor de aanpak van digibetisme. Is dat wel helemaal nuttig en eerlijk?
Want zo groot is die pot niet. Weet zij welke monitor wordt bedoeld?

Staatssecretaris Van Huffelen:

Volgens mij moeten we als het gaat om de vraag over de monitor nog even uitzoeken
of dat klopt of niet. Dat is één ding. Als het gaat over het demystificeren van AI:
daar is natuurlijk veel meer aan de hand dan alleen maar het probleem oplossen dat
mensen nu geen gebruikmaken van digitale voorzieningen omdat ze de vaardigheden daarvoor
niet hebben. Dat is wel een heel belangrijk onderdeel van de werkagenda die we hebben.
Je zou kunnen zeggen dat er eigenlijk drie hoofdlijnen zijn. Dit is nummer een, namelijk
zorgen dat iedereen mee kan doen in de digitale wereld. Er zijn zo'n 4 of 5 miljoen
mensen in Nederland die het niet kunnen. Soms komt dat doordat ze niet kunnen lezen
en schrijven, soms doordat ze de tools niet hebben, soms omdat ze niet in staat zijn
om met een computer te werken en soms omdat ze de vaardigheden niet hebben. Er zijn
mensen die prima met een mobiele telefoon kunnen omgaan, maar alsnog niet kunnen zorgen
dat ze daarmee een uitkering of een subsidie kunnen aanvragen, of op welke manier
dan ook zaken kunnen doen met de overheid.

Ik vind het volgende heel belangrijk. Dat is natuurlijk ook een onderdeel van demystificeren,
maar dat is onvoldoende. Er is veel meer wat we moeten doen. Voor een deel doen we
dat op dit moment al met allerlei soorten programma's waarin we proberen uit te leggen
wat AI is. Maar ik denk dat we daar gewoon mee moeten doorgaan, want het is natuurlijk
elke keer van belang om dat te doen. Soms helpt het wel dat we het nu zo uitgebreid
hebben over iets als ChatGPT. Je moet het elke keer even goed zeggen, anders denk
je TP, maar het is PT. Dat is denk ik echt superbelangrijk, maar dat is niet het algoritme
waar ik me het meest druk over maak. Natuurlijk maken mensen in het onderwijs zich
er druk over, want het is natuurlijk niet de bedoeling dat je op die manier je paper
gaat schrijven. Als ik een kind was, zou ik het denk ik ook doen, maar dat ben ik
niet meer. We hebben ook gemerkt dat het onzinantwoorden of nietszeggende antwoorden
kan opleveren. Dat is dus denk ik aan de orde.

Maar er zijn vormen van artificial intelligence waar ik me nog veel drukker over maak.
We weten nu een beetje hoe ChatGPT werkt. We zien dat het gebruikt wordt. Maar er
zijn natuurlijk vormen van artificial intelligence waarbij het veel onduidelijker
is hoe ze werken. Dat is bijvoorbeeld het geval bij de socialmediaplatforms. Hoe komt
het dat u betere, of een ander soort informatie krijgt dan ik? Hoe komt het dat je
als je een vraag stelt ineens in een bubbel terechtkomt met alleen maar informatie
over zo'n onderwerp op een manier die soms ook aanzet tot haat, polarisatie of iets
wat je eigenlijk helemaal niet wil?

Anyways, ik wil daarover zeggen dat voor dat demystificeren veel meer nodig is dan
alleen maar zorgen dat mensen goede vaardigheden hebben. Daar gaan we de komende tijd
veel meer voor doen. Maar vaardigheden zijn natuurlijk wel belangrijk, omdat het er
niet alleen over gaat of je om kunt gaan met de computer, maar ook of je begrijpt
hoe het werkt. De Minister zei er ook al iets over: we hebben in ons werkprogramma
heel uitdrukkelijk gezegd dat we in het curriculum voor lagere scholen en middelbare
scholen ervoor gaan zorgen dat dit allemaal veel meer aandacht krijgt. We zullen ook
elke keer weer moeten ontwikkelen, want een jaar geleden was ChatGPT er nog niet.
Of misschien was die er wel, maar was die voor ons niet zichtbaar. Over een maand
zijn er ongetwijfeld weer andere vormen van AI die mooie dingen voor ons kunnen brengen,
maar misschien ook hele nare.

Mevrouw Van Weerdenburg (PVV):

Dus we kunnen gerustgesteld zijn met dit antwoord dat het potje van 10 miljoen wel
echt gebruikt gaat worden voor de absolute basisvaardigheden van mensen die nu geen
zaken kunnen doen via de digitale weg en dat het niet opgaat aan het uitleggen van
ChatGPT aan scholieren?

Staatssecretaris Van Huffelen:

We hebben een heel breed programma. Daar gaan we ook nog verder aan werken in de komende
tijd. Een van de dingen – dat staat even los van de monitorvraag die we sowieso gaan
beantwoorden – die onderdeel van het werkprogramma is, is dat we veel beter willen
begrijpen welke mensen welke informatie en vaardigheden precies missen als het gaat
over digitalisering. We hebben nog te veel grove beelden en niet voldoende beelden
die fijn genoeg zijn. We kunnen daar dus niet goed genoeg op acteren. De Universiteit
van Amsterdam is in opdracht van ons aan het werk om te zorgen dat we een betere monitor
krijgen voor hoe het nu precies staat met de digitale vaardigheden van Nederlanders.
«Welke vaardigheden ontbreken bij welke groepen mensen? Wat is er dan nodig?» Want
het gaat dus niet alleen maar over of je met een telefoon of computer om kunt gaan.
Het gaat er ook om of je in staat bent om daar bepaalde activiteiten mee te doen,
met name in interactie met de overheid.

De voorzitter:

Oké. Dan wil ik de leden vragen of zij behoefte hebben aan een schorsing voorafgaand
aan de tweede termijn. Dat is niet het geval en dan gaan we gelijk door. Het woord
is aan mevrouw Van Weerdenburg voor haar tweede termijn.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Ik weet eigenlijk niet waar ik moet beginnen. Ik vind het
teleurstellend, maar dat is eigenlijk waar ik helaas meestal mee begin. Ik had hier
veel meer van verwacht en ik denk andere leden ook. Ik kan eigenlijk niet begrijpen
waarom je een instantie als de WRR drie jaar onderzoek laat doen naar wegwijzers om
te komen tot een goede inbedding van AI, terwijl je eigenlijk allang geconcludeerd
hebt dat dat toch niet meer nodig is.

De adviesaanvraag is uit 2018 en de WRR is daarna drie jaar bezig geweest – drieënhalf
jaar zelfs – en het rapport is in 2021 opgeleverd. U laat deze commissie dus een jaar
wachten op uw reactie! Ik voel me echt ... Nou, «niet serieus genomen» is nog een
understatement. We worden hier gewoon belazerd. Ik zeg het maar even zo. En dat is
niet oké. Ook de mondelinge toelichting is niet genoeg, want uiteindelijk horen we
hetzelfde als wat we in de brief hebben kunnen lezen. Die brief is ook al oude wijn
in nieuwe zakken, want wat daarin staat, is er allemaal al. Nu net ook weer: je moet
het helemaal af gaan pellen en dan blijkt het gewoon het potje voor digibetisme te
zijn. Helemaal niks nieuws voor demystificatie van AI.

Ik heb sterk het vermoeden dat met die monitor word gedoeld op de CBS-monitor ICT,
kennis en economie. Die bestaat al sinds 2011! Het is dus gewoon voortborduren op.
Ik hoor zo meteen wel welke monitor het is, maar ik vind het redelijk vreemd dat dat
niet zo opgelepeld kan worden en dat er geen linkje staat of wat dan ook.

Verder is het allemaal ... Het is gewoon niet goed genoeg. Hierbij vraag ik dan ook
een tweeminutendebat aan. We moeten haast maken, want dit ligt al zoveel jaar stil.
Eerlijk gezegd, deze commissie wordt echt om de tuin geleid door het kabinet. Ik kan
niets anders concluderen dan dat dit, in rondjes blijven lopen, gewoon bewust beleid
is. De WRR bedanken voor de wegwijzer, maar mwah: we hebben ze toch niet nodig, want
we zijn best wel goed op weg met ons rondje, en nog een rondje en nog een rondje.

Ik vind het toch wel triest om te constateren dat de PVV dan weer de enige in de zaal
is die durft te zeggen dat de keizer geen kleren aan heeft. Ik doe het graag, hoor,
want dat is ook mijn functie als volksvertegenwoordiger. Maar liever had ik hier gepraat
over wat wij, over wat de Kamer nog kan doen. Hoe komen we samen tot een bepaald resultaat
en hoe komen we vooruit? Ik ga niet meelopen in de rondjes van dit kabinet, dat heb
ik hierbij aangegeven.

Dus wie niet horen wil, moet maar voelen. Voorzitter, hierbij vraag ik dan ook een
tweeminutendebat aan. Daarin gaan we dan zien wat de Kamer nog voor elkaar kan boksen
met moties. Het is helaas niet anders.

De voorzitter:

Even voor mijn administratie: voor welk deel van dit debat gaat de PVV een tweeminutendebat
aanvragen? Wat voor motie bent u van plan in te dienen?

Mevrouw Van Weerdenburg (PVV):

Voorzitter, in ieder geval op een aantal ... Ik weet niet of ik dat nu al moet zeggen,
maar het wordt gewoon een tweeminutendebat over dit commissiedebat. Ik denk dat ik
in ieder geval per motie een aantal aanbevelingen ga voorleggen aan de Kamer. Maar
daar ben ik nog niet over uit. In ieder geval ga ik proberen om de eer van de WRR
nog een beetje te redden, want ik vind dit echt een schoffering, niet alleen van de
WRR maar ook van de Kamer.

De voorzitter:

Ik zie een interruptie van de VVD.

Mevrouw Rajkowski (VVD):

Natuurlijk begrijp ik het aan de ene kant wel, maar aan de andere kant vind ik het
ook ... Het staat u natuurlijk altijd vrij om een tweeminutendebat aan te vragen,
maar als er specifieke punten staan in het WRR-rapport waarvan de PVV vindt dat het
kabinet die niet goed heeft opgepakt, dan hoor ik die ook graag hier. Een van de dingen
die ik er bijvoorbeeld uit heb gehaald, is die AI-diplomatie. Ik dacht: hé, dat is
een goed punt. Waarom doen ze eigenlijk niet meer? Maar er werd net een hele lijst
opgesomd van dingen die al gebeuren. Halverwege dacht ik al: o, laat maar; volgens
mij gebeurt er al genoeg. Dus er zijn ook echt wel punten waarop er echt wat gebeurt.
En een tweeminutendebat en moties: het kan altijd. Maar misschien kunnen we het ook
hier met elkaar regelen, want dat scheelt ons ook gewoon heel veel tijd. Want ik kan
u alvast zeggen: ik heb geen behoefte aan een tweeminutendebat.

Mevrouw Van Weerdenburg (PVV):

Allereerst: in ieder geval zo'n AI-coördinatiecentrum. Iedereen is het erover eens
dat dat er moet komen en het kabinet zegt: dat is niet nodig. Ik heb het ook in eerste
termijn gevraagd, en gezegd: u krijgt de kans om te antwoorden. En het blijft een
dikke vette «nee». Ik heb niks nieuws gehoord, niks meer dan wat in de brief al staat.
En ja, ik vind dat we dat op z'n minst met de Kamer moeten regelen. Verder weet ik
het niet, hoor. Het is niet gebruikelijk om nu al te zeggen wat ik allemaal voor moties
ga indienen, maar in ieder geval is dit niet genoeg. Het kabinet doet mijns inziens
niet genoeg om dit te implementeren, dus ik vind dat wij als Kamer nu aan zet zijn.

De voorzitter:

Dank. Dat was uw inbreng, mevrouw Van Weerdenburg? Dan gaan we verder met mevrouw
Rajkowski van de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Eigenlijk een korte tweede termijn. Ik wou gewoon complimenten geven
aan het kabinet voor wat er allemaal gebeurt. Dat wou ik eigenlijk in de eerste termijn
al doen, maar vanwege de tijd had ik het eruit geschrapt. Maar ik moet zeggen dat
de vragen die de VVD heeft gesteld, naar tevredenheid zijn beantwoord. Er gebeurt
nog veel meer dan wat we eigenlijk al zien. Sommige dingen zijn al geregeld, in de
AI Act bijvoorbeeld. Ik zie ook dat er in dat AI-verdrag een hoop gebeurt, dus ook
veel complimenten daarvoor.

Misschien nog een extra opmerking, want ik wist niet dat de AI Coalitie bijvoorbeeld
ook al bezig was met die certificering. Het is inderdaad aanvullend. Volgens mij heeft
de Minister dat ook niet gezegd. Het is inderdaad goed om dingen niet dubbel te doen.
Maar fijn om te horen dat er al een heleboel gebeurt en dat even goed aan elkaar te
verbinden. De twee deskundigen van de TU Delft hebben daar heel goede ideeën bij,
dus fijn om te horen dat daar nog extra wordt opgehaald.

De voorzitter:

Mevrouw Van Weerdenburg voor een interruptie.

Mevrouw Van Weerdenburg (PVV):

Ja, voorzitter, toch nog even. Ik hoor nu de VVD haar complimenten uitdelen. Dus eigenlijk
is de VVD het hierbij dan eens met het standpunt van het kabinet dat de WRR eind 2021
een rapport heeft opgeleverd dat eigenlijk al is ingehaald door de werkelijkheid.
Want dat is wat dit kabinet, deze Minister, heeft gezegd: het heeft drie jaar geduurd
voordat ze een rapport hebben opgeleverd en in die tijd is er al zo veel gebeurd,
dus eigenlijk is het allemaal niet meer nodig; het is gelijk op gegaan, parallel.
En ja, het heeft drie jaar geduurd, maar ze gaan toch niet een rapport opleveren dat
al outdated is? Dat kun je toch niet serieus beweren hier?

Mevrouw Rajkowski (VVD):

Maar zo heb ik hem ook niet begrepen. Maar goed, ik ben ook geen bewindspersoon, dus
ik ga op die manier ook niet het kabinet verdedigen. Dit moet u vooral aan de Ministers
vragen. Maar volgens mij lijkt dat niet raar voor een rapport dat eind 2021 over AI
is opgeleverd. We zitten al aan het begin van 2023. De techniek gaat zodanig snel ...
Terwijl je met computers, het internet of andere technieken jaren nodig hebt voordat
er echt weer een soort verversing plaatsvindt, gebeuren er bij AI elke vier maanden
weer nieuwe dingen en zijn er nieuwe innovaties, waardoor het nog sneller en nog beter
wordt.

Dus als de vraag is «kunt u zich voorstellen dat er dingen verouderd zijn sinds 2021?»,
dan zeg ik: ja. Maar tegelijkertijd zie ik ... En daarom vroeg ik net ook even naar
de moties van mevrouw Van Weerdenburg. Ik ben het niet helemaal eens met haar op een
aantal punten, namelijk dat daar niks gebeurt. Kijk, «AI-coördinatiecentrum» klinkt
heel goed, maar volgens mij gebeurt dat ook, in een andere vorm. Er is over ministeries
heen ambtelijk topoverleg. Dat heb ik uit de stukken gehaald. Volgens mij is het hartstikke
goed dat dat gebeurt. Dat is wat mij betreft ook een van de doelen voor deze commissie
Digitale Zaken: dat er door kokers heen, over grenzen heen, of dat nou binnen de rijksoverheid
is, het bedrijfsleven of de maatschappij, breed gesproken en nagedacht wordt over
technologie.

En ik ben heel blij dat, nu kunstmatige intelligentie onze samenleving verandert,
daar bij de rijksoverheid ook op bestuurlijk niveau overleg en dat soort dingen over
plaatsvinden. Ben ik helemaal tevreden? Nee. Ik heb ook mijn hele tijd volgepraat
met allerlei dingen die ik nog net wat beter wil. Ik maak me ook zorgen over de marktmacht
van China of de VS; dat heb ik al vaker genoemd. Maar ik vind complimenten toch echt
wel op hun plaats. Ik ga ze gewoon nog een keer maken, want ik onderschrijf gewoon
niet de teneur die de PVV voorstelt.

De voorzitter:

Tot slot, mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Helemaal aan het begin zei mevrouw Rajkowski: na oplevering van het rapport eind 2021.
We zijn nu anderhalf jaar verder, in die tijd gaat de techniek razendsnel. Ja, de
techniek gaat razendsnel, maar dit kabinet niet. Elk commissiedebat hier hebben we
dezelfde discussie. De VVD is het meestal eens met de PVV. Mevrouw Rajkowski kan hier
niet serieus beweren dat tussen eind 2021 en nu zo veel stappen zijn gezet door deze
bewindspersonen dat ze het nu eigenlijk al hebben ingehaald. Dat is gewoon niet zo,
en dat kan de VVD hier niet beweren.

Mevrouw Rajkowski (VVD):

Tuurlijk niet op alle punten, maar ik ben toch nog steeds onder de indruk van wat
er wel is gebeurd. Ook als je gewoon kijkt naar de AI Act, dan heeft Nederland kunnen
binnenhalen dat er een klachtenprocedure plaats kan vinden voor als het systeem niet
goed functioneert, zodat je als burger of bedrijf weet waar je terechtkunt. Dat zijn
allemaal waarborgen die wij als Nederland, als klein maar wel welvarend landje, allemaal
op Europees niveau hebben weten binnen te halen. Vorige week hebben we als Kamer ook
nog wat kunnen vinden over aansprakelijkheidsregels voor AI. Er gebeurt een hoop op
internationaal niveau. Er is het AI-verdrag.

Weet je, wat mij betreft gebeurt er zo ongelofelijk veel. En nee, we zijn nog lang
niet klaar. Want op sommige lijstjes staat Nederland als het gaat om AI op nummer
3 bij de koplopers in de wereld, door hoeveel we ermee doen. Maar de nummers 1 en
2 zijn China en de VS, als je kijkt naar hoeveel geld ze erin investeren. Tja, dan
kan je blij zijn als je op 3 staat, maar de afstand tussen wat Nederland doet en wat
China en de VS doen, is gigantisch. En dat gaan we ook nooit evenaren. Dus waar de
VVD eigenlijk naar op zoek is – en dat hebben we in het debat geprobeerd, en volgens
mij hebben we daar ook voorstellen voor gedaan – is juist om te kijken waar we als
Nederland goed in zijn en waar we als Europa goed in zijn. En dat zijn die normen
en waarden, die mensgerichte AI, dus zorgen dat we AI zodanig gaan inzetten dat ze
echt problemen op de arbeidsmarkt gaat oplossen voor veel mensen, voor brede welvaart
gaat zorgen. Dus dat we dat in Nederland goed gaan regelen, en Brussel kunnen overtuigen.
Dan hebben we dat Brusseleffect over de hele wereld, en kunnen we volgens mij die
derde positie met trots behouden.

De voorzitter:

Mevrouw Rajkowski gaat verder met haar betoog. Of? Kijk eens aan.

Dan nu mevrouw Bouchallikh van GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Dank u wel, voorzitter, en ook aan de bewindspersonen en mijn collega's. Dit debat
hier onderschrijft volgens mij precies waartoe wij hier zijn: aan de ene kant kritisch
blijven kijken naar wat er allemaal niet gebeurt en wat er misgaat, en ook zien wat
er allemaal wel gebeurt. En het is duidelijk dat we hier met z'n allen aan het zoeken
zijn. Soms zijn we het eens en soms niet, maar ik merk wel dat de wil er is, en dat
is fijn aan deze commissie.

Dan even over de bijdragen. Het is fijn dat er is toegezegd dat die algoritmetoets
inderdaad bindend is, met eigenlijk dat hele lijstje aan kwalificaties, waar op een
gegeven moment toch nog wat verwarring over was. Ik hoop dat we dat de volgende keer
niet meer hoeven te vragen. Dat regelmatige checken van de capaciteit, daarover ben
ik ook blij om te horen, juist omdat, zoals eerder ook gezegd door de collega's, de
ontwikkelingen echt supersnel gaan en ik niet wil dat we elke keer achter aansluiten.

Dan het debat dat eraan gaat komen over algoritmes en discriminatie. Ik kijk uit naar
de brief die daarover is toegezegd, en ook over vervuilde data en wat er in de toekomst
zal worden gedaan. Ik maak me nog wel een beetje zorgen over de algoritmes bij rechtshandhaving.
Goed om te horen dat dat wel bij de toezichthouders bekend is. Omdat dat precies het
punt is waar het vaak misgaat, voel ik ongemak. Maar dat is vooral een gevoel; ik
kan het nog niet inhoudelijk staven. En ik hoop dat het daarbij blijft. Maar ik wilde
het wel even zeggen, juist omdat het daar heel vaak misgaat. Ik hoop dat we met z'n
allen daar heel kritisch naar blijven kijken, zonder te zeggen dat het nu niet goed
geborgd is. Maar deze vind ik gewoon ingewikkeld.

Tot slot over duurzaamheid en technologie. Fijn dat daarover vanuit EZK nog een rapportage
komt in het derde kwartaal. Misschien een praktisch verzoek aan de griffie, of naar
onszelf als commissie: dat we ervoor zorgen dat wij ook die rapportages krijgen en
wij hierbij inderdaad over departementen heen blijven kijken. Veel dank ook aan de
griffie.

De voorzitter:

Dan geef ik nu het voorzitterschap aan mevrouw Van Weerdenburg.

Voorzitter: Van Weerdenburg

De voorzitter:

Dank u wel. Dan geef ik het woord aan mevrouw Dekker voor haar inbreng in tweede termijn
namens D66.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Dank voor de beantwoording van het kabinet in de eerste termijn.
Nogmaals, het is goed dat we dit debat voeren. Voor D66 ga ik drie vragen stellen:
over het expertisecentrum AI, de AI Act en het AI-verdrag. Allereerst is het goed
dat de Minister ingaat op de regionale hubs van de AI Coalitie. Daarmee verbinden
we verschillende puzzelstukjes: de juridische, ethische, economische en sociale aspecten,
en het bedrijfsleven met de kennisinstellingen. Maar toch ziet D66 nog een missing
link, en dat is die met de overheid. De ontwikkeling van AI gaat een stuk sneller
dan de ontwikkeling van beleid. Is de Minister bereid om nader in te gaan op de betrokkenheid
van het kabinet bij deze hubs? En is de Minister bereid om het gesprek aan te gaan
om ook de onderlinge kennis aan elkaar te verbinden, en misschien in de toekomst te
komen tot een integraal expertisecentrum?

Dan de AI Act, ten tweede. Het is positief dat de Staatssecretaris overtuigd is van
de verplichte mensenrechtentoets. Voor D66 blijft het van belang dat we als staten
bedrijven achter de broek aan kunnen zitten om mensenrechten te beschermen. Maar ook
de staten zelf moeten zich daaraan houden. Gelden de uitzonderingen voor law enforcement
en border patrol ook in het geval van de mensenrechtentoets? Zou de Staatssecretaris
dat kunnen ophelderen? Want voor D66 is het essentieel dat juist de overheden de mensenrechten
beschermen.

Tot slot. Het is fijn dat de Staatssecretaris aangeeft dat de Raad van Europa bereid
is de Kamer te briefen over het verdrag, opgevolgd door een schriftelijk debat. Aan
welke termijn denkt de Staatssecretaris dan? En als het gaat om de betrokkenheid van
maatschappelijke organisaties, ontkent de Staatssecretaris dan dat initieel het volledige
proces open was, en dat nu de deuren gesloten zijn tijdens de schrijfsessies en het
proces minder transparant is gemaakt? Hoe verhoudt dat zich tot de wens om het gebruik
van kunstmatige intelligentie transparanter te maken? En als het proces al niet transparant
is, wat zegt dat dan over de inhoud? Voor D66 blijft het belangrijk dat ook het veld
meepraat over de toekomst van het gebruik van AI.

Dank u wel.

De voorzitter:

Dank u wel. Ik zie geen interrupties. U krijgt hierbij het voorzitterschap weer terug.

Voorzitter: Dekker-Abdulaziz

De voorzitter:

Dank u wel. Dan vraag ik even aan de bewindspersonen of zij behoefte hebben aan een
schorsing. Ik hoor tien minuten. Dan schors ik de vergadering voor tien minuten.

De vergadering wordt van 15.46 uur tot 15.52 uur geschorst.

De voorzitter:

Ik zie dat iedereen weer terug is, dus we gaan verder. Ik geef het woord aan de Minister
van Economische Zaken.

Minister Adriaansens:

Dank u, voorzitter. Ik zal twee vragen beantwoorden en de Staatssecretaris zal dan
de andere vragen beantwoorden. Allereerst over de ontevredenheid van mevrouw Van Weerdenburg
over hoe wij omgaan met het WRR-rapport. Ik heb volgens mij heel duidelijk gezegd
dat wij heel veel waarde toekennen aan de WRR. Dat hebben we ook in de brief aangegeven.
De WRR geeft echter vooral richtinggevende langetermijndoelen. Wij zullen die in de
voortgangsrapportages erbij halen om te laten zien hoe wij voortgang boeken op de
aanbevelingen die zij soms wat abstracter doen.

Desalniettemin is het coördinatiecentrum wel een concreet voorstel en een aanbeveling
van de WRR. We moeten middel en doel echter niet door elkaar halen. Het gaat om het
doel dat we willen bereiken, dat we coördinatie hebben, dat we zorgen dat we de goede
dingen doen, dat we dat in afstemming met elkaar doen, dat we één en één is drie maken
en dat we niet versnipperd bezig zijn en dat we zorgen dat we voortgang boeken. Wij
hebben dat als overheid, als kabinet, op een bepaalde manier vormgegeven. Daar is
de laatste jaren echt heel veel in gebeurd, ook met de komst van de Staatssecretaris
en haar coördinerende rol. Er wordt veel gestructureerder samengewerkt tussen de verschillende
departementen op dit thema. Je ziet nu met de stappen die gezet worden dat de toezichthouders
ook veel meer samenwerken. Dat is wel degelijk een nieuwe stap. Dat gaat vruchten
afwerpen. We zien ook in de Nederlandse AI Coalitie heel veel voortgang als het gaat
over samenwerken en stappen zetten.

Nog een extra opmerking die ik daarbij wil plaatsen, is dat ook de keuze van het kabinet ...
Er zijn zo veel onderwerpen die in alle departementen en sectoren spelen en digitalisering
is daar een hele belangrijke van. Het is eigenlijk veel sterker om dat in een samenwerkingsverband
te doen. Er zit ook wel een keuze in. Je kunt het ook buiten je organisatie leggen.
Dan verplaats je eigenlijk de verantwoordelijkheid. Wij hebben de verantwoordelijkheid
zelf genomen. Er zit dus wel degelijk een inhoudelijke argumentatie achter de vorm
die wij hebben gekozen om het doel dat de WRR beschrijft, namelijk goede afstemming,
vorm te geven. Het is dus niet aan de kant geplaatst, maar er is op een bepaalde manier
invulling aan gegeven waar wij heel erg in geloven.

De voorzitter:

Mevrouw Van Weerdenburg heeft een interruptie.

Mevrouw Van Weerdenburg (PVV):

Ik begrijp wat de Minister nu zegt. Ik heb echter niet de geruststelling dat als die
«overlegclubjes», om het even oneerbiedig zo te noemen ... Als de coördinatie bij
het departement, bij ministeries, bij de overheid, blijft, dan hebben wij dat niet
heel erg goed in beeld. Dan moeten wij afgaan op de rapportages daarover, op de brieven
van de bewindspersonen. Eerlijk gezegd stellen dit soort brieven mij niet verder gerust
dat ik daarop kan vertrouwen. Dat klinkt heel zwaar. Dat is het ook wel. Als het iets
is wat onafhankelijk is, dan hebben we daar beter zicht op. Met die overlegclubjes,
of dat nou wel of niet goed gecoördineerd is, moeten we de Minister op haar mooie
ogen geloven dat dat allemaal wel goed zit. Nee, sorry. Wat dat betreft is de PVV
door schade en schande wijzer geworden. Daar ga ik niet in mee. Ik heb het dan liever
wel onafhankelijk en wel voor iedereen openbaar. Ik ben benieuwd hoe de Kamer daarover
denkt.

De voorzitter:

Wat is uw vraag aan de Minister?

Mevrouw Van Weerdenburg (PVV):

Ik vraag aan de Minister of ze begrijpt dat we daar niet gerustgesteld in zijn; althans,
de PVV niet. Dat komt door niet eerlijk te zijn. «Windowdressing» heb ik het genoemd.
Laat ik het dan «windowdressing» noemen. U maakt het mooier en meer dan wat het is.
Wees nou gewoon eerlijk: dit doen we allemaal al en dit is er nog niet, maar gaat
er nog komen. Stop met dit soort brieven en dit soort termen te verkopen als daadkracht.
Zo krijgt u ons niet mee.

De voorzitter:

Het standpunt is duidelijk.

Minister Adriaansens:

Ik weet niet of we hier helemaal uit gaan komen. Dat vind ik jammer, want volgens
mij willen we hetzelfde. Kijk, een woord als «demystificatie» is ook een ingewikkeld
woord. Dat moet je vertalen. Belangrijk voor de rol van de Kamer is dat we met elkaar
hetzelfde bedoelen en aan dezelfde dingen werken. Hoe we nou precies van A naar B
komen, daar kunt u wel wat van vinden, maar volgens mij bedoelt u vooral voortgang
te boeken. Zo heb ik uw betoog tenminste ervaren. Dat willen wij ook. Volgens mij
werken we aan hetzelfde.

De WRR zegt iets over de wijze waarop wij meer samenhang zouden moeten brengen in
wat wij doen. Daar hebben we heel veel acties op ondernomen. Uiteindelijk moet dat
ertoe leiden dat we betere en snellere resultaten behalen, dat we stappen zetten met
AI, dat we zorgen voor beter opgeleide mensen, dat het op school een plek gaat krijgen,
dat er kennis wordt ontwikkeld en dat er goede regelgeving komt. Dat is een heleboel
waar we het ook over gehad hebben vanmiddag. Daar zou u ons op moeten aanspreken.

Dus belangrijk voor ons is volgens mij dat wij zorgen dat we een goede rapportage
maken. Op het moment dat die rapportage niet onafhankelijk genoeg zou zijn – dat is
eigenlijk wat u suggereert – dan moet u volgens mij kijken wat u nodig heeft voor
het comfort op die rapportage. Ik zou bijna zeggen: geef ons de kans om te rapporteren
en laten we dan kijken of die rapportage u bevalt. Ten eerste qua vorm en betrouwbaarheid,
want dat is wat u suggereert, maar ten tweede ook of goede voortgang wordt behaald,
want dat is volgens mij wat u bedoelt.

Mevrouw Van Weerdenburg (PVV):

Ja, we willen allebei vooruitgang. Maar waar wij aanstoot aan nemen, is dat hier met
dit soort brieven, met dit soort formuleringen, met dit soort taalgebruik, vooruitgang
wordt geveinsd. Dat wekt natuurlijk geen vertrouwen. Het is niet dat we voor het eerst
een debat voeren. We zijn nu al ruim een jaar bezig, ook op andere vlakken en ook
met de Staatssecretaris. Het is elke keer dezelfde struggle van: ja, we zijn ermee
bezig. Dan ga je het afpellen en dan is het: er ligt een plan; dat wordt uitgewerkt.
Dan moeten we weer wachten en weer wachten.

Drie jaar lang is de WRR bezig geweest met dit rapport. Een jaar heeft deze commissie
moeten wachten op de reactie, die eigenlijk gewoon bestaat uit achttien kantjes met:
o, is er al; o, eigenlijk outdated. We hebben het hier vaker over gehad. Elke keer
wordt dan verwezen: de reactie komt, de reactie komt. En dan komt dit er? Sorry, hoor.
We willen allebei vooruit, maar dan moeten we wel eerlijk zijn tegen elkaar. De PVV
is altijd eerlijk, zonder omhaal. Ik zou graag willen dat deze bewindspersonen ook
gewoon to the point zeggen hoe het is en het niet mooier maken dan het is. Ik ben
blij dat in ieder geval de plaatjes en de powerpointpresentaties eruit zijn gehaald.
Nu nog de taal opschonen.

De voorzitter:

Ik denk dat we hier niet helemaal gaan uitkomen, maar ik geef toch even het woord
aan de Minister.

Minister Adriaansens:

Ik denk het ook niet. Ik denk dat we het eens zijn over wat we voor elkaar willen
krijgen. Ik ben het er ook mee eens dat we in normale taal moeten praten. We hebben
ook gereageerd op een rapport waar niet altijd hele duidelijke woorden in stonden.
Dat is ook terecht als het een wetenschappelijke raad is. Ook daar moeten we denk
ik even zoeken naar de vertaling. Dat dat concreet moet worden en dat we uiteindelijk
bij de monitoring ... Als dat een aanbeveling is van mevrouw Van Weerdenburg neem
ik die heel graag mee om te zorgen dat we normale taal gaan gebruiken bij de rapportage,
zodat duidelijk is wat er bereikt wordt en dat we oppassen dat we niet te vreemde
woorden gebruiken. Daar krijg ik zelf ook puistjes van. In die zin ben ik dat met
mevrouw Van Weerdenburg eens. Maar het is nou eenmaal ook een ingewikkeld onderwerp,
dus we moeten leren die taal te ontwikkelen. We moeten met elkaar kijken hoe we u
daar goed over kunnen informeren. Zo zal ik ’m oppakken en in de voortgang hopen we
die transparantie op een goede manier te bereiken.

De voorzitter:

Voordat we afsluiten, heb ik eigenlijk ook een vraag over dit blokje. Ik had de Minister
gevraagd om in te gaan op de betrokkenheid van het kabinet bij de regionale hubs.

Minister Adriaansens:

Ik wilde naar die vraag toe gaan. Heel veel departementen zijn betrokken bij de Nederlandse
AI Coalitie en bij de regionale hubs waar u over sprak. De overheden zijn dus betrokken
en kijken naar de ontwikkelingen die daar plaatsvinden. Ze kijken wat dat weer betekent
voor het overheidsbeleid. Dat vindt dus plaats.

Dat waren mijn vragen. Dan zijn de andere vragen voor de Staatssecretaris.

De voorzitter:

Ik zie dat mevrouw Van Weerdenburg nog een vraag heeft.

Mevrouw Van Weerdenburg (PVV):

Ik wacht nog op de monitor.

De voorzitter:

Dan geef ik het woord aan de Staatssecretaris voor de beantwoording in tweede termijn.

Staatssecretaris Van Huffelen:

Dan ga ik even in op die specifieke vraag over de monitor. Ik wil herhalen wat ik
eerder zei, namelijk dat er op dit moment door de Universiteit van Amsterdam een monitor
over digitale vaardigheden wordt ontwikkeld, uitgevoerd en verder doorontwikkeld.
De definitieve versie daarvan is volgend jaar klaar. Dat is dus niet hetzelfde als
de CBS-monitor die ook plaatsvindt, maar een veel fijnmazigere monitor waarin we een
beter en scherper beeld proberen te krijgen van hoe het staat met de digitale vaardigheden
van Nederlanders.

De voorzitter:

Mevrouw Van Weerdenburg heeft toch nog even een vraag over de monitor.

Mevrouw Van Weerdenburg (PVV):

De monitor wordt nu ontwikkeld, begrijp ik. De Staatssecretaris zegt: volgend jaar.
We kunnen dus verwachten dat de monitor in 2024 klaar is, maar moet die dan ook nog
uitgevoerd gaan worden?

Staatssecretaris Van Huffelen:

Ook op dit moment wordt er al een monitor uitgevoerd, maar we zijn hem verder aan
het ontwikkelen. Diezelfde universiteit voert dus nu al een monitor uit en ontwikkelt
hem tegelijkertijd verder door. Dan wordt die in 2024 niet alleen gepresenteerd, maar
ook uitgevoerd.

Mevrouw Van Weerdenburg (PVV):

Kunnen we tussentijds wellicht wat meer informatie ontvangen over wat er dan zo anders
is aan de monitor die het CBS al doet?

De voorzitter:

Dus het verschil tussen de twee monitors, Staatssecretaris.

Staatssecretaris Van Huffelen:

Wij brengen nog een brief uit over digitale inclusie, dus over dit onderwerp. In die
brief zal ik dit meenemen. Die brief komt nog in dit kwartaal.

Dan de vraag van mevrouw Dekker of de verplichte mensenrechtentoets in de AI Act ook
voor law enforcement en border patrol geldt. Dat klopt; daar geldt die ook voor.

Dan had u nog een vraag over de Raad van Europa: wanneer kan die briefing plaatsvinden?
Dat is aan u, want u moet als Kamer die vraag aan de Raad van Europa stellen om zo'n
briefing te komen doen.

Dan nog iets wat ik met kracht zou willen ontkennen, namelijk het idee dat het verdrag
niet transparant tot stand komt, want juist in de onderhandelingen is er sprake van
transparantie en zijn ook ngo's betrokken, niet alleen op dit moment maar ook in de
voorbereidingen die plaats hebben gevonden voor het maken van het verdrag. Het enige
wat er gebeurt, is dat er een soort schrijfgroepje is dat teksten voorbereidt en voorlegt
aan de combinatie van landen, onderhandelaars en ngo's. Die zijn dus uitdrukkelijk
betrokken bij het maken van de teksten. Daar hecht ik ook zelf veel belang aan, omdat
het natuurlijk heel belangrijk is dat dat verdrag een goed en gedragen verdrag is.
Maar dat wordt dus ook gedaan.

De voorzitter:

Staatssecretaris, voordat u verdergaat, heb ik toch nog even een vraag over de planning.
Die briefing gaan wij over twee weken bespreken in onze pv, maar is de Staatssecretaris
bereid om ons een planning te geven van die onderhandelingen? Dan kunnen we daar rekening
mee houden, zodat het ook een beetje op elkaar aansluit.

Staatssecretaris Van Huffelen:

Ja, voor zover er een planning is, kan ik die geven, want er zijn inderdaad momenten
in de tijd afgesproken om in de loop van dit jaar met elkaar te onderhandelen, met
als idee om nog dit jaar tot een uitkomst te komen. Maar goed, dat hangt natuurlijk
af van hoe het gaat. Dat is dus niet zomaar te zeggen, maar daar kan ik u wel van
op de hoogte stellen. Ik zou eerlijk gezegd zeggen: doet u het zo snel mogelijk als
u de gelegenheid heeft, want hoe eerder u bij bent, hoe groter de kans dat eventuele
dingen die u nog wil meegeven, kunnen worden meegenomen in die onderhandelingen.

De voorzitter:

Gaat u verder.

Staatssecretaris Van Huffelen:

Dan zei mevrouw Bouchallikh nog dat zij het vooral van belang vindt dat de toezichthouders
goed hun werk kunnen blijven doen. U zei: misschien is het een onderbuikgevoel, maar
ik weet nog niet helemaal zeker of het goed gaat. Laten we vooral zorgen dat we elkaar
goed op de hoogte houden, want het is voor zowel de toezichthouders als voor ons natuurlijk
van belang dat zij hun werk goed kunnen doen. Daarom vind ik het ook heel belangrijk
om organisaties transparantie en helderheid te bieden over de eisen waaraan zij moeten
voldoen. Dat hebben we een beetje gezien bij de implementatie van de AVG: heel veel
organisaties willen gewoon compliant zijn en willen dus graag voldoen aan de vereisten,
maar weten gewoon niet goed wat ze moeten doen, of dat nou voetbalverenigingen, overheidsorganisaties
of andere organisaties zijn.

Ik denk dus dat het ook heel erg helpt als wij samen met die toezichthouders gewoon
heel helder aangeven wat de vereisten zijn en hoe het werkt voor een branche of een
organisatie, zodat dat helder is. Dan blijven we met elkaar ook monitoren of vervolgens
het toezicht goed geregeld is, maar je kunt nooit toezichthouders hebben die alles
kunnen controleren. Zij zullen altijd moeten werken met steekproeven enzovoort, enzovoort.
Het is dus ook belangrijk dat mensen weten hoe ze aan die regels moeten voldoen.

De voorzitter:

Ik zie een vraag van mevrouw Bouchallikh.

Mevrouw Bouchallikh (GroenLinks):

Ik hoop niet de suggestie gewerkt te hebben dat ik het werk van de toezichthouders
niet waardeer. Ik doelde specifiek op de uitzonderingen voor rechtshandhaving. Ik
ben dus blij dat de toezichthouder weet dat die uitzonderingen blijven. Het ging dus
niet over de toezichthouders; dat wilde ik nog even zeggen.

Staatssecretaris Van Huffelen:

Goed. Nogmaals, we moeten hen er ook op blijven bevragen of zij voldoende inzicht
krijgen en hebben in wat er gebeurt, ook al kunnen niet alle elementen van die algoritmes
openbaar worden gemaakt.

De voorzitter:

Is de Staatssecretaris is klaar met de beantwoording?

Staatssecretaris Van Huffelen:

Volgens mij wel, ja.

De voorzitter:

Oké. Ik zie verder geen vragen.

Volgens mij hebben we een toezeggingenlijst. Dat is een hele lijst. Ik ga de toezeggingen
gewoon voorlezen.

– De Minister van Economische Zaken en Klimaat zal het onderzoek over de duurzaamheidseffecten
van digitalisering in het derde kwartaal met de Kamer delen.

– De Staatssecretaris Digitalisering zal voor het commissiedebat Inzet algoritmes en
data-ethiek binnen de rijksoverheid op 15 februari de Kamer schriftelijk informeren
over de stand van zaken wat betreft de uitvoering van de motie-Marijnissen/Klaver
inzake de opruiming van vervuilde data door overheidsinstellingen.

Ik voeg hieraan toe dat wij hier ook als commissie mee bezig zijn. Wij briefen de
commissieleden dus ook verder.

– De Staatssecretaris zal na het gesprek met het Samenwerkingsplatform Digitale Toezichthouders
de Kamer over de uitkomsten van dit gesprek informeren.

– De Staatssecretaris zal de Kamer in de brief over digitale inclusie in Q1 ook het
verschil tussen de monitor van de UvA en de monitor van het CBS over digitale vaardigheden
beschrijven.

– De Staatssecretaris zal de Kamer naar aanleiding van haar aanbod van de briefing over
het AI-verdrag een planning van de onderhandelingen binnen de Raad van Europa over
het AI-verdrag sturen.

Dat was de toezeggingenlijst. Iedereen is het daarmee eens.

De PVV heeft een aanvraag gedaan voor een tweeminutendebat. Mevrouw Van Weerdenburg
is daarin dus de eerste spreker.

Ik bedank de bewindspersonen voor hun aanwezigheid en de goede beantwoording, de leden
voor de vragen en de goede discussie, het publiek hier en ook thuis voor het geduldig
meekijken met onze commissievergadering en de bode en de griffier voor alle ondersteuning.

Sluiting 16.09 uur.