Verslag van een algemeen overleg : Verslag van een algemeen overleg, gehouden op 12 maart 2020, over Kunstmatige Intelligentie en sleuteltechnologieën
26 643 Informatie- en communicatietechnologie (ICT)
32 761 Verwerking en bescherming persoonsgegevens
Nr. 681 VERSLAG VAN EEN ALGEMEEN OVERLEG
Vastgesteld 13 mei 2020
De vaste commissie voor Economische Zaken en Klimaat, de vaste commissie voor Binnenlandse
Zaken, de vaste commissie voor Onderwijs, Cultuur en Wetenschap, de vaste commissie
voor Sociale Zaken en Werkgelegenheid, de vaste commissie voor Justitie en Veiligheid
en de tijdelijke commissie Digitale toekomst hebben op 12 maart 2020 overleg gevoerd
met mevrouw Keijzer, Staatssecretaris van Economische Zaken en Klimaat, over:
− de brief van de Minister van Buitenlandse Zaken d.d. 17 mei 2019 inzake fiche: Mededeling
Vertrouwen kweken in de mensgerichte kunstmatige intelligentie (Kamerstuk
22 112, nr. 2799);
− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 11 juni 2019
inzake onderzoek door Technopolis naar publieke geoormerkte investeringen in sleuteltechnologieën
(Kamerstuk
33 009, nr. 72);
− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 8 oktober 2019
inzake Strategisch Actieplan voor Artificiële Intelligentie (Kamerstuk
26 643, nr. 640);
− de brief van de Staatssecretaris van Economische Zaken en Klimaat d.d. 17 februari
2020 inzake kabinetsreactie Nationale Agenda kwantum Technologie (Kamerstuk
29 338, nr. 216).
Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.
De voorzitter van de vaste commissie voor Economische Zaken en Klimaat, Diks
De voorzitter van de vaste commissie voor Binnenlandse Zaken, Ziengs
De voorzitter van de vaste commissie voor Onderwijs, Cultuur en Wetenschap, Tellegen
De voorzitter van de vaste commissie voor Sociale Zaken en Werkgelegenheid, Rog
De voorzitter van de vaste commissie voor Justitie en Veiligheid, Van Meenen
De voorzitter van de tijdelijke commissie Digitale toekomst, Buitenweg
De griffier van de vaste commissie voor Economische Zaken en Klimaat, Nava
Voorzitter: Diks
Griffier: Nava
Aanwezig zijn acht leden der Kamer, te weten: Amhaouch, Buitenweg, Diks, Van Haga,
Moorlag, Öztürk, Verhoeven en Wiersma,
en mevrouw Keijzer, Staatssecretaris van Economische Zaken en Klimaat.
Aanvang 14.05 uur.
De voorzitter:
Goedemiddag. Hartelijk welkom. Wat een onrust allemaal. Hoe zou dat komen? We zijn
al vijf minuten over de tijd. Ik stel voor dat de Kamerleden zich ook zo langzamerhand
een beetje gaan voegen om met dit algemeen overleg te beginnen. Hartelijk welkom bij
dit algemeen overleg van de vaste commissie voor Economische Zaken en Klimaat. Hartelijk
welkom aan de Staatssecretaris en aan haar brede ondersteuning. Hartelijk welkom aan
een hele rits Kamerleden, aan de mensen op de publieke tribune en aan de mensen die
thuis eventueel kijken. Dit is een overleg over kunstmatige intelligentie en sleuteltechnologieën.
We hebben een spreektijd afgesproken: per fractie maximaal vijf minuten. Ik zou willen
beginnen met de heer Wiersma van de VVD.
De heer Wiersma (VVD):
Voorzitter, dank. Ik ga kijken of het in vijf minuten lukt. Dank dat er zo veel mensen
hier zijn en dat er misschien ook nog wel heel veel mensen meekijken. Dat is hopelijk
een steun voor al die belangrijke sleuteltechnologieën. Het is een oproep aan de politiek
om op dat vlak alle kansen te benutten. Want er zijn zorgrobots die jongeren met autisme
kunnen helpen. Er zijn robots die files kunnen voorspellen en mijden, de oogst kunnen
voorspellen in de landbouw, criminelen kunnen opsporen en de grenzen beter bewaken.
De mogelijkheden van technologie kunnen eigenlijk niet op en dan specifiek die van
de sleuteltechnologieën.
Voorzitter. Je kunt niet aan een nieuw hoofdstuk beginnen als je steeds het oude blijft
lezen. Dat betekent dat ons innovatiebeleid alle ruimte moet bieden om op nieuwe kansen
in te springen. Tegelijkertijd moet het inzicht bieden in de vraag of je het doet
en dan ook goed doet. Goede bedoelingen, sterke lobby's of angst om de boot te missen
helpen ons innovatiebeleid niet. Die zetten ons innovatiebeleid vast. Ze draaien dat
vast en versnipperen ons innovatiebeleid zelfs.
Voorzitter. Wij willen de juiste zaadjes planten en de juiste stekjes laten groeien.
Dan moeten we dus bewust kijken waar we onze pokon inzetten, een prachtige Hollandse
uitvinding. Die is tientallen jaren oud, maar heel erg van toepassing op dit debat.
Want we kunnen op heel veel plekken meer groeien, maar dat doen we niet door alles
een druppeltje water te geven. We moeten durven kiezen voor meer en gerichte investeringen
in sleuteltechnologieën, voor innovatie waar ons verdienvermogen juist mee verbetert,
voor talent dat nu vaak naar het buitenland vertrekt en voor toepassingen en bedrijven
die mensen helpen. Dat moet gaan vóór de regels en beperkingen die we ze nu vaak opleggen.
Voorzitter. Er zijn twee belangrijke begrippen voor mij: weten en kunnen afwegen.
Als het gaat om weten, is het nu volstrekt vaag hoeveel geld van de overheid er nu
eigenlijk naar iedere sleuteltechnologie gaat. We hebben een hele bups geld, meer
dan 2,5 miljard of zoiets. Hoeveel gaat er nou naar die sleuteltechnologieën? Kan
de Staatssecretaris dat gewoon eens uitleggen?
Voorzitter. Het is ook belangrijk dat je de middelen die we hebben, vervolgens scherp
richt op waar de impact het grootst is. Hoe doen we dat nu? Ik ben benieuwd welke
strategie we daarvoor hebben. De AWTI heeft daar een heel afwegingskader voor geschreven
in haar rapport. In hoeverre passen we dat nu toe op die sleuteltechnologieën? Hebben
we er ook een beeld van waar de impact het grootst is?
Voorzitter. Ik doe twee voorstellen, omdat ik denk dat de impact scherper kan zijn
als we scherper kiezen. Binnen de Nationale Wetenschapsagenda zit bijvoorbeeld ook
nog een oploop aan middelen: 22 miljoen, 18 miljoen. Dat is de grootte van die pot
op dit moment, maar de bedragen verschillen een beetje. Waarom zouden we die niet
alloceren en gewoon inzetten voor sleuteltechnologieën? De Kenniscoalitie zegt ook
dat je dat eigenlijk meer per thema zou moeten doen, dus waar wachten we nou nog op?
Twee. We geven heel wat middelen aan onderzoek, ook via de NWO. We geven nu 100 miljoen
van de 275 miljoen aan de publiek-private samenwerking. Zouden we die component niet
groter moeten maken? Hoe zouden we dat kunnen doen? Want we willen toch juist bedrijven
helpen met toepassingen om die groter te maken? We zien dat we goed zijn in de ontwikkeling
van de kennis, maar als die toegepast moet worden, schuiven wij met een paar euro's,
terwijl andere landen om ons heen met miljarden schuiven. Dan gaan die er vandoor
met onze kennis, onze mensen en onze bedrijven en wordt het geld niet hier verdiend
maar over de grens. Dat zien we nu. Zouden we de toeslag voor publiek-private samenwerking
niet groter kunnen maken? En zouden we daar specifiek voor sleuteltechnologieën misschien
een hogere toeslag van kunnen maken? Het is nu 30%. Zou je daar 50% van kunnen maken?
Zou je kunnen zeggen dat we binnen die NWO-component een hekje maken voor een bepaald
deel? Dat is dan de sleuteltechnologie. Daar gaan we een hogere toeslag voor maken,
puur om die toepassingen en de samenwerking met het bedrijfsleven een boost te geven.
Voorzitter. Los van sleuteltechnologieën wil ik vragen wat de resultaten zijn uit
het missiegedreven innovatiebeleid. Dat is eigenlijk de kerstboom waar de Staatssecretaris
het hele beleid aan ophangt. Ik zeg dat het vastgedraaid en versnipperd is. Dat beweegt
onvoldoende, maar dat moet ruimte en inzicht bieden in waar we vooral moeten zijn.
Ik wil weten of we kunnen leren van het buitenland. Zijn er landen die erin slagen
om innovaties echt goed te toetsen aan bijvoorbeeld het verdienvermogen? Hoe kunnen
wij op onze lijst zowel alle missies als het topsectorenbeleid als de sleuteltechnologieën
beter inzichtelijk maken, zodat de Kamer beter kan zeggen waar ze de impact wil vergroten?
Voorzitter. Ik kom aan het eind van mijn betoog. Ik wil graag de aanpak op twee belangrijke
thema's horen. Eén is talent. We zien andere landen ons talent overnemen. Ik sprak
een hoogleraar die zei dat in Duitsland massaal onderzoekers worden ingekocht. Zij
krijgen een heel groot netwerk van promovendi om zich heen. Wat doen wij nou om die
slag om het talent te winnen? Hoe kan het nou dat talent na een studie eerder uit
Nederland weg wil dan dat het hier wil blijven? Waar zit dat in? Hebben we dat in
beeld?
Twee. Data. Er zijn heel veel toepassingen die tegen problemen rond data aanlopen.
SkinVision is een voorbeeld rond huidkanker. Dat bedrijf heeft data van patiënten
nodig en die patiënten zijn daarmee geholpen. Maar het loopt vast. Zouden we een praktisch
gericht interventieteam kunnen oprichten om bij dit soort toepassingen dat tegen problemen
aanloopt, een uitzondering te maken, een mini-ruling of wat dan ook, alles wat helpt
om op dat moment specifiek ruimte te krijgen om de toepassing voor mensen in de samenleving
beschikbaar te maken?
Voorzitter, dank.
De voorzitter:
Dank u wel, meneer Wiersma. Dan gaan we naar de heer Verhoeven van de D66-fractie.
De heer Verhoeven (D66):
Bedankt, voorzitter. Een debat over kunstmatige intelligentie is natuurlijk prachtig.
Het is ook geen overbodige luxe, want het is een ongelofelijk impactrijke en belangrijke
technologie. Het is ook niet een van de vele technologieën. Het is echt dé technologie,
de dominante technologie op dit moment, die alle onderdelen van de maatschappij raakt,
die alles doorkruist en die ook alles overstijgt. Ik vergelijk kunstmatige intelligentie
dus niet met een technologie als 3D-printen, een technologie die ook heel waardevol
is. Kunstmatige intelligentie is echt een technologie van een veel grotere orde. Zeker
in samenhang met alle big data, met de mogelijkheid om heel veel data op te slaan
in de cloud en de mogelijkheid om heel veel data te verzamelen via allerlei internet-der-dingenapparaten,
is het een technologie die een ongelofelijke impact en potentie heeft.
Ik begrijp dat ik zojuist – mijn excuses daarvoor – een technische briefing van de
AWTI heb gemist. Dat is slordig. Maar ik was zojuist wel te gast bij de FME, de ondernemersorganisatie
voor de smart industry. Die hebben opnieuw benadrukt hoe belangrijk het is dat Nederland
stappen zet op het gebied van kunstmatige intelligentie. Vandaag wil ik graag drie
onderdelen die ik van waarde acht, naar voren brengen.
De voorzitter:
Dat begrijp ik, maar mevrouw Buitenweg had eerst nog een interruptie voor u.
Mevrouw Buitenweg (GroenLinks):
De heer Verhoeven was afwezig. Ik weet niet of dat was in verband met zijn recente
prijsuitreiking. Ik wilde hem vragen of het klopt dat hij weer de ICT-politicus van
het jaar is geworden.
De heer Verhoeven (D66):
Dat is heel aardig van mevrouw Buitenweg. Daar had het niks mee te maken. Ik ben misschien
wel IT-politicus, maar geen agendapoliticus. Ik had mijn agenda gewoon niet goed op
orde. Mijn excuses dus aan de AWTI voor het feit dat ik er niet was, want ik had het
graag wel mee willen maken.
Mevrouw Buitenweg (GroenLinks):
Mag ik dan toch mijn hartelijke felicitaties overbrengen en zeggen hoe welverdiend
het was?
De heer Verhoeven (D66):
Dat vind ik heel aardig. Dank daarvoor. Ik zal proberen om daar in mijn bijdrage van
vandaag enige weerslag van te laten doorklinken. Ik heb wel een aantal ideeën.
Voorzitter. Ik wil eigenlijk op drie punten ingaan. Allereerst is dat de Nederlandse
en de Europese concurrentiepositie. Ten tweede ga ik in op alles wat met ethiek, waarden
en mensenrechten te maken heeft. Het derde punt zijn de werkgelegenheid en de welvaart
van onze toekomst.
Het eerste punt heeft betrekking op het investeren. Technologie is gewoon een machtsfactor
geworden. Daar hebben we ook veel over gesproken de afgelopen tijd in de Kamer. China
en de Verenigde Staten pompen ongelofelijk veel geld in kunstmatige intelligentie
en dat doen ze omdat ze de machtigste speler in de wereld willen zijn. De Europese
Unie stelt daar vooralsnog vooral kaders, richtlijnen, een ethische benadering en
het zetten van de standaard tegenover. Dat is op zich goed. Er zijn ook mensen die
zeggen dat Europa zich daar vooral op moet focussen, omdat we dan degene in de wereld
zijn die op basis van de hoogste standaard dé standaard bepaalt.
Toch denk ik dat het van belang is dat we proberen voorop te lopen in technologisch
en innovatief opzicht en dat we hierin ook echt investeren. Ik vind het Strategisch
Actieplan voor Artificiële Intelligentie, SAPAI – zo mag je het geloof ik met een
afkorting noemen – in dat opzicht tekortschieten. Het geld dat we vrijmaken – 1 miljard
in zeven jaar vanuit de overheid, en daar moet het bedrijfsleven dan ook 1 miljard
tegenover stellen – komt te veel uit generieke potjes, die achteraf worden toegerekend.
Het komt ook uit onzekere potjes, zoals het groeifonds, waar natuurlijk wel over gesproken
wordt, maar dat nog lang niet operationeel is. Hoe gaat het kabinet nou waarborgen
dat Nederland echt voldoende investeert in kunstmatige intelligentie?
Mijn tweede vraag...
De heer Wiersma (VVD):
Ik ben het eens met de heer Verhoeven dat we als land zo onafhankelijk mogelijk moeten
worden van supermachten, van partijen die nu juist heel veel investeren in kennis
en soms zelfs onze bedrijven opkopen en daarmee misschien wel een risico vormen voor
onze veiligheid, onze banen, onze werkgelegenheid. Ik hoor hem zeggen dat er geld
bij moet. Ik deed net een suggestie. In de Nationale Wetenschapsagenda loopt het geld
op. Dat is zo'n 22 miljoen. Is de heer Verhoeven het met me eens dat we aan de Staatssecretaris
kunnen vragen om dat nu dan gewoon te alloceren voor die sleuteltechnologie? Dat is
in ieder geval mooi meegenomen. Het zou van mij specifiek naar kunstmatige intelligentie
mogen. Dat zou, denk ik, ook veel helpen op universiteiten om talent aan zich te binden.
Kunnen we dat niet gewoon doen?
De heer Verhoeven (D66):
Dat weet ik niet. Ik ben heel erg bereid om daarnaar te kijken, maar ik weet niet
precies wat de budgetten van de Nationale Wetenschapsagenda zijn, waar dat geld vandaan
komt; is dat EZ-geld of is dat Onderwijsgeld? Maar ik heb alle bereidheid om daar
even goed naar te kijken als de plannen van de heer Wiersma wat concreter zijn. Het
klinkt me in ieder geval als muziek in de oren, maar soms zitten er nog wat addertjes
onder het gras bij dit soort verschuivingen. In algemene zin ben ik positief over
elk voorstel waardoor er meer geld gaat naar concrete onderzoeksprogramma's op het
gebied van kunstmatige intelligentie. Met die kleine slag om de arm denk ik dat ik
wel een eind met de VVD mee kan denken, maar nogmaals, ik wil even precies weten waar
ik ja of nee tegen zeg.
Nog een vraag over de Europese schaal. De VVD heeft het over Nederland als land. De
VVD zoekt het nationaal, maar ik zie het veel meer op Europees denkniveau. We moeten
als Europa een blok vormen ten opzichte van China en de Verenigde Staten. Hoe doen
we dat bijvoorbeeld met Europese dataopslag, de cloud, en hoe doen we dat met Europese
databeschikbaarheid? Dat punt stipte de heer Wiersma net heel terecht aan.
Mijn tweede punt gaat over de kaders. Technologie moet menselijk blijven. Het Chinese
socialekredietsysteem is misschien een schrikbeeld, maar hier in Nederland laat SyRI
zien dat het echt van belang is dat we nadenken over de menselijke kant. Dan hoor
je vaak woorden als «uitlegbaarheid», «inzichtelijkheid», «eerlijkheid», «betrouwbaarheid»,
«veiligheid», «inclusiviteit» en zo zijn er nog wel een aantal. Hoe maken we dat nou
concreet? Want tot gisteren, tot een week geleden, hingen er gewoon nog gezichtsherkenningscamera's
van de Jumbo in de openbare ruimte. Dat komt niet overeen met die algemene principes
en waarden. Tot een paar weken geleden hadden we gewoon nog SyRI als toegestaan middel
in onder andere Rotterdam. Mijn vraag is dus: als je het concreet maakt, hoe zit het
dan?
Mijn derde punt is werk en welvaart. Ik denk dat dat wat verder in de toekomst ligt,
maar het is wel een serieus punt. We hebben als politiek altijd de neiging om heel
erg op allerlei urgente, concrete onderwerpen te duiken en de wat abstracte langeretermijnonderwerpen
te laten rusten, maar de verandering van werk door kunstmatige intelligentie is wel
degelijk een groot en belangrijk politiek onderwerp. Ik wil dus graag van de Staatssecretaris
horen hoe zij dat ziet op de middellange termijn.
Mijn laatste punt gaat over kwantum, want...
De voorzitter:
Zie ik daar een interruptie? Nee.
De heer Verhoeven (D66):
Heb ik overigens nog tijd?
De voorzitter:
Nou, niet echt, maar de heer Wiersma ging ook iets over zijn spreektijd heen, dus...
De heer Verhoeven (D66):
Nou, twintig seconden. Kwantumtechnologie, een andere technologie. Daarin heeft Nederland
een ongelofelijk goede wetenschappelijkonderzoeksuitgangspositie. Van belang is dat
er langetermijngelden zijn om die positie van Nederland op het gebied van kwantumtechnologie
vast te houden. Mijn verzoek zou dus zijn om niet alleen naar kunstmatige intelligentie,
maar ook naar kwantum te kijken als het gaat om het groeifonds. Ik zou van de Staatssecretaris
willen horen of zij dat ook zo ziet. Kwantumtechnologie gaat een ongelofelijk belangrijke
volgende technologische slag worden en dit is nou een punt waarop we als Nederland
nog lang niet de boot gemist hebben, dus ik hoop dat het kabinet kan zorgen dat dat
zo blijft.
Veel dank.
De voorzitter:
Prima. Dan wil de heer Wiersma nu wel interrumperen.
De heer Wiersma (VVD):
Soms moet je keuzes maken om ergens in te kunnen investeren. Ziet de heer Verhoeven,
net als ik, dat wat we nu doen in de loop der jaren zo is opgebouwd en soms ook zo
vastzit dat het moeilijk is om daar iets uit los te trekken omdat we op een bepaald
punt de trein iets sneller zouden willen laten rijden, waar we eigenlijk met meer
geld en meer aandacht in zouden moeten stappen? Hij noemt kwantum. Dat zie ik ook.
Hij noemt kunstmatige intelligentie. Dat zie ik ook. Tegelijkertijd zie ik dat het
kabinet daarvoor soms met moeite net enkele miljoenen, tientallen miljoenen, kan vrijmaken,
terwijl we er wel 2,5 miljard in hebben zitten. Zouden we daarin dan geen scherpere
keuzes moeten maken? Hoe zou de heer Verhoeven het dan anders willen doen?
De heer Verhoeven (D66):
Dit is wel een panklare voorzet. Het zou niet goed zijn om het een kruistocht te noemen,
maar ik ben natuurlijk al tien jaar heel kritisch over de topsectoren, als het voorbeeld,
het symbool, de metafoor, de verpersoonlijking, de gestalte van versnippering en het
niet maken van scherpe keuzes. Tien topsectoren hebben we, dacht ik – ik vraag het
ook even aan de Staatssecretaris – die allemaal weer hun eigen organisatiebureau hebben.
Er is mij door mensen uit het topsectorencircuit vaak gezegd: rustig, Kees, gooi het
kind niet met het badwater weg, zoals je wel vaker hebt gedaan. De samenwerkingsstructuur
die uit de topsectoren voortvloeit, met name op regionale schaal, schijnt heel goed
te zijn. Dat heb ik ook gehoord en gezien; ik heb werkbezoeken afgelegd in Eindhoven,
Delft, Wageningen en Leiden. De samenwerkingsstructuur die we hebben gecreëerd in
de afgelopen tien jaar, die geloof ik begonnen is bij Minister Verhagen, als Minister
van Economische Zaken, is goed, maar de versnippering in topsectoren met bureautjes
waar een aantal voormannen van oude industrietakken bepalen hoe de grote maatschappelijke
problemen worden aangepakt, is niet mijn aanpak. Ik heb twee technologieën genoemd
in dit AO: ki en kwantum. Wat mij betreft houden we het daarbij. Ik vind dat we echt
scherpe keuzes moeten maken. Dat durf ik hier ook wel uit te spreken, omdat ik heb
gezien dat we het als Nederland ongelofelijk hebben laten verwateren.
De heer Wiersma (VVD):
Ik ben blij met dat antwoord. Je moet dan wel ruimte maken om die scherpe keuzes te
kunnen maken. Voor het parlement, voor ons, is het dus belangrijk om inzicht te hebben
in waar we die ruimte kunnen maken in dat hele beleid, dat relatief vastzit. Daarom
vroeg ik aan de Staatssecretaris om inzichtelijk te maken wat de impact is. De AWTI
heeft daar een afwegingskader voor. Dat zou je misschien op het hele innovatiebeleid
kunnen toepassen, zodat we beter kunnen zien waar de impact het grootst zou zijn en
wat we het meest vooruit kunnen helpen. Dat is wellicht beter dan denken: het is nou
eenmaal zo gegroeid, dus we houden het dan maar zo. Want dan zijn het druppeltjes
op een gloeiende plaat en dan krijgen we wat wij hier vragen niet voor elkaar. Bent
u het met me eens dat we aan de Staatssecretaris het verzoek moeten doen om dat scherper
aan het parlement te laten zien, zodat we die keuze ook kunnen maken?
De heer Verhoeven (D66):
U heeft dat verzoek al gedaan. Ik ben heel benieuwd naar de reactie van de Staatssecretaris.
Ik vind het een logisch verzoek. Ik wil van de VVD graag een steun in de rug om te
zorgen dat we ook stappen zetten naar een nieuwe structuur als het gaat om de innovatie-
en onderzoekskracht van Nederland, want we hebben met z'n allen ongelofelijk veel
angst om die topsectoren los te laten. We zijn nu zover dat we hebben gezegd: we moeten
naar de maatschappelijke uitdagingen kijken. «Dutch solutions for global challenges»
is een veelgehoord credo. Ik zou echt graag zien dat we die topsectoren, die silo's,
die kokers, die verticale versnippering loslaten en dat we horizontaal doorkruisend
durven gaan denken over innovatie. Kunstmatige intelligentie is daarvan een belangrijk
voorbeeld, want dat is horizontaal en doorkruisend. Dat kun je met verticale topsectorsilo's
dus niet op een goede manier aanpakken. Daar heb ik echt de steun van de VVD voor
nodig, want anders blijven we vastzitten aan dat systeem dat niet helemaal slecht
is, maar dat niet meer eigentijds is, tien jaar nadat het is opgericht.
De voorzitter:
Dank u wel. Dan is het woord aan mevrouw Buitenweg van de GroenLinksfractie.
De heer Öztürk (DENK):
Ik heb nog een vraag, voorzitter.
De voorzitter:
Neem me niet kwalijk, ik had u niet gezien.
De heer Öztürk (DENK):
Dat was een interessant coalitie-een-tweetje, een interessante fittie of hoe je het
ook wilt noemen. De heer Verhoeven is best wel deskundig op dit punt. Daarom wil ik
hem de volgende vraag stellen. Hij benadrukt enorm de discussie over horizontaal en
verticaal, de kracht van topsectoren, multimiljonairs en al die machtige mensen. We
hebben Minister Grapperhaus vorige week gevraagd waarom hij samenwerkt met een bedrijf
dat min of meer clusterbommen maakt en daarnaast ook afluisterapparatuur aan Nederland
heeft verkocht. Toen kwam naar voren dat de lobby best wel krachtig is als het gaat
om de levering van dit soort geavanceerde apparatuur. Wij kunnen hier uiteindelijk
heel wat zeggen, maar bent u niet bang dat de lobby – ik zie dat ook een aantal politici
voor die lobby werken – zo krachtig is dat wij als parlement steeds minder te zeggen
krijgen?
De voorzitter:
Ik stel wel voor dat de interrupties ook de kortheid van een interruptie hebben en
niet een soort halve inbreng worden. De heer Verhoeven mag reageren.
De heer Verhoeven (D66):
Dank u wel, voorzitter. Op het gevaar af dat ik een beetje klink als een soort oude
man: in de politiek is het wel zo dat je als Tweede Kamerlid een ongelofelijke verantwoordelijkheid
hebt om geen belangenbehartiger te zijn maar een belangenafweger. Ieder Kamerlid heeft
de mogelijkheid en ook de verantwoordelijkheid om te zorgen dat geen enkele lobbypartij
in Nederland... Die hebben overigens het volste recht om hier te zitten, hier te zijn
en ons te benaderen, want dat is hun werk. Het is ook goed dat ze dat werk doen, want
ze nemen ook veel kennis mee. Het moet wel een beetje transparant zijn en gebaseerd
op feiten. Het is aan elke politicus zelf om te zorgen dat er een evenwichtig beeld
uit de samenleving komt en dat dat door elke politicus wordt toegelaten om een beeld
te vormen van de situatie. Ik denk niet dat we bang moeten zijn dat wij als politici
steeds minder te zeggen hebben en dat we machteloos zijn tegenover de lobby. Lobbyen
is een goed iets, mits het Kamerlid het goed gebruikt. Als je het als Kamerlid op
een verantwoordelijke, evenwichtige en gebalanceerde manier doet, dan denk ik dat
het een goed systeem is.
De heer Öztürk (DENK):
Dat zagen we ook bij Uber. Een Kamerlid van de VVD ging gewoon in een managementfunctie
bij Uber flink wat verdienen en een andere kreeg een nog hogere functie. Je ziet gewoon
ook hier een aantal mensen, met name vanuit de VVD-hoek maar ook uit het kabinet en
de ambtelijke top, ons min of meer bestoken met die krachtdadige lobby. Maar het gaat
ook om uw collega-coalitiegenoten van de VVD en daardoor komt u toch in een horizontale
en een verticale discussie terecht. Ik probeer u als D66'er mee te geven dat u moet
nadenken over de vraag of u binnen de coalitie nog wel de nodige inbreng kunt hebben
om daadkrachtig tegenover die lobby te staan.
De heer Verhoeven (D66):
Ik ben heel blij dat ik met de VVD in een coalitie zit, een coalitie waarin we elkaar
in verschillende debatten in de Kamer op een openlijke, inhoudelijke en dualistische
manier tegenspreken. Dat geldt overigens ook voor coalitiepartner CDA en dat geldt
net zo goed voor de gewaardeerde oppositiecollega's, waaronder uzelf. Laten we nou
niet doen alsof we in een soort schimmig geheel zitten, waarin het niet mogelijk is
om goede democratische en integere afwegingen te maken. Zo is het niet. We leggen
ook allemaal verantwoording af over ons werk. We proberen ons werk zo goed mogelijk
te doen. Dat er Kamerleden zijn die misschien op een bepaald moment een bepaalde andere
baan nemen, is iets wat volgens mij altijd gebeurt. Als je dat niet doet, krijg je
weer een discussie over wachtgeld. Je kan het dus als politicus sowieso bijna niet
goed doen. Iedereen moet op een integere manier omgaan met zijn werk en de periode
daarna. Volgens mij gaat dat in Nederland helemaal zo slecht niet. Ik ben er toch
minder somber over. En nogmaals, ik vind de VVD een hele prettige coalitiepartner,
zeker als ze mij helpen met het moderniseren van het innovatiebeleid van Nederland.
De voorzitter:
Oké, maar we gaan van de ene uitnodiging naar de andere. We gaan namelijk naar de
heer Amhaouch.
De heer Amhaouch (CDA):
Ik werd getriggerd door de heer Verhoeven, omdat hij zegt dat het hele topsectorenbeleid,
dat we vorig jaar, in deze kabinetsperiode, hebben herzien, eigenlijk helemaal van
tafel kan. Mevrouw Van Eijs van D66 was toen ook duidelijk aanwezig. We hebben het
besproken en vastgelegd. We hebben het namelijk, zoals de heer Verhoeven het noemde,
op de zwakke plekken missiegedreven gemaakt. We moeten inderdaad nieuwe spelers toegang
geven tot de bestaande ecosystemen waar veel kennis zit. Hij zegt daarover: dat kan
eigenlijk helemaal van tafel, want we moeten ons allemaal concentreren op de topsectoren
kwantum en AI. Maar dan vraag ik aan de heer Verhoeven of hij daarmee niet echt de
plank misslaat. Weet hij dan wel waar het topsectorenbeleid voor staat en dat we het
vandaag hebben over sleuteltechnologieën als instrument en de kracht om deze topsectoren
te positioneren? En dat vertel ik natuurlijk, met respect en waardering, op de dag
dat de heer Verhoeven IT-politicus van de dag is geworden.
Mevrouw Buitenweg (GroenLinks):
Van 2019, hè, niet van 2020.
De heer Amhaouch (CDA):
Zo is het.
De heer Verhoeven (D66):
De heer Amhaouch en ik hebben vaak debatten over de economie in het algemeen, het
bedrijfslevenbeleid in het algemeen en het innovatiebeleid in het algemeen. We zijn
het over heel veel punten eens, maar over die topsectoren denken we wel verschillend.
We hoeven ook niet te doen alsof we eigenlijk hetzelfde vinden maar dat ik het wat
harder zeg. We hebben daar in het regeerakkoord een aantal mooie zinnen over opgenomen.
Daarbij hebben we gezegd dat we die maatschappelijke uitdaging, die sleuteltechnologieën,
centraal gaan stellen binnen het bestaande topsectorensysteem. Dat was, als D66 in
2017 het regeerakkoord had kunnen schrijven, niet dezelfde passage geweest.
Ik weet dat het CDA veel meer ziet in die topsectoren dan D66. Daar ben ik ook altijd
open en eerlijk over geweest tegen u. Ik wil die topsectoren echt graag moderniseren.
Daar gaan best wel wat dingen beter. Zo is er samenwerking tussen verschillende topsectoren.
Maar het is nog steeds wel een ouderwets verticaal georganiseerd systeem, waar ook
veel bureaucratie in zit. Ik denk dat we op regionale ecosystemen moeten inzetten.
U komt zelf uit de buurt van Eindhoven. U weet hoe het daar is. Daar is een ongelofelijk
sterk ecosysteem samengesteld dat veel meer aansluit bij datgene wat ik kansrijker
acht in de wereldconcurrentie dan die topsectorenstructuur.
De voorzitter:
Ik snap dat alles met alles te maken heeft, maar dit is een overleg over kunstmatige
intelligentie en sleuteltechnologieën. We moeten wat mij betreft niet te veel in een
discussie over topsectoren belanden. De heer Amhaouch kan reageren.
De heer Amhaouch (CDA):
Heel kort, voorzitter. We zitten in een coalitie met D66 en er zijn heel veel raakvlakken.
Ik kom dadelijk inderdaad terug op die regionalisering ervan. Maar het CDA vindt het
inderdaad belangrijk dat we die topsectoren hebben. Juist agrofood, de hightechsystemen
en water moeten we positioneren. Ik zeg dat de sleuteltechnologieën waar we vandaag
over praten, het moeten ondersteunen. Die moeten we met middelen ondersteunen, maar
we moeten – ik weet dat het als een cliché klinkt – het kind niet met het badwater
weggooien. Ik kom uit het Noord-Limburgse, maar ik heb inderdaad twintig jaar naar
Brabant gereden. Maar dat maakt niet uit, want het is dezelfde regio.
De heer Verhoeven (D66):
Ik bedoelde meer uw oude werkomgeving, want die was volgens mij wel in Veldhoven gesitueerd.
Maar dat u ook in hart en nieren een Limburger bent, wist ik.
Heel kort, voorzitter. Ja, ik denk dat de topsectoren verdere herziening behoeven
en dat die herziening verder moet gaan dan tot nu toe. Tot de dag dat dat gerealiseerd
is, zal ik dit punt blijven aanhalen. Stel dat het een zwart-witdiscussie zou zijn
en we zouden moeten kiezen tussen sectoraal of regionaal, dan denk ik dat de heer
Amhaouch ook wel ziet dat de regionale aanpak... Als je kijkt naar alle succesvolle
concentraties van bedrijvigheid in de wereld, zie je dat die allemaal op een regionale
schaal zijn. We zullen het sectorale denken misschien wat meer moeten loslaten en
het regionale denken misschien wat meer moeten omarmen.
De voorzitter:
Goed. Dan zijn we toegekomen aan mevrouw Buitenweg van GroenLinks. Gaat uw gang.
Mevrouw Buitenweg (GroenLinks):
Dank u wel, mevrouw de voorzitter. Gisteren waren we ook met elkaar in gesprek over
digitalisering. Toen hadden we bijvoorbeeld een discussie over IPv6. Daarover zei
de Staatssecretaris: dat is nog wel onvoldoende uitgerold in Nederland, maar vooral
de bedrijven zijn hier nu aan zet. We hadden het over de zeekabels en sommigen hadden
de angst dat daar op termijn onvoldoende in geïnvesteerd wordt en dat de Fransen –
dit was een opmerking van de heer Verhoeven – de zeekabels op een gegeven moment bij
hun aan land laten gaan. Ook daarover zei de Staatssecretaris: de bedrijven zijn aan
zet. Dat zie ik ook hier bij de hele discussie over innovatie, want ook hier zijn
volgens de Staatssecretaris vooral de bedrijven aan zet.
In Nederland is er vooral overheidssteun via generieke fiscale instrumenten. In Scandinavische
landen gebeurt dat overigens veel meer met gerichte instrumenten. Nederland kiest
er toch vooral voor om bedrijven keuzes te laten maken. Ik wil graag een citaat voorlezen
van de secretaris-generaal van het ministerie Economische Zaken en Klimaat. Hij zei
afgelopen januari dat het Nederlandse beleid inderdaad vooral generiek is. Verder
zei hij: «Hoewel er voordelen zijn van generiek innovatiebeleid, zoals lage uitvoeringskosten
en een relatief kleine kans op overheidsfalen door picking the wrong winners, brengt
dit beleid ook een aantal risico's met zich mee. Zo kan er alsnog te weinig in maatschappelijk
gewenste innovaties geïnvesteerd worden, omdat de investeringen met de hoogste private
rendementen niet noodzakelijkerwijs de investeringen met de hoogste publieke rendementen
zijn. Ook is de kans op disruptieve en baanbrekende innovaties kleiner, omdat generiek
beleid vooral incrementele innovatie stimuleert.» Verder zegt hij ook: «... juist
de meest gedurfde en waardevolle innovaties vaak ontstaan als gevolg van gerichte
overheidsinterventies.»
Mijn vraag aan de Staatssecretaris is hoe zij tegen deze analyse van haar secretaris-generaal
aankijkt. Wat zijn verder de voorstellen van het ministerie voor bijvoorbeeld dat
innovatiefonds of dat investeringsfonds, dat er op termijn aan komt, om ervoor te
zorgen dat juist de overheid veel meer investeert in die sleuteltechnologieën? Ik
vraag dat, want ook ik maak me zorgen dat als je alles aan bedrijven overlaat, bedrijven
zullen kiezen voor een veel kortere termijn en veel minder zullen denken vanuit het
maatschappelijke rendement. De Staatssecretaris zei gisteren ook al dat zij er eigenlijk
vooral op vertrouwde dat de grote welvaart uit het bedrijfsleven zou komen. Maar ik
zou dan toch willen vragen of het niet beter is om toch meer sturing te geven als
overheid om te zorgen dat juist ook de maatschappelijke rendementen worden behaald.
De Staatssecretaris zegt buiten de microfoon «niet voor alles» en er wordt inderdaad
ook weleens gesproken over een missie naar de maan, maar dat laat onverlet dat het
belangrijk is dat de overheid uiteenzet welke missie zij eigenlijk precies wil. Natuurlijk
zullen ook bedrijven daaraan bijdragen, maar ik heb er toch wel behoefte aan dat de
overheid veel meer uitspreekt waar ze heen wil. De overheid zal wat mij betreft veel
meer richting moeten geven en als ik het goed lees, heeft in ieder geval de secretaris-generaal
van het Ministerie van de Staatssecretaris daar ook heel veel behoefte aan.
De heer Van Haga (Van Haga):
Ik vind het wel interessant. U heeft het over het verschil tussen de korte en de lange
termijn. Daar hadden we het net bij de technische briefing natuurlijk ook al even
over. Bent u het dan met me eens dat het goed zou zijn om het kabinetsperiodeoverstijgend
te organiseren?
Mevrouw Buitenweg (GroenLinks):
Ik vond dat wel interessant. Bij de sessie net werd gesuggereerd dat politici per
definitie voor de korte termijn kiezen. Daarmee werd bijna gesuggereerd dat bedrijven,
als je het bijvoorbeeld in hun handen laat, voor de lange termijn gaan. Nou, volgens
mij is dat niet de ervaring. Volgens mij is de ervaring dat die vaak voor de korte
termijn gaan, of in ieder geval voor de private winsten. Dat kan je ze ook niet kwalijk
nemen. Dat is ook hun winstmodel. Met zo'n topsectorenbeleid en dergelijke worden
natuurlijk investeringen gedaan. Zo'n investeringsfonds is natuurlijk ook niet voor
een jaar. Het is wel de bedoeling dat je op een gegeven moment wat langeretermijninvesteringen
gaat doen. Maar ik ben er wel voor dat de overheid goed kijkt naar welke zaken zij
belangrijk vindt, om daar ook sturing aan te geven. Met zo'n Innovatiebox die er op
dit moment is, geef je toch vrij generiek een soort korting aan bedrijven. Daar ben
ik niet voor. Ik denk dat het heel goed is als je daar als overheid meer richting
aan geeft.
De heer Van Haga (Van Haga):
Volgens mij werd net niet gesuggereerd dat bedrijven juist voor de korte termijn gaan
of dat politici zich op de korte termijn storten. Integendeel, volgens mij was dat
helemaal niet aan de orde. Mijn suggestie net was om dit te organiseren zoals we bijvoorbeeld
destijds de Deltawerken hebben georganiseerd, met een Minister die tien jaar lang
zijn vrije gang kan gaan, zonder dat politici, die toch, met alle respect, goedbedoelende
leken zijn, daarop kunnen interveniëren. Het gaat erom dat de experts uiteindelijk
zo'n groot issue onder hun hoede krijgen en dat dit kabinetsperiodeoverstijgend georganiseerd
wordt.
Mevrouw Buitenweg (GroenLinks):
Met alle respect, wij zijn allemaal leek op heel veel terreinen, ook op het gebied
van gezondheidszorg en onderwijs. Waar wij wel echt expert in horen te zijn, is in
die maatschappelijke afweging. Dat zei de heer Verhoeven net ook. Daar zijn wij als
het goed is geen leek in. Ik denk dat het van belang is dat je als overheid zo'n heel
grote maatschappelijke ontwikkeling niet alleen aan techneuten laat, maar dat je ook
gewoon kijkt welke maatschappelijke waarden er zijn. Je wilt techniek niet alleen
maar laten gebeuren. Je wilt er juist ook vorm aan geven. Daar zal je als overheid
wel degelijk richting aan moeten geven.
De voorzitter:
Vervolgt u uw betoog.
Mevrouw Buitenweg (GroenLinks):
De heer Wiersma had het net over het belang van talenten aantrekken. We zien dat er
eigenlijk onvoldoende goede onderzoekers naar universiteiten gaan, maar dat ze naar
het buitenland of naar bedrijven gaan. Ik wil van de Staatssecretaris horen wat haar
idee is om te zorgen dat die mensen wel aangetrokken worden door de universiteiten
in Nederland, in plaats van alleen door bedrijven. Je ziet dat steeds meer onderzoeken
nu plaatsvinden in bedrijven. Daar ben ik helemaal niet op tegen. Dat is ook heel
erg van belang. Maar je wilt wel zorgen dat er ook voldoende onderzoek op wetenschappelijk
niveau door de universiteiten wordt gedaan, dat niet gestuurd wordt door een belang
van een bedrijf.
We hebben eerder gesproken over de AI Coalitie. Ik vond het echt wel een tegenvaller
dat gewoon erkend werd dat bij die AI Coalitie pas op een heel laat moment werd nagedacht
over hoe je mensen van buiten erbij kunt betrekken. Eigenlijk gebeurt dat nu pas.
De mensen die de briefing aan ons hebben verzorgd, zeiden dat ze eigenlijk te weinig
gekeken hebben naar bijdragen van maatschappelijke organisaties en dat het vooral
bestaat uit overheid, bedrijfsleven en kennisinstellingen. Waarom vind ik dat van
belang? Als je aan het bouwen bent, ga je ook niet alleen maar bouwen met mensen die
bouwkunde hebben gestudeerd. Je pakt ook architecten erbij, omdat je wilt dat een
en ander wordt ingepast in de maatschappij. Je kijkt ook naar de samenleving. Ik hoop
dat daar vanaf nu wat meer werk van wordt gemaakt om te zorgen dat het beter wordt
ingepast in de samenleving, dat dus juist ook kunstenaars, ethici, filosofen hierbij
worden betrokken, en niet alleen maar het bedrijfsleven en kennisinstellingen.
Dan kort nog iets over AI en het toezicht. We weten dat er veel instellingen zijn
die toezicht houden op algoritmes. Maar op welke wijze is er toezicht op dat de gebruikte
algoritmes bijvoorbeeld voldoen aan het non-discriminatiebeginsel? Gaat de Autoriteit
Persoonsgegevens ook echt bij bedrijven kijken of die algoritmes niet discriminerend
uitpakken? Ik heb het idee dat heel veel instellingen in principe wel een soort bevoegdheid
hebben om die algoritmes te bekijken, maar ik zie het er in de praktijk nog niet echt
aan af. Graag daar wat informatie over.
Ten slotte, mevrouw de voorzitter. Ik hoorde de collega's spreken over de concurrentie,
bijvoorbeeld vanuit China. Daar maak ik me ook zorgen over. Ik denk dus dat het van
belang is dat we Europees ook veel meer eigen industriepolitiek bedrijven. De Staatssecretaris
heeft daar ook iets over gezegd. Ik hoor graag wat zij daar precies mee bedoelt. Maar
in de praktijk zie ik dat er elke keer Europese alternatieven zijn voor bijvoorbeeld
de taps van de politie, voor C2000 en voor 5G, maar dat we toch kiezen voor Chinees
materiaal, omdat dat goedkoop is. Dat is natuurlijk omdat dit gestimuleerd wordt vanuit
de overheid in China. Op welke wijze gaan wij zelf zorgen dat wij een Europese industrie
op dit vlak houden en verder opbouwen?
Dank u wel.
De voorzitter:
Dank u wel. Dan zijn we aangeland bij de heer Van Haga. Gaat uw gang.
De heer Van Haga (Van Haga):
Dank u wel, voorzitter. De potentiële mogelijkheden van sleuteltechnologieën zoals
kunstmatige intelligentie, kwantum-, nano- en biotechnologie en fotonica zijn voor
gewone stervelingen zoals wij bijna onvoorstelbaar. Het is dan ook lastig voor leken
zoals wij, die toevallig Kamerlid zijn, om hier iets zinnigs over te zeggen. Gelukkig
nuanceerde mijn collega Buitenweg van GroenLinks dat net. Zij zei: wij zijn hier voor
de maatschappelijke afweging. Dat is heel juist.
De signalen die ons bereiken over de sleuteltechnologieën zijn niet eenduidig. De
een zegt dat Nederland vooroploopt en de ander luidt de noodklok. Als niet-expert
op dit gebied moet ik ervan uitgaan dat alle signalen waar zijn. Onze bedrijven en
onze universiteiten doen mee op het allerhoogste niveau in de wereld. Tegelijkertijd
blijft de overheid achter met betrekking tot haar aandeel in de investeringen. Eerst
even een paar lichtpuntjes. Het unhackable kwantum internet, dat onder leiding van
de TU Delft is gebouwd, staat in de MIT Technology Review op nummer één van de top
tien van breakthrough technologies in 2020. Vorig jaar werd het Microsoft kwantum
Lab geopend op de TU Delft, waar het zogenaamde majoranadeeltje wordt onderzocht.
Maar bijvoorbeeld de kwantumrace lijkt inmiddels een strijd tussen China en de VS.
In 2018 had China bijna twee keer zo veel patentaanvragen voor kwantumtechnologie
als de Verenigde Staten en maar liefst zestien keer zo veel als Europa. Binnen Europa
wordt de kopgroep gevormd door Duitsland, Groot-Brittannië en Frankrijk. Nederland
doet niet echt mee. De vraag is: waarom? Klopt het dat Nederland achteropraakt als
het gaat om sleuteltechnologieën? Zo ja, waarom? Kan de Staatssecretaris aangeven
waar Nederland precies staat op de verschillende gebieden in vergelijking met andere
Europese landen? Dan heb ik het met name over de technologieën die eerder genoemd
zijn in het regeerakkoord, te weten kwantum, hightech, nano en fotonica, maar bijvoorbeeld
ook ki en biotechnologie.
De AWTI zegt dat Nederland koploper is en dat Nederlands onderzoek in vrijwel alle
sleuteltechnieken te typeren is als excellent tot zeer excellent. Klopt dit volgens
de Staatssecretaris? Hoe verhoudt dit zich tot het feit dat Nederland op het patentenlijstje
totaal niet scoort? Wat we in elk geval kunnen vaststellen, is dat Nederland onderaan
bungelt als het gaat om overheidsinvesteringen in sleuteltechnologieën. Kan de Staatssecretaris
aangeven of dit zo blijft? We zijn bezig met een Wiebesfonds van 50 miljard. Zou het
niet een goed idee zijn om een substantieel deel hiervan te reserveren voor een Nederlands
offensief richting de verschillende sleuteltechnologieën?
Ik ga nog even door op investeringen vanuit de overheid. De AWTI geeft te kennen dat
de investeringen te veel versnipperd raken. Is de Staatssecretaris het met de AWTI
eens dat er met meer focus meer bereikt kan worden dan met hier en daar een paar kleine
investeringen? Ik zou zeggen: laten we nu kiezen voor de koploperspositie. De Staatssecretaris
heeft het zelf ook al eerder gezegd. Dus aan de slag en wel nu.
Voorzitter. Privacy is belangrijk, maar er zit een groot verschil tussen het daadwerkelijk
beschermen van mensen tegen een ongewenste schending van privacy en de volkomen doorgeslagen
privacywetgeving, waardoor het inmiddels onmogelijk is om een klassenfoto te publiceren.
Mijn punt is dat ons signalen bereiken dat het onderzoek naar AI en de technologische
ontwikkeling van AI worden gefrustreerd door strenge privacywetgeving. In het FD van
23 september 2019 werd gemeld dat de privacywetgeving hindernissen opwerpt waardoor
innovatie op het gebied van AI ernstig wordt beperkt. Het gaat dan met name om de
kwaliteit van de datasets die gebruikt worden voor deep learning. Als wij aan de voorkant
al onnodige barrières opwerpen, kun je je voorstellen dat wij onszelf goedbedoeld
in de voet schieten. Mijn vraag aan de Staatssecretaris is de volgende. Is de Staatssecretaris
het met mij eens dat privacy zeer zorgvuldig moet worden ingepast in het onderzoek
naar en de ontwikkeling van kunstmatige intelligentie? Is zij het met mij eens dat
privacy aan de achterkant van het proces van groot belang is, maar dat die aan de
voorkant van het proces desastreuze gevolgen kan hebben, bijvoorbeeld voor AI? Wat
gaat de Staatssecretaris hieraan doen?
Mevrouw Buitenweg (GroenLinks):
Ik wil dit vooral begrijpen. De heer Van Haga heeft het over privacy aan de achterkant,
maar aan de voorkant moet het niet te ingewikkeld worden. Waar gaat het om? Als ik
het goed begrijp, gaat het om de data die je inbrengt in een proces. Het is toch logisch
dat die data van een bepaalde kwaliteit moet zijn, en dat je juist om het vertrouwen
te houden van de samenleving in kunstmatige intelligentie er ook voor moet zorgen
dat er niet allerlei informatie bij zit die niet noodzakelijk is om te verzamelen?
De heer Van Haga (Van Haga):
Ja, dat is dus precies het punt. Aan de voorkant moet die dataset volledig en schoon
zijn, en wat minder gespeend van al die privacy, maar we moeten heel erg goed opletten
dat aan de achterkant van het proces, wanneer de toepassing eenmaal plaatsvindt, de
privacy goed gewaarborgd is. Het lijkt er nu op – althans, die signalen bereiken ons
– dat het nu anders is, namelijk dat de datasets van tevoren aangepast worden, waardoor
die deep learning heel anders gaat plaatsvinden.
Mevrouw Buitenweg (GroenLinks):
Aan de achterkant moet dan dus de privacy gewaarborgd worden. Wat betekent dit? Betekent
dit dat er bij de toepassing van kunstmatige intelligentie volledige transparantie
moet worden betracht over de vraag wat er met de gegevens is gebeurd en volgens welke
codes ze werken?
De heer Van Haga (Van Haga):
Als ik u goed begrijp, zijn we het eens. Met «aan de achterkant» bedoel ik: als eenmaal
de technologie wordt toegepast, als de algoritmes in werking treden. Daar moet heel
zorgvuldig met de privacy worden omgegaan. Maar wanneer het onderzoek plaatsvindt,
op de universiteiten en bij de instellingen, en wellicht ook bij de bedrijven, vind
ik het van belang dat de privacy daar niet van tevoren een hindernis opwerpt.
De voorzitter:
Ik zie nog grote vragen.
Mevrouw Buitenweg (GroenLinks):
Dit is natuurlijk heel raar, want dat betekent dat je allerlei informatie kan gaan
verzamelen; er mogen immers geen hindernissen zijn. Al die informatie moet verzameld
kunnen worden. Je hebt bijvoorbeeld Magister, waarover we het eerder wel hebben gehad.
Dat is een schoolsysteem met allerlei cijfers van kinderen erin. Daarbij moet er dus
vooral geen privacyprobleem zijn, het moet allemaal verzameld kunnen worden, en aan
het eind is er dan ineens een privacytest? Nee, ik denk dat je ook gewoon grenzen
kunt stellen aan wat er allemaal van mensen gemeten en geanalyseerd wordt. Het hele
idee is toch om te proberen te bereiken dat mensen niet helemaal gemanipuleerd worden
en niet helemaal gereduceerd worden tot een set data.
De heer Van Haga (Van Haga):
Nu begrijp ik wat u bedoelt, maar we zijn het niet eens. Uiteindelijk gaat het erom
dat bij de toepassing de privacy gewaarborgd wordt en niet bij het onderzoek. Dat
is beter voor het onderzoek, denk ik.
De voorzitter:
Prima. U vervolgt uw betoog. U heeft nog goed een minuut.
De heer Van Haga (Van Haga):
Dat gaat wel lukken, denk ik.
Op 19 februari 2020 kwam uit Brussel een white paper over kunstmatige intelligentie.
Zoals meestal het geval is met EU-documenten, is dit weer een nietszeggend, lethargisch
verhaal, zonder kop of staart. Er wordt een beetje gelaveerd tussen privacy en datagovernance
aan de ene kant en diversiteit aan de andere kant, en dat is jammer. Met zulke vrienden
heb je geen vijanden meer nodig. Als dit ons moet leiden op het gebied van sleuteltechnologieën,
kunnen we nu China, de VS en India alvast feliciteren met de overwinning. Is de Staatssecretaris
het met me eens dat we niet op de EU moeten gaan wachten, maar moeten kiezen voor
een ambitieuze Nederlandse strategie, eventueel kabinetsperiodeoverstijgend, zoals
daarnet werd gezegd? Wat mij betreft gebeurt dat inderdaad enigszins los van politici
en lobbyisten.
Dank u wel, voorzitter.
De voorzitter:
Helemaal goed. Dan zijn we aangeland bij de heer Moorlag, Partij van de Arbeid.
De heer Moorlag (PvdA):
Dank u wel, voorzitter. Waar gaan we op inzetten in de komende jaren als wij sleuteltechnologieën
willen ontwikkelen en willen stimuleren? Wat de Partij van de Arbeid betreft, gaan
we de sleuteltechnologieën koppelen aan de sleutelopgaven. Er wordt veel gesproken
over het vergroten van het verdienvermogen van Nederland. Dat moeten we ook zeker
doen. We moeten ook in de toekomst onze boterham kunnen blijven verdienen. Maar het
gaat er ook om dat we niet alleen kijken naar winst maar vooral ook kijken naar waarde.
Ik zal een voorbeeld noemen. In Noord-Nederland loopt een Healthy Ageing-programma.
Daarin worden echt langjarig data verzameld om de gezondheidstoestand van burgers
te monitoren en om met behulp van die data te kijken hoe de gezondheidslasten verminderd
kunnen worden en hoe ook de gezondheidstoestand van de bevolking verbeterd kan worden.
Dat levert voor het verdienvermogen van Nederland betrekkelijk weinig op, maar met
het oog op schadebeperking is het wel een ontwikkeling die gestimuleerd moet worden.
Meer geld gaan verdienen is niet het enige. Je kunt ook schade gaan beperken, in dit
geval gezondheidsschade. Mijn vraag aan de Staatssecretaris is of zij die opvatting
deelt en of zij bereid is om de stimuleringsmiddelen voor de sleuteltechnologieën
te koppelen aan sleutelopgaven.
Ik denk bijvoorbeeld ook aan energie. Ik heb een paar jaar geleden met verbazing gekeken
naar een heel geavanceerd, modern huis in Hoogkerk, waar de wasmachine was gekoppeld
aan de zonneschijn een aantal kilometers verderop. Op het moment dat verwacht werd
dat de zon in Hoogkerk ging schijnen, ging de wasmachine aan, zodat de eigen opgewekte
zonne-energie werd gebruikt om de wasmachine te voeden. Dat gebeurt dan op het schaalniveau
van één huis, maar wij moeten dat voor de hele samenleving gaan doen, omdat energieaanbod
en energievraag steeds sterker gaan fluctueren. Het wordt gewoon volatieler. Moet
je dan niet investeren in technieken om energiemanagementsystemen te ontwikkelen?
Je kunt dat helemaal aan de markt overlaten, maar ik denk dat we ook goed moeten gaan
kijken in hoeverre we de non-profitorganisaties kunnen stimuleren om sleuteltechnologieën
te ontwikkelen die gekoppeld zijn aan die sleutelopgaven.
Voorzitter. Het tweede punt waarop ik de aandacht wil vestigen, zijn de mensenrechten
en de grondrechten. Ik ben trouwens blij dat hieraan in spoor 3 van het Strategisch
Actieplan goed aandacht wordt besteed. Dit is wel een hele grote zorg bij kunstmatige
intelligentie. Voor bijvoorbeeld overheidsbesluitvorming gelden hele zware eisen.
Die moet zorgvuldig zijn voorbereid, ze moet een draagkrachtige motivering hebben
en ze moet reconstrueerbaar en navolgbaar zijn. Maar hoe zit het met de burgerrechten
en met de grondrechten als we besluitvorming op een gegeven moment met algoritmen
laten plaatsvinden? Mijn vraag aan de Staatssecretaris is of ze bereid is om zich
ook te verstaan met de maatschappelijke organisaties, de ngo's, die zich bekommeren
om mensenrechten en grondrechten. Ik noem bijvoorbeeld Amnesty International. De heer
Öztürk kan dat misschien een lobbyorganisatie noemen, maar ik ben heel blij dat ze
input leveren voor een debat over kunstmatige intelligentie. Is de Staatssecretaris
bereid om zich te verstaan met de organisaties die daar expertise over hebben en die
daar ook veel oog voor hebben?
Voorzitter. Het derde punt dat ik wil maken, betreft selectiviteit. Tijdens de technische
briefing zijn we er toch min of meer voor gewaarschuwd – ik zeg het maar in mijn eigen
woorden – om niet zonder meer achter elke bal aan te gaan rennen. Wat nu in de mode
is en heel kansvol lijkt, is ook zo weer voorbij. Denk aan de buzzwords. Om blockchain
bijvoorbeeld was twee jaar geleden heel veel te doen. Ik zat me tijdens de technische
briefing af te vragen waar dat gebleven was. Het zal er ongetwijfeld nog wel zijn.
Vandaag kan iets heel veelbelovend lijken, maar over een jaar of twee jaar kan dat
iets anders zijn. Die selectiviteit is naar mijn smaak ook nodig om een andere reden.
Voor de ontwikkeling van een aantal van die sleuteltechnologieën kun je wel een nationaal
programma maken, maar kijk bijvoorbeeld naar de techniek voor het produceren van 5G-apparatuur,
waarover we recent een debat hebben gevoerd. Daarvoor zijn er in feite maar drie producenten.
Daar zit alle kennis gebundeld. Mijn vraag aan de Staatssecretaris is: hoe stemt zij
dat Europees af? Gaat ieder Europees land voor zijn eigen sleuteltechnologie, of wordt
daarin ook op Europees schaalniveau een keuze gemaakt?
Als laatste punt, voorzitter, als u mij toestaat: wij moeten voorkomen dat wij als
overheid overvleugeld worden in kennisniveau, maar ook in macht – want kennis is macht
– door hele grote bedrijven. In het verleden hebben we dat gezien met Shell, bij de
gaswinning. Alle kennis van de ondergrond was veel meer aanwezig bij een bedrijf dan
bij een overheid. Hoe kan de overheid een goede countervailing power zijn voor de
markt, is mijn vraag aan de Staatssecretaris.
Dank u wel.
De voorzitter:
Dank u wel. Er is een interruptie voor u van de heer Öztürk.
De heer Öztürk (DENK):
Ik had het niet nodig gevonden, maar ik zie een stukje naïviteit bij de heer Moorlag.
Mijn lobbypunt betrof met name de lobby vanuit de machtige bedrijven, zoals bedrijven
die clusterbommen maken en aan de andere kant inlichtingenapparatuur aan ons verkopen,
dat soort machtige, internationale bedrijven. Ik had het niet over Amnesty International
of Humanitas. Die naïviteit van de PvdA hebben we in het vorige kabinet ook meegemaakt.
Het resultaat is dat jullie van 38 naar 9 zetels zijn gegaan, omdat jullie achter
de VVD aan zijn gegaan. Word nou eens wakker, en besef dat er een machtige lobby is,
met name op dit soort onderwerpen. Haal die naïviteit eens een keer weg en probeer
die lobby ook eens te bekritiseren.
De heer Moorlag (PvdA):
Ik zal de heer Öztürk beloven dat ik niet naïef zal zijn en dat ik ook wakker zal
zijn, op de momenten dat ik niet slaap.
De voorzitter:
Met deze verzekering zijn we aangeland bij de heer Amhaouch van de CDA-fractie.
De heer Amhaouch (CDA):
Voorzitter, dank u wel. Fijn om weer te zien dat we veel collega's hebben die met
AI bezig zijn. Gisteren hadden we het over digitalisering en een paar weken terug
hadden we het over innovatie. Dan kun je toch niet zeggen dat de politiek niet ook
een beetje expert is op het gebied van of in elk geval betrokken is bij deze thematiek.
Voorzitter. Hoe zorgen we ervoor dat kunstmatige intelligentie de wereld voor iedereen
beter maakt? Dat was een mooie kop die ik bij de voorbereiding op dit AO tegenkwam
in een weekblad. Volgens mij is dat de spijker op z'n kop, want hoe voorkomen we dat
AI straks vooral ten goede komt aan de happy few of aan de mensen die de wind mee
hebben? Hoe zorgen we ervoor dat niet alleen elke Nederlander, maar bijvoorbeeld ook
mensen op het continent Afrika van de kansen van AI kunnen profiteren? Dat kan bijvoorbeeld
op het terrein van de zorg, door snellere diagnoses en nieuwe medicijnen, of op het
gebied van voedsel, door betere gewassen. Met die vraag aan de Staatssecretaris wil
ik openen.
In de ontwikkeling van AI zijn de Verenigde Staten en China ons in Europa ver vooruit.
Maar als je kijkt naar de Government AI Readiness Index, zijn zelfs alle Scandinavische
landen ons voorbij. Willen we ons concurrentievermogen, onze economische groei en
onze welvaart voor de toekomst veiligstellen, dan gaat dat niet vanzelf. Gelukkig
heeft Nederland alles in huis om ook in de next economy een topland te blijven. In
de eerste plaats dankzij een ijzersterke formule: samenwerking tussen kennisinstellingen,
overheden en ondernemers. De AI Coalitie is hiervan het levende bewijs.
AI draait om algoritmes, die in grote hoeveelheden datapatronen ontdekken en zelfstandige
beslissingen leren nemen. Ik heb al aangestipt welke kansen dat biedt. Laatst hoorde
ik van een algoritme, ontwikkeld door het Massachusetts Institute of Technology, dat
razendsnel kan zoeken naar farmaceutische verbindingen die mogelijk een vergelijkbare
werking hebben als antibiotica. Dat is een algoritme dat iedereen zal verwelkomen.
Tegelijkertijd zijn er ook algoritmes die bij de werving van personeel vrouwen discrimineren,
bepaalde groepen mensen een hogere kans op recidive toedichten of bij het opsporen
van fraude vooral personen met een migratieachtergrond selecteren, omdat zij in wijk
x wonen. Dit zijn de algoritmes die we níét willen, omdat ze onze samenleving niet
ten goede veranderen. Hiermee wil ik benadrukken dat de ontwikkeling van AI niet zonder
ethische en juridische kaders kan. Graag krijg ik een reactie van de Staatssecretaris
hierop, onder andere over de acties die op dit punt lopen.
Hoe staat zij inmiddels tegenover de algoritmewaakhond waarvoor CDA en D66 al eerder
hebben gepleit? Herkent zij het beeld dat een gebrek aan diversiteit op de werkvloer
een oorzaak is van discriminerende algoritmen?
Mevrouw Buitenweg (GroenLinks):
Ik ben het er helemaal mee eens dat ethische kaders heel erg belangrijk zijn. Maar
gaat het niet ook om toetsing? Neem het voorbeeld van discriminatie van vrouwen. Moet
een bedrijf – ik meen dat het Amazon was – dan niet zijn recruitmentselectiecriterium,
dat algoritme, ook ter toetsing laten voorleggen aan een toezichthouder, zodat we
zeker weten dat daar geen discriminerende bias in zit?
De heer Amhaouch (CDA):
Dit is een heel interessant punt. Waar begin je? Wat doe je als eruit komt wat we
niet willen, of dat nou discriminatie is van vrouwen of van anderen? Hoe pak je de
nadelige gevolgen van algoritmes, welke dat ook zijn, aan? CDA en D66 hebben eerder
gezegd dat je die algoritmewaakhond als een soort toezichthouder daar een rol in kunt
laten spelen, maar het begint natuurlijk altijd met de ethische waarden van de werknemers
op de vloer. Hoe diverser je de werknemers op de vloer maakt – zwart, wit, man, vrouw:
het maakt niet uit wat – hoe meer je een eigen balans houdt in die input. Daar zouden
wij voor willen strijden en wij zouden willen daarmee beginnen bij de mensen die het
programmeren, zodat ze die ethische waarden en normen meekrijgen. Als u mij vraagt
hoe we dat allemaal kunnen toetsen en monitoren, dan overvraagt u mij in deze fase,
maar volgens mij moeten we met dit topic in ieder geval beginnen op de werkvloer.
En we hebben eerder al gezegd dat de algoritmewaakhond ons een instituut of instantie
lijkt die daarin een bepaalde rol kan spelen.
Mevrouw Buitenweg (GroenLinks):
Helemaal terecht om te zeggen dat het op de werkvloer zo divers mogelijk moet zijn,
maar ik zit hier toch wel mee, omdat er ook vaak gezegd wordt: ja, maar als je echt
inzicht wilt geven in algoritmes, dan raak je allemaal weer aan de eigendomsverhoudingen
van een bedrijf en een bedrijf hoeft die niet openbaar te maken. Dat baart mij zorgen.
Ik kan me ook voorstellen dat iets niet helemaal openbaar is, maar dan denk ik dat
we elkaar wel kunnen vinden op het punt dat er in ieder geval een instantie is – als
ik begrijp wat u zegt over die waakhond – die dan toch echt onder de motorkap kan
kijken, al dan niet onder geheimhouding. Misschien kunnen we elkaar vinden als we
zeggen dat er echt een toets is onder de motorkap door een bepaalde instantie.
De heer Amhaouch (CDA):
Als we zeggen «we gaan op zoek naar iets waarmee we in elk geval de negatieve zaken
vanuit AI willen bestrijden», dan ben ik partner van mevrouw Buitenweg om daar invulling
aan te gaan geven. Hoe we dat precies doen, laat ik even over aan de experts. Daar
wil ik graag over in discussie. Dan kom je namelijk weer op de vraag hoe je dat zou
kunnen doen en welke wettelijke grondslag we gaan creëren om dat te toetsen.
Ik zie leden zwaaien, voorzitter.
De voorzitter:
Ja. Ik weet even niet wie het allereerst was, maar de heer Öztürk kan het niet houden.
De heer Öztürk (DENK):
Interessant om van het CDA te horen dat diversiteit heel belangrijk is en dat het
personeel van een bedrijf heel divers moet zijn. Ik neem dat het CDA vindt dat wij
als politiek ook het voorbeeld moeten geven. Maar als ik kijk naar het kabinet waar
het CDA aan deelneemt, dan vraag ik mij af: is het kabinet wel divers? Geeft het kabinet
wel het goede voorbeeld? En ik kijk naar de mensen hier in de zaal, van de ambtelijke
ondersteuning tot de lobbyisten. Voor ons geldt, op één na, denk ik, dat je de vraag
kunt stellen of wíj wel divers zijn. Maakt u zich er niet zorgen om dat het wel mooie
woorden zijn die u nu zegt, maar dat dat in de praktijk niet het geval is en dat dat
toezichthouderverhaal dus heel moeilijk van de grond zal komen?
De heer Amhaouch (CDA):
Nee. Je kunt vragen of het glas halfvol of halfleeg is. Ik denk dat het glas halfvol
is. Ik denk dat wij hier zoals wij hier zitten heel divers zijn: man, vrouw, van allerlei
afkomst. Maar daar gaat het niet om. Het gaat erom dat wij vanuit die diversiteit
een bepaald thema bespreken.
De Staatssecretaris heeft het punt van diversiteit ook al vaker aangehaald als het
gaat over vrouwen. Zelfs als CDA hebben we diversiteit op de vloer aangekaart. We
blijven we niet vasthangen. Ook daar zie je nieuwe inzichten. We hebben gezegd dat
we vrouwen naar de top een zetje moeten geven en moeten steunen. We blijven daar dus
op inzetten. Ik ga even terug naar de heer Öztürk. Als hij iets optimistischer en
positiever is: volgens mij werken we in de goede richting. Het glas is eerder halfvol
dan halfleeg.
De heer Öztürk (DENK):
Je hebt naïeve mensen en je hebt mensen die zichzelf een beetje bedonderen. Dat zijn
twee mensen die ik in deze coalitie helaas zie. Ik vraag het drie keer. Ik zeg dat
het kabinet niet divers is en het goede voorbeeld niet geeft. Ik krijg geen antwoord
en dan komt u met het vrouwenargument. Want daar gebeurt er gelukkig heel veel. Maar
de mensen die op jou, meneer Amhaouch, en mij lijken, die zie je niet in het kabinet.
Die zie je niet in de top. Die zie je niet bij de algoritmes. Daar zou u als Kamerlid
van een coalitiegenoot voor moeten vechten. Dat doet u niet. U zegt: het glas is halfvol;
ik heb mijn € 7.000 netto en ik ga lekker naar huis. Daar moet u zich inzetten, meneer
Amhaouch. Daar gaat het om.
Mijn laatste vraag is: zouden wij een algoritmetoezichthouder moeten instellen? Dat
is misschien ook een antwoord op de vraag van mevrouw Buitenweg.
De heer Amhaouch (CDA):
Bij dat laatste punt was de heer Öztürk volgens mij afgeleid. Ik heb herhaaldelijk
gezegd dat CDA en D66 ingezet hebben op een algoritmewaakhond. Wij willen toetsen
of dat haalbaar is. Dat is dus even de inhoud. Daarna zei de heer Öztürk nog een heleboel
zaken die niet op de inhoud ingingen. Hij heeft het over mensen die op mij en op de
heer Öztürk lijken. Volgens mij lijken wij echt niet op elkaar, dus ik wil dat ook
toetsen hier in de zaal. Dat is echt niet aan de orde. Laten we nou eerlijk zijn;
al de partijen die hier vandaag zitten, maken zich sterk voor diversiteit. Dat doen
ze op allerlei terreinen, of het nou gaat om discriminatie op de arbeidsmarkt, in
het mbo, op scholen; het maakt niet uit. De mensen die ik hier zie van al deze partijen
maken zich er sterk voor dat er diversiteit is op allerlei terreinen.
Laten we het verder bij de inhoud houden, voorzitter.
De voorzitter:
Nou, ik zal even kijken of de heer Moorlag dat kan invullen.
De heer Moorlag (PvdA):
Ik ga mijn best doen, voorzitter. Die algoritmetoezichthouder is ook een diepe wens
van de Partij van de Arbeid. Het manco daarbij is wel dat je achteraf toetst. De vraag
is – dat is ook mijn vraag aan de heer Amhaouch – of je niet een vorm van toetsing
vooraf zou moeten hebben. Op een doodordinair product als een telefoonstekkertje zit
een CE-keurmerk, tenminste als het niet met Alibaba hiernaartoe komt en je het hier
in de winkel koopt. Het is gecertificeerd. Zou je een aantal van dit type technologieën
niet moeten laten certificeren? Dat kan om bedrijfsvertrouwelijke informatie gaan,
maar dat is allemaal wel in te richten. Is dat een gedachte die de heer Amhaouch zou
willen toelaten in zijn brein?
De heer Amhaouch (CDA):
Zelf kom ik uit het bedrijfsleven. Mijn eerste reactie is dat je goed moet kijken
– daarin ga ik met de heer Van Haga mee – of je niet heel veel zaken gaat stapelen,
denkend dat je alles tegen kunt houden. Daar ben ik niet van. Gisteren hadden we hier
het AO Digitalisering. Het CDA heeft daarin gevraagd of we digitale grondrechten in
de Grondwet moeten opnemen. De Minister van Binnenlandse Zaken, de heer Knops, zat
daarbij. Hij zei dat we op een aantal punten de Grondwet hebben aangepast aan de digitalisering.
Dan gaat het om het recht op telegram, telefoon en dergelijke. Als dat nodig mocht
zijn, willen wij daar graag in meegaan. Maar vooraf zeggen dat we allerlei nieuwe
keurmerken, certificeringen en dergelijke nodig hebben... We leven in een maatschappij
waarin digitalisering en techniek ons continu een stapje voor zijn. We moeten gaan
kijken waar we mechanismes kunnen inzetten. In ieder geval moeten we niet bij elke
nieuwe sleuteltechnologie, of het nu gaat om AI, fotonica, nanotechnologie of kwantumtechnologie,
iets nieuws bedenken. Laten we vanuit de politiek randvoorwaarden stellen en laten
we met de experts kijken hoe je daaraan invulling kunt geven. Maar ook hier zijn we
het met de PvdA eens: negatieve effecten van AI willen we niet en we zullen moeten
zoeken naar een manier om die te bedwingen.
De heer Moorlag (PvdA):
Ik vind ook dat we daar goed naar moeten laten kijken. Dat ben ik zeer eens met de
heer Amhaouch. Het is ook niet mijn intentie om hier even vanuit de heup schietend
een nieuwe bureaucratie te gaan optuigen. Maar ik kan me voorstellen dat het bedrijfsleven
daar ook behoefte aan heeft. Ik kan me voorstellen dat je, als je algoritmen ontwikkelt,
denkt: is dit wel helemaal compliant? Ik vind dat je het bedrijfsleven het comfort
zou kunnen bieden van vrijwillige of, in bepaalde gevallen, misschien verplichte certificering.
Zou daar niet eens goed naar gekeken moeten worden?
De heer Amhaouch (CDA):
Ik heb twintig jaar bij een bedrijf gewerkt waar het ontwikkelen van software corebusiness
was. Daar zijn veel mensen mee bezig. Ik ben bereid om daarnaar te kijken, maar alles
begint bij de jongens en meisjes die op de knoppen drukken, die programmeren. Daar
moet je ethische kaders neerzetten, daar moet je waarden en normen neerzetten. Natuurlijk
zal dat niet altijd voldoende zijn. Ik ben bereid om met alle partijen, inclusief
het bedrijfsleven, te kijken hoe je een en ander kunt inkaderen.
De voorzitter:
Vervolgt u uw betoog. U heeft nog ongeveer een minuut.
De heer Amhaouch (CDA):
Dat lijkt me sterk, maar ik ga mijn best doen.
De voorzitter:
Dan ben ik al heel genereus.
De heer Amhaouch (CDA):
Voorzitter, ik zat net in de flow.
Ik kom bij talent: een belangrijke voorwaarde, willen we van Nederland de AI-hub van
Europa maken. Hoe voorkomen we dat we straks de beste wetenschappers verliezen aan
landen om ons heen of heel ver weg? In het SAPAI lezen we dat een voorstel wordt ontwikkeld
voor een toonaangevend AI-kenniscentrum in Nederland. Wat is hiervan de stand van
zaken? Is de Staatssecretaris ook bereid in Brussel haar vinger op te steken als het
om Lighthouse Centre gaat, het nieuwe, unieke EU-AI-centrum dat opgericht zou worden?
Kunnen we dat naar Nederland halen? Is de Staatssecretaris bereid om daarvoor te gaan?
Over de middelen is ook al heel veel gesproken. Uit alle onderzoeken, van AWTI tot
Technopolis, blijkt dat Nederland in vergelijking met andere landen te beperkt of
simpelweg te weinig investeert in sleuteltechnologieën. Is de Staatssecretaris het
met mij eens dat als er goede AI-plannen liggen – ik heb dat ook in het AO Innovatie
gezegd – geld niet het probleem moet zijn? Neem Invest-NL. Er komt ook een investeringsfonds
aan. Het kan niet zo zijn dat we te weinig geld hebben als er goede plannen liggen.
Voorzitter, ik rond af. Het CDA gelooft in de kracht van de regio, zeg ik tegen de
heer Verhoeven. We hebben in Nederland sterke regionale economische clusters. Hoe
kunnen we de totstandkoming van AI-ketens en specialisaties daarin bevorderen door
de sterke kanten van elke regio maximaal te benutten, bijvoorbeeld op het gebied van
zorg, agrofood en hightech in regio's als bijvoorbeeld Twente, Eindhoven, Amsterdam,
Wageningen en Delft? Kortom: hoe bouwen we regionale AI-ecosystemen waarbij fundamenteel
onderzoek, R&D en proof of concept dicht bij elkaar blijven?
Voorzitter, de rest bewaar ik voor mijn tweede termijn.
De voorzitter:
Helemaal goed, maar u heeft nog iets meer spreektijd, want de heer Wiersma heeft een
vraag voor u.
De heer Wiersma (VVD):
Toezicht is heel belangrijk; daar hadden we het net over. Maar voor je het weet, gaan
we het hier alleen nog maar over toezicht hebben, want dan zijn onze kennis, onze
bedrijven en onze technologie in handen van de VS of China en kunnen we niet anders
dan alleen maar toezicht houden. Dat moeten we voorkomen. Daarom heeft u het over
geld en over middelen. Daar gaat mijn vraag ook over. Ik deel uw enthousiasme over
de voorbeelden van kunstmatige intelligentie en antibiotica; helemaal eens. Ook eens
dat de VS en China ons voorbijstreven. Helemaal eens over Scandinavië. Dat gaat niet
vanzelf, zegt u. We hebben alles in huis, zegt u. Daar zit mijn vraag. Dit huis, waar
we alles hebben, zit wel op slot. Ik stelde de Staatssecretaris net de volgende vraag.
We hebben een heel pakket aan innovatiebeleid, maar we geven maar een heel beperkt
deel daarvan uit aan sleuteltechnologieën. Ik kom niet verder dan enkele miljoenen.
Als ik naar het actieplan AI kijk, kom ik uit op in totaal 45 miljoen per jaar als
basisfinanciering van het Rijk. Maar de coalitie zegt: wij willen hier een miljard
in steken, de komende zeven jaar. Dat betekent voor ons niet 45 miljoen, maar 145
miljoen. U zegt: ik hoop dat de Staatssecretaris daar geld voor vrijmaakt. Ik heb
net een paar voorstellen gedaan hoe ik dat zou willen doen. Ik ben wel benieuwd of
u die voorstellen steunt. Anders heeft u misschien alternatieven. We kunnen wel vragen
blijven stellen, maar dat doen we al een tijdje en we moeten nu antwoorden bieden.
De heer Amhaouch (CDA):
Ik weet niet of het huis op slot zit, volgens mij bouwen we juist aan dit huis. Ik
hoorde de heer Wiersma tijdens de technische briefing van de AWTI zoeken. Vandaag
de dag hebben we allerlei goede instrumenten. We stimuleren een breed pakket aan innovatie.
Ik geef de heer Moorlag gelijk. Een tijdje terug hebben we het gehad over de bitcoin
en de blockchain en straks krijgen we weer iets anders. Een tijdje terug hebben we
gekozen voor een roadmap voor fotonica. Ik wil van de Staatssecretaris graag weten
of we on track zitten: halen we onze doelen? AI is iets waarvan dit huis zegt dat
we die richting op moeten. Dat is niet iets voor de korte termijn. Als we vandaag
al het geld dat we voor innovatie hebben, of het de Wbso is of de Innovatiebox, gaan
inzetten op de sleuteltechnologie AI, is dat de verkeerde richting. Als u zegt dat
er hele goede plannen liggen en dat we een schaalsprong moeten maken op AI, waar ik
ook naartoe wil, dan zeg ik: in dit huis kan het niet zo zijn dat we met Invest-NL
en met het investeringsfonds dat eraan komt, zeggen dat we te weinig geld hebben.
Dan zou ik graag willen dat er goede plannen liggen, die we ook kunnen zien. Volgens
mij maken we dan een schaalsprong en zit dit huis juist niet op slot. We trekken in
deze coalitie miljarden uit voor toekomstig economisch groeivermogen en volgens mij
horen daar sleuteltechnologieën bij, zoals ook in de groeibrief staat van de heer
Wiebes. Die is u wel bekend.
De heer Wiersma (VVD):
Dat is een heel lang verhaal om niet te antwoorden op mijn vraag, maar het is wel
precies een kenschets van het probleem: zeggen «we moeten dit doen en daarin investeren»
en als ik dan zeg dat ik in allerlei puzzelstukjes in de begroting zoek hoe we dat
zo snel mogelijk kunnen doen, zegt u «nee, ik ga voor het investeringsfonds». Dan
zijn we een jaar of misschien wel twee jaar verder. Dat is geen antwoord. Dan vraag
ik u wat u op korte termijn zou doen om meer geld vrij te maken. Ik wijs erop dat
er in de Nationale Wetenschapsagenda een oploop aan middelen zit en vraag u of we
die daaraan zouden kunnen besteden. Of neem de publiek-private samenwerking van NWO.
Zouden we dat geld daaraan kunnen besteden? Dat zijn voorstellen die ik doe, maar
u zegt: ik wacht wel af waar de Staatssecretaris mee komt. Ik hoop toch dat u als
a zegt, ook echt het idee hebt om dat met b te bereiken.
De heer Amhaouch (CDA):
Laten we even realistisch zijn. Het CDA heeft er jaren voor gepleit dat innovatiemiddelen
op 2,5% zouden komen. We hebben gezien dat we dat met de huidige middelen in de begroting
niet gaan realiseren. In de brief van de heer Wiebes, de economische groeibrief, staat
dat we weer naar 2,5% moeten. Dit kabinet heeft juist het investeringsfonds opgericht
om een schaalsprong te maken. Als de heer Wiersma denkt dat hij die schaalsprong met
AI kan maken met de middelen binnen de begroting, dan haal ik hem uit zijn droom:
dat gaat niet lukken. We kunnen daarmee misschien wel een stapje maken, maar ik wil
verder gaan. Volgens mij zeggen meer mensen dat we substantieel middelen moeten stoppen
in sleuteltechnologieën om een schaalsprong te maken. Dat gaan we niet uit de reguliere
begroting halen. Ik stel op mijn beurt een vraag aan de heer Wiersma: wilt u de schaalsprong
met AI maken met middelen uit de reguliere begroting, of wilt u ook kijken naar Invest-NL
of het investeringsfonds?
De voorzitter:
Het zou misschien ook goed zijn als de coalitie onderling eens koffie ging drinken,
maar dat is maar een idee.
De heer Wiersma (VVD):
Het is en-en. Ik wil morgen beginnen en niet over een jaar. Ik zie 100 miljoen voor
sleuteltechnologie op het hele bedrag van 2,8 miljard. 100 miljoen! Er zit heel veel
rek in om daar meer in te investeren. Maar goed, ik stel voor dat we samen voorstellen
gaan doen en dan komen we er wel uit.
De heer Amhaouch (CDA):
Laten het nou zo zijn dat meneer Wiersma en ik in dezelfde coalitie zitten en laten
we dat samen waarmaken. O, en de heer Verhoeven zit daar ook bij, maar ook andere
collega's. Ik meen het en ik zeg het nog één keer: als geld echt het probleem is voor
goede AI of sleuteltechnologieprojecten, dan zitten we hier over een tijdje weer bij
elkaar.
De voorzitter:
Oké. U gaat dit debat op een ander moment vervolgen. Het woord is aan de heer Öztürk.
De heer Öztürk (DENK):
Voorzitter, dank u wel. Kunstmatige intelligentie biedt kansen, maar er zijn ook bedreigingen.
Sommigen zeggen dat slimme computers de macht kunnen overnemen, net als in de film
The Terminator uit 1984 met Arnold Schwarzenegger. Anderen zeggen juist dat machines
voortaan het werk gaan doen dat mensen nu doen, en dat de mensheid lekker het hele
jaar op vakantie gaat. Ik vermoed dat de waarheid ergens in het midden zal liggen.
De praktijk leert dat het altijd weer anders loopt dan van tevoren werd verwacht.
Voorzitter. We hebben op 8 oktober het Strategisch Actieplan gekregen. Er is een spoor
1, kort gezegd over economische kansen, een spoor 2, kort gezegd over wetenschap en
innovatie, en een spoor 3, kort gezegd over mensenrechten en discriminatie. Je ziet
dat een aantal partijen spoor 1 en 2 heel belangrijk vinden en daar vol op in willen
zetten, maar wat DENK belangrijk vindt is spoor 3, de fundamentele rechten van de
burgers en de mensenrechten. Want het kabinet schrijft zelf op 8 oktober: algoritmes
zijn niet altijd neutraal – ze beginnen op mensen te lijken – en algoritmes hebben
niet altijd gelijk. Nou, het kabinet ook niet. Toch zien mensen een algoritme als
een soort stoplicht: als het licht groen is, kun je de straat oversteken, maar eigenlijk
was het licht misschien toch wel rood. Dan kun je dus botsingen en ongelukken krijgen.
Voorzitter. De fractie van DENK vindt transparantie belangrijk bij de toepassing van
AI. Daarom wil ik graag dat de Staatssecretaris ons op een aantal punten geruststelt.
Is de AVG, Algemene verordening gegevensbescherming, altijd van toepassing als het
gaat om AI? Zijn de AVG-transparantie-eisen altijd van toepassing, met name wanneer
de overheid beslissingen neemt over de burger, zoals bij de politie? Wie bepaalt wie
verdacht is en wie niet? En heeft de Belastingdienst in de zaak van de kinderopvangtoeslag
ook gebruikgemaakt van algoritmes? Dit is naar onze mening voor een hele grote groep
mensen uitgelopen op een drama.
In het Strategisch Actieplan staat dat AI-toepassingen controleerbaar moeten zijn.
Kan de Staatssecretaris toezeggen dat de overheid geen technologie gaat inzetten die
niet uit te leggen en niet te controleren is? Het fraudesysteem SyRI is door de rechter
veroordeeld. Deze digitale boevenvanger bleek zelf een boef te zijn. Maar hoeveel
van dit soort selectie- en detectiesystemen zijn er nog meer? En hoe kan het dat de
overheid dit überhaupt in gebruik heeft genomen, terwijl de rechter achteraf heeft
geoordeeld dat dit niet door de beugel kan? De overheid heeft achteraf gezien kennelijk
te makkelijk gedacht over dit fraudesysteem. Het verhaal van: het glas is halfvol,
laten we het maar doen. Is de Staatssecretaris bereid om alle algoritmes te onderwerpen
aan een soort SyRI-toets om na te gaan of ze echt door de beugel kunnen? Ik kan me
voorstellen dat alle afwegingen en criteria die door de rechter zijn toegepast op
de SyRI-uitspraak, worden toegepast op alle algoritmes die nu in omloop zijn. Graag
een reactie van de Staatssecretaris.
Op 8 oktober heeft de commissie voor JenV een hele reeks feitelijke vragen gesteld
over de risico's van data-analyses door de overheid. Tot gisteren is daar geen antwoord
op gekomen. Hoe kan dit? Hoe kan de Kamer het kabinet zo controleren? Elke macht verdient
een eigen tegenmacht. De Tweede Kamer is zelf de belangrijkste tegenmacht in dit land,
samen met de kiezer. Maar specifieke onderwerpen verdienen hun eigen specifieke toezichthouder.
Kan de Staatssecretaris ingaan op de mogelijkheid van een aparte algoritmetoezichthouder
voor AI? Want het is de vraag of de Autoriteit Persoonsgegevens dit alleen aankan.
Deze algoritmetoezichthouder zou als opdracht moeten hebben de mensenrechten beschermen.
Overal waar de overheid AI toepast moet deze digitale waakhond vooraf en achteraf
mee kunnen kijken, want algoritmes worden uiteindelijk door de mens samengesteld,
dus ligt het gevaar van impliciete of onbewuste discriminatie altijd op de loer. Het
toezicht vanuit de overheid moet daarom goed op orde zijn. De fractie van DENK wil
daarom dat het College voor de Rechten van de Mens en het antidiscriminatiemeldpunt
voldoende middelen krijgen, zodat zij toezicht kunnen houden op algoritmes en data
in AI-toepassingen, en vooroordelen en discriminatie hierin kunnen bestrijden. Graag
hoor ik van de Staatssecretaris hoe zij dit gaat aanpakken.
De voorzitter:
Dank u wel. Er is een interruptie voor u van de heer Van Haga.
De heer Van Haga (Van Haga):
De heer Öztürk begon zijn betoog met: algoritmes lijken net mensen. Maar dat ligt
er natuurlijk aan hoe je zo'n algoritme programmeert. Is de heer Öztürk het niet met
me eens dat algoritmes ook positief geprogrammeerd kunnen worden, zodat je discriminatie
juist kunt vermijden en de bescherming van mensenrechten juist kunt borgen, en dat
het juist een heel positief effect kan hebben, omdat je de menselijke anomalieën of
het onmenselijke menselijk gedrag eruit kunt programmeren, eventueel met een toezichthouder
natuurlijk?
De heer Öztürk (DENK):
Dat ben ik volledig eens met de heer Van Haga. Maar kijk naar de resultaten op dit
moment en naar het kabinet, dat niet divers is. Een aantal mensen zeggen: het kabinet
is niet divers, maar het denkt wel divers. Op het moment dat dat soort mensen in de
top, die gevoelig zijn voor de machtige internationale lobby die de technologie ontwikkelt
en zijn machtspositie wil versterken, beslissingen nemen, dan maak ik me daar zorgen
over. Maar ik ben het met u eens dat algoritmes eigenlijk gebruikt kunnen worden in
de strijd tegen discriminatie. Dat ben ik met u eens.
De voorzitter:
Is dat voldoende voor de eerste termijn? Wij hebben even overlegd. Wij schorsen een
kwartiertje.
De vergadering wordt van 15.23 uur tot 15.47 uur geschorst.
De voorzitter:
Het woord is om te beginnen aan de Staatssecretaris. We kwamen net tot de conclusie
dat we iets later starten. We hebben nog een uur en een kwartier, dus ik stel voor
om de interrupties te beperken en om de interrupties niet al te lang te maken. Dat
is misschien wel handig. Het woord is aan de Staatssecretaris.
Staatssecretaris Keijzer:
Dank u wel, voorzitter. Het is wat mij betreft heel goed dat we hier vandaag weer
bij elkaar zijn om te praten over het belangrijke onderwerp sleuteltechnologieën en
AI, maar in het kielzog daarvan eigenlijk ook innovatie. Waarom is dat belangrijk?
Niet alleen omdat het daarbij gaat over allerlei nieuwe technologieën die ons gaan
helpen om maatschappelijke uitdagingen en problemen op te lossen, maar ook omdat je
hier veelal te maken hebt met het verdienvermogen van de toekomst. Een aantal weken
geleden hebben we een algemeen overleg Innovatie gehad. Ik weet uit eigen ervaring
hoe druk het voor Kamerleden is. Ik heb dus alle begrip voor het feit dat er toen
maar drie Kamerleden waren. Maar toen we gisteren spraken over digitalisering was
er gelukkig een brede vertegenwoordiging uit de politiek, en dat is ook zo nu we het
vandaag hebben over AI en sleuteltechnologieën. Dat is goed om te zien. Voor alle
mensen die dit debat volgen, omdat ze het interessant vinden of er vanuit hun werk
bij betrokken zijn, is het volgens mij ook goed om te zien.
Voorzitter. Er zijn een aantal onderwerpen die wat mij betreft in de beantwoording
voorbij zullen komen. Het gaat uiteraard om AI, zowel de economische kant als de maatschappelijk-ethische
kant daarvan. We gaan het ook hebben over kwantum en sleuteltechnologieën. Maar dan
zal ik het automatisch ook moeten hebben over innovatie, omdat het sleuteltechnologieënbeleid
nou eenmaal zo nadrukkelijk onderdeel is van ons missiegedreven topsectoren- en innovatiebeleid.
Om te beginnen doet Nederland het goed op dit vlak. Wij doen het gewoon goed. Dat
blijkt overigens ook uit het vandaag veel genoemde rapport van de AWTI over sleuteltechnologieën.
Daarin kunt u lezen dat ook de AWTI van mening is dat Nederland toonaangevend is op
dit onderwerp, dat wij het goed doen waar het gaat om productie en vercommercialisering
van kennis over dit onderwerp. Tegelijkertijd is dit geen rustig bezit, want we zien
hoe alle landen om ons heen aan het investeren zijn en aan het werken zijn op dit
gebied om ervoor te zorgen dat zij ook vooraan gaan lopen. We kunnen dus niet op onze
lauweren rusten.
Voorzitter. Dat is ook de reden waarom dit kabinet weer gericht wil gaan investeren
in sleuteltechnologieën. Zoals gezegd zijn deze onmisbaar voor het bijdragen aan het
oplossen van grote maatschappelijke problemen. Juist voor die maatschappelijke uitdagingen
zijn vele oplossingen te vinden in sleuteltechnologieën. Ze zorgen voor duurzaam groeivermogen
en gaan steeds meer een rol spelen in de geopolitieke verhoudingen.
Tegelijkertijd moet je wel keuzes maken. Die keuzes maken we ook. Het afwegingskader
dat u aantreft in het rapport van de AWTI is hetzelfde afwegingskader als u eerder
ook aangetroffen heeft in de Kennis- en Innovatieagenda die wij met elkaar opgesteld
hebben. Er zijn zes criteria daarvoor. Ik zal ze niet allemaal opsommen, want dat
is zonde van de tijd, maar daarin ziet u hoe wij proberen daar keuzes in te maken.
Die keuzes hebben wij ook al gemaakt toen we in het regeerakkoord opschreven dat wij
ons wilden gaan richten op energie en klimaat, landbouw en gezonde voeding, en sleuteltechnologieën.
Later hebben we daar binnen het kabinet ook gezondheid en veiligheid aan toegevoegd.
Daar hebben we met de Kamer ook al meerdere keren over gedebatteerd.
De Kennis- en Innovatieagenda is vervolgens bottom-up tot stand gekomen. Is dat het
resultaat van goede lobby? Ja, deels wel, maar deels hebben wij daar met elkaar ook
keuzes in gemaakt. De lobby die daarbij tot stand gekomen is, koester ik op dit onderwerp.
Dat is namelijk een lobby van het bedrijfsleven, dat zelf ook honderden miljoenen
stopt in onze innovatie en daarmee bijdraagt aan onze economie, aan werkgelegenheid
en aan economische groei. Vervolgens hebben we met elkaar het Kennis- en Innovatieconvenant
getekend. Partijen hebben daarbij gezamenlijk 670 miljoen euro gereserveerd voor sleuteltechnologieën.
Ik ben even op zoek naar het totaaloverzicht. Een aantal van u heeft namelijk aan
mij gevraagd – de heer Wiersma vroeg daar nadrukkelijk naar, en de heer Amhaouch heeft
daar ook naar gevraagd – over hoeveel geld ik het nou heb bij elkaar. De bijdragen
voor sleuteltechnologieën in het Kennis- en Innovatieconvenant en de aannames die
je doet vanuit de onverdeelde middelen tellen bij elkaar op tot 981 miljoen. Ik zeg
daarbij wel: dit zijn deels ook aannames, omdat er nog een onverdeeld gebied in het
Kennis- en Innovatieconvenant zit. Bij de Wbso nemen we op grond van een studie van
de RVO aan dat 15% van de Wbso-middelen – dat is 165 miljoen per jaar – ten goede
komt aan sleuteltechnologieën. Dat geld telt dan bij elkaar op tot een bedrag van
ruim 1,1 miljard per jaar, dat wij in Nederland besteden aan sleuteltechnologieën.
Ik durf wel aan om op dit moment te zeggen dat dat exclusief het geld is dat straks,
zoals het er nu uitziet, beschikbaar komt via het groeifonds. In de groeibrief van
het kabinet, van de Minister van Economische Zaken, heeft u kunnen lezen dat innovatie
en research and development nadrukkelijk een van de drie onderdelen is waarop gericht
gaat worden. Omdat sleuteltechnologieën daarin nou eenmaal zo belangrijk zijn, mag
je er dus van uitgaan dat straks ook weer voor sleuteltechnologieën geld ter beschikking
komt. Hoeveel en waarvoor precies? Daar kan ik niet op vooruitlopen, maar u mag van
mij als Staatssecretaris van Economische Zaken verwachten dat ik in de discussies
die binnen het kabinet hierover gevoerd worden natuurlijk elke keer weer nadrukkelijk
aandacht vraag voor sleuteltechnologieën en daarbij ook verwijs naar het door ons
allen vormgegeven en vastgestelde missiegedreven topsectoren- en innovatiebeleid,
het mtib, om een afkorting aan het arsenaal toe te voegen.
De heer Wiersma (VVD):
Een simpele vraag. 1,1 miljard, mooi. Hoeveel daarvan is een publieke uitgave van
de overheid? Hoeveel is dat, in procenten, dan van het totaal aan publieke uitgaven
van de overheid aan sleuteltechnologieën? Hoeveel van die 1,1 miljard is dus publiek?
En van dat deel wil ik weten welk percentage dat is van het totale bedrag – dat is
volgens mij 2,85 miljard – dat we dit jaar aan innovatie uitgeven.
Staatssecretaris Keijzer:
Ik heb hier een overzicht waarbij staat dat 567 miljoen private investeringen zijn.
Daaronder zijn allerlei verschillende bedragen die gaan over TO2-instellingen, NWO,
KNAW, geld dat deels vanuit EZK komt, de pps-toeslag, Horizon 2020-geld, geld uit
de regio. Je kan met elkaar natuurlijk een discussie voeren over de vraag of dat publiek
of privaat is. Voor mij is dat publiek geld. 567 miljoen bestaat uit private investeringen.
De rest is dus publiek. Dat is 981 miljoen min 567 miljoen. Dat is 424 miljoen.
De voorzitter:
De heer Wiersma heeft een vervolgvraag.
De heer Wiersma (VVD):
Dan zijn we opeens al de helft kwijt. Daarom stelde ik natuurlijk ook die vraag. En
hoeveel is dat dan weer van het totale bedrag dat de overheid uitgeeft aan sleuteltechnologieën?
Hoeveel procent is dit deel dat we aan publiek geld voor sleuteltechnologieën uitgeven
dan van het totaalbedrag – dat is volgens mij 2,85 miljard – dat wij hebben voor innovatiebeleid?
Dit is een verduidelijkende vraag, want ik heb mijn vraag volgens mij heel helder
gesteld, maar ik kreeg geen helder antwoord.
Staatssecretaris Keijzer:
Maar dan moet ik even mijn zakjapanner erbij pakken om te berekenen hoeveel 424 miljoen
in procenten is van de 4,9 miljard. Ik hoop dat u mij dat vergeeft. 10%, hoor ik.
Ja, misschien wel. Het is soms simpeler dan je denkt, voorzitter. Ik weet niet wat
de heer Wiersma hiermee aan wil geven, maar het kan zijn dat je die 424 miljoen publiek
geld die in sleuteltechnologieën wordt geïnvesteerd een klein onderdeel vindt van
het totale geldbedrag dat naar het topsectoren- en innovatiebeleid gaat. Het kan zijn
dat je dat weinig vindt. Als het dan ongeveer op 10% uitkomt, dan is dat minder dan
de helft. Dat is correct.
De voorzitter:
De heer Wiersma, voor de laatste keer.
De heer Wiersma (VVD):
Voorzitter, dat was een verduidelijkende vraag zonet, wat mij betreft. Het komt erop
neer dat het, of het nu 5% of 10% is, dus in procenten gewoon een relatief beperkt
deel is van het gehele beleid dat we hebben, terwijl we het hier een paar uur over
hebben, omdat er zo veel kansen zouden zijn en omdat we daarvoor alles in huis zouden
hebben. Maar we hebben in dat huis blijkbaar niet alles beschikbaar om in sleuteltechnologieën
te investeren. Daarom heb ik een paar suggesties gedaan. Daar komt u ongetwijfeld
op terug, ik hoop enthousiast. Maar dat geeft wel precies aan dat we dus eigenlijk
niet die scherpe keuze maken voor die sleuteltechnologieën. En dan zou ik willen vragen
waarom we dan toch gaan voor die hele moot vastgedraaide, versnipperde keuzes in al
die verschillende topsectoren, terwijl we in het regeerakkoord hebben opgeschreven
in drie dingen te gaan investeren, namelijk in landbouw, energie én technologie. Als
je dat gewoon even door drieën deelt en je hebt ongeveer 3 miljard aan publieke uitgaven,
dan is dat per categorie een miljard. We raken die miljard op geen manier. Dat wilt
u wel, want dat heeft u net geprobeerd te zeggen, maar dat is geen publieke uitgave.
Mijn oproep is: maak nou van die publieke uitgave een veel groter deel en kies dus.
Mijn vraag is: gaat u dat doen?
Staatssecretaris Keijzer:
Als je ter plekke gaat zitten rekenen, heeft dat een gevaar, want als je zegt dat
424 miljoen van de 981 in het KIC voor sleuteltechnologieën is, dan moet je dat natuurlijk
niet afzetten tegen de 4,9 miljard die in totaal in het KIC zit. Dat is immers publiek
én privaat geld. Als je kijkt naar het geld dat wij in het KIC besteden aan sleuteltechnologieën
– ik zeg er nog maar een keer bij dat dat met aannames is – zit je op 981 miljoen.
Het andere geld zit in andere maatschappelijke uitdagingen. We moeten hier met elkaar
nou niet net doen alsof dat niet belangrijk is. We hebben juist in het regeerakkoord
– daar waren we niet allemaal bij, maar daar waren in ieder geval wel vier partijen
bij – met elkaar gezegd dat we dat topsectorenbeleid wilden kantelen naar maatschappelijke
uitdagingen, waarbij sleuteltechnologieën een van de instrumenten zouden worden. Dat
hebben we met elkaar gedaan en dat leidt dus uiteindelijk tot 981 miljoen in het KIC.
Ik heb dat net ook nog voor de Wbso aangegeven.
Na alle discussies die we hierover gehad hebben en ook in eerdere debatten die er
met de Kamer geweest zijn, hebben we met elkaar vastgesteld dat dat topsectoren- en
innovatiebeleid ziet op maatschappelijke uitdagingen, waarbij sleuteltechnologieën
een van de belangrijke onderwerpen zijn. Als u nu aan mij zou vragen om dat nu achter
mij te laten en al het geld dat daarin zit, die 4,9 miljard, allemaal in sleuteltechnologieën
te steken, ja, dan hebben we wel gekozen, maar dan denk ik dat u wel platgemaild gaat
worden door allerlei andere betrokkenen bij dat topsectoren- en innovatiebeleid. Dat
zou namelijk niet terecht zijn en dat zou ook voorbijgaan aan al het werk dat hier
gedaan is.
Maar als dat is wat de Kamer wil, dan moet u daar ook maar duidelijk over zijn. Ik
ben daar zelf ook duidelijk over. Dat kan je nu, in dit stadium van dat beleid, waarvan
de inkt net droog is, naar mijn smaak niet meer maken. Zijn sleuteltechnologieën ongelofelijk
belangrijk? Ja, absoluut. Dat ben ik volledig eens met de heer Wiersma en op dat punt
ben ik dus blij met zijn pleidooi. Ik ga direct nog terugkomen op andere vragen die
hij hierover gesteld heeft.
Voorzitter. Ik heb hier nog een aantal zaken staan, maar een aantal daarvan heb ik
nu al aangegeven. Wel is het nog van belang om te benadrukken dat Nederland veel generiek
beleid heeft – de pps-toeslag is generiek beleid en de Wbso is generiek beleid – en
dat dat ons veel goeds heeft gebracht. Ik hecht eraan om dat te zeggen. We staan niet
zomaar op de eerste, tweede of derde plaats in allerlei overzichten. In het buitenland
wórdt ook gekeken naar hoe wij dat doen. Als ik in Europees verband bijvoorbeeld bij
bijeenkomsten van Friends of Industry of bij de Raad Concurrentievermogen zit, wordt
mij vaak gevraagd hoe wij dat nou doen. Juist in samenwerking met bedrijfsleven, onderwijs,
kennisinstellingen en overheden stellen wij het beleid vast. Maar je moet ook kiezen.
Overigens zegt ook de AWTI, volgens mij op de eerste pagina, als deze organisatie
pleit voor meer geld, dat dat niet ten koste mag gaan van het generieke beleid. Daarmee
wordt maar weer eens benadrukt, ook uit die hoek, dat dat goed beleid is.
Desalniettemin probeer ik die keuzes wel te maken bij de eerste stappen die ik zet,
door bijvoorbeeld 23,5 miljoen uit mijn begroting te halen, die ik wil gaan richten
op kwantumtechnologie. Daarmee kunnen de eerste stappen uit die actieagenda voor kwantum
in ieder geval uitgevoerd worden. Ik weet het: het is niet de wereld aan geld, maar
het is wel een keuze die ik daarin maak. Toen er in de Voorjaarsnota van vorig jaar
extra geld beschikbaar kwam, heb ik dat niet in een soort verdelende rechtvaardigheid
in het algemeen instrumentarium gezet, maar heb ik dat, gesteund door de Kamer, aangewend
voor ruimtevaart.
Voorzitter. Dat gezegd hebbende, kom ik op een aantal vragen die hierover gesteld
zijn. Om te beginnen vroeg de heer Wiersma mij – daar hadden we het net al even over
– om meer middelen te richten. Het eerste punt dat hij daarbij noemde, is het advies
van de Kenniscoalitie. De heer Wiersma pleit er bij mij voor om de oploop van 20 miljoen
in het zogenaamde tweede luik van de NWA voor sleuteltechnologieën ter beschikking
te stellen. Het advies is gericht aan de Minister van OCW en aan mij, dus aan ons
tweeën. Wij moeten daar met z'n tweeën ook een reactie op geven, dus daar moet ik
nog even pas op de plaats maken. Het mag geen verbazing wekken, aangezien ik net heb
aangegeven dat ik het pleidooi van de heer Wiersma heel goed kan meemaken, dat ik
dit op zichzelf best een verstandig advies vind. Maar ik ga daar niet in m'n eentje
over, dus ik moet samen met de Minister van OCW bekijken hoe wij hier met elkaar uit
gaan komen.
Vervolgens vroeg de heer Wiersma mij om de publiek-private gelden die bij de NWO liggen
voor sleuteltechnologieën beschikbaar te stellen. Hij verzocht mij ook om het percentage
van de pps-toeslag voor sleuteltechnologieën te verhogen van 30% naar 50%. Als je
een liefhebber bent van sleuteltechnologieën, zou je zeggen: dat moet je doen. Alleen
kost het laatste verzoek, het verhogen van de pps-toeslag van 30% naar 50%, gewoon
extra geld, wat ik niet heb. En als je de 100 miljoen die voor publiek-private samenwerking
bij de NWO ligt in één keer in sleuteltechnologieën stopt, zeg je dus dat je andere
belangrijke onderwerpen niet meer wilt financieren. Dan moeten we dus wel heel goed
met elkaar doorspreken wat de consequenties hiervan zijn. Dat kan ik nu niet overzien.
Ik kan ook niet overzien in welke mate dat geld al belegd is bij de NWO, dus waar
mensen al rekenen op geld of waar dat al is toegezegd. Ik weet ook niet wat de mening
van de Minister van OCW hierbij is. Op zichzelf zijn dit dus twee pleidooien waar
wat voor te zeggen valt, alleen, als je kiest, kies je ook altijd niet voor iets.
Dat is dus wat hierachter zit. Daarbij zeg ik nog maar een keertje: het missiegedreven
topsectoren- en innovatiebeleid gaat niet alleen over sleuteltechnologieën. Dat gaat
juist over maatschappelijke uitdagingen, waarbij sleuteltechnologieën een instrument
zijn om het voor ons allemaal beter te maken.
De heer Wiersma (VVD):
Ik heb meer een verduidelijkende vraag. Ik hoor als reactie: het is wikken en wegen;
misschien wel, misschien niet; deels niet, want dan betekent het extra geld. Daar
ben ik niet op uit, maar ik ben inderdaad wel uit op een andere verdeling waarbij
we die 100 miljoen niet volledig op sleuteltechnologieën richten, maar bijvoorbeeld
zeggen: van die 100 miljoen alloceren we 10 miljoen daarvoor, en binnen die 10 miljoen
geven we de pps-toeslag een hoger gewicht, een hoger getal.
Ik kan me voorstellen dat de Staatssecretaris dit moet bekijken. Ik wil graag vragen
of ze per brief aan de Kamer zou kunnen melden welke varianten hiervoor zijn en hoe
ze dat zou kunnen doen. Want de zoektocht die we met elkaar hebben, is erop gericht
om juist die sleuteltechnologieën te promoten waar in het bedrijfsleven vraag naar
is. Daarmee laat je zien dat je dat als overheid wil aanjagen. Dat lijkt mij niet
slecht.
Staatssecretaris Keijzer:
Volgens mij hebben we het nu vooral over het onderdeel van de 100 miljoen voor de
publiek-private samenwerking, dat bij de NWO ligt. Een deel daarvan, ik geloof zo'n
10%, komt al terecht bij sleuteltechnologieën. Daar waar het meer is, is de vraag
of die ruimte er nog is, of dat het geld al belegd is. Ik zal mij dus vervoegen bij
de Minister van OCW. Ik zal hieraan ook woorden wijden in de brief waarin wij ingaan
op het advies van de Kenniscoalitie, om in ieder geval duidelijkheid te verschaffen
of het kan.
Voorzitter. De heer Moorlag vraagt aan mij of ik zijn opvatting deel dat je de middelen
van de sleuteltechnologieën moet koppelen aan de maatschappelijke opgave. Hij noemde
als voorbeelden met name energie en klimaat. Dat is nou juist de bedoeling van het
nieuwe beleid. Je stopt niet zomaar ergens geld in omdat het bedrijfsleven het aantrekkelijk
vindt, maar je koppelt dat juist aan de maatschappelijke uitdagingen die we met elkaar
hebben. Dat is de essentie van het nieuwe topsectorenbeleid. Daarmee geef ik trouwens
ook gelijk antwoord op zijn vraag of er wel een countervailing power is ten opzichte
van alleen maar bedrijfsbelangen. Ja, juist doordat we elke keer weer de koppeling
zoeken met het antwoord op de vraag: welk maatschappelijk probleem lossen we hiermee
op?
De heer Moorlag (PvdA):
Wat de Staatssecretaris zegt, namelijk dat de innovatiemiddelen gekoppeld zijn aan
de maatschappelijke opgave, is gewoon staand beleid. Maar ik heb in mijn bijdrage
ook gezegd dat het heel vaak gekoppeld wordt aan verdienvermogen, dus aan winst maken
en economische activiteit. Ik heb genoemd dat er aan de andere kant ook activiteiten
zijn waarmee je niet direct iets verdient, maar waarmee je wel maatschappelijke schade
kunt beperken, zoals investeringen in gezondheidszorg. Ik heb als voorbeeld het project
Healthy Ageing genoemd. Wil de Staatssecretaris daar eens op reageren? In hoeverre
is er in de middelen ruimte om dat ook te stimuleren?
Staatssecretaris Keijzer:
Als ik de heer Moorlag goed begrijp, is zijn vraag, even plat gezegd, dat het geld
dat in het KIC zit, ook het publieke deel, niet alleen wordt gebruikt voor zaken waaraan
verdienvermogen vastzit. Het is altijd een combinatie van. Het publieke deel zit er
juist vooral ook in om in het gesprek met de verschillende partners in die agenda
het evenwicht te houden tussen onderwerpen waarvoor je maatschappelijke oplossingen
zoekt, in combinatie met bedrijfsleven dat mede wil investeren. Het is natuurlijk
niet het enige geld dat we met elkaar besteden. Ook bij het Ministerie van VWS, om
volksgezondheid maar eens te noemen, wordt natuurlijk nagedacht over nieuwe technieken
die kunnen helpen in de zorg. Dat is bijvoorbeeld in het kader van digitalisering,
het onderwerp waar we het gisteren over hadden. Het antwoord op de vraag van de heer
Moorlag of het beleid van dit kabinet alleen maar gekoppeld is aan verdienvermogen
van het bedrijfsleven, is dus: nee, dat niet. In het kennis-, topsectoren- en innovatiebeleid
proberen we vaak wel de combinatie te maken met het bedrijfsleven, maar niet alleen.
De heer Moorlag (PvdA):
Het is belangrijk dat de Staatssecretaris dit zo stellig zegt, want die koppeling
wordt mentaal vaak wel zo gemaakt. Bij Rijkswaterstaat kennen ze het begrip «spoorvorming»
niet alleen in het asfalt, maar ook in het denken. Spoorvorming in het denken moet
er niet toe leiden dat we alleen maar kijken naar verdienen, verdienvermogen en winst.
Wat mij betreft moet het wat minder winstgedreven en wat meer waardegedreven zijn,
en moet het dan vooral gaan om waarde voor de samenleving. Ik ben blij dat de Staatssecretaris
dat onderstreept en ik hoop dat ze dat ook goed zichtbaar maakt in haar beleid.
Staatssecretaris Keijzer:
Zeker. Het is misschien goed om nog te refereren aan het overleg dat ik één of twee
weken geleden gehad heb met de boegbeelden van de topsectoren. Ter geruststelling
van de heer Verhoeven is het misschien goed om te vermelden dat van de tien boegbeelden
er inmiddels vier vrouw zijn. Binnenkort gaat nog een man wat anders doen, zeg ik
er maar gelijk bij. Ik neem uiteraard met spijt afscheid, maar het is tegelijkertijd
ook weer een kans.
Wat hebben we daar met elkaar gedaan? We hebben het met elkaar gehad over wat nou
de maatschappelijke impact is van het werk dat we hier doen. Waarom is het goed dat
we dit beleid hebben? Hoe gaat de maatschappij erop vooruit, met alles wat wij hier
doen? Ik kan volmondig tegen de heer Moorlag zeggen dat het ook bij het missiegedreven
nieuwe topsectoren- en innovatiebeleid juist gaat over de vraag: wat voor goeds brengt
dat ons als samenleving?
Mevrouw Buitenweg (GroenLinks):
Na al deze prachtige woorden over missiegedrevenheid en zaken die in het belang zijn
van de samenleving, vraag ik me het volgende af. De Innovatiebox is natuurlijk ook
een manier waardoor er minder belastinggeld binnenkomt. Mijn vraag is: op welke wijze
wordt daar gegarandeerd dat de innovatie ook maatschappelijk nut heeft?
Staatssecretaris Keijzer:
We gaan nu echt een AO Innovatie doen, dus het is een beetje off-topic. Daar zitten
voorwaarden aan vast die gericht zijn op innovatie. Volgens mij zit de toets waar
mevrouw Buitenweg om vraagt er niet in. Maar er is op zichzelf niets mis met geld
verdienen. Laten we dat ook even met elkaar vaststellen. Ik ben tenslotte Staatssecretaris
van Economische Zaken. Ik hou dat hoog: hard werken en geld verdienen hebben ons altijd
heel veel goeds gebracht, want dat levert namelijk ook het geld op om vervolgens goede
dingen te doen.
Mevrouw Buitenweg (GroenLinks):
GroenLinks is ook een groot voorstander van geld verdienen. We vinden dat er niets
mis is met geld verdienen, maar dit is geld dat je eigenlijk aan een bedrijf geeft.
Normaal gesproken hoort een bedrijf namelijk belasting te betalen, namelijk vennootschapsbelasting.
In dit geval geef je als overheid een korting – je zegt: u hoeft wat minder belasting
te betalen – en vervolgens staan daar geen maatschappelijke baten tegenover, die je
wel eist. Dat vind ik een cadeautje geven, terwijl ik juist denk dat we bij al deze
innovaties, en ook bij het bevorderen van bepaalde sleuteltechnologieën, na moeten
denken over wat nu in het belang is van de maatschappij. Ik vind het heel jammer dat
dat niet gebeurt bij die Innovatiebox.
Staatssecretaris Keijzer:
Het is een ander instrument. Het is een instrument ter bevordering van innovatie en
ter verbetering van ons internationale vestigingsklimaat, met als positief neveneffect
overigens ook nog werkgelegenheid. Ik hecht daar dus toch wel aan.
Mevrouw Buitenweg (GroenLinks):
Ten slotte. Het is natuurlijk prima als zij willen innoveren. Dat kunnen ze namelijk
met hun eigen geld doen, en ze kunnen daarvoor een soort korting krijgen van de overheid
als dat in het belang is van wat de overheid van belang vindt. Maar het is niet nodig
om een soort algemeen cadeautje te geven.
Staatssecretaris Keijzer:
Ik ben een andere mening toegedaan; daar heb ik al het een en ander over gezegd.
De heer Moorlag vroeg mij nog of er Europese afstemming is. Die is er, maar vooral
bottom-up, dus van onderaf. Veel bedrijven werken intensief samen met kennisinstellingen.
TNO wordt bijvoorbeeld zeer geregeld gevraagd om toe te treden tot samenwerkingsverbanden.
Wat zijn de resultaten van het MTIB, het missiegedreven Topsectoren- en Innovatiebeleid?
Het gaat uiteindelijk over de vraag hoe wij ervoor zorgen dat we met elkaar, dus in
samenwerking met het bedrijfsleven, met het onderwijs en kennisinstellingen en met
overheden de positieve effecten bereiken en dus de maatschappelijke uitdagingen oplossen.
Dat is ook wat ik met de boegbeelden besproken heb. Hoe kan je dat nou straks inzichtelijk
maken? Dat is op zichzelf best ingewikkeld. Het is ook niet zonder reden dat het CPB
het altijd heel lastig vindt om vast te kunnen stellen wat het uiteindelijke effect
is op bijvoorbeeld werkgelegenheid en de economie van een euro die je in innovatie
stopt. Maar het feit dat bedrijven mee willen doen in het KIC en daarbij 50% van de
rekening pakken, vind ik een indicatie dat het goed is voor ons verdienvermogen. Anders
zou het bedrijfsleven dat niet doen. Wat ik wel van belang vind – want zo beluister
ik deze vraag van de heer Wiersma wel – is om toch eens te kijken of we in kaart kunnen
brengen wat nou die sterke ecosystemen in Nederland zijn en hoe die bijdragen. Want
bijvoorbeeld in Eindhoven hebben we er eentje. We zien dat de economische groei in
Eindhoven een van de hoogste in Nederland is. We verbinden dat ook aan het ecosysteem
dat daar ter plaatse is. De vraag is of je dat ook nog op andere plekken kunt doen.
Ik ben ook zeker bereid om het gesprek hierover ook aan te gaan met bijvoorbeeld TNO
en de RVO, om te zien of we hierin nog een slag kunnen maken.
Voorzitter. Mevrouw Buitenweg vroeg mij naar het artikel van onze secretaris-generaal
Maarten Camps. Even kijken, volgens mij had ik het net ergens... Nou ja, goed. In
dat artikel zei hij volgens mij, en daar ben ik het mee eens: ja, we hebben heel veel
generiek beleid; blijf daar ook alsjeblieft van af want dat is goed, maar probeer
ook eens wat meer te specifiek te investeren, zodat je daar wat gerichter in bent.
Het is eigenlijk hetzelfde wat in het advies van de AWTI staat. Het is trouwens ook
wat ik bedoelde toen ik het over de industriepolitiek had, zo zeg ik tegen mevrouw
Buitenweg. Je moet daarbij wel opletten dat je niet investeert in die sectoren en
bedrijven die het niet gaan maken. Je moet juist kijken waar nou dat verdienvermogen
ligt van de toekomst.
Voorzitter. Dat brengt me automatisch weer bij de groeibrief en het groeifonds. De
heer Van Haga vroeg aan mij of dat groeifonds straks ook gebruikt zal worden voor
investeringen in sleuteltechnologieën. Daar kan ik niet op vooruitlopen, maar daar
heb ik zonet ook al het een en ander over gezegd.
Dan kom ik, voorzitter, bij AI: artificiële intelligentie op z'n Vlaams, kunstmatige
intelligentie op z'n Nederlands maar dan heb je een andere afkorting. Er is geen algemeen
aanvaarde definitie daarvan. De Europese Commissie zegt: systemen die intelligent
gedrag vertonen door hun omgeving te analyseren en met zekere mate van zelfstandigheid
actie te ondernemen om specifieke doelen te bereiken. En als ze heel knap zijn, zijn
ze ook nog eens een keertje zelflerend. Je hebt daarvoor drie elementen nodig. Dat
zijn algoritmen – eenvoudig gezegd: een computerprogramma – data om ze te vullen en
rekenkracht. AI lijkt nu een gigantische groeispurt door te maken. Het is een soort
generalpurposetechnologie geworden. Het wordt overal in gebruikt. Dat maakt het tegelijkertijd
lastig om één AI-waakhond of één algoritmewaakhond te hebben. Want juist omdat het
een generalpurposetechnologie geworden is en op allerlei verschillende sectoren van
toepassing is en daarin gebruikt wordt, moet je een soort moloch van een organisatie
gaan bouwen die ook verstand heeft van de sectoren waarin dat algoritme gebruikt wordt.
En wij hebben al heel veel toezichtsorganen. De Autoriteit Persoonsgegevens let op
de privacy en het College voor de Rechten van de Mens let op mensenrechten en grondrechten,
bijvoorbeeld antidiscriminatierechten, om er maar eens twee te noemen. Dus volgens
mij is het ook heel verstandig om het op deze manier te blijven doen. In de gewone
rechtspraak gaan we op een gegeven moment meemaken dat er een rechtszaak komt die
gaat over de vraag of de voorschriften van schriftelijkheidsvereiste en motiveringsvereiste
uit de Algemene wet bestuursrecht wel voldoende in acht genomen zijn bij een beschikking
die genomen is. Zo zie je dat je op allerlei vlakken daar dat toezicht wel hebt. Maar
ik zag een vinger omhooggaan, voorzitter. Ik haal even adem.
De voorzitter:
Dat lijkt me goed. Mevrouw Buitenweg heeft een interruptie.
Mevrouw Buitenweg (GroenLinks):
Ja. Het gaat mij om de stellingname dat er op het gebied van het toezicht op discriminatie
al veel bestaat. En toen werden er twee instellingen genoemd: de Autoriteit Persoonsgegevens
en het College voor de Rechten van de Mens. Nu heb ik bij dat laatste een tijd gewerkt.
Ik heb daar ook nog contacten mee, maar het is mij niet bekend dat zij daar ook echt
toezien op de algoritmes. Dat zou ik wel heel interessant vinden. Is het zo dat de
Autoriteit Persoonsgegevens en het College voor de Rechten van de Mens echt kijken
onder de motorkap, en dan dus ook kunnen beoordelen of er sprake is van discriminatie
in algoritmes van overheid of bedrijfsleven?
Staatssecretaris Keijzer:
Ik denk dat het goed is dat we ons met elkaar niet gek laten maken. Als je kijkt naar
de digitale wereld, dan geldt datgene wat in de analoge wereld geldt net zo goed als
voor de digitale wereld. Het non-discriminatiebeginsel geldt in de analoge wereld
dus net zoals dat geldt in de digitale wereld. Als er op een gegeven moment een klacht
komt bij het College voor de Rechten van de Mens, dan kan het niet anders dan dat
ze zich zullen gaan verdiepen in deze materie. Ik weet niet of het al ingepland is,
maar ik ben bezig met een gesprek te plannen met Adriana van Dooijeweert, de voorzitter
van het College voor de Rechten van de Mens, om juist ook op dit onderwerp door te
praten. Gisteren hebben we een AO Digitalisering gehad. Mijn collega Raymond Knops,
die daar toen zat, heeft toen het een en ander hierover gezegd. En zoals ik gisteren
ook heb aangegeven, vind ik het juist vanuit economisch perspectief van belang dat
mensen zich veilig voelen bij AI. Want een burger is een consument, en als die een
technologie niet vertrouwt, gaat hij die niet gebruiken. En daarbij is bijvoorbeeld
non-discriminatie van belang. Dat is waarom ik met haar het gesprek aanga, om eens
met haar door te praten over hoe dat gaat in de praktijk.
Mevrouw Buitenweg (GroenLinks):
Het is heel goed dat daarover het gesprek aangegaan wordt. En ik kan mij voorstellen
dat het College voor de Rechten van de Mens ernaar gaat kijken als er een klacht is,
want dat werkt op basis van een klacht en dan komt er een onderzoek. Maar het punt
is natuurlijk dat je vaak niet weet wat er aan de hand is. En ook is het van belang,
zoals we gisteren hebben afgesproken, dat privacy niet alleen een individueel recht
is, maar ook een collectief recht, dus het moet er niet alleen maar van afhangen of
je individueel geraakt wordt. Er kunnen bijvoorbeeld ook gewoon biases in zitten en
die moeten dan ook door bijvoorbeeld een organisatie aan de kaak kunnen worden gesteld.
Dus de vraag is: wat kan er proactief om te bekijken hoe een algoritme werkt zonder
dat iemand een klacht heeft omdat die zich gerealiseerd heeft dat er sprake is van
discriminatie?
Staatssecretaris Keijzer:
Dat is een ongelofelijk interessante discussie. Eigenlijk alles wat mevrouw Buitenweg
hier naar voren brengt, zijn van die zaken die ook door mijn hoofd heen gaan als je
los van de specifieke casus nadenkt over dit onderwerp. Gisteren heeft de heer Verhoeven
het gebruik van data in de autobranche aan de orde gesteld, en hoe dat er uiteindelijk
toe lijkt te gaan leiden dat de aftermarket, zeg maar bijvoorbeeld de autoherstelinrichtingen
– zo zeg ik volgens mij een beetje ouderwets, maar dat heeft te maken met mijn geschiedenis
in het milieurecht – er zo langzamerhand niet meer aan te pas komt. En dan wordt het
op een gegeven moment een collectieve discussie. Gezichtsherkenning is zo'n onderwerp.
Collega Grapperhaus heeft aangegeven dat je daarbij niet meteen rücksichtslos «no
way» moet zeggen, want het kan ook heel veel goede zaken brengen, zoals om maar iets
te noemen vermiste personen die opeens opgespoord kunnen worden, of een crimineel.
En zo heeft gezichtsherkenning nog een andere zaak: individueel moet ieder mens nadrukkelijk
toestemming geven, zo staat er voor gezichtsherkenning in de Algemene Verordening
Gegevensbescherming.
Dat gezegd hebbend, betekent het eigenlijk dat iemand die op straat loopt met een
bril met daarin gezichtsherkenning en een algoritme, meteen kan zien wie die meneer
op de publieke tribune daar is, hoe hij heet, of hij een gezin heeft, wat zijn hobby's
zijn en waar hij werkt. Dat mag niet. Dat mag gewoon niet, totdat hij daar uitdrukkelijk
toestemming voor geeft. Dan zou je dus met elkaar de discussie kunnen hebben of dat
dan niet zou moeten betekenen dat dit soort brillen voor particulieren niet verkocht
zouden mogen worden, vanuit dat collectieve belang. Nou, dat zijn precies de gesprekken
die we met elkaar moeten hebben vanuit dat collectieve belang dat we zien ten aanzien
van privacy.
De voorzitter:
Ik kijk heel even naar de tijd. Ik snap dat het ingewikkeld is, en dit is ook een
heel belangrijk gesprek om met elkaar te voeren. Maar ik kijk ook naar het serieuze
aantal mapjes dat de Staatssecretaris nog heeft. Dat zijn nog een heleboel mapjes.
We willen toch ook wel proberen om het vandaag nog af te handelen. Ik denk dat dit
niet de laatste keer is dat we het hierover hebben, dus we zullen het beperken en
de Staatssecretaris vragen om door te gaan met de beantwoording. Ga uw gang.
Staatssecretaris Keijzer:
Dank u, voorzitter. We hebben inmiddels een Strategisch Actieplan voor AI: SAPAI.
Ik vind het een mooie afkorting. De gedachte daarachter is dat we meer moeten investeren
in termen van geld, tijd en energie om ervoor te zorgen dat je op een verantwoorde
wijze bij gaat dragen. Dat actieplan is vele pagina's, met drie sporen: het benutten
van maatschappelijke en economische kansen; juiste voorwaarden voor een vruchtbaar
AI-klimaat; en het versterken van de fundamenten voor de kans om op een verantwoorde
wijze het benutten daarvan rond te krijgen. Precies het debat dat ik zojuist had met
mevrouw Buitenweg.
Voorzitter. Dan kom ik op een aantal vragen op dit onderwerp. Ik blader nu maar even
door, gezien de tijd. Ook hier werd door VVD, D66 en CDA – in de volgorde van plaatsneming
– vandaag gepleit voor meer geld hiervoor. Als je AI belangrijk vindt, en dat vinden
wij allemaal, zou je dat natuurlijk het liefst zien. AI wordt gezien als een sleuteltechnologie,
dus alles wat ik net gezegd heb over sleuteltechnologie geldt ook voor AI. Daarnaast
kom ik terug op het groeifonds dat aanstaande is. Maar ook het bedrijfsleven doet
hier goede zaken: het kickstartinitiatief dat onderdeel is van de AI-coalitie. Philips,
Ahold, NS, ING en – ja, wie weet de vijfde op te lepelen? Wie het weet, mag blijven
– KLM natuurlijk, hebben met elkaar de schouders onder dit onderwerp gezet en gaan
ook investeren in meer hoogleraren die op dit onderwerp aan het werk gaan. Ik juich
dat alleen maar toe. Er wordt dan weleens tegen mij gezegd: heeft dat consequenties
voor de onafhankelijkheid? Laatst zei een rector van een universiteit in Nederland
tegen mij: ze vertrouwen het ons juist toe vanwege onze onafhankelijkheid. Dat vond
ik een mooie benadering.
De voorzitter:
Interrupties alleen over een fundamenteel...
De heer Amhaouch (CDA):
Voorzitter, een punt van orde. Hoeveel interrupties hebben we? Twee, of drie of een?
Dan verdelen we ze.
De voorzitter:
Sommigen hebben er al twee gehad. Ik stel voor dat we het bij twee houden. Goed punt,
meneer Amhaouch.
Staatssecretaris Keijzer:
Wat is de directe impact van digitalisering, en dus ook AI? Ook hierover heb ik gisteren
al het een en ander gezegd. 21% van de bedrijfsinvesteringen betreft ICT en investeringen
in ICT dragen een derde bij aan de groei, om maar een paar cijfers te noemen.
Voorzitter. De heer Verhoeven vroeg mij: hoe zie ik de invloed van AI op werk en welvaart
op de middellange termijn? Dat is echt koffiedikkijken. Ik zou hierover best een boom
kunnen opzetten, maar laat ik dat gezien de tijd niet doen. Dat onze samenleving al
door AI veranderd is, is ook een feit.
Hoe zorgen we ervoor dat elke Nederlander de kans heeft om ervan te profiteren? Hiervoor
geldt dat het nodig is dat iedereen eraan mee kan doen, dat digitale vaardigheden
in het onderwijs een plek gaan krijgen, maar ook dat we ons realiseren dat er altijd
een groep mensen zal blijven – en daaronder zouden ook wijzelf zomaar eens over 30
à 40 jaar kunnen vallen – die de volgende stap in de technologie gewoon niet meer
kan bijbenen. Dus je moet je altijd realiseren dat je niet helemaal altijd alles via
digitalisering kan doen.
Ik kom bij een ander belangrijk onderwerp, namelijk het weglekken van talent. Ik weet
dat u ook een technische briefing heeft gehad over het onderwerp SAPAI, waar dit onderwerp
nadrukkelijk aan de orde geweest is. Vandaag hebben CDA en VVD en GroenLinks dit aan
de orde gesteld. Ik deel de zorgen. Je kunt er niet alles aan doen want het zijn soms
ook afwegingen van individuen, promovendi, universitair docenten, die zelf het avontuur
willen aangaan om naar het buitenland te gaan; dat is gewoon een feit. Tegelijkertijd
moeten we er wel alles aan doen om te proberen een aantrekkelijk ecosysteem op juist
dit onderwerp te organiseren, zodat het aantrekkelijk is voor mensen die in dit veld
werken om hier te blijven of om vanuit het buitenland hiernaartoe te komen. Daar is
instrumentarium voor. Ik wil u daarvoor verwijzen naar het beleid dat is opgenomen
in de brief ten aanzien van het nieuwe start-up- en scale-upbeleid onder de noemer
«Techleap».
Dan kom ik bij de vraag van de heer Van Haga: of ik van mening ben dat we niet meer
moeten wachten op de EU, maar moeten kiezen voor een Nederlandse strategie. Nou, die
ambitieuze Nederlandse strategie hebben we, en die heet SAPAI. Tegelijkertijd wil
ik dit graag juist in combinatie met Europa. Want we zijn wel een heel grote economie
in Nederland, maar in het grotere geheel zijn we de zestiende – geloof ik, zo uit
mijn hoofd gezegd – en hebben we juist de kracht van die gezamenlijke Europese markt
en Europese kennis en bedrijfsleven nodig, om hier echt in de voorhoede te kunnen
blijven meedraaien. En net zoals onze AVG zo langzamerhand overal in de wereld of
positief wordt bejegend of inmiddels gewoon overgenomen wordt – zie Amerika – ben
ik ervan overtuigd dat dat ook niet anders zal kunnen zijn ten aanzien van andere
technologieën, juist omdat ik het zo belangrijk vind dat «de mens centraal» binnen
dat beleid zijn plek houdt.
De heer Van Haga (Van Haga):
Ik weet niet of u er nog aan toekomt, maar mijn vraag spitste zich erop toe hoe die
goede positie, onze goede economie en dat alles zich verhouden tot onze verschrikkelijk
lage plaats op de ranglijst van het aantal patenten.
Staatssecretaris Keijzer:
Daarop moet ik het antwoord schuldig blijven; dit is een onderwerp dat bij mijn collega
Eric Wiebes blijft. In het algemeen kan ik wel zeggen: soms zit het mee, soms zit
het tegen. Er zijn weer andere lijstjes waar we op nummer een, of twee of drie staan.
Hierop blijkbaar laag, volgens u. Ik weet niet of dat klopt. Het is wel van belang
voor ons vestigingsklimaat om daarin een goed beleid te hebben, en ik weet dat we
daarin ook aan samenwerking doen met andere Europese landen.
Dan vroeg de heer Wiersma nog aan mij hoe we omgaan met data en de samenwerking daarmee
in en tussen het bedrijfsleven. We hebben natuurlijk de Datadeelcoalitie, die tegenwoordig
zelfs een Engelse naam gekregen heeft. We werken via het Programma digitalisering
midden- en kleinbedrijf aan het helpen van het midden- en kleinbedrijf om de data
te gebruiken die beschikbaar is. En inderdaad helpen veel Value Centers ondernemers
in de regio om de waarde van data te benutten.
Voorzitter. Dan kom ik bij het mapje AI in relatie tot ethiek, toezicht, privacy en
discriminatie. Ik heb daar al een hele hoop over gezegd, dus als u mij toestaat, ga
ik ervan uit dat ik in de interrupties die ik heb gehad, mijn algemene lijn in dit
onderwerp voor dit moment voldoende heb behandeld. Voor dit moment, want dit is een
discussie die voortgaat.
De heer Amhaouch (CDA):
Ik heb een interruptie op het vorige blokje, dus het gaat niet over het laatste wat
de Staatssecretaris zei. Ik had in mijn inbreng de vraag gesteld of de Staatssecretaris
bereid is om haar vinger in Europa op te steken om Lighthouse naar Nederland te halen.
Dat gaat over een uniek AI-centrum dat de Europese Commissie wil. Wij willen gaan
investeren in AI. Dit zou een mooie gelegenheid zijn om talent naar Nederland te halen,
voor ons ecosysteem. Dus de vraag is: is de Staatssecretaris bereid om dat te gaan
doen?
Staatssecretaris Keijzer:
Dit gaat volgens mij over het center of excellence op het gebied van AI. Er loopt
een call vanuit de Europese Commissie om te bekijken of we al die verschillende versnipperde
centra die we nu hebben, kunnen samenvoegen tot – uit mijn hoofd gezegd – vier. Er
doen er ook een aantal mee vanuit Nederland, zoals dat – hoe heet dat ook alweer?
– in Den Haag. Ook de TU Delft zit daarbij. Er zijn er dus een aantal die meedoen
aan deze call. En voorzitter, uiteraard steek ik mijn vinger op als het erom gaat
geld in Europa naar Nederland te halen. We praten wat mij betreft soms onvoldoende
in deze AO's over wat een ongelofelijke expertise wij op dit gebied in Nederland hebben.
Dus uiteraard pleit ik daar altijd voor. Eind maart gaat de Europese Commissie volgens
mij hierover uitsluitsel geven. Dan steken we desnoods met z'n allen samen een kaarsje
op, of we duimen, net wat u wilt, om ervoor te zorgen, ervoor te pleiten en ook te
hopen dat er een Nederlands centrum bij zit.
De heer Moorlag (PvdA):
Heel kort, voorzitter. Ik had gevraagd of de Staatssecretaris bereid is om gebruik
te maken van de geweldige expertise die op het terrein van mensenrechten, grondrechten
en privacy in Nederland aanwezig is, namelijk bij de ngo's. Is de Staatssecretaris
daartoe bereid?
Staatssecretaris Keijzer:
Ik weet niet of de heer Moorlag net even buiten de zaal was, maar ik heb al aangegeven
dat er ofwel een afspraak gepland is ofwel dat die gemaakt wordt met bijvoorbeeld
Adriana van Dooijeweert van het College voor de Rechten van de Mens. Ik heb vorige
week een gesprek gehad met Aleid Wolfsen, de voorzitter van de Autoriteit Persoonsgegevens.
Ik heb gesprekken met mensen die bijvoorbeeld onderdeel zijn van de High Level Expert
Group on Artificial Intelligence en zich bezighouden met ethiek. Dus ik doe dat geregeld.
Ik geloof dat het mevrouw Buitenweg was die in haar pleidooi zei dat wij in dat strategische
actieplan onvoldoende gesproken hebben met bijvoorbeeld filosofen en mensen uit de
geesteswetenschappen. Juist wel. Dat hebben we juist wel gedaan. De humaniora – zo
heet het, geloof ik, als je heel chic wilt zijn – worden ook betrokken bij dit beleid.
Als je namelijk human-centered AI wilt en je realiseert je onvoldoende dat een mens
de neiging heeft om een computerprogramma te volgen en dat je dus gedragswetenschappers
nodig hebt om ervoor te zorgen dat er een afweging wordt gemaakt in plaats van dat
er «computer says no» wordt gezegd, dan ben je niet goed bezig.
De heer Moorlag (PvdA):
Ik hoor een aantal instanties noemen. Dat is goed, maar ik doel met name op de ngo's:
Amnesty International bijvoorbeeld en andere. U hoeft het niet direct toe te zeggen,
maar dit blijft toch een zaak van voortdurende zorg en voortdurende aandacht, om het
maar eens in Prinsjesdagtaal te zeggen. Wilt u dus in het vervolg die organisaties
er ook bij betrekken? De regel is altijd: kritiek is gratis advies. Haal dat advies
op, zou ik dus willen zeggen.
Staatssecretaris Keijzer:
Het grappige is: af en toe zeggen we in Nederland dat we te veel polderen, maar dit
is nou een oproep om nog een tandje bij te zetten. Ik zeg dit: bij de voorbereiding
van alle plannen die wij maken, betrekken wij heel veel relevante organisaties. Ik
heb nu niet paraat of Amnesty International, om er maar eens eentje te noemen, ook
betrokken is bij SAPAI. Dat heb ik gewoon niet paraat. Maar we spreken niet alleen
met het bedrijfsleven en met onderzoekers; we spreken met alle relevante organisaties
en als ze een mening hebben, weten ze mij altijd buitengewoon goed te vinden. Maar
het algemene pleidooi van de heer Moorlag om breder te kijken dan de usual suspects
kan ik alleen maar ondersteunen.
Voorzitter. Tot slot wil ik nog ingaan op vragen van de heer Verhoeven en de heer
Van Haga over de Nationale Agenda kwantumtechnologie. Dit is ook een voorbeeld waarbij
wij gewoon top of the bill zijn. Vorige week zette MIT Technology Review het kwantuminternet
uit Delft op nummer 1 van de breakthrough technologies voor 2020. Ik laat even een
stilte vallen. Ik wil ermee aangeven dat er echt pareltjes bij zijn in Nederland.
Zoals ik al zei in mijn inleiding heb ik 23,5 miljoen euro gereserveerd voor de komende
vijf jaar om als eerste start de meest urgente acties uit deze agenda te starten.
Dan is er ook nog aan mij gevraagd hoe het nou zit met andere landen. Frankrijk en
Duitsland schermen met indrukwekkende bijdragen voor kwantumonderzoek. Ik heb het
eerder gezegd: Macron gaat voor Versailles staan en slingert 2 of 3 miljard de wereld
in; wij doen dat op een andere manier. Wij doen dat op onze Nederlandse manier, waarbij
we juist in samenwerking met onderwijs- en kennisinstellingen en universiteiten, ondernemers,
overheden, provincies en regionale investeringsmaatschappijen beleid proberen vorm
te geven waarin we ook oplossingen proberen te vinden voor maatschappelijke uitdagingen.
Dat heeft ons al heel veel goeds gebracht; daar ben ik mee begonnen en daar sluit
ik ook mee af.
De heer Wiersma (VVD):
Even over talent. Al die partijen waarvan u zegt dat ze zo blij zijn met al die samenwerkingen
hebben één ding met elkaar gemeen: ze willen altijd meer geld, maar ze willen vooral
de goede mensen kunnen vinden en houden. Dan is het lastig dat we soms studentenstops
hebben. Maar zelfs daarvan zeggen ze: nou ja, dat is soms ingewikkeld, maar uiteindelijk
studeren steeds meer mensen wel in die technische richtingen. Maar ze gaan daarna
zo snel weg. Als je 's avonds laat door de bibliotheken van die universiteiten loopt,
zie je daar Chinezen en soms ook Duitsers. Daarna zijn ze afgestudeerd en dan zitten
ze daar niet meer, maar ook niet meer in Nederland. Het grootste deel is weg. Duitsland
heeft miljarden geïnvesteerd in sleuteltechnologieën. Onderzoekers uit Twente en Amsterdam
worden weggekocht om daar met vijf of zes promovendi – dat kunnen we hier niet bieden
– een onderzoek te doen. Dan kun je zeggen: dat zijn individuele afwegingen. Maar
dat zijn ook afwegingen, omdat ze niet de middelen hebben en niet de kansen krijgen
die wij ze eigenlijk zouden moeten bieden. Dus mijn vraag is: hebben we een goed beeld
van hoe aantrekkelijk we echt zijn en hebben we weleens echt goed onderzoek gedaan
naar de vraag waarom een PhD'er hier daarna weggaat of zouden we dat nog eens beter
in beeld kunnen brengen? Want het klinkt voor mij nu een beetje als: nou ja, kan gebeuren;
we zien het wel. Dit is echt essentieel. Het is niet voor niks dat de halve rondetafel
hierover ging. Ik geef u dus graag de tijd om hier iets meer woorden aan te wijden.
De voorzitter:
Maar het is aan de voorzitter om dat te doen, hè. Mevrouw Keijzer, ik geloof dat u
van de leden meer tijd krijgt om hier antwoord op te geven.
Staatssecretaris Keijzer:
Ik heb hier nu niet paraat of er een keer onder PhD's, promovendi, onderzoekers, onderzoek
is gedaan naar de vraag waarom ze naar het buitenland getrokken zijn. Ik heb het niet
paraat. Misschien is het er; dan zou het bij het Ministerie van OCW liggen. Ik ga
het voor u opzoeken.
De voorzitter:
We hebben nog een heel kwartier. Ik dacht: ik steek het positief in. We kunnen dus
een korte tweede ronde doen. Ik wil u vragen om niet te veel uit te weiden en ook
niet elkaar eindeloos te interrumperen. Ik wil u vragen om gewoon snel even een aantal
opmerkingen te maken die ook in de interrupties nog niet aan de orde zijn gekomen.
De heer Wiersma.
De heer Wiersma (VVD):
Voorzitter, dank. Ik vraag graag een VAO aan. Het heeft voor mij geen acute haast.
Er zijn wel een aantal toezeggingen gedaan over de Nationale Wetenschapsagenda, over
de NWO en over publiek-private samenwerking. Daar zou ik dan graag over weten wanneer
we die kunnen verwachten. Over het verdienvermogen is gezegd: we gaan inzichtelijk
maken wat daar nou de impact van is. Die toezegging is echt belangrijk, vind ik, omdat
we dan met elkaar met zin en onzin daarover kunnen spreken. Anders zegt de Staatssecretaris:
we hebben alles nodig. En dan zeggen wij: ja, maar is er dan wel genoeg focus? En
dan blijven we langs elkaar heen werken. Ik zou graag willen weten wat we kunnen verwachten
en wanneer dat kan. De Staatssecretaris gaf met data aan dat er een aantal dingen
lopen. Ik heb er als Kamerlid behoefte aan om in een brief te zien hoe dat er dan
uitziet. Ik hoor daar zorgelijke signalen over. Blijkbaar is er heel veel. Misschien
loopt het heel goed, maar ik zou daar graag een brief over willen. Dat zou ik graag
ook als toezegging willen.
Voorzitter. Op het punt van talent zou ik graag de toezegging willen dat we alles
bij elkaar brengen wat er aan onderzoek is gedaan. Waarom trekken mensen weg, niet
alleen als PhD, maar ook als onderzoeker? Het gaat ook om de combinatie met het bedrijfsleven,
dus dat je daar bijvoorbeeld drie dagen werkt en twee dagen aan de universiteit. Hoe
doen wij dat nou? Zijn de arbeidsvoorwaarden minder? Zijn andere voorzieningen hier
ingewikkeld? Is het de huisvesting? Welk beeld hebben we daarbij? Dan kunnen we bepalen
welk onderzoek we daarnaar kunnen doen. Dat zou ik wel graag in een brief naar de
Kamer zien komen. Ik hoor graag of en, zo ja, wanneer dat kan.
De voorzitter:
Prima, helemaal goed. Meneer Verhoeven, hebt u behoefte aan een tweede termijn?
De heer Verhoeven (D66):
Nee.
De voorzitter:
Nee. Mevrouw Buitenweg?
Mevrouw Buitenweg (GroenLinks):
Dank u wel. Ik ben erg blij met de toezegging over het onderzoek naar de vraag of
en, zo ja, wat er dan eventueel mist bij de onderzoekers. Ik zou ook graag willen
weten of wij gericht zijn in wat we ambiëren. Normaal gesproken nodig je iemand ook
niet uit voor een blanco feestje. Je nodigt iemand uit, zodat diegene weet dat er
wat te beleven is. Waar staat Nederland voor? Welke grote onderzoeksgroep is er, waarvan
je zegt: daar wil ik bij horen? Ik hoor dus graag of dat inderdaad ook een obstakel
is.
Dan de algoritmes. Ik blijf ermee zitten dat je niet altijd weet wat je niet weet.
Dus op het moment dat je een vermoeden hebt van discriminatie, is het logisch dat
je ergens ingaat. Maar wat gaan we nu doen om sowieso te controleren of er een probleem
is met bepaalde algoritmes? Moet er bijvoorbeeld een verplichte certificering van
high risks komen bij AI? We hebben bij de financiële wereld gezien dat het uiteindelijk
tot grote problemen kan leiden als je niet weet hoe iets in elkaar zit.
Ten slotte de industriepolitiek en de concurrentie van China. Concurrentie is natuurlijk
op zich niet altijd verkeerd. Ik zie wel dat er aan de ene kant een wens is om ook
een eigen industrie op te bouwen. Tegelijkertijd blijf ik zien dat er door de overheid
toch steeds voor de concurrenten in het buitenland wordt gekozen – dat zie ik bij
5G, bij C2000 en bij het tapsysteem van de politie – en dat wij niet helpen bij het
zelf opbouwen van een Europese industrie. Dat betreur ik.
De voorzitter:
Dank u wel. De heer Van Haga.
De heer Van Haga (Van Haga):
Dank u wel, voorzitter. Een paar dingen toch. De privacywetgeving blijft wat mij betreft
toch een zorg, als obstakel voor onderzoek. Voor wat betreft de EU: het leiderschap
komt op dit gebied niet uit de EU, dus het is goed dat de Staatssecretaris aangeeft
dat wij zo veel mogelijk zelf ons plan maken; natuurlijk wel binnen de EU, maar dat
we die dingen gaan doen. Wat betreft het groeifonds vond ik het een beetje verwarrend.
In eerste instantie zei de Staatssecretaris dat ze daar niet op vooruit kon lopen,
maar volgens mij zei ze daarna dat het toch wel een grote rol gaat spelen, dus daar
ben ik alleen maar blij mee.
Tot slot. De maatschappelijke afweging is prima in handen van politici, zoals in de
eerste termijn werd gezegd. Maar wat mij betreft de technische afweging graag toch
in handen van de experts, en wat mij betreft dan ook kabinetsperiodeoverstijgend.
De voorzitter:
De heer Moorlag heeft nog behoefte? Ga uw gang.
De heer Moorlag (PvdA):
Ja, voorzitter. Waardering voor de Staatssecretaris als ze zegt dat er heel veel expertise
aan boord is als het gaat om zaken als privacy als grondrecht en mensenrecht. Ik zou
de Staatssecretaris als punt van overweging willen meegeven dat Nederland een land
van polderen is. Je ziet dat ook de bedrijven worstelen met allerlei dilemma's die
zich voordoen. Organiseer dan ook vooral de dialoog tussen het bedrijfsleven dat kunstmatige
intelligentie ontwikkelt en algoritmen toepast, en organisaties en wetenschappers
die daarbij dan ook terug kunnen praten. Nederland heeft echt een polder- en dialoogtraditie,
dus dat lijkt me echt een goede suggestie, naast luisteren, regulering, toezicht en
preventie.
De voorzitter:
Dank u wel. Heeft de heer Amhaouch nog behoefte aan een tweede termijn?
De heer Amhaouch (CDA):
Jazeker, voorzitter. Ik zou van de Staatssecretaris nog even iets willen weten over
de inzet op regionale ecosystemen. Daar hadden we het in de eerste termijn ook over:
hoe kunnen we erop sturen dat elke regio tot zijn kern komt op zijn specialisatie?
Vervolgens is het CDA altijd voorstander geweest van een inzet op 2,5% investeren
in R&D. Daarbij horen ook die sleuteltechnologieën. Wij zijn het niet eens met wat
de VVD noemt: pik nu maar twee thema's uit de innovatiemiddelen die we hebben, en
dan gaan we de innovatiegelden verdelen naar sleuteltechnologieën. Dat is een beetje
een verkapte vorm van... Tja, daar komt het wel bijna op neer, want als ik dat zou
doortrekken, zou het bijna betekenen dat we de Wbso de nek omdraaien, en dat is niet
wat we zoeken. Wat betreft talent sluit ik me wel bij de heer Wiersma aan. We moeten
daarbij wel inzicht krijgen in wat we moeten doen en wat er al loopt, en we moeten
daar actief op sturen. Talent blijft niet vanzelf.
In de eerste termijn heb ik ook fotonica genoemd. We hebben namelijk de nationale
road naar fotonica. Daarover had ik gevraagd: wat is de voortgang, wat dragen we bij
en/of lopen we daarbij on track?
En nog één punt: we vinden het heel goed dat de Staatssecretaris toegezegd heeft zich
in te zetten voor dat Europese AI-Centrum Lighthouse.
De voorzitter:
De heer Öztürk.
De heer Öztürk (DENK):
Voorzitter. Er zijn heel veel zorgen als het gaat om discriminatie en het beschermen
van mensenrechten. Ik zie dat de Staatssecretaris erover aan het nadenken is, dat
ze die zorgen een beetje heeft en min of meer daadkrachtig wil optreden. We hebben
gevraagd naar een algoritmetoezichthouder. Dit is een nieuwe sector, en daarvoor heb
je dus deskundige mensen nodig. En dan zegt de Staatssecretaris: in allerlei sectoren
heb je discriminatie waar je rekening mee moet houden. Dat klopt, maar daarom heb
je ook speciale toezichthouders, zoals de AFM. Je hebt heel veel toezichthouders.
Dit is een nieuwe ontwikkeling, en we moeten er vanaf nu al op inzetten om de zorgen
weg te nemen. Ik wil toch iets meer daadkracht van deze Staatssecretaris dan «ik geloof
erin». Ik snap dat CDA'ers geloven, en ik geloof ook, maar uiteindelijk moeten we
realistisch zijn en resultaten kunnen brengen. En dat kun je alleen maar doen door
daadkracht, duidelijkheid en transparantie te geven. Dank u.
De voorzitter:
Ik kijk naar de Staatssecretaris. Zij wil één minuut voor het ordenen van de vragen.
De vergadering wordt enkele ogenblikken geschorst.
De voorzitter:
Het woord is weer aan de Staatssecretaris.
Staatssecretaris Keijzer:
Ja, voorzitter. Ik heb het even geordend. Er kwam toch wel weer van alles op dit gebied
voorbij. Ik zal het kort aflopen. De heer Wiersma vroeg aan mij: wanneer komt die
brief waarin u ingaat op het advies van de Kenniscoalitie? Ik ben daarvoor natuurlijk
afhankelijk van de Minister van Onderwijs, maar ik vind echt dat we die eind april
wel bij de Kamer moeten hebben. Dus: eind april. Ik ga tegelijkertijd op zoek naar
wat er bij het Ministerie van OCW aan onderzoek is geweest dat ziet op de vraag waarom
PhD's, onderzoekers, promovendi, universitair docenten en andere knappe koppen naar
het buitenland vertrekken. Ik hoop dat voor de zomer bij u te hebben.
De heer Amhaouch vroeg aan mij: kijk je naar de kracht in de regio? De ecosystemen
zijn belangrijk in het kader van het verdienvermogen. Het heeft ook al in de groeibrief
gestaan, die al verstuurd is aan u, dat we moeten bekijken waar over de verschillende
delen van Nederland die deskundigheid precies ligt. Er wordt op dit moment dus aan
gewerkt, samen met verschillende industrieën, samen met regionale ontwikkelingsmaatschappijen.
Dan vroeg de heer Amhaouch naar Lighthouse. Heeft hij het dan over het Centre of Excellence
AI, of heeft hij het over fotonica?
De heer Amhaouch (CDA):
Over AI.
Staatssecretaris Keijzer:
Over AI. Dan heb ik daar volgens mij antwoord op gegeven in eerste termijn. O, het
was een compliment? Dan ga ik even rechtop zitten, voorzitter. Nou, lekker, dank u.
De heer Wiersma vroeg aan mij of inzichtelijk is te maken welke data-initiatieven
er allemaal zijn. In de update van de Digitaliseringsstrategie gaan we daarop in.
Daarbij komt er nog een zogenaamd BNC-fiche in reactie op het voorstel van de Europese
Unie op het dataonderdeel in de plannen van de Europese Commissie. Op nederlanddigitaal.nl
kunt u daar ook heel veel over vinden.
Tot slot, voorzitter. De heer Van Haga legde mij in de mond dat ik al iets gezegd
zou hebben over waar straks het geld uit het groeifonds naartoe gaat. Nee; ik zeg
nu even nadrukkelijk dat ik dat niet heb gezegd. Ik heb wel gezegd dat u van mij als
de Staatssecretaris verantwoordelijk voor innovatie, natuurlijk mag verwachten dat
de sleuteltechnologieën waar wij heel goed in zijn in de overwegingen worden meegenomen.
Maar niet meer dan dat.
En de heer Moorlag vroeg nog aan mij of ik ook vind dat het goed is dat het bedrijfsleven
niet alleen de dialoog voert met zichzelf en met de wetenschap, maar ook met ngo's.
Mijn antwoord daarop is: ja, maar ik zie het grote bedrijfsleven dat ook doen.
De voorzitter:
Er waren nog vragen van de heer Öztürk en ook de heer Wiersma.
Staatssecretaris Keijzer:
O ja, excuses.
De heer Wiersma (VVD):
Ja, want ik was benieuwd. Ik vroeg namelijk of datatoepassingen in concrete gevallen
soms oplopen tegen beperkingen in data delen. SkinVision is er zo een, met patiëntgegevens
over huidkanker. Dat soort organisaties zeiden dat ze daar allerlei middelen, instrumenten
en plekken voor hebben. Ik hoor van hen dat het juist onvoldoende is, dus ik zou willen
vragen of u dat eens op een rij kan zetten, zodat ik daar een beter beeld van kan
krijgen. Zou u dat willen doen?
De voorzitter:
Helemaal goed. Ik kijk nu even naar de heer Öztürk, want hij had volgens mij ook nog
een vraag die niet beantwoord was?
De heer Öztürk (DENK):
Ja, de vragen van VVD en CDA worden uitvoerig beantwoord; het is een beetje een coalitiedingetje.
De voorzitter:
Het is bijna 17.00 uur, dus daar ga ik niet over besluiten. Het woord is aan de Staatssecretaris.
Staatssecretaris Keijzer:
Ja. Van de heer Wiersma wil ik nog even weten wat hij precies bedoelt. Ik dacht dat
hij vroeg: welke prachtige data-initiatieven zijn er? Maar ik hoor nu dat hij iets
anders vraagt. Wat vraagt hij dan?
De heer Wiersma (VVD):
Wat ik vraag, is eigenlijk voor als je heel mooie toepassingen hebt, bijvoorbeeld
voor huidkanker. Ik noemde SkinVision: die hebben data nodig om die toepassingen te
kunnen doen. Dan heb je patiëntgegevens nodig, maar die zijn van ziekenhuizen. En
als patiënten dan zeggen dat ze dat wel willen, dan is het nog altijd de policy van
ziekenhuizen dat dat ingewikkeld kan zijn. We hebben daar geen algemene richtlijnen
voor. Maar dat hoeft ook niet, want eigenlijk wil je voor heel specifieke gevallen
waarin bepaalde data nodig zijn, helpen om het mogelijk te maken, zodat we die toepassing
ook echt kunnen uitrollen, en we voorkomen dat zo'n start-up denkt: nou, ik heb hier
niks te zoeken in Nederland, ik ga dat ergens anders doen. Dus mijn vraag is: hoe
helpen we op dit moment concrete toepassingen die aanlopen tegen data- of andere regelgeving?
Hoe helpen we hen, door misschien die regels zelfs weg te halen? U zegt: daar doen
we dingen voor. Dat geloof ik, maar ik geloof ook dat dat beter kan. Nou ja, ik zou
graag in een overzicht zien of we dat voldoende op de korrel hebben.
Staatssecretaris Keijzer:
U kent mij niet anders dan dat ik zeer graag informatie wil geven aan Kamerleden.
En hier beluister ik ook een fascinatie voor wat er allemaal kan met data. Maar tegelijkertijd
is deze vraag zo breed, dat ik denk: als ik nu «ja» zeg, wat verlangt de heer Wiersma
dan van mij? Als er bijvoorbeeld bedrijven in de life sciences – want daar hebben
we het over – oplopen tegen het niet kunnen verzamelen van data, omdat bijvoorbeeld
beweerd wordt dat er problemen zijn met privacy, dan zou ik zeggen: meld je desnoods
bij mij, meld je bij het boegbeeld, meld je bij die organisatie van de topsector life
sciences en health, om te kunnen beoordelen wat er nodig is. Zijn die bezwaren echt?
Heel veel mensen hebben het idee dat er door de AVG niets meer kan. De AVG heeft één
grote knop, en dat is «toestemming». Dus er kan juist heel veel, alleen is het vaak
nodig dat mensen weten wat er kan. En ik heb net een gesprek gehad met de AP, en die
zitten ook zo in de wedstrijd; die zijn zeer bereid om informatie te verschaffen.
De voorzitter:
De heer Wiersma.
De heer Wiersma (VVD):
Ik vroeg inderdaad of er een specifiek interventieteam kan komen waarbij je dan kunt
aankloppen. De Staatssecretaris zegt: je kunt aankloppen bij die, die en die. Ik merk
dat dat te ver weg is, dus ik vraag of er een specifiek interventieteam is. Als ze
zegt dat ze dat nu niet wil doen, dan vraag ik om een overzicht van wat we nu doen,
zodat ik kan afwegen of ik daarover een motie wil indienen.
Staatssecretaris Keijzer:
Ik vind dit echt heel lastig, want als ik «ja» zeg, dan wil ik ook doen wat er gevraagd
wordt – zo kent u mij – en op een rijtje zetten wat er nu mogelijk is. Staat u mij
toe om buiten deze vergadering helder te proberen te krijgen wat de heer Wiersma precies
van mij verlangt. Ja?
De heer Wiersma (VVD):
Ik kan vanavond!
Staatssecretaris Keijzer:
Maar ik niet. Maar zo kan ik kijken of hier een belang achter zit en dat dat dan door
kan gaan.
Dan richting de heer Öztürk: volgens mij heb ik antwoord gegeven, maar was de heer
Öztürk toen even de zaal uit. Ik heb juist aangegeven dat, als het gaat over discriminatie,
bijvoorbeeld het College voor de Rechten van de Mens zo'n organisatie is. Tot de rechtbank
kun je jezelf vervoegen. Ik heb een uitgebreid gesprek gehad met mevrouw Buitenweg,
waarin wij met elkaar hebben vastgesteld dat privacy niet alleen een individueel goed
is, maar ook een collectief goed. Ik ben het dus eens met de heer Öztürk als hij zegt
dat er discriminatie is in onze samenleving, jazeker. En eens met de heer Öztürk als
hij zegt: dat zit dan ook automatisch in algoritmen. Maar vervolgens is vooral bewustzijn
van belang, dus dat mensen zich dit bij het bouwen van algoritmen realiseren. Het
pleidooi van de heer Amhaouch – ja, ik ga de heer Öztürk nu ter wille zijn, voorzitter
– voor diversiteit van teams is daarbij belangrijk, en dat je de desbetreffende organisaties
nodig hebt om mensen te faciliteren die van mening zijn dat er onrecht gedaan wordt.
Want zoals ik net al zei: wat in de analoge wereld niet mag, mag in de digitale wereld
ook niet.
De voorzitter:
Dat lijkt mij een mooi besluit. We gaan snel door naar de toezeggingen. Er is een
aantal toezeggingen gedaan. Is het misschien handig als de leden even kijken of dit
de goede toezegging is?
− In de brief over de Kenniscoalitie zal de Staatssecretaris van EZK ingaan op het pps-voorstel
van het lid Wiersma met betrekking tot sleuteltechnologieën. Die brief zal eind april
naar de Kamer toe komen.
Ik zie dat iedereen dit herkent.
De heer Wiersma (VVD):
Ja, en de Nationale Wetenschapsagenda. Dus zowel pps wat betreft NWO als de Wetenschapsagenda.
Staatssecretaris Keijzer:
Ja, de pps-samenwerking in de NWO-gelden. Want ten aanzien van het andere onderdeel,
het laten stijgen van de pps-toeslag, kan ik heel kort zijn: daar heb ik geen dekking
voor.
De heer Wiersma (VVD):
Maar...
De voorzitter:
We gaan niet eindeloos over de toezeggingen doorpraten met elkaar. U ging nog met
elkaar spreken, dus dan kunt u het misschien ook nog even daarover hebben.
De tweede toezegging:
− De Staatssecretaris van EZK zal bij OCW nagaan of er onderzoek bestaat over de redenen
waarom promovendi naar het buitenland vertrekken, en de Kamer daarover informeren.
Er is een VAO aangevraagd en de eerste spreker zal zijn de heer Wiersma. Dit heeft
geen haast, maar dit zal wel op de regeling worden gezet.
Voldoende? Dan sluit ik nu supersnel deze vergadering. Ik dank de Staatssecretaris,
de ondersteuning en de Kamerleden voor hun aanwezigheid. Dank u wel.
Sluiting 17.04 uur.
Ondertekenaars
-
Eerste ondertekenaar
F. Azarkan, Tweede Kamerlid -
Mede ondertekenaar
D.S. Nava, griffier -
Mede ondertekenaar
P.H. van Meenen, voorzitter van de vaste commissie voor Justitie en Veiligheid -
Mede ondertekenaar
K.M. Buitenweg, voorzitter van de tijdelijke commissie Digitale toekomst -
Mede ondertekenaar
M.R.J. Rog, voorzitter van de vaste commissie voor Sociale Zaken en Werkgelegenheid -
Mede ondertekenaar
E. Ziengs, voorzitter van de vaste commissie voor Binnenlandse Zaken -
Mede ondertekenaar
O.C. Tellegen, voorzitter van de vaste commissie voor Onderwijs, Cultuur en Wetenschap
Gerelateerde documenten
Hier vindt u documenten die gerelateerd zijn aan bovenstaand Kamerstuk.