Inbreng verslag schriftelijk overleg : Inbreng verslag van een schriftelijk overleg over de kabinetsappreciatie Witboek over kunstmatige intelligentie

De vaste commissie voor Economische Zaken en Klimaat heeft een aantal vragen en opmerkingen
aan de Staatssecretaris van Economische Zaken en Klimaat voorgelegd over de kabinetsappreciatie
Witboek over kunstmatige intelligentie (Kamerstuk 26 643, nr. 680).

De ondervoorzitter van de commissie, Azarkan

De griffier van de commissie, Nava

Inhoudsopgave

I Vragen en opmerkingen vanuit de fracties

II Antwoord / Reactie van de Staatssecretaris

I Vragen en opmerkingen vanuit de fracties

Vragen en opmerkingen van de leden van de VVD-fractie

Algemeen

De leden van de VVD-fractie constateren dat het kabinet in antwoord op de initiatiefnota
Menselijke Grip op Algoritmen (Kamerstuk 35 212, nr. 2) een taskforce onderzoekt om het wettelijk kader en toezicht rondom algoritmen/Artificiële
intelligentie (AI) te onderzoeken en met voorstellen te komen. Zo’n taskforce zou
ook belangrijke input kunnen leveren aan de positionering van Nederland in de Europese
dialoog over AI. Is het kabinet het hiermee eens en kan het dit meenemen in het onderzoek
naar de genoemde taskforce?

1.1 Algemene appreciatie ecosysteem van vertrouwen

De leden van de VVD-fractie lezen dat er voor een meer diepgaande appreciatie een
verdere concretisering van de door de Commissie beoogde risicogerichte aanpak nodig
is. Wanneer wordt deze verdere concretisering verwacht?

Deze leden vragen in hoeverre de «lerende aanpak» invloed heeft op de snelheid van
de invoering van AI-toepassingen. Kan het voorkomen dat deze aanpak de invoering van
AI-toepassingen op enige manier belemmert of vertraagt? Zo ja, acht het kabinet de
dit problematisch? Wanneer het kabinet het heeft over het wegnemen van risico’s van
AI door het invoeren van wetgeving, aan welke risico’s denkt het dan? Hoe verzekert
het kabinet dat deze wetgeving geen vertraging zal oplopen ten aanzien van de invoering
van AI-toepassingen en dat de EU hierdoor niet aan concurrentievermogen verliest ten
opzichte van bijvoorbeeld de Verenigde Staten en China, waar minder strenge wetgeving
geldt en innovaties sneller de markt op kunnen komen?

4B. Richting geven aan de inspanningen van de onderzoeks- en innovatiegemeenschap

De leden van de VVD-fractie lezen dat Nederland het belangrijk vindt dat de acties
van de Commissie aansluiten bij de, door de NWO uitgebrachte, AI-onderzoeksagenda.
In hoeverre is daar nu sprake van? Wat doet het kabinet om de acties van de Commissie
aan te sturen?

4D. Focus op het mkb

Ook lezen de leden van de VVD-fractie dat een digitale innovatie per lidstaat een
hoge mate van specialisatie dient te hebben. Wat wordt hier mee bedoeld? Is het kabinet
het met deze leden eens dat innovatie dient plaats te vinden in de lidstaten die hier
het beste toe in staat zijn?

4 E. Partnerschap met de private sector

Verder lezen de leden van de VVD-fractie dat de Commissie een nieuw publiek-privaat
partnerschap op te richten voor AI. Kan het kabinet toelichten wat zij de toegevoegde
waarde van een dergelijk agentschap vindt? Hoe kan een dergelijk Agentschap complementair
zijn aan de bestaande publiek-private samenwerkingsverbanden?

Deze leden lezen dat decentrale overheden een grote rol kunnen spelen bij het integreren
van AI in de samenleving en de acceptatie daarvan. Ook lezen zij dat zij een rol kunnen
spelen in het opzetten van labs en proeftuinen. Gebeurt dit veel? Zo nee, hoe kan
dit worden gestimuleerd?

5E. Adressanten

Tot slot lezen de leden van de VVD-fractie dat het kabinet onderzoekt hoe de verantwoordelijkheid
voor bijvoorbeeld grote online platforms voor wangebruik van consumentendata vormgegeven
kan worden. Wanneer worden de uitkomsten van dit onderzoek verwacht?

Vragen en opmerkingen van de leden van de CDA-fractie

De leden van de CDA-fractie hebben kennisgenomen van kabinetsappreciatie Witboek over
kunstmatige intelligentie. Zij hebben daarover de volgende vragen en opmerkingen.

1.1 Algemene appreciatie ecosysteem van excellentie

De leden lezen dat het kabinet, samen met de Europese Commissie, signaleert dat een
technologie als AI in toenemende mate een plek krijgt in het dagelijks leven van bedrijven.
Als voorbeeld zien deze leden dat gesproken wordt over het gebruik van (zorg)data
en AI als bijdrage aan de bestrijding van infectieziekten als COVID-19. Zij vinden
dit een interessant voorbeeld. Deelt het kabinet de analyse van deze eden dat toepassing
van AI bij de bestrijding van verspreiding van infectieziekten alleen kan slagen indien
er voldoende, kwalitatief goede data beschikbaar zijn? Ziet het kabinet het spanningsveld
tussen het gebruik van dergelijke data en de privacywaarborgen waar de Europese Unie
ook voorloper in is? Kan het kabinet daarbij meenemen dat de Autoriteit Persoonsgegevens
heeft aangegeven dat telecomdata op dit moment niet mogen worden gebruikt voor dergelijke
doeleinden en dat er mogelijk een wetsaanpassing voor nodig zal zijn?

In bredere zin vragen de leden van de CDA-fractie het kabinet hoe deze borging van
grondrechten, die in Europees verband zijn opgesteld, zich verhoudt tot het voldoende
benutten van kansen die kunstmatige intelligentie kan bieden. Ziet het kabinet dat
in andere landen, waar minder waarde wordt gehecht aan privacy, de innovatie sneller
verloopt?

Om een ecosysteem van excellentie te creëren, legt Nederland de nadruk op het toepassen
van een «lerende aanpak». Kan het kabinet duidelijk maken hoe het deze voor zich ziet?

De leden van de CDA-fractie lezen dat «het kabinet Europese initiatieven ondersteunt
die zijn ingediend in de «Naar een levendig Europees netwerk van AI excellentie centers».
Op welke wijze(n) ondersteunt het kabinet deze en met welke middelen?

Ter bevordering van kennis- en innovatie voor AI kijkt het kabinet naar de mogelijkheden
van het aangekondigde groeifonds. De leden van de CDA-fractie vinden dit positief,
mede vanuit de gedachte dat we ons als Nederland uit een (economische) coronacrisis
moeten «innoveren». Heeft de coronacrisis gevolgen voor dit groeifonds? Wanneer wordt
hier meer over bekend?

1.2. Algemene appreciatie ecosysteem van vertrouwen

De leden van de CDA-fractie hebben kennisgenomen van de zes aandachtspunten waarmee
volgens het kabinet rekening moet worden gehouden. Een daarvan is het waarborgen van
Europese waarden en normen. Deze leden lezen over de mogelijkheid om een «additioneel
instrument» in het leven te roepen om deze waarden en normen te beschermen. Zij vragen
aan wat voor instrument kan worden gedacht.

Nederland pleit ervoor dat de Commissie het voortouw neemt, daar waar nodig, in het
aanpassen van internationale regelgeving of van bilaterale overeenkomsten tussen de
EU met derde landen die aan AI raken, een element dat niet opgenomen is in het witboek
maar dat volgens Nederland wel relevant is. De Leden zijn dit met het kabinet eens.
Welke bestaande internationale regelgeving en bilaterale overeenkomsten zijn op dit
moment relevant?

De leden van de CDA-fractie lezen dat ten aanzien van AI moet worden gewerkt aan het
vertrouwen en het van dienst zijn van burgers, met een rol voor lokale en regionale
overheden. Hoe ziet het kabinet dit voor zich? Zouden de Smart Industry hubs hierbij
een rol kunnen spelen?

3. Toekomstige kansen grijpen: de volgende datagolf

In de kabinetsappreciatie lezen de leden van de CDA-fractie dat er op het gebied van
datatoegang en -gebruik veel onbenut Europees potentieel is. Kan het kabinet dit onbenutte
potentieel toelichten en concretiseren?

4A. Samenwerking met de lidstaten

Dat de Verenigde Staten en Azië veel meer investeren in AI, is de leden van de CDA-fractie
bekend. Voor wat betreft de intensivering van de Europese AI-investeringen voor een
bedrag van jaarlijks 20 miljard euro per jaar vragen zij waarop dit bedrag is gebaseerd
en hoe het zich verhoudt tot de investeringen die de Verenigde Staten en Azië doen.

4B. Richting geven aan de inspanningen van de onderzoeks- en innovatiegemeenschap

De Commissie zal de oprichting van centra van excellentie en testcentra faciliteren,
waarbij Nederland het opzetten en verbinden van toonaangevende AI-centra en kennisinstellingen
belangrijk vindt. Hoe geeft het kabinet hier op dit moment al invulling aan? Is hierbij
ook aandacht voor multidisciplinariteit? Wat kan het kabinet delen over de huidige
en potentiële AI-infrastructuur in Nederland?

4C.Vaardigheden

De leden van de CDA-fractie merken op dat de Commissie wijst op de aantrekkingskracht
van een «Lighthouse Centre». Is al bekend waar en hoe dit vorm gaat krijgen? Op welke
manier(en) draagt Nederland hieraan bij?

4D. Focus op het mkb

De leden van de CDA-fractie delen het belang van AI voor het midden- en kleinbedrijf
(mkb). Hierbij spelen Smart Industry hubs en MKB-Werkplaatsen een belangrijke rol.
Kan het kabinet met cijfers toelichten hoezeer Nederland er via het huidige netwerk
Smart Industry hubs en MKB-Werkplaatsen in slaagt om AI-ondernemerschap naar het brede
mkb te brengen?

4E. Partnerschap met de private sector

Er worden 25 nieuwe posities van hoogleraren en academische benoemingen bij academische
instellingen in Nederland gecreëerd. De leden van de CDA-fractie vragen of al bekend
is welke instellingen dit betreft.

4G. Zorgen voor toegang tot data en computerinfrastructuur

De leden van de CDA-fractie lezen dat Nederland het belang van het verbeteren van
de toegang tot data onderschrijft. Hoezeer is ook aandacht voor andere aspecten van
data, zoals controle over data, eigendom en zeggenschap, en verantwoording?

5B. Mogelijke aanpassingen van bestaande EU-regelgeving

De Commissie analyseert dat AI-toepassingen door een breed kader aan EU-wetgeving
worden gereguleerd, waaronder wetgeving op het gebied van productveiligheid en -aansprakelijkheid,
de fundamentele rechten, anti-discriminatiewetgeving, het gegevensbeschermingsrecht
en het mededingingsrecht. Ziet het kabinet nog lacunes in de wetgeving, die zouden
moeten worden gevuld?

5D. Types eisen

De leden van de CDA-fractie lezen dat Nederland ervoor zal pleiten dat in de ontwikkelfase
van AI wordt toegestaan dat (bijzondere) persoonsgegevens worden verwerkt «voor zover
dat noodzakelijk is om discriminerende effecten tegen te gaan». Kan het kabinet dit
verduidelijken? Met welke waarborgen is dergelijke toestemming omkleed? Hoe en wanneer
is er duidelijkheid over wat er moet gebeuren in situaties waar een AI-toepassing
getraind is met onrechtmatig verkregen data?

5E. Adressanten

De leden van de CDA-fractie steunen het kabinet bij het versterken van de positie
van de digitale consument door deze centraal te stellen in het ontwikkelen en reguleren
van B2C-toepassingen van online algoritmes. Het kabinet noemt hiervan verschillende
voorbeelden, zoals transparantieverplichtingen, recht op uitleg, grotere zeggenschap
van consumenten op algoritmes en recht tot bezwaar en rectificatie. Hoe gaat het kabinet
hier concreet werk van maken? Bestaan bijvoorbeeld een agenda en tijdspad om dit te
realiseren? Daarnaast onderzoekt het kabinet hoe de verantwoordelijkheid voor bijvoorbeeld
grote online platforms voor wangebruik van consumentendata vormgegeven kan worden.
Wanneer wordt hier meer over bekend?

Vragen en opmerkingen van de leden van de GroenLinks-fractie

De leden van de GroenLinks-fractie hebben met interesse kennisgenomen van het Witboek
Kunstmatige Intelligentie van de Europese Commissie en de kabinetsreactie daarop.
Zij hebben nog enige vragen hierover.

1.1 Algemene appreciatie ecosysteem van excellentie

De leden van de GroenLinks-fractie vragen het kabinet nader in te gaan op de «lerende
aanpak» die Nederland voorstaat. Bij een leerproces hoort ook het maken van fouten.
Hoe gaat het kabinet zorgen dat die fouten snel worden opgespoord en gecorrigeerd?
Deze leden zijn van mening dat transparantie daarbij van groot belang is. In hoeverre
is het bevorderen van transparantie door middel van de ethische richtsnoeren waar
het kabinet naar verwijst, daarbij voldoende? Overweegt het kabinet om de Europese
Commissie mee te geven dat transparantie over AI-toepassingen wettelijk moet kunnen
worden afgedwongen?

Ook vragen deze leden wat het kabinet precies verstaat onder «transparantie» in de
context van AI. Gaat het dan slechts over uitlegbaarheid van algoritmes, of ook over
technische transparantie, zoals het openbaren van de broncode, gebruikte datasets
en trainingsdata? Indien transparantie zich beperkt tot uitlegbaarheid, hoe kan je
je hier als burger toe verhouden? Wordt er over nagedacht of een toezichthouder altijd
toegerust moet zijn om het systeem te kunnen doorgronden, ook op verzoek van individuen
daartoe?

4C.Vaardigheden

De leden van de GroenLinks-fractie steunen de inzet om het versnipperende landschap
van Europese kennisinstellingen op het gebied van AI tegen te gaan en het idee om
een coördinerend «Lighthouse Centre» op te zetten. Is daar al meer over bekend? Dergelijke
coördinatie moet ook voorkomen dat alle lidstaten op overlappende wijze met dezelfde
subthema’s aan de slag gaan. Op welke thema’s zou Nederland zich willen richten?

4F. Het stimuleren van het gebruik van AI in de publieke sector

De leden van de GroenLinks-fractie onderschrijven dat AI-toepassingen ook van nut
kunnen zijn in de publieke sector. Zij hebben echter wel grote zorgen over de manier
waarop dit punt (4F) is gepresenteerd in het witboek van de Commissie. Het is, volgens
het witboek, essentieel dat publieke instellingen snel beginnen met het inzetten van
AI-toepassingen. Er wordt niet gerefereerd aan de risico’s hiervan. Daarnaast zijn
deze leden van mening dat, zeker in de publieke sector, het eventueel inzetten van
AI-toepassingen altijd onderdeel moet zijn van een bredere strategie om bepaalde vooraf
gestelde doelstellingen te behalen. We moeten waken voor het inzetten van AI zonder
goede reden, of alleen omdat het arbeidskrachten kan besparen. Is het kabinet bereid
om deze zorgen op te nemen in de kabinetsappreciatie?

Voorts vragen deze leden of het kabinet kan reflecteren op de zorgen dat AI vaak leidt
tot het vergroten van de sociale ongelijkheid. Volgens de Amerikaanse politicologe
Virginia Eubanks heeft dit onder andere te maken met het feit dat datasets per definitie
nooit neutraal zijn. Hoe ziet het kabinet dit?

De leden van de GroenLinks-fractie vragen waarom de kabinetsappreciatie niet ingaat
op punt 4H van het witboek over internationale aspecten van AI? Deze leden delen de
analyse van de Europese Commissie dat Europa een goede positie heeft om met gelijkgezinde
niet-Europese landen op te trekken op dit gebied. Tegelijkertijd vragen deze leden
zich af hoe Europa om zal gaan met niet-gelijkgezinde landen. Zij lezen daar niets
over terug. Is het kabinet bereid om dit punt toe te voegen aan de kabinetsappreciatie
en de Europese Commissie te verzoeken om een strategie uit te werken hoe om te gaan
met bedrijven, producten en diensten van buiten de Europese Unie die op het gebied
van AI niet voldoen aan de Europese benadering?

5B. Mogelijke aanpassingen van bestaande EU-regelgeving

De leden van de GroenLinks-fractie delen de analyse van de Commissie dat er lacunes
bestaan in het huidige wettelijk kader, met name op het gebied van transparantie,
uitlegbaarheid, herleidbaarheid en menselijk toezicht. Ook verwelkomen zij de kabinetsappreciatie
die het bestaan van dergelijke lacunes erkent. Op welke termijn kan additionele wetgeving
worden verwacht?

5C. Reikwijdte van een toekomstig EU-regelgevingskader

De leden van de GroenLinks-fractie kunnen zich vinden in de twijfels die het kabinet
heeft bij de sector-gebaseerde benadering die de Commissie voorstelt om «hoog-risico»
AI-toepassingen te identificeren. Dit mag er namelijk niet toe leiden dat risico’s
in andere sectoren over het hoofd worden gezien. Tegelijkertijd kan het categoriseren
van toepassingen wel degelijk van nut zijn om een gedifferentieerde behandeling mogelijk
te maken. Zo zou voor bepaalde toepassingen van extreem hoog risico een verbod moeten
worden overwogen. Wanneer kan de Kamer de nadere bezinning op het concretiseren van
de risicobenadering, waar het kabinet aan refereert, tegemoetzien?

5D. Types eisen

De leden van de GroenLinks-fractie kunnen zich in algemene zin goed vinden in de types
eisen die de Europese Commissie heeft voorgesteld. In de kabinetsreactie staat dat
Nederland ervoor zal pleiten dat in de ontwikkelfase van AI wordt toegestaan dat bijzondere
persoonsgegevens worden verwerkt. Kan het kabinet hier nader op ingaan? Hoe verhoudt
dat zich tot de AVG?

Kan het kabinet ook nader ingaan op het Nederlandse standpunt inzake biometrische
identificatie? Het kabinet lijkt te suggereren dat sommige toepassingen van gezichtsherkenning
met gebruik van AI geen hoog risico kennen, terwijl de Europese Commissie stelt dat
alle toepassingen van biometrische identificatie als «hoog-risico» moeten worden aangemerkt.
Kan het kabinet nader ingaan op dit verschil?

Kan het kabinet ook ingaan op de toepassing van AI voor het produceren van «deepfake»-video’s?
Kan dit automatisch worden aangemerkt als «hoog-risico»? Hoe kijkt het kabinet hiernaar
en is het bereid om in de kabinetsappreciatie de Commissie op te roepen om dit punt
mee te nemen?

5F. Naleving en handhaving

De leden van de GroenLinksfractie kunnen zich goed vinden in het voorstel van de Commissie
voor een voorafgaande conformiteitsbeoordeling voor AI-toepassingen met een hoog risico.
Het kabinet schrijft dat het de voorkeur heeft om uit te gaan van reeds bestaande
instrumenten en dat zelfregulering ook een optie kan zijn. Hoe verhoudt dit zich tot
de erkenning dat er lacunes bestaan in het huidige wettelijk kader met betrekking
tot AI? Onder welke omstandigheden vindt het kabinet zelfregulering een optie?

5H. Governance vraagstukken

De leden van de GroenLinks-fractie ondersteunen de inzet van de Commissie dat de governancestructuur
rond AI op Europees niveau moet zorgen voor de participatie van alle betrokken stakeholders,
inclusief het maatschappelijk middenveld en academici uit verschillende vakgebieden.
Is het kabinet bereid om dit punt ook te benadrukken in de kabinetsappreciatie? Op
welke manier worden Nederlandse stakeholders uit deze sectoren betrokken in de Europese
governancestructuur rond AI?

Tenslotte missen de leden van de GroenLinks-fractie, zowel in het Witboek van de Europese
Commissie als in de kabinetsappreciatie daarvan, een bespiegeling op de langeretermijn
effecten van AI. Daarbij valt te denken aan de effecten op de democratie en de rechtsstaat,
op de arbeidsmarkt en economie. Is het kabinet bereid om dit punt op te nemen in de
kabinetsappreciatie en de Commissie op te roepen om de langeretermijneffecten scherp
in beeld te houden en daar ook voortdurend onderzoek naar te doen?

II Antwoord / Reactie van de Staatssecretaris