Inbreng verslag schriftelijk overleg : Inbreng verslag van een schriftelijk overleg over Raad van Europa verdrag over AI, mensenrechten, democratie en de rechtsstaat (Kamerstuk 21501-33-1006)

Binnen de vaste commissie voor Digitale Zaken hebben enkele fracties de behoefte om
enkele vragen en opmerkingen voor te leggen aan de Staatssecretaris van Binnenlandse
Zaken en Koninkrijksrelaties over de brief Raad van Europa verdrag over AI, mensenrechten,
democratie en de rechtsstaat (Kamerstukken 21 501-33 en 26 643, nr. 1006).

De voorzitter van de commissie,

Kamminga

Adjunct-griffier van de commissie,

Muller

Inhoudsopgave

I

Vragen en opmerkingen vanuit de fracties

2

Vragen en opmerkingen van de leden van de VVD-fractie

2

Vragen en opmerkingen van de leden van de D66-fractie

3

Vragen en opmerkingen van de leden van de PVV-fractie

4

Vragen en opmerkingen van de leden van de CDA-fractie

4

Vragen en opmerkingen van de leden van de SP-fractie

5

Vragen en opmerkingen van de leden van de GroenLinks-fractie

6

Vragen en opmerkingen van de leden van de Volt-fractie

7

Vragen en opmerkingen van de leden van de BBB-fractie

8

II

Antwoord / Reactie van de Staatssecretaris

8

I Vragen en opmerkingen vanuit de fracties

Vragen en opmerkingen van de leden van de VVD-fractie

De leden van de VVD-fractie hebben met belangstelling kennisgenomen van de brief van
de Staatssecretaris over het Verdrag van de Raad van Europa over AI, mensenrechten,
democratie en rechtsstaat. Graag willen deze leden de Staatssecretaris daarover enkele
vragen stellen.

De leden van de VVD-fractie hechten grote waarde aan de regulering van het gebruik
van artificiële intelligentie (AI) ter bescherming van de mensenrechten, democratie
en rechtsstaat.

De leden van de VVD-fractie constateren dat de Europese Commissie mandaat heeft gekregen
om in het kader van de Raad van Europa namens de EU-lidstaten te onderhandelen over
onderwerpen in het (kader)verdrag die onder de exclusieve bevoegdheid van de EU vallen.
Daarnaast treedt Nederland op een aantal punten, zoals de bescherming van mensenrechten,
extra waarborgen voor burgers en verbeterde rechtsbescherming, zelf op als onderhandelingspartner.
Kan nader worden aangegeven waar het hier concreet om gaat? Nemen ook andere EU-landen
zo’n positie in en op welke punten richten die landen zich bij de onderhandelingen
over het AI-verdrag? Als Nederland en eventueel andere landen ook zelfstandig gaan
onderhandelen, kunnen er verschillen tussen de EU-landen ontstaan. Hoe verhoudt dat
zich tot de op te stellen AI-verordening van de Europese Unie? Hoe wordt voorkomen
dat er verschillen tussen de EU-landen ontstaan?

De leden van de VVD-fractie vragen verder aan de Staatssecretaris welke onderdelen
van het AI-verdrag niet onder de exclusieve bevoegdheid van de EU vallen. Deze leden
vragen ook wat de gevolgen zijn van het AI-verdrag voor het EU-handvest van de grondrechten.

De leden van de VVD-fractie lezen dat de CAHAI (Ad hoc Committee on Artificial Intelligence)
op 2 december 2021 concludeerde dat er een Raad van Europa instrument nodig is met
fundamentele principes voor de bescherming van menselijke waardigheid en het respect
voor mensenrechten, democratie en de rechtsstaat bij de ontwikkeling, het ontwerp
en het gebruik van AI-systemen. Inmiddels zijn we 1,5 jaar verder en heeft het gebruik
van (generatieve) AI-systemen een vlucht genomen. Deze leden lezen ook dat een concept-verdrag
op zijn vroegst pas in het najaar van 2023 ter goedkeuring wordt voorgelegd aan het
Comité van ministers. Hoe taxeert de Staatssecretaris de toevlucht van het gebruik
van steeds slimmer wordende AI-systemen terwijl er nog geen regels zijn voor het gebruik
van AI-systemen ter bescherming van mensenrechten, democratie en de rechtsstaat? Wordt
de inhoud van het verdrag ook zodanig ingericht dat het toekomstbestendig is? Deelt
de Staatssecretaris de mening dat er in de toekomst voortschrijdende acties nodig
zijn om dit soort situaties te voorkomen?

De leden van de VVD-fractie concluderen dat de werking van AI-systemen geen grenzen
kent. Vele AI-systemen komen van de hand van makers uit niet-EU-landen. Welke garanties
kan de Staatssecretaris bieden dat de werking van dit verdrag ook voor de makers van
AI-systemen uit niet-EU-landen geldt? Is de Staatssecretaris bereid om te pleiten
voor hardere garanties bij de totstandkoming van het AI-verdrag?

De leden van de VVD-fractie lezen dat er in het Raadscompromis nieuwe bepalingen zijn
toegevoegd om specifieker rekening te houden met generatieve AI. Zo wordt in de tekst
gespecificeerd dat als de maker zich kan voorstellen dat zijn AI gebruikt gaat worden
in een hoog-risico domein, hij zich aan de hoog-risico regels moet houden. Worden
er voorwaarden gecreëerd voor de makers van generatieve AI waaraan zij hun verwachtingen
kunnen leggen om te bepalen of zijn AI gebruikt gaat worden in een hoog-risico domein?
Hoe verhoudt deze bepaling zich tot makers van generatieve AI uit niet-Europese landen?
Hoe verhoudt het komende AI-verdrag zich tot bestaande AI-systemen? Dienen deze bestaande
AI-systemen te voldoen aan de eisen in het AI-verdrag of geldt dit alleen voor toekomstige
AI-systemen?

De leden van de VVD-fractie vragen de Staatssecretaris de Kamer te informeren over
het vervolg van de onderhandelingen over het AI-verdrag van de Raad van Europa, bijvoorbeeld
via de kwartaalrapportage lopende wetgevingsonderhandelingen.

Vragen en opmerkingen van de leden van de D66-fractie

De leden van de D66-fractie hebben met interesse kennisgenomen van de brief van de
Staatssecretaris en de nulversie van het verdrag van de Raad van Europa. Deze leden
achten het van toegevoegde waarde dat de Raad van Europa een parallel verdrag opstelt
waarin de beginselen staan vervat waaraan AI-toepassingen aan moeten voldoen op het
gebied van mensenrechten, democratie en de rechtstaat. Het biedt de kans om, naast
de AI-verordening, fundamentele criteria op te stellen die zodoende richting geven
in de uitleg van de verordening, wat deze leden betreft. De leden hebben nog enkele
vragen.

De leden van de D66-fractie constateren dat uit de brief en de nulversie van het verdrag
het duidelijk wordt dat de Europese Commissie (EC) gemandateerd is om namens de lidstaten
te onderhandelen. Hier is voor gekozen omdat er een mogelijke overlap zit tussen de
AI-verordening en het voorliggende verdrag. Het roept bij deze leden wel enige vragen
op over het verdere proces en de mogelijkheid tot beïnvloeding. Uit de brief van Staatssecretaris
blijkt dat de nulversie opgesteld is door de «drafting group». Kan de Staatssecretaris
toelichten welke bijdrage wij als lidstaat aan die drafting group hebben gedaan? Ook
staat in de beslisnota het volgende: «Pas eind 2022 is in EU verband een besluit genomen
over het mandaat voor de EU, en onze inzet bij dit verdrag is daarvan afhankelijk
omdat het iets zegt over de ruimte en manier die er is voor lidstaten om invloed uit
te oefenen op de onderhandelingen. Omdat de EU een mandaat heeft om te onderhandelen,
zal de inzet voor een deel afhankelijk zijn van wat in EU verband op dit onderwerp
wordt geregeld.» Kan de Staatssecretaris toelichten hoe dit mandaat onze inzet bij
dit verdrag beïnvloedt en waarom we in onze inbreng afhankelijk zijn van wat er in
EU-verband wordt geregeld? Deze leden constateren dat er in april een volgende vergadering
is over het verdrag, waarin een nieuwe slag wordt gemaakt. Wat zal daarin onze inbreng
zijn en in hoeverre is er ruimte voor de Kamer om daar vooraf geïnformeerd over te
worden? Deelt de Staatssecretaris de mening dat er ruimte moet zijn om input te leveren
voor deze inbreng?

Uit de brief van de Staatssecretaris blijkt dat er is gekozen om eerst de fundamentele
basis te leggen voor de nulversie, alvorens de controversiële onderwerpen worden onderhandeld
en besloten. Kan zij aan de leden van de D66-fractie toelichten welke onderwerpen
dit zullen zijn en hoe zij daar de Kamer in gaat meenemen? Ziet zij in de huidige
nulversie al onderwerpen die als zodanig kunnen worden beschouwd, en zo ja, welke
zijn dat dan?

De leden van de D66-fractie constateren dat er een andere definitie van «artificial
intelligence» in het verdrag wordt gehanteerd dan in de AI-act; in de laatstgenoemde
worden generatieve AI ook geïncludeerd, maar in het voorliggende verdrag niet. Kan
de Staatssecretaris daarop reflecteren en vindt zij dat er een uniforme definitie
gehanteerd zou moeten worden?

De leden van de D66-fractie constateren dat het definitieve verdrag zich in nationale
wetgeving moet doorvertalen. Volgens de planning zou het definitieve verdrag eind
2023 gereed moeten zijn. Welke stappen kan de Staatssecretaris nu al zetten om de
voorbereiding op nationale wet- en regelgeving te versnellen? In hoeverre zullen de
implicaties van het verdrag al geldig zijn in Nederland, zo lang dit niet is omgezet
tot nationale wetgeving?

De leden van de D66-fractie willen graag van de Staatssecretaris weten in hoeverre
nu al bestaande en gebruikte AI (zowel gebruikt door bedrijven als de overheid) in
retroperspectief worden doorgelicht op basis van nieuwe wetgeving, zodra deze in werking
treedt.

Tenslotte, in de nulversie van het verdrag staat opgenomen dat er nationale toezichthouders
worden aangesteld om de naleving te monitoren. De leden van de D66-fractie vragen
of de Staatssecretaris kan toelichten welke stappen zij neemt om te onderzoeken waar
deze taak het beste belegd kan worden.

Vragen en opmerkingen van de leden van de PVV-fractie

De leden van de PVV-fractie hebben kennisgenomen van de stukken en hebben daarover
in dit stadium geen vragen.

Vragen en opmerkingen van de leden van de CDA-fractie

De leden van de CDA-fractie hebben enkele vragen over de brief van de Staatssecretaris
over de onderhandelingen in de Raad van Europa over het AI-verdrag. Deze leden constateren
dat in het coalitieakkoord staat dat Nederland in Europa het voortouw neemt om zich
in te zetten voor de mensgerichte inzet van kunstmatige intelligentie: dit zijn AI-systemen
die de mens dienen, veilig zijn en vertrouwd kunnen worden, die ingezet worden met
respect voor publieke waarden en mensenrechten en waarbij een goede rechtsbescherming
verzekerd is. Deze leden vragen hoe de Staatssecretaris dit voortouw vormgeeft, naast
het EU-mandaat voor de onderhandelingen.

De leden van de CDA-fractie lezen dat er begin 2023 is besloten om naast de plenaire
vergadering een «drafting» groep op te richten. Deze leden vragen wie in de drafting
groep zitten. Deze leden vragen tevens of er ook een vertegenwoordiger namens Nederland
lid van de drafting groep is en, zo nee, waarom niet.

De leden van de CDA-fractie lezen dat tijdens het plenaire deel van de vergadering
hoofdstukken uit het conceptverdrag worden besproken, besluiten worden genomen, en
dat er naast (mogelijke) verdragspartijen ook NGO’s (niet-gouvernementele organisaties)
aanwezig zijn die ook tekstvoorstellen kunnen doen. Deze leden vragen welke NGO’s
aanwezig zijn en mee kunnen praten.

De leden van de CDA-fractie vragen hoe geborgd wordt dat er niet alleen aandacht is
voor privacy, maar dat er ook aandacht wordt besteed aan opsporing indien AI gebruikt
wordt door mensen en groepen met verkeerde intenties. In dat kader vragen deze leden
of er ook vertegenwoordigers van bijvoorbeeld het opsporingsapparaat en het Openbaar
Ministerie meedenken en meepraten in de «drafting» groep of op een andere wijze.

De leden van de CDA-fractie constateren dat Nederland en de andere EU-lidstaten de
Europese Commissie hebben gemandateerd om te onderhandelen over het AI-verdrag. Deze
leden lezen dat in het uiteindelijke mandaatbesluit is afgesproken dat lidstaten zeggenschap
houden over nationale bevoegdheden zoals nationale veiligheid. Zij vragen wat dit
precies betekent wanneer er verschillen bestaan tussen twee lidstaten over hoe om
te gaan met «mensenrechten, democratie en de rechtstaat» bij het gebruik van AI. De
leden van de CDA-fractie noemen het voorbeeld dat lidstaat A meer mogelijkheden toestaat
in het gebruik van AI dan lidstaat B omdat lidstaat B daar een gevaar in ziet voor
het functioneren van de rechtstaat. Een inwoner van land A past AI toe binnen de wettelijke
grenzen van lidstaat A, maar zet het in lidstaat B. Deze leden vragen of de acties
van de inwoner van land A dan beoordeeld worden door lidstaat A of dat lidstaat B
kan vragen aan lidstaat A om de inwoner uit te leveren. Zij vragen of de Staatssecretaris
op dit voorbeeld wil ingaan. De leden van de CDA-fractie vragen of de Staatssecretaris
wil toelichten hoe Nederland hier in de onderhandelingen over het verdrag invloed
op uitoefent en hoe dit wordt vormgegeven buiten het EU-mandaat.

De leden van de CDA-fractie vragen hoe de Staatssecretaris aankijkt tegen het idee
van «Ethics by design». Dit idee houdt in dat AI moet voldoen aan ethische richtlijnen
bij de ontwikkeling ervan, en dat wanneer het niet aan deze richtlijnen voldoet, het
niet binnen Europa kan worden toegestaan.

De leden van de CDA-fractie vragen of de Staatssecretaris wil ingaan op wat het verdrag
zou moeten regelen met betrekking tot generatieve AI-systemen zoals ChatGPT, die kunnen
worden gebruikt als basis voor meer gespecialiseerde AI-systemen. Deze leden vragen
aan welke eisen deze systemen moeten voldoen en of de AI-verordening van de Europese
Unie hier mogelijk nog op wordt aangepast. Deze leden vragen of de Staatssecretaris
de positie van het kabinet en van de EU op dit punt wil toelichten.

De leden van de CDA-fractie vragen in hoeverre de EU de aanbevelingen van de European
Data Protection Supervisor (EDPS) ten aanzien van biometrische identificatie en sociaal
scoren overneemt, zodat de verboden hiervoor niet alleen gelden voor «realtime» biometrische
identificatie en niet alleen voor overheden maar ook voor bedrijven.

Vragen en opmerkingen van de leden van de SP-fractie

De leden van de SP-fractie hebben de brief over het AI-verdrag van de Raad van Europa
gelezen en hebben hierover nog enkele vragen en opmerkingen.

De leden van de SP-fractie zijn positief over de aandacht die de ontwikkeling van
AI krijgt, omdat deze toepassingen ingrijpende gevolgen kunnen hebben voor het leven
van mensen en voor de samenleving als geheel. Deze leden vragen in dat kader naar
het uitgangspunt van dit kabinet dat alles wat digitaal kan, ook digitaal uitgevoerd
wordt. Deze leden maken zich zorgen over dit principe omdat menselijke waardigheid
en menselijk contact van wezensbelang zijn voor het functioneren van de samenleving.
Kan de Staatssecretaris hierop reflecteren?

De leden van de SP-fractie lezen verder dat er wordt gesproken om sociale ratingsystemen
te verbieden, onder andere door de Europese toezichthouder. Zij pleiten ervoor het
verbod op sociaal scoren uit te breiden naar bedrijven. Deze leden vragen naar het
standpunt van het kabinet hierover. De leden van de SP-fractie zien ook dat sociale
scoringssystemen kunnen leiden tot uitsluiting en discriminatie en vinden een verbod
wenselijk. In hoeverre zou een dergelijk verbod bijvoorbeeld ook bedrijven als Uber
kunnen raken, waarbij de klant de taxichauffeur een score toebedeelt en de klant eveneens
een rating ontvangt? Welke waarborgen zouden daaromtrent volgens de Staatssecretaris
voor moeten gelden?

De leden van de SP-fractie lezen dat er een doeltreffend rechtsmiddel open moet staan
voor getroffen actoren. Deze leden zijn hier voorstander van maar vragen ook of dit
voldoende geborgd is. Rechtsmiddelen zouden laagdrempelig toegankelijk moeten zijn
en zij zien dat dit nu niet het geval is. Kan de Staatssecretaris daarop ingaan?

De leden van de SP-fractie lezen voorts dat AI-systemen niet mogen discrimineren.
Dat onderschrijven deze leden uiteraard volledig maar zij zien ook de gevaren dat
dit vrijwel onmogelijk is om te voorkomen. Kan de Staatssecretaris daarop reflecteren?
De vooroordelen van mensen worden immers ook ingebouwd in systemen en kunnen verder
versterkt worden door de rekenkracht van een AI-systeem. De leden van de SP-fractie
vragen in dat kader ook naar het toezicht, want welke instantie zou de toets («HUDEIRA»)
moeten uitvoeren en is deze instantie daar voldoende op toegerust volgens de Staatssecretaris?

Vragen en opmerkingen van de leden van de GroenLinks-fractie

De leden van de fractie van GroenLinks hebben met belangstelling kennisgenomen van
de «nulversie» en de kabinetsbrief. Deze leden hebben hierover op dit moment enkele
vragen.

De leden van de fractie van GroenLinks onderschrijven het belang van internationale
afspraken over AI en vinden het daarom waardevol dat hier ook buiten EU-verband afspraken
over worden gemaakt. Deze leden vragen wel een nadere beschouwing van het kabinet
over hoe de toekomstige EU regels over AI en de regels uit het verdrag van de Raad
van Europa zich straks tot elkaar verhouden en wat de concrete juridische gevolgen
zijn van het voorliggende Raad van Europa verdrag voor de lidstaten. En wat gebeurt
er in juridische zin als het straks onverhoopt zo is dat EU-wetgeving en het verdrag
van de Raad van Europa tegenstrijdige regels kennen?

De leden van de fractie van GroenLinks constateren dat de EU onderhandelt namens de
EU-lidstaten over het verdrag bij de Raad van Europa. Hiermee is de EU de grootste
partij in deze onderhandelingen. Kan het kabinet, zo vragen deze leden, schetsen hoe
de andere onderhandelende partijen bij dit verdrag zich tot nu toe hebben gepositioneerd
ten aanzien van AI-regelgeving? En kan het kabinet ook nader ingaan op AI-regelgeving
in andere werelddelen, zoals bijvoorbeeld in Amerika en Azië? Op welke wijze zet de
EU en het Nederlandse kabinet zich in voor een sterke verankering van mensenrechten,
democratie en rechtsstaat in mondiale regelgeving over AI?

De leden van de fractie van GroenLinks kijken met veel belangstelling naar de onderhandelingen
tussen de Europese Commissie, de lidstaten en het Europees parlement over AI. Kan
de Staatssecretaris hier een actuele stand van zaken over geven en kan de Staatssecretaris
hierbij ook expliciet ingaan op hoe de onderhandelingen over regelgeving rondom generatieve
AI zich ontwikkelen en de positie van de Nederlandse regering op dit vlak nader toelichten?

Tot slot vragen de leden van de fractie van GroenLinks hoe de Kamer geïnformeerd wordt
over het verloop van de onderhandelingen.

Vragen en opmerkingen van de leden van de Volt-fractie

De leden van de Volt-fractie hebben kennisgenomen van de concept verdragstekst van
het AI-verdrag van de Raad van Europa (RvE) en de bijgaande brief van de Staatssecretaris
van BZK. Daarover hebben deze leden enkele vragen, die ook gaan over de huidige staat
van AI-regulering in Nederland.

Het kabinet heeft haar positie in het BNC-fiche en de technische briefing kort toegelicht.
Daarin stelt zij enkele doelen, waaronder: (i) Samenhang bewaken met de positie in
de EU op de AI-verordening; (ii) Stevige verankering van mensenrechten met behoud
van mogelijkheden voor innovatie; en (iii) Belang van mondiale werking. Kan de Staatssecretaris
toelichten hoe zij voornemens is deze drie doelen te behalen? Welke concrete acties
onderneemt zij daarvoor en zijn er gelijkgestemde landen waar Nederland mee op kan
trekken? Welke rol kan de Tweede Kamer volgens het kabinet spelen bij het behalen
van deze doelen? Als laatste: ten aanzien van de verankering van mensenrechten geeft
de Staatssecretaris aan ruimte te willen houden voor innovatie. Die lijn kunnen de
leden goed volgen, maar zij horen graag welke concrete grenzen het kabinet daarbij
stelt.

Inhoud van het verdrag

I Scope: AI-gebruik in gevoelige contexten en essentiële gebieden

De scope van het AI-verdrag is in de concepttekst breed geformuleerd. Dat is goed,
want mensenrechten en fundamentele vrijheden hebben ook een breed bereik. Kan de Staatssecretaris
aangeven aan de leden van de Volt-fractie welke gebieden volgens haar niet onder de scope van het verdrag zouden moeten vallen? Waarom is dat het geval?

II en III Verplichtingen voor lidstaten

De leden van de Volt-fractie constateren dat in onderdelen II en III de verplichtingen
voor de lidstaten en overheden zijn opgenomen. De Staatssecretaris heeft eerder aangegeven
niet te lang te willen wachten met het nemen van bepaalde maatregelen om de risico’s
voor (negatieve) impact van AI te beperken. Dan denken we aan discriminerende AI of
bijvoorbeeld AI-toepassingen die een negatief effect hebben op de democratie. Kan
de Staatssecretaris aangeven in hoeverre Nederland al voldoet aan de verplichtingen
die in onderdelen II en III zijn opgenomen en op welke terreinen nog het meeste werk
nodig is? Voldoet Nederland al aan de positieve verplichting om de rechten uit het
EVRM (Europees Verdrag voor de Rechten van de Mens) – en in de toekomst dit verdrag
– te beschermen?

De leden van de Volt-fractie vragen hiernaast: Welke inspanningen levert het kabinet
om bijvoorbeeld ervoor te zorgen dat de individuele vrijheden, menselijke waardigheid
en autonomie zoals bedoeld in art. 9; de toegang tot het publieke debat en het democratisch
proces zoals bedoeld in art. 10; en het behoud van publieke gezondheidszorg en het
milieu worden geborgd en beschermd tegen negatieve gevolgen van AI-toepassingen? Kan
de Staatssecretaris tevens aangeven of zij alle verplichtingen uit onderdelen II en
III steunt? En zo niet, welke niet en waarom niet? Stel dat bepaalde verplichtingen
niet in de definitieve verdragstekst komen, maar de Staatssecretaris deze toch van
belang acht. Gaat zij zich dan inspannen om die verplichtingen alsnog in Nederland
door te voeren?

IV Fundamentele principes van ontwerp, ontwikkeling en toepassing van AI

Hoe verhoudt de mogelijkheid in de concepttekst om bepaalde AI-systemen een halt toe
te roepen zich tot het EU-recht met betrekking tot vrijheid van ondernemerschap en
de bepalingen uit de concept AI-verordening? Denkt de Staatssecretaris dat deze bepalingen
juridisch houdbaar zijn?

In onderdeel IV staan fundamentele principes voor ontwerp, ontwikkeling en toepassing
van AI-systemen. De Volt-fractie is benieuwd hoe de Staatssecretaris oordeelt over
de tekst van artikel 12 en in hoeverre Nederland daar op dit moment aan voldoet. Het
kabinet heeft immers uitgesproken de strekking van wat in dit artikel staat te ondersteunen.

Regels voor generatieve AI

De leden van de Volt-fractie achten het onwaarschijnlijk dat generatieve AI-toepassingen
als ChatGPT niet onder de scope van de concepttekst zullen vallen, gelet op de (mogelijke)
inbreuk die het maakt op fundamentele rechten en vrijheden zoals bedoeld in art. 4
lid 1 van de concepttekst. Hoe denkt de Staatssecretaris dat dit eventuele AI-verdrag
de ontwikkeling van dergelijke toepassingen positief en/of negatief zal beïnvloeden?
Denkt de Staatssecretaris dat dergelijke bestaande toepassingen onder het verdrag
zullen vallen gelet op de scope zoals bedoeld in art. 4 lid 2?

Tot slot de vraag van de leden van de Volt-fractie of de Staatssecretaris de Kamer
kan informeren over het vervolg van de onderhandelingen over het AI-verdrag van de
Raad van Europa, telkens voorafgaand aan het moment dat er belangrijke beslissingen
worden genomen.

Vragen en opmerkingen van de leden van de BBB-fractie

Het lid van de BBB-fractie heeft kennisgenomen van de toegezonden documenten met betrekking
tot het verdrag van de Raad van Europa dat gaat over AI, mensenrechten, democratie
en de rechtstaat.

In Europa wordt op dit moment gewerkt aan het comité voor Artificiële Intelligentie
(CAI). Dit is een comité van de Raad van Europa en zij stellen een (kader) verdrag
op over AI, mensenrechten, democratie en de rechtsstaat.

Het lid van de BBB-fractie leest het volgende in de brief van de Staatssecretaris:
«Omdat de EU ook wetgeving op dit onderwerp voorbereidt en de EU-lidstaten gezamenlijk
een belangrijke stem hebben binnen de Raad van Europa heeft de CAI een aantal keer
haar werkproces en planning moeten bijstellen, zodat EU-lidstaten niet aan tegenstrijdige
verplichtingen gebonden worden.» Wat is de Nederlandse visie op de wetgeving die hier
gemaakt wordt?

Verder constateert het lid van de BBB-fractie dat er over de Nederlandse inzet geschetst
wordt dat Nederland het voortouw neemt en dat de Staatssecretaris een aantal eisen
stelt aan waar het verdrag moet voldoen. Daarbij stelt de Staatssecretaris ook dat
wij de Europese Commissie een mandaat moeten verlenen en dat Nederland zich inzet
voor een AI-verordening. Dit zijn in principe heldere formuleringen, maar wat is nu
de langetermijnvisie van het kabinet omtrent Artificiële Intelligentie?

Het streven van de Raad van Europa is om in september de onderhandelingen in CAI af
te ronden. Hierna zal het verdrag naar alle waarschijnlijkheid in werking treden.
Het lid van de BBB-fractie vraagt of de Staatssecretaris heel precies kan aangeven
op welke manier Nederlandse burgers te maken gaan krijgen met dit verdrag.

II Antwoord / Reactie van de Staatssecretaris