Brief regering : Raad van Europa verdrag over AI, mensenrechten, democratie en de rechtsstaat

26 643
Informatie- en communicatietechnologie (ICT)

Nr. 1006
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 6 maart 2023

Sinds april 2022 werkt het comité voor Artificiële intelligentie (CAI) van de Raad
van Europa aan het opstellen van een (kader) verdrag over Artificiële Intelligentie
(AI), mensenrechten, democratie en de rechtsstaat. Met deze brief informeer ik u over
de laatste stand van zaken van CAI, het proces, onze inzet en de verhouding met het
EU-traject over de AI-verordening. Tevens zend ik u de «nulversie» van het verdrag,
die op 1-3 februari 2023 openbaar is gemaakt. Uw Kamer heb ik uitgenodigd om een technische
briefing over dit onderwerp te organiseren.

Kunstmatige intelligentie en de Raad van Europa

Binnen de Raad van Europa wordt sinds 2019 aan het thema «AI en mensenrechten» gewerkt,
eerst binnen het Ad hoc comité voor Artificiële intelligentie (CAHAI). De CAHAI was
opgericht om 1) een haalbaarheidsstudie te doen naar een AI-verdrag binnen de Raad
van Europa en 2) een document op te stellen met mogelijke elementen van een juridisch
raamwerk voor AI. Dit comité rondde haar werk af op 2 december 2021 en concludeerde
dat er een Raad van Europa instrument nodig is met fundamentele principes voor de
bescherming van menselijke waardigheid en het respect voor mensenrechten, democratie
en de rechtsstaat bij de ontwikkeling, het ontwerp en het gebruik van AI-systemen.
Het document met de mogelijke elementen van een juridisch raamwerk heb ik in september
2022 naar uw Kamer gestuurd.1

In 2021 heeft het Comité van Ministers van de Raad van Europa daarom een Comité inzake
kunstmatige intelligentie (CAI) opgericht. De CAI heeft de opdracht om tussen 2022
en 2024 een onderhandelingsproces op te zetten over een (kader)verdrag dat de ontwikkeling,
het ontwerp en de toepassing van AI-systemen reguleert en dat gebaseerd is op de standaarden
van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat.
Het streven is om eind 2023 de onderhandelingen af te ronden.

Het onderhandelingsproces en de planning

Onderhandelingen over het (kader)verdrag zijn in januari 2023 begonnen op basis van
de «nulversie» van de tekst. De CAI heeft besloten deze «nulversie» openbaar te maken,
maar de overige onderhandelingsteksten niet vanwege de vertrouwelijkheid en ter bescherming
van de voortgang van de onderhandelingen.

Sinds januari 2023 is naast de plenaire vergadering een «drafting» groep opgericht.
Tijdens het plenaire deel van de vergadering worden hoofdstukken uit het conceptverdrag
besproken, besluiten genomen en zijn naast (mogelijke) verdragspartijen ook Ngo’s
aanwezig en kunnen zij tekstvoorstellen doen. Aan de «drafting» groep nemen (mogelijke)
verdragspartijen deel die werken aan de specifieke bepalingen van het conceptverdrag
en daarover rapporteren aan de plenaire vergadering. Nederland hecht eraan om de inbreng
van Ngo’s en andere niet verdragspartijen bij de besprekingen in de «drafting» groep
mee te nemen. In april en juni 2023 vinden nog vergaderingen plaats. In september
2023 zou een voorlopig besluit over de gehele tekst moeten worden genomen.

Omdat de EU ook wetgeving op dit onderwerp voorbereidt en de EU-lidstaten gezamenlijk
een belangrijke stem hebben binnen de Raad van Europa heeft de CAI een aantal keer
haar werkproces en planning moeten bijstellen, zodat EU-lidstaten niet aan tegenstrijdige
verplichtingen gebonden worden. Dat betekent dat is afgesproken om de minder controversiële
onderwerpen zoals de slotbepalingen en de preambule van het verdrag eerst te behandelen.
Die onderwerpen zijn in januari en februari behandeld.

Van 19 tot 21 april 2023 werkt de plenaire vergadering aan de Preambule en de bepalingen
over samenwerking en toezicht. De «drafting» groep werkt dan aan de algemene bepalingen,
aan de fundamentele beginselen, en aan de bepalingen met waarborgen en rechtsmiddelen.

Van 7 tot 9 juni 2023 werkt de plenaire vergadering aan de algemene bepalingen, aan
de fundamentele beginselen, en aan de bepalingen met waarborgen en rechtsmiddelen.
De «drafting» groep werkt dan aan de bepalingen over de beoordeling en mitigatie van
risico’s, de inzet van AI-systemen door overheidsorganisatie en de inzet van AI-systemen
bij de levering van goederen en diensten.

Het streven van CAI is om in de zomer de voorlopige tekst voor te leggen aan de Parlementaire
Vergadering van de Raad van Europa (PACE). Van 13 tot 15 september 2023 zal de plenaire
vergadering van de CAI dan alles moeten samenvoegen en goedkeuren, waarna het secretariaat
zal worden geïnstrueerd om het conceptverdrag aan het Comité van Ministers aan te
bieden ter goedkeuring.

De rol van de Europese Unie en het onderhandelingsmandaat

De onderhandelingen over het toekomstige (kader)verdrag van de Raad van Europa hebben
betrekking op aangelegenheden die onder de exclusieve bevoegdheid van de Europese
Unie (EU) vallen. Op dit vlak bestaan immers geldende Europese verordeningen en richtlijnen
met betrekking tot producten en diensten waarbij AI-systemen kunnen worden gebruikt.2 Bovendien kan het ontwikkelen en gebruiken van bepaalde AI-systemen effecten hebben
op de uitoefening van fundamentele rechten uit het EU-handvest van de grondrechten,
en op de bescherming die andere secundaire EU-wetgeving biedt, zoals de regels rond
databescherming en non-discriminatierecht.3 Daarnaast werkt de EU zelf aan AI-wetgeving, namelijk het voorstel voor een verordening
voor kunstmatige intelligentie die regels voor AI-systemen in de EU-lidstaten moet
harmoniseren.4

Gezien de grote overlap tussen deze instrumenten heeft de Raad (van de EU) daarom
in november 2022 een besluit genomen waarin de Europese Commissie het mandaat wordt
verleend om in de CAI namens de EU-lidstaten te onderhandelen over onderwerpen in
het (kader)verdrag die onder de exclusieve bevoegdheid van de EU vallen.5 Uw Kamer is middels een BNC-fiche over de voorbereiding van dat besluit geïnformeerd.6 In het uiteindelijke mandaatbesluit is afgesproken dat lidstaten zeggenschap houden
over nationale bevoegdheden zoals nationale veiligheid. Daarnaast behouden lidstaten
het spreekrecht in de CAI vergaderingen en moet de Europese Commissie binnen EU-raadswerkgroepen
en tijdens de onderhandelingen in de CAI de EU-inzet met de EU-lidstaten coördineren
en regelmatig terug rapporteren over het verloop van de onderhandelingen. Tijdens
de CAI bijeenkomsten treden we dus samen met de Europese Commissie op om onze doelen
te bereiken.

Een mondiaal instrument ter bescherming van de mensenrechten, democratie en rechtsstaat

Tijdens de vierde plenaire vergadering van 1 tot 3 februari 2023 heeft de CAI besloten
de «nulversie» van het verdrag openbaar te maken. Deze «nulversie» is bij deze brief
gevoegd. De tekst is opgesteld door het voorzitterschap van de CAI met ondersteuning
van het secretariaat, op basis van het werk dat in de CAHAI heeft plaatsgevonden.
Deze tekst is nog volop in ontwikkeling zegt dus nog niets over het mogelijke onderhandelingsresultaat.

Zoals te lezen is in deze «nulversie,» bevat de tekst de principes, regels en rechten
die ervoor moeten zorgen dat het ontwerp, de ontwikkeling en toepassing van AI-systemen
in lijn is met de bescherming van mensenrechten, het functioneren van de democratie
en de naleving van de rechtsstaat. De verdragspartijen zullen bepalen hoe ze de bepalingen
uit het verdrag implementeren om ervoor te zorgen dat deze principes, regels en rechten
worden nageleefd. Tijdens de derde plenaire vergadering is tevens afgesproken dat
na de onderhandelingen over dit verdrag nog zal worden gewerkt aan een niet bindende
methodologie voor het ontwikkelen van een risico- en impact assessment waarmee verdragspartijen
en andere actoren worden ondersteund bij het uitvoeren van artikelen uit het verdrag.

Het (kader)verdrag zal openstaan voor ondertekening en ratificatie door lidstaten
van de Raad van Europa en andere staten. Het toekomstige (kader)verdrag zal moeten
worden geïmplementeerd in de respectieve jurisdicties van de partijen.

Inzet Nederland

Zoals in het coalitieakkoord (Bijlage bij Kamerstuk 35 788, nr. 77) staat neemt Nederland in Europa het voortouw om zich in te zetten voor de mensgerichte
inzet van kunstmatige intelligentie: dit zijn AI-systemen die de mens dienen, veilig
zijn en vertrouwd kunnen worden, die ingezet worden met respect voor publieke waarden
en mensenrechten en waarbij een goede rechtsbescherming verzekerd is.7 Ook zet het kabinet zich in voor het bevorderen van de internationale samenwerking
door een voortrekkersrol in de EU en multilaterale organisaties, via het versterken
van de trans-Atlantische band en nieuwe partnerschappen, en zet het zich in voor het
bevorderen van respect voor mensenrechten in het buitenlandbeleid.8

Door de Europese Commissie een mandaat te verlenen is de inzet van Nederland in de
CAI niet los te zien van de EU-positie en wat in EU-verband op dit terrein geregeld
is. EU-landen moeten namelijk niet gebonden worden aan tegenstrijdige verplichtingen.
Nederland zet zich in EU verband al in voor een AI-verordening waarin mensenrechten
stevig verankerd zijn. In eerdere brieven bent u daarover geïnformeerd.9 Tevens is de Nederlandse inzet tijdens de onderhandelingen op diverse momenten met
uw Kamer besproken, en heeft uw Kamer moties ingediend om die inzet te beïnvloeden.10 De onderhandelingen over de AI-verordening zijn nog niet afgerond. In december 2022
is een raadpositie aangenomen, die ik met uw Kamer heb besproken.11 Momenteel buigt het Europees Parlement zich over de tekst. Vermoedelijk neemt zij
dit voorjaar een positie aan, waarna de Raad en het Europees Parlement (samen met
de Europese Commissie) tot een akkoord moeten komen.

In de CAI zal Nederland zich eveneens sterk inzetten voor de bescherming van mensenrechten
bij de ontwikkeling en het gebruik van AI. Nederland wil een risicogerichte benadering,
met proportionele eisen aan AI-systemen zodat risico’s voor mensenrechten al in het
ontwerpproces in kaart worden gebracht door het uitvoeren van een risicoanalyse. Nederland
richt zich bij dit AI-verdrag in het bijzonder op de extra waarborgen voor burgers
en verbeterde rechtsbescherming: Nederland wil dat de inzet van AI, zeker door de
overheid, transparant is, en dat voor burgers duidelijk is of de overheid AI-systemen
gebruikt bij het nemen of ondersteunen van besluiten, en dat informatie daarover begrijpelijk
is en proactief in gewone mensentaal wordt aangeboden. Als AI gebruikt wordt moet
de rechtsbescherming daar niet onder lijden. Er moeten dus rechtsmiddelen zijn voor
burgers, waarmee zij de geldigheid van een besluit door de overheid, of er nou AI
is gebruikt of niet, aan kunnen vechten, en om een menselijke controle kunnen vragen.
AI-systemen met een risico moeten dus ook controleerbaar zijn, want de uiteindelijke
verantwoordelijkheid ligt bij mensen. Het werk van de CAI is daarnaast van bijzonder
belang voor Nederland vanwege de brede werking van dit conceptverdrag. Deze bepalingen
kunnen de bescherming van mensenrechten bij de inzet van AI-systemen mondiaal verbeteren.
Het is daarom voor Nederland van groot belang dat niet EU-landen en landen die geen
lid zijn van de Raad van Europa voldoende betrokken worden bij de onderhandelingen.

Conclusie

Dit Raad van Europa-verdrag biedt de kans om naast de meer gedetailleerde EU-regels
ook een mondiaal instrument te creëren met regels voor AI. We zullen samen met de
Europese Commissie en andere lidstaten, binnen en buiten de EU en de Raad van Europa,
optrekken om ervoor te zorgen dat dit (kader)verdrag een stevig mondiaal instrument
is waarmee partijen zich verbinden aan het beschermen van de mensenrechten, democratie
en rechtsstaat bij het ontwikkelen, ontwerp en gebruik van AI.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
A.C. van Huffelen