Brief regering : Uitvoering van de motie van het lid Koopmans c.s. over beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens

Nr. 48
BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 20 september 2019

Op 17 mei jl. heeft de vaste Kamercommissie voor Buitenlandse Zaken verzocht uw Kamer
te informeren over de uitvoering van de motie van het lid Koopmans c.s. (Kamerstuk
33 694, nr. 43). In deze motie wordt de regering opgeroepen om met gelijkgezinde landen praktisch
en realistisch aanjager te zijn van een zo breed gedragen en verstrekkend mogelijk
verdrag of andere bindende internationale regelgeving ter beheersing van de productie,
plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens.

In dit kader verwijs ik graag naar mijn brief van 13 mei jl. waarin ik uw Kamer informeer
of controle middels een internationaal normatief kader over het gebruik van nieuwe
technologieën als (onderdeel van) wapensystemen mogelijk is.1 Hierin wordt ingegaan op de veiligheidsdimensie van nieuwe technologieën en wordt
een overzicht gegeven van de inspanningen op dit gebied. Het uitgangspunt is dat de
mogelijke veiligheidsrisico’s moeten worden geadresseerd, terwijl positieve toepassingen
en innovatie niet worden belemmerd. In de brief wordt ook aangegeven dat het kabinet
geen voorstander is van het vatten van nieuwe technologieën in aanvullende regelgeving
(bijvoorbeeld in een internationaal verdrag) enkel met mogelijke toekomstige wapensystemen
in gedachte. Het bestaande internationaal recht (zoals humanitair oorlogsrecht en
mensenrechten) geldt voor het gebruik van nieuwe technologieën evenzeer als voor bestaande
technologieën in wapensystemen. Alle wapensystemen moeten voldoen aan de eisen die
het internationaal recht daar aan stelt. Vooralsnog is het kabinet dan ook van mening
dat het bestaande internationaal recht volstaat om de productie, plaatsing, verspreiding
en inzet van nieuwe potentiële massavernietigingswapens te beheersen en te reguleren.
Bovendien zou aanvullende regelgeving nuttige civiele ontwikkelingen en toepassingen
kunnen frustreren. Daarnaast zijn nieuwe technologieën te divers van aard om te vatten
in een algemeen verdrag of alomvattende regelgeving.

Wel is duidelijk dat de huidige technologische ontwikkelingen leiden tot nieuwe inzichten
over de toepassing van het internationaal recht en tot vragen over eventuele uitdagingen
bij de naleving daarvan. Het kabinet zet dan ook op deelterreinen in op internationale
afspraken over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen.
In verschillende internationale fora wordt gesproken over de veiligheidsaspecten van
nieuwe technologieën. In de brief van mei aan uw Kamer wordt hiervan een overzicht
gegeven en wordt ingegaan op de Nederlandse inspanningen. Onderstaand wordt een update
gegeven van de internationale inspanningen waarmee invulling wordt gegeven aan de
genoemde motie.

Kunstmatige intelligentie

De competitie om wereldwijde technologische dominantie en de verschillen in opvattingen
tussen de toonaangevende blokken in de wereld – China, de EU en de VS – maken het
moeilijk om te komen tot internationale normen over de toepassing van kunstmatige
intelligentie. Desalniettemin zijn er hiertoe verschillende internationale initiatieven.
Nederland speelt daarin een actieve rol. Nederland zet zich in om de discussie over
verantwoord gebruik van kunstmatige intelligentie verder te brengen en tot concrete
handvatten te komen.

Zowel de Europese Unie als de Organisatie voor Economische Samenwerking en Ontwikkeling
(OESO) heeft recent, mede op Nederlands initiatief, internationale beginselen uitgewerkt
voor het verantwoord ontwikkelen en gebruiken van kunstmatige-intelligentietechnologie.
In beide gevallen gaat het om aanbevelingen die niet juridisch bindend zijn.

Over de Europese ethische richtlijnen werd uw kamer op 17 mei jl. geïnformeerd (BNC-fiche
Mededeling vertrouwen kweken in de mensgerichte kunstmatige intelligentie2). Onderdeel daarvan is invloed en toezicht door mensen. Menselijk toezicht kan ervoor
zorgen dat een kunstmatige-intelligentiesysteem de menselijke autonomie niet ondermijnt
of andere schadelijke effecten veroorzaakt. De richtlijnen worden momenteel in de
praktijk getest. De uitkomst hiervan en de eventuele vervolgstappen zullen naar verwachting
begin 2020 gereed zijn. De EU zou hiermee een belangrijke rol kunnen spelen bij de
ontwikkeling van internationale kunstmatige-intelligentierichtsnoeren. Zoals aangegeven
in het recente nationaal Strategisch Actieplan Artificial Intelligence (SAPAI) is
voor het kabinet Europese samenwerking vereist voor zowel het stimuleren en realiseren
van toepassingen van kunstmatige intelligentie als voor het borgen van ethische principes.

De OESO-beginselen zijn eind mei door de Ministers aangenomen. De beginselen omvatten
concrete aanbevelingen voor overheidsbeleid en -strategieën, en zijn erop gericht
kunstmatige intelligentie te bevorderen die innovatief en betrouwbaar is en die mensenrechten
en democratische waarden respecteert.

Voorts is recent het Analistennetwerk Nationale Veiligheid (ANV) door de Ministeries
van JenV, Defensie en Buitenlandse Zaken gevraagd om een studie te doen naar de impact
van kunstmatige intelligentie op de nationale veiligheid, op het raakvlak van interne
en externe veiligheid. Dit onderzoek maakt deel uit van de gezamenlijke interdepartementale
onderzoeksportefeuille die tot stand is gekomen naar aanleiding van het WRR-advies
«Veiligheid in een wereld van verbindingen», waarover uw Kamer op 28 maart 2018 per
brief is geïnformeerd3.

Autonome wapensystemen (Lethal Autonomous Weapon Systems – LAWS)

De kabinetspositie t.a.v. autonome wapensystemen berust grotendeels op het in 2015
gepubliceerde advies «Autonome Wapensystemen, de noodzaak van betekenisvolle menselijke
controle» van een gecombineerde commissie van de Adviesraad Internationale Vraagstukken
(AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV)4. Zoals werd aangekondigd ten tijde van de publicatie zal dit advies in de tweede
helft van het jaar 2020 worden geactualiseerd. Het kabinet kijkt uit naar dit geactualiseerde
advies, op basis waarvan het huidige kabinetsstandpunt kritisch tegen het licht zal
worden gehouden.

Op 20-21 augustus jl. kwam de Group of Governmental Experts (GGE) on Lethal Autonomous Weapons Systems (LAWS) voor de tweede keer in 2019 bijeen. Zoals uiteengezet in mijn brief van 13 mei
jl. buigt deze groep zich over het vraagstuk van autonome wapensystemen, waaronder
over de gewenste mate van menselijke controle over deze wapensystemen en de toepassing
van het internationaal recht daarop.

Nederland zet zich binnen de GGE in voor pragmatische afspraken over guidance voor
de toepassing en naleving van het bestaande internationaal recht, dat voor Nederland
onverminderd van toepassing is op autonome systemen. Onderdeel van deze inzet is een
nadere duiding van het concept betekenisvolle menselijke controle en het bereiken
van internationale overeenstemming daarover. Zo steunt het kabinet onderzoek door
het Stockholm International Peace Research Institute (SIPRI) i.s.m. International Committee of the Red Cross (ICRC) dat praktische invulling probeert te geven aan de mate van menselijke controle
die noodzakelijk is om aan het internationaal recht te voldoen. Het kabinet wacht
de uitkomsten van dit onderzoek – die waarschijnlijk in het najaar van 2019 zullen
verschijnen – af en zal de relevante inzichten die daaruit voortvloeien inbrengen
in het debat binnen de GGE. Daarnaast roept Nederland andere landen op om de verplichting
tot het uitvoeren van wapenreviews5 na te leven en de rol van (betekenisvolle) menselijke controle t.a.v. autonome systemen
sterk in deze procedures te verankeren. Het kabinet acht het van belang dat landen
hun wapenreviewprocessen transparant inrichten én uitvoeren. Nederland doet dit zelf
ook en informeert landen daar actief over.

Zoals bekend lopen de standpunten in het internationale debat zeer uiteen. Dit komt
deels door het ontbreken van overeenstemming over begrippen zoals «autonomie» en «menselijke
controle» en over de noodzaak tot aanvullende regelgeving. Het bestaan van dergelijke
splijtzwammen maakt het overeenkomen van concrete afspraken doorgaans lastig. Desalniettemin
bereikte de GGE in augustus overeenstemming over een consensusrapport met conclusies
en aanbevelingen, dat in november aangeboden zal worden aan de verdragspartijen bij
het Conventionele Wapenverdrag (CCW). Het kabinet is positief gestemd over het rapport,
dat een gedegen overzicht geeft van de overeenkomsten tussen verdragspartijen, de
thema’s en onderwerpen voor verder werk identificeert, alsmede de verdragspartijen
o.a. aanbeveelt om het mandaat van de GGE in 2020 en 2021 voort te zetten, waarbij
verder zal worden gegaan met de verduidelijking en verdere ontwikkeling van het bestaande
normatieve en operationele kader t.a.v. autonome wapensystemen. Ook biedt het rapport
de in 2018 overeengekomen tien Guiding Principles voor autonome wapensystemen alsmede een in 2019 overeengekomen aanvullend Guiding Principle ter bekrachtiging aan de verdragspartijen aan. Dit aanvullend Principle bevestigt dat samenwerking tussen mens en machine binnen de brede targetingcyclus
noodzakelijk is om autonome wapensystemen in te zetten conform het internationaal
recht. Ondanks deze successen, had het kabinet in de aanbevelingen graag een concreter
werkplan voor 2020 gezien. Nederland spant zich binnen de GGE o.a. in voor een verduidelijking
van de manier waarop het bestaande internationaal recht van toepassing is op autonome
wapensystemen, maar het bleek voor een aantal landen een brug te ver om hier concrete
doelstellingen over op te nemen. Daarnaast is het kabinet teleurgesteld dat het tot
op heden niet mogelijk is gebleken om internationaal consensus te bereiken over het
begrip betekenisvolle menselijke controle, maar zal zich hier onverminderd voor blijven
inspannen.

Van 11 tot 15 november vindt tenslotte de jaarlijkse bijeenkomst van de verdragspartijen
bij het Conventionele Wapenverdrag (CCW) plaats. Nederland zal zich daar inspannen
voor omarming van het rapport van de GGE door de statenpartijen en pleiten voor een
voortzetting van het mandaat van de GGE. Ook zal Nederland pleiten voor bekrachtiging
door de verdragspartijen met de nu elf Guiding Principles.

Onbemande luchtvaartuigen (UAV’s)

Nederland richt zich wat export van UAV’s betreft op de daarvoor geëigende gremia
zoals het Wassenaar Arrangement, het Missile Technology Control Regime (MTCR) en het Arms Trade Treaty (ATT) en neemt hierbinnen actief deel aan discussies over de controle op dit soort
systemen. Nederland heeft de afgelopen jaren intensief bijgedragen aan het opstellen
van internationale standaarden voor de export en het gebruik van onbemande vliegtuigen
(International standards for Export and Subsequent Use of Armed Unmanned Aerial Vehicles). In deze standaarden wordt onder andere afgesproken strikte beleids- en controlemaatregelen
te hanteren bij de export en inzet van bewapende UAV’s en transparant te zijn over
de export en het gebruik van deze UAV’s. Het kabinet spant zich in voor een verbreding
van het draagvlak van deze standaarden onder landen die nog niet betrokken zijn, m.n.
die landen die ook nog niet door andere bestaande regimes en/of verdragen gebonden
zijn aan exportcontrole van bewapende UAV’s.

Daarnaast neemt Nederland actief deel aan de discussies in internationale fora over
de mogelijke dreiging die kan uitgaan van onbemande luchtvaartuigen bij gebruik door
terroristen. Zo maakt het tegengaan van deze potentiële dreiging onderdeel uit van
het bredere NAVO-contraterrorisme actieplan zoals dat in december 2018 is vastgesteld
door de Ministers van Buitenlandse Zaken. In het Global Counterterrorism Forum (GCTF) worden good practices uitgewisseld van maatregelen tegen het gebruik van onbemande
luchtvaartuigen door terroristen. Dit heeft op basis van meerdere expertbijeenkomsten,
waaronder in Amsterdam, geleid tot het zogenoemde Berlin Memorandum of good practices for countering terrorist use of unmanned aerial
systems systems dat op 25 september tijdens de ministeriele vergadering van de GCTF wordt bekrachtigd.
Voorts publiceerde het Counter-Terrorism committee Executive Directorate (CTED) van de Verenigde Naties in mei van dit jaar een analyse naar de mogelijke
dreiging van terroristische gebruik van onbemande luchtvaartuigen en organiseert de
Europese Dienst voor Extern Optreden (EDEO) in het najaar van 2019 een high-level
bijeenkomst over deze dreiging.

Nederland zet zich actief in voor samenhang tussen de diverse internationale initiatieven
en het tegengaan van overlap in mogelijke maatregelen. En Nederland zal het komend
jaar een internationale conferentie organiseren, waarbij partnerlanden, bedrijfsleven,
experts en NGO’s met elkaar zullen spreken over internationale standaarden voor de
commerciële UAV-industrie, ten behoeve van verantwoorde productie en gebruik.

Cybermiddelen

Het kabinet wil een leidende rol spelen bij het toepassen en het versterken van een
internationaal normatief kader voor de regulering van cyberoperaties tussen staten.
Ook hier is het bestaande internationaal recht het uitgangspunt. Wel zet het kabinet
in op internationale afspraken over vrijwillige, niet-bindende gedragsnormen voor
staten en de ontwikkeling van een stelsel van vertrouwenwekkende maatregelen. Nederland
stimuleert de internationale discussie over de toepassing van het internationaal recht
op het cyberdomein, zo heeft Nederland eind mei in Den Haag een internationale bijeenkomst
over internationaal recht in het cyberdomein georganiseerd. Uw Kamer is middels de
brief «Internationale rechtsorde in het digitale domein» van 5 juli jl. uitgebreid
geïnformeerd over de inspanningen van het kabinet ten behoeve van het bestendigen
van de internationale rechtsorde in het digitale domein6.

De ontwikkeling van nieuwe sleuteltechnologieën vormt een wezenlijk deel van de beleidsopgaven
van het hele kabinet. Het Ministerie van Buitenlandse Zaken werkt daarom nauw samen
met andere departementen om kennis te delen en synergie tussen de beleidsterreinen
te benutten.

Nederland zal een actieve rol blijven spelen in internationale discussies en initiatieven.
Ook zal ik bij verschillende internationale gelegenheden aandacht blijven vragen voor
de veiligheidsimplicaties van nieuwe technologieën. Ik zal uw Kamer blijven informeren
over de voortgang.

De Minister van Buitenlandse Zaken,
S.A. Blok