Brief regering : Internationaal normkader voor het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen

Nr. 45
BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 13 mei 2019

In het AO over de Nederlandse inzet inzake nucleaire ontwapening van 4 oktober jl.
heb ik toegezegd uw Kamer te informeren of controle middels een internationaal normkader
over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen mogelijk
is (Kamerstuk 33 694, nr. 23).

Technologische ontwikkelingen geven een nieuwe dimensie aan het veiligheidsbeleid.
Nieuwe technologieën (zoals kunstmatige intelligentie, onbemande vliegtuigen, en cybermiddelen)
worden immers benut bij de ontwikkeling van nieuwe wapensystemen en dat vereist hernieuwde
aandacht voor de wijze waarop we met de ontwikkeling, inzet en proliferatie van dergelijke
nieuwe wapensystemen omgaan. Het risico dat de nieuwe wapensystemen door statelijke
en niet-statelijke actoren kwaadwillend worden ingezet is zorgelijk. Het kabinet is
zich bewust van de urgentie. De ontwikkelingen krijgen dan ook de nodige aandacht
van het kabinet, zoals onder andere uiteengezet in de Geïntegreerde Buitenland- en
Veiligheidsstrategie (GBVS) die in maart 2018 aan uw Kamer is gestuurd (Kamerstuk
33 694, nr. 12). Daarnaast is in de Defensie Industrie Strategie (2018) beschreven welke kennis,
technologie, en industriële capaciteiten in Nederland moeten worden verankerd om de
wezenlijke belangen van nationale veiligheid te kunnen borgen (Kamerstuk 31 125, nr. 92). In het kader van de nieuwe nationale veiligheidsstrategie (NVS) wordt momenteel
de mogelijkheden bezien om periodiek de implicaties van nieuwe technologische ontwikkelingen
voor de nationale veiligheid in kaart te brengen. Voorts geeft de Nederlandse Cyber
Security Agenda (2018) de koers op het gebied van cybersecurity aan. Met de technologische
(en maatschappelijke) ontwikkelingen zijn immers ook de kwetsbaarheden in het digitale
domein toegenomen (Kamerstuk 26 643, nr. 536).

Ook heeft het kabinet met grote belangstelling kennis genomen van het rondetafelgesprek
van de vaste Kamercommissie voor Buitenlandse Zaken over «drones en killer robots»
d.d. 21 januari jl.

Internationaal staat het onderwerp prominent op de agenda. Op 15 maart jl. heb ik
deelgenomen aan een wapenbeheersingsconferentie in Berlijn «Capturing Technology. Rethinking arms control» alwaar ik aandacht heb gevraagd voor de uitdagingen die nieuwe technologieën voor
wapenbeheersing vormen en de wenselijkheid van internationale afspraken hierover heb
onderstreept. Daarnaast heb ik benadrukt dat instandhouding en naleving van de bestaande
wapenbeheersingsarchitectuur (waaronder het INF-verdrag) evenzeer van belang zijn.

De Secretaris-Generaal van de Verenigde Naties (hierna: SGVN) Guterres besteedt in
zijn ontwapeningsagenda van 2018 uitgebreid aandacht aan veiligheidsrisico’s en dreigingen
van nieuwe technologieën. Nederland steunt deze agenda. De SGVN stelt een aantal acties
voor om de dialoog over deze problematiek te bevorderen en vooruitgang te boeken in
de VN-ontwapeningsorganen. Hierbij is een belangrijke rol weggelegd voor het United Nations Institute for Disarmament Research (UNIDIR). Nederland is een van de grootste donoren van het Security & Technology Programma van UNIDIR. Dit programma kijkt onder andere naar de veiligheidsimplicaties van nieuwe
technologieën.

De uitdagingen van nieuwe technologieën, waaronder de veiligheidsimplicaties, komen
in verschillende internationale fora aan de orde. Nederland speelt hierin een actieve
rol. Uitgangspunt daarbij is dat de mogelijke veiligheidsimplicaties moeten worden
geadresseerd, terwijl positieve toepassingen en innovatie niet worden belemmerd. Het
vatten van nieuwe technologieën in algemene regelgeving enkel met mogelijke toekomstige
wapensystemen in gedachten, zou nuttige civiele ontwikkelingen kunnen frustreren.
Dit belet echter niet om op deelterreinen actief in te zetten op internationale afspraken
over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen.

Het kabinet stelt zich, zoals het vorige kabinet, op het standpunt dat alle wapensystemen
en de inzet daarvan moeten voldoen aan de eisen die het internationaal recht daaraan
stelt1. De ontwikkelingen van nieuwe wapensystemen is van alle tijden. Relevant daarbij
is of de nieuwe middelen en methoden van oorlogsvoering volgens het internationaal
recht zijn toegestaan. Dit is het uitgangspunt van de Nederlandse inzet in de verschillende
internationale discussies waarop hieronder nader zal worden ingegaan. Gezien de raakvlakken
met het nationale beleid zal in deze brief – waar relevant – ook de nationale dimensie
worden belicht. Hiermee wordt echter geenszins een volledig overzicht van het nationale
beleid op het gebied van nieuwe technologieën gegeven.

Kunstmatige intelligentie

Op nationaal niveau staat het onderwerp kunstmatige intelligentie (Artificiële Intelligentie
(AI)) in de belangstelling. Zo werkt het kabinet aan een nationaal strategisch actieplan
kunstmatige intelligentie dat naar verwachting in de eerste helft van 2019 gereed
zal zijn. Ook werkt het kabinet aan een aparte visie op AI en ethiek, welke de Minister
van BZK naar verwachting na de zomer met uw Kamer zal delen.

De ontwikkelingen rondom kunstmatige intelligentie worden ook in EU-verband behandeld.
In het recent door de Europese Commissie gepubliceerde «gecoördineerde actieplan Artificiële
Intelligentie (AI) voor Europa» waar uw Kamer 25 januari jl. over is geïnformeerd
(BNC fiche2) is aangegeven dat kunstmatige intelligentie kansen voor Europa biedt. De insteek
in Europees kader is vooral van economische aard. Er is echter ook aandacht voor de
verantwoorde ontwikkeling en het verantwoord gebruik van kunstmatige intelligentietechnologie.
In dat kader worden Europese ethische richtlijnen ontwikkeld die als standaard moeten
gaan dienen bij de ontwikkeling van kunstmatige intelligentietechnologie. Europese
waarden als transparantie, non-discriminatie of gelijkheid van vrouwen en mannen dienen
daarbij als leidraad. Mede in het licht van geopolitieke ontwikkelingen, zien de meeste
lidstaten – en dat is ook de inzet van Nederland – het belang van een dergelijke gezamenlijke
Europese aanpak. Nederland draagt daar aan bij door te onderzoeken in hoeverre internationale
afspraken aangepast dienen te worden teneinde die waarden te borgen en in hoeverre
die afspraken toekomstbestendig zijn.

Daarnaast heeft de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO),
mede op Nederlands initiatief, een aanbeveling over beleidsbeginselen en beginselen
voor internationale samenwerking met betrekking tot verantwoorde ontwikkeling en gebruik
van kunstmatige intelligentie opgesteld. Deze OESO-aanbeveling vormt ook de basis
voor afspraken in het kader van de G20 waaraan wordt gewerkt met het oog op de G20-bijeenkomst
van Ministers van digitale economie op 8 juni 2019 in Japan.

Voorts heeft begin maart (4–5 maart jl.) in Berlijn een internationale conferentie
over kunstmatige intelligentie plaatsgevonden: «Artificial intelligence’s challenge to international affairs» waaraan Nederland op ambtelijk niveau heeft deelgenomen. Met Europese collegae en
deskundigen is gesproken over o.a. de risico’s van kunstmatige intelligentie, met
name met betrekking tot de ontwikkeling van autonome wapens, en mogelijke regelgeving
hiervoor. De conclusie was dat, gezien de uiteenlopende standpunten op het internationale
toneel, het op korte termijn moeilijk zal zijn om grote stappen te zetten, maar dat
de discussie zal worden voortgezet.

Autonome wapensystemen (Lethal Autonomous Weapon Systems – LAWS)

Ook de ontwikkelingen op het gebied van kunstmatige intelligentie in relatie tot autonome
wapensystemen hebben de aandacht van het kabinet. Bij de inzet en het gebruik van
AI ziet het kabinet mogelijkheden in de toepassing op gebied van ondersteuning van
de commandovoering, inlichtingenvergaring, data-analyse en versnelde responsiviteit
bij de verdediging van Nederlands grondgebied. Op een aantal terreinen vindt deze
toepassing ook al plaats, zoals bij onderwaterdrones voor mijnenbestrijding (Remus)
en het afweersysteem (de Patriot). Daarnaast vindt er onderzoek plaats naar verdere
ontwikkeling van algoritmes, commandovoering en de interactie tussen verschillende
onbemande systemen. Voorbeelden hiervan zijn onderzoek naar beeldherkenning (Koninklijke
Marechaussee); beeldanalyse luchtbeelden (Luchtmacht); tekstanalyse (Koninklijke Marechaussee/Datalab);
risicoanalyse schepen (Kustwacht). Dit onderzoek gebeurt in nauwe samenwerking met
NAVO-partners, universiteiten en kenniscentra (Nederlandse Organisatie voor toegepast-natuurwetenschappelijk
onderzoek (TNO), Koninklijk Nederlands Lucht- en Ruimtevaartcentrum (NLR), Maritime Research Institute Netherlands (MARIN)) en het bedrijfsleven. Hierbij is ook aandacht voor internationaal recht
en ethische richtlijnen.

Autonome wapensystemen staan sinds 2013 op de agenda van de Convention on Certain Conventional Weapons (hierna: CCW) van de Verenigde Naties. Daarbij wordt ook gesproken over mogelijke
gevolgen van dergelijke systemen voor de internationale veiligheid en over mogelijke
uitdagingen die deze systemen bieden ten aanzien van de toepassing van het internationaal
recht, in het bijzonder het humanitair oorlogsrecht.

Nederland neemt actief deel aan dit debat. Nederland is vertegenwoordigd door een
brede delegatie van experts en heeft verschillende working papers ingediend. Uitgangspunt
bij de Nederlandse inzet is dat alle wapensystemen, inclusief autonome wapensystemen,
te allen tijde onder betekenisvolle menselijke controle moeten staan, en dat het bestaande
internationale recht, in het bijzonder het humanitair oorlogsrecht, ook van toepassing
is op autonome wapensystemen. Voor een uitgebreide uiteenzetting van de Nederlandse
positie en inzet binnen het internationale debat wordt u verwezen naar de kabinetsreactie
op het advies «Autonome Wapensystemen, de noodzaak van betekenisvolle menselijke controle»
van een gecombineerde commissie van de Adviesraad Internationale Vraagstukken (AIV)
en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV), van 4 maart
20163. Gelet op de snelle ontwikkelingen, zal dit advies in 2021 (na vijf jaar) opnieuw
tegen het licht worden gehouden. Zoals aangegeven in deze reactie is het kabinet geen
voorstander van een verbod of moratorium op de ontwikkeling van autonome wapensystemen.
Een discussie met als uitgangspunt beperkende maatregelen zou op dit moment, mede
gezien de vele onduidelijkheden en meningsverschillen in het internationale debat,
een negatieve impact hebben op de noodzakelijke internationale dialoog over betekenisvolle
menselijke controle bij wapensystemen met toenemende autonomie. Bovendien is het kabinet
van mening dat zolang er sprake is van betekenisvolle menselijke controle, het huidige
internationaal recht volstaat en geen aanvullende regelgeving nodig is. Gezien het
belang dat het kabinet hecht aan betekenisvolle menselijke controle, zowel bij huidige
als toekomstige wapensystemen, zet het kabinet zich in om het concept van betekenisvolle
menselijke controle nader uit te werken.

Nederland heeft zich actief ingezet voor de oprichting van de Group of Governmental Experts (GGE) onder het CCW die zich buigt over het vraagstuk van o.a. het begrip betekenisvolle
menselijke controle en het huidig internationaal recht. Hoewel enige vooruitgang wordt
geboekt – zo werden in 2018 tien «Possible Guiding Principles» afgesproken die de
onderhandelingen verder richting zullen geven – is de discussie complex en lopen de
standpunten sterk uiteen. In de week van 25 tot 29 maart jl. vond de meest recente
bijeenkomst plaats van de GGE. Nederland heeft zich ingezet voor de verdere operationalisering
van de in 2018 afgesproken Guiding Principles. De discussie hierover zal in augustus dit jaar in de GGE worden voortgezet.

Daarnaast financieren de Ministeries van Buitenlandse Zaken en van Defensie verschillende
nationale en internationale onderzoeken naar autonome wapensystemen, waarbij ook aandacht
is voor de juridische aspecten. Resultaten van deze onderzoeken worden ingebracht
in het internationale debat over Lethal Autonomous Weapon Systems (LAWS) dat plaatsvindt binnen CCW.

Autonome wapensystemen hebben ook de nodige aandacht binnen de Europese Unie. Het
Europese Parlement heeft eind 2018 een resolutie aangenomen waarin wordt opgeroepen
om: 1) te komen tot een gezamenlijke positie ten aanzien van LAWS, en 2) zich sterk
te maken voor internationale onderhandelingen over een juridische instrumenten om
dodelijke autonome wapensystemen te verbieden. Het Nederlandse standpunt en inzet
zijn conform die in de CCW. Voor meer achtergrond informatie wordt u gewezen op de
beantwoording van vragen door de Minister van Defensie van het lid Belhaj (D66) over
het bericht dat het Europees Parlement killerrobots wil verbieden4.

Onbemande luchtvaartuigen (UAV’s)

De toename van het aantal toepassingen van onbemande luchtvaartuigen (UAV’s, ook wel
drones genoemd), waaronder de inzet van bewapende UAV’s, noopt tot verdere internationale
afspraken en nationale maatregelen. De SGVN pleit in zijn ontwapeningsagenda voor
het vergroten van de transparantie en het toezicht op bewapende drones door middel
van gemeenschappelijke standaarden voor overdracht, bezit en gebruik van bewapende
drones.

De toename van het aantal toepassingen van onbemande luchtvaartuigen (UAV’s, ook wel
drones genoemd), waaronder de inzet van bewapende UAV’s, noopt tot verdere internationale
afspraken en nationale maatregelen. De ontwikkelingen worden zowel nationaal als internationaal
nauwlettend in de gaten gehouden en eventuele trends worden meegenomen in het contra-terrorismebeleid.
De SGVN pleit in zijn ontwapeningsagenda voor het vergroten van de transparantie en
het toezicht op bewapende drones door middel van gemeenschappelijke standaarden voor
overdracht, bezit en gebruik van bewapende drones.

Op nationaal niveau wordt Rijksbreed, als ook met kennisinstellingen en het bedrijfsleven,
nauw samengewerkt om de inzet van commercieel verkrijgbare UAV’s door kwaadwillenden
zo effectief mogelijk te kunnen bestrijden. Zo wordt, in samenwerking met internationale
partners en onderzoeksinstellingen, onderzoek gedaan naar de bestrijding van drones.
Daarnaast is medio 2018 binnen het Commando Landstrijdkrachten de Joint Nucleus Unmanned Aerial Vehicles opgericht. Deze entiteit richt zich op het ontwikkelen van capaciteiten tegen drones.
Op dit moment beschikt Defensie al over middelen om drones te detecteren en te bestrijden.
De Koninklijke Marechaussee (KMar) en de Politie kunnen hier via het bevoegd gezag
een beroep op doen in het kader van hun taakuitvoering, bijvoorbeeld bij het signaleren
van een drone in de nabijheid van een luchthaven. Bij daadwerkelijke inzet van deze
middelen wordt uiteraard rekening gehouden met de risico’s op onbedoelde nevenschade.

De Europese Unie publiceert binnenkort regelgeving voor het veilig gebruik van drones
in het Europese luchtruim. Het is aan de lidstaten om op nationaal niveau zones aan
te wijzen waarin extra restricties kunnen worden gesteld aan drone-operaties. Door
middel van deze zones kan Nederland bijvoorbeeld gebieden bij luchthavens aanwijzen
waarbinnen het vliegen met drones verboden dan wel strikt gereguleerd is. Hiermee
is het mogelijk om de preventie, opsporing en bestrijding van illegale inzet van kleine
commercieel verkrijgbare UAV’s verder aan te scherpen.

Voor meer achtergrond informatie wordt u gewezen op de beantwoording door de Ministers
van Defensie en van Buitenlandse Zaken van vragen van de leden Bosman, Remco Dijkstra,
Koopmans en Laan-Geselschap (allen VVD) over het bericht dat Defensie zich nog geen
raad weet met steeds kleinere drones5, de beantwoording door de Minister van Defensie van vragen van het lid Bruins Slot
(CDA) over beveiliging van luchthavens tegen drones na «Gatwick»6, en de beantwoording door de Minister van Defensie, mede namens de Minister van Justitie
en Veiligheid, van vragen van het lid Bruins Slot (CDA) over antidrone-maatregelen
bij vliegvelden7.

Nederland maakt internationaal deel uit van een kerngroep van landen die sinds 2016
op Amerikaans initiatief werkt aan internationale standaarden voor de handel in en
het gebruik van geavanceerde UAV’s: de International Standards for Export & Subsequent Use of Armed Unmanned Aerial Vehicles. Nederland zet zich in deze groep in voor bredere internationale deelname en voor
een transparant en niet-vrijblijvend proces. Nederland is (mede-)ondertekenaar van
een internationale politieke verklaring van ruim 50 landen die de intentie hebben
zich te committeren aan deze internationale standaarden. Daarnaast is Nederland actief
betrokken bij de discussie binnen het Missile Technology Control Regime (MTCR) om regelgeving ten aanzien van de uitvoer van bepaalde typen UAV’s te moderniseren.

Cybermiddelen

Zoals beschreven in de GBVS, de Internationale Cyber Strategie (ICS), en de Nationale
Cyber Security Agenda (NCSA), zijn cyberdreigingen snel toegenomen en vormen deze
een serieus veiligheidsrisico. Dit vraagt om een helder internationaal antwoord gebaseerd
op internationale afspraken. Het kabinet zet hier dan ook op in als onderdeel van
zeven ambities uit de NCSA die bijdragen aan de volgende doelstellingen: Nederland
is in staat om op een veilige wijze de economische en maatschappelijke kansen van
digitalisering te verzilveren en de nationale veiligheid in het digitale domein te
beschermen. Met de Nederlandse inzet gebaseerd op de ICS en de NCSA heeft Nederland
de internationale agenda op het gebied van cybersecurity beïnvloed.

De Nederlandse internationale inzet richt zich onder meer op de bestendiging van de
internationale rechtsorde door de toepassing van internationaal recht, aanvullende
normen voor verantwoord gedrag en vertrouwenwekkende maatregelen tussen staten. Een
belangrijk aspect hiervan is de verdere interpretatie en toepassing van het internationaal
recht in het digitale domein. Over de Nederlandse visie over de specifieke toepassing
van het internationaal recht in digitale domein, zoals toegezegd tijdens het plenair
debat op 20 december jl. over spionage door Rusland, zullen Minister Bijleveld en
ik uw Kamer in de eerste helft van dit jaar per brief nader over informeren.

Daarnaast wordt verdere ontwikkelingen van aanvullende normen gestimuleerd, bijvoorbeeld
door de Global Commission on the Stability of Cyberspace (GCSC). Nederland heeft in 2016 de GCSC geïnitieerd om de discussie te starten tussen
overheden, private sector, maatschappelijk middenveld en academische wereld over normen
voor verantwoord gedrag in het digitale domein. De GCSC is tot op heden gekomen met
een aantal aanbevelingen voor concrete normen, waaronder een norm ter bescherming
van de publieke kern van het internet.

Internationale samenwerking met bondgenoten en gelijkgezinde landen in fora zoals
de Europese Unie en de NAVO speelt in deze aanpak een belangrijke rol. Daarnaast blijft
Nederland inzetten op een multilaterale dialoog in fora zoals de VN en Organisatie
voor Veiligheid en Samenwerking in Europa (OVSE).

Bovenstaand overzicht geeft aan dat in internationaal kader wordt gesproken over afspraken
over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen en dat
Nederland hierin een actieve rol speelt. Het Ministerie van Buitenlandse Zaken dient
adequaat toegerust te zijn om de internationale ontwikkelingen op dit gebied te kunnen
blijven volgen en beïnvloeden. Dit vereist een aanvulling op de inzet van onze diplomatie.
Voor dit doel worden thans in het postennet cyberdiplomaten en innovatie-attachés
geplaatst en is kortgeleden een ambassadeur voor veiligheidsbeleid en cyber benoemd.

Nederland financiert daarnaast onderzoeksinstellingen om de veiligheidsimplicaties
van innovatie te onderzoeken, zoals de Nederlandse organisatie voor Toegepast-Natuurwetenschappelijk
Onderzoek (TNO), het Stockholm International Peace Research Institute (SIPRI), en de Vrije Universiteit Amsterdam (VU).

Ook hecht het kabinet belang aan contact met het maatschappelijk middenveld (bedrijfsleven
en kennisinstituten). De afgelopen jaren is meerdere malen met maatschappelijke en
wetenschappelijke organisaties van gedachten gewisseld en dit zal worden voortgezet.

Gezien de huidige veiligheidscontext zal het niet eenvoudig zijn om tot concrete afspraken
te komen, maar Nederland zal zich daar wel voor blijven inspannen zoals hierboven
uiteengezet. Mocht blijken dat de technologische ontwikkelingen daartoe aanleiding
geven, zal het kabinet daarop tijdig reageren en zo nodig zijn standpunt herzien.
Het kabinet zal uw Kamer op de hoogte houden van de ontwikkelingen.

De Minister van Buitenlandse Zaken,
S.A. Blok