Verslag van een schriftelijk overleg : Verslag van een schriftelijk overleg over o.a. het internationaal normkader voor het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen

Nr. 53
VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Vastgesteld 28 november 2019

De vaste commissie voor Buitenlandse Zaken heeft een aantal vragen en opmerkingen
voorgelegd aan de Minister van Buitenlandse Zaken over de brief van 13 mei 2019 over
het internationaal normkader voor het gebruik van nieuwe technologieën als (onderdeel
van) wapensystemen) (Kamerstuk 33 694, nr. 45) en over de brief van 20 september 2019 over de uitvoering van de motie van het lid
Koopmans c.s. over beheersing van de productie, plaatsing, verspreiding en inzet van
nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 48).

De vragen en opmerkingen zijn op 18 oktober 2019 aan de Minister van Buitenlandse
Zaken voorgelegd. Bij brief van 25 november 2019 zijn de vragen beantwoord.

De voorzitter van de commissie, P. Dijkstra

Adjunct-griffier van de commissie, Konings

Vragen en opmerkingen vanuit de fracties en reactie van de Minister

Vragen en opmerkingen van de leden van de VVD-fractie

De leden van de VVD-fractie hebben met belangstelling deelgenomen aan het algemeen
overleg Technologisch nieuwe wapensystemen op 3 oktober 2019 en maken graag van dit
schriftelijk overleg gebruik om nog een aantal vragen te stellen.

De leden van de VVD-fractie constateren dat er in het algemeen overleg diverse nieuwe
technologische wapensystemen aan de orde zijn gekomen, en kijken uit naar de door
de Minister van Buitenlandse Zaken aangekondigde internationale conferentie. Deze
leden vragen naar de opzet van deze conferentie, wat de inzet van het kabinet zal
zijn en welke internationale partners daarbij zullen worden betrokken. Wil het kabinet
voorafgaand aan de conferentie een conceptuitkomst ontwikkelen, waarover op de conferentie
consensus kan worden bereikt?

1. Antwoord van het kabinet

Het Ministerie van Buitenlandse Zaken verkent op dit moment de verschillende opties
ten aanzien van de te organiseren conferentie. Het verzekeren van een zo groot mogelijk
bereik is hierbij leidend. Zoals ook toegezegd tijdens het AO Wapensystemen van 3 oktober
jl. (Kamerstuk 33 694, nr. 50) zal het kabinet uw Kamer separaat per brief informeren over deze conferentie zodra
daar meer duidelijkheid over bestaat.

De leden van de VVD-fractie constateren verder dat de vernieuwde technologieën en
ontwikkelingen leiden tot nieuwe bedreigingen. Het gebruik van nieuwe technologische
middelen is in toenemende mate ook mogelijk voor niet-statelijke actoren. Kan het
kabinet deze leden een overzicht verschaffen van de meest relevante bedreigingen in
de voornoemde categorie?

2. Antwoord van het kabinet

Het kabinet acht ieder ongeoorloofd gebruik van wapensystemen door niet-statelijke
actoren zorgelijk, ongeacht of het «traditionele» wapensystemen zoals mortieren of
raketten betreft, of nieuwe technologische ontwikkelingen zoals onbemande luchtvaartuigen
of geïmproviseerde explosieven. Alle dreigingen die voortvloeien uit ongeoorloofd
wapengebruik door niet-statelijke actoren zijn relevant. Het is daarom weinig zinvol
en bovendien vrijwel ondoenlijk een uitputtende lijst van dergelijke dreigingen op
te stellen.

Welke internationale regulering van nieuwe wapens bestaat er? Ziet het kabinet behoefte
aan nieuwe afspraken? Zo ja, welke? Hoe wordt er gewerkt aan het in internationaal
verband tegengaan van onveiligheid voortkomend uit de proliferatie van dergelijke
middelen?

3. Antwoord van het kabinet

Uitgangspunt voor het kabinet is allereerst dat het bestaande internationaal recht
onverminderd van toepassing is op het gebruik van nieuwe technologieën in wapensystemen.
Dat recht ziet toe op zowel de inzet van als de handel in deze systemen. Naast de
Geneefse Conventies betreft dat onder andere, maar niet uitsluitend, de Convention on Certain Conventional Weapons (CCW) en het Wapenhandelverdrag (ATT). Ook relevant zijn het Wassenaar Arrangement
(WA) en het Missile Technology Control Regime (MTCR), die via nationale wetgeving worden geïmplementeerd. Ook zijn door de VN-Veiligheidsraadresoluties
1540 en 2370 bekrachtigd. Deze resoluties verplichten staten om wetgeving aan te nemen
en te handhaven die de proliferatie van massavernietigingswapens én hun overbrengingsmiddelen
(waaronder onbemande luchtvaartuigen) aan terroristische organisaties moet voorkomen.
Bovendien is ieder land dat partij is bij het Eerste Aanvullend Protocol bij de Geneefse
Conventies verplicht om bij het ontwikkelen, aanschaffen en inzetten van een nieuw
wapensysteem, dat systeem te onderwerpen aan een toetsingsprocedure die erop toeziet
dat het wapen ingezet kan worden in overeenstemming met de bepalingen van het internationaal
recht, waaronder het humanitair oorlogsrecht. Nederland is partij bij de hierboven
genoemde verdragen en afspraken en komt zijn verplichtingen onder deze instrumenten
na. Het kabinet pleit in internationale fora voor een strikte naleving van de bestaande
regels en spreekt landen aan indien blijkt dat zij dat niet doen.

De internationale gemeenschap evalueert voortdurend of de bestaande regels voldoende
zijn, onder andere tijdens de jaarlijkse bijeenkomsten van de verschillende verdragen
en tijdens de Eerste Commissie van de Algemene Vergadering van de Verenigde Naties.
De behoefte aan nieuwe afspraken op deelterreinen heeft de afgelopen jaren dan ook
geleid tot aanvullende initiatieven voor de verdere ontwikkeling van de normatieve
en operationele kaders die toezien op de toepassing van de bestaande regels. Zo zijn
er in het geval van autonome wapensystemen in VN-verband «Guiding Principles»1 afgesproken die toezien op de ontwikkeling en inzet van dergelijke systemen. Ook
zijn, op basis van een gezamenlijke politieke verklaring uit 2016, Internationale
Standaarden geformuleerd die zijn toegespitst op verantwoorde handel in en inzet van
bewapende onbemande luchtvaartuigen. Nederland heeft, als een van de zes kopgroep-landen,
actief bijgedragen aan de totstandkoming van deze standaarden. Daarnaast hebben landen,
waaronder Nederland, die deel uitmaken van het Global Counter Terrorism Forum (GCTF) in september 2019 vrijwillige afspraken gemaakt2 die moeten voorkomen dat terroristen kunnen beschikken over onbemande luchtvaartuigen.
Het kabinet ondersteunt bovengenoemde initiatieven en roept andere landen op om zich
daarbij aan te sluiten.

Een belangrijke nieuwe ontwikkeling is ook de introductie van hypersone raketsystemen.
Om de impact van deze rakettechnologie te verkennen en mogelijke maatregelen voor
veiligheid en stabiliteit in kaart te kunnen brengen, financiert Nederland een expertworkshop
hierover in Genève in december. Ook steunt Nederland het Missile Dialogue Initiative dat door Duitsland is opgezet n.a.v. de wapenbeheersingsconferentie in Berlijn op
15 maart 2019.

Ook ten aanzien van cybermiddelen zijn besprekingen gaande over de mogelijkheid tot
aanvullende afspraken. Zo wordt in het kader van het Wassenaar Arrangement onderhandeld
over mogelijkheden om software die gebruikt kan worden bij offensieve cyberoperaties
op te nemen in de lijst van gecontroleerde goederen. Uw Kamer is middels de brief
«Internationale rechtsorde in het digitale domein» van 5 juli 2019 bovendien geïnformeerd
over de inspanningen van het kabinet ten behoeve van het bestendigen van de internationale
rechtsorde in het digitale domein.

Voorts vragen de leden van de VVD-fractie hoe er, en zo mogelijk met internationale
partners, wordt gewerkt aan de praktische weerbaarheid tegen de voornoemde dreigingen.
Hoe wordt er, al dan niet in NAVO-verband, samen met andere landen ingezet op mogelijkheden om onszelf te verdedigen
tegen eventuele aanvallen, ook door niet-statelijke actoren, waarbij gebruik wordt
gemaakt van nieuwe technologische wapens?

4. Antwoord van het kabinet

De mogelijkheden om Nederland en, in bondgenootschappelijk verband, onze bondgenoten
te verdedigen tegen eventuele aanvallen met gebruikmaking van nieuwe technologische
wapens hebben de aandacht van het kabinet. De weerbaarheid tegen dergelijke aanvallen
berust in de eerste plaats op onderzoek naar ontwrichtende technologieën en hun mogelijke
impact. Dat gebeurt nationaal, bij de kennisinstituten TNO, NLR en Marin en internationaal,
met gebruikmaking van samenwerkingsverbanden met individuele partners, bondgenoten
en de NAVO.

Het recente NAVO-initiatief voor een «Roadmap on Emerging and Disruptive Technologies» onderstreept het belang dat Nederland en NAVO-bondgenoten hechten aan het in kaart
brengen van de veiligheidsimplicaties van nieuwe technologieën en het onderzoeken
van manieren waarop de weerbaarheid versterkt kan worden tegen potentiële inzet van
nieuwe technologieën als wapens. Bij de NAVO verdienen de NATO Science & Technology Organization en het Allied Command Transformation (ACT) vermelding – hier wordt onderzoek gedaan naar manieren waarop de NAVO en NAVO-bondgenoten
rekening dienen te houden met technologische innovatie.

Naarmate technologieën verder zijn ontwikkeld verschuift de aandacht naar concrete
toepassingen om dergelijke aanvallen het hoofd te kunnen bieden. Een goed voorbeeld
in dezen betreft de verdediging tegen aanvallen door onbemande luchtvaartuigen. In
dat kader zijn en worden op dit moment in nauwe samenhang zowel systemen ontwikkeld,
als een wijze van optreden die optimaal gebruikmaakt van de technologische mogelijkheden
die voorhanden zijn.

Vragen en opmerkingen van de leden van de D66-fractie

De leden van de D66-fractie hebben met belangstelling deelgenomen aan het algemeen
overleg Technologisch nieuwe wapensystemen op 3 oktober 2019. De leden van de D66-fractie
hebben naar aanleiding van het overleg nog een aantal vragen en opmerkingen.

De leden van de D66-fractie hebben begrepen dat het Ministerie van Defensie de aangeschafte
Reapers vanaf de zomer van 2020 verwacht. Tijdens het verwervingsproces hebben deze
leden meermaals gevraagd om duidelijk te maken dat het gaat om niet-bewapende Reapers
en dat deze in de toekomst ook niet bewapend zullen worden. Destijds zijn de leden
van de D66-fractie ingelicht dat een eventuele bewapening inderdaad niet aan de orde
was. Kan het kabinet de huidige stand van zaken met betrekking tot de Reapers toelichten
en hierbij in het bijzonder nogmaals bevestigen dat bewapening niet aan de orde is?
Is het kabinet bereid toe te zeggen dat er in de toekomst geen sprake zal zijn van
het bewapenen van deze drones?

5. Antwoord van het kabinet

Voor de beantwoording van deze vraag verwijst het kabinet naar de Kamerbrief van de
Staatssecretaris van Defensie over Onbemande Vliegtuigen van 6 juni 2018 (Kamerstuk
30 806, nr. 47). Zoals onder andere in deze brief vermeld, is op dit moment geen sprake van bewapening
van de Nederlandse MQ-9 Reapers. Bewapening van MQ-9’s is technisch wel mogelijk.
Indien in de toekomst een behoeftestelling ontstaat voor bewapening van de MQ-9, dan
wordt de Kamer daarover vooraf van op de hoogte gesteld middels het reguliere Defensie
materieelproces (DMP).

De leden van de D66-fractie hebben een aantal vragen over de brief over het internationaal
normkader voor het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen
(Kamerstuk 33 694, nr. 45).

Deze leden hebben met veel aandacht de ontwikkelingen gevolgd rondom killerrobots.
Hieronder wordt verstaan autonome wapensystemen die doelen kunnen selecteren en aanvallen
zonder betekenisvolle menselijke controle. De leden van de D66-fractie zijn van mening
dat het ethisch onacceptabel is wanneer wapensystemen dodelijk geweld kunnen toepassen
zonder directe instructie van een mens. Deze leden stuiten hierbij op twee bezwaren.
Allereerst is er sprake van een ongekend veiligheidsrisico. Het gebruik van autonome
wapensystemen verlaagt de drempel om oorlog te voeren en vergroot de kans op escalatie.
Ten tweede zien zij juridische bedenkingen. Kan het kabinet aangeven of een autonoom
wapensysteem voldoet aan het internationaal humanitair oorlogsrecht? Waarom heeft
het kabinet er niet voor gekozen om wellicht nieuwe kaders te schetsen die recht doen
aan deze nieuwe technologie? Kan het kabinet aangeven of een autonoom wapensysteem
onderscheid kan maken tussen een burger en een soldaat? Wie is er verantwoordelijk
wanneer het misgaat? Deelt het kabinet de mening dat een militair een weloverwogen
beslissing moet kunnen nemen om geweld te gebruiken en daarbij moet kunnen toetsen
of de aanval voldoet aan internationaal recht? Deelt het kabinet de mening dat dergelijke
beslissingen niet mogen worden uitbesteed aan robots of algoritmes?

6. Antwoord van het kabinet

Om deze vragen volledig te kunnen beantwoorden moet allereerst een onderscheid worden
gemaakt tussen autonome wapensystemen en volledig autonome wapensystemen. De Commissie van Advies inzake Volkenrechtelijke Vraagstukken
(CAVV) en de Adviesraad Internationale Vraagstukken (AIV) definieerden in hun advies
«Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van 2 oktober
2015, een autonoom wapen als een «systeem dat zelfstandig doelen, offensief of defensief,
die voldoen aan voorgeprogrammeerde kenmerken, selecteert en aanvalt, nadat mensen
hebben besloten het wapen in te zetten en waarbij de mens niet meer kan ingrijpen
om de aanval te stoppen». Volledig autonome wapensystemen daarentegen zijn zodanig
geprogrammeerd dat zij het gehele targeting proces zelfstandig uitvoeren, vanaf het formuleren van het militaire doel tot en met
het bepalen van de plaats en tijd van inzet. Betekenisvolle menselijke controle over
zulke systemen is niet mogelijk en daarmee zijn deze wapens in strijd met het internationaal
recht. Daarom hebben nieuwe juridisch-bindende kaders, in de vorm van bijvoorbeeld
een verbod, geen toegevoegde waarde. Het kabinet verwerpt op voorhand de ontwikkeling
en het gebruik van volledig autonome wapensystemen. De zogenaamde «Killer Robots» behoren tot de categorie volledig autonome wapensystemen.

Ten aanzien van reguliere, d.w.z. niet-volledig autonome wapensystemen, staat niet op voorhand vast of deze systemen per definitie
wél of niét kunnen voldoen aan het humanitair oorlogsrecht. Dat geldt ook voor de
vraag of autonome wapensystemen per definitie wel of geen onderscheid kunnen maken
tussen een burger en een soldaat. Dat moet per wapensysteem afzonderlijk worden vastgesteld.
Wat wel vaststaat, is dat een wapensysteem dat niet in staat is om dit onderscheid
te kunnen maken, in strijd is met het humanitair oorlogsrecht en daarmee verboden
is. Ieder land is bovendien verplicht om bij het ontwikkelen, aanschaffen en inzetten
van een nieuw wapensysteem, dat systeem te onderwerpen aan een strenge toetsingsprocedure
die erop toeziet dat het wapen ingezet kan worden in overeenstemming met de bepalingen
van het internationaal recht, waaronder het humanitair oorlogsrecht. Deze verplichting
vloeit voort uit Artikel 36 van het Eerste Aanvullend Protocol bij de Geneefse Conventies,
en is volgens een groot aantal landen mede onderdeel van het gewoonterecht. Indien
een nieuw te ontwikkelen, aan te schaffen of in te zetten (autonoom) wapensysteem
by design niet kan voldoen aan de vereisten van het humanitair oorlogsrecht – waaronder, maar
niet alleen, het onderscheidsbeginsel – zal dit systeem de toetsing niet doorstaan
en mag het wapen dus niet in gebruik worden genomen.

Alhoewel het kabinet van mening is dat het huidig internationaal recht afdoende is
om de inzet van autonome wapensystemen in een juridisch kader te plaatsen, wordt er volop gewerkt aan de operationele en normatieve kaders
t.a.v. het gebruik van autonome wapensystemen. Zo zijn er in VN-verband in 2018 en
2019 elf «Guiding Principles» voor de ontwikkeling en het gebruik van autonome wapensystemen opgesteld. In 2020
en 2021 zullen de gesprekken hierover worden voortgezet, waar onder andere aan de
hand van juridische, technologische en militaire expertise zal worden gewerkt aan
het uitbreiden en de verdere verduidelijking van de bestaande operationele en normatieve
kaders. Deze gesprekken vinden plaats binnen de Group of Governmental Experts (GGE) on Lethal Autonomous Weapons Systems (LAWS), gemandateerd door de verdragspartijen bij de Convention on Certain Conventional Weapons (CCW).

Mensen, niet machines, blijven te allen tijde verantwoordelijk voor de beslissing
om geweld te gebruiken. Dat geldt ook voor de inzet van autonome wapensystemen. Deze
afspraak is vastgelegd in het tweede Guiding Principle, dat stelt3: «Human responsibility for decisions on the use of weapons systems must be retained
since accountability cannot be transferred to machines.». Dit betekent dat combattanten of strijders behorende tot een partij bij een gewapend
conflict verantwoordelijk zullen blijven voor de verplichting om, voorafgaand aan
de beslissing om een wapensysteem in te zetten, te toetsen of in dat specifieke geval
kan worden voldaan aan het internationaal recht. Deze verplichting vloeit onder andere
voort uit het voorzorgsbeginsel van het humanitair oorlogsrecht, dat onverminderd
van toepassing is op het gebruik van autonome wapensystemen. Dit beginsel verplicht
partijen bij een gewapend conflict om bij de uitvoering van een militaire aanval voorzorgsmaatregelen
te nemen om nevenschade en burgerslachtoffers zo veel mogelijk te beperken.

De leden van de D66-fractie hechten aan het bereiken van een multilaterale consensus
gericht op het verbieden van autonome wapensystemen in navolging van verschillende
internationale gremia, waaronder het United Nations Institute for Disarmament Research.
Kan het kabinet aangeven waarom het de internationale gemeenschap tot dusver niet
is gelukt om hierover bindende afspraken te maken, in tegenstelling tot het bestaande
verbod op chemische wapens? Wat gaat het kabinet doen om een race
to the bottom te voorkomen? Wat zal de Nederlandse inzet zijn tijdens de jaarlijkse bijeenkomst
van de Convention on Certain Conventional Weapons (CCW) in november naar aanleiding
van de breed gesteunde motie over beheersing van de productie, plaatsing, verspreiding
en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 43)? Ziet het kabinet mogelijkheden voor Nederland als aanjager van «een zo breed gedragen
en verstrekkend mogelijk verdrag of andere bindende internationale regelgeving» waartoe
de motie oproept? Ziet het kabinet mogelijkheden voor samenwerking met Europese partners
(Duitsland, Oostenrijk, België, Ierland) om te werken aan een dergelijk internationaal
verdrag? Welke alternatieve mogelijkheden ziet het kabinet mocht een kleine minderheid
binnen de CCW vooruitgang naar internationale regelgeving blijven blokkeren? Hoe staat
het kabinet tegenover het invoeren van een nationaal verbod op killerrobots zolang
een internationale oplossing uitblijft? Is het kabinet bereid een dergelijk verbod
in te voeren?

7. Antwoord van het kabinet

Autonome wapensystemen verschillen fundamenteel van andere wapens – zoals chemische
wapens, clustermunitie, brandwapens of antipersoneelsmijnen – die wél per verdrag
verboden zijn. In het geval van autonome wapens betreft het namelijk een zeer breed
scala aan inzetbare technologieën die in uiteenlopende systemen kan worden toegepast.
Veel van de technologieën die eventueel gebruikt worden in autonome wapensystemen
hebben een zogenaamd dual use-karakter, en ook de private sector speelt een leidende rol in de ontwikkeling van
deze technieken.

Een specifiek verdrag gericht op autonome wapensystemen zou daarom dermate globaal
geformuleerd moeten worden dat de in het verdrag opgenomen bepalingen weinig tot geen
toegevoegde waarde zouden hebben ten aanzien van de huidige regelgeving. Daarnaast
kan een dergelijk verdrag de ontwikkeling van positieve maatschappelijk-civiele toepassingen
van deze technieken beperken. Bovendien bestaat er een risico dat een dergelijk verdrag
leidt tot ambiguïteit t.a.v. het bestaande internationaal recht, door enerzijds te
suggereren dat het huidige internationaal recht niet afdoende is en anderzijds een
mogelijk onwenselijke herinterpretatie van het bestaande internationaal recht teweeg
te brengen.

Verwijzend naar het hierboven geschetste onderscheid tussen autonome wapensystemen,
en volledig autonome wapensystemen, benadrukt het kabinet nogmaals dat er reeds juridisch-bindende
afspraken bestaan over enerzijds de inzet van autonome wapensystemen, en anderzijds
een verbod op volledig autonome wapensystemen. Deze afspraken vloeien voort uit het internationaal recht,
waaronder het humanitair oorlogsrecht en mensenrechten, die onverminderd van toepassing
zijn op autonome wapensystemen. Een nationaal verbod op zogenaamde Killer Robots, oftewel volledig autonome wapensystemen, acht het kabinet daarom nodig noch wenselijk.

Het is de internationale gemeenschap wel gelukt om aanvullende afspraken te maken over autonome wapensystemen. Zoals ook aangegeven in het antwoord
hierboven, wordt er volop gewerkt aan de verdere ontwikkeling van operationele en
normatieve kaders t.a.v. het gebruik van autonome wapens en zijn er meerdere Guiding Principles afgesproken. Nederland zal zich tijdens de eerstvolgende bijeenkomst van verdragspartijen
bij de CCW uitspreken voor de aanname van de aanbevelingen van de GGE, die pleiten
voor verdere uitwerking van de huidige kaders, waaronder de Guiding Principles. Nederland zal andere landen ook oproepen opvolging te geven aan deze principles in hun nationale beleid t.a.v. autonome wapensystemen en pleiten voor internationale
overeenstemming over de noodzaak tot betekenisvolle menselijke controle over autonome
wapensystemen. Het kabinet zet verder in op de verlenging van het mandaat van de GGE
in 2020 en 2021, met een concreet werkplan dat ruimte geeft voor vooruitgang op de
inhoudelijke agenda. Nederland trekt hierbij actief op met Europese partners, waaronder
met Duitsland, Zweden en Zwitserland. Deze inspanningen, samen met toezicht op de
naleving van de bestaande juridische kaders, moeten ervoor zorgen dat een zogenaamde
race to the bottom wordt voorkomen.

Het kabinet hecht belang aan een breed internationaal draagvlak voor de eventuele
aanvullende afspraken die t.a.v. autonome wapensystemen worden gemaakt. De betrokkenheid
en het commitment van alle relevante spelers, zoals onder andere de Verenigde Staten,
China en Rusland, draagt bij aan een veiliger wereld en is daarmee ook in het belang
van Nederland. De CCW biedt op dit moment het enige juiste platform waar alle relevante
staten bij zijn aangesloten om te komen tot algemeen geldende afspraken t.a.v. autonome
wapens. Het kabinet onderschrijft de veronderstelling dat een specifieke groep landen
vooruitgang binnen de CCW blokkeert niet.

De leden van de D66-fractie begrijpen dat er verschillende interpretaties bestaan
van het begrip betekenisvol menselijk handelen ten aanzien van autonome wapensystemen.
In tegenstelling tot de huidige visie van het kabinet zijn de leden van de D66-fractie
van mening dat menselijk handelen een onderdeel dient te zijn van élke stap in het
proces, dus niet alleen bij de inzet van een autonoom wapensysteem. Met name in het
offensieve domein ziet de D66-fractie hier een kans op mogelijk onnodige en desastreuze
gevolgen. Het louter omzetten van een kill-switch is voor de D66-fractie niet de juiste interpretatie van betekenisvol menselijk handelen.
Het Nederlandse kabinetsstandpunt onderschrijft het belang van het begrip betekenisvolle
menselijke controle, maar stelt dat menselijke controle over autonome wapens voor
de inzet van een wapen afdoende is. Kan het kabinet het standpunt met betrekking tot
menselijke inbreng nogmaals toelichten?

8. Antwoord van het kabinet

Het kabinet acht betekenisvolle menselijke controle een noodzakelijk vereiste om autonome
wapensystemen conform het internationaal recht te kunnen inzetten. Het betreft menselijke
controle die betekenisvol is, d.w.z. dat die controle uit meer moet bestaan dan een zogenaamde «kill-switch» die uitsluitend bedoeld is om het systeem aan en uit te zetten. Betekenisvolle menselijke
controle is van toepassing binnen de bredere besluitvormingscyclus die voorafgaat
aan de beslissing om een (autonoom) wapensysteem in te zetten, en kan zich, indien
nodig, ook uitstrekken tot toezicht en supervisie tijdens de inzet van het wapensysteem.
In welke mate die controle van toepassing dient te zijn ten aanzien van de verschillende
stappen binnen deze zogenaamde targeting cyclus is onder andere afhankelijk van het type systeem, de capaciteiten die het systeem
heeft, de aard van de doelwitten waar het systeem op wordt gericht, en de context
waarbinnen het systeem dient te opereren. Te allen tijde geldt dat mensen de randvoorwaarden
blijven bepalen ten aanzien van de tijd en plaats van inzet van het wapen, en de aard
van de doelwitten waar het wapen zich op mag richten. In het geval van een autonoom
wapen kan het zo zijn dat het systeem, binnen deze door de mens geprogrammeerde kaders,
met een zekere mate van autonomie kan opereren. Het systeem mag deze kaders echter
niet uit zichzelf aanpassen. Een systeem wat daartoe in staat is, acht het kabinet
niet onder betekenisvolle menselijke controle, en daarmee in strijd met het bestaande
internationaal recht.

Het Internationaal Comité van het Rode Kruis (ICRC) waarschuwt juist bij deze wapens
voor de «loss of the ability of combatants to exercise the context-specific judgments
required of international humanitarian law (IHL) rules, and the loss of human agency
and diffusion of moral responsibility in decisions to use force». Is het kabinet bereid
om het concept betekenisvolle menselijke controle te operationaliseren naar concrete
maatregelen, daarbij rekening houdend met het standpunt van de ICRC? Is het kabinet
het met de leden van de D66-fractie eens dat bij elke inzet van autonome wapensystemen
er een element van onvoorspelbaarheid betrokken is dat nimmer in zijn totaliteit kan
worden ondervangen middels procedures of regelgeving? Zo ja, is het kabinet het met
deze leden eens dat gedurende het hele proces er altijd elementen van betekenisvolle
menselijke controle dienen te zijn?

9. Antwoord van het kabinet

Ja, het kabinet steunt meerdere onderzoeken naar de verdere concretisering en operationalisering
van het concept betekenisvolle menselijke controle en zal de uitkomsten van deze onderzoeken
inbrengen in het VN-debat. Een van deze onderzoeken wordt uitgevoerd door het Stockholm International Peace Research Institute (SIPRI) en de ICRC. Het standpunt van de ICRC krijgt daarin dan ook voldoende aandacht.
Het kabinet financiert ook promotieonderzoek naar dit onderwerp aan verschillende
Nederlandse universiteiten, alsook consultaties over deze materie met verschillende
kennisinstituten, waaronder The Hague Center for Strategic Studies (HCSS) en Clingendael.

Voor de beantwoording van de overige elementen uit bovenstaande vraag verwijst het
kabinet naar de beantwoording van de voorgaande vragen.

Het kabinet stelt dat het Nederlandse standpunt ten aanzien van de noodzaak van betekenisvolle
menselijke controle in 2021 «opnieuw tegen het licht dient te worden gehouden» (pagina
4). Ziet het kabinet mogelijkheden om dit proces te versnellen gezien de snelle technologische
ontwikkeling als ook het internationale debat? Welk interpretatie van het begrip betekenisvol
menselijke handelen verdedigt het kabinet bij de opkomende bijeenkomst van de CCW?
Is het kabinet bereid de interpretatie van de leden van de D66-fractie mee te nemen
in zijn inbreng?

10. Antwoord van het kabinet

Het kabinetsstandpunt ten aanzien van de noodzaak tot betekenisvolle menselijke controle
is grotendeels gebaseerd op het AIV/CAVV-advies «Autonome wapensystemen: de noodzaak
van betekenisvolle menselijke controle» uit 2015 en de kabinetsreactie daarop uit
20164. Zoals in het adviesrapport werd aangekondigd, zal dit advies na vijf jaar opnieuw
tegen het licht worden gehouden. De herziening van het AIV/CAVV-advies inzake autonome
wapensystemen staat op dit moment gepland voor de tweede helft van 20205. Gelet op het volle werkprogramma van de AIV acht het kabinet een versnelling van
dit advies niet haalbaar. Wel wordt het concept betekenisvolle menselijke controle
in de tussentijd voortdurend besproken en financiert het kabinet meerdere onderzoeken
naar de praktische uitwerking hiervan, zoals ook toegelicht in de beantwoording van
de voorgaande vragen.

De leden van de D66-fractie nemen naast de technologische ontwikkelingen omtrent autonome
wapensystemen ook nog enkele andere technologische ontwikkelingen waar. Deelt het
kabinet deze opvatting? Zo ja, welke technologisch nieuwe wapensystemen kent het kabinet
nog meer en schaart het kabinet akoestische wapens ook onder technologisch nieuwe
wapensystemen? Bestaat er een Nederlands beleid ten aanzien van akoestische wapens?
Zo nee, waarom nog niet? Beschikt het Ministerie van Defensie over akoestische wapens
of heeft het deze ooit ter beschikking gehad?

11. Antwoord van het kabinet

Technologieën worden doorlopend ontwikkeld. Dat gebeurt incrementeel, waarbij bestaande
technologieën worden geoptimaliseerd en disruptief, waarbij geheel nieuwe, baanbrekende
technologieën resulteren in nieuwe wapensystemen met bijbehorende (nieuwe) operationele
concepten. Voorbeelden van disruptieve technologieën zijn kwantum technologie en Artificial Intelligence; deze technologieën zijn nog volop in ontwikkeling.

Akoestische wapens zijn al geruime tijd beschikbaar; de gebruikte technologie is dus
niet nieuw en baanbrekend. Akoestische wapens worden geschaard onder niet-letale wapens
en kunnen bijvoorbeeld worden ingezet voor crowd-crontrol en riot management. De Nederlandse krijgsmacht beschikt (behoudens de zogenoemde flash bang handgranaat bij contra-terrorisme inzet) niet over akoestische wapens. Wel kent de
krijgsmacht een Long-Range Acoustical Device (LRAD): een maritieme (forse) versterker om mondelinge waarschuwingen over te brengen.
Deze LRAD zou theoretisch als wapen kunnen worden ingezet. Zowel de flash bang granaat
als de LRAD zijn onderworpen aan een toestemmingsprocedure en getoetst door een defensiecommissie
die over het gebruik van geweldsmiddelen binnen de geldende wet- en regelgeving gaat.