Brief regering : Reactie op de initiatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35848-2)

Nr. 3 BRIEF VAN DE MINISTERS VAN DEFENSIE EN VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 28 juni 2021

Inleiding

Op 4 juni 2021 heeft uw Kamer de Minister van Defensie verzocht een reactie te geven
op de initiatiefnota over «Autonome Wapensystemen» (Kamerstuk 35 848, nr. 2) van het Kamerlid Belhaj1. In deze brief reageert het kabinet op de initiatiefnota.

In de initiatiefnota wordt het kabinet onder meer verzocht te komen tot een internationaal
verdrag dat de inzet van autonome wapensystemen reguleert door betekenisvolle menselijke
controle te garanderen en dat volledig autonome wapensystemen verbiedt. Ook waarschuwt
de nota voor de gevaren van de snelle technologische en digitale ontwikkelingen, zoals
hackrisico’s en risico’s van zelflerende algoritmen. Op deze en de andere beslispunten
in de nota wordt in deze brief verder ingegaan. De ontwikkelingen op het gebied van
autonome wapensystemen worden tegen het licht van de nationale en internationale politiek
gehouden, en er wordt ingegaan op de vraag hoe autonome wapensystemen zich verhouden
tot het humanitair oorlogsrecht.

De technologische ontwikkelingen van onbemande en autonome systemen gaan razendsnel,
zowel bij onze partners als bij potentiële tegenstanders. Deze technologische ontwikkelingen
vormen een game changer binnen alle functies van militair optreden. Dit vereist nadrukkelijk kennis van deze
ontwikkelingen, heldere beleidsaansturing en een zorgvuldige inbedding van deze systemen
in de defensieorganisatie, zoals opgenomen in de Strategische Kennis- en Innovatieagenda
2021–20252. Daarnaast staat de beschikbaarheid van personeel onder druk, willen we risico’s
voor personeel minimaliseren en willen we de slagkracht verhogen binnen een informatiegestuurd
netwerk. Vanuit deze ontwikkelingen is het relevant om de kennis over en de beschikbaarheid
van autonome systemen te vergroten.

Alvorens in te gaan op de initiatiefnota en de beslispunten die daarin worden genoemd,
roept het kabinet in herinnering dat de Adviesraad Internationale Vraagstukken (AIV)
en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) zich momenteel
buigen over de actualisering van het AIV/CAVV advies over autonome wapensystemen uit
2015. Deze actualisering wordt komend najaar verwacht. De huidige positie van het
kabinet inzake autonome wapensystemen berust grotendeels op dat AIV/CAVV advies. Na
het verschijnen van het nieuwe advies zal het kabinet zijn positie evalueren en deze,
waar nodig, herzien.

Het uitgangspunt van het kabinet is dat alle wapensystemen en de inzet daarvan in
een situatie van gewapend conflict, moeten voldoen aan de eisen die het internationaal
recht daaraan stelt. Dit geldt ook voor autonome wapensystemen. Nederland benadrukt
daarbij het belang van betekenisvolle menselijke controle. Mensen moeten zich altijd
bevinden in de wider loop van besluitvorming, zoals beschreven in de kabinetsreactie van 4 maart 2016 (Kamerstuk
34 300 X, nr. 88). Dit heeft zowel betrekking op de kritische processen van doelselectie en inzet
van het wapen, als op het bredere targeting proces. Het kabinet hecht veel belang aan deze betekenisvolle menselijke controle. Volledig
autonome wapensystemen zijn systemen die niet onder deze betekenisvolle menselijke
controle staan.

Beslispunten uit initiatiefnota

Beslispunt 1: Stel een internationaal verdrag op dat de inzet van autonome wapensystemen
reguleert door betekenisvolle menselijke controle te garanderen en volledige autonome
wapensystemen verbiedt. Hierbij dient een concrete invulling van het concept betekenisvolle
menselijke controle als ijkpunt te worden genomen.

Zoals eerder aan uw Kamer gemeld3 zet Nederland zich in internationaal verband in om mogelijke veiligheidsimplicaties
van nieuwe technologieën te blijven te bespreken. De bereidheid van het kabinet om
zich nationaal en internationaal in te zetten en de potentieel verstrekkende gevolgen
van (volledig) autonome wapensystemen te bespreken, wordt in de initiatiefnota onderkend.
Hierbij wordt het omarmen van de term betekenisvolle menselijke controle genoemd als
belangrijke stap. De nota constateert echter dat er normatieve en operationele kaders
missen, evenals de invulling van de term betekenisvolle menselijke controle.

Het uitgangspunt van het kabinet is dat alle wapensystemen, én de inzet daarvan in
een situatie van gewapend conflict, moeten voldoen aan de eisen die het internationaal
recht daaraan stelt. Zoals het kabinet in zijn brief van 26 november 2013 stelt, geldt
dit ook voor autonome wapensystemen.4 Het internationaal recht is derhalve het normatief kader waaraan de inzet van autonome
wapensystemen moet worden getoetst. Helaas is er internationaal nog geen overeenstemming
over een aantal kernbegrippen, waaronder betekenisvolle menselijke controle. Nederland
zet zich daarom in om internationaal overeenstemming te krijgen over deze kernbegrippen.

Om in dit kader vooruitgang te boeken, voert Nederland sinds 2013 discussies in internationaal
verband over het gebruik en de ontwikkeling van autonome wapensystemen. Deze gesprekken
vinden plaats binnen de Group of Governmental Experts (GGE) on LAWS (Lethal Autonomous Weapon Systems) gemandateerd onder de Convention on Certain Conventional Weapons (CCW). Binnen het huidige internationale krachtenveld kunnen ruwweg drie groepen
worden onderscheiden:

1. Voorstanders van een nieuw internationaal verbod op volledig autonome wapensystemen.
Deze groep bestaat uit circa dertig landen, waaronder Oostenrijk en Pakistan;

2. Een kleine groep landen die vinden dat het huidig recht volstaat en geen voorstander
zijn van verdere maatregelen of besprekingen, zoals Rusland;

3. Een grote groep landen die een middenpositie innemen en vinden dat het huidig recht
vooralsnog volstaat maar pleiten voor aanvullende guidance en interpretatie van het
bestaande kader, waaronder de Verenigde Staten, Zweden, het Verenigd Koninkrijk en
Nederland.

Nederland draagt binnen de GGE actief bij aan de discussies over begripsvorming, bijvoorbeeld
over een eenduidige interpretatie van de toepasbaarheid van internationaal recht als
bestaand normatief kader op de ontwikkeling en inzet van autonome wapensystemen. Daarnaast
zet Nederland zich in om concrete invulling te geven aan het concept betekenisvolle
menselijke controle, en de acceptatie van dit concept binnen de internationale gemeenschap
te vergroten.

Een van de obstakels om voortgang te boeken binnen de GGE on LAWS is het feit dat de discussie veelal over de vorm gaat, zoals of er wel of geen nieuw
verdrag moet komen. Hierdoor kan minder progressie worden geboekt op inhoudelijke
thema’s, zoals menselijke controle. De Belgische GGE-voorzitter heeft daarom aangegeven
de discussie over de vorm te willen doorschuiven naar de toetsingsconferentie van
de CCW die gepland staat in december van dit jaar en om binnen de GGE inhoudelijke
aanbevelingen te formuleren over het normatief en operationeel raamwerk van autonome
wapensystemen conform het mandaat van de GGE. Hiervoor is eerst verdere inhoudelijke
discussie nodig, mede omdat er nog geen internationale overeenstemming is over kernbegrippen.

Het kabinet is teleurgesteld dat het tot op heden niet mogelijk is gebleken om internationaal
consensus te bereiken over het begrip betekenisvolle menselijke controle, maar zal
zich hier onverminderd voor blijven inspannen. Zoals eerder aan uw Kamer gemeld5 heeft het kabinet onderzoek van het Stockholm International Peace Research Institute (SIPRI) in samenwerking met International Committee of the Red Cross (ICRC) gesteund. Dat onderzoek probeert praktische invulling te geven aan de mate
van menselijke controle die noodzakelijk is om te voldoen aan het internationaal recht.
Inmiddels rondt SIPRI met steun van het kabinet hier een vervolgstudie op af. Het
kabinet wacht de uitkomsten van dit onderzoek af – die waarschijnlijk in de zomer
van 2021 zullen verschijnen – en zal de relevante inzichten die daaruit voortvloeien
inbrengen in het debat binnen de GGE.

Beslispunt 2: Roep de Nederlandse regering op om internationaal, vooral binnen de
EU, aan te dringen bij andere landen om artikel 36 van het aanvullend Protocol 1 bij
de verdragen van de Geneefse conventie 12 augustus 1949 om te zetten in nationale
wetgeving.

Het kabinet vindt dat ieder land verplicht is om bij het ontwikkelen, aanschaffen
en inzetten van een nieuw wapensysteem, dat systeem te onderwerpen aan een toetsingsprocedure
die vaststelt of het wapen kan worden ingezet in overeenstemming met de bepalingen
van het internationaal recht, waaronder die van het humanitair oorlogsrecht. Deze
verplichting vloeit onder meer voort uit Artikel 36 van het Eerste Aanvullende Protocol
bij de Geneefse Conventies. Bij Defensie is hiervoor de Adviescommissie Internationaal
Recht en Conventioneel Wapengebruik (AIRCW) ingesteld. Deze commissie adviseert de
Minister van Defensie.6 In de initiatiefnota staat terecht geschreven dat maar een zeer beperkt aantal landen
een Artikel 36-procedure of soortgelijke weapon review procedure heeft geïmplementeerd. Nederland roept staten in internationaal verband,
zoals in de GGE, actief op om dergelijke wapenreviewprocessen in te richten. Daarnaast
zet Nederland zich in om de rol van betekenisvolle menselijke controle t.a.v. autonome
systemen en nieuwe technologie, zoals AI, beter in deze procedures te verankeren.
In dat verband verdient de opvolging van de motie Koopmans vermelding en de toezeggingen
en de inspanningen van de Minister van Buitenlandse Zaken in deze.7 Nederland pleit ervoor dat landen hun wapenreviewproces transparant inrichten én
uitvoeren, en de uitkomsten van afgeronde wapenreviews waar mogelijk internationaal
delen. Nederland doet dit zelf ook en zal zich hiervoor actief blijven inzetten. Zo
heeft het Ministerie van Defensie eerder dit jaar in het kader van het EU-strategisch
proces over het verantwoord militair gebruik van nieuwe technologieën aan lidstaten
een presentatie gegeven over de Artikel 36-procedure en lidstaten opgeroepen informatie
hieromtrent, waar mogelijk, te delen. Ook in VN-verband heeft Defensie haar kennis
gedeeld met betrekking tot de Artikel 36-procedure, onder andere door in 2020 bij
te dragen aan een (virtuele) informatie uitwisseling.8

Beslispunt 3: Kom met een expliciete vermelding welke stappen binnen het doelontwikkelingsproces
uitgevoerd moeten worden door een mens.

In de initiatiefnota wordt als centrale vraag gesteld: «Wat willen we van de mens?».9 De eerdergenoemde kabinetsreactie op het adviesrapport Autonome Wapensystemen van
de AIV en CAVV geeft antwoord op deze vraag.10 Nederland vindt, zoals gezegd, betekenisvolle menselijke controle van groot belang.
Hiervoor moeten mensen een nadrukkelijke rol spelen bij het programmeren van de kenmerken
van de aan te vallen doelen en bij de beslissing over de inzet van het wapen. Mensen
vervullen in dit geval dus een cruciale rol in het targeting proces. Een autonoom wapen, zoals hierboven gedefinieerd, wordt derhalve pas ingezet
na menselijke afwegingen over aspecten als doelselectie, wapenselectie en uitvoeringsplanning
inclusief een beoordeling van mogelijke nevenschade. Het autonome wapensysteem is
bovendien geprogrammeerd om binnen vooraf bepaalde voorwaarden en kaders specifieke
acties uit te voeren. Na inzet volgt wederom een menselijke beoordeling van de effecten
hiervan. De beoordeling van mogelijke nevenschade (voorzorgsmaatregelen en proportionaliteit)
en verantwoording volgens de regels van het humanitair oorlogsrecht spelen hierbij
een sleutelrol.

Beslispunt 4: Geen investeringen en steun van de Nederlandse regering voor de ontwikkeling
van volledige autonome wapensystemen, zowel in Nederland, de Europese Unie (Europees
Defensiefonds) als binnen de NAVO. Nederland dient zich actief in te zetten om dit
soort investeringen te voorkomen.

De initiatiefnota stelt dat de industrie die zich bezighoudt met volledig autonome
wapensystemen zonder menselijke controle geen steun mag krijgen vanuit middelen van
de Europese Unie, de NAVO of Nederland11.

Wat Nederland betreft gaat het niet uitsluitend om het voorkomen van investeringen
in volledig autonome wapensystemen. Defensie investeert in onderzoek en technologieontwikkeling
om betekenisvolle menselijke controle ook in de toekomst te waarborgen. In opdracht
van Defensie doet TNO onderzoek naar Men Machine Teaming. Daarin nemen het waarborgen van betekenisvolle menselijke controle en het verzekeren
van transparante besluitvorming een centrale plaats in. Mede dankzij de inzet van
Nederland is ook binnen de NAVO nadrukkelijk aandacht voor verantwoord gebruik van
Emerging and Disruptive Technologies (EDTs) («responsible use»), waaronder betekenisvolle menselijke controle. Nederland hanteert waar het gaat
om EDT’s een evenwichtige aanpak, met aandacht voor ethische en juridische kaders.

Wat betreft het Europees Defensiefonds (EDF) is uw Kamer al eerder geïnformeerd over
het gebruik hiervan voor de ontwikkeling van volledig autonome wapensystemen (Kamerstuk
21 501–23, nr. 188). In de EDF-verordening is vastgelegd dat acties moeten voldoen aan alle relevante
nationale, Unie- en internationale wetgeving, waaronder ook aan de ethische beginselen
die daarin worden weergegeven. Het is de visie van het kabinet dat een verwijzing
naar het internationaal recht, in het bijzonder het humanitair oorlogsrecht, voldoende
is. In dit geval is dat een verwijzing naar het hierboven al besproken Artikel 36
van het Aanvullend Protocol I bij de Verdragen van Genève.

Beslispunt 5: Zorg dat alle autonome wapensystemen die door Nederland ontwikkeld of
aangeschaft worden, kunnen worden voorzien van een instrument dat data registreert
en verzendt naar een database.

In de initiatiefnota wordt beschreven dat autonome wapens voorzien kunnen worden van
een instrument dat data registreert en verzendt naar een database. Volgens de initiatiefnota
zou het hebben van een instrument op autonome wapens dat data registreert en verzendt
in Nederland een verplicht onderdeel moeten zijn bij de aankoop en ontwikkeling van
autonome wapensystemen12.

Alle systemen die door Nederland worden verworven hebben reeds een dergelijk registratie-functionaliteit.
Deze variëren wel in welke data precies worden vastgelegd.

Beslispunt 6: Zie het gebruik van niet-volledige autonome wapensystemen bij militaire
missies als aandachtspunt bij de artikel 100 procedures.

De nieuwe risico’s die het gebruik van deze autonome wapensystemen met zich meebrengen
moeten volgens de initiatiefnota voorafgaand aan de besluitvorming van een militaire
missie met de Tweede Kamer worden besproken. Ook na afloop van een missie dienen deze
aspecten met de Tweede Kamer te worden geëvalueerd. Gezien de complexiteit van autonome
wapensystemen zou dit volgens de initiatiefnota moeten worden opgenomen in de artikel 100
brief.13 Het Ministerie van Defensie maakt een militaire afweging welke middelen en methoden
nodig zijn om de politieke opdracht voor inzet uit te kunnen voeren. Alle systemen
die gedurende een missie ter beschikking staan van de krijgsmacht zijn vooraf getoetst
aan de Artikel 36-procedure, zoals aangegeven onder beslispunt 2. Dit geldt ook voor
niet-volledige autonome wapensystemen.

Tot slot

De initiatiefnota beoogt door middel van deze zes beslispunten verdere invulling te
geven aan de operationele en normatieve kaders voor het gebruik van autonome wapensystemen.
De beslispunten zijn gebaseerd op politieke en technologische ontwikkelingen op dit
onderwerp. Nederland draagt in het internationale domein bij aan discussies over begripsvorming
en de verduidelijking van normatieve en operationele kaders. Het kabinet onderstreept
het belang van de genoemde betekenisvolle menselijke controle die ook in de initiatiefnota
wordt aangehaald. Ook heeft Nederland Artikel 36 van Aanvullende Protocol I bij de
Verdragen van Genève geïmplementeerd en draagt Nederland actief bij aan het internationale
debat over dit artikel. Hiervoor zal Nederland zich blijven inzetten.

Zoals hierboven aangegeven wordt dit najaar een geactualiseerd advies van de AIV/CAVV
over dit onderwerp verwacht. Het kabinet zal op basis van dit advies de Nederlandse
inzet met betrekking tot autonome wapensystemen evalueren, waar nodig herzien en deze
in een kabinetsreactie op het advies uiteenzetten.

De Minister van Defensie, A.Th.B. Bijleveld-Schouten

De Minister van Buitenlandse Zaken, S.A.M. Kaag