Antwoord schriftelijke vragen : Antwoord op vragen van het lid Belhaj over het bericht dat de Europese parlement killerrobots wil verbieden

Antwoord van Minister Bijleveld-Schouten (Defensie) (ontvangen 11 oktober 2018).

Vraag 1

Kent u het bericht «Europees Parlement wil «killer robots» verbieden»1?

Antwoord 1

Ja.

Vraag 2 en 3

Klopt het dat het Europees Parlement wil dat de Europese Unie (EU) en de afzonderlijke
lidstaten het voortouw nemen in het proces om dergelijke volledig geautomatiseerde
wapensystemen internationaal taboe te verklaren?

Klopt het dat het Europees Parlement van mening is dat zogenoemde «killerrobots» verboden
zouden moeten worden?

Antwoord 2 en 3

Het Europees Parlement roept met de resolutie van 12 september 2018 over autonome
wapensystemen (2018/2752 RSP) de Hoge Vertegenwoordiger van de Unie voor Buitenlandse
Zaken en Veiligheidsbeleid, de EU-lidstaten en de Europese Raad op om (1) een gezamenlijke
positie ten aanzien van «lethal autonomous weapon systems (LAWS)» overeen te komen en (2) zich sterk te maken voor internationale onderhandelingen
over een juridisch instrument om dodelijke autonome wapensystemen te verbieden.

Hierbij definieert het Europees Parlement LAWS als wapensystemen «die zonder beduidende
menselijke controle de kritische taken van het kiezen en aanvallen van afzonderlijke
doelwitten verrichten» en geeft daarbij ook aan dat «geautomatiseerde, op afstand
bediende systemen» geen LAWS zijn. In de resolutie komt de term «killer robots» niet
voor.

Vraag 4

Welke acties heeft u ondernomen na aanleiding van het rapport van de Adviesraad Internationale
Vraagstukken (AIV) over autonome wapensystemen van oktober 2015? Wat zijn uw vervolgstappen
naar aanleiding van het AIV-rapport uit 2015?

Antwoord 4

Het kabinetsstandpunt en de voorgenomen inzet ten aanzien van de internationale discussie
zijn verwoord in de kabinetsreactie op het advies «Autonome wapensystemen: de noodzaak
van betekenisvolle menselijke controle» van de Adviesraad Internationale Vraagstukken
(AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV)2, waarin het kabinet het advies heeft overgenomen. Kern van voorgenoemd rapport en
kabinetsstandpunt is dat alle wapensystemen, inclusief autonome wapensystemen, onder
betekenisvolle menselijke controle moeten staan. Het kabinet verwerpt op voorhand
de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle
staan.

De Ministeries van Defensie en van Buitenlandse Zaken hebben met het oog op de praktische
invulling van het concept van betekenisvolle menselijke controle in autonome wapensystemen
de afgelopen jaren uiteenlopende onderzoeksprojecten gefinancierd, waaronder projecten
van de Nederlandse Organisatie voor Toegepast-Natuurwetenschappelijk Onderzoek (TNO),
van het United Nations Institute for Disarmament Research (UNIDIR), van het Stockholm International Peace Research Institute (SIPRI) en ook een promotieonderzoek van de Vrije Universiteit Amsterdam (VU).

De uitkomsten van die onderzoeken zijn ingebracht in het internationale debat over
autonome wapensystemen dat plaatsvindt binnen de Convention on Certain Conventional Weapons (CCW) van de Verenigde Naties. Daarnaast is Nederland bij elke vergadering van de
CCW over autonome wapensystemen met een brede delegatie van experts aanwezig en heeft
Nederland non-papers ingediend voor een betere discussie.

Het kabinet is zich ervan bewust dat toekomstige ontwikkelingen, in het bijzonder
technologische ontwikkelingen en de toepassing daarvan, lastig te voorspellen zijn.
Om die reden heeft het kabinet reeds toegezegd het AIV/CAVV-advies 5 jaar na verschijning,
in 2020, opnieuw tegen het licht te willen houden. Tevens volgt het kabinet de (technologische)
ontwikkelingen op dit terrein op de voet zodat het, indien de ontwikkelingen daar
aanleiding toe geven, hier meteen op kan reageren. Hiertoe heeft het kabinet de onderwerpen
robotica en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid
bestempeld.

Vraag 5

Wat vind u van de opmerking in het artikel over de uitspraak van de indieners dat
er geen Europees geld in onderzoek en ontwikkeling van autonome wapensystemen gestoken
zou mogen worden?

Antwoord 5

Zoals vermeld in eerdergenoemde kabinetsreactie is het kabinet tegen de ontwikkeling
en de inzet van volledig autonome wapensystemen waarbij geen sprake meer is van betekenisvolle
menselijke controle. Het is daarom niet wenselijk dat dergelijke systemen ontwikkeld
zouden worden. Overigens lijkt zich in de CCW al consensus tussen de lidstaten af
te tekenen dat autonome wapensystemen altijd onder menselijke controle moeten staan.

Autonome wapensystemen die beschikken over betekenisvolle menselijke controle kunnen
echter ook belangrijke militaire voordelen hebben, zoals het genoemde AIV-rapport
ook concludeert. Deze systemen kunnen vaak sneller en preciezer reageren dan mensen,
waardoor de risico’s voor eigen eenheden en de burgerbevolking kunnen afnemen. Ook
kunnen zulke systemen opereren in een omgeving die voor mensen moeilijk bereikbaar
en/of gevaarlijk is. Het kabinet verwacht dan ook dat dergelijke wapensystemen, voorzien
van betekenisvolle menselijke controle, de komende decennia wereldwijd (verder) worden
ontwikkeld en zullen worden ingezet.

Zoals vermeld in het antwoord op vraag 4, heeft het kabinet de onderwerpen robotica
en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid bestempeld.
Onderzoek naar «mens-machine-teaming» is ook een van de speerpunten van de Strategische
Kennis en Innovatie Agenda (2016–2020) van het Ministerie van Defensie.

Vraag 6 en 7

Waarom heeft Nederland nog geen wetgeving omtrent autonome wapen systemen? Wat weerhoudt
u op dit moment om tot wetgeving te komen?

Bent u bereid om het voortouw te nemen in het proces om volledig geautomatiseerde
wapensystemen internationaal taboe te verklaren en de nodige wet- en regelgeving hiervoor
voor te bereiden? Bent u bereid hier ook in EU-verband bij uw collega’s op aan te
dringen?

Antwoord 6 en 7

Zoals aangegeven in de kabinetsreactie op het AIV/CAVV-rapport, is het kabinet geen
voorstander van een verbod of moratorium op de ontwikkeling van autonome wapensystemen.
Het kabinet is van mening dat voor elk wapen geldt, dat het altijd de mens moet zijn
die bepaalt of een wapen wordt ingezet conform het internationale recht en niet het
wapen zelf. De kernvraag daarbij, die verder strekt dan wapensystemen, is hoe mensen
in controle kunnen blijven en de verantwoordelijkheid kunnen blijven dragen voor systemen
die in toenemende mate beschikken over een bepaalde mate van autonomie, zelflerend
vermogen, of meer in het algemeen kunstmatige intelligentie.

Die ontwikkeling in kunstmatige intelligentie is allereerst een technologische ontwikkeling
in tal van civiele sectoren, zoals vervoer, telecommunicatie, internet, medische zorg,
financiële handel, enz. Het betreft ook niet één specifieke technologische ontwikkeling,
maar een breed pallet aan technologische ontwikkelingen. Bij een verbod of moratorium
op autonome wapensystemen rijst dan ook al snel de vraag, een verbod waarop? Het kabinet
is daarom van mening dat regulatie van kunstmatige intelligentie-technologieën, enkel
met mogelijke toekomstige wapensystemen in gedachten, nuttige civiele ontwikkelingen
kan frustreren, aangezien de grenzen tussen militaire en niet-militaire technologie
niet altijd helder zijn. Daar komt bij dat de CCW er tot op heden ook niet in is geslaagd
om een algemeen aanvaarde definitie van LAWS op te stellen.

In de visie van het kabinet voldoet het huidige internationale recht, in het bijzonder
het humanitair oorlogsrecht. Artikel 36 van het Eerste Aanvullend Protocol bij de
Geneefse Verdragen verplicht landen om de ontwikkeling en verwerking van nieuwe middelen
en methoden van oorlogsvoering te toetsen aan het internationaalrechtelijke kader.
In Nederland is hiermee de Adviescommissie Internationaal Recht en Conventioneel wapengebruik
(AIRCW) van het Ministerie van Defensie belast. De AIRCW beoordeelt in voorkomend
geval ook of de inzet van wapensystemen met autonome functies onder betekenisvolle
menselijke controle kan worden uitgevoerd. In het internationale debat over autonome
wapensystemen onderstreept Nederland het belang van een goede uitvoering van artikel
36.

Het kabinet neemt, zoals eerder aangegeven, actief deel aan het internationale debat
over autonome wapensystemen dat plaatsvindt binnen de CCW met het standpunt dat alle
wapensystemen, inclusief autonome wapensystemen, onder betekenisvolle menselijke controle
moeten staan. Het kabinet verwerpt op voorhand de ontwikkeling en inzet van autonome
systemen die niet onder menselijke controle staan.