Verslag van een notaoverleg : Verslag van een notaoverleg, gehouden op 13 december 2021, over de initatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35848)

nr. 11
VERSLAG VAN EEN NOTAOVERLEG

Vastgesteld 22 december 2021

De vaste commissie voor Defensie en de vaste commissie voor Buitenlandse Zaken hebben
op 13 december 2021 overleg gevoerd met de heer Kamp, Minister van Defensie, over:

– de initiatiefnota van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848);

– de brief van de Minister van Defensie d.d. 28 juni 2021 inzake reactie op de initiatiefnota
van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848, nr. 3);

– de brief van het lid Belhaj d.d. 7 december 2021 inzake beantwoording vragen commissie
over de initiatiefnota van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848, nr. 2) (Kamerstuk 35 848, nr. 4).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De fungerend voorzitter van de vaste commissie voor Defensie, Aukje de Vries

De fungerend voorzitter van de vaste commissie voor Buitenlandse Zaken, Wilders

De griffier van de vaste commissie voor Defensie, De Lange

Voorzitter: Aukje de Vries

Griffier: Mittendorff

Aanwezig zijn zes leden der Kamer, te weten: Belhaj, Boswijk, Dassen, Van Ginneken,
Aukje de Vries en Van Wijngaarden,

en de heer Kamp, Minister van Defensie.

Aanvang 10.01 uur.

De voorzitter:

Goedemorgen. Welkom allemaal bij dit notaoverleg van de vaste Kamercommissie voor
Defensie. Het gaat over de initiatiefnota van het lid Belhaj over autonome wapensystemen.
Allereerst natuurlijk welkom aan de initiatiefnemer, die de verdediging op zich zal
nemen. Ook een welkom aan de Minister, die dit keer als adviseur aanwezig zal zijn.
Wij hebben met elkaar spreektijden afgesproken, die aan iedereen zijn doorgegeven.
Ik hoop dus niet dat ik daar nog gedoe over krijg. Nee, volgens mij gaat dat goed.
Dan is als het eerste het woord aan mevrouw Van Ginneken van D66.

Mevrouw Van Ginneken (D66):

Dank, voorzitter, en ook dank aan collega Belhaj en de Minister voor hun aanwezigheid
hier. Ik doe mijn inbreng mede namens de PvdA.

Allereerst wil ik mijn dank en respect uitspreken voor het werk van collega Belhaj.
Knap hoe zij alweer haar derde initiatiefnota voor behandeling in de Kamer agendeert.
Ik ben dan ook een beetje trots dat ik hier vandaag namens D66 en de Partij van de
Arbeid inbreng mag geven. Als Kamerlid Digitale Zaken gaat dit onderwerp mij namelijk
aan het hart. De razendsnelle ontwikkelingen van militaire technologie zijn wat mij
betreft een voorbeeld van een veel bredere digitale revolutie. Deze nota zet helder
uiteen dat het logisch is dat machines steeds meer taken van de mensen overnemen,
maar dat de huidige politieke, juridische en ethische kaders tekortschieten om deze
ontwikkeling in goede banen te leiden, want techniek is nooit neutraal. Dit fenomeen
speelt ook binnen mijn portefeuille Digitale Zaken. Mag kunstmatige intelligentie
bijvoorbeeld iemand als fraudeur bestempelen? Weten we zeker dat de blinde vlekken
van de ontwikkelaars daarop geen invloed hebben? Weten we zeker dat een zelflerend
algoritme niet langzaam van de intentie gaat afwijken, gaat discrimineren? Hoe maakt
een burger bezwaar als niet precies duidelijk is hoe er tot een beslissing is gekomen?
Daar praten we veel over binnen onze commissie. Het is erg belangrijk dat ook hier
gesproken wordt over de rol van technologie.

Voorzitter. Het lezen van de nota is me meegevallen. Als nieuwkomer op dit terrein
vreesde ik in de materie te gaan verdwalen, maar ik kon het met plezier en gemak volgen.
Wel heb ik nog een paar vragen aan collega Belhaj en ik wil ook graag wat aan de Minister
voorleggen. Eerst maar eens een verhelderende vraag. In het AIV/CAVV-rapport wordt
gesuggereerd dat het onderscheid tussen volledig en gedeeltelijk autonome wapensystemen
in de initiatiefnota niet helder naar voren komt. Kan collega Belhaj nogmaals aangeven
welk onderscheid zij hiertussen hanteert en in hoeverre dit overeenkomt met de definities
uit het AIV/CAVV-rapport?

Vervolgens kom ik op het allerbelangrijkste concept in deze nota: het begrip «betekenisvolle
menselijke controle». Dit loopt als een rode draad door dit vraagstuk. Ik lees in
het rapport: «Het doel van betekenisvolle menselijke controle is dat de mens controle
behoudt over de effecten van een aanval op een doelwit en de omgeving en dat deze
effecten in lijn zijn met de intenties van de mens.» Begrijp ik goed dat er tijdens
het gehele doelontwikkelingsproces menselijke checks-and-balances moeten worden ingebouwd,
zoals beperkingen in ruimte, in tijd en in type doelwit? Kunnen we dan spreken van
betekenisvolle menselijke controle als een autonoom wapensysteem in de laatste fase
binnen die beperkingen zelf beslist wanneer het overgaat tot een aanval? Ik zou dit
punt graag nog wat verhelderd zien.

De nota waarschuwt ook heel duidelijk voor de snelle technologische ontwikkelingen
op het gebied van militaire technologie. Nou weet ik dat dit zeker geldt voor de ontwikkeling
van kunstmatige intelligentie, maar op het gebied van oorlogsvoering ben ik nieuw.
Kan collega Belhaj ons meenemen in de voor- en nadelen die gedeeltelijk autonome wapensystemen
hebben en daarbij ook ingaan op de meest recente ontwikkelingen op dit gebied?

Voorzitter. Ik wil een paar punten voorleggen aan de Minister. In de kabinetsreactie
schrijft hij dat technologische ontwikkelingen op het gebied van onbemande en autonome
systemen een ware gamechanger vormen binnen alle functies van militair optreden. De
betekenisvolle menselijke controle komt al terug in dat kabinetsstandpunt, maar hoe
deze zich verhoudt tot de concrete beslispunten van collega Belhaj liet de Minister
in afwachting van het nieuwe AIV/CAVV-rapport in het midden. Dit advies ligt er nu.
Daarom vraag ik de Minister of hij nu wel iets kan zeggen over zijn kijk op de initiatiefnota.
Wat betekenen de adviesnota en het AIV/CAVV-rapport voor de huidige visie van de Minister
ten aanzien van een verbod op volledig autonome wapensystemen?

Aansluitend op dit punt stelt advies 6 uit het AIV/CAVV-rapport dat we samen met EU-partners,
de VS, het VK en andere NAVO-bondgenoten moeten proberen te komen tot een gezamenlijke
ontwikkeling en productie van gedeeltelijk autonome wapensystemen, exportcontrole
en een investeringsscreening van dual-usetechnologie. Dat is een ambitieuze multilaterale
insteek, die mijn fractie onderschrijft. Ik ben dan ook heel benieuwd wat de Minister
hiervan vindt.

Voorzitter. Tot slot wil ik het nog even over aansprakelijkheid hebben, over de fundamentele
vraag wie tot verantwoording geroepen kan worden als er iets misgaat met gedeeltelijk
autonome wapensystemen. Beslispunt 5 in de nota geeft hiervoor een aanknopingspunt.
Dit stelt dat er voor autonome wapensystemen een zorgvuldige dataregistratie moet
plaatsvinden. Ik vind de kabinetsreactie op dit punt wat kort. Het kabinet stelt dat
er al sprake is van dataregistratie, maar dat per systeem varieert welke data worden
vastgelegd. Wat mij betreft is het vastleggen van een eenduidig dataspoor cruciaal
om te kunnen achterhalen wat er uiteindelijk is gebeurd, bijvoorbeeld om te bezien
of een autonoom wapen is gehackt door kwaadwillenden. Wat mijn fractie betreft zou
het goed zijn als hier in internationaal verband afspraken over worden gemaakt. Aanbeveling
8 van het AIV/CAVV-rapport en beslispunt 5 uit de initiatiefnota lijken hier een mooi
aanknopingspunt voor te zijn.

Voorzitter. Ik rond af. Digitale technologie is inmiddels verweven in onze hele samenleving
en heeft op vele manieren onwenselijke, disruptieve gevolgen gehad die we vanuit de
politiek – voor mijn gevoel gebeurt dat vanuit een achterstandspositie – nu dan toch
eindelijk zijn gaan repareren. Als ik dan zie hoe bij het vraagstuk rond autonome
wapensystemen digitale technologie zo rechtstreeks met leven en dood te maken heeft,
dan hoop ik dat deze commissie en de Minister inzien dat je hier niet het moment voor
regulering voorbij moet laten gaan. Ik kijk uit naar de beantwoording van collega
Belhaj en naar die van de Minister.

Dank u wel, voorzitter.

De voorzitter:

Dank u wel. Dan gaan we over naar de heer Boswijk van het CDA.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Allereerst wil ik mijn dank uitspreken aan de initiatiefneemster,
mevrouw Belhaj, en haar medewerkers voor het schrijven van deze initiatiefnota over
een ontzettend belangrijk en fundamenteel onderwerp. Ik heb de initiatiefnota dan
ook met veel interesse gelezen. Ook dank aan de CAVV en de AIV voor het uitbrengen
van advies. Ik wil gelijk van deze gelegenheid gebruikmaken om Jaap de Hoop Scheffer
te bedanken voor al zijn werk van de afgelopen jaren als voorzitter van de AIV. Ik
heb namelijk begrepen dat hij gaat stoppen.

Voorzitter. Dan een procedureel punt. Op 30 juni 2020 heeft Minister Blok de AIV en
de CAVV gevraagd om actualisering van het advies over de autonome wapens. Daarin stond
nadrukkelijk: «Het kabinet ontvangt het advies graag ruim voor de CCW-toetsingsconferentie
in 2021.» Waarom is het nu dan toch op het allerlaatste moment verschenen? Hierdoor
ligt er nu geen kabinetsappreciatie en kunnen we als Kamer minder goed beoordelen
welke weg we moeten inslaan. Graag een reactie van de Minister op dit punt.

Dat gezegd hebbend, terug naar het onderwerp van vandaag: de initiatiefnota over autonome
wapensystemen van collega Belhaj. De snelle ontwikkeling van autonome wapensystemen
voedt het schrikbeeld van wapens die doelen selecteren en aanvallen zonder menselijke
bemoeienis. Dergelijke autonome wapens bestaan nog niet, maar de stormachtige ontwikkeling
van kunstmatige intelligente en bijvoorbeeld gezichtsherkenning brengen dit wel snel
dichtbij. Dat was mede de reden voor het kabinet om een herziening van het advies
omtrent autonome wapensystemen te vragen. Het advies is helder: volledig autonome
wapensystemen kunnen niet volgens de regels van internationaal humanitair recht worden
ingezet en moeten worden verboden. Tevens moet er een betere regulering komen van
gedeeltelijk autonome wapensystemen en moet Nederland meer investeren in ontwikkeling
en verantwoordelijk gebruik van nieuwe technologieën door Defensie. Dat is grofweg
ook de strekking van de initiatiefnota die we vandaag bespreken. Kan de Minister tijdens
het debat haar advies geven over dit adviesrapport? Worden deze adviezen meegewogen
in het Nederlandse standpunt tijdens de VN-conferentie die vandaag in Wenen begint?
Graag een reactie.

Voorzitter. Dan een vraag aan de initiatiefneemster. In beslispunt 4 wordt de Nederlandse
regering gevraagd om geen investeringen en steun te geven aan de ontwikkeling van
volledig autonome systemen, zowel in Nederland, de Europese Unie als binnen de NAVO.
Nederland dient zich actief in te zetten om dit soort investeringen te voorkomen.
Wij zetten daar toch wel onze vraagtekens bij. Ik vind het vooral lastig dat autonome
wapens mogelijk ook noodzakelijk kunnen zijn om Nederland veilig te houden. Jan Broeks
gaf in de NRC al aan dat bijvoorbeeld de hypersone raketten die de Russen op dit moment
aan het ontwikkelen zijn, drie à vier keer sneller gaan dan het geluid. Alleen geautomatiseerde
wapens reageren snel genoeg om die onschadelijk te maken. Ook bij cyberaanvallen hebben
we soms maar een fractie van een seconde de tijd om te reageren. Dat kan alleen met
autonome software. In zo'n geval is menselijk ingrijpen niet wenselijk of misschien
niet eens mogelijk. De AIV en de CAVV stellen dat juist vanwege de technologische
en geopolitieke ontwikkelingen het vanuit veiligheidsoverwegingen noodzakelijk is
te investeren in het gebruik van nieuwe technologieën en gedeeltelijk autonome wapens,
mits deze gereguleerd zijn. Ziet de initiatiefneemster ook de waarde van zo'n systeem?
Zou er misschien een onderscheid moeten worden gemaakt tussen defensieve en offensieve
wapensystemen? Graag een reactie.

Voorzitter. De Europese, en in het bijzonder de Nederlandse, defensie-industrie heeft
het niet makkelijk. Banken en pensioenfondsen investeren telkens minder vaak, in verband
met het risico op imagoschade. Ook Europese bancaire regelgeving maakt het voor deze
bedrijven moeilijk. Deelt de initiatiefnemer mijn mening dat we niet afhankelijk moeten
willen worden van landen buiten de westerse sferen, als wij als westerse wereld invloed
willen hebben op de ontwikkeling van wapensystemen en we de ethische kaders willen
stellen? Deelt zij ook dat het dus van belang is dat we onze eigen wapenindustrie
op orde hebben? Graag een reactie hierop van zowel de initiatiefneemster als van de
Minister.

In de NRC van vorige week vrijdag las ik ook dat TNO werkt aan een model waarin betekenisvolle
menselijke controle vooraf wordt meegegeven aan de software. Zij ontwikkelen software
en algoritmes waarin ethische waarden van onze samenleving zijn verwerkt. Maar makkelijk
is dat niet. Moeten we, naast onze inzet voor een verdrag, niet ook een dergelijk
onderzoek stimuleren en daarmee wellicht normbepalend worden op dit gebied? Graag
een reactie van de initiatiefnemer en de Minister.

Dank u wel.

De voorzitter:

Dank u wel. Dan is het woord aan de heer Van Wijngaarden van de VVD.

De heer Van Wijngaarden (VVD):

Dank, voorzitter. Ik ben nog niet helemaal bij stem, maar ik ga mijn best doen.

Voorzitter. Het is goed en te waarderen dat de initiatiefnemer aandacht vraagt voor
de opkomst van autonome wapensystemen. Voor de VVD is het essentieel dat onze krijgsmacht
en die van NAVO-bondgenoten militair en technologisch niet op achterstand komen te
staan in het slagveld ten opzichte van potentiële opponenten. Het is ook essentieel
dat Nederland zich niet isoleert binnen de NAVO. De initiatiefnemer lijkt in beslispunt
1 voor te stellen dat Nederland activistisch moet gaan bepleiten om een nieuw verdrag
op te stellen. Ook Ghana, Pakistan, Zimbabwe en enkele andere niet-NAVO-landen bepleiten
dit. Zo'n nieuw verdrag is volgens experts onnodig, omdat regulering van autonome
wapens ook kan en moet binnen bestaand humanitair verdragenrecht.

Het is onwenselijk, omdat Nederland zich niet moet aansluiten bij Pakistan en Zimbabwe,
maar bij de NAVO-landen. Zo kan Nederland samen met militaire bondgenoten tot een
afgewogen lijn komen binnen het bestaande humanitaire recht, met behoud van militaire
superioriteit en dominantie. Als Nederland een geheel eigen koers gaat varen, kunnen
we onze krijsmacht op achterstand zetten. Maar misschien heb ik de initiatiefnemer
ten aanzien van beslispunt 1 wel totaal verkeerd begrepen. Dat zou natuurlijk kunnen.
Als dat zo is, dan vraag ik wel: wat is dan nog het verschil met het huidige kabinetsstandpunt?
Het kabinet zegt namelijk al: wij zijn voor systemen met betekenisvolle menselijke
controle. De initiatiefnemer zou dan dus geen voorstander zijn van zo'n apart verdrag.

Voorzitter. Ik ga wat meer de techniek in. Er zijn hypersone raketten in ontwikkeling
die tot mach 9 kunnen halen. Tegen zo'n raket zou een volledig autonoom wapen weleens
de enige verdediging kunnen zijn. De mens is eenvoudigweg niet snel genoeg. Ik wil
daarom dat het kabinet behoedzaam, en in nauwe samenwerking met de Kamer en bondgenoten,
te werk gaat op basis van het beginsel dat er sprake moet zijn van betekenisvolle
menselijke controle. Maar ik heb net al een technologische beperking daarvan genoemd.
Ook de Adviesraad Internationale Vraagstukken en de Commissie van advies inzake volkenrechtelijke
vraagstukken – ik heb beide afkortingen even opgezocht: de AIV en de CAVV – adviseren
om gezamenlijk met bondgenoten op te trekken. Graag een bevestiging of een reactie
op dit punt van mevrouw Belhaj.

Voorzitter. Ieder verhaal over techniek is uiteindelijk een verhaal over menselijke
keuzes, zo ook dit debat. Ik denk dat ieder verhaal over het beperken van militaire
techniek een zoektocht is naar een optimum tussen de volgende twee punten. Aan de
ene kant is dat het begrenzen van een autonome technologische ontwikkeling, met een
hele duistere zijde waar niemand hier volgens mij de ogen voor wil sluiten. Aan de
andere kant wil je dat doen zonder daarbij onze krijgsmacht, en die van NAVO-bondgenoten,
op achterstand te zetten. Is de initiatiefnemer het met mij eens dat dat ook een beetje
het kerndilemma van dit debat is? Als we niet oppassen, schieten we door in een soort
wensdenken over verdragen en reguleren, waarbij we onszelf heel erg beperken. Collega
Boswijk wees daar ook al op. In die zin is het dus belangrijk om juist heel behoedzaam,
en echt alleen met bondgenoten, stap voor stap te werk te gaan, waarbij geen sprake
is van «grote stappen, snel thuis» vanuit een bepaald wensdenken. Dat zou onze opponenten
namelijk juist weleens in de kaart kunnen spelen. Is de initiatiefnemer het met me
eens dat dat hier ook precies het politieke en militaire dilemma is?

Dank u wel.

De voorzitter:

Dank u wel. Dan is tot slot het woord aan de heer Dassen van Volt.

De heer Dassen (Volt):

Dank, voorzitter. Ook namens mijn fractie veel dank aan de initiatiefnemer voor het
schrijven van deze nota. Het is een ontzettend belangrijk onderwerp, waarbij de technologische
ontwikkelingen dusdanig snel gaan dat het echt verstandig is dat we hier met elkaar
over spreken. Wij ondersteunen natuurlijk dat er een internationaal verdrag moet komen
om ervoor te zorgen dat we goed met deze ontwikkelingen omgaan. Ik heb een paar hele
korte vragen of opmerkingen die ik graag aan de initiatiefnemer zou willen stellen.
De eerste gaat over de sluitende en juridisch definitie van «betekenisvolle menselijke
controle». De afbakening is in mijn optiek namelijk een groot struikelblok, ook omdat
onbekende toekomstige ontwikkelingen in een juridisch houdbare tekst moeten worden
gegoten, waarbij landen natuurlijk ook veel verschillende definities gebruiken; denk
aan linguïstische, ethische maar ook waardegedreven verschillen. Het risico van een
niet-eenduidige definitie is dat landen juist een handigheidje gaan gebruiken, waardoor
bepaalde technologieën daar dan weer niet onder vallen en ze daarmee andere landen
kunnen gaan beschuldigen dat die daar misbruik van maken. Dat is dus iets belangrijks,
denk ik. Ik was benieuwd hoe de initiatiefneemster daarnaar kijkt.

Dan wilde ik me aansluiten bij de punten die door mijn collega's net gemaakt zijn
over hoe we omgaan met wapensystemen zoals hypersone of supersone raketten, die heel
geavanceerd zijn, zo geavanceerd dat het moeilijk is voor mensen om daar snel op te
reageren omdat de reactiesnelheid maar enkele seconden bedraagt. Hetzelfde geldt voor
verzadigingsaanvallen, dus een overweldigende aanval met een grote hoeveelheid wapensystemen.
Hoe denkt de initiatiefneemster dat Nederland de veiligheid kan waarborgen als we
dit uitsluiten, ook vanuit defensie-optiek? Daar was ik benieuwd naar.

Dan kom ik op de naleving. Hoe gaan we ervoor zorgen dat een eventueel verdrag ook
op de juiste manier nageleefd wordt? Want het heeft met al die emerging technologies
te maken, met al die nieuwe technologieën. De vraag is dus vanaf welk moment zo'n
technologie al onder de werking van het verdrag zou moeten vallen. Dat geldt dan ook
voor academisch onderzoek, militair onderzoek en proefproductie.

Als laatste nog een belangrijk punt. Een internationaal verdrag zouden we natuurlijk
graag verder in Europees verband willen ontwikkelen; dat werd al aangehaald door collega's.
Maar hoe zorgen we ervoor dat ook de NAVO daarbij betrokken wordt? De VS worden niet
genoemd, terwijl ik begrijp dat die hier ook al een bepaalde directive voor hebben
liggen. In 2018 heeft het Europees Parlement inderdaad een resolutie aangenomen. Ik
was benieuwd wat daar de opvolging van is geweest, gezien het feit dat wij hier nu
pas over spreken.

Dank.

De voorzitter:

Dank u wel. Daarmee zijn we gekomen aan het einde van de eerste termijn van de Kamer.
Ik heb even overlegd met de initiatiefnemer en afgesproken dat we een halfuurtje schorsen,
tot 10.50 uur.

De vergadering wordt van 10.20 uur tot 10.52 uur geschorst.

De voorzitter:

Ik heropen de vergadering over de initiatiefnota van het lid Belhaj over autonome
wapensystemen. We hebben de eerste termijn van de Kamer gehad. We gaan nu door naar
de beantwoording. Het woord is aan mevrouw Belhaj, de initiatiefnemer.

Mevrouw Belhaj (D66):

Voorzitter, dank. Ik dank alle collega's dat zij hier op deze maandagochtend aanwezig
zijn, want dat heb je toch nodig om te kunnen spreken van een parlementair proces.
Ik dank uiteraard ook de Minister en zijn ambtelijke ondersteuning voor hun aanwezigheid.

We spreken vandaag over nieuwe technologieën en wapenbeheersing. Dat is een steeds
actueler onderwerp inzake het dossier internationale veiligheid. Ik ben tot de conclusie
gekomen dat dit een redelijk onontgonnen beleidsterrein is. Zoals door andere sprekers
is aangegeven, is overal een relevante discussie gaande over mens en machine. Die
fundamentele discussie kan niet los worden gezien van de brede digitale revolutie
waaraan wij onderhevig zijn. Deze discussie speelt zich logischerwijs ook af op militair
gebied. Ik noem de vraag of machines geweld zouden mogen gebruiken en, zo ja, in welke
mate en onder welke voorwaarden.

Zo'n tweeënhalf jaar geleden besefte ik dat er te weinig politieke, juridische en
ethische kaders in stelling zijn om de razendsnelle opkomst van nieuwe technologieën
in oorlogsvoering te beteugelen. Het is een beleidslacune, waar ook de Kamer nog te
weinig grip op had. Wat mij betreft is het de taak van politici en betrokken maatschappelijke
organisaties om hier met elkaar in alle openheid over in debat te gaan. Daarom besloot
ik deze initiatiefnota te schrijven. Het was een lang proces. Tegen degenen die denken
«goh, dat is best wel leuk» zeg ik: ja, het is ontzettend leuk, maar het is ook heel
veel werk. In dit geval was het al helemaal veel werk omdat het zo complex bleek te
zijn. De militaire, technische, juridische en ethische kant en de geopolitieke context
zijn allemaal elementen die een rol spelen. Ik wil een rond beeld geven van wat het
betekent als we het hebben over autonome wapensystemen. Een nota is nooit perfect,
maar ik hoop dat ik in ieder geval een goede eerste aanzet heb kunnen geven. Het was
fijn dat het AIV/CAVV-rapport naar buiten kwam, omdat twintig zeer gevestigde hoogleraren
en anderen ook nog hun ei hierover moesten leggen. We waren opgelucht dat een aantal
dingen overeenkwam.

Voorzitter. Voordat ik de vragen ga beantwoorden, wil ik nog even benoemen hoe dit
proces is begonnen. In eerste instantie dacht ik: we weten dat gedeeltelijk en volledig
autonome wapensystemen bestaan. Hoe zou je iets kunnen bedenken om kaders te schetsen
voor het gebruik daarvan? Ik ben in eerste instantie gaan redeneren vanuit een militaire
en operationele houding. Hoe zou je dat wel kunnen doen? Ik dacht: dat is beter dan
beginnen met «ik wil iets niet». Ik heb eindeloos geworsteld met de vraag hoe je dat
zou kunnen doen en op welke situaties het van toepassing zou kunnen zijn. Gedurende
dat proces kwam ik er op een gegeven moment achter dat als je geen duidelijke keuze
maakt in de ethische grens die je stelt, je uiteindelijk altijd vastloopt en altijd
een soort willekeur gaat toepassen. Ik denk dat je er dan geen grip meer op hebt.
Mijn doel in het leven is niet om grip op dingen te krijgen, maar ik ben er altijd
wel heel erg van overtuigd dat je bij technologie niet alleen juichend op de bank
moet staan, maar ook altijd moet nadenken over wat de impact daarvan is als mensen
er slechte dingen mee willen doen.

Voorzitter. Ik kom nu op de vragen. Mevrouw Van Ginneken vroeg welk onderscheid we
hanteren tussen volledig en gedeeltelijk autonome wapensystemen. Zij wees ons erop
dat er op dat punt een verschil zit tussen het rapport en onze initiatiefnota. Wij
zijn uitgegaan van de begrippen «autonome wapensystemen» en «volledig autonome wapensystemen».
«Autonome wapensystemen» betekent voor ons per definitie: gedeeltelijk autonoom. De
AIV concludeerde terecht dat het onderscheid niet duidelijk is, maar voor ons was
het wel duidelijk. Dat is eigenlijk het verschil. Maar het gebruik van de begrippen
«gedeeltelijk autonome wapensystemen» en «volledig autonome wapensystemen» vind ik
eigenlijk meer volledig. Dat geeft meer duidelijkheid.

De heer Van Wijngaarden zegt dat experts stellen dat autonome wapensystemen al verboden
zijn onder het internationaal humanitair oorlogsrecht. Hij vraagt waarom ik dan toch
pleit voor een verbod daarop en waarin dat van het kabinetsstandpunt verschilt. Het
is geen activistische houding, want ik heb net uitgelegd waarmee ik ben begonnen,
namelijk met meedenken over hoe het eventueel wel mogelijk zou kunnen zijn. Gedeeltelijk
autonome wapensystemen zijn niet per definitie verboden onder het internationaal humanitair
oorlogsrecht. Bij gedeeltelijk autonome wapensystemen kan betekenisvolle menselijke
controle aanwezig zijn. Dat garandeert dat de beginselen van onderscheid, proportionaliteit
en voorzorg, zoals vastgelegd in het internationaal humanitair oorlogsrecht, kunnen
worden nageleefd. Het gebruik van gedeeltelijk autonome wapensystemen kan dus rechtmatig
zijn, mits er betekenisvolle menselijke controle op het gebruik van deze wapensystemen
is waarbij de criteria van onderscheid, proportionaliteit en voorzorg gehanteerd worden.

In tegenstelling tot gedeeltelijk autonome wapensystemen ontbreekt bij volledig autonome
wapensystemen de betekenisvolle menselijke controle. Dat betekent dat niet aan de
beginselen van het internationaal humanitair oorlogsrecht voldaan kan worden. Volgens
het rapport van AIV en CAVV geldt het in ieder geval voor de beginselen van proportionaliteit
en onderscheid. Volledig autonome wapensystemen, die zelfstandig regels aanleren,
doelen selecteren en aanvallen zonder dat er een menselijke intentie aan ten grondslag
ligt of menselijk ingrijpen mogelijk is, kunnen dan ook niet rechtmatig gebruikt worden.
Omdat volledig autonome wapensystemen niet in staat zijn om zelfstandig de humanitairrechtelijke
beginselen van onderscheid, proportionaliteit en voorzorg toe te passen, volgt het
verbod op deze systemen dus al uit het internationaal humanitair oorlogsrecht en pleiten
wij, evenals het AIV/CAVV-rapport, voor een expliciet verbod op de ontwikkeling en
het gebruik van volledig autonome wapensystemen. Ook in het AIV/CAVV-rapport benadrukt
men dat er een noodzaak is voor een expliciet verbod. Dat is gelegen in het hedendaagse
internationaal humanitair recht. Omdat dat eigenlijk te generieke regels en te weinig
concrete kaders voor de regulering van nieuwe wapensystemen bevat, hebben wij gemeend
om in het verlengde van wat AIV en CAVV ook concluderen, daar toch expliciet over
te moeten zijn.

De heer Van Wijngaarden zegt dat het kabinet al een voorstander is van systemen met
betekenisvolle menselijke controle en vraagt in welke mate dat nou een verschil is
met wat hier staat. Het standpunt van het kabinet, en dat is ook meerdere malen uitgesproken
in deze Kamer, is altijd geweest dat er sprake moet zijn van betekenisvolle menselijke
controle. Maar dat was met name gebaseerd op het advies uit 2015, waarin AIV en CAVV
aangaven: dit is hoever we komen; handhaaf in ieder geval dat. In de jaren daarna
is er meer kennis opgedaan en zijn uiteindelijk hun rapport en mijn initiatiefnota
verschenen. Men zegt nu in ieder geval welke stappen je moet zetten op het gebied
van volledig autonome wapensystemen. Het verbod stelt vast – «accordeert» is eigenlijk
niet het goede woord – dat je die betekenisvolle menselijke controle moet vaststellen.
Dat is eigenlijk wat je doet. Het ligt dus in het verlengde van het standpunt dat
het kabinet altijd heeft gehanteerd.

De voorzitter:

Voordat u verdergaat, is er een interruptie van de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Even voor mijn begrip. Ik hoor mevrouw Belhaj dus bevestigen dat het kabinet al vond
wat ik ook vind, namelijk dat er sprake moet zijn van betekenisvolle menselijke controle.
Ook hoor ik haar zeggen dat een verbod nader uitgewerkt moet worden. Maar bedoelt
zij dan: in aanvulling op en onder het bestaand internationaal humanitair recht, dus
bestaand verdragenrecht? Of bedoelt zijn daarmee te zeggen dat het via een apart verdrag
geregeld moet worden?

Mevrouw Belhaj (D66):

Mijn advies is om het expliciet te maken. Dat is eigenlijk ook wat het rapport van
de AIV en de CAVV aangeeft. Je zou in het huidige humanitair oorlogsrecht dingen kunnen
vinden waar je op aan zou kunnen haken, maar het advies is dus om dat wel expliciet
te maken. Ik heb net geprobeerd uit te leggen waarom dat zo belangrijk is.

De heer Van Wijngaarden (VVD):

Ik wil niet te verdragstechnisch worden, en als de indiener het op dit moment niet
paraat heeft is dat ook prima, maar meer om het gewoon even te begrijpen heb ik de
volgende vraag. Je kan iets expliciet maken door een aanvulling te maken op de interpretatie
van de huidige verdragstekst, of door echt te zeggen: we hebben een bepaalde nieuwe
verdragstekst dan wel een nieuw verdrag nodig. Dus wil de indiener dat expliciet maken
in de interpretatie onder een bestaand verdrag of expliciet maken in een tekstueel
nieuw verdrag, of laat zij dat open? Dat kan natuurlijk ook nog.

Mevrouw Belhaj (D66):

Het advies is inderdaad om dat expliciet te maken in een apart verdrag.

De voorzitter:

De heer Van Wijngaarden, tot slot.

De heer Van Wijngaarden (VVD):

Dus voor de duidelijkheid: zij is wel voorstander van een apart verdrag.

De voorzitter:

Mevrouw Belhaj gaat verder met de beantwoording.

Mevrouw Belhaj (D66):

Voorzitter. Mevrouw Van Ginneken had een vraag over hoe betekenisvolle menselijke
controle nu wordt gebruikt bij gedeeltelijk autonome wapensystemen, en wat de gevolgen
zijn van de afwezigheid daarvan. Die betekenisvolle menselijke controle is inderdaad,
net zoals in het andere rapport, de rode draad in dit dossier. In de initiatiefnota
hebben we ook een poging gedaan om hier meer grip op te krijgen door aan te geven
dat het doel is om mensen controle te laten behouden over de effecten van een aanval
op een doelwit en de omgeving. We hebben in die fase ook geprobeerd om ideeën aan
te dragen over hoe je dat zou kunnen doen. In welke fase zou je bij een gedeeltelijk
autonoom wapensysteem kunnen zeggen dat er afdoende sprake is van betekenisvolle menselijke
controle? Ik was in dat opzicht dan ook blij met het rapport van de AIV en de CAVV,
omdat je ziet dat het heel moeilijk is om nu aan te geven waar dat dan precies op
moet zitten.

Het verzamelen van data, het interpreteren van data en het schrijven van algoritmes
zouden fasen kunnen zijn waarvan je zegt: daarop moet betekenisvolle menselijke controle
van toepassing zijn. Dat betekent dus dat de mens dat altijd goed controleert en dat
daar al ethische kaders bij betrokken zijn. Maar de volgende stap is net zo belangrijk.
Wat als je er informatie uit krijgt? Hoe toets je dan of je die informatie voldoende
vindt? Maak je op basis van die gegevens de inschatting dat terroristische organisaties
in land X in dat gebied wapens aan het ontwikkelen zijn? Je kunt zeggen dat je er
op basis van de gegevens die je invoert, van uit mag gaan dat er sprake is van een
terroristische organisatie. Dit is even een fictief voorbeeld. Je kan ook zeggen:
nee, we vinden het belangrijk dat er ook altijd een menselijke toets is, dus dat er
menselijke controle is. Dan wordt er gebruikgemaakt van mensen, of dat nou de eigen
militairen of informanten zijn, om te toetsen wat daar gebeurt. Stel dat blijkt dat
het wel zo is, dat je concludeert dat zich daar een wapenfabriek bevindt, een belangrijke
bron voor het aanleveren van wapens aan terroristische groeperingen. Als je besluit
om die te gaan bombarderen, kun je dat doen op basis van alleen automatische data:
zo ziet het eruit, er is zoveel afstand tot woningen; ik noem maar iets. Maar je kunt
je ook afvragen of dat verstandig is, of je daarop niet ook nog menselijke controle
wil hebben. En dan maak ik het maar even helemaal af: het besluit om dan te gaan bombarderen
kun je ook overlaten aan een machine of een volledig autonoom wapensysteem, of je
kunt ervoor kiezen om daar ook weer menselijk handelen bij te betrekken. In de huidige
procedure waarmee we besluiten wanneer we wel of niet overgaan tot bijvoorbeeld een
bombardement, die heel zorgvuldig is, moet je het afzetten tegen wat er zou gebeuren
als het helemaal volledig is, en het ook nog een keer afzetten tegen wat er zou gebeuren
als je het gedeeltelijk autonoom doet.

Ik hoop dat ik goed heb uitgelegd – ik zie de heer Dassen kijken, maar ik heb het
geprobeerd – waarom het zo ingewikkeld is om daar nu al iets over te zeggen. Ik denk
dat het belangrijk is dat daar afspraken over komen. Want als land X zegt «wij vinden
het bij gedeeltelijk autonome wapensystemen afdoende om in ieder geval in de eerste
fase mensen erbij te betrekken en daarna niet meer» en wij bijvoorbeeld vinden dat
je in al die stappen een vorm van menselijke controle moet hebben, dan gaat het natuurlijk
mis. Er wordt ook geadviseerd om daar synchroniteit in te krijgen, zodat je daar hetzelfde
beeld van hebt. Dat was even een lange inleiding, maar ik probeer alle routes die
ik de hele tijd in mijn eigen hoofd ben afgegaan te gebruiken om toe te lichten waarom
daar ook nog een lacune zit. Nu pleiten we voor in ieder geval een verbod op die volledig
autonome wapensystemen. Maar zowel uit het rapport van de AIV en de CAVV als uit mijn
kleine poging in de initiatiefnota wordt duidelijk hoeveel zaken er nog nader besproken
moeten worden om goed te weten wanneer we vinden dat die betekenisvolle menselijke
controle er afdoende in zit.

Mevrouw Van Ginneken (D66):

Dank aan collega Belhaj voor de uitleg. Het is mij nu helder dat je die betekenisvolle
menselijke controle op heel veel plekken zou kunnen terugvinden, en dat we internationaal
het gesprek moeten voeren over de vraag wanneer de ondergrens is bereikt, over welke
betekenisvolle menselijke controle je in elk geval moet hebben. Ik begrijp nu ook
de urgentie beter van de oproep van mevrouw Belhaj om dat gesprek in ieder geval te
gaan starten met elkaar. Dank.

Mevrouw Belhaj (D66):

Ik ga door naar de vragen van mevrouw Van Ginneken, de heer Boswijk en de heer Dassen.
Zij stelden ieder op hun eigen manier iets over de meest recente ontwikkelingen op
het gebied van autonome wapensystemen, over wat daarin de sprekende voorbeelden en
de voor- en nadelen zijn. De heer Boswijk vroeg ook nog of er een verschil moet zijn
tussen defensief en offensief. De heer Dassen vroeg nog in welke mate er sprake is
van een sluitende juridische definitie en of de afbakening niet een struikelblok is,
ook omdat toekomstige ontwikkelingen in juridisch houdbare teksten gegoten moeten
worden en er geen risico moet zijn dat je met een te eenduidige definitie komt en
je daar net iets niet aan hebt toegevoegd.

Ik heb geprobeerd om een voorbeeld te geven, namelijk de Kargu-2-drone. Die is van
de Turkse luchtmacht. Dat is een kleine drone met vier propellers en een aanhangend
machinegeweer. De Turkse overheid verkocht deze drones aan Azerbeidzjan en het bleek
een doorslaggevend wapen te zijn in het Nagorno-Karabachconflict met Armenië. Ook
zetten de Turken dat wapen reeds in. De Kargu-2-drone mag dan een gedeeltelijk autonoom
wapensysteem zijn, maar het is wel een wapen waar de menselijke stap gemakkelijk uitgehaald
kan worden en waarvan het volgende model reeds in ontwikkeling is. Zo zijn er ook
de Mini Harpy-kamikazedrones en nog een aantal andere voorbeelden die in mijn initiatiefnota,
maar ook in het rapport van de AIV en de CAVV worden benoemd.

In zowel de civiele R&D als de militaire R&D is het een wereldwijde trend dat nieuwe
systemen worden ontwikkeld in een volledig regelvrij speelveld. Alles mag eigenlijk
nog, zou je kunnen zeggen. Dan kun je zeggen dat dat voor ondernemers en technologie
heel fijn is, want dan kun je oneindig zoeken naar wat je zou willen. Dat snap ik
ook, omdat het met gedeeltelijke autonome wapensystemen heel veel voordelen biedt.
Het plaatst de militair in een veiligere omgeving. Het kan slachtoffers onder militairen
en burgerbevolking beperken. Het kan soms preciezere aanvallen doen dan een mens.
Het kan sneller gegevens verzamelen en verwerken en in moeilijke gebieden of omstandigheden
opereren, ook waar bijvoorbeeld communicatie ingewikkeld is. Maar er zijn ook kleinere
dingen, zagen we bij een werkbezoek. Ze hadden een soort klein autootje – zo noem
ik het maar – waar ze hun bepakking op konden zetten, maar waarop ze bijvoorbeeld
ook een gewonde militair konden transporteren. Dat zijn allemaal hele mooie voorbeelden
waarin de techniek je functie verbetert.

Maar er zijn ook nadelen. Dat is in de eerste plaats dat de mens minder controle krijgt
over het gebruik van geweld. Er is geen menselijk afwegingskader. Ik heb helaas niet
veel militairen kunnen spreken. Wel heb ik op een werkbezoek gehoord hoe iets soms
kan lijken op algemene beelden van een drone, maar een mens dan toch kan besluiten:
ik vind het eigenlijk niet logisch dat er nu wordt geschoten op ... Ik zal de situatie
niet toelichten, want die was vertrouwelijk. In zo'n situatie gebruikt een mens zijn
intuïtie en denkt: ik wil het toch nog even zeker weten. Zulk soort natuurlijke aspecten
ontbreken, al zeggen sommigen dat je dat allemaal kan programmeren. Dat is wel een
nadeel. Ook is er een suboptimaal begrip van de omgeving vergeleken met mensen. Dat
heb ik eigenlijk zonet uitgelegd. Daarnaast is het moeilijk om autonome wapensystemen
te laten samenwerken met niet-autonome systemen.

Maar er zijn dus ook voordelen, en als je die voordelen wil benutten moet je inderdaad
een goede regulering hebben voor die gedeeltelijk autonome wapensystemen. Bij volledig
autonome wapensystemen zit die betekenisvolle menselijke controle er niet in, en dan
moet je dus zeggen: die doen we niet.

De vraag over defensief en offensief heb ik mezelf ook gesteld. Daarom heb ik in de
nota ook duidelijk gezegd dat we mooie defensieve systemen hebben. Ik zou willen zeggen
dat het offensieve wapensysteem eigenlijk hetzelfde betreft. Als je daarmee iets wil
doen, zul je ook weer moeten spreken over een gedeeltelijk autonoom wapensysteem en
ook weer moeten waarborgen dat je de menselijke controle erin hebt zitten, offensief
of defensief. Of nee, ik moet het goed zeggen. Defensief niet, hoewel ik naar aanleiding
van alle nieuwe dingen wel denk dat we er nog een keer goed over moeten nadenken,
maar offensief wel.

De heer Boswijk (CDA):

Ik heb een vraag ter verduidelijking. Als ik het goed samenvat, hoor ik de initiatiefneemster
eigenlijk zeggen dat je bij een defensieve inzet kan kijken of je van die betekenis
van menselijke controle kan afwijken, maar dat dit bij een offensieve inzet gewoon
not done is. Formuleer ik het zo goed?

Mevrouw Belhaj (D66):

Ja, maar misschien wilt u mij even de kans geven om hier in tweede termijn nog iets
over te zeggen, om te voorkomen dat ik iets verkeerds zeg.

De voorzitter:

Dank u wel. Gaat u verder met de beantwoording.

Mevrouw Belhaj (D66):

Dan waren er ook zorgen geuit door de heer Boswijk. Hij is van mening dat we invloed
moeten willen hebben, dat we ethische kaders moeten kunnen stellen en dat we niet
afhankelijk moeten worden van buiten de westerse sferen. Daarom is het volgens hem
ook van belang dat we de eigen wapenindustrie op orde hebben. Eigenlijk valt dat een
beetje in het verlengde van wat de heer Van Wijngaarden aangaf. Ja, daar ben ik het
mee eens. Natuurlijk zie ik al die ontwikkelingen. Die worden ook benoemd. Desalniettemin
ontslaat dat je niet van een verplichting om zelf actief na te denken over hoe je
dat dan zou willen doen. Je moet daar ook met andere landen goeie afspraken over maken.
Zeggen dat we alleen naar de ontwikkelingen kijken en daarom alleen maar nadenken
over hoe we dat willen adresseren, is ook weer ingewikkeld.

De voorzitter:

Een interruptie van de heer Van Boswijk.

De heer Boswijk (CDA):

U zegt bij iedereen «Van»; dat klinkt wat chiquer misschien. Mijn argument was meer
gebaseerd op het verdrag over de clusterbommen. Tussen de 100 en 150 landen hebben
dat verdrag gesloten, maar de landen die deze clusterbommen fabriceren en dus ook
nog gebruiken, doen daar niet aan mee. Zo'n verdrag is heel mooi, maar het verandert
niet zo heel veel in de wereld. Ik denk dat Nederland best wel een grote rol kan spelen
in autonome wapensystemen, omdat wij op AI-gebied wel een van de koplopers zijn. Als
we dat kunnen gebruiken in onze defensie-industrie, dan kunnen we misschien juist
op een ethisch vlak op termijn een impact daarop hebben. Dat is vooral waarom ik dat
punt maakte.

Mevrouw Belhaj (D66):

Dat begrijp ik en daar ben ik het ook mee eens.

De heer Dassen (Volt):

Ik wilde alleen even aangeven dat ik er nu tussenuit moet en later weer terugkom.
Dat wilde ik even zeggen.

De voorzitter:

Dat had u van tevoren ook al even hier aangekondigd. We zien u dan straks terug.

Mevrouw Belhaj, gaat u verder. O, de heer Van Wijngaarden heeft nog een interruptie.

De heer Van Wijngaarden (VVD):

Ik sluit aan bij iets wat mevrouw Belhaj zojuist in reactie op de heer Boswijk aangaf.
Zij zei: we moeten daarover nadenken. Ik denk dat nadenken altijd goed is. Volgens
mij is dat ook precies wat het kabinet heeft aangegeven. Zij zeiden: dat zijn we heel
zorgvuldig aan het doen, ook met de bondgenoten. Het kabinet wilde daar zelfs nog
iets meer tijd voor nemen. De conferentie die deze week plaatsvindt, is ook een onderdeel
van dat nadenken. De initiatiefnota gaat natuurlijk verder dan alleen maar nadenken.
Daar staan gewoon beslispunten in. In beslispunt 4 wordt gezegd dat Nederland hier
niet meer in moet investeren. In beslispunt 1 wordt aangegeven – dat werd hier net
bevestigd – dat Nederland voor een apart verdrag en een apart verbod moet gaan, terwijl
een aantal van de NAVO-bondgenoten nog helemaal niet zover zijn. Is dat nu wel handig,
ook juist vanwege de complexiteit van de materie?

De voorzitter:

En wat is uw vraag?

De heer Van Wijngaarden (VVD):

Kan de indiener bevestigen en voor mij verhelderen dat wat zij voorstelt natuurlijk
veel verdergaat dan alleen maar nadenken?

Mevrouw Belhaj (D66):

Dat klopt. Het nadenken heeft al plaatsgevonden. Ik merk dat ik bij de heer Van Wijngaarden
altijd even moet opletten of hij het nou heeft over gedeeltelijk autonome wapensystemen
of volledig autonome wapensystemen. Waar ik het net over had, gaat specifiek over
gedeeltelijk autonome wapensystemen. Je moet ervoor zorgen dat je daarbinnen nog nadere
afspraken maakt over hoe je de betekenisvolle menselijke controle interpreteert. Het
andere gaat over het volledig autonome wapensysteem. Omdat zowel ik als de AIV en
de CAVV hebben geconcludeerd dat er geen sprake is van betekenisvolle menselijke controle,
kun je dat als het ware afvinken. Dat klinkt natuurlijk een beetje flauw, maar dat
zijn de ontwikkeling en het nadenken van de afgelopen vijf jaar. Die gingen dus over
de vragen waarom je dat niet moet willen en hoe je dat kunt organiseren.

Over het gedeeltelijk autonome wapensysteem is er nog heel veel discussie. Binnen
de NAVO heeft men die discussie in zekere zin eigenlijk al gevoerd, maar toch blijft
men die voeren om ervoor te zorgen dat de NAVO-landen daar op dezelfde manier mee
omgaan. Anders kom je in de problemen als je een keer gezamenlijk wil optreden. Zij
hebben eigenlijk de human-centered approach centraal gezet in de context van militair
gebruik van autonome wapensystemen.

De voorzitter:

Dank u wel. Gaat u verder met de beantwoording.

Mevrouw Belhaj (D66):

Dan pak ik meteen de vraag van Volt erbij, namelijk wat er in Europees verband gebeurt.
Daar is inderdaad vastgelegd... Wacht, ik pak even de volgende pagina erbij. Er is
inderdaad een plan gepresenteerd. In 2021 is er een gecoördineerde strategie voor
kunstmatige intelligentie uitgewerkt, het Coordinated Plan on AI. In januari heeft
het Europees Parlement ook nog een resolutie aangenomen waarin het nog een keer de
noodzaak van grotere samenhang tussen civiele en militaire aspecten van kunstmatige
intelligentie heeft geadresseerd. Mevrouw Vestager heeft zich met name gericht op
civiel gebruik door overheden, maatschappelijke instellingen en bedrijven. Eigenlijk
zou je kunnen zeggen dat de EU verder moet nadenken over de vraag hoe men daar in
een militaire context tegen aankijkt. De heer Dassen vroeg hoe het ermee staat. Nou,
ik heb niet kunnen bellen om te vragen hoe het ermee staat, maar het zou natuurlijk
het mooist zijn als lidstaten van de Europese Unie daarover in eerste instantie ook
zelf nagedacht hebben en daarover overeenstemming bereiken. Dat is evident.

Ik ben er bijna. De heer Dassen had nog een vraag. Hoe wordt het verdrag op juiste
wijze nageleefd en zal de technologie onder de werking van het verdrag gaan vallen?
Iemand anders zei het net ook al: we hebben natuurlijk clustermunitie, landmijnen.
Dat is eigenlijk een soortgelijke ... Nee, dat is niet een soortgelijke discussie,
want ze zijn echt verschillend. Ik wilde mezelf dwingen om weg te blijven van die
discussies, omdat ze echt anders van aard zijn. Maar überhaupt geldt bij elke discussie:
wil je wel of geen verdrag, en wat maakt het uit als andere landen niet mee willen
doen? Het is, denk ik, een kwestie van kiezen: wil je in deze fase zo veel mogelijk
landen overtuigen zodat ze daar wel voor kiezen? In deze fase kant dat nog, want de
ontwikkelingen zijn er wel, maar ze zijn nog niet zover dat het heel ingewikkeld wordt.
Want dan kom je een beetje in een wapenwedloopdiscussie terecht, zo van: als zij ze
hebben, dan moeten wij ze toch ook hebben, en daarom schuiven wij de wijze waarop
wij tegen oorlogvoering aankijken maar een beetje terzijde.

Ik denk dat dit een heel mooi moment is om daarbij wel voorop te gaan lopen. De heer
Van Wijngaarden noemde een aantal discutabele landen en vroeg of Nederland zich daarbij
zou willen aansluiten. Maar er zijn veel meer landen die wel passen bij Nederland,
vind ik. Zo begreep ik het een beetje. Het zou raar zijn als je die landen er niet
bij zou betrekken.

Nou merk ik hoe charmant ministers dat zelf doen. Je denkt «shit, waar is dat ene
papiertje nou?», maar het is best moeilijk om het goed te vinden. Maar ik heb het
wel! Ik hoor hier zeggen dat alles went. Oké, het went, maar ik hoop dat niemand ziet
dat ik even een momentje nodig heb om het op te zoeken en dat dat niet lukt.

Er zijn wel degelijk meer landen dan de landen die heer Van Wijngaarden noemde. Het
is een keuze. De conferentie van deze week is niet zomaar een conferentie. Er zijn
al vele gesprekken geweest en men tracht elke keer een stap verder te komen. Dat is
de vorige keer niet gelukt, maar als het Nederland deze week in ieder geval wel lukt
om de stap te maken naar een pleidooi voor het opnemen van het verbod op volledige
autonome wapensystemen in een verdrag, dan heeft dat ook impact op andere landen.
Die stap kunnen we, denk ik, al maken.

Dat was het, voorzitter.

De voorzitter:

Dank u wel. Dan gaan we nu naar de Minister van Defensie, die hier spreekt als adviseur
van de commissie.

Minister Kamp:

Een kleine aanvulling op wat mevrouw Belhaj net zei: de landen die op dit moment voorstander
zijn van een verdrag, zijn Midden-Amerikaanse landen, Zuid-Amerikaanse landen en Afrikaanse
landen en Pakistan, Oostenrijk, Ierland en Portugal. Dat soort landen.

Voorzitter. Ik wil graag reageren op hetgeen aan de orde is gesteld, maar ik zou willen
beginnen met het geven van complimenten aan mevrouw Belhaj. Wat zij heeft neergelegd,
vind ik echt een mooi voorbeeld van politiek handwerk. Ik vind ook dat zij een hele
constructieve bijdrage heeft geleverd aan een belangrijke discussie. Het genuanceerde
van haar standpunt blijkt onder andere uit punt vijf van de antwoorden die ze heeft
gegeven op de vragen die de Kamer aan haar heeft gesteld. Ze zegt dat ze grote toegevoegde
waarde ziet in autonome militaire systemen, waaronder autonome wapensystemen. Zij
zegt een moderne krijgsmacht voor zich te zien, waarin mens en machine op een evenwichtige
manier samenwerken met behulp van geavanceerde systemen. Ik denk dat dat inderdaad
zo is. Ik sluit me daar dan ook graag bij aan.

Ik wil graag ingaan op de vragen en opmerkingen. Misschien kan ik het beste beginnen
met een paar inhoudelijke dingen.

Het eerste. Wat zijn nu eigenlijk volledig autonome wapens? Daar begint de discussie
al, want er is geen overeenstemming over definities. Er is een expertgroep geweest
in het kader van de conferentie. Die conferentie wordt vandaag, na acht jaar, met
een toetsingsconferentie voortgezet. Deze expertgroep heeft gedurende acht jaar bekeken
of ze het over definities en interpretaties van het recht eens konden worden, maar
dat is niet gelukt.

Het is misschien goed om als illustratie daarvan aan te geven wat er nou onder «autonoom»
wordt verstaan. En zijn er op dit moment nog geen echt autonome wapens? Het begon
volgens mij allemaal met de kruisrakettendiscussie. Kruisraketten zijn raketten waarbij
je coördinaten kunt invoeren van een heel specifiek doel ergens ver weg: een stad,
een bedrijventerrein of een bepaald pand op dat bedrijventerrein. Je voert de coördinaten
in, je drukt op de knop, die raket zoekt over vele honderden kilometers zijn weg en
komt precies op de bedoelde plek uit. Dat is een vorm van een geautomatiseerd systeem.
Dat is ook een offensief systeem.

Dan heb je een verdere ontwikkeling. Dat gaat meer om een defensief systeem. Daar
heb je twee voorbeelden van: onze Patriotraketten, die op het land gestationeerd zijn,
en de Goalkeepers, die op fregatten gestationeerd zijn. Die zijn niet op een bepaald
doel gericht, maar op een bepaald soort doelen, in dit geval raketten die op een schip
of land afkomen. Zo'n wapensysteem moet die doelen uit de lucht schieten. Dat gebeurt
dan ook. De Goalkeeper doet dat op zee. De Patriot doet dat op land. Dan heb je een
defensief geautomatiseerd systeem, waarbij je echt afhankelijk bent van grote snelheid.
Er werd door de heer Van Wijngaarden al een voorbeeld genoemd. Hij sprak over raketten
met negen keer de snelheid van het geluid. Als zo'n raket op een schip afkomt, kun
je je voorstellen dat er helemaal geen gelegenheid is om te gaan discussiëren over
hoe we dat als mens beoordelen, wat we daaraan zouden kunnen doen en wat wel of niet
verantwoord is. Dan moet er gewoon onmiddellijk gehandeld worden. Dat doen Goalkeepers
en Patriots.

Dan heb je nog weer een stap verder: wapens die zelf doelen selecteren. Dat wordt
dus niet meer door de mens gedaan, maar dat doen ze zelf. De mens geeft in een bepaald
gebied aan welk soort doelen er zouden moeten worden getroffen en dan gaat zo'n apparaat
z'n gang. Dat is geen luchtfietserij; die heb je al. De Harpy is een Israëlisch onbemand
vliegtuig met wapens aan boord, die in een bepaald gebied radarstraling opspoort bedoeld
om radarstations uit te schakelen. Zo'n vliegtuig gaat in een bepaald gebied heen
en weer, en op het moment dat er radarstraling is, wordt het radarstation uitgeschakeld.
De machine doet dat helemaal zelf. Ook op zo'n apparaat kun je nog steeds betekenisvolle
menselijke controle hebben. Op het moment dat zo'n Harpy een radarsysteem detecteert,
kun je namelijk een signaal laten geven aan een mens: ik heb het daar en daar gevonden
en mag ik het uitschakelen? Dan beslist een mens of dat wel of niet mag en heb je
betekenisvolle menselijke controle. Maar het is een heel kleine stap om dat vervolgens
aan een machine over te laten en om die machine met algoritmes te laden, waardoor
die zelf een besluit kan nemen. In dat laatste geval heb je volledig autonome wapens
zonder betekenisvolle menselijke controle.

Betekenisvolle menselijke controle kan verschillende vormen hebben. Er is niet één
plek waar je dat doet. Bij het ontwikkelen en produceren van wapens kun je die menselijke
controle al helemaal inbouwen, dus dat er geen mogelijkheid is om een systeem helemaal
autonoom te laten functioneren maar dat er altijd een mens bij moet zijn. Je kunt
ook procedures opstellen voor militairen, dus dat ze een wapen alleen volgens een
bepaalde procedure mogen gebruiken, waarvan menselijke controle een belangrijk onderdeel
is. Zo kun je het ook regelen. Je kunt ook in het targetingproces, het proces om uiteindelijk
het doel te raken, zorgen dat er altijd op het laatste moment in een of andere vorm
een mens bij betrokken is. Je kunt ook militairen zo trainen dat ze begrijpen dat
ze nooit met systemen mogen werken waarbij ze niet uiteindelijk zelf het besluit nemen
en verantwoordelijkheid dragen, en dat ze dat dus niet helemaal mogen overlaten aan
een systeem buiten hun controle. Op al die manieren kun je betekenisvolle menselijke
controle organiseren.

Het grootste probleem bij het in de hand houden van deze ontwikkeling is dat men het
niet eens is over definities en concepten rondom autonome wapens. Ik heb die expertgroep
die er acht jaar over vergaderd heeft al genoemd. Die is onlangs met het rapport gekomen,
bij de toetsingsconferentie die vandaag begonnen is, en die is daar niet uit gekomen.
Het was niet mogelijk om overeenstemming te bereiken over wat nou precies betekenisvolle
menselijke controle is. Het is ook niet gelukt om overeenstemming te bereiken over
de diverse concepten die er zijn met betrekking tot autonome wapens. Het is ook niet
gelukt om overeenstemming te bereiken over wat nou precies de interpretatie is van
het internationale recht dat er al is en wat de consequenties zijn van de interpretaties
van dat internationale recht. Dat is allemaal niet gelukt.

Op het moment dat dat niet lukt, weet je ook zeker dat er geen verdrag komt. Een verdrag
waarvan nu sprake is, kan er namelijk alleen maar met consensus komen. Als je het
dan niet eens bent over definities en over de interpretaties van het internationale
recht, en als het ook nog zo is dat bepaalde landen ... Ik zal ze nou eens een keer
niet noemen. Maar we kunnen ons er alles bij voorstellen. Bepaalde landen hebben aan
al dit soort dingen geen boodschap. Die willen gewoon militair zo sterk mogelijk zijn.
Die trekken zich sowieso al niets aan van deze discussie. Maar in die omgeving kom
je natuurlijk nooit tot consensus.

Dat heeft ook de Nederlandse inzet in dit hele proces beïnvloed. Kijk, wij vinden
dat die consensus er wel moet komen. Wij vinden dat je autonome wapens helemaal moet
verbieden. Wij vinden dat betekenisvolle menselijke controle geformuleerd moet worden
en gerespecteerd moet worden. Dat willen wij graag voor elkaar krijgen. Daarom proberen
wij aan de ene kant ... Ik heb net een groep landen genoemd – mevrouw Belhaj noemde
die ook – die graag een verdrag willen, maar er zijn ook andere landen die dat niet
willen. Ik noemde net Pakistan. Pakistan hoort bij de landen die wel een verdrag willen.
India is een land dat helemaal geen verdrag wil. China, Rusland en ook de Verenigde
Staten van Amerika willen dat op dit moment niet. Die landen redeneren als volgt.
Als zij zich er niet aan houden, en wij houden ons er wel aan, dan verzwakken we onze
eigen positie en dat willen we niet. Dus er is een ingewikkelde verhouding tussen
diverse landen in de wereld. Een land als Nederland is erop uit om te proberen die
verschillen te overbruggen en om oplossingen te vinden. Dat is ook de inzet die wij
de afgelopen jaren hebben gehad en die wij ook de komende jaren willen hebben.

De voorzitter:

Was dat het wat de Minister betreft?

Minister Kamp:

Nee, ik ben net begonnen.

De voorzitter:

U bent net begonnen?

Minister Kamp:

Tenzij u het genoeg vindt; dan stop ik.

De voorzitter:

Neenee, zeker niet. Maar ik zag volgens mij geen interruptie. Nee.

Minister Kamp:

Goed. Dan ga ik even door.

De voorzitter:

Dan gaat u verder.

Minister Kamp:

Er is geen overeenstemming over definities en concepten. Dan is het de vraag of we
op dit moment moeten streven naar een verdrag. De Nederlandse positie is de afgelopen
jaren altijd geweest dat wij gezegd hebben: er is internationaal recht. Er is humanitair
oorlogsrecht. Dat humanitair oorlogsrecht heeft twee belangrijke bepalingen. De eerste
is dat vereist wordt van een militaire commandant dat hij vooraf beoordeelt of de
inzet van een wapen niet disproportioneel is, of hij daar niet onbedoelde schade mee
veroorzaakt. Op het moment dat hij dat beoordeelt en hij het toch doet, dus toch zo'n
wapen inzet, handelt hij in strijd met het humanitair oorlogsrecht, met alle gevolgen
van dien. Dat is het eerste punt.

Het tweede punt is dat het humanitair oorlogsrecht vereist dat als er een techniek
beschikbaar is die minder onbedoelde schade veroorzaakt, de militair verplicht is
om dat systeem te gebruiken. Doet hij dat niet, dan handelt hij ook weer in strijd
met het humanitaire oorlogsrecht. Ik denk en Nederland denkt dat als je deze definities
toepast op autonome wapens, het duidelijk is dat volledig autonome wapens op grond
van het internationale recht niet toegestaan zijn. De opvatting van Nederland is dan
ook dat dat zo is en dat we vooral moeten kijken of er misschien toch nog wat lacunes
in het internationale recht zitten. Als dat het geval is, is een verdrag heel goed
om die lacunes op te vullen. Maar de conclusie dat het zover kan komen, kan nog niet
getrokken worden.

De voorzitter:

Dank u wel. Er is een interruptie van de heer Boswijk.

De heer Boswijk (CDA):

Nou ja, eigenlijk gaf de Minister het antwoord zelf al in zijn tweede overweging.

De voorzitter:

Dat is altijd mooi. Dan mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Even kijken of ik de Minister goed heb begrepen. Hoorde ik de Minister nou zeggen
dat op dit moment de definities die nodig zijn om een verdrag op te stellen met daarin
een onderscheid tussen volledig en gedeeltelijk autonome wapensystemen nog onvoldoende
helder zijn en dat dat een reden is om een verdragsproces niet aan te gaan? Dat voelt
voor mij een beetje als de verkeerde volgorde, want ik kan me voorstellen dat je in
het proces om te komen tot een verdrag juist het gesprek over die definities aangaat.
Is dat niet een volgorde waarmee we vooruitkomen? Dat is mijn vraag aan de Minister.

Minister Kamp:

Zoals mevrouw Van Ginneken het wil, wil Nederland het ook, maar wij moeten op dit
moment vaststellen dat we het er, zelfs na acht jaar praten, niet over eens zijn geworden
wat nu precies een autonoom wapen is, wat de diverse concepten zijn en wat de definitie
van betekenisvolle menselijke controle is. Over die dingen zijn we het in het hele
voorgaande proces niet eens geworden, maar dat is wel nodig. Dat moeten we doen. Ook
moeten we kijken hoe we het internationale recht uitleggen. Vinden wij dat daar lacunes
in zitten? Als we het eens zijn geworden over de definities en als we vinden dat er
een lacune is die met een verdrag moet worden opgevuld, dan moeten we vooral zo'n
verdrag tot stand laten komen. Nederland wil heel graag bereiken dat we een proces
doorlopen dat er uiteindelijk toe leidt dat volledig autonome wapens geheel uitgesloten
worden en dat gedeeltelijk autonome wapens onder strenge voorwaarden wél gebruikt
mogen worden. Daar hebben we ook belang bij. Ik heb al gezegd: we hebben belang bij
het gebruik van systemen als de Goalkeeper en de Patriot. We hebben er ook belang
bij dat we, als ergens in een conflict een radarinstallatie moet worden uitgeschakeld,
daar niet een grote groep infanteristen over 200 kilometer naartoe hoeven sturen om
dat te doen, maar dat we dat met een autonoom wapen onder menselijke controle kunnen
doen. Daar hebben we belang bij vanwege de veiligheid van onze eigen mensen. Dat is
de benadering die Nederland heeft gekozen. Ik denk dat die in overeenstemming is met
wat mevrouw Van Ginneken beoogt.

Mevrouw Van Ginneken (D66):

Ik ben blij dat de Minister aangeeft dat dit gesprek nu al kan plaatsvinden. Mijn
vervolgvraag is dan: is de conferentie die deze week loopt, de Review Conference of
the Convention on Certain Conventional Weapons – ik moest even spieken, want de afkorting
was nieuw voor mij – dan ook de plek om dit gesprek een nieuwe impuls te geven volgens
de Minister?

Minister Kamp:

Het is niet zo dat wij nu gaan beginnen om te kijken of we het over die dingen eens
kunnen worden. Nederland heeft in het overleg van die expertgroep al die jaren al
een constructieve rol gespeeld. We hebben als Nederland ook allerlei onderzoeken gefinancierd.
We hebben ook het Rode Kruis gefinancierd. We hebben samenwerking met anderen gezocht.
Dit is dus al heel lang gaande. Het is natuurlijk teleurstellend dat we op dit moment,
nu die toetsingsconferentie er is, moeten vaststellen dat er nog weinig concrete resultaten
bereikt kunnen worden, maar dat mag ons er niet van weerhouden om daar toch aan te
blijven werken, omdat het voor een betere wereld gewoon nodig is dat we dit voor elkaar
krijgen.

De voorzitter:

Dank u wel.

Minister Kamp:

Dan het standpunt van Nederland. Ik heb net aangegeven hoe we de dingen doen. We doen
dat ook vanuit het belang van de krijgsmacht. We hebben er veel belang bij dat de
mogelijkheden die er zijn om ervoor te zorgen dat je zo min mogelijk nevenschade aanricht,
de mogelijkheden om jezelf effectief te verdedigen en de mogelijkheden om op te komen
voor de veiligheid van je eigen mensen, optimaal worden benut. Gedeeltelijk autonome
wapens onder betekenisvolle menselijke controle zijn daarvoor heel belangrijk. Daarom
vinden wij het als Nederland ook belangrijk om bij deze juridische en politieke discussie
betrokken te blijven, maar ook betrokken te blijven bij de technische ontwikkelingen.
Als Nederland ondersteunen we dat ook. We ondersteunen TNO daarin. We zijn bezig om
daar met andere landen in samen te werken. Ook de AIV zegt dat het, om invloed te
blijven uitoefenen, belangrijk is om te weten wat er gebeurt en wat de ontwikkelingen
zijn. De AIV zegt dus ook dat het verstandig is om voortdurend betrokken te zijn bij
de ontwikkelingen van semiautonome wapens met betekenisvolle menselijke controle.
Dat is ook wat Nederland doet. Dit nog in aanvulling op wat ik net zei over het Nederlandse
standpunt.

Voorzitter. Dan zou ik willen ingaan op diverse concrete vragen die zijn gesteld,
voor zover ik die nog niet beantwoord heb. Eerst de AIV, waarbij ik even begin bij
meneer Boswijk. Hij zegt dat het wel raar is dat dit zo lang loopt en dat dan het
AIV-rapport op het allerlaatste moment komt, vlak voor de toetsingsconferentie om
te kijken wat de stand van de zaken in de wereld is. Dat hadden we natuurlijk een
paar maanden eerder moeten hebben, zegt hij. Hij heeft natuurlijk groot gelijk. Zo
is het ook. Alleen zijn de AIVD en de CAVV onafhankelijke commissies die heel doorwrocht
met dit soort onderwerpen bezig zijn en daar met elkaar over praten, onderzoek laten
doen, formuleringen vastleggen en uiteindelijk tot een eindproduct komen dat ze aanbieden.
Ik heb het moment dat zij met dat eindproduct komen niet in de hand. Zij hebben mij
dat vorige week aangeboden. Ik heb er vervolgens ook uitgebreid met hen over gesproken.
Wij hebben formeel drie maanden de tijd om erop te reageren, maar dat ben ik niet
van plan. Ik denk dat wij daar vlot op moeten reageren, maar wel ook weer met een
goed verhaal. We moeten dus goed kennisnemen van wat de CAVV en de AIV zeggen. We
moeten ook onze eigen ervaringen daaraan koppelen. We moeten de resultaten van de
toetsingsconferentie, die net begonnen is, daarbij betrekken. We moeten ook de positionpaper
van het Rode Kruis daarbij betrekken. Het is ook belangrijk om het parlementaire stuk
dat mevrouw Belhaj heeft geproduceerd erbij te betrekken. Op grond van dat geheel
moet het kabinetsstandpunt opnieuw bepaald worden. Ik voorspel u wel, meneer Boswijk,
dat dat kabinetsstandpunt een verfijning, een nuancering, een uitwerking is van het
eerdere standpunt dat we hebben ingenomen en dat ik net al heb verwoord. We zijn sowieso
tegen volledig autonome wapensystemen en we vinden dat semiautonome wapensystemen
altijd onder betekenisvolle menselijke controle moeten staan. Dan heb je een heleboel
dingen daaromheen die je nog verder uit kunt werken. Daar is de kabinetsreactie op
het advies dat we van de AIVD en de CAVV hebben gekregen, voor bedoeld. Dat zal dus
zo spoedig mogelijk, maar zeker binnen drie maanden bij de Kamer komen, zodat wij
het kunnen betrekken bij het vervolg, om te bereiken wat ik net heb gezegd.

Mevrouw Van Ginneken vroeg hoe ik aankijk tegen het advies van de AIV om samen te
werken met de Verenigde Staten en het Verenigd Koninkrijk, maar ook met andere landen.
Ja, absoluut moet dat gebeuren. Het heeft totaal geen zin dat Nederland dit soort
dingen alleen doet. Wij zijn in de wereld een hoogontwikkeld land dat veel ervaring
heeft op militair gebied en ook veel kan op militair gebied. Ook op ethisch gebied
en op het gebied van internationale politiek hebben wij allemaal kennis, ervaring
en ambities. Wij willen dus heel graag in internationaal verband bijdragen aan analyse,
standpuntvorming en het trekken van conclusies. Dat gaan we zeker ook doen met die
landen, bilateraal maar ook in EU- en NAVO-verband. Het is essentieel dat we dat doen.

Mevrouw Van Ginneken vroeg hoe het zat met de aansprakelijkheid voor de gevolgen van
de inzet van autonome systemen. Daar heb je twee varianten op. De ene is de aansprakelijkheid
van de Staat. De andere is de aansprakelijkheid van een individu die een bepaald iets
gedaan heeft. Als een individu iets gedaan heeft, dan heb je daarvoor twee toetsingsmogelijkheden.
De ene is het civiele recht. Als die persoon iets gedaan heeft wat hij niet had mogen
doen, dan is hij daarvoor aansprakelijk en kan je dat civiel bepleiten. De andere
route gaat via het strafrecht. Het Openbaar Ministerie kan zeggen: je hebt als individu
iets gedaan wat niet mag. Daar word je dan strafrechtelijk op aangesproken.

Voor de aansprakelijkheid van de Staat zijn internationale afspraken gemaakt. Daar
zijn regels voor. Artikelen zijn daarop van toepassing. Die worden dan toegepast.
In dit geval gaat het met name om articles on Responsibility of States for Internationally
Wrongful Acts. Wat daarin is vastgelegd, is daarop van toepassing.

Ik denk dat ik daarmee de punten van mevrouw Van Ginneken heb gehad. Ik ben ingegaan
op de betekenisvolle menselijke controle, de gedeeltelijk geautomatiseerde systemen,
de betekenis van het AIV/CAVV-rapport en wie er tot de verantwoording kan worden geroepen.

Mevrouw Van Ginneken zegt dat wij het moment van regulering niet voorbij moeten laten
gaan. Ik zie dat moment van regulering nu nog niet zo. Ik denk dat het een taai proces
is, waar we doorheen moeten. Nederland kan daarin een belangrijke, bemiddelende en
overbruggende rol spelen. Dat moeten we vooral doen met kracht van argumenten en op
de momenten dat het nodig is met politieke druk. Het is dus een heel proces. Nederland
is daarin ambitieus en maakt daar deel van uit.

Meneer Boswijk vroeg naar het AIV/CAVV-rapport. Daar ben ik op ingegaan. Ik heb aangegeven
wat we daarmee gaan doen. Ik heb onderscheid gemaakt tussen offensieve en defensieve
systemen. Ik zeg tegen de heer Boswijk dat we heel erg op moeten passen dat we niet
afhankelijk worden van wat niet-westerse landen doen. Hij zei dat zelf ook. Hij zei:
je moet zelf zorgen dat je je defensieve kracht en capaciteiten op peil houdt. Dat
is natuurlijk zo. Als wij met een aantal westerse landen afspraken maken om allerlei
dingen niet te gaan doen, terwijl wij te maken hebben met een tegenstander die zich
daar allemaal geen moer van aantrekt en precies doet waar hij zelf zin in heeft en
waar hij zelf sterker van wordt, dan is het enige resultaat dat we onszelf verzwakken.
Wij moeten dus een optimaal verdedigingssysteem hebben. Wij hebben onze eigen kennisinstellingen
en industrie nodig om dat voor elkaar te krijgen. We moeten ook zorgen dat we op dit
punt afschrikking voor elkaar hebben. Dat betekent dat als wij aangevallen worden,
wij daartegen op kunnen treden. Wij willen niet optreden met volledig autonome wapens.
Wij vinden om allerlei redenen dat dat niet moet. Om dat te voorkomen, is het van
belang dat we daar internationaal afspraken over maken en internationaal recht toepassen
en gelijk interpreteren. Waar het nodig is, moeten we dat aanvullen met een verdrag.

Dan kom ik bij de heer Van Wijngaarden. Hij benaderde het eigenlijk op dezelfde manier
als ik. Hij zegt: je moet het samen doen met bondgenoten en zorgen dat je tot resultaten
komt, maar dan zodanig dat je je daar met z'n allen aan houdt, dus niet alleen de
westerse landen maar iedereen. Hij zegt: je moet zorgen dat onze krijgsmacht niet
op achterstand komt te staan. Dat is precies waar het om gaat. Wij moeten verantwoord
gebruikmaken van de semiautomatische systemen met de betekenisvolle menselijke controle.
We moeten zorgen dat we het voor elkaar krijgen dat die andere systemen niet als een
donkere wolk boven de wereld komen te hangen. We moeten dat onszelf in de wereld besparen.

De heer Dassen was voor een internationaal verdrag. Hij sprak over de definities.
Ik ben op de definities ingegaan. Ik denk dat ik duidelijk heb gemaakt dat een verdrag
op zichzelf er op dit moment absoluut niet in zit. Het is beter om uit te gaan van
wat er internationaal allemaal al geregeld is en te zorgen dat we overeenstemming
hebben over hoe we dat moeten interpreteren. We kijken samen in de wereld waar er
lacunes zitten. Als daar een verdrag voor nodig is, is Nederland daar zeker geen tegenstander
van. Integendeel, wij willen graag dat het internationale recht zodanig wordt aangevuld
dat we bereiken wat Nederland wil bereiken, wat mevrouw Belhaj wil bereiken, wat het
Rode Kruis wil bereiken, dus wat we met elkaar willen bereiken.

Dank u wel, mevrouw de voorzitter.

De voorzitter:

Dank u wel. Als het behulpzaam is voor de tweede termijn, zegt mevrouw Belhaj nog
heel kort iets over defensief en offensief. Zijn de leden daarmee akkoord? Ja.

Mevrouw Belhaj (D66):

Even over de landen. Er zijn een aantal landen die een verbod willen. Er is internationaal
juist een meerderheid van landen die een verdrag willen en regulering en verboden
willen combineren. Daar zitten ook NAVO-landen bij. Het is goed om te vermelden dat
het onder andere Duitsland, Spanje, Oostenrijk, België en Noorwegen betreft. Het is
juist een soort ongemak dat Nederland behoort tot een kleine minderheid die zegt dat
een nieuw verdrag of protocol niet nodig is. Het is dus misschien even goed om dat
in het achterhoofd te houden.

Daarbij merk ik ook op dat er een verschil is tussen wat de Minister zegt en wat ik
zeg over de vraag of een nieuw protocol of verdrag daadwerkelijk nodig is. Zowel de
AIV als de CAVV concluderen dat het goed is om het expliciet te maken. Stel dat de
Minister aangeeft dat Nederland voor een verbod is op volledig autonome wapensystemen.
Er zijn juridische grondslagen waarom je dat expliciet moet maken; die ga ik hier
niet nog een keer noemen. Volledig autonome wapensystemen zijn niet in staat zelfstandig
de kernregels van het internationaal humanitair recht toe te passen zolang betekenisvolle
menselijke controle afwezig is en zolang geconcludeerd wordt dat het hedendaags internationaal
humanitair recht te generieke regels bevat en weinig concrete kaders biedt voor de
regulering van zulk soort nieuwe wapensystemen. Daarom heb ik willen betogen waarom
het eigenlijk een hele kleine stap is, als Nederland al vindt dat het moet gebeuren,
om dat te codificeren en expliciet te maken zodat er geen misverstand over kan bestaan.

Dan over defensief.

De voorzitter:

Nee, we gaan nu niet met elkaar in discussie. Het worden nu reacties op elkaar. U
reageert nu namelijk weer op de Minister. Ik wil u de gelegenheid geven om de vragen
over offensief en defensief te beantwoorden, want die zijn nog blijven liggen vanuit
de eerste termijn. Dan gaan we naar de tweede termijn van de Kamer.

Mevrouw Belhaj (D66):

Dat lijkt me prima. Ik ga inderdaad niet in discussie met de Minister, maar het staat
mij wel vrij om nog een keer ...

De voorzitter:

Ik heb u de ruimte gegeven om de vragen te beantwoorden. Ik denk dat dat is wat u
nu gaat doen. Dan kunt u eventueel in tweede termijn op de Minister reageren.

Mevrouw Belhaj (D66):

Ja. Zoals ik al zei, wil ik nog iets aangeven over defensief en offensief. Op dat
punt was ik het wel eens met de Minister, die een toelichting gaf over de systemen
die er zijn. Waar ik even in vastliep en wat ik nog wil benadrukken, is dat het er
eigenlijk niet toe doet. Zolang je afspraken maakt over betekenisvolle menselijke
controle doet het er niet toe of het defensief of offensief is.

De voorzitter:

Dank u wel. Dan gaan we over naar de tweede termijn van de kant van de Kamer. Dan
is het woord aan mevrouw Van Ginneken van D66, die nog twee minuten heeft. Er is een
mogelijkheid tot het indienen van moties, want dit is een notaoverleg.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Dank aan de initiatiefnemer en de Minister. Ik ben blij dat de Minister
eenduidig uitspreekt dat het kabinet tegen volledig autonome wapensystemen is en dat
betekenisvolle menselijke controle essentieel is bij gedeeltelijk autonome wapensystemen.
Ik zou graag wat meer urgentie zien bij de Minister. Daarom heb ik drie moties, die
ik mede indien namens de Partij van de Arbeid. Gezien de nu lopende review conference,
wil ik deze moties graag morgen in stemming brengen.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat zowel de Adviesraad Internationale Vraagstukken en de Commissie van
advies inzake volkenrechtelijke vraagstukken (CAVV) als de indiener van de initiatiefnota
Autonome wapensystemen (Kamerstuk 35 848, nr. 6) constateren dat betekenisvolle menselijke controle bij volledig autonome wapensystemen
afwezig is;

verzoekt de regering bij de Review Conference van de Convention on Certain Conventional
Weapons voor een additioneel protocol of losstaand internationaal verdrag te pleiten,
waarmee expliciet wordt gecodificeerd dat ontwikkeling en gebruik van volledig autonome
wapensystemen verboden moet worden;

verzoekt de regering zich tevens actiever op te stellen voor internationale regulering
voor de ontwikkeling, de aanschaf en de inzet van gedeeltelijk autonome wapensystemen
en hier met een zo groot mogelijke coalitie van landen bindende afspraken over te
maken,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 6 (35 848).

Mevrouw Van Ginneken (D66):

Mijn tweede motie.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat in artikel 36 van het Eerste Aanvullende Protocol bij de Geneefse
Verdragen is voorgeschreven dat bij de ontwikkeling en aanschaf van nieuwe wapens
en middelen, waaronder dus ook gedeeltelijk en volledig autonome wapensystemen, een
toetsing dient plaats te vinden;

constaterende dat niet alle landen weapon reviews uitvoeren en in hun nationale wetgeving
hebben opgenomen;

verzoekt de regering bij de Review Conference van de Convention on Certain Conventional
Weapons staten op te roepen de uit artikel 36 van het Eerste Additionele Protocol
van de Geneefse Conventie volgende verplichting tot weapon reviews uit te voeren dan
wel in hun nationale wetgeving op te nemen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 7 (35 848).

Mevrouw Van Ginneken (D66):

De derde.

De voorzitter:

Voor u verdergaat: er is een interruptie van de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Even over die motie. Ik zag in de schriftelijke reactie van het kabinet op de initiatiefnota
dat het kabinet al in internationaal verband pleit – ik geloof in artikel 36, lid
2 – voor zo'n protocol. Nederland doet dat wel. Een aantal andere landen doen dat
ook. Het kabinet bepleit internationaal al waar die motie om vraagt. Als het kabinet
in reactie op de nota al heeft aangegeven dat het dat doet, wat is dan nog het verschil
tussen de motie en het kabinetsbeleid?

Mevrouw Van Ginneken (D66):

Ik ben ervan op de hoogte dat het kabinet deze artikel 36-procedure inderdaad ook
al tot eigen beleid heeft omgevormd. Maar de inzet van het kabinet om ook andere landen
daar nadrukkelijker en actiever toe op te roepen, kan wat ons betreft nog wel een
extra impuls gebruiken. Dat is de achtergrond van deze motie.

De heer Van Wijngaarden (VVD):

Ja, maar dat snap ik dan toch niet helemaal. U zegt: nadrukkelijker en actiever. Daar
ligt kennelijk de analyse aan ten grondslag dat het kabinet daar nog niet nadrukkelijk
en actief genoeg in is. Het kabinet heeft juist geschreven dat het daar in internationaal
verband wel actief in is en uitdraagt dat andere landen, net als Nederland, wel die
procedure toe moeten passen. Hoe fair is het dan om hier te zeggen dat het kabinet
nadrukkelijker en actiever moet zijn, als het net heeft geschreven dat het dat al
doet?

Mevrouw Van Ginneken (D66):

Zoals ik de kabinetsreactie lees, staat er duidelijk een oproep in om informatie uit
te wisselen tussen landen over de toetsing die plaats moet vinden in de artikel 36-procedure.
Dat is net niet helemaal hetzelfde als een expliciete oproep aan landen om dit in
nationale wetgeving om te zetten. Maar ik wil de heer Van Wijngaarden best toezeggen
dat ik de kabinetsreactie daar nog eens op nalees. Mocht ik tot de gelijke conclusie
komen als de heer Van Wijngaarden, dan kan ik mijn motie alsnog op een later moment
intrekken. Maar vooralsnog wil ik die even houden.

De voorzitter:

Dank u wel. Dan uw derde motie. U bent eigenlijk door de tijd heen, maar ik wil toch
de ruimte daarvoor geven.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Heel snel.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat de informatiepositie over nieuwe (militaire) technologieën inzichtelijk,
transparant en controleerbaar dient te zijn voor de Tweede Kamer;

constaterende dat de Adviesraad Internationale Vraagstukken (AIV) en de Commissie
van advies inzake volkenrechtelijke vraagstukken (CAVV) benadrukken dat voorafgaand
aan de inzet van gedeeltelijk autonome wapensystemen een omgevingsinschatting gemaakt
dient te worden om betekenisvolle menselijke controle te garanderen;

verzoekt de regering bij militaire missies gedeeltelijk autonome wapensystemen als
aandachtspunt te betrekken bij de artikel 100-brief,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 8 (35 848).

Dank u wel. Dan is het woord aan de heer Boswijk van het CDA.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Nogmaals dank aan de initiatiefnemer en aan de Minister voor
de antwoorden op de vragen over een behoorlijk belangrijk onderwerp. Ik heb geen moties.
Maar wat ons betreft is dit niet het laatste debat dat we hierover gaan voeren, omdat
de ontwikkeling natuurlijk razendsnel gaat. Voor het CDA is het belangrijk dat wij
onze eigen krijgsmacht niet op achterstand zetten en tegelijkertijd wel altijd het
ethische kader en de menselijke maat in ogenschouw nemen.

Dank.

De voorzitter:

Dank u wel. Dan is het woord aan de heer Van Wijngaarden van de VVD.

De heer Van Wijngaarden (VVD):

Voorzitter. Omwille van de tijd – daar bent u altijd streng in – ga ik meteen over
tot het indienen van moties.

De voorzitter:

U heeft nog zes minuten, hoor. Maar laat u zich daardoor niet weerhouden.

De heer Van Wijngaarden (VVD):

O! Ik wil heel kort zeggen: dank aan de Minister, ook voor wat hij heeft uiteengezet,
namelijk dat er na acht jaar discussie nog steeds geen overeenstemming is. Dat laat
wel zien hoe complex het onderwerp is. Maar ik vind het wel ongelofelijk belangrijk
dat dit nu door de initiatiefnemer geagendeerd is, omdat alleen al deze discussie
en het nadenken hierover vandaag heel waardevol is. Alleen, ik merk dat we in ieder
geval nog wat verschillen van inzicht als het gaat om hoe groot de conclusies zijn
die we nu kunnen trekken. Ik voel veel voor een rol waarin Nederland internationaal
actief is in deze discussie en een bruggenbouwer is, samen met andere landen. Maar
dit onderwerp is toch te complex voor «grote stappen, snel thuis». Daarom heb ik de
volgende twee moties.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat autonomie in wapensystemen onderwerp van een langlopende en complexe
discussie is, waarin zorgvuldige besluitvorming van belang is;

overwegende dat het kabinet meermaals heeft aangegeven grote waarde te hechten aan
een advies van de CAVV en AIV over autonome wapensystemen, dit advies vorige week
is verschenen en er nog geen kabinetsappreciatie is;

verzoekt het kabinet geen nieuwe standpunten rond autonome wapensystemen in te nemen
alvorens een appreciatie van het CAVV/AIV-advies met de Kamer is gedeeld en daarover
een debat heeft plaatsgevonden,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Wijngaarden, Boswijk, Stoffer, Van Haga
en Eppink.

Zij krijgt nr. 9 (35 848).

De heer Van Wijngaarden (VVD):

De tweede motie.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat de proliferatie en het gebruik van autonome en semiautonome wapensystemen
in potentie verregaande effecten kunnen hebben op de veiligheid van Nederland en van
bondgenoten;

overwegende dat het voor de veiligheid van Nederland van groot belang is dat de NAVO-bondgenoten
in de eenentwintigste eeuw over technologische militaire superioriteit blijven beschikken;

overwegende dat het van belang is dat de landen in de NAVO rondom het thema autonome
en semiautonome wapensystemen zo veel mogelijk samen optrekken, en dat het van belang
is samen met NAVO-bondgenoten invulling te geven aan begrippen als «betekenisvolle
menselijke controle»;

verzoekt het kabinet nauw op te trekken met NAVO-bondgenoten bij de inname van volkenrechtelijke
standpunten en bij militaire R&D als het gaat om autonome dan wel semiautonome wapensystemen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Wijngaarden, Boswijk, Stoffer, Van Haga
en Eppink.

Zij krijgt nr. 10 (35 848).

De heer Van Wijngaarden (VVD):

Dank u wel.

De voorzitter:

Dank u wel. Dan zijn we daarmee gekomen aan het einde van de tweede termijn van de
kant van de Kamer.

Dan kijk ik naar de initiatiefnemer, mevrouw Belhaj, voor haar beantwoording in tweede
termijn. Er waren niet heel veel vragen meer gesteld, maar ik denk dat u nog wel een
paar zaken zou willen aangeven.

Mevrouw Belhaj (D66):

Voorzitter. Dat wilde ik net aangeven. Ik wil nog een keer benadrukken dat ik me niet
herken in de opmerkingen «grote stappen, snel thuis», omdat het proces zich de afgelopen
vijf jaar al heeft afgespeeld. Refereren aan een rapport uit 2015 terwijl er een nieuw
rapport ligt van de AIV en de CAVV waarin zij alle nieuwe ontwikkelingen betrekken,
vind ik dus eigenlijk een beetje een belediging voor zo veel goede mensen die dat
rapport zo zorgvuldig hebben geschreven. Zij hebben daarin ook goede redenen genoemd
op basis waarvan zij tot de conclusie komen dat je deze conclusie in ieder geval vandaag
kunt trekken. Al die overige conclusies gaan over vragen als «hoe zorg je ervoor dat
Nederland vooroploopt?», «hoe zorg je ervoor dat het geïntegreerd wordt in de krijgsmacht?»
en «hoe zorg je ervoor dat die betekenisvolle menselijke controle erin blijft zitten?».
Ik ben het er helemaal mee eens dat je daar niet over uit bent als het gaat over gedeeltelijk
autonome wapensystemen. Maar de suggestie dat de AIV de afgelopen vijf jaar heeft
stilgestaan met nadenken en in één keer grote stappen maakt, vind ik een onjuiste.

Ik heb ook geprobeerd te benadrukken waarom deze week zo belangrijk is en hoeveel
landen die al gewoon willen expliciteren en dus ook codificeren. Het zou eerder gek
zijn als Nederland dit nu niet doet. Ik kijk uit naar die discussies. Als het gaat
over gedeeltelijk autonome wapensystemen, kan ik me voorstellen dat dat t.z.t. gekoppeld
wordt aan het informatiegestuurd werken van het LIMC.

Voorzitter, ik rond af. Kamerleden die hun best doen om voorop te lopen in een discussie,
hebben eens in de zoveel tijd de mazzel dat het hét moment is om die discussie voor
een bepaald gedeelte ook politiek om te zetten. Ik vind dat dit niet afhankelijk mag
zijn van een kabinet of een coalitie. Dit moet breedgedragen in de Kamer tot stand
komen. Alle informatie ligt er, dus ik hoop op steun om in ieder geval die stap te
zetten.

Tot slot wil ik de beleidsmedewerkers Suleyman Aslami, in de aanloop hiernaartoe,
Mike Hemmen, Levi Bakker en Thomas-Jan Koerhuis, die hier nu niet bij zit, ontzettend
bedanken, want zij hebben knetterhard gewerkt. Zij hebben ervoor gezorgd dat we hier
uiteindelijk zijn. We hopen dat het lukt om er deze week voor te zorgen dat Nederland
niet alleen in woorden maar ook in daden expliciet maakt dat we voor een verbod op
autonome wapensystemen zijn.

De voorzitter:

Dank u wel. De heer Boswijk heeft nog een interruptie.

De heer Boswijk (CDA):

Nou, eigenlijk een extra inkleuring. Ik heb grote waardering voor collega Belhaj en
haar medewerkers voor het feit dat ze dit hebben geagendeerd en gedaan, maar ik vind
dit wel een vrij fundamenteel gesprek. Ik vind het belangrijk om juist wel een kabinetsreactie
hierop te horen, want daar zitten mensen in die hier de hele dag mee bezig zijn. Ik
wil ook zo snel mogelijk dat debat hebben – het liefst hadden we dat al twee of drie
maanden geleden gehad – maar ik vind het nu te snel gaan. Vorige week donderdag hebben
we besloten om vandaag dit debat te voeren en nu moet ik er al iets van vinden. Voor
mij persoonlijk is dat te snel.

Mevrouw Belhaj (D66):

Dat begrijp ik natuurlijk, maar het gaat niet alleen om mijn initiatiefnota. Er ligt
een rapport van de AIV en de CAVV, dat heel duidelijk is op dit gebied. Niet alle
beslispunten uit mijn initiatiefnota zijn ingediend door D66 en met een reden, want
ik zie dat er een stuk is dat je later moet doen. Maar dit stuk is gebaseerd op vijf
jaar nadenken door niet de minste mensen, onder wie De Hoop Scheffer. Mijn initiatiefnota
past daarbij. Ik vind het niet te mager om dit als D66-fractie neer te leggen, omdat
het rapport van de AIV en de CAVV er ligt. Ik zou u willen oproepen om dat niet terzijde
te schuiven.

De voorzitter:

Dan is nu het woord aan de Minister. Excuus, de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Ik heb nog een korte interruptie naar aanleiding van wat mevrouw Belhaj zei. Ze zei:
«grote stappen, snel thuis». Maar dat is een belediging voor de mensen die het AIV-rapport
hebben geschreven. Ik denk niet dat het de bedoeling is om wie dan ook waar dan ook
te beledigen. Ik denk wel dat het belangrijk is om het volgende aan te geven. Ik vraag
mevrouw Belhaj om daarop te reflecteren. Er is hier al vijf jaar over nagedacht, er
is al acht jaar een discussie gaande en er is internationaal nog maar heel weinig
consensus. Hoe stelt Nederland zich internationaal op in dat krachtenspel? Er is best
iets voor te zeggen om daarin niet voorop te lopen – in «vooroplopen» zit ook iets
solistisch – maar om ons meer op te stellen als bruggenbouwer. Die rol noemde de Minister
net ook. Hoe kijkt mevrouw Belhaj aan tegen de positie van Nederland als internationale
bruggenbouwer? Is het dan niet juist handig om het kruit nog even droog te houden?
Want de discussie is helaas nog verre van afgerond.

De voorzitter:

Mevrouw Belhaj, tot slot.

Mevrouw Belhaj (D66):

Ik merk dat we soms twee discussies door elkaar heen voeren. De Minister zegt eigenlijk
dat het standpunt van Nederland over betekenisvolle menselijke controle niet is veranderd.
Op basis van wat hier ligt, spreek je van een verbod op volledig autonome wapensystemen.
Op dat gebied gaat het niet over vooroplopen. Ik heb juist net geprobeerd aan te geven
dat verschillende NAVO-landen en heel veel andere landen in de wereld ook vinden dat
je het moet codificeren. Het is niet zozeer dat Nederland voorop wil lopen, maar meer
een kwestie van: hoe kan Nederland aansluiten bij alle landen die dat vinden? Goede
discussies voeren heeft betrekking op gedeeltelijk autonome wapensystemen. Hoe ga
je betekenisvolle menselijke controle verder duiden en waar moet die controle in het
militair-operationele proces altijd aanwezig zijn? Díé discussie, daar ben ik helemaal
voor. Dat is wat we over drie maanden kunnen doen, mede ook op basis van de appreciatie
van elementen uit het AIV/CAVV-rapport. Daarom heb ik ook de D66-fractie verzocht
om niet alle beslispunten nu in moties te gieten, omdat dat zonde zou zijn. Over een
verbod zijn we het dus eigenlijk eens. Het enige wat je moet doen is je aansluiten
bij de meerderheid van al die landen die het willen codificeren. De discussie over
semiautonome wapensystemen moeten we nog veel meer gaan voeren. Ik snap dat de Kamer
zegt daar tijd voor nodig te hebben. Maar van dat andere zou ik zeggen: dat kan gewoon
nu, deze week; laten we die kans grijpen.

De voorzitter:

Dank u wel. Dan is het woord aan de Minister, die ook een appreciatie van de moties
gaat geven.

Minister Kamp:

Dat zal ik doen, voorzitter. Ik zal slechts nog even op de laatste twee punten van
mevrouw Belhaj ingaan. Ze zegt dat ik gezegd zou hebben dat het standpunt van Nederland
niet veranderd is. Nederland heeft een standpunt ingenomen nadat we de vorige keer
het advies van de AIV en de CAVV hebben gekregen. Daar hebben we goed over nagedacht
en vervolgens hebben we dat advies overgenomen. Vorige week heb ik een nieuw advies
gekregen van de AIV en de CAVV. Daar moeten we binnen drie maanden op reageren, maar
dat zullen we eerder doen. We zullen daar een aantal andere dingen bij betrekken,
die ik in mijn eerste termijn al heb genoemd. Dan zal er dus een op basis van evaluatie
geactualiseerd, nieuw standpunt van de Nederlandse regering komen, dat in grote lijnen
neer zal komen op een verbod op volledig autonome wapens en op allerlei dingen die
geregeld moeten worden met betrekking tot semiautonome wapens voor wat betreft de
betekenisvolle menselijke controle. Dat verbod zal overeind blijven, maar er is een
heleboel daaromheen te regelen en qua standpunten in te nemen. Dat zullen we zeker
gaan doen. We zitten dus op dezelfde lijn als vijf, zes jaar geleden, maar wij zullen
naar aanleiding van de rapporten die ik heb genoemd, en de adviezen die wij hebben
gekregen, ons standpunt actualiseren na evaluatie. Ik denk dat het goed is om er niet
een weekend voor te nemen om conclusies te trekken uit dat AIV-rapport, maar om dat
goed te bestuderen, met andere dingen in verband te brengen, je eigen ervaringen als
kabinet daarbij te betrekken en dan met een goed doordachte reactie daarop te komen.

Het tweede punt is dat Nederland zich volgens mevrouw Belhaj zou moeten aansluiten
bij een grote meerderheid van landen die iets zou willen. Er is een kleiner aantal
landen dat vindt dat er geen verdrag moet komen, omdat alles al goed geregeld is.
Er zijn landen, die ik net heb gespecificeerd, die van mening zijn dat er wel een
verdrag nodig is. Ook is er een hele grote groep landen die daartussenin zit. Nederland
maakt daar deel van uit. Die landen brengen verschillende nuanceringen aan, maar het
komt allemaal neer op de volgende overwegingen: we hebben internationaal recht op
grond waarvan die volledig autonome wapens al niet mogen; het is zinvol om te gaan
kijken of er lacunes zijn en, zo ja, dan zou een verdrag zinvol kunnen zijn. Dat is
ook het Nederlandse standpunt. Om tot een verdrag te komen, heb je consensus nodig
en moeten de tegenstellingen overbrugd worden. Daar zet Nederland zich al jaren actief
voor in en dat zullen we ook blijven doen.

Ik kom bij de moties die aangereikt zijn door de woordvoerders. Allereerst de motie
op stuk nr. 6 van mevrouw Van Ginneken, mevrouw Belhaj, mevrouw Piri en de heer Van
Dijk. Die motie stelt dat Nederland moet streven naar een additioneel protocol of
een losstaand internationaal verdrag. Ik heb al gezegd dat we dat volgens het kabinet
op dit moment niet moeten doen. Het is verstandig om goed te kijken naar het AIV-rapport
en de andere dingen te doen die ik net gezegd heb, en om dan een standpunt in te nemen
en te kijken hoe we onze brugfunctie om uiteindelijk tot consensus te komen, optimaal
kunnen vervullen. Daar ben ik het dus niet mee eens.

Het tweede dictum van dezelfde motie verzoekt de regering om zich actiever op te stellen
om tot internationale regulering te komen. Wij zijn op dit punt zeer actief, wij zijn
ook van plan om dat te blijven en wij zijn van plan om dat in internationaal verband
te doen. Die aansporing is dus niet nodig. Om beide redenen moet ik de motie van mevrouw
Van Ginneken en de medeondertekenaars ontraden.

De voorzitter:

De motie op stuk nr. 6 wordt ontraden.

Minister Kamp:

De tweede motie van mevrouw Van Ginneken en dezelfde medeondertekenaars, op stuk nr. 7,
vraagt de regering om de staten die bij de toetsingsconferentie aanwezig zijn op te
roepen om artikel 36 van het Eerste Additionele Protocol van de Geneefse Conventies
uit te voeren. Ik denk dat dat volstrekt overbodig is. Het is helemaal niet nodig
dat wij andere landen daartoe oproepen. Dat protocol is vastgesteld. Landen hebben
zich daartoe verplicht en moeten dat uit gaan voeren. Daar hebben ze echt geen oproep
van Nederland voor nodig, dus deze motie ontraad ik ook.

De voorzitter:

De motie op stuk nr. 7 wordt ontraden.

Minister Kamp:

De derde motie, op stuk nr. 8, van mevrouw Van Ginneken en de dezelfde medeondertekenaars
als bij de vorige twee moties verzoekt de regering om bij militaire missies gedeeltelijk
autonome wapensystemen als aandachtspunt te betrekken bij de artikel 100-brief. Het
lijkt me heel nuttig om dat te doen. Ik laat graag het oordeel over deze motie aan
de Kamer.

De voorzitter:

De motie op stuk nr. 8 krijgt oordeel Kamer.

Minister Kamp:

Dan heb ik de motie op stuk nr. 9 van de heren Van Wijngaarden, Boswijk, Stoffer,
Van Haga en Eppink. Zij verzoeken het kabinet om geen nieuwe standpunten rond autonome
wapensystemen in te nemen alvorens een appreciatie van het advies van de CAVV en de
AIV met de Kamer is gedeeld en daarover een debat heeft plaatsgevonden. Het lijkt
mij heel verstandig om dat zo te doen. Bovendien lijkt het me heel goed mogelijk,
omdat we de lijn die wij tot dusver ingezet hebben, ook kunnen vasthouden bij die
toetsingsconferentie. Dat is een lijn die nog steeds zeer nuttig is. Het lijkt mij
dat we aanvullingen daarop en wijzigingen daarvan moeten doen nadat we het advies,
en de andere stukken die ik net heb genoemd, goed hebben bestudeerd en het kabinetsstandpunt
daarover met de Kamer hebben besproken in een debat. Dus de motie op stuk nr. 9 laat
ik graag oordeel Kamer.

De voorzitter:

De motie op stuk nr. 9 krijgt oordeel Kamer. Dan de motie op stuk nr. 10. Dat is de
laatste motie.

Minister Kamp:

De motie op stuk nr. 10 van de heer Van Wijngaarden en de net genoemde medeondertekenaars
vraagt het kabinet om nauw op te trekken met NAVO-bondgenoten bij de inname van volkenrechtelijke
standpunten en bij militaire research and development als het gaat om autonome dan
wel semiautonome wapensystemen. Ik denk dat het goed is om dat te doen. De NAVO is
in dat geheel een belangrijke partij. Het is niet makkelijk om het daar als NAVO met
elkaar over eens te worden, omdat Amerika daar op dit moment anders over denkt dan
een aantal andere landen, waaronder Nederland. Maar ik denk dat het heel verstandig
is om, als je internationaal tot iets wilt komen, het in ieder geval in de NAVO met
elkaar eens te worden. Daarom geef ik de motie op stuk nr. 10 graag oordeel Kamer.

Dank u wel, mevrouw de voorzitter.

De voorzitter:

Dan krijgt de motie op stuk nr. 10 ook oordeel Kamer.

Daarmee zijn we aan het einde van de tweede termijn gekomen. Mevrouw Van Ginniken
heeft verzocht om hier morgen over te stemmen. Dat moet een commissieverzoek zijn,
dus daar moet een meerderheid voor zijn. Ik kijk even of de heren Boswijk en Van Wijngaarden
daarmee akkoord gaan. Ja, dat is akkoord. Dan gaan we dat verzoek plenair doen. De
griffier bevestigt dat. Ik concludeer dat de nota voldoende is besproken. Ik wil nogmaals
aansluiten bij alle complimenten, want het is een hele bak werk om zo'n initiatiefnota
te maken en voor te bereiden. Dank daarvoor aan mevrouw Belhaj, maar ook aan de ondersteuners.
Dinsdag gaan we hierover stemmen. Daarmee zijn we aan het einde van dit notaoverleg
gekomen.

Sluiting 12.15 uur.