Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 5 oktober 2022, over Autonome Wapens

Nr. 65 VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 20 oktober 2022

De vaste commissie voor Defensie en de vaste commissie voor Buitenlandse Zaken hebben
op 5 oktober 2022 overleg gevoerd met de heer Hoekstra, Minister van Buitenlandse
Zaken, en mevrouw Ollongren, Minister van Defensie, over:

– de brief van de Minister van Buitenlandse Zaken d.d. 17 juni 2022 inzake kabinetsreactie
op het AIV/CAVV-advies Autonome wapensystemen. Het belang van reguleren en investeren
(Kamerstuk 35 925 X, nr. 90);

– de brief van de Minister van Buitenlandse Zaken d.d. 8 juli 2022 inzake stand van
zaken uitvoering van de motie van het lid Koopmans c.s. over beheersing van de productie,
plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk
33 694, nr. 43) (Kamerstuk 33 694, nr. 64).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de vaste commissie voor Defensie, De Roon

De voorzitter van de vaste commissie voor Buitenlandse Zaken, Rudmer Heerema

De griffier van de vaste commissie voor Defensie, De Lange

Voorzitter: Valstar

Griffier: De Lange

Aanwezig zijn vier leden der Kamer, te weten: Belhaj, Boswijk, Jasper van Dijk en
Valstar,

en de heer Hoekstra, Minister van Buitenlandse Zaken, en mevrouw Ollongren, Minister
van Defensie.

Aanvang 16.00 uur.

De voorzitter:

Ik open deze vergadering en heet u allen van harte welkom bij het commissiedebat Autonome
wapens. Ik verkeer in de bijzondere hoedanigheid dat ik twee griffiers aan mijn zijde
heb. Normaal gesproken is dat er één. Ik heet de heer Maduro, plaatsvervangend Griffier
van de Staten van Curaçao, welkom. Hij is hier om te kijken hoe wij het doen. Wij
doen het natuurlijk altijd heel netjes in de Tweede Kamer. Ik kijk dus naar mijn collega-Kamerleden
met de verwachting om dat vandaag ook weer te doen. Wij hebben officieel vier minuten
spreektijd, maar vandaag ben ik coulant. We zijn namelijk in een klein gezelschap.
Ik ben bereid om daar één minuut aan toe te voegen. Ik heb begrepen dat mevrouw Belhaj
daar in ieder geval gebruik van gaat maken.

Ik zou dan eigenlijk willen voorstellen om de heer Van Dijk als eerste het woord te
geven.

De heer Jasper van Dijk (SP):

Dank u wel, voorzitter. Bij hoge uitzondering spreek ik mijn inbreng ook uit namens
de Partij van de Arbeid. U bent dus gewaarschuwd. Ik had een spreektekst klaar, maar
ik heb hem helemaal moeten verbouwen toen ik dit ging doen.

Voorzitter. We spreken over autonome wapens. Laten we allereerst vaststellen dat dat
natuurlijk enorm tot de verbeelding spreekt. Ik zie allerlei films voorbijkomen zoals
Terminator en vele andere die daarna zijn gekomen. Als je spreekt over autonome wapens,
wapens die zonder mensen bediend kunnen worden, dan denk je aan sciencefiction et
cetera. Dat is de ene kant van het verhaal. De andere kant van het verhaal is dat
het natuurlijk reden tot zorg geeft, en reden tot regulering. Het is daarom heel goed
dat we hier vanmiddag over spreken.

Er staat een prachtige opinie in de Volkskrant vandaag, van Daan Kayser en Jip van
Dort. Ik citeer: «De trend is duidelijk: legers passen almaar meer autonomie toe in
wapensystemen. Een nieuw, angstaanjagend tijdperk – waarbij we het selecteren en aanvallen
van doelen overlaten aan sensoren en algoritmen, zonder menselijke tussenkomst – staat
voor de deur. We moeten haast maken grenzen te stellen en zaken goed te regelen nu
het nog kan.» Dat is de strekking van hun artikel en ik sluit me daar volledig bij
aan. Ik vraag aan de regering om daarop te reageren.

Een heel belangrijk punt daaromtrent is dat er eigenlijk een verdrag gemaakt zou moeten
worden, een internationaal verdrag waarin je regels vaststelt rondom het gebruik van
dit soort wapens. Daarin zou eigenlijk het verbod op volledig autonome wapens moeten
staan. De regulering van gedeeltelijk autonome wapens zou daarin ook geregeld moeten
worden. Ik vraag de regering of ze dat met mij eens is. Je zou dat met een groep van
landen kunnen bepleiten, bijvoorbeeld België, Zwitserland, Brazilië en Mexico. Zij
delen dit standpunt.

Je zou dat dan kunnen doen in de Conventie over bepaalde conventionele wapens, de
zogenaamde CCW. Het zou heel mooi zijn als dat lukt, maar dat kan heel gemakkelijk
gevetood worden. Dat zeggen de auteurs in het opiniestuk terecht. Een land als Rusland
zou zomaar kunnen zeggen: «Wij hebben helemaal geen behoefte aan regulering van autonome
wapens. Dat gaat dus niet gebeuren.» Ik zou de regering willen vragen of ze het met
mij eens is dat het heel zonde zou zijn als daarmee regulering wordt stopgezet. Zou
je dan niet een initiatief buiten de zogenaamde CCW om moeten nemen? Graag een reactie.

Voorzitter. Het Rode Kruis roept ook op tot een verdrag. Zij wijzen terecht op ethische
redenen, namelijk dat mensen geen doelwit mogen zijn van autonome wapens. Nederland
moet op z'n minst terughoudend en zorgvuldig zijn bij investeringen in autonome wapensystemen.
Ik vraag of de regering dat standpunt deelt.

De SP heeft de afgelopen jaren al meerdere malen debatten over de deelname van de
Nederlandse luchtmacht, in de vorm van F-16's en de Reaperdrone, aangegrepen om te
spreken over het verschijnsel «langeafstandsoorlog». Ik wijs u ook op het boek «Hawija:
De verwoestende werkelijkheid van onze langeafstandsoorlog tegen IS». Het is geschreven
door onze oud-beleidsmedewerker Jip van Dort. Hij is thans werkzaam bij PAX. Het is
een uitstekend boek. Ik kan het de Minister van harte aanbevelen. Van Dort beschrijft
ook dat proces van de langeafstandsoorlog. Het heeft natuurlijk ongekende voordelen;
dat snap ik direct. Je bent natuurlijk zelf in grote veiligheid op het moment dat
je vanaf je thuisbasis een wapen, een drone, kan besturen. Aan de andere kant brengt
het ook nieuwe risico's met zich mee. Ziet de regering die nieuwe risico's ook? Het
wordt afstandelijk oorlog voeren. U kent de buitengerechtelijke executies zoals die
door de Verenigde Staten, maar ook door Israël, worden uitgevoerd met behulp van drones.
Hoe kijkt de regering daarnaar? Ziet ze de risico's, namelijk het gebrek aan democratische
controle en de lagere drempel om geweld te gebruiken?

Voorzitter. De kern van mijn pleidooi is dus: ga aan de slag met juridische kaders;
ga aan de slag met een internationaal verdrag.

Tot slot zou ik nog het volgende willen vragen. Is er wellicht een kans om dit onderwerp,
autonome wapens, toe te voegen aan de agenda van de conferentie over kunstmatige intelligentie
die Nederland in februari volgend jaar organiseert? En kunnen we dan aan de slag gaan
met een mooi verdrag?

Dank u wel.

De voorzitter:

Dank u wel, meneer Van Dijk. Ik geef het woord aan mevrouw Belhaj.

Mevrouw Belhaj (D66):

Voorzitter, dank. Fijn om weer op bezoek te mogen zijn bij de commissie Defensie en
bezig te mogen zijn met de inhoud daarvan. En wat voor een inhoud! Op 4 juni 2021
brachten we als D66 de initiatiefnota Autonome wapensystemen uit, ondanks dat de AIV
nog moet komen met z'n advies. Twee jaar daarvoor waren we daar eigenlijk al mee aan
de slag gegaan. De urgentie is er dus zeker. Ik ben heel blij dat we daar vandaag
verder over kunnen spreken.

We spreken op dit moment veel over wapensystemen, door de Russische aanvalsoorlog
in Oekraïne. Nederland draagt daar ook aan bij, bijvoorbeeld met de pantserhouwitsers,
ons zwaarste artilleriesysteem. Terwijl de Oekraïners vechten tegen een monsterlijk
regime en voor onze vrijheid en waarden, voltrekt zich op de achtergrond een stille
revolutie: de derde revolutie in oorlogsvoering. De mens krijgt daarbij steeds minder
zeggenschap over de inzet van wapens en over het gebruik van geweld.

Wat D66 betreft maken de oorlog in Oekraïne, de Russische agressie en de snel verslechterende
geopolitieke situatie in de wereld de nood van actie op wapenbeheersing alleen maar
urgenter. Een zwerm van twintig drones die doelen identificeren, selecteren, eropaf
vliegen met 70 kilometer per uur en ontploffen, is niet langer sciencefiction. Dit
gebeurt al. Na het verschijnen van het AIV-rapport sloot het kabinet zich op vele
punten aan bij de beslispunten van mijn initiatiefnota die we vorig jaar bespraken.
Grote winstpunten zijn dat het kabinet zich gaat inspannen voor een verbod op volledig
autonome wapens en een concretisering van regels voor de inzet op gedeeltelijk autonome
wapens. Het kabinet gaat de door de AIV/CAVV opgestelde criteria hanteren voor het
inkleden van betekenisvolle, menselijke controle in het doelontwikkelingsproces. Dat
zijn mooie ambities en mooie woorden. Als Rotterdammer zeg ik: nu nog de daden. Daarom
heb ik een aantal aansporingen, opmerkingen en vragen.

Voorzitter. Ik vind het een mooie stap dat Nederland volledig autonome wapensystemen
globaal wil verbieden. Nu is het wel zo – dat gaf mijn collega Van Dijk al aan – dat
de internationale gemeenschap al jaren wacht op de CCW, de Convention on Certain Conventional
Weapons, maar daar gebeurt niets. Er worden geen knopen doorgehakt en dat gaat binnenkort
ook niet gebeuren. De tijd tikt echter door. Die tijd hebben we helemaal niet. En
dat terwijl de industrie jaren geleden zelf al riep: reguleer ons, alsjeblieft, want
dit gaat helemaal fout! Daarom stelt D66 dat Nederland een parallel proces moet starten
met welwillende landen om zo snel mogelijk tot een verdrag te komen. We zien dat Nederland
daar vaker heel succesvol in is geweest. Mijn vraag aan de Minister van Buitenlandse
Zaken is of hij bereid is om dit te initiëren. Ik heb hem daar ook uitspraken over
horen doen. Ik hoop echt dat hij vandaag zegt dat hij persoonlijk gemotiveerd is om
hier de lead in te nemen. Dit gaat namelijk echt over iets. Dit gaat niet alleen over
een mogelijke prijs voor wereldvrede. Dit gaat gewoon over honderdduizenden mensenlevens
die gevaar lopen als we niet optreden.

Ik las dat de Minister van BZ binnenkort, in samenwerking met de Minister van Defensie,
een conferentie over kunstmatige intelligentie organiseert. Autonome wapens staan
echter niet geagendeerd. Is deze conferentie niet bij uitstek hét moment voor deze
Minister om grote stappen te zetten richting een verdrag? D66 drukt de Minister op
het hart: laat deze kans niet liggen.

Voorzitter. Het kabinet vindt het belangrijk om betekenisvolle menselijke controle
te houden bij de inzet van autonome wapens. Dat klinkt goed. Het klinkt ook alsof
Nederland dat al kan. Zoals het AIV-rapport ons leert, is er helemaal geen consensus
over betekenisvolle menselijke controle, laat staan dat onze militairen, militaire
protocollen en autonome systemen al volledig zijn afgestemd op de inkleding van dit
concept. Op dit moment lijkt het nog een beetje nattevingerwerk. Is de Minister het
met ons eens dat autonome gewapende systemen pas ingezet kunnen worden als betekenisvolle
menselijke controle is uitgewerkt en geïmplementeerd in de defensieorganisatie?

Voorzitter. Het derde punt dat ik wil aanstippen, is investeren. Zowel Nederland als
de NAVO willen een technological edge behouden in hoogtechnologische oorlogsvoering.
Het budget gaat flink omhoog. Tegelijkertijd is dat dan ook het moment om vooruit
te denken en verantwoordelijkheid te nemen. Zorg ervoor dat de principes van betekenisvolle
menselijke controle direct in het ontwikkelingsproces van nieuwe autonome systemen
worden meegenomen. Geef de industrie duidelijke richtlijnen en kaders voor de ontwikkeling
van autonomie in nieuwe wapensystemen. Doen we dat niet, dan ontwikkelen we vormen
van kunstmatige intelligentie die we niet kunnen controleren, robots die zelf besluiten
wanneer ze geweld inzetten. Dat moeten we koste wat het kost zien te voorkomen. Is
het kabinet dit met D66 eens? Zo ja, hoe gaat het dit doen, zowel voor de Nederlandse
industrie als in NAVO-verband?

Voorzitter, concluderend. De geopolitieke realiteit maakt niet dat we minder moeten
normeren. Het maakt dat we juist meer moeten doen om de internationale rechtsorde
in stand te houden, ook wat het beperken en beheersen van dit soort wapens betreft.
Nederland heeft daar een verantwoordelijkheid in. Ik doe vandaag ook een expliciet
appel op de verantwoordelijkheid van deze Ministers. Ik vraag hun niet te onderschatten
welke mogelijkheden ze hebben om van betekenis te zijn als het gaat om deze nieuwe
vormen van oorlogsvoering.

Dank u wel.

De voorzitter:

Dank. Dan geef ik het woord aan de heer Boswijk.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Oorlogsvoering is sinds haar uitvinding aan verandering onderhevig,
dus dat er nieuwe wapensystemen bij komen, is niet iets nieuws. Maar de snelheid waarop
veranderingen nu plaatsvinden, is wel nieuw. In Oekraïne zien we vandaag de dag hoe
consumentendrones door middel van crowdfunding worden gefinancierd en na kleine aanpassingen
worden gebruikt om Russische loopgraven te bombarderen, waarbij deze zelfde acties
worden gefilmd en via livestreams worden uitgezonden, waarna men vervolgens met nieuwe
crowdfundingsacties nieuwe drones kan kopen.

Daarbij zien we nog een verandering. De wereldgeschiedenis toont aan dat het land
dat vooroploopt op technologisch gebied vaak ook als winnaar uit de oorlog komt. Echter,
doordat de drempel voor hoogtechnologische technologie nu wordt verlaagd, neemt het
gevaar op diverse dreigingen toe. Terwijl kortgeleden statelijke actoren nog een grote
voorsprong hadden op technologische gebieden, zien we nu dat non-statelijke actoren
zoals drugsbendes en terroristische organisaties steeds meer over vergelijkbare technieken
of vergelijkbare alternatieven beschikken. Dat is een enorm groot risico.

De AIV en de CAVV hebben een uitstekend advies uitgebracht, waarvoor dank. Kunstmatige
intelligentie gaat een steeds grotere rol spelen, in de economie, in de samenleving
en op het slagveld. China heeft de ambitie om wereldleider te worden op het gebied
van kunstmatige intelligentie. De ontwikkelingen gaan razendsnel, vooral binnen het
civiele domein. Het vereist ambitie en investeringen, maar het roept ook vragen en
dilemma's op. Hoe gaan we om met China? Hoe voorkomen we dat China civiel- en militair-technologisch
het Westen voorbijstreeft? Hoe moet het militaire domein omgaan met de ontwikkeling
van kunstmatige intelligentie in vooral het civiele domein en het grijze gebied tussen
civiel en militair, zoals hybride oorlogsvoering, en met het vervagende onderscheid
tussen in- en externe veiligheid en cyber?

De keuze om autonome wapensystemen wel of niet in te zetten is een dilemma, zoals
vaak het geval is bij ethische kwesties. Het kan misschien heel ethisch verantwoord
zijn om autonome wapens af te zweren, maar hoe ethisch is het om een land kwetsbaar
te maken als andere landen wel investeren in autonome wapens? Hoe ethisch is het als
we militairen het strijdtoneel op sturen als ook autonome systemen het zouden kunnen
doen? Wat het CDA betreft moet dit een afweging zijn in NAVO-verband, omdat we niet
willen dat wij ons als westerse landen misschien op achterstand zetten ten opzichte
van landen als China, Rusland, Noord-Korea en Iran.

De voorzitter:

Dat lijkt me een mooi moment voor mevrouw Belhaj om te interrumperen.

Mevrouw Belhaj (D66):

Ik hoor heel goed wat de heer Boswijk zegt. Hij vertegenwoordigt daarmee denk ik ook
een bepaalde stroming die zegt: pas op, als die anderen het hebben en wij niet, zijn
we misschien de grootste sukkels die er rondlopen. In de formele terminologie heet
dat natuurlijk een wapenwedloop. Er zijn genoeg voorbeelden waaruit is gebleken dat
je, als je wel vooroploopt maar er ook naar streeft om verdragen te realiseren, in
staat bent om andere mensen – andere landen, waar dus mensen achter zitten – te verleiden
om mee te doen. Ik merk zelf dat je uiteindelijk een keuze moet maken voor de beste
route om dit te stoppen, de route waar je het meest in gelooft of waarop je het meest
vertrouwt. Mijn vraag is: heeft de heer Boswijk daar ook over nagedacht? Wat hoopt
hij of gelooft hij? Want uiteindelijk moet je gewoon een keuze maken. Ik snap het
dilemma. En je moet natuurlijk helemaal niets van D66, maar ik stel me voor dat u
een keuze kúnt maken.

De voorzitter:

Dit was een prachtig à-deux'tje, waarbij jullie elkaar goed in de ogen keken, dus
ik ben benieuwd naar de reactie van de heer Boswijk.

De heer Boswijk (CDA):

D66 legt altijd wel een beetje zijn wil op aan een ander. Dat mag ik wel tegen Salima
zeggen.

Mevrouw Belhaj (D66):

Zeker, maar hij komt dan wel terug, hè.

De heer Boswijk (CDA):

Ik zeg niet dat we niet een verdrag moeten sluiten. Ik schets alleen het dilemma.
We hebben in het verleden natuurlijk vaker verdragen gesloten, bijvoorbeeld over clusterbommen
en mijnen. Denk ook aan het INF-verdrag, dat uiteindelijk is gesneuveld omdat een
van de landen zich er niet aan hield. Dan vraag ik me wel het volgende af. Als dat
moment opeens daar is – sommige partijen blijken toch niet zo betrouwbaar te zijn
als wij zelf denken dat wij zijn – dan is het wel een heel gevaarlijk dilemma waar
je mee speelt. Als het moment opeens daar is, het verdrag eenzijdig wordt opgezegd
en wij roomser zijn dan de paus, dan kunnen de gevolgen desastreus zijn, zeker met
autonome wapensystemen, meer nog dan met mijnen of clusterbommen. Dat is het dilemma
waarmee ik worstel. Als je normerend bent op een domein, wat Europa voor de mobiele
telefoon was, dan bepaal je de standaard. Alleen, ik moet bekennen dat ik mij heel
erg afvraag of wij op dit gebied normgevend zijn. Ik denk namelijk van niet. Ik denk
dat China inmiddels normgevend is. Dat is de situatie op dit moment, of we dat nou
leuk vinden of niet. Ik zeg er meteen bij dat ik niet op voorhand tegen een verdrag
ben, maar ik vind wel dat we dit binnen NAVO-verband moeten doen en niet als Nederland
alleen.

Mevrouw Belhaj (D66):

Dat biedt perspectief, want Nederland zit in de NAVO. Je kunt dus ook zeggen: wat
als Nederland in NAVO-verband via deze Minister de conferentie aangrijpt om daar wel
de lead in te nemen? Dan heb je die zekerheid ook en kom je uiteindelijk ook goed
terecht. Mijn vraag is dus of dat interessant is.

U zegt: de Chinezen zijn al verder. Normeren betekent ook dat je op je eigen manier
de situatie creëert waarin jij weer dominant kunt zijn. Je kunt het gevecht aangaan
met de Chinezen over welke normen zij hanteren en de wijze waarop, maar dat ga je
altijd verliezen. Je kunt het alleen winnen als je blijft bij je eigen normen en daar
zo veel mogelijk landen in organiseert. Wat vindt u van dat idee, vraag ik vrijblijvend
als D66'er.

De heer Boswijk (CDA):

Het is natuurlijk mooi als je een verdrag hebt. Dan ben je misschien normgevend op
papier, maar uiteindelijk kun je in de praktijk buitengewoon kwetsbaar zijn – denk
bijvoorbeeld aan China – als het een keer escaleert of uit de hand loopt. Dat is mijn
angst. Maar nogmaals, ik gooi de deur niet meteen dicht. Ik schets alleen het dilemma.
Ik zal verderop in mijn bijdrage laten zien dat je misschien wel onderscheid kunt
maken tussen bepaalde autonome systemen. Misschien heb je het dan niet over alle autonome
wapens, maar maak je daar toch een onderscheid in.

De heer Jasper van Dijk (SP):

Mag ik de heer Boswijk zo begrijpen dat hij zegt: autonome wapens zijn echt riskant;
daar zou je goede regels voor moeten maken? Maar er is nu het gevaar dat andere landen
dat aan hun laars lappen, dus hij is wat geduldig. Ik ben het toch wel zeer eens met
mevrouw Belhaj. Het is toch aan beschaafde landen, om het zo maar te zeggen, om een
norm te stellen en te zeggen: deze wapens vinden wij zo pervers dat wij afspraken
willen maken om die te verbieden? Dat hebben we gedaan met clusterwapens, landmijnen
en kernwapens. U wilt die verdragen toch ook niet opzeggen als iemand anders in de
wereld zegt: ik wil ze wel gebruiken?

De heer Boswijk (CDA):

Nee. Ik ga nu eigenlijk alvast verder met mijn bijdrage. Het beeld dat wij van autonome
wapens hebben, is dat van een soort halve terminator. Als jij die de grens over stuurt
en Rusland dat richting Oekraïne zou doen, dan hebben we daar allemaal een hele stevige
mening over. Maar ik vind het anders als ik bijvoorbeeld naar Israël kijk. Collega
Belhaj noemde net het voorbeeld van de zwerm drones. Zulk soort aanvallen kun je als
mens eigenlijk niet meer afslaan. Dan is het aantal doelen te groot, en de snelheid
ook. Dan heb je hulp nodig van autonome wapens om die drones, die grote hoeveelheid
drones, te kunnen onderscheppen. Wat betreft luchtverdediging op vaste plekken of
op schepen kan ik mij prima voorstellen dat je zegt: daar staan wij wel bepaalde typen
autonome wapens toe. Ik heb altijd een beetje een hekel aan het verschil tussen defensieve
en offensieve wapens, want het is maar hoe je ze inzet. Maar ik begrijp dat je van
wapens die je wat mobieler kan verrijden of verplaatsen, zegt: daar moeten we toch
andere afspraken over maken. Ik kan mij zomaar voorstellen dat je daar ook nog een
knip in kunt gaan maken.

De heer Jasper van Dijk (SP):

Maar begrijp ik u dan goed dat u zegt: ja, het zou heel goed zijn als afspraken op
papier worden gezet over het gebruik van deze wapens? Het Rode Kruis zegt bijvoorbeeld:
ze mogen nooit op menselijke doelen ingezet worden. Dat zou je ook als regel kunnen
stellen. Zouden we daar dan niet een poging toe moeten doen? Ik bedoel dat Nederland
met andere welwillende landen, zoals Brazilië, Mexico, België en Zwitserland, zegt:
wij willen graag het initiatief nemen om goede afspraken te maken over deze wapens,
die echt van deze tijd zijn.

De heer Boswijk (CDA):

Ik vind het goed dat we hier een debat over voeren, want het is echt een duidelijk
dilemma wat betreft pragmatisme en principes. Waar leg je de balans? Ik vind het goed
dat er een conferentie komt. Ik ben daar helemaal geen tegenstander van. Maar ik plaats
daar de volgende kanttekening bij. Niks ten nadele van bijvoorbeeld Zwitserland, maar
ik zie dat niet als een land dat op het wereldtoneel ... Het is sowieso geen NAVO-partner,
dus ik hecht daar iets minder waarde aan. Als wij een stap zetten, een definitieve
stap, of een handtekening onder een verdrag zetten, dan kan dat wat mij betreft alleen
in NAVO-verband. Wij gaan binnen de NAVO het gesprek voeren. Nogmaals, ik hou een
slag om de arm wat betreft met name defensieve autonome wapens. Ik vind het goed dat
we daar het gesprek over voeren, maar ik wil echt nog steeds mijn handen vrijhouden.
Ik vind dat we dit in NAVO-verband moeten doen. We moeten niet uiteindelijk zeggen:
we hebben een conferentie georganiseerd; de NAVO vond het niks, maar Nederland vindt
het geweldig.

De voorzitter:

Dank. U vervolgt uw betoog, meneer Boswijk.

De heer Boswijk (CDA):

Voorzitter. Regulering is nodig. Dat bepleiten AIV en CAVV. Waar Minister Kamp nog
terughoudend was, zal het kabinet zich in internationaal verband inspannen voor een
verbod en een concretisering van de regels die van toepassing zijn op het inzetten
van autonome wapensystemen. Nederland pakt daarin een actieve rol. Wij vinden het
goed dat we de dialoog voeren en dat het gesprek loopt, maar wij vinden het echt van
belang dat we dit binnen NAVO-verband doen en dat wij als Nederland niet opeens voorop
gaan lopen en de rest van de NAVO afhaakt.

Dat is mijn betoog, voorzitter. Mijn collega's hebben alles al gevraagd.

De voorzitter:

Hartstikke goed. Dank u wel. Dan ga ik kortstondig het voorzitterschap overdragen
aan collega Van Dijk, zodat ik mijn betoog kan afdraaien.

Voorzitter: Jasper van Dijk

De voorzitter:

Daarmee geef ik het woord aan de heer Valstar van de VVD.

De heer Valstar (VVD):

Dank, waarde voorzitter. Dank aan de collega's van D66, die dit debat hebben aangevraagd.
Het voelt tegelijkertijd wel wat surreëel om vandaag de dag te spreken over autonome
wapens, terwijl de nucleaire dreiging aan de oostgrens met de dag toeneemt. Over nucleaire
wapens heeft de wereld in het verleden geprobeerd afspraken te maken, die later overigens
met een pennenstreek van tafel werden geveegd door militaire grootmachten zoals de
VS en Rusland.

Laat ik mij vandaag beperken tot de autonome wapens. Wat de VVD betreft dient Nederland
het oorlogsrecht te volgen en waar nodig de ontwikkeling te stimuleren. Zo zijn semiautonome
wapens in sommige gevallen noodzakelijk voor effectieve verdediging van ons land.
Waar het om veiligheid van onszelf en onze bondgenoten gaat, dient reguleren en stimuleren
op een verstandige wijze te gebeuren. Zo zouden wij terughoudend moeten zijn met het
creëren van wet- en regelgeving die niet breed gedragen wordt door onze bondgenoten
en die niet op een verifieerbare wijze geldt voor mogelijke tegenstanders. Dit komt
ook overeen met hoe wij bijvoorbeeld aankijken tegen nucleaire ontwapening.

Voorzitter. Ik kom op de internationale samenwerking. Ik wil het kabinet vragen wat
er is gebeurd met de motie-Van Wijngaarden die wij eind vorig jaar aannamen. Ik zie
in de kabinetsreactie op het AIV-advies weinig terug van de gevraagde nauwe samenwerking
met de NAVO-partners. Ik wil weten hoe het kabinetsstandpunt zich verhoudt tot dat
van andere NAVO-landen. Ik wil ook de toezegging dat Nederland geen standpunten gaat
innemen in internationale gremia, met name rond de CCW, die niet breed gedragen zijn
binnen de NAVO. Dat is niet in de laatste plaats omdat de CCW nu vooral gaat om beperkte
categorieën van duidelijk te identificeren wapens, terwijl autonomie en kunstmatige
intelligente een veel breder gebruik hebben, ook dual-use. Graag een reactie van het
kabinet.

Daarnaast wil ik graag duidelijkheid over hoeveel licht er zit tussen enerzijds het
kabinetsstandpunt dat er voor een verbod vooral bestaande rechtsregels geconcretiseerd
moeten worden en anderzijds het standpunt van enkele ngo's en een coalitie van enkele
tientallen landen die zich al hebben uitgesproken voor een verbod. Bij die laatste
groep zitten overigens bar weinig NAVO- of EU-partners, dus ik wil van het kabinet
de toezegging dat het zich niet uitspreekt voor een verbod voordat er nader overleg
met de Kamer heeft plaatsgevonden en voordat duidelijk is welke wapensystemen of ontwikkelingen,
zoals verdediging tegen hypersone raketten en in de toekomst wellicht ook andere wapensystemen,
zoals verdediging van onderzee-infrastructuur via onderwaterdrones, onder een dergelijk
verbod zouden kunnen gaan vallen. Het kan niet zo zijn dat wij vanuit vermeende morele
superioriteit bepaalde wapens gaan verbieden en dan bijvoorbeeld wel van de Amerikanen
verwachten dat zij ons met die wapens tegen de Russen of Chinezen gaan beschermen.
Graag een reactie van het kabinet.

Tot slot, voorzitter. Ik wil het belang benadrukken van verificatie, want het heeft
weinig zin om onszelf allerlei beperkingen op te leggen als we niet weten of anderen
zich daar ook aan gaan houden. Daarom wil ik de toezegging van het kabinet dat de
regels verdergaan dan een verduidelijking van de bestaande regels ter voorkoming van
de ontwikkeling, gereedheid en inzet van wapens die naar hun aard niet kunnen voldoen
aan humanitair oorlogsrecht. Binnen de afspraken moet worden voorzien in verificatiemechanismes,
waar ook mogelijke tegenstanders zich aan onderwerpen. Graag een reactie van het kabinet.

Daarmee ben ik aan het einde gekomen van mijn betoog.

Mevrouw Belhaj (D66):

Voordat ik naar dit debat ging, dacht ik: honing, honing. Ik bedoel daarmee dat ik
niet zozeer mensen wil overtuigen, maar ze wel wil verleiden om een stap verder te
zetten. Ik begrijp de voorzichtigheid van zowel het CDA als de VVD. Ik snap dat ideologisch
gezien ook, maar bij de heer Valstar proef ik zo veel voorzichtigheid dat ik denk:
wil de VVD dit überhaupt wel? Laat ik het anders formuleren: is er, los van alle mitsen
en maren, wel de wens om iets te doen? Is die wens er überhaupt? Laat ik het zo formuleren.

De heer Valstar (VVD):

Dat zit ’m in de geschiedenis en in alle lessen die we uit de geschiedenis, ook de
recente geschiedenis, kunnen trekken. Ik heb het dan bijvoorbeeld over de nucleaire
wapenwedloop die momenteel aan de gang is. Ik vind dat we niet te naïef kunnen zijn
op dat vlak. Er zijn momenteel landen op de wereld die hun handtekening niet hebben
gezet onder de CCW. Een opvallend voorbeeld is China. Dat heeft wel zijn handtekening
eronder gezet, maar het heeft er ook bij gezet dat dat alleen geldt voor het gebruik
ervan. Ja, dank je de koekoek! Dan kunnen zij natuurlijk van alles gaan ontwerpen
en moeten wij het gebruik daarvan in de praktijk afwachten. Ik vind niet dat we zo
naïef kunnen zijn en dat we daarop vooruit kunnen gaan lopen.

Mevrouw Belhaj (D66):

Ik vind het altijd naïef als je niet uitgaat van de situatie die je zelf kunt creëren
om hele erge dingen te voorkomen. Clustermunitie is ook een prachtig voorbeeld. Daarover
zeggen we ook met elkaar: we gaan er gewoon voor; we gaan alles op alles zetten om
andere landen hiervan te overtuigen. We hebben uiteindelijk heel veel mogelijkheden
om landen te dwingen om zulke wapens niet te produceren of te gebruiken. Onze buitenlandwoordvoerders
doen niet anders dan allerlei instrumenten bespreken, zoals persoonlijke sancties,
bredere sancties en het niet sluiten of anders sluiten van handelsakkoorden. Je hebt
een veel groter instrumentarium om grote landen op hun knieën te brengen dan alleen
te zeggen: als zij zich er niet aan houden, doen wij het ook niet. Of heeft u er geen
vertrouwen in dat andere instrumenten ook heel functioneel kunnen zijn?

De heer Valstar (VVD):

Ik gaf net al aan dat ik vind dat we daar niet naïef in moeten zijn. Ik hoorde u net
zeggen dat we met elkaar hebben afgesproken dat we geen clustermunitie of nucleaire
wapens meer zullen produceren, maar volgens mij hebben we die nooit geproduceerd.
We produceren momenteel ook nog geen autonome wapens. Ik vind het prima als de NAVO
in gezamenlijkheid besluit om daar regels over af te spreken, maar dan moet ook de
NAVO bij zichzelf te rade gaan en zich afvragen of ze dat wil in de huidige tijdsgeest.
We kunnen als NAVO wel met elkaar besluiten om allerlei regels af te spreken over
autonome wapens, maar als we vervolgens links en rechts worden ingehaald door onze
vijanden, dan is dat niet de toekomst die ik wil meemaken.

Mevrouw Belhaj (D66):

Voorzitter, ik begrijp dat u wilt dat ik het voorzitterschap even overneem. Voor de
duidelijkheid: we hebben het over volledig autonome wapensystemen, want semiautonome
wapensystemen worden wel geproduceerd in Nederland en daar zijn we ook heel trots
op. Ik noem de Goalkeeper. Het gaat hier over volledig autonoom. Ik hoor de heer Valstar
«zeker» zeggen. Ik begrijp dat de heer Van Dijk het voorzitterschap aan mij wil overdragen
en ervan uitgaat dat hij dan ook het woord krijgt.

De voorzitter:

Ik wil inderdaad graag een vraag stellen, als u dat goedvindt.

Voorzitter: Belhaj

De heer Jasper van Dijk (SP):

Hoe kijkt de heer Valstar naar het oorlogsrecht en naar de twee adviescommissies die
zeggen dat volledig autonome wapens niet in overeenstemming zijn met het oorlogsrecht?
Volgens mij is de VVD ook een staatsrechtelijke partij, die aan dat soort zaken waarde
hecht. We zijn geen Rusland, we zijn geen Poetin en we zijn geen China. Hoe gaat u
zich onderscheiden?

De heer Valstar (VVD):

Als de heer Van Dijk goed naar mijn betoog had geluisterd, dan had hij een van mijn
eerste zinnen gehoord, namelijk dat de VVD van mening is dat Nederland het oorlogsrecht
dient te volgen. Maar tegelijkertijd moeten we ook de ontwikkelingen nauwgezet volgen.
We moeten niet naïever zijn dan landen als China en Rusland. Ik heb ook het voorbeeld
aangehaald van de nucleaire oorlog ... Nou, laat ik nog niet spreken van een nucleaire
oorlog. Maar de nucleaire dreiging neemt wel met de dag toe. Dus ja, het oorlogsrecht
is leidend, maar we moeten tegelijkertijd ook oog hebben voor de realiteit.

De heer Jasper van Dijk (SP):

Maar dat gaat natuurlijk niet samen. Als het oorlogsrecht leidend is in het debat
van vandaag, zou u moeten zeggen: volledig autonome wapens zouden verboden moeten
worden en daarover zouden we een verdrag moeten maken. Dan zou u ons moeten steunen.

De heer Valstar (VVD):

Ja, in een ideale wereld, waar er overal ter wereld vrede is en waar geen nucleaire
wapens, geen clustermunitie en geen autonome wapens zijn. Dat zou fantastisch zijn.
Waar kan ik mijn handtekening zetten? Maar dat is momenteel niet de wereld waarin
we leven.

De heer Jasper van Dijk (SP):

Ik zeg helemaal niet dat we in een ideale wereld leven. Dat komt ooit nog weleens.
Maar we hebben toch een verdrag over clusterwapens, over landmijnen en over kernwapens?
Er zijn inderdaad landen die zich daar niet altijd aan houden, maar waar staat de
VVD? Staat u voor het oorlogsrecht of zegt u: nee, dat hoeft niet, want andere landen
doen dat ook niet?

De voorzitter:

Tot slot, meneer Valstar.

De heer Valstar (VVD):

Ik sta zeker voor het oorlogsrecht. Ik begrijp niet zo goed wat ik nog een keer moet
herhalen uit mijn vorige betoog. De realiteit is momenteel anders. De nucleaire dreiging
neemt toe, dus de NAVO heeft niet de luxe om zich volledig terug te trekken in haar
schulp en hier eigenstandig afspraken over te maken, terwijl de rest van de wereld
ons links en rechts inhaalt.

De voorzitter:

Ik proef hoop. Ik geef het voorzitterschap terug aan de heer Valstar. Tenminste, als
hij klaar was met zijn betoog.

Voorzitter: Valstar

De voorzitter:

Dank. Daarmee komt een einde aan de eerste termijn van de zijde van de Tweede Kamer.
Ik kijk even naar mijn rechterzijde. Hoeveel tijd denken de bewindslieden nodig te
hebben? Of hebben zij geen tijd nodig en kunnen zij gelijk door?

Minister Hoekstra:

Bij voorkeur doen we altijd dat laatste, maar omdat er ook nog mensen naar beneden
moeten lopen, doe ik het verzoek om een kwartiertje te schorsen.

De voorzitter:

Ik gun u bij dezen een kwartier de tijd. We komen terug om 16.45 uur.

De vergadering wordt van 16.32 uur tot 16.44 uur geschorst.

De voorzitter:

Ik zou het woord aan de Minister van Buitenlandse Zaken willen geven voor de beantwoording
van het kabinet in eerste termijn.

Minister Hoekstra:

Voorzitter, veel dank. Het is staatsrechtelijk niet aan mij om mensen hier welkom
te heten, maar ik zou toch willen zeggen dat ik het bijzonder vind dat de heer Maduro
hier bij ons is, niet alleen omdat dat de sterke band tussen de verschillende onderdelen
van het Koninkrijk laat zien, maar ook omdat iedereen die de geschiedenis van Curaçao
en Nederland een beetje kent, en die ook de geschiedenis van het verzet kent, niet
anders kan dan deze naam met het grootst mogelijke respect uitspreken. Ik ben verguld
dat hij hier bij ons is.

Voorzitter. Ik wil de leden van de Kamer – dat doe ik ten volle ook mede namens de
Minister van Defensie – bedanken voor de gelegenheid om juist over dit onderwerp van
gedachten te wisselen. Ik realiseer me zeer dat er allerlei onderwerpen zijn die zich
politiek nog meer lenen voor de actualiteit, voor de korte termijn en voor andere
dingen die in de politiek nou eenmaal van belang zijn. Maar dit gaat niet over een
kleinigheid. Dit gaat over een groot en potentieel zeer ontwrichtend onderwerp dat
nog heel erg lang bij ons zal blijven, is mijn inschatting. Dat rechtvaardigt de aandacht
vanuit de Kamer en het kabinet. Het is ook vergeven van dilemma's; volgens mij zeiden
vrijwel alle woordvoerders dat ook. Ik ga de vragen uiteraard beantwoorden, maar ik
zal bij een aantal onderwerpen ook gewoon aangeven dat het een dilemma is waaraan
we in de toekomst nog werk zullen hebben. Ik zal me met name op het internationaalpolitieke
richten. De Minister van Defensie zal zich vanzelfsprekend vooral richten op wat bij
haar portefeuille hoort. We denken dat we daarmee het hele veld kaal kunnen grazen.
Lukt dat niet, dan doen we dat alsnog in tweede termijn.

Voorzitter. Ik begin met het namens het kabinet uitspreken van een dilemma. Dat dilemma
is ook onderkend en ligt eigenlijk ten grondslag aan deze discussie, namelijk: wat
waar is voor technologie, is nog veel meer waar voor dit type technologie in het militaire
domein. Ik ben nog steeds een beetje onder de indruk van wat ik bij de Radboud Universiteit
eerder deze week allemaal heb gehoord over artificial intelligence in het militaire
domein. Ja, de technologie biedt ons, de mensheid, enorme mogelijkheden, maar van
oudsher horen bij vernieuwing en technologische mogelijkheden ook altijd risico's.
Net als bij eerdere dossiers op het gebied van wapens gelden die risico's en potentiële
ontwrichting hier ook. Ik moet er wel aan toevoegen dat er nog heel veel onduidelijk
is, ook voor de experts. Er kwamen een aantal voorbeelden langs, bijvoorbeeld van
onderwaterdrones. Gevraagd werd hoe dit er in de toekomst uit zal zien. Ik zou de
volgende stelling wel aandurven: meer nog dan op sommige van die eerdere dossiers,
zoals het nucleaire dossier, is het op dit moment best moeilijk te voorspellen hoe
dit precies gaat eindigen en welke varianten we hierbij allemaal te zien krijgen.
Dat is dus een enorm dilemma.

Een volgende vraag van een deel van de leden was wat je dan moet doen. Moet je dan
helemaal kiezen voor de kant van het verbod? Of moet je alles maar op zijn beloop
laten omdat je er toch geen invloed op hebt? Volgens mij zou het en-en moeten zijn.
Het moet realistisch zijn over de wereld waarin wij leven. We moeten accepteren dat
de wereld niet is zoals we zouden willen dat die is. We moeten dus accepteren dat
de wereld is zoals we die aantreffen. De wereld is een onveilige plaats. Er wordt
gedreigd, ook met de meest afschrikwekkende wapens, en een heleboel landen op de wereld
zien er geen been in om ook hierin een verdere voorsprong te nemen. Reken maar dat
ze dan de bereidheid zullen hebben om daar in ieder geval mee te dreigen en mogelijk
ook om dat in te zetten. Daar moet je gewoon realistisch over zijn. Dat bepaalt ook
in belangrijke mate de koers van het kabinet. Ik kom zo meteen nog terug op een aantal
specifieke vragen.

De andere kant is ook waar. Als je dit ziet als een potentieel belangrijke bedreiging,
als iets wat heel ontwrichtend is, dan ben je het ook aan je stand verplicht om daar
werk van te maken. Vervolgens is natuurlijk de vraag hoe je dat op een effectieve
manier doet. Dat was ook een volgende vraag van een aantal leden. Het kabinet is van
mening dat dat met afstand het meest effectief kan met gelijkgezinde landen, juist
in VN/CCW-verband. Waarom? Omdat, hoe moeilijk ook, dat uiteindelijk toch de plek
is waar je het eens zou moeten worden. Je kan daar een theologische discussie over
voeren. Ben je voor of tegen een verbod? Je zou graag willen dat hier uiteindelijk
regulering op plaatsvindt en dat er een verbod is op totaal autonome wapens die ingaan
tegen het internationaal recht. Daarbij moet je overigens wel aantekenen – daar moet
je ook reëel in zijn – dat dat alleen maar zin heeft als vrijwel alles en iedereen
op de wereld dat wil onderschrijven en als je dat bovendien niet alleen op de tekentafel
hebt gerealiseerd, maar het ook in de praktijk verifieerbaar en nakoombaar is. Dat
ben ik met sommige van de woordvoerders eens. Dat wordt natuurlijk snel ingewikkeld.
Dat betekent dat je een heel palet aan uitdagingen hebt. Maar ik ben het wel zeer
eens met degenen die zeiden – dat zei volgens mij bijna iedereen – dat het feit dat
het moeilijk is, je niet van de plicht ontslaat om ermee te beginnen en om het wel
degelijk te proberen. Daar ben ik het zeer mee eens.

Mevrouw Belhaj (D66):

Ik voer niet vaak een debat met Minister Hoekstra, dus ik merk dat ik heel erg moet
opletten op wat de Minister zegt. Ik was in de veronderstelling – misschien kan hij
dat bevestigen – dat het kabinet zich gaat inspannen voor een verbod op volledig autonome
wapens en voor een concretisering van de regels voor de inzet van gedeeltelijk autonome
wapens. Dat is natuurlijk wat anders dan de vraag over het hoe en over wat het meest
effectief is. De Minister verandert hier toch niet het standpunt van het kabinet?

Minister Hoekstra:

Nee. Overigens hebben ook de leden die vaak met mij in gesprek zijn, dat gevoel. Laat
hierover dus geen enkel misverstand bestaan. Dat is vanzelfsprekend niet zo, maar
ik vind wel dat we alle onderdelen van het dilemma in alle eerlijkheid moeten benoemen.
Dat moet u mij vergeven. Tegen degenen die zich zien als de realistische school zeg
ik: ik ga toch aan de andere kant hangen; het is wel degelijk nodig om te proberen
om hier voortgang op te maken. En aan degenen die zeggen «laten we alsjeblieft voor
een verbod gaan, ook al is het met een klein gremium», zal ik uitleggen waarom ik
denk dat dat niet effectief is. Ik wil het hele palet aan dilemma's schetsen. Waarom?
Omdat het niet goed voorstelbaar is dat je tot overeenstemming komt in de VN als een
aantal lidstaten daar niet aan mee wil doen of als je geen afspraken maakt over hoe
je het in de praktijk gaat controleren.

Mevrouw Belhaj (D66):

Ik ben altijd gevoelig voor dilemma's, maar op een gegeven moment moet je uit je twijfelmodus
komen, omdat de urgentie al jarenlang evident is. De Minister zegt: wat is effectief?
De CCW heeft aangetoond niet effectief te kunnen zijn. Op een gegeven moment moet
je het afwegen. Stel dat je nog niks had geprobeerd. Dan had ik de Minister helemaal
gelijk gegeven en gezegd: «Bewandel die route. Dat is heel logisch. Probeer eruit
te komen.» Maar we zijn inmiddels jaren verder en het gaat gewoon door, dus waar baseert
de Minister zijn uitspraak op dat we nog op zoek moeten naar een effectieve manier?
Deze manier is niet effectief gebleken. Als je zegt dat je je ervoor gaat inzetten
– dat is iets anders dan proberen, want proberen is eigenlijk niks – dan is het toch
een logische route om dat samen met de NAVO-landen te doen en om daar als Nederland
in voorop te lopen? Daarom deed ik een persoonlijk appel aan u. Dat kunt u toch gewoon
doen?

Minister Hoekstra:

Er zijn een paar nuances. Je probeert nooit iets zonder inspanning, dus Nederland
spant zich daar vanzelfsprekend voor in. Ik ben het er ook helemaal mee eens dat dit
geen makkelijke wedstrijd is. Het is niet makkelijk om dit binnen VN-verband voor
elkaar te krijgen, maar ik ben het zeer eens met iedereen die zegt: dit is potentieel
zo ontwrichtend dat je het toch moet proberen. Het kabinet, de Minister van Defensie
en ik in het bijzonder, heeft de verplichting om dat te proberen. Maar ik wil ook
realistisch zijn over wat wij op dit moment aan respons hebben gekregen. Het klinkt
misschien paradoxaal, maar het zou kunnen dat de verschrikkingen van de afgelopen
maanden een impuls geven aan de internationale gemeenschap om wél dit type gesprek
aan te gaan. We zien nu allemaal dat veel van de dreigingen uit het verleden niet
meer tot het verleden behoren.

De voorzitter:

Een laatste interruptie op dit punt van mevrouw Belhaj.

Mevrouw Belhaj (D66):

Ik zie dit niet echt als een interruptie, want ik vroeg: loop nou voorop binnen NAVO-verband.
U heeft het over de VN, maar ik heb het over de NAVO. Dat is een beetje de consensus
in deze Kamer. Daar kan iedereen zich in vinden. Vooroplopen betekent: een conferentie
organiseren, landen verleiden, proberen om een of twee landen in je kamp te krijgen
en wheelen en dealen op andere onderdelen. Dat hoor ik niet, maar dat is wel mijn
vraag. Wilt u alstublieft binnen NAVO-verband actiegericht te werk gaan om te proberen
om die landen te overtuigen?

Minister Hoekstra:

Maar het onderscheid is, als ik heel eerlijk ben, bijna theoretisch, omdat het in
belangrijke mate om dezelfde landen gaat. Want met wie trekken we in de VN het meeste
op? Met Frankrijk, met Duitsland, met Spanje, en ik meen met Finland. En dat probleem
is, als het om de NAVO gaat, binnenkort hopelijk ook opgelost. Ik ben het hierover
graag eens met mevrouw Belhaj. Als er een misverstand is over de behoefte van het
kabinet om zich hiervoor in te spannen, dan zou ik dat misverstand echt willen wegnemen.
Ik, het ministerie, de Minister van Defensie, wij allemaal zijn zeer, zeer doordrongen
van de noodzaak om hier wat aan te doen, hoewel het zeer ingewikkeld is. Dat bleek
ook deze week weer, maar ook toen we er in de afgelopen weken en maanden met elkaar
over hebben gesproken. Ik vind het echter ook mijn taak om hier in de Kamer te schetsen
wat ik denk dat realistisch is. Ik kom zo meteen nog op die conferentie, maar luisterend
naar de Kamer dacht ik bijna dat het idee zou bestaan dat Nederland het op die conferentie
in februari wel half zal hebben opgelost. We gaan niet een heel klein beetje, niet
een ietsiepietsie daarbij in de buurt komen. Dat is de realiteit. Ik vind het ook
mijn taak om dat te schetsen, hoezeer ik het ook eens ben met de grondhouding van
mevrouw Belhaj.

De heer Jasper van Dijk (SP):

Ik probeer wel te begrijpen welke inspanning de Minister precies gaat leveren. Hij
zegt: proberen is inspannen. Daar ben ik het mee eens. Waar kunnen we de Minister
op afrekenen? Dat is eigenlijk mijn vraag. Gaat hij binnen of buiten die CCW een poging
doen om tot afspraken te komen? Op welke termijn kunnen we iets van hem horen?

Minister Hoekstra:

Ik vind het een levensgevaarlijke vraag. Dat is ook echt aan de heer Van Dijk, want
daar heeft hij mijn inschatting niet voor nodig. We hebben natuurlijk niet voor niks
gezegd: laten we een conferentie organiseren over AI in the military, kunstmatige
intelligentie in het militaire domein. Dat leefde al breder in het ministerie voordat
ik begon, is mijn sterke indruk. Waarom? Het is niet exact hetzelfde als dit, maar
het heeft heel veel met elkaar te maken. Er is een belangrijke overlap. Natuurlijk
hebben we ook het gesprek met elkaar gehad over de vraag of mensen hier überhaupt
nog in geïnteresseerd zijn, gegeven de oorlog in Oekraïne. Onze gedachte is dat we
dit onderwerp, juist nu we ons weer bewust zijn van de verschrikkingen van oorlog
en ook van nucleaire dreigementen, wel bij de hoorns moeten pakken. Daarom gaan we
die conferentie organiseren. Daarom ga ik ook door met dit thema. Ook als ik het niet
zou beloven, gaat de Kamer mij er ongetwijfeld bij herhaling op bevragen. Zo ken ik
de Kamer ook. Ik zal het ook onderdeel maken van veel van de gesprekken die ik voer,
én – niet «maar» – ik wil realistisch zijn over het enthousiasme, of het gebrek daaraan,
bij veel gesprekspartners.

De voorzitter:

Een verzoek om geen levensgevaarlijke vragen meer te stellen, want dan ...

De heer Jasper van Dijk (SP):

Als de Minister nou toezegt dat hij zich hard gaat maken voor zo'n mooi verdrag, ga
ik geen gevaarlijke vragen meer stellen. Het is mij niet helemaal duidelijk of dit
hieruit blijkt. Ik zit er echt even op te broeden: moeten we hier een motie over indienen,
of kan de Minister mij geruststellen en zeggen dat hij zich echt tot het uiterste
gaat inspannen om tot goede afspraken te komen?

Minister Hoekstra:

Moties zijn überhaupt zelden nodig, maar helemaal niet om de Minister van Defensie
en mij nog tot meer enthousiasme aan te sporen. Maar dat is aan de heer Van Dijk.
Laat ik echt één ding zeggen: ik zei net niet toevallig dat wij het belangrijk vinden
dat wij dit debat hebben. Hoeveel internationale conferenties organiseer je in een
jaar? Dit jaar doen we er één, en ik denk dat we er volgend jaar ook één doen. Die
doen we over dit onderwerp. Die doen we over dit onderwerp, omdat we ons daar grote
zorgen over maken, omdat het onder de radar zit, maar potentieel heel grote gevolgen
heeft voor de vrede en veiligheid in de wereld, en omdat we daar als Nederland ook
een leidende rol in willen spelen. Anders organiseer je het niet, of organiseer je
het over wat anders. Dus ik hoop ook echt dat daar het commitment van het kabinet
uit spreekt. We zullen dat uiteraard in bilaterale gesprekken en andere gremia onder
de aandacht blijven brengen.

De voorzitter:

De Minister vervolgt zijn betoog.

Minister Hoekstra:

Voorzitter, ik heb wel de interrupties gebruikt om nog een aantal andere vragen te
beantwoorden. De vraag van de heer Boswijk en de heer Valstar over de NAVO en die
groep landen heb ik net beantwoord. Ik had daar overigens nog Noorwegen, Zweden en
Italië aan moeten toevoegen, zie ik hier. Dat sluit ook weer aan bij het betoog van
mevrouw Belhaj over de overlap tussen NAVO en VN.

Hoe kijken we dan naar zo'n verbod en naar regulering? Ik zei net al dat het dan gaat
om volledig autonome wapens die ook in strijd zijn met het internationale recht. Zoals
ik het begrijp, gaat het ook om systemen waar geen menselijk oordeelsvermogen meer
aan te pas komt. Daarom heb je hier ook experts bij nodig. Er zijn heel veel discussies
tussen experts over de vraag op welk moment in de keten dat er zou moeten zijn. Bij
welke casuïstiek moet het aan de voorkant, waar moet het vlak voor een echte gevechtshandeling,
waar moet het beide? Ik zou van die casuïstiek weg willen blijven, maar ik vind wel
dat we dit gesprek echt met meer experts, ethici en anderen, te voeren hebben. Er
is nog heel veel wat we niet precies weten. Dit is in veel opzichten gewoon terra
incognita.

Voorzitter. De heer Van Dijk zei nog dat een mens nooit het doelwit mag zijn. Volgens
mij ligt het net anders. We moeten ook hier aansluiten bij het oorlogsrecht. Daarin
is specifiek het onderscheid tussen combattanten en niet-combattanten geregeld. Het
gaat ook over proportionaliteit. Ik vind dat we daarbij moeten aansluiten. Dat lijkt
mij de meest logische weg.

De heer Boswijk onderschreef nog het grote belang van in breder verband optrekken.
Ik hoop dat ik voldoende aannemelijk heb gemaakt dat dit ook precies is wat we willen
doen. Ik ben het ook zeer eens met de nadruk die hij en de heer Valstar legden bij
de noodzaak om je te verdedigen. Analogieën gaan altijd mank. Maar neem toch even
het nucleaire domein. Het kabinet is zeer voorstander van een kernwapenvrije wereld.
Maar stel nou eens dat de NAVO geen kernwapens had gehad en andere partijen wel. Had
dat dan geleid tot militaire chantage? Ja, ik denk dat we allemaal bijna zeker weten
wat daarop het antwoord was geweest. Die kant zit er dus ook aan.

De heer Valstar vroeg nog hoe het kabinet kijkt naar de stellingname van ngo's. Wij
waarderen zeer de waardevolle bijdrage van PAX, het Rode Kruis en anderen. We willen
uiteindelijk ook hetzelfde doel bereiken. Ik heb net al iets gezegd over een verbod,
maar dat geldt ook voor afspraken en regulering. Wij kiezen wel een andere weg, want
wij kiezen nadrukkelijk voor de weg via CCW en VN, om de redenen die ik net uiteen
heb gezet.

Ben ik het met mevrouw Belhaj eens dat de oorlog de nood voor actie alleen maar urgenter
maakt? Ja, daar ben ik het zeer mee eens. Nu gaat het er weer heel nadrukkelijk over.
We zien nu hoe verschrikkelijk een oorlog is. Ik kijk even de tafel rond: zeker onze
generatie zou dat bijna vergeten. Maar dat is wat je hoort van mensen die het wel
hebben meegemaakt, of het nou civilisten of militairen zijn. Zij weten altijd weer
uit te leggen hoe verschrikkelijk het is voor degenen die het meemaken. Ik heb er
natuurlijk geen enkele garantie voor, maar ik zou hopen dat het inspireert tot afspraken.
Het motiveert ons in ieder geval om dat te doen.

Dan een vraag van mevrouw Belhaj en de heer Van Dijk: hoe kan je dit nou wel of niet
vervlechten in de conferentie? Het zijn namelijk dingen die erg op elkaar lijken en
tegelijkertijd voor een deel ook weer anders zijn. Er werd mij nog even ingefluisterd
dat hier ook op andere plekken al over geconfereerd wordt. Laat ik het als volgt formuleren.
Ik heb een positieve grondhouding, maar ik wil even kijken naar het hoe, ook omdat
zo'n conferentie, zeker als we die uiteindelijk voor politici zouden gaan organiseren,
meestal maar een dag is. Ik wil er dus nog even naar kijken hoe we er precies vorm
aan zullen geven, wat wel en niet kan en hoe je het op een verstandige manier doet.
Ik snap heel goed dat er een link gelegd wordt. Ik zal ook zorgen dat de Kamer bijtijds
geïnformeerd wordt over die conferentie, over wat we van plan zijn, over hoe we dat
willen aanpakken en over wat we hopen te bereiken. Ik zeg het nogmaals: overigens
zonder enigszins de illusie te hebben dat die conferentie alleen een doorbraak zal
zijn. Het is wel een nadrukkelijk signaal van Nederland dat wij dit belangrijk vinden
en het op de agenda willen houden. Hopelijk kunnen we er een paar vervolgstappen over
afspreken.

Mevrouw Belhaj (D66):

Een kleine praktische vraag, voorzitter.

De voorzitter:

Een praktische vraag van mevrouw Belhaj.

Mevrouw Belhaj (D66):

Een toezegging of belofte aan de Kamer wordt niet opgeschreven als er geen datum aan
verbonden is. Ik heb het niet verzonnen, maar het is wel zo. Ik kan zeggen dat ik
u gewoon op uw woord geloof, maar als u een willekeurige datum roept, vergeten we
het niet. Ik kan me dat overigens niet voorstellen, maar toch.

De voorzitter:

De Minister kan allicht de datum van de conferentie noemen.

Minister Hoekstra:

Ja, zeker. De conferentie is medio februari. Het is de dag voor de Münchner Sicherheitskonferenz.
Dat betekent dat het mij redelijk lijkt dat ik bij wijze van spreken zes weken van
tevoren nog een keer aan de Kamer laat weten hoe en wat. Dan heeft men ook nog gelegenheid
mij daarover te tuchtigen, zou dat niet bevallen.

De voorzitter:

Wij gaan hier een mooie toezegging uit extraheren.

Minister Hoekstra:

Ik moet wel wennen aan dat mooie goudgerande zinnetje van mevrouw Belhaj over dat
D66 nooit iemand iets zou willen opleggen, want tot nu toe voelt het toch anders.
Minister Ollongren en ik zijn het merkwaardig vaak eens, maar zouden we het ooit nog
oneens geraken, dan ga ik dat zinnetje onmiddellijk van stal halen.

De voorzitter:

De ervaring van de heer Boswijk en ondergetekende is soms anders. Vervolgt u uw betoog.

Minister Hoekstra:

Ik heb een heleboel vragen behandeld. We waren gebleven bij het gebruiken van de conferentie.
Het punt over een zelfstandig verbodsverdrag hebben we denk ik voldoende besproken,
ook gegeven de risico's. De vraag van de heer Boswijk over de NAVO hebben we beantwoord.

Voorzitter. Dan ben ik, denk ik, een heel eind. Ik kijk nog even wat ik hier heb.
Misschien nog het volgende. Ik heb mevrouw Belhaj zo begrepen dat zij nu vast nog
breder wil horen waar die conferentie over gaat. Daar gaat het thans over de bredere
risico's en kansen van AI op het militaire terrein. Ook hier ligt weer een kans, maar
er zijn ook grote risico's. Die dialoog kan bouwstenen opleveren. Ik zorg dat uiterlijk
zes weken van tevoren duidelijkheid is over wat we precies op die conferentie gaan
bespreken.

De voorzitter:

Dank. Ik begrijp dat u nog meer heeft?

Minister Hoekstra:

Ik ben er volgens mij doorheen, voorzitter. Dank u wel.

De voorzitter:

Uitstekend. Dan geef ik het woord aan de Minister van Defensie.

Minister Ollongren:

Dank u wel, voorzitter. Ook ik wil graag de Kamer en de commissie bedanken voor het
agenderen van dit belangrijke onderwerp. Ik denk dat het heel goed is dat we, zoals
collega Hoekstra net zei, daarbij stilstaan. Juist ook in de hectiek van het hier
en nu, de geopolitieke ontwikkelingen en de machtsverhoudingen die zo aan het veranderen
zijn. Die hebben ons zo met de neus op de feiten gedrukt dat we ook onszelf daaraan
moeten aanpassen. Nederland en Europa moeten zich echt toerusten op die nieuwe werkelijkheid.

Ik vind het ook mooi, als ik dat mag zeggen, dat mevrouw Belhaj haar oude portefeuille
heeft opgepakt, of beter gezegd: die heeft ze denk ik nooit losgelaten. De rest van
de portefeuille is, geloof ik, naar een collega gegaan, maar ze is in ons midden omdat
het haar aan het hart gaat. Dat weten we, omdat ze ook een initiatiefnota hierover
had ingediend, waarover inderdaad al in de demissionaire periode, meen ik, met mijn
voorganger is gesproken.

Waardering dus voor alle aanwezigen en ook niet-aanwezigen, want de heer Van Dijk
heeft zijn inbreng ook namens de Partij van de Arbeid gehouden. Ik heb echt niets
kunnen ontwaren in zijn inbreng wat een enorme afzwakking was ten opzichte van hoe
ik hem normaal gesproken hoor. Blijkbaar zitten de SP en de Partij van de Arbeid op
dit punt dus redelijk op één lijn. Ik dacht even dat het slechts het pacifistisch
deel van de Partij van de Arbeid was, maar volgens mij is dat goed gelukt.

Voorzitter. Ik zei al dat het een belangrijk onderwerp is. Ik ga dingen zeggen die
u ook hebt gezegd. Ik wil toch even gemarkeerd hebben dat we zien dat de overzichtelijkheid
van de marine, de luchtmacht en de landmacht niet meer bestaat. Dat zien we ook in
de oorlog die nu gaande is en in alle dreigingen die we in de wereld op ons af zien
komen. Die oorlog is ook hybride. Die wordt ook in het cyberdomein gevoerd en speelt
zich ook af in de ruimte. We hebben al langer te maken met desinformatie. De wijze
van ontwikkeling van conflicten en ook van oorlog is gewoon anders. Wetenschap en
technologie kunnen steeds meer het verschil maken, ook tussen winnen en verliezen.

Bovendien schrijden de wetenschap, de techniek en de wetenschappelijke en technologische
inzichten ook voort. Dat gebeurt gewoon, of wij het willen of niet. We moeten dus
heel goed weten wat de ontwikkelingen zijn en wat andere landen, statelijke actoren,
daarmee kunnen doen. Het gaat dan met name om de landen die wij assertief noemen en
die zich soms agressief ontpoppen. Daartegen moeten we ons tenslotte verdedigen. We
moeten dus heel goed weten wat er gebeurt. Een van de investeringen die het Ministerie
van Defensie gaat doen, is de volgende. We innoveren en investeren op het gebied van
technologische kennis en zorgen dat wij ook als technologisch hoogwaardige organisatie
die kennis in huis hebben, zodat we kunnen inspelen op die ontwikkelingen. Als je
niet weet wat er gebeurt, dan kun je er ook niet op inspelen. Ik loop even een aantal
punten langs.

De heer Van Dijk had het over de langeafstandsoorlog. Hij noemde een aantal wapensystemen
die helemaal niet in het autonome veld vallen, zoals de F-16 en de Reaper. Dat zijn
geen autonome en ook geen semiautonome systemen; ze worden gewoon door de mens bestuurd,
in het geval van de Reaper op afstand. Hij noemde het als een risico, omdat het dan
makkelijker zou zijn om oorlog te voeren. Ik wil dit één keer zeggen: we hebben natuurlijk
geen andere ethische of juridische kaders voor langeafstandsoorlogvoering. Dat valt
onder precies dezelfde ethische en juridische kaders en waarborgen. Dat is echt niet
anders dan de systemen die een wat kortere dracht en een wat directere impact hebben.
Het is natuurlijk wel een goed voorbeeld van het volgende. Als zo'n systeem wordt
ingezet, gaat dat met een hele hoge snelheid. De verdediging daartegen kan eigenlijk
alleen maar semiautonoom, want het gaat sneller dan een mens kan handelen. Dat wilde
ik nog zeggen in reactie op de opmerking van de heer Van Dijk.

Er was net een discussie tussen de woordvoerders over voor- en nadelen. Het moet altijd
binnen de kaders van het internationaal recht – ik sluit wat dat betreft aan bij uw
collega – maar daarbinnen moeten we heel goed kijken wat tegenstanders aan het doen
zijn zodat we hen vóór kunnen zijn, zowel qua kennis als qua systemen. Daar hebben
we dan inderdaad soms gedeeltelijk autonome systemen voor nodig, nu al. Tegen bijvoorbeeld
die hypersone raketten kun je je alleen op die manier verdedigen. Ik denk ook dat
nieuwe technologieën in robotica, sensoren, kwantumtechnologie en artificial intelligence
ook een bepaald deel van wat je militair moet doen, veiliger en ook wel makkelijker
maken. Inderdaad kan artificial intelligence soms ook helpen door het letterlijk beter
en veiliger te maken, omdat je preciezer kunt worden. Tegelijkertijd brengt het ook
gewoon risico's met zich mee. Dat moeten we ook onder ogen zien. Er zijn disruptieve
technologieën. Er zijn autonome wapensystemen denkbaar – ze zijn er misschien nog
niet maar ze zijn heel goed denkbaar – die grote risico's met zich meebrengen, bijvoorbeeld
omdat systemen ook kunnen worden gehackt en dus toch iets anders gaan doen dan misschien
de bedoeling was of omdat ze technisch kunnen falen. In theorie kun je inderdaad uitdenken
dat systemen zelfdenkend worden en niet meer onder controle van de mens staan, en
daarmee zelf kunnen gaan beslissen over het te kiezen doel en dan ook de keuze maken
of het doel wel of niet moet worden aangevallen. Dan heb je het echt over autonome
systemen. Technologisch is dat er nog niet op die manier, maar we weten wel dat eraan
wordt gewerkt en dat het kan. Dat is die kennisontwikkeling, waarin we echt goed moeten
meegaan. Dit soort risico's en dit soort zorgen moeten we goed in kaart brengen. We
zien die urgentie. Daarom hebben we in de kabinetsreactie ook gemarkeerd dat wij vinden
dat er een betekenisvolle menselijke controle moet zijn. Dat is het uitgangspunt van
het kabinetsstandpunt.

De voorzitter:

Er is een interruptie van de heer Van Dijk namens de Socialistische Partij.

De heer Jasper van Dijk (SP):

Daar ben ik het dus volledig mee eens. Is dat voor de Minister een aanmoediging of
een aansporing om te zeggen dat er afspraken moeten worden gemaakt over dat soort
wapensystemen en dat we volledige autonome wapens niet moeten accepteren, omdat ze
in strijd zijn met het oorlogsrecht?

De voorzitter:

Ik meen dat die vraag ook aan de Minister van Buitenlandse Zaken is gesteld, maar
ik geef u nog één kans om de vraag aan de Minister van Defensie te stellen. Zij gaat
er heel kort op antwoorden.

Minister Ollongren:

Heel spontaan wilde ik inderdaad reageren, maar volgens mij heeft collega Hoekstra
die vraag zonet beantwoord. Daar sluit ik me volledig bij aan.

De voorzitter:

Dat is duidelijk. De heer Van Dijk, tot slot.

De heer Jasper van Dijk (SP):

Mijn vervolgvraag is of de Minister het advies van de AIRCW kent. Die commissie zegt
dat autonome wapens geen onderscheid kunnen maken tussen burgers en militairen of
tussen militairen en uitgeschakelde militairen. Is dat niet ook een reden om hier
goede regels voor te maken?

Minister Ollongren:

Dat is een eigen commissie van Defensie, die heel goed naar dat soort dingen kijkt.
Zij heeft inderdaad ook een aantal te onderscheiden systemen geschetst en heeft ook
de risico's bij die systemen geschetst. Ik wil wel zeggen dat Nederland eigenlijk
geen systemen of wapens heeft die vallen onder de definitie «autonome systemen». Een
definitie is altijd lastig. Dat is ook een van de internationale discussies: welke
definitie moet je nu hanteren? Maar autonome, zelfdenkende systemen gaan veel verder
dan systemen die wel automatisch zijn en waarover we wel beschikken. De Goalkeeper
is zo'n systeem. De Patriot is een verdedigend systeem dat snel moet kunnen reageren.
Maar daar is altijd menselijke controle over, ook bij de Goalkeeper. Je bepaalt waar
je hem op richt, je bepaalt of hij automatisch mag reageren en je kunt hem ook weer
stoppen. Onze eigen commissie waarschuwt daar ook voor. Welke spanningen kunnen er
ontstaan? Aan welke keuzes moet altijd een menselijke handeling te pas komen? Nogmaals,
we hebben dat soort systemen niet, maar die vragen kunnen wel aan de orde zijn bij
deze systemen. We moeten dat goed in beeld hebben, samen met die commissie, de AIV
en andere deskundigen.

De voorzitter:

De Minister vervolgt haar betoog.

Minister Ollongren:

Ja. Ik denk dat collega Hoekstra al voldoende heeft gezegd over het Volkskrantstuk.

Dan ga ik naar een aantal vragen, waarvan de meeste zijn gesteld door de heer Boswijk
en mevrouw Belhaj, over de afweging tussen pragmatisme en principes. In de adviezen
die we hebben, bijvoorbeeld van de AIV, staat dat we moeten investeren in kennis en
in het reguleren; op dat punt verwijs ik naar het antwoord van de heer Hoekstra. Om
het werkbaar te laten zijn voor Defensie en voor de bondgenoten en partners waarmee
we samenwerken, is duidelijk dat het oorlogsrecht de grens is. Het moet dan een zo
breed mogelijk gedragen verbod zijn. Dan wordt het natuurlijk werkbaar. Dat is dus
een van de belangrijke doelen die we moeten hebben: dat daar veel landen bij aangesloten
zijn. Ook moeten we duidelijkheid hebben dat bepaalde wapensystemen waarover we nu
al beschikken, niet onder die definitie kunnen vallen. Ik noemde de Patriot al, omdat
ik denk dat u het met me eens bent dat dat een belangrijk verdedigend systeem is dat
we moeten kunnen blijven inzetten. Daar moeten we dus goed naar blijven kijken. Er
wordt natuurlijk ook heel veel onderzoek naar gedaan. Er zit misschien ook nog een
grijs gebied tussen civiel en militair. Dat hebben we in beeld en daar wordt door
deskundige mensen en instellingen goed naar gekeken.

Mevrouw Belhaj vroeg naar de menselijke controle. Daar heb ik eigenlijk al op geantwoord.
Iets dieper gaat de vraag wanneer er dan eigenlijk menselijke controle is in de toepassing
van de systemen. Ik denk dat je daar al bij de ontwikkeling rekening mee moet houden.
In de fase van R&D, dus voor de aankoop van een systeem, moet menselijke controle
al het uitgangspunt zijn. Bij de aanschaf van een nieuw wapensysteem moet dat ook
getoetst worden aan het internationaal recht. Daarna zou het pas kunnen worden goedgekeurd
voor inzet door de krijgsmacht. Je moet natuurlijk ook je eigen mensen daar goed in
meenemen. Training en opleiding van militairen bij het gebruik van dat soort systemen
is dus een belangrijk element.

De voorzitter:

Ik hoor aan mijn linkerzijde dat er een interruptie is van mevrouw Belhaj.

Mevrouw Belhaj (D66):

Ik ben vergeten om iets in de eerste termijn te vragen en zie nu een bruggetje om
die vraag alsnog te stellen. In de tussentijd, waarin er nog veel onduidelijkheid
is, gebeurt er natuurlijk een hoop. Mijn vraag is of het mogelijk is om de controlerende
taak van de Kamer goed te waarborgen. Is het mogelijk om bij artikel 100-procedures
apart aandacht te besteden aan het gebruik of niet-gebruik van autonome wapensystemen
bij militaire missies? Het kan ook zijn dat we in een gezamenlijke missie zitten waarin
we zelf nog niets doen, maar de ander wel. Het lijkt me goed dat we dat opnemen, zodat
het inzichtelijk is. Daarmee ben je transparant, maar je voorkomt ook dat er later
discussie over komt. Ik zie nu al aankomen dat als het misgaat, de Kamer zal zeggen:
waarom wisten we het niet? Is het mogelijk dat hiernaar gekeken wordt?

De voorzitter:

Mag ik, alvorens de Minister deze vraag beantwoordt, de suggestie doen om deze vraag
ook mee te nemen in het commissiedebat Evaluatie missies, dat wij volgens mij nog
hebben? Dat wil ik in ieder geval ter overweging meegeven. Dan heeft de Kamer wat
uitgebreider de tijd om daar ook zelf over na te denken.

Mevrouw Belhaj (D66):

Nou, voorzitter, ik ga over mijn eigen vragen.

De voorzitter:

Daar gaat u zeker over. Dit was slechts een suggestie mijnerzijds.

Mevrouw Belhaj (D66):

Dat is superlief, maar dit is onderdeel van mijn initiatiefnota van anderhalf jaar
geleden. Daar stond dit ook in. Ik snap het, maar tegelijkertijd wil ik voorkomen
dat er weer een nieuwe discussie wordt gestart terwijl ik toch wel vind dat ik weet
waar ik het over heb. Daarom stel ik juist op dit moment de vraag om daar wel over
na te denken en om de Kamer te informeren hoe dit op een goede wijze kan worden geïmplementeerd.

De voorzitter:

Discussies in de Tweede Kamer willen we niet hebben. Mevrouw Ollongren, de Minister
van Defensie.

Minister Ollongren:

Ik zal daar heel goed naar kijken, overigens met een welwillende grondhouding, want
ik denk dat het altijd verstandig is om bij artikel 100-brieven de Kamer zo volledig
mogelijk te informeren. Een vraag die we natuurlijk wel aan de voorkant moeten beantwoorden,
is die naar de definitiekwestie. Zoals ik net al betoogde, leidt de definitie van
autonome wapensystemen zoals wij die hebben gehanteerd, ook in onze kabinetsreactie,
ertoe dat we vinden dat er een verbod op moet komen. Die zullen we dus zelf ook niet
inzetten, want die hebben we niet. Maar daar moet dus nog wel een hele discussie over
worden gevoerd. We moeten het eens worden over die definitie. Er is nog geen internationaal
verbod. Ik snap dat u wil weten hoe we samenwerken met bondgenoten met wie wij samen
missies doen. Hoe werken die precies? Het is nu nog te vroeg om toe te zeggen dat
we dat in de volle breedte op deze manier kunnen doen, maar we gaan er wel met een
positieve grondhouding naar kijken. Wellicht dat we daar in een volgend debat, zoals
de voorzitter zei, een keer op kunnen terugkomen.

Mevrouw Belhaj (D66):

Ik snap de verwarring, want ik zei het zelf ook weer fout. Als je het woord «autonoom»
gebruikt, ben je niet secuur. Dit gaat dus niet over de volledig autonome systemen.
Maar zelfs binnen die gedeeltelijk autonome wapensystemen kun je dingen zo schuiven
dat je heel erg in de buurt komt van volledig autonoom. Als je de menselijke controle
altijd wilt behouden en je dat knopje niet aanzet dat er altijd menselijke controle
moet plaatsvinden – los van dat de definitie nog geformuleerd moet worden – dan kan
het een keer misgaan, zelfs in de huidige situatie. Vandaar dat ik vroeg om daar goed
naar te kijken. Met alle missies en oorlogen moeten we goed bekijken of we dit niet
ook kunnen doen bij semiautonome wapens.

Minister Ollongren:

Ik ben wel heel blij dat dit misverstand is opgehelderd. We hebben het over semiautonome
wapensystemen. In de gradatie van wapensystemen gaat het om systemen waarvan we denken
dat we ze in de toekomst nodig zouden kunnen hebben en kunnen inzetten. In reactie
op de vraag van mevrouw Belhaj om dat in de artikel 100-brieven wat explicieter te
maken, zeg ik dat ik daar welwillend naar wil kijken. Ik kan me die informatiebehoefte
van de Kamer goed voorstellen. Wij willen de Kamer altijd volledig informeren. Maar
het vergt nog wel even wat uitzoekwerk. Het is dus geen toezegging dat we dit nu direct
gaan toepassen.

Mevrouw Belhaj (D66):

Het is dus wel een toezegging dat ernaar gekeken zal worden en dat erop teruggekomen
wordt. Als u er een willekeurige datum aan verbindt, wordt het ook opgeschreven.

De voorzitter:

Wacht even. Sorry, even tussendoor. Ik hoorde de Minister volgens mij aangeven dat
het geen toezegging was en ik hoorde mevrouw Belhaj zeggen dat het wel een toezegging
was. Ik hoorde de Minister ook heel duidelijk zeggen dat ze hier nog naar moet kijken
en dat ze er op een later moment op zou moeten terugkomen. Is het een tussenweg dat
daar in het debat dat ik net aanstipte, opnieuw op terug wordt gekomen? Ik meen dat
dat ergens in november plaatsvindt.

Mevrouw Belhaj (D66):

De toezegging van de Minister is niet: dat gaan we doen. De toezegging is: we gaan
ernaar kijken. Ik wil graag een datum hebben wanneer we er een eerste check op kunnen
hebben. Dat mag van mij ook over zes maanden zijn. Dan horen wij over zes maanden
misschien: we hebben ernaar gekeken, maar we zijn nog geen stap verder. Het liefst
hoor ik natuurlijk: we zijn een enorme stap verder. Als ik er geen datum aan verbind,
dan verdwijnt het weer. Dat is de vraag.

De voorzitter:

Oké, helder. Volgens mij zijn we eruit. Dan ga ik het kabinet nog iets meer tijd geven
om daar helemaal uit te komen. Ik heb één toezegging geregistreerd. Dat is de brief
die wij begin januari ontvangen. Allicht is er de mogelijkheid om in die brief hierop
terug te komen. Mogelijk wenst het kabinet langer de tijd te hebben.

Minister Ollongren:

Great minds think alike.

De voorzitter:

Uitstekend.

Minister Ollongren:

Collega Hoekstra stelde het net voor en u zegt het ook. Laten we het zo doen.

De voorzitter:

Het is genoteerd. De Minister vervolgt haar betoog.

Minister Ollongren:

Voorzitter. De heer Boswijk was goed in het benoemen van mogelijkheden die het biedt.
Hij gaf het belang aan van snelheid en een bepaalde mate van gedeeltelijke autonomie
om je überhaupt te kunnen verdedigen. Het is menselijkerwijs soms niet mogelijk, omdat
de tijd gewoon te kort is voor een reactie. Dat zien we bij die hypersone en ballistische
raketten. Een andere kant die aandacht verdient, zijn de kansen die worden geboden.
Denk aan zeemijnenbestrijding. Een mijn is een behoorlijk autonoom ding. Hij denkt
helemaal niet na, maar hij doet wel iets zonder dat er een mens aan te pas komt. Als
je dat kunt bestrijden met een semiautomatisch systeem, heeft dat grote voordelen.
Ik denk aan onderwatersystemen, boten, gevechtsvoertuigen, logistieke robots. Een
heel andere toepassing, die ook militair is, is die van chirurgische robots die gewonde
militairen kunnen helpen. Er zijn dus heel veel toepassingen waarvan we denk ik allemaal
zeggen: dat is heel goed, daar moeten we vooral mee verdergaan. Ik zie tal van mogelijkheden.
De heer Boswijk noemde de luchtverdediging. Dat is inderdaad een heel goed voorbeeld,
maar er zijn er dus meer.

Dan de industrie. Als je tot internationale afspraken komt, geeft dat natuurlijk sowieso
duidelijke kaders voor de industrie, maar het uitgangspunt is nu al, bij de gezamenlijke
R&D die we bijvoorbeeld doen in NAVO-verband, dat menselijke controle gegarandeerd
moet zijn. Dat is dus al de huidige praktijk. De bestaande financieringsinstrumenten
stellen dit ook als voorwaarde als je die toepast. We hebben zelf ook gezegd dat we
het inrichten van de juiste randvoorwaarden voor de inzet van datascience en artificial
intelligence echt centraal stellen in onze eigen aanpak en in onze eigen strategie
en notities daarover. Nationaal werken we ook samen met de kennisinstellingen die
hier heel veel verstand van hebben, namelijk TNO, NLR en MARIN. Die hebben samen een
onderzoeksprogramma naar onderwerpen als mens-machinetiming, transparantie, uitlegbaarheid
en maatschappelijke acceptatie van artificial intelligence. Er is dus eigenlijk al
een hele set vanwaaruit er verder gewerkt kan worden.

Voorzitter. Ik kijk nog heel even in mijn aantekeningen of ik een vraag niet heb beantwoord
die wel gesteld is, maar ik heb de indruk dat ik hiermee alle vragen heb beantwoord.

De voorzitter:

Helder. Dan dank ik u voor deze beantwoording en kijk ik of er aan mijn linkerzijde
behoefte is aan een tweede termijn. Er is een hele korte behoefte bij de heer Van
Dijk, zie ik, dus ik geef hem als eerste het woord.

De heer Jasper van Dijk (SP):

Voorzitter. Dank voor de antwoorden. Ik zou niettemin wel een tweeminutendebat aan
willen vragen, om de regering nog een steuntje in de rug te geven op dit dossier.

Ik zou de regering ook willen vragen om nog te reageren op wat in het artikel van
PAX staat. Het Rode Kruis geeft aan dat de mens geen doelwit mag zijn van autonome
wapens. Het oorlogsrecht zegt dat burgers nooit doelwit mogen zijn bij oorlogshandelingen.
En de eigen adviescommissie van Defensie zegt nota bene dat autonome wapens geen onderscheid
kunnen maken tussen burgers en militairen. Dat moet u toch aansporen om daarop een
wat steviger reactie te geven? Mag ik die aan u vragen?

De voorzitter:

Dank. Mevrouw Belhaj.

Mevrouw Belhaj (D66):

Voorzitter. Ik dank de beide bewindspersonen voor de beantwoording. Ik heb nog twee
dingen op te merken. Er wordt vaak gezegd dat we manieren moeten vinden om om te gaan
met technologische ontwikkelingen. Het interessante is dat Europa in de negentiende
eeuw met de opkomst van de drukkunst en allerlei transportmogelijkheden ontzettend
werd overvallen door het zwart anarchisme, en allerlei securityorganisaties eigenlijk
achter de feiten aanliepen. En in de twintigste en de eenentwintigste eeuw was er
technologie zoals internet, wat we een interessante ontwikkeling vonden maar waarbij
we in zekere zin eigenlijk ook te laat hebben gehandeld. Dat was vanuit eenzelfde
soort gedachte: het biedt kansen, maar hoe kunnen we voorkomen dat het als wapen wordt
gebruikt? Datzelfde gevoel heb ik nu. Dat heeft er niet alleen mee te maken dat ik
een ongeduldig mens ben, maar er is genoeg. Er liggen genoeg verzoeken van organisaties,
bedrijven, ngo's en landen die dit heel graag willen. Er zijn knappe koppen bij TNO,
Defensie en Buitenlandse Zaken. Er ligt zo veel, dus laten we alsjeblieft niet te
lang wachten met het maken van een keuze. Die keuze zal wellicht nooit helemaal perfect
zijn, maar we kunnen beter een keuze maken en een route in gang helpen dan wachten
totdat we overvallen worden.

Voorzitter. Ik rond af. Er zat hier zonet een schoolklas op de publieke tribune.

De voorzitter:

Die gelijk ook weer vertrokken is.

Mevrouw Belhaj (D66):

Die zijn inderdaad gelijk weer vertrokken. Ik had ze graag willen vertellen dat waar
wij hier mee bezig zijn, over hun toekomst gaat. Ik meen dat oprecht. Ik hoop van
harte dat we op dit onderwerp niet te veel politiek en traag handelen. Ik snap diplomatie
en ik snap het belang van verbinden. Ik zie alle inzet, maar dit gaat echt ergens
over. Ik hoop van harte dat we over tien jaar terugkijken op dit moment en op verschillende
andere momenten, en dan weten dat deze Minister en de andere Ministers die erbij betrokken
waren het lef hebben gehad om leiderschap te tonen, zodat deze kinderen over tien
jaar niet in een wereld leven waarin wij zelf ook niet willen leven. Dit is mijn persoonlijke
appel: loop de wedstrijd om hem te winnen en niet om te zeggen dat er zo veel barrières
zijn.

De voorzitter:

Dank. De heer Boswijk.

De heer Boswijk (CDA):

Voorzitter. De vloek van onze mensheid is dat het lijntje tussen vooruitgang en verderf
altijd heel dun is. Ik snap het appel van mevrouw Belhaj. Ik moet alleen tijdens dit
debat vaak terugdenken aan een brief die mijn overgrootopa schreef in 1914 of 1915,
toen de Eerste Wereldoorlog net was uitgebroken. Hij zag in de vliegtuigen het einde
van de wereld, want in de Bijbel staat dat er aan het einde van de tijd wordt gevochten
in de lucht. Ik ben heel erg blij dat we niet naar mijn opa hebben geluisterd, want
dan hadden de verkeerde landen vliegtuigen gehad en de westerse wereld niet. Dat is
dan weer een andere inkleuring, namelijk dat we altijd nuchter en realistisch na moeten
denken. Ik doe daarmee niet af aan de zorgen van collega Belhaj, maar dat is altijd
het spanningsveld waar je in zoekt. Uit de antwoorden van de Ministers haal ik dat
daar wel serieus naar wordt gekeken en dat die belangenafweging ook zorgvuldig wordt
gedaan.

De voorzitter:

Dank. Dan wil ik het voorzitterschap zeer kortstondig aan de heer Van Dijk geven.

Voorzitter: Jasper van Dijk

De voorzitter:

En ik geef het woord aan u, meneer Valstar.

De heer Valstar (VVD):

Dank, voorzitter. In navolging van mevrouw Belhaj wil ik eigenlijk ook het CLAS aanhalen.
Waar mevrouw Belhaj vooral de uitdaging ziet om vrede te stichten over tien jaar,
omdat wij dan afspraken over autonome of semiautonome wapens hebben gemaakt, wil ik
dat we deze generatie niet uit naïviteit ... Ik vind dat we hen moeten beschermen
tegen vijandelijke mogendheden. Ik zou de Minister van Buitenlandse Zaken willen vragen
hoe hij kijkt naar bijvoorbeeld een land als China dat wel een handtekening onder
de CCW heeft gezet, maar daar wel de kanttekening bij heeft gemaakt dat het alleen
een handtekening zet voor het gebruik van de desbetreffende wapens. Nogmaals, en ik
heb dit in de eerste termijn ook al een paar keer gezegd: ik vind dat wij ons in het
huidige tijdsgewricht geen naïviteit kunnen veroorloven en ik vind ook dat Nederland,
toch niet de grootste speler op het militaire wereldtoneel, niet ernstig voorop hoeft
te lopen op dit vlak.

Dank.

De voorzitter:

En daarmee bent u weer voorzitter.

Voorzitter: Valstar

De voorzitter:

Dank. Dan kijk ik naar mijn rechterzijde. Kunnen we direct overgaan tot de beantwoording?
Dat is het geval. Dan geef ik de Minister van Buitenlandse Zaken het woord.

Minister Hoekstra:

Voorzitter, dank. Ik ben het zeer eens met de bespiegeling en de verwijzing naar de
schoolklas van mevrouw Belhaj en van uzelf. Ik ben het er overigens ook mee eens dat
het voor beide pilaren geldt. Dat is precies wat het kabinet heeft proberen aan te
geven. We zijn gevoelig voor de argumentatie langs beide lijnen.

In reactie op uw vraag ten aanzien van China zou ik willen verwijzen naar wat ik daar
eerder over heb gezegd. Het wordt natuurlijk de kunst om het ten eerste niet alleen
eens te worden met een grote groep landen, ook met landen die nu nog helemaal niet
geporteerd zijn van zo'n VN-route, en om dat ten tweede ook expliciet te maken. Naar
mijn overtuiging is het dan ook noodzakelijk dat je afspraken maakt over de handhaving,
want anders heb je niks. Dan koop je wel een goed gevoel op de ene as, maar ben je
naïef op de tweede, en je wilt op allebei zaken kunnen doen. Dat zou ik nog willen
zeggen over China.

De heer Van Dijk had geen vraag, maar wil de beraadslaging graag voortzetten. Dat
laat ik aan hem. Ik had gehoopt dat we de Kamer van voldoende antwoorden hadden voorzien,
maar dat is uiteraard aan hem.

De voorzitter:

Ik kijk even naar de heer Van Dijk of hij ingaat op deze uitnodiging om af te zien
van het tweeminutendebat.

De heer Jasper van Dijk (SP):

Nee, ik heb ook geen nieuwe standpunten gehoord.

De voorzitter:

Waarvan akte. Dan geef ik het woord aan de Minister van Defensie.

Minister Ollongren:

Dan ga ik toch nog een poging doen, want ik had natuurlijk dezelfde hoop. Misschien
kan ik in aanvulling op wat ik net heb gezegd en in reactie op het stuk van PAX, dat
de heer Van Dijk aanhaalt, zeggen dat burgers op grond van het humanitair oorlogsrecht
bescherming genieten. Dat is belangrijk. Burgers, personen die niets met het gevecht
te maken hebben, moeten beschermd worden. De gedeeltelijk autonome wapensystemen waar
Nederland in de toekomst mogelijk over beschikt, zijn er om dat te doen in oorlogssituaties,
op grond van hoe wij zelf natuurlijk wel gebonden zijn aan het humanitaire oorlogsrecht.
Daarvoor moeten ze worden ingezet. Daar zijn wel mensen bij betrokken, maar niet burgers
en mensen die dus niks met het militaire deel te maken hebben. U weet dat ik mij ervoor
inzet om zo veel mogelijk te voorkomen dat er ongewild toch burgerslachtoffers vallen.
Dat betekent dus dat dit bij het nadenken over nieuwe wapensystemen, ook semiautonome
wapensystemen, zorgvuldig moet worden getoetst aan internationaal recht en dus aan
de toetssteen van betekenisvolle, menselijke controle. Ik schetste dat net al in antwoord
op vragen van mevrouw Belhaj. Dat zou mijn reactie zijn op de vragen van de heer Van
Dijk en op het stuk van PAX.

Ik wil er nog aan toevoegen dat het niet investeren in dat soort technologische ontwikkelingen
juist een risico is voor de veiligheid. Ons veiligheidsbelang is dat we mensen en
burgers kunnen beschermen in Nederland en in de NAVO, met onze bondgenoten, en daar
in de wereld waar wij op grond van eigen keuzes en op onze eigen juridische basis
ervoor kiezen om mensen te beschermen. We moeten ons er wel bewust van zijn dat die
technologie voortschrijdt, ook zonder ons. We moeten het niet per se allemaal willen
toepassen, maar we moeten het wel begrijpen. We moeten ons wel kunnen verdedigen en
ook mensen kunnen verdedigen. Dus we doen dat terwijl we ons bewust zijn van de risico's
op een, in mijn ogen, verantwoorde manier.

De heer Van Dijk vroeg naar onze eigen adviescommissie. Ten eerste is het goed dat
we een kritische adviescommissie hebben, maar het advies waar hij naar verwijst, is
een zogenaamd kaderstellend advies inzake loitering munitions. Dat is een heel specifiek
type wapens. Dat zijn wapens die in staat zijn om boven een gebied aanwezig te zijn
om een heel specifiek doel aan te vallen of juist niet, als het doel daar bijvoorbeeld
niet blijkt te zijn. Daarin is de gedachte meegegeven dat je drie types hebt. Je hebt
wapens die pas overgaan tot de aanval na opdracht van een mens. Je hebt wapens die
zelfstandig een doel selecteren en aanvallen volgens de wijze waarop ze zijn voorgeprogrammeerd,
volgens een voorgeprogrammeerde parameter. Mogelijkerwijs kan een mens de aanval dan
nog stoppen als je het toch anders wilt zien. En je hebt wapens die zelfstandig een
doel selecteren en aanvallen aan de hand van voorgeprogrammeerde parameters. Dat zijn
allemaal stappen in het type loitering munitions, zoals dat heet, die je je zou kunnen
voorstellen. De adviescommissie heeft daarbij meegegeven dat type één op minder grote
bezwaren stuit dan type twee en drie, vanuit juridisch en ethisch oogpunt. Het is
heel nuttig dat dat advies er ligt, want dan kunnen we daar rekening mee houden en
het meewegen.

Voorzitter. Voor het overige heb ik goed geluisterd. En ik denk dat de opa van de
heer Boswijk inmiddels hetzelfde vindt. Dank u wel.

De voorzitter:

Als de opa er nog steeds is, natuurlijk. Nou, al even niet meer, zie ik. Wij zijn
bijna aangekomen bij het einde van het debat. Ik verzoek u nog even aan mijn lippen
te blijven hangen, want ik ga nog een toezegging voorlezen.

– De Minister van Buitenlandse Zaken zegt toe de Kamer uiterlijk 15 januari 2023 te
zullen informeren over de inzet van Nederland tijdens de in Nederland te organiseren
conferentie inzake artificial intelligence in het militaire domein, die plaatsvindt
op 15 en 16 januari 2023.

– De Minister van Defensie zegt daarbij toe de Kamer in voorgenoemde brief ook te informeren
over het al dan niet opnemen van gebruik van semiautonome wapensystemen in artikel 100-procedures.

Ik zie instemmend geknik aan mijn rechter- en linkerzijde. Dat is uitstekend. Als
laatste wens ik nog aan te tekenen dat de heer Van Dijk een tweeminutendebat over
autonome wapens heeft aangevraagd, dus wij zien elkaar terug in de plenaire zaal.
Ik wens u allen een fijne avond.

Sluiting 17.38 uur.