Brief regering : Stand van zaken uitvoering van de motie van het lid Koopmans c.s. over beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33694-43)

Nr. 64
BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 8 juli 2022

Volgend op de brief aan uw Kamer van 11 oktober 2021 (Kamerstuk 33 694, nr. 63) en het Commissiedebat Hoofdlijnen beleid Ministerie van Buitenlandse Zaken van 14 juni 2022 (Kamerstuk 35 925 V, nr. 110), informeren wij u over de volgende stappen in de voorbereiding op de aangekondigde
conferentie over verantwoorde militaire toepassingen van AI, waarmee uitvoering wordt
gegeven aan de motie van het lid Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43).

De internationale veiligheidsdynamiek is sinds de Russische inval in Oekraïne drastisch
veranderd. De recente ontwikkelingen aan de oostflank van Europa laten zien dat vrede
en veiligheid niet vanzelfsprekend zijn. Daarom is het belangrijk te blijven investeren
in een toekomstbestendige krijgsmacht die voldoende toegerust is om veiligheid en
vrijheid te verdedigen. Nieuwe technologieën zoals kunstmatige intelligentie (Artificial Intelligence, hierna: AI) ontwikkelen zich op hoge snelheid waarmee ook de mogelijkheden voor toepassingen
in het militaire domein de komende jaren toe zullen nemen. Tegelijkertijd bestaan
internationaal zorgen over potentiële risico’s, bijvoorbeeld de potentiële voorspelbaarheid
van systemen, een gebrek aan menselijke controle en de escalatie van geweld. De vraag
hoe de internationale gemeenschap op een verantwoordelijke manier met militaire toepassing
van AI wil omgaan is daarom zeer actueel.

Nederland zet zich in om zowel een vooruitstrevend als een verantwoordelijk high tech land te zijn. Met de conferentie zet Nederland dit vraagstuk hoger op de politieke
agenda. Doel van de conferentie is met een zo breed mogelijke groep landen een gezamenlijke
internationale agenda overeen te komen die toeziet op verantwoorde ontwikkeling, inzet
en gebruik van AI in het militaire domein. Daarbij zijn de kaders van het bestaande
internationale recht leidend. Om de effectiviteit van de conferentie te optimaliseren
en aan te sluiten op bestaande internationale fora en reeds geplande bijeenkomsten
zal de conferentie begin 2023 plaatsvinden.

Afbakening en thema’s

De inhoudelijke focus van de conferentie ligt op de inzet van AI ten behoeve van militaire
operaties. Het gaat daarbij om de inzet van geweld en de voorbereidende stappen en
besluitvorming die daartoe leiden. Daarbij kan gedacht worden aan de toepassing van
AI in wapensystemen maar ook aan een bredere inzet, bijvoorbeeld bij militaire besluitvormingsondersteuning
met behulp van AI en data-analyse.

Deze focus brengt diverse vraagstukken mee die een gebalanceerde internationale discussie
vergen. Wat betekent een verregaande toepassing van AI voor de besluitvorming tot
inzet van militair geweld? Wat betekent het voor de bescherming van burgers en voor
proportionaliteit en het afleggen van verantwoording? Hoe optimaliseer je interactie
tussen mens en machine? Hoe zorgen we ervoor dat AI ondersteunend blijft aan de mens,
ook in conflictsituaties? Om deze en andere vragen goed te kunnen adresseren richt
de conferentie zich niet alleen op het uiteindelijk gebruik van AI, maar op de bredere
levenscyclus van AI, van onderzoek en onderwijs, tot ontwikkeling, innovatie en de
inbedding van AI in het militaire domein.

Om dit in de conferentie tot uiting te laten komen zal het programma zich richten
op drie hoofdthema’s:

1. Ontwikkeling en technische kenmerken van AI – wat moeten we weten van de technische aspecten en karakteristieken van AI om kansen,
uitdagingen en verantwoorde toepassing van AI in het militaire domein adequaat te
kunnen adresseren? Denk aan karakteristieken als betrouwbaarheid, voorspelbaarheid,
uitlegbaarheid en dilemma’s als data bias.

2. Verantwoorde militaire inzet en gebruik van AI – wat betekent militaire inzet en gebruik van AI in de praktijk? Wat zijn voordelen
van militair gebruik van AI, wat zijn kwetsbaarheden en dilemma’s?

3. Versterken van governance frameworks
– welke juridische en andere internationale kaders zijn van toepassing om te zorgen
voor verantwoorde toepassing van AI in het militaire domein? Hoe kunnen landen, industrie,
kennisinstellingen en maatschappelijk middenveld binnen die kaders met concrete acties
en instrumenten bijdragen aan het versterken daarvan?

De ontwikkeling van AI speelt zich grotendeels af in het civiele domein. Het is van
belang ruimte voor onderzoek en innovatie te behouden. De conferentie zal daarom alle
relevante stakeholders op het gebied van ontwikkeling, inzet en gebruik van AI in
het militaire domein een concreet platform bieden om hun kennis en ervaringen te delen,
maar ook om voorstellen te doen om de gezamenlijke agenda op verantwoorde toepassing
van AI te concretiseren.

Vervolgstappen

De afgelopen maanden zijn in samenwerking tussen de twee ministeries en in consultaties
met landen, bedrijven, academici, denktanks en NGO’s de inhoudelijke kaders, doelen
en beoogde resultaten voor de conferentie verder uitgewerkt. Daartoe zijn verschillende
events georganiseerd, nationaal en internationaal, en is deelgenomen aan verschillende
relevante fora. Met een groep van 17 landen zijn inmiddels verdergaande gesprekken
gestart over de mogelijke politieke resultaten van de conferentie.

De conferentie moet geen eenmalig evenement zijn maar een opstap vormen voor een concreet
vervolg. De op te stellen internationale agenda als beoogd resultaat van de conferentie
zal zowel mondiaal als binnen de bestaande overlegstructuren van onder andere de VN
en verschillende regionale organisaties kunnen worden uitgewerkt. Daarbij zal Nederland
met de conferentie rekening houden met reeds lopende processen op het gebied van militaire
AI, zoals concrete initiatieven binnen de NAVO en de EU en de Group of Governmental Experts on Lethal Autonomous Weapon Systems onder de Convention on Certain Conventional Weapons (CCW). De Nederlandse inzet binnen de CCW ten aanzien van autonome wapensystemen staat
verwoord in de kabinetsreactie op het AIV/ CAVV advies over autonome wapens van 17 juni
2022 (Kamerstuk 35 925 X, nr. 90). Het is niet de intentie van deze conferentie om, buiten de CWW om, tot besluiten
te komen ten aanzien van autonome wapensystemen.

De samenwerking tussen de Ministeries van Buitenlandse Zaken en Defensie borgt dat
de conferentie de balans maakt tussen enerzijds het adresseren van de risico’s en
anderzijds de noodzaak en de voordelen van het gebruik van AI binnen Defensie. Tevens
biedt de conferentie kans om concreet bij te dragen aan de plannen zoals verwoord
in de Defensienota van 1 juni 2022 (Kamerstuk 36 124, nr. 1) met name op actielijn 5 (innoverend vermogen en nieuwe domeinen) en actielijn 6
(informatiegestuurd werken en optreden). Met de conferentie zet Nederland een eerste
stap op een aantal daarin genoemde beleidsambities van Defensie, zoals het versterken
van het vermogen zich aan te passen aan nieuwe dreigingen, het versnellen van het
reactievermogen en het verdiepen van de samenwerking met kennisinstellingen en bedrijfsleven
ten behoeve van een toekomstbestendige en technologisch hoogwaardige krijgsmacht.

De Minister van Buitenlandse Zaken,
W.B. Hoekstra

De Minister van Defensie,
K.H. Ollongren