Brief regering : Nederlandse inzet REAIM conferentie over verantwoorde AI in het militaire domein

Nr. 67
BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 26 januari 2023

Volgend op de brief aan uw Kamer van 8 juli 2022 (Kamerstuk 33 694, nr. 64) en het Commissiedebat Autonome Wapens van 5 oktober 2022, informeren wij u over
de voortgang in de voorbereiding op de aangekondigde conferentie over Responsible AI in the military domain (hierna: REAIM Summit), waarmee uitvoering wordt gegeven aan de motie van het lid
Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43). Daartoe worden de Nederlandse inzet voor de REAIM Summit en de opzet en de uitwerking
van de conferentie uiteengezet.

In het commissiedebat Autonome Wapens van 5 oktober jl. is toegezegd u te informeren
over de motie van het lid Van Ginneken c.s. over het betrekken van (semi-) autonome
wapensystemen bij de artikel 100-brief (motie 35 848, nr. 8). Op het moment dat het kabinet besluit tot inzet van een dergelijk systeem in het
kader van artikel 100 van de Grondwet, zal deze betrokken worden bij de artikel 100-brief
over desbetreffende inzet. Daarbij zal conform motie expliciet ingegaan worden op
de daarin benoemde aspecten en complexiteit van dergelijke systemen.

Het investeren in een toekomstbestendige krijgsmacht die voldoende toegerust is om
veiligheid en vrijheid te verdedigen is onverminderd belangrijk. De ontwikkelingen
in Oekraïne maken dat eens te meer duidelijk. De toepassing van kunstmatige intelligentie
(Artificial Intelligence, hierna: AI) is hiervoor van grote betekenis.

Het kabinet heeft in haar reactie op het AIV/CAVV advies1 een standpunt ingenomen ten aanzien van autonome wapensystemen. In de discussie over
autonome wapensystemen is betekenisvolle menselijke controle essentieel. De toepassing
van AI in het militaire domein is echter niet alleen relevant voor wapensystemen,
maar dient een breder belang. Zo zal de toepassing van AI in belangrijke mate doorslaggevend
zijn voor data-analyse, beslisondersteuning en Intelligence, Surveillance, en Reconnaissance
(ISR) activiteiten ten behoeve van militaire operaties. AI zal daarmee de toekomst
van conflicten veranderen.

Tegelijkertijd brengt toepassing potentiële risico’s mee, bijvoorbeeld ten aanzien
van de voorspelbaarheid van systemen, een gebrek aan menselijke controle en de escalatie
van geweld. Met de ministeriële REAIM Summit, op 15 en 16 februari in Den Haag, wil
het kabinet daarom enerzijds de noodzaak en de mogelijkheden van het gebruik van AI
binnen het militaire domein inzichtelijker maken en anderzijds zo breed mogelijk gedeelde
kaders initiëren en waarborgen stellen ten behoeve van het humanitaire oorlogsrecht
om zo de risico’s die AI met zich brengt te adresseren.

Het kabinet vindt het belangrijk dat dit onderwerp hoger op de internationale politieke
agenda komt te staan. Daarom werken de Ministeries van Buitenlandse Zaken en Defensie
nauw samen op dit dossier, enerzijds door het internationaal agenderen van de risico’s
rondom AI en anderzijds door het actief bevorderen van de verantwoorde ontwikkeling,
toepassing en gebruik van AI in het militaire domein. Daarbij zijn de kaders van het
bestaande internationale recht leidend.

We achten het van groot belang dat het gesprek hierover niet alleen tussen landen,
maar juist ook met de belangrijke andere spelers uit de AI-keten wordt gevoerd. De
ontwikkeling van AI speelt zich grotendeels af in het civiele domein. Het kabinet
zet in op een multi-stakeholder deelnemersveld en actieve betrokkenheid van verschillende
spelers in het programma van de REAIM Summit. Bedrijven, universiteiten, denktanks,
maatschappelijke organisaties en internationale organisaties uit landen wereldwijd
zullen concreet bijdragen aan het programma van de REAIM Summit. Zuid-Korea is benaderd
en bereid gevonden als co-host op te treden.

Tijdens het tweedaagse programma van de REAIM Summit worden vanuit verschillende invalshoeken
case studies, uitdagingen en good practices gedeeld. Zoals aangekondigd in de voorgaande Kamerbrief van 8 juli 2022 (kamerstuk
33 694, nr. 64) is de REAIM Summit uitgewerkt langs drie hoofdthema’s. Ten eerste hecht Nederland
waarde aan het bespreken van de ontwikkeling en technische kenmerken van AI. Daarbij
gaat het bijvoorbeeld om betrouwbaarheid, voorspelbaarheid, uitlegbaarheid en data
bias. Ten tweede adresseert het kabinet verantwoorde militaire inzet en gebruik van
AI. Wat zijn de mogelijkheden, de kwetsbaarheden en de dilemma’s van militair gebruik
van AI in de praktijk. Ten slotte zal met landen, industrie, kennisinstellingen en
maatschappelijk middenveld tijdens REAIM het gesprek worden gevoerd over welke governance tools kunnen bijdragen aan een verantwoorde toepassing van AI in het militaire domein.
Hoe kunnen we samen werken aan concrete acties en instrumenten? Deze thema’s vormen
de basis voor het betrekken van alle relevante spelers in de dialoog. In aanvulling
hierop zullen diverse deelthema’s aan bod komen in de verschillende onderdelen van
de Summit. Zoals (gender)bias en AI in het militaire domain, AI en cyberdefence, de
AI en Space nexus, AI in nucleaire command and control en dronezwermen.

Naast plenaire onderdelen en break-out sessies, biedt de REAIM Summit een Responsible
Innovation Hub waar bedrijven en onderzoeksinstellingen door middel van demonstraties
en simulaties hun innovatieprocessen en verantwoorde militaire toepassingen van AI
tastbaar zullen maken. Onder leiding van de Technische Universiteit Delft zullen verschillende
internationale universiteiten bijdragen aan een Academisch Forum waar vanuit een academische
invalshoek aan concrete adviezen en aanbevelingen gewerkt wordt. Tevens zal een groep
geselecteerde masterstudenten kennismaken met AI in het militaire domein en de dilemma’s
daaromheen in een «serious AI game» en ten slotte zal een deel van de REAIM Summit ook online uitgezonden worden vanuit
een talkshow studio. Een aantal belangrijke bijdragen zullen gedaan worden door o.a.
Prof. Sir Lawrence Freedman, Agnes Callamard (Amnesty International), Marietje Schaake
en H.E. Ms. Izumi Nakamitsu2.

Met de gekozen opzet en uitwerking van de REAIM Summit wil het kabinet een internationale
eindverklaring overeenkomen, met als uitgangspunt en doelstelling de verantwoorde
ontwikkeling, toepassing en gebruik van AI in het militaire domein. Het kabinet beschouwt
de Summit als een eerste stap voor internationale agendavorming. Op basis van de uitkomsten
van de conferentie wil het kabinet de dialoog te starten over het belang van internationale
afspraken over de toepassing van AI in het militaire domein. We werken daarom aan
concrete projecten die een vervolg zullen geven aan deze eerste Summit en streven
naar resultaten en acties waar alle stakeholders een rol in kunnen spelen. Daarover
zullen we u nog informeren. U bent van harte uitgenodigd als deelnemer aanwezig te
zijn bij de REAIM Summit.

De Minister van Buitenlandse Zaken,
W.B. Hoekstra

De Minister van Defensie,
K.H. Ollongren