Brief regering : Resultaten en vervolg Responsible AI in the military domain (REAIM) Summit over verantwoorde AI in het militaire domein

Nr. 68
BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 23 juni 2023

Op 15 en 16 februari 2023 vond de internationale conferentie over Responsible AI in the military domain (hierna: REAIM) plaats in Den Haag. Met REAIM is uitvoering gegeven aan de motie
van het lid Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43). Zoals in onze brief van 26 januari 2023 aan uw Kamer toegezegd (Kamerstuk 33 694, nr. 67) en in navolging van het verzoek als gedaan in de Vaste Commissie Defensie (hierna
VCD) van 9 maart, informeren wij u over de behaalde resultaten van REAIM en over de
vervolgstappen die genomen worden na de Summit. Mede op verzoek van de VCD wordt in
deze brief ook ingegaan op het onderwerp autonome wapens.

REAIM – Onderdelen en scope

REAIM richt zich op een verantwoorde toepassing van kunstmatige intelligentie (hierna:
AI) in het militaire domein. AI wordt breed beschouwd als één van de meest invloedrijke
en mogelijk disruptieve technologieën en kent vele militaire toepassingen. Daarmee
is AI een sleutelonderwerp in de discussies over kansen en bedreigingen van nieuwe
technologie in het militaire veiligheidsdomein. REAIM voorzag in een tijdige en noodzakelijke
start van een mondiale dialoog over de verantwoorde militaire inzet van deze technologie.

De REAIM Summit werd gezamenlijk georganiseerd door de Ministers van Buitenlandse
Zaken en Defensie, waarbij de Minister van Buitenlandse Zaken van Zuid-Korea als co-host
optrad. Aan het tweedaags programma van REAIM deden rond de 2.000 deelnemers uit meer
dan 100 landen mee. Met de aanwezigheid van 80 landendelegaties en deelnemers vanuit
industrie, academische instellingen, internationale organisaties en ngo’s heeft Nederland
een groot publiek kunnen bereiken en de verantwoorde toepassing van AI in het militaire
domein hoger op de politieke agenda gezet.

De brede deelname aan REAIM laat zien dat het onderwerp aan betekenis groeit en dat
betrokken partijen, waaronder landen vanuit alle regio’s, de urgentie onderkennen
van het aangaan van een gebalanceerde dialoog over de volle breedte van verantwoorde
toepassing van AI in het militaire domein. De conferentie heeft het begrip tussen
verschillende stakeholders over zowel de mogelijkheden als de risico’s van het gebruik
van AI binnen het militaire domein vergroot.

De rode draad in het programma van REAIM werd gevormd door drie thema’s:

1. de ontwikkeling en technische kenmerken van AI (over o.a. uitlegbaarheid en data bias),

2. de verantwoorde militaire inzet en gebruik van AI (case studies, voordelen en dilemma’s)

3. de stappen die betrokken partijen kunnen zetten om verantwoorde inzet van AI in militaire
operaties te garanderen (governance tools).

Op basis van bovenstaande thema’s zijn verschillende deelonderwerpen uitgelicht in
meer dan 45 break-out sessies. Het ging daarbij om onderwerpen zoals AI in autonome
wapensystemen, interactie tussen mens en machine (human-machine-teaming), (gender)bias en AI, de AI en Space nexus, AI in cyber-defence, AI in nuclear command and control en dronezwermen en AI. De break-out sessies werden grotendeels uitgevoerd door externe
partijen, wat een inclusieve discussie en uitwisseling tussen verschillende groepen
stakeholders heeft bewerkstelligd.

De Minister van Buitenlandse Zaken onderstreepte in zijn openingsspeech van de conferentie,
dat (potentiële) toepassingen van AI in het militaire domein legio zijn. Het voorbeeld
van AI in besturingssystemen ten behoeve van data-analyse of Intelligence, Surveillance en Reconnaissance (ISR)-activiteiten werd gebruikt in een fictief filmscenario dat tijdens de plenaire
onderdelen op een groot scherm werd getoond. Dit filmscenario maakte de dilemma’s,
kansen en risico’s, en daaruit voortkomende vraagstukken van AI in het militaire domein
tastbaar en concreet. Het scenario verbond de verschillende onderdelen van REAIM en
vormde de inleiding voor de plenaire paneldiscussies met vooraanstaande vertegenwoordigers
uit alle stakeholdergroepen. Het filmscenario vormde tevens de omlijsting van de overige
onderdelen van de conferentie.

Voor de mensen die niet in staat waren naar Den Haag te komen waren alle plenaire
sessies, een aantal live talkshows en een deel van de break-out sessies en presentaties
integraal op YouTube te volgen en deze zijn daar ook nu nog terug te zien.

REAIM – Resultaten

REAIM heeft een aantal concrete resultaten opgeleverd. Allereerst hebben meer dan
50 regionaal diverse landen1 zich aangesloten bij de REAIM Call to Action, waaronder de twee belangrijkste spelers op dit terrein, de VS en China. Daarmee
is het doel een brede mondiale dialoog te starten bereikt. Om uiteindelijk te komen
tot effectieve internationale regulering is die brede dialoog essentieel. De Call to Action is tot stand gekomen op basis van de consultaties met een groep landen uit alle regio’s
die de afgelopen anderhalf jaar betrokken zijn bij de voorbereiding van REAIM. Ook
weerspiegelt de Call to Action de opbrengsten van gesprekken met het bedrijfsleven, academici en het maatschappelijk
middenveld. De Call to Action roept onder andere op de dialoog over verantwoorde militaire AI op inclusieve wijze
en met inbegrip van alle betrokken stakeholders voort te zetten en roept die stakeholders
op verantwoordelijkheid te nemen en bij te dragen aan internationale veiligheid en
stabiliteit in lijn met internationaal recht. Ook worden staten opgeroepen om te werken
aan een algehele kennisopbouw van AI in het militaire domein door onder andere het
steunen van onderzoek en het trainen van medewerkers. Tevens worden staten uitgenodigd
eigen nationale strategieën te ontwikkelen over verantwoord militair gebruik van AI.
Een brede groep landen heeft zich hiermee gecommitteerd aan een proces dat ervoor
moet zorgen dat de inzet van AI in het militaire domein op een verantwoorde manier
plaatsvindt. De Minister van Defensie onderschreef het positieve resultaat van de
breed gesteunde Call to Action tijdens de plenaire sluiting van REAIM en benadrukte
het belang van AI voor een slagkrachtige en relevante defensieorganisatie. Het kabinet
beschouwt de Call to Action als een belangrijke eerste stap om zo veel mogelijk landen en andere stakeholders
te betrekken bij de internationale agendavorming op dit thema en als brede basis voor
verdergaande gesprekken over internationale kaders voor verantwoorde toepassing van
AI in het militaire domein.

Daarnaast is tijdens REAIM een Global Commission on Responsible AI in the Military Domain aangekondigd die aan een strategisch advies zal werken dat ziet op het formuleren
van kaders en regulering van AI in het militaire domein. De Commissie zal bestaan
uit een internationale groep van vooraanstaande personen die kennis en ervaring vanuit
verschillende sectoren (politiek, beleid, academisch, bedrijfsleven, maatschappelijke
organisaties) en regio’s, ondersteund door een groep van academische experts. In overleg
met Zuid-Korea wordt de samenstelling en de opdracht van de Global Commission verder gespecificeerd.

Co-host Zuid-Korea kondigde aan het einde van het politieke segment aan de volgende
REAIM Summit te organiseren. Nederland is met Zuid-Korea in overleg over de exacte
datum en de vervolgstappen richting de volgende conferentie. Dat Zuid-Korea de volgende
REAIM zal organiseren zorgt ervoor dat verantwoorde AI in het militaire domein op
de politieke agenda blijft staan en is een stimulans voor regionale betrokkenheid
en de mondiale dialoog op dit belangrijke thema.

Binnen het Academische Forum van REAIM hebben verschillende internationale universiteiten,
in samenwerking met de Technische Universiteit Delft, het belang benadrukt van de
ontwikkel- en ontwerpfase van AI-toepassingen. Aandacht moet uitgaan naar de ontwerp
en ontwikkelfase van AI om ook bij te dragen aan regulering achteraf. Een transdisciplinaire
aanpak is cruciaal. Validatie, verificatie en testen van AI in allerlei omgevingen
en use cases is noodzakelijk omdat context, ook voor wat betreft begrippen als verantwoordelijkheid
en aansprakelijkheid, een belangrijke factor is. Een Call for Papers heeft geleid tot een zgn. topical collection waarin diverse zienswijzen en oplossingsrichtingen naar voren worden gebracht. Na
editorial review is in maart 2023 een selectie van wetenschappelijke artikelen gepubliceerd
in het tijdschrift Ethics and Information Technology. Daarnaast zal begin 2024 een boek verschijnen met als titel Responsible Use of AI in Military Systems. De hoofdstukken in dit boek zijn geschreven door experts die aanwezig waren op een
expert workshop die Defensie in aanloop naar REAIM heeft georganiseerd.

In de zogenaamde Responsible Innovation Hub demonstreerden bedrijven en onderzoeksinstellingen hoe zij omgaan met verantwoorde
innovatieprocessen en maakten militaire toepassingen van AI tastbaar. De «Serious AI Game» die gericht was op masterstudenten trok veel aandacht van beleidsmakers en militairen.
De simulatie heeft het begrip van militair gebruik van AI vergroot en bijgedragen
aan een gezamenlijk beeld van de uitdagingen bij militaire inzet van AI.

REAIM – Vervolgacties

Met REAIM heeft het kabinet met een diverse groep landen en andere stakeholders zoals
kennisinstellingen, maatschappelijk middenveld en industrie, een concrete stap gezet
op dit thema. Het uiteindelijke doel is te komen tot internationale afspraken over
normatieve kaders op militaire toepassingen van AI op basis van het bestaande internationaal
recht. Met dit als overkoepelende doelstelling, zet het kabinet het komende jaar in
op concretisering van de Call to Action en de inrichting van de Global Commission.

Op basis van de Call to Action zal Nederland verschillende regionale trainingen door het Centre for Humanitarian Dialogue over militair gebruik van AI financieren. Deze train-the-trainer workshops zijn gericht op overheidsmedewerkers in de regio werkzaam op AI in het
veiligheidsdomein. De trainingen dragen enerzijds bij aan het begrip over de mogelijkheden
en de risico’s van AI in het militaire domein en welke internationale regels en wetten
op dit moment gelden. Anderzijds helpen deze trainingen bij de internationale capaciteitsopbouw
op dit onderwerp.

Het kabinet acht het van groot belang om het momentum van REAIM vast te houden en
uit te bouwen. Nederland zal daarom de landen die, op basis van verschillende afwegingen,
nog niet in staat waren zich bij de REAIM Call to Action aan te sluiten, blijven betrekken bij verder te zetten stappen.

Door de organisatie van verschillende regionale bijeenkomsten met andere landen wil
het kabinet het komende jaar bij blijven dragen aan het vergroten van het begrip en
de kennis van de dilemma’s, kansen en risico’s van de toepassing van AI in het militaire
domein, en het gesprek voeren over het belang van internationale afspraken hieromtrent.
Deze regionale consultaties dragen ook weer bij aan de verdere uitwerking van de agenda
voor de tweede REAIM Summit in Zuid-Korea.

De Call to Action roept landen op een nationale militaire AI-strategie op te stellen. Defensie heeft
een eigen nationale Data Science en AI Strategie en zal komend jaar blijven werken aan de verdere uitwerking van beleid op algoritmes.
Nederland zal ook andere landen blijven aanmoedigen een dergelijke strategie op het
gebruik van AI en data in het militaire domein op te stellen.

Diverse betrokken partijen en deelnemers hebben het belang van de multi-stakeholder
aanpak benadrukt. Met deze aanpak heeft REAIM bijgedragen aan het delen van kennis,
het vergroten van contacten tussen verschillende typen stakeholdergroepen en het creëren
van een gedeeld beeld van de mogelijkheden en uitdagingen die AI met zich meebrengt
in het militaire domein. Nederland blijft daarom ook in de vervolgstappen inzetten
op actieve betrokkenheid van bedrijven, universiteiten, denktanks, maatschappelijke
organisaties en internationale organisaties uit landen wereldwijd.

REAIM – relatie autonome wapensystemen

Met REAIM heeft het kabinet het initiatief genomen een internationale dialoog op gang
te brengen over de brede toepassing van AI in het militaire domein. Bij AI in het
militaire domein gaat het om meer dan alleen de eventuele toepassing van AI in autonome
wapensystemen, zoals de eerdergenoemde toepassing van AI in onder andere data-analyse,
beslisondersteuning en Intelligence, Surveillance, en Reconnaissance (ISR) activiteiten
ten behoeve van militaire operaties. Daarmee is REAIM breder dan het mandaat van de
Group of Governmental Experts van de VN over autonome wapensystemen (hierna: CCW/GGE LAWS) en biedt REAIM geen alternatief
platform voor formeel overleg of besluitvorming op dat onderwerp. Wel zijn de resultaten
van REAIM goed verenigbaar met de inzet van Nederland in de CCW/GGE LAWS.

Het kabinet heeft in zijn reactie op het AIV/CAVV advies2 een standpunt ingenomen ten aanzien van autonome wapensystemen. Uitgangspunt is dat
wapensystemen met autonome kenmerken te allen tijde conform het internationaal recht
moeten worden gebruikt en dat daartoe het oordeelsvermogen van de mens bij de inzet
van deze wapensystemen behouden moet blijven.3 Het kabinet blijft zich inzetten voor een internationaal verbod op autonome wapensystemen
die niet in lijn met het internationaal recht kunnen worden ingezet en op regulering
van overige wapensystemen met autonome kenmerken in VN-verband.

De Minister van Buitenlandse Zaken,
W.B. Hoekstra

De Minister van Defensie,
K.H. Ollongren