Antwoord schriftelijke vragen : Antwoord op vragen van het lid Hammelburg over de voortgang richting een verbod op volledige autonome wapensystemen en de daar aan gelieerde, door de regering georganiseerde, conferentie 'Responsible AI in the Military Domain Summit'

Antwoord van de Ministers Hoekstra (Buitenlandse Zaken) en Ollongren (Defensie) (ontvangen
11 april 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 2033.

Vraag 1

Bent u op de hoogte van de recente oproep van de oproep van Secretaris-Generaal António
Guterres aan de Algemene Vergadering van de Verenigde Naties om internationale limieten
op te stellen voor dodelijke autonome wapensystemen?1

Antwoord 1

Ja.

Vraag 2

Deelt u de mening dat ongecontroleerde kunstmatige intelligentie, in de vorm van killerdrones
of zwerm drones, zonder de juiste ethische en juridische kaders en zonder menselijke
aansturing een enorme bedreiging vormen voor Nederlandse en Europese veiligheid?

Antwoord 2

Het kabinet beschouwt deze vraag in het licht van de discussie over autonome wapensystemen.
Het kabinet acht wapensystemen met autonome kenmerken onmisbaar voor een technologisch
hoogwaardige en goed toegeruste krijgsmacht maar onderkent tegelijkertijd ook de risico’s
van deze systemen. Uitgangspunt is dat wapensystemen met autonome kenmerken te allen
tijde conform het internationaal recht moeten worden gebruikt en dat daartoe het oordeelsvermogen
van de mens bij de inzet van deze wapensystemen behouden moet blijven. Wapensystemen
die niet conform het internationaal recht kunnen worden gebruikt moeten expliciet
worden verboden.

Vraag 3

Deelt u de mening dat het zorgwekkend is dat er zoveel jaar na de opkomst van autonome
wapensystemen nog steeds geen concrete internationale afspraken zijn, zeker gezien
de technologie zich ondertussen in rap tempo door blijft ontwikkelen?

Antwoord 3

Het kabinet is het eens met de vaststelling dat de technologie op dit terrein zich
snel ontwikkelt en dat internationale afspraken wenselijk zijn. Het kabinet ziet de
onderhandelingen over internationale afspraken over autonome wapens in de Group of
Governmental Experts (GGE) on Lethal Autonomous weapon Systems (LAWS) die is opgericht
in het kader van de Convention on Certain Conventional Weapon (CCW) als een prioriteit.
Ondanks het gecompliceerde internationale krachtenveld ziet het kabinet mogelijkheden.
Nederland zet zich hiervoor in, onder andere door het organiseren van REAIM.

Vraag 4 en 5

Kunt u de Kamer updaten over de toezegging van het kabinet in reactie op de initiatiefnota
van het lid Belhaj over Autonome Wapensystemen om zich onverminderd in te spannen
om internationale consensus te bereiken over betekenisvolle menselijke controle? Wat
heeft u sindsdien diplomatiek ondernomen om internationale consensus betreffende betekenisvolle
menselijke controle te bevorderen?

Op 17 juni 2022, in reactie op het adviesrapport over autonome wapensystemen van de
AIV en de CAVV, stelde u dat de regering het advies om te streven naar een internationaal
verbod op volledig autonome wapens volledig overnam. Kunt u de Kamer informeren over
dit proces? Wat onderneemt u om te komen tot een internationaal verbod?

Antwoord 4 en 5

Tot op heden bestaat internationaal geen overeenstemming over de invulling van de
term «betekenisvolle menselijke controle». Kerndoel van het kabinet is het behoud
van menselijk oordeelsvermogen bij de inzet van wapensystemen met autonome kenmerken,
zodat deze conform het internationaal recht kunnen worden gebruikt. Wapensystemen
die niet in lijn met het internationale recht kunnen worden ingezet dienen expliciet
te worden verboden. Overige autonome wapensystemen dienen te worden gereguleerd.

In de initiatiefnota van het lid Belhaj (D66) over Autonome Wapensystemen (Kamerstuk
35 848, nr. 2) roept de initiatiefneemster het kabinet op tot een internationaal verdrag dat menselijke
controle bij autonome wapensystemen garandeert en volledig autonome wapensystemen
verbiedt. Zoals echter ook benoemt in de kabinetsreactie op het adviesrapport van
de AIV en CAVV (Kamerstuk 35 925-X, nr. 90) bestaat er tot op heden geen overeenstemming over een internationale definitie van
een «autonoom wapensysteem», noch over het onderscheid tussen volledige en gedeeltelijke
autonomie. Over het gebruik en de inhoud van de term «betekenisvolle menselijke controle»,
die centraal staat in het adviesrapport, bestaat ook geen consensus. Verder bestaat
er geen overeenstemming over de noodzaak van een verbod op (volledig) autonome wapensystemen.
Het kabinet zet zich op verschillende manieren in om overeenstemming te bereiken over
definities en een internationaal verbod op autonome wapensystemen die niet in lijn
met het internationaal recht kunnen worden ingezet en verdere regulering van overige
wapensystemen met autonome kenmerken. Ondanks de complexe besluitvorming binnen de
CCW, blijft het kabinet zich actief en constructief inzetten tijdens internationale
onderhandelingen over autonome wapensystemen in de CCW/GGE LAWS, onder andere door
de overeenkomsten tussen verschillende voorstellen en standpunten uit te lichten,
toenadering te zoeken tot andere landen en zo breed mogelijke coalities te vormen.
Nederland was medeondertekenaar van een verklaring van 70 landen in de Eerste Commissie
van de Verenigde Naties in september 2022 over autonome wapensystemen. Om toenadering
te bevorderen neemt Nederland actief deel aan verschillende internationale conferenties
en bijeenkomsten over autonome wapensystemen, zoals de regionale conferentie over
autonome wapens in San Jose, Costa Rica op 23 en 24 februari 2023. Zoals beschreven
in het antwoord op vraag 6 organiseerde Nederland op 15 en 16 februari de REAIM Summit
over het bredere gebruik van AI in het militaire domein.

Vraag 6

Waarom heeft u, gezien de politieke urgentie en de gevaren die schuilgaan in kunstmatige
intelligentie, niet voor een politieke uitkomst van deze conferentie gekozen waarin
deelnemende landen zich politiek committeren aan een verbod op volledige autonome
wapens en een sterke regulering van kunstmatige intelligentie in de defensie-industrie?

Antwoord 6

Het kabinet heeft met REAIM gekozen voor een brede en inclusieve aanpak. De inzet
van REAIM was om het onderwerp van «verantwoorde AI in het militaire domein» hoger
op de internationale politieke agenda te zetten en het begrip over dit onderwerp te
vergroten, om hiermee op termijn een bijdrage te leveren aan sterkere regulering ervan.
Met de aanwezigheid van 80 landendelegaties, 2.000 deelnemers uit meer dan 100 landen,
bedrijven, academische instellingen en NGOs is dat doel ruimschoots behaald. Daarnaast
kondigde Zuid-Korea aan een volgende REAIM Summit te organiseren. Over de resultaten
van REAIM en verdere vervolgstappen wordt uw Kamer zo spoedig mogelijk geïnformeerd.

Het kabinet heeft tijdens REAIM ingezet op een «Call to Action» waarmee een brede groep landen zich committeert aan een proces dat ervoor moet zorgen
dat de inzet van AI in het militaire domein op een verantwoorde manier plaatsvindt.
Er hebben zich bijna 60 landen bij de Call to Action aangesloten, waaronder de belangrijkste
investeerders de VS en China.

Deze Call to Action is goed verenigbaar met het streven van het kabinet zich in internationaal
verband in te spannen voor een verbod en een concretisering van de regels die van
toepassing zijn op de inzet van autonome wapensystemen. Het kabinet blijft zich inzetten
voor een internationaal verbod op autonome wapensystemen die niet in lijn met het
internationaal recht kunnen worden ingezet en regulering van overige wapensystemen
met autonome kenmerken in VN-verband (CCW/GGE LAWS). Zoals ook beantwoord bestaat
er op dit moment slechts een beperkt draagvlak voor onderhandelingen over een verbod
en regulering van autonome wapensystemen buiten de CCW/GGE LAWS. Ook zijn alle militaire
grootmachten aangesloten bij de CCW. Het is zeer de vraag of een nieuw protocol of
verdrag over autonome wapensystemen zonder deze landen effectief kan zijn.

Vraag 7

Bent u bereid zich harder uit te spreken voor een internationaal verbod op volledig
autonome wapensystemen en hier diplomatiek intensief werk van maakt?

Antwoord 7

Zoals in antwoord op vraag 4 en 5 aangegeven, spreekt het kabinet zich uit voor en
wordt diplomatiek ingezet op een internationaal verbod op autonome wapensystemen die
niet in lijn met het internationale recht kunnen worden ingezet en regulering van
overige wapensystemen met autonome kenmerken.