Brief regering : Reactie op verzoek commissie over uitvragen verboden AI-systemen

Nr. 1326
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 17 maart 2025

In reactie op het verzoek van de vaste Kamercommissie Digitale Zaken inzake een uitvraag
naar verboden AI-systemen1 van 5 februari jl., informeer ik u hierbij over de uitvraag met betrekking tot mogelijke
verboden AI-systemen, die is gedaan bij ministeries en organisaties die vallen onder
de ministeriële verantwoordelijkheid.

Verboden AI-praktijken

De Europese AI-verordening (hierna: AI-verordening) verbiedt vanaf 2 februari 2025
AI-praktijken die een onaanvaardbaar risico vormen voor fundamentele rechten, gezondheid
en veiligheid, zoals manipulatieve AI en social scoring. Departementen zijn in dit
stelsel zelf verantwoordelijk voor de naleving van de AI-verordening en de borging
hiervan binnen de eigen organisatie.

Uitvraag vanuit CIO rijk

Begin november 2024 heeft CIO Rijk een formeel informatieverzoek (hierna: uitvraag)
gedaan aan departementale Chief Information Officers (CIO’s) om informatie aan te
leveren over de AI-systemen die onder de verboden AI-praktijken, zoals gedefinieerd
in artikel 5 van de AI-verordening vallen (hierna: verboden AI-systemen). Ik heb zelf
een coördinerende taak richting de departementen en ben daarbij kaderstellend, voorts
ondersteunend, en waar nodig aanjagend. De reikwijdte van dit verzoek besloeg het
gehele departement, inclusief ressorterende uitvoeringsorganisaties, agentschappen,
inspecties en ZBO’s die onder de verantwoordelijkheid van het betreffende ministerie
vallen.

Ter ondersteuning van de inventarisatie heeft CIO Rijk een handreiking opgesteld en
verstrekt met leidraad voor het identificeren en classificeren van AI-systemen. Op
basis van deze handreiking is departementaal een afweging gemaakt of er wel of niet
verboden AI-systemen worden gebruikt.

In de uitvraag werden de volgende vragen gesteld:

• Hoeveel en welke AI-systemen worden er in de organisatie gebruikt die onder de verboden
AI-praktijen vallen?

• Welke verboden AI-systemen waren in productie/gebruik maar zijn inmiddels uitgeschakeld?

• Welke verboden AI-systemen zijn in gebruik, maar vallen onder een van de uitzonderingsgronden?
Geef een korte motivatie waarom deze AI-systemen onder de uitzonderingsgrond vallen.

• In welke bedrijfsprocessen zitten de verboden systemen? (bijvoorbeeld in de uitvoeringsketen).

Stopgezette systemen

Departementen hebben in de aangeleverde gegevens gemeld dat binnen het eigen ministerie,
of binnen ressorterende organisaties die onder de ministeriële verantwoordelijkheid
vallen, géén gebruik wordt gemaakt van AI-systemen die onder de verboden AI-praktijken
van artikel 5 AI-verordening vallen. Daarnaast zijn er geen systemen gemeld die in
gebruik waren en als gevolg van de inventarisatie zijn stopgezet.

Beperkingen in het overzicht van onderzochte AI-systemen

De uitvraag (zie opsomming hierboven) vroeg departementen alleen om verplicht informatie
aan te leveren wanneer een systeem daadwerkelijk onder de verboden AI-praktijken viel
of wanneer er sprake was van een uitzonderingsgrond. Aangezien uit de aangeleverde
informatie bleek dat geen van de geïnventariseerde AI-systemen als verboden AI-systeem
is geclassificeerd, is er geen verdere informatie over functies verzameld. Als gevolg
hiervan is er geen centraal en volledig overzicht beschikbaar van alle onderzochte
systemen en hun functies. Ik hoop hiermee uw Kamerverzoek beantwoord te hebben.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
F.Z. Szabó