Brief regering : Uitzondering registratieplicht voor rechtshandhaving in de AI Verordening

29 911
Bestrijding georganiseerde criminaliteit

Nr. 251
BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 1 december 2022

Naar aanleiding van het twee-minutendebat van 30 november 2022 (Handelingen II 2022/23,
nr. 29, Tweeminutendebat Telecomraad 6 december 2022) heeft de Minister van Economische
Zaken en Klimaat mij gevraagd om nader in te gaan op de uitzonderingen in de registratieplicht
van hoog risico AI toepassingen voor rechtshandhaving in de AI-verordening.

Nederland heeft ingezet op het uitbreiden van de registratieplicht voor het gebruik
van hoog-risico AI-systemen door overheden. Deze verplichting gold eerst alleen voor
de ontwikkeling ervan door aanbieders van hoog-risico AI-systemen. Hiermee is in lijn
met de wens van de Kamer een belangrijke stap gezet.

De AI-verordening maakt een uitzondering voor rechtshandhaving. Dat betekent concreet
dat hoog-risico AI-systemen die worden ingezet ten behoeve van de rechtshandhaving
niet hoeven te worden geregistreerd. Ondanks dat deze uitzondering nu erg breed is
geformuleerd, en naar mijn oordeel kan worden beperkt tot bepaalde gevallen, is deze
uitzondering in die bepaalde gevallen wel noodzakelijk. Dit komt omdat het geven van
transparantie over AI-systemen die worden ontwikkeld voor een specifiek onderzoek,
ertoe kan leiden dat dit onderzoek onmogelijk wordt gemaakt doordat criminelen inzicht
hebben in de gehanteerde werkwijze en tactiek en de wijze waarop dit in de toepassing
van AI-systemen is verdisconteerd. Het zou dan bijvoorbeeld kunnen gaan om een AI-systeem
die specifiek wordt ontwikkeld voor en ter voorbereiding op een bepaalde – grote –
zaak om patronen te ontdekken in de data die daarover wordt verzameld, bijvoorbeeld
door middel van telefoontaps of inbeslagname van digitale gegevensdragers. Of dat
de politie en het Openbaar Ministerie in staat zijn om criminele netwerken en samenwerkingsverbanden
te identificeren met bepaalde technieken. Indien dergelijke AI-toepassingen direct
moeten worden geregistreerd zou deze informatie de personen over wie dit onderzoek
gaat een aanleiding kunnen geven om bijvoorbeeld hun communicatie te stoppen of hun
criminele strategie te wijzigen waardoor het opsporingsbelang in het geding kan komen.
In dat geval zou een registratieplicht een lopend onderzoek kunnen dwarsbomen. Voor
dit type gevallen, waarbij een registratieplicht van een AI-systeem een afzonderlijk
opsporingsonderzoek kan dwarsbomen zijn uitzonderingen noodzakelijk. Zodra het onderzoek
is afgerond zou hier volgens het kabinet, afhankelijk van de toepassing, wel registratie
mogelijk zijn, tenzij dit het opsporingsbelang in andere onderzoeken hindert. Voor
deze aanscherping op de uitzondering heeft het kabinet de afgelopen periode gepleit.
Ik zal mij daar ook in het vervolg van het onderhandelingsproces voor blijven inzetten.

De uitzondering die wordt gemaakt is dus in bepaalde gevallen noodzakelijk, maar moet
tegelijkertijd niet ruimer zijn dan noodzakelijk. Daarom heeft het kabinet er richting
de raadsconclusies voor gepleit om deze uitzondering te beperken tot de gevallen waarin
dat noodzakelijk is met het oog op de voorkoming, het onderzoek, de opsporing en de
vervolging van strafbare feiten of de tenuitvoerlegging van straffen. Daarnaast heeft
het kabinet gepleit om dit ook in tijd te beperken: alleen zolang als dat noodzakelijk
is in het kader van het opsporingsbelang. Daarna zou het AI-systeem volgens het kabinet
in voorkomende gevallen alsnog moeten worden geregistreerd, mits dit niet het opsporingsbelang
in andere (toekomstige) onderzoeken hindert.

Het geheel of gedeeltelijk verwijderen van een uitzonderingsmogelijkheid voor rechtshandhaving
vind ik niet wenselijk. Een verplichting om ook AI-systemen die worden ontwikkeld
voor specifieke onderzoeken kan er toe leiden dat deze zaken niet worden opgelost,
en dat de politie in dat soort gevallen geen gebruik meer kan maken van dergelijke
technologie. Wel zal ik mij blijven inspannen voor het beperken van de uitzondering,
zoals hierboven geschetst.1

De Minister van Justitie en Veiligheid,
D. Yeşilgöz-Zegerius