Brief regering : Reactie op de motie van het lid Van Ginneken c.s. over zorgen dat het Europese voorstel geen encryptiebedreigende chatcontrol bevat (Kamerstuk 26643-1011)

Nr. 1043
BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 28 juni 2023

Op 9 mei jongstleden (Handelingen II 2022/23, nr. 78, item 23) nam uw Kamer de motie-Van Ginneken c.s. aan.1 De motie verzoekt de regering ervoor te zorgen dat een door de Europese Commissie
voorgestelde concept-Verordening over het tegengaan van online seksueel kindermisbruik
geen chatcontrol of client-side scanning bevat en anders het voorstel voor de Verordening niet te steunen. Deze motie richt
zich hiermee op de vertrouwelijkheid van communicatie, en vooral op het zogeheten
detectiebevel dat in de concept-Verordening wordt voorgesteld.

Zoals tijdens de stemmingen op 9 mei verzocht door het lid Van Ginneken, informeer
ik uw Kamer met deze brief over de uitvoering van deze motie. Het kabinet heeft alles
afwegende besloten aan de motie geen uitvoering te geven. Door middel van deze brief
licht ik dat besluit toe.

Deze beslissing is niet licht genomen. Het kabinet is geen voorstander van het detectiebevel
in zijn huidige vorm en de zorgen die aan de motie ten grondslag liggen, zijn ook
die van het kabinet. Het opleggen van een detectiebevel, waarbij beeldmateriaal van
individuele burgers in de privésfeer wordt gescand, heeft grote gevolgen voor fundamentele
grondrechten, waaronder de bescherming van de persoonlijke levenssfeer en het communicatiegeheim.

Echter, tegen de achtergrond van de duizelingwekkende aantallen waarmee online beeldmateriaal
van seksueel kindermisbruik rondgaat, zijn extra maatregelen tegen het misbruik van
bepaalde diensten voor de verspreiding van dit beeldmateriaal hard nodig, juist ook
om de grondrechten van kinderen te beschermen. Een aanzienlijk deel van het nu al
gemelde materiaal wordt namelijk nog steeds niet of niet tijdig verwijderd. Ook wordt
gesignaleerd dat verspreiding van dit materiaal in toenemende mate gebeurt via zogeheten
«interpersoonlijke communicatiediensten», zoals Whatsapp en Signal. Het detectiebevel
biedt bovendien de mogelijkheid om niet alleen op meldingen van gesignaleerd online
seksueel kindermisbruik te reageren, maar ook om op een strikt gereguleerde wijze proactief inzichtelijk te maken welke diensten daarvoor kwetsbaar zijn en daarnaar in voorkomende
gevallen te kunnen handelen. Het kabinet ziet en deelt de noodzaak om aanvullende
maatregelen te nemen om dit materiaal te onderkennen en stelt daarbij voorop dat steeds
een balans moet worden gevonden tussen het belang van het tegengaan van de verspreiding
van dit materiaal en de inbreuk die daarmee wordt gemaakt op de grondrechten die aan
de orde zijn.

Huidige voorstel

Het huidige voorstel van de Europese Commissie bevat verschillende verplichtingen
voor hostingdiensten en interpersoonlijke communicatiediensten om misbruik van dergelijke
diensten voor de verspreiding van beeldmateriaal van seksueel kindermisbruik tegen
te gaan. Zo worden dienstverleners in het huidige voorstel verplicht onderzoek te
doen naar het risico dat de eigen diensten worden gebruikt voor de verspreiding van
online seksueel misbruik van kinderen en, indien nodig, risicobeperkende maatregelen
te nemen. Ook zijn in het huidige voorstel verplichtingen opgenomen ten aanzien van
het door deze bedrijven detecteren, verwijderen, blokkeren en ontoegankelijk maken
van dit materiaal.

Met de mogelijkheid tot het uitvaardigen van een detectiebevel, opgenomen in artikel
7 van de concept-Verordening, wordt een bevoegdheid in het leven geroepen om bedrijven
te verplichten om in hun diensten materiaal van seksueel kindermisbruik te detecteren.
Bedrijven kunnen zelf bepalen welke technologieën zij hiertoe gebruiken. Het uitvaardigen
en uitvoeren van een detectiebevel wordt in het voorstel van de Europese Commissie
aan voorwaarden gebonden. Zo is het detectiebevel in de regel pas aan de orde als
de verplichte risicoanalyse, en de naar aanleiding daarvan genomen risicobeperkende
maatregelen, te weinig hebben opgeleverd en een significant risico blijft bestaan
dat de desbetreffende dienst wordt gebruikt voor de verspreiding van online seksueel
kindermisbruik. Het detectiebevel zou enkel als «last resort» ingezet moeten worden:
een middel dat pas in zicht komt als andere maatregelen niet hebben gewerkt. Nederland
zet zich ervoor in om dit zo duidelijk mogelijk in de verordening op te nemen.

Het detectiebevel is een maatregel die inbreuk maakt op verschillende grondrechten.
Ik benadruk graag dat Nederland geen voorstander is van het voorstel voor het detectiebevel
in zijn huidige vorm. In het huidige voorstel betreft het detectiebevel ook het opsporen
van onbekend materiaal van seksueel kindermisbruik en grooming («online kinderlokkerij»), ook ten aanzien van interpersoonlijke communicatiediensten.
Daarvoor moeten technologieën worden gebruikt met een grote kans op een relatief hoog
percentage vals-positieve uitkomsten (materiaal dat achteraf geen materiaal van seksueel
misbruik blijkt te zijn, waarmee mensen ten onrechte in verband worden gebracht met
de verspreiding van dit materiaal). Nederland acht het huidige voorstel onder andere
op deze onderdelen disproportioneel in het licht van de grondrechten die hier in het
geding zijn en acht daarom de hieruit voortvloeiende inbreuk op die grondrechten niet
gerechtvaardigd. Het gaat dan onder meer om het recht op eerbiediging van de persoonlijke
levenssfeer en het recht op eerbiediging van het brief- en telecommunicatiegeheim,
opgenomen in respectievelijk artikel 10 en artikel 13 van de Grondwet.

Inzet Nederland ten aanzien van de concept-Verordening

De onderhandelingen zijn nog niet afgelopen, en de Nederlandse inzet is erop gericht
om tot een Verordening te komen waarmee ingestemd kan worden. Een detectiebevel kan,
indachtig alle waarborgen waarmee het detectiebevel volgens de Nederlandse inzet moet
worden omkleed, volgens het kabinet worden gerechtvaardigd indien dat zich beperkt
tot het scannen van bestaand materiaal van beeldmateriaal van seksueel kindermisbruik.
Ook in die gevallen wordt inbreuk gemaakt op genoemde grondrechten, maar acht ik die
inbreuk proportioneel en gerechtvaardigd. Daarbij heb ik het nut en de noodzaak van
het instrument – het effectief bestrijden van online materiaal van seksueel kindermisbruik
– afgewogen tegen de inbreuk die op de betreffende grondrechten wordt gemaakt. In
het bijzonder is in dit kader van belang dat het detectiebevel ten aanzien van bestaand
materiaal kan worden uitgevoerd op een wijze die proportioneel is.

Die proportionaliteit hangt onder andere samen met het risico op vals-positieve uitkomsten.
Een werkwijze die ik hierbij – onder voorwaarden – proportioneel acht, is het gebruik
van zogeheten «hashing-technologie», waarbij het gevonden materiaal op basis van hashes wordt «gematcht» met hashes in een database met geverifieerd materiaal van online seksueel kindermisbruik. Deze
technologie heeft zich de afgelopen jaren bewezen en kan worden ingezet op een wijze
die gekenmerkt wordt door een zeer hoge mate van betrouwbaarheid.

Voorop staat wel ook dat het detectiebevel alleen kan worden uitgevoerd op een wijze
die end-to-endencryptie niet onmogelijk maakt, conform de in juli 2022 (Handelingen
II 2021/22, nr. 100, item 28) aangenomen motie-Van Raan c.s..2 Het gebruik van client-side scanning blijkt daarbij noodzakelijk en de enige technische manier om het bevel ten aanzien
van interpersoonlijke communicatiediensten uit te voeren op een manier die end-to-endencryptie
niet onmogelijk maakt. Omdat bij het gebruik van client-side scanning het communicatiegeheim moet worden gewaarborgd, vind ik wel dat zeer kritisch moet
worden bezien welke nadere waarborgen aan het bevel moeten worden verbonden, met name
ten aanzien van de vraag wat er met gedetecteerde informatie moet gebeuren.

Tijdens de onderhandelingen in Brussel is de Nederlandse inzet gericht op het in dit
voorstel goed borgen van de grondrechten en het voorkomen dat grondrechten onevenredig
zwaar worden ingeperkt, in samenwerking met like minded-landen. Tegelijkertijd streef ik naar een Verordening die lidstaten, waaronder Nederland,
in staat stelt om een volgende slag te slaan tegen de verspreiding van online materiaal
van seksueel kindermisbruik. Aangezien de door het lid Van Ginneken c.s. ingediende
motie geen ruimte laat voor de reeds beperkte inzet van Nederland ten aanzien van
het detectiebevel, zoals hierboven beschreven, is het uitvoeren daarvan niet wenselijk.
Ik hoop dat deze brief wel in voldoende mate uitdrukt dat de zorgen die aan de motie
ten grondslag liggen, ook die van het kabinet zijn. En dat het kabinet die zorgen
in Brussel zal blijven uitdragen en adresseren.

De Minister van Justitie en Veiligheid,
D. Yeşilgöz-Zegerius