Memorie van toelichting : Memorie van toelichting
36 377 Regels over een bestuursrechtelijke aanpak van online kinderpornografisch materiaal (Wet bestuursrechtelijke aanpak online kinderpornografisch materiaal)
Nr. 3
MEMORIE VAN TOELICHTING
ALGEMEEN DEEL
1
1.
Inleiding
1
2.1
Aanleiding
3
2.2
Hoofdlijnen van het voorstel
4
2.3.
Verhouding tot het strafrecht
6
3
Maatregelen en sancties
8
3.1
Aanwijzing
8
3.2
Zorgplicht
13
3.3
Last onder dwangsom
15
3.4
Bestuurlijke boete
16
3.5
Openbaarmaking bestuurlijke boete
17
4.
De Autoriteit
18
4.1
Een zelfstandig bestuursorgaan
18
4.2
Vormgeving
20
4.3
Taken en positionering
21
4.4
Samenloop met uitvoering van verordening 2021/784/EU
24
5.
Grondrechten
27
5.1
Vrijheid van meningsuiting
27
5.2
Vrijheid van ondernemerschap
30
5.3
Verwerking van persoonsgegevens
31
6.
Verhouding tot overige regelgeving
34
6.1
Richtlijn inzake elektronische handel
34
6.2
Verordening netneutraliteit
35
6.3
Richtlijn kindermisbruik
35
6.4
Verordening 2021/1232 betreffende een tijdelijke afwijking van sommige bepalingen
van Richtlijn 2002/58/EG
36
6.5
Voorstel voor een Verordening aanpak seksueel kindermisbruik
37
7.
Financiële gevolgen, MKB-toets en regeldruk
37
7.1
Financiële gevolgen
37
7.2
MKB-toets
38
7.3
Regeldruk
39
8.
Uitgebrachte adviezen
43
ARTIKELSGEWIJS DEEL
50
ALGEMEEN DEEL
1. Inleiding
Seksueel kindermisbruik is één van de meest verwoestende vormen van criminaliteit.
Een slachtoffer krijgt opnieuw pijn te verduren als beelden van het misbruik op internet
worden geplaatst en gedeeld. Daarom moet niet alleen het misbruik zelf worden tegengegaan,
maar ook het verspreiden van beelden daarvan.
In Nederland wordt meer kinderpornografisch materiaal via het internet verspreid dan
in enig ander Europees land. Dat komt mede door de combinatie van een uitstekende
digitale infrastructuur en de sleutelrol in het wereldwijde internet die Nederland
vervult. De bestaande zelfregulering en strafrechtelijke aanpak hebben deze verspreiding
niet voldoende verminderd. De snelheid waarmee dit materiaal via het internet wordt
verspreid, de groei in het aantal meldingen daarover en de weigering van een aantal
tussenpersonen om tegen online kinderpornografisch materiaal op te treden, noopt daarom
tot een aanvullend instrumentarium, specifiek toegesneden op de bestrijding van dit
type materiaal.
Dit wetsvoorstel is erop gericht het Nederlandse internet te schonen van online kinderpornografisch
materiaal. Het wordt mogelijk om middels een bestuursrechtelijk instrumentarium op
te treden tegen aanbieders van communicatiediensten, in het bijzonder aanbieders van
hostingdiensten, middels wier diensten online kinderpornografisch materiaal wordt
opgeslagen of doorgegeven. Het wordt mogelijk om aan deze aanbieders een bindende
aanwijzing te geven. De aanwijzing houdt het bevel in om online kinderpornografisch
materiaal binnen een korte termijn ontoegankelijk te maken, zodat het niet meer mogelijk
is om dit materiaal te benaderen. Naleving van deze verplichting kan worden afgedwongen
met een last onder dwangsom en een bestuurlijke boete. Voorts kunnen aanbieders van
hostingdiensten die regelmatig met online kinderpornografisch materiaal worden geconfronteerd
worden verplicht passende en evenredige maatregelen te treffen om de opslag en doorgifte
van dit materiaal te beperken.
De in dit wetsvoorstel voorgestelde taken en bevoegdheden worden geattribueerd aan
een nieuw zelfstandig bestuursorgaan.1 De oprichting van dit bestuursorgaan is reeds noodzakelijk in verband met de uitvoering
van Verordening 2021/784/EU van het Europees Parlement en de Raad van 29 april 2021
inzake het tegengaan van de verspreiding van terroristische online-inhoud (PbEU 2021,
L 172/89) (hierna: TOI-verordening).2 Dit wetsvoorstel sluit daarbij aan, zodat dit bestuursorgaan mede tot taak krijgt
online kinderpornografisch materiaal ontoegankelijk te maken.
Dit wetsvoorstel dient mede ter uitwerking van enkele toezeggingen aan de Tweede Kamer.
Met de brief van 7 februari 2018 is de Tweede Kamer geïnformeerd over verschillende
initiatieven voor de aanpak van online seksueel kindermisbruik.3 Eén van deze initiatieven was een onderzoek naar de mogelijkheden om middels het
bestuursrecht op te treden tegen aanbieders van hostingdiensten die ongewild betrokken
zijn bij de opslag of doorgifte van online kinderpornografisch materiaal, maar daar
niet (tijdig) tegen optreden. In diverse brieven zijn vervolgens de contouren van
de beoogde aanpak geschetst.4 Dit wetsvoorstel geeft tevens uitvoering aan enkele moties waarin wordt opgeroepen
tot een intensievere bestrijding van online kinderpornografisch materiaal en een strengere
aanpak van aanbieders die zich onvoldoende inspannen.5
Gelet op artikel 6 van de Kaderwet zelfstandige bestuursorganen (hierna: de Kaderwet)
is de Minister van Binnenlandse Zaken en Koninkrijksrelaties medeondertekenaar van
dit wetsvoorstel.
2. Aanleiding en inhoud
2.1 Aanleiding
De snelle toename van het aantal meldingen van kinderpornografisch materiaal op internet
is verontrustend. Het Expertisebureau Online Kindermisbruik (EOKM) geeft in haar jaarverslagen
een somber beeld. Sinds 2016 neemt het aantal meldingen over online kinderpornografisch
materiaal ieder jaar met bijna de helft toe. Dat blijkt uit het aantal meldingen van
dit type materiaal bij het Meldpunt Kinderporno, dat onderdeel is van het EOKM. In
2021 ontving het EOKM 413.748 meldingen, waarbij in 307.364 gevallen daadwerkelijk
kinderpornografisch materiaal werd aangetroffen. Van het totaal aantal bekeken webpagina’s
werd 89,75% in Nederland gehost. Ook bij de politie stijgt het aantal meldingen van
online kinderpornografisch materiaal snel, van ongeveer 3.000 in 2014 naar ruim 50.000
in 2022.
Vanzelfsprekend wordt ingezet op de strafrechtelijke opsporing en vervolging van diegenen
die kinderpornografisch materiaal produceren en verspreiden. Het blijft echter noodzakelijk
om ook op te treden tegen het kinderpornografische materiaal zelf, dat via het internet
wordt gedeeld en verspreid.
Vanuit internationaal perspectief speelt Nederland ongewild een grote rol in de verspreiding
van online kinderpornografisch materiaal. De internationale koepelorganisatie INHOPE,
waar meldpunten zoals het EOKM lid van zijn, plaatst Nederland in de top 2 van landen
waar kinderpornografisch materiaal op servers wordt opgeslagen. De belangrijkste oorzaak
hiervan is het knooppunt dat Nederland vormt voor het gehele Europese internet: mede
vanwege het gunstige vestigingsklimaat, de directe aansluiting op onderzeekabels tussen
de continenten en de goede digitale infrastructuur is Nederland een aantrekkelijk
land voor datacentra en hostingproviders. Sinds de jaren negentig staat hier de Amsterdam
Internet Exchange, een knooppunt dat internetproviders in Nederland en buitenlandse
partijen mondiaal met elkaar verbindt. De Exchange is uitgegroeid tot één van de grootste
internetknooppunten ter wereld, waardoor veel van het Europese internet via Nederland
loopt. Voor de Nederlandse economie is dit zo belangrijk dat het internetknooppunt
ook de derde mainport van Nederland wordt genoemd, na de Rotterdamse haven en luchthaven
Schiphol.
De combinatie van een uitstekende digitale infrastructuur en de sleutelrol in het
wereldwijde internet maakt dat ook ondernemingen die communicatiediensten, waaronder
hostingdiensten, aanbieden graag in en vanuit Nederland ondernemen. Op grote internationale
websites, zoals bij image hosters, worden dagelijks veel afbeeldingen en video’s geplaatst,
en hoewel dergelijke websites niet zijn bedoeld om kinderpornografisch materiaal te
delen, wordt dit type materiaal daar wel geplaatst. Een groot deel van deze websites
wordt gehost op Nederlands grondgebied. Dat schept een verantwoordelijkheid voor de
Nederlandse overheid om misbruik van internetvrijheden tegen te gaan.
Met een breed pakket aan maatregelen, waaronder voorliggende wettelijke maatregel,
wil het kabinet het internet beter en sneller schonen van kinderpornografisch materiaal.6 In dit kader mag niet onvermeld blijven dat in Nederland al veel goed gaat bij het
verwijderen van dit type materiaal. Dit komt doordat Koepelverenigingen van hostingbedrijven
en van digitale infrastructuur, telecombedrijven en internetbedrijven met het Ministerie
van Economische Zaken in 2008 al cruciale stappen hebben gezet in het verwijderen
van ongewenst en illegaal online materiaal. Er is een generieke vrijwillige gedragscode
ontworpen, gericht op dienstverleners die in Nederland een openbare telecommunicatiedienst
aanbieden. Deze gedragscode bevat een procedure voor het omgaan met meldingen van
onrechtmatig of strafbaar materiaal op het internet, waaronder kinderpornografisch
materiaal. Met een publiek-private samenwerking is deze zelfregulering verder versterkt.
Zo hebben bovengenoemde partijen, na overleg met de Minister van Justitie en Veiligheid,
op 13 november 2018 voor de aanpak van kinderpornografisch materiaal een addendum
aan deze gedragscode toegevoegd, gericht op het verwijderen van kinderpornografisch
materiaal.7 Hierin is de rol van het EOKM als onafhankelijke stichting en als betrouwbare melder
versterkt, en wordt ingezet op het vrijwillig verwijderen van dit type materiaal binnen
een termijn van 24 uur.8
Dit wetsvoorstel is noodzakelijk als sluitstuk van deze zelfregulering. Ongeveer 87%
van de meldingen van het EOKM werd in dit regime van zelfregulering door de branche
adequaat opgepakt in 2021.9 In 13% van de gevallen werd geen of onvoldoende opvolging gegeven aan een melding
en blijft het kinderpornografisch materiaal op zijn minst langer dan 24 uur zichtbaar.
De voorliggende bestuursrechtelijke maatregel is daarom onmisbaar om alle betrokken
bedrijven te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk
te maken.
2.2 Hoofdlijnen van het voorstel
Voor het opslaan en verspreiden van gegevens via het internet wordt vaak gebruikgemaakt
van aanbieders van communicatiediensten. De dienstverlening van deze aanbieders bestaat
uit de opslag en doorgifte van gegevens die van een ander afkomstig zijn. Deze aanbieders
hebben geen inhoudelijke betrokkenheid bij de gegevens die door derden middels hun
diensten worden opgeslagen of verspreid: de dienstverlening heeft een automatisch
en passief karakter. Dat laat onverlet dat op hen een verantwoordelijkheid kan rusten
om maatregelen te treffen tegen de doorgifte of opslag van onwettige informatie. Dit
uitgangspunt is neergelegd in de artikelen 12, derde lid, 13, tweede lid, 14, derde
lid en 18, eerste lid, van Richtlijn 2000/31/EG van het Europees Parlement en de Raad
van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij,
met name de elektronische handel, in de interne markt (PbEG L178; hierna: de Richtlijn
inzake elektronische handel).10 Dit uitgangspunt wordt ook erkend in de rechtspraak van het Hof van Justitie van
de Europese Unie.11
Dit wetsvoorstel maakt het mogelijk om een binnen Nederland gevestigde dienstverlener
die kinderpornografisch materiaal opslaat of doorgeeft een bindende aanwijzing te
geven. De aanwijzing attendeert de dienstverlener op de aanwezigheid van het materiaal
en houdt het bevel in dit materiaal binnen een korte termijn ontoegankelijk te maken.
Naleving van de aanwijzing kan worden afgedwongen met een last onder dwangsom of een
bestuurlijke boete. De aanwijzing kan tot verschillende typen aanbieders van communicatiediensten
worden gericht:
1. De dienstverlener die gegevens opslaat («hosting». Een voorbeeld hiervan is een dienstverlener
die aan particulieren of bedrijven ruimte aanbiedt om op diens servers websites, afbeeldingen
of videobestanden op te slaan).
2. De dienstverlener die gegevens doorgeeft of toegang tot een communicatienetwerk verschaft
(«mere conduit». Een voorbeeld hiervan is een internet access provider);
3. De dienstverlener die gegevens tijdelijk opslaat, met als enige doel de doorgifte
van de gegevens aan andere afnemers en op hun verzoek efficiënter te maken («caching».
Een voorbeeld hiervan is caching ten behoeve van de snelheid van streaming services);
Met deze reikwijdte wordt aangesloten bij artikel 125p van het Wetboek van Strafvordering
(hierna: Sv). Dit laat onverlet dat als uitgangspunt geldt dat een aanwijzing wordt
gericht tot de aanbieder op wier systemen het kinderpornografisch materiaal is opgeslagen.
De aanwijzing wordt daarom primair gericht tot aanbieders van hostingdiensten. Slechts
als dat in een individueel geval niet mogelijk blijkt kan de aanwijzing worden gericht
tot een andere aanbieder van een communicatiedienst, zoals een internet access provider.
Deze volgordelijkheid is expliciet neergelegd in artikel 6, tweede lid. Het ligt niet
in de rede dat dit vaak gebeurt: omdat aanbieders van mere conduit-diensten louter
gegevens doorgeven en ze niet (langdurig) opslaan kan de aanwijzing er niet toe strekken
dat kinderpornografisch materiaal daadwerkelijk wordt verwijderd. Wel kan de doorgifte
van dit type materiaal binnen Nederland worden verhinderd of bemoeilijkt. Vanzelfsprekend
geldt dat de beginselen van evenredigheid en zorgvuldigheid in elk individueel geval
grenzen stellen aan de bevoegdheidsuitoefening.
Dit wetsvoorstel introduceert tevens een verplichting voor aanbieders van hostingdiensten
om passende en evenredige maatregelen te nemen om de opslag en doorgifte van online
kinderpornografisch materiaal te beperken. Deze maatregelen behelzen geen verplichting
voor deze aanbieders om actief toe te zien op de inhoud van gegevens die via hun diensten
worden verspreid.
Dit wetsvoorstel brengt geen verandering in de geldende hoofdregel dat de aanbieder
van een communicatiedienst niet aansprakelijk is voor de inhoud van door derden middels
zijn diensten opgeslagen of doorgegeven gegevens.12 Het wetsvoorstel strekt er derhalve niet toe om dergelijke aanbieders in verdergaande
mate dan thans het geval is aansprakelijk te stellen of houden voor de opslag of doorgifte
van online kinderpornografisch materiaal.
2.3. Verhouding tot het strafrecht
De in dit wetsvoorstel voorgestelde maatregelen worden telkens getroffen door een
bestuursorgaan. Zij dienen ter aanvulling op de bestaande strafrechtelijke aanpak
waarmee wordt opgetreden tegen diegenen die zich met de productie of het bezit van
kinderpornografisch materiaal bezighouden. Deze aanvulling is noodzakelijk, gelet
op de grote hoeveelheid online kinderpornografisch materiaal die in Nederland wordt
opgeslagen en doorgegeven en de snelle verspreiding daarvan. Het wetsvoorstel doet
geen afbreuk aan de mogelijkheden tot strafrechtelijke opsporing, vervolging en berechting
van diegenen die kinderpornografisch materiaal vervaardigen, verspreiden of bekijken.
Dit wetsvoorstel is er (louter) op gericht online kinderpornografisch materiaal zo
snel mogelijk ontoegankelijk te doen maken.
Strafrechtelijke vervolging
Waar aanbieders van communicatiediensten inhoudelijk betrokkenheid hebben bij online
kinderpornografisch materiaal, zodat aan de delictsomschrijving van artikel 240b Sr
wordt voldaan en sprake is van een verdenking van een strafbaar feit, wordt uiteraard
op strafrechtelijke vervolging ingezet.
Met deze mogelijkheid van strafrechtelijke vervolging kan echter niet worden volstaan.
In veel gevallen is strafrechtelijke vervolging van deze aanbieders namelijk niet
aan de orde. Kenmerkend voor de dienstverlening van deze aanbieders is immers dat
zij geen inhoudelijke betrokkenheid hebben bij de gegevens die middels hun diensten
worden opgeslagen of verspreid. Hun dienstverlening is passief en bestaat uit de opslag
en doorgifte van door derden geplaatst materiaal. Tegen deze derden, diegenen die
kinderpornografisch materiaal produceren en verspreiden, wordt vanzelfsprekend strafrechtelijk
opgetreden. Specifiek voor een aanbieder van hostingdiensten geldt echter dat aansprakelijkheid
ontbreekt zolang hij geen kennis heeft van de aanwezigheid van het materiaal en hij,
zodra hij die kennis wel krijgt, terstond handelt om de gegevens te verwijderen of
de toegang daartoe onmogelijk te maken. Dit volgt uit artikel 14, eerste lid, van
de Richtlijn inzake elektronische handel en is onder meer neergelegd in artikel 54a
van het Wetboek van Strafrecht (hierna: Sr) en artikel 125p Sv. Dit wetsvoorstel brengt
daar geen verandering in.
Strafrechtelijke vervolging van een aanbieder wegens de middels zijn diensten opgeslagen
en verspreide gegevens is daarom slechts in uitzonderlijke gevallen aan de orde. In
feite moet het dan gaan om een situatie waarin een aanbieder niet langer optreedt
als een tussenpersoon die louter (en passief) gegevens van een ander doorgeeft, maar
ook inhoudelijke betrokkenheid heeft of verkrijgt met het online kinderpornografisch
materiaal. Een dergelijke situatie doet zich, gelet op de neutrale en passieve rol
die deze aanbieders vervullen, zelden voor.
Overigens wordt ook in Europees verband ingezet op de ontoegankelijkmaking van dit
type materiaal, en niet op strafrechtelijke vervolging van deze aanbieders. Bij wijze
van voorbeeld wordt gewezen op de TOI-verordening, waarmee aanbieders van hostingdiensten
worden verplicht om terroristische online-inhoud ontoegankelijk te maken.
Strafrechtelijke bevoegdheid tot ontoegankelijkmaking
Met het voormelde is nog niet de vraag beantwoord of het dan niet wenselijk is om
te volstaan met de in artikel 125p Sv neergelegde strafrechtelijke bevoegdheid tot
het geven van een bevel tot ontoegankelijkmaking, en de toepassing daarvan dus niet
te beperken tot gevallen waarin ook strafrechtelijke vervolging wordt ingezet. Hier
is niet voor gekozen. De zeer grote hoeveelheden online kinderpornografisch materiaal
die in Nederland worden opgeslagen en doorgegeven en de ongekend snelle verspreiding
daarvan nopen tot een specifiek daarop toegesneden instrumentarium. De bestuursrechtelijke
aanwijzing verschilt daarom van een strafrechtelijk bevel tot ontoegankelijkmaking.
Een krachtens artikel 125p Sv gegeven bevel kan strekken tot de ontoegankelijkmaking
van elk type gegevens, maar kan slechts worden gegeven na voorafgaande machtiging
van de rechter-commissaris. Een krachtens dit wetsvoorstel gegeven aanwijzing is beperkt
tot online kinderpornografisch materiaal, terwijl geen voorafgaande machtiging van
de rechter-commissaris is vereist. Dat maakt het mogelijk om zeer snel op te treden
tegen online kinderpornografisch materiaal. Conform de gebruikelijke bestuursrechtelijke
uitgangspunten is het besluit waarmee de aanwijzing wordt gegeven direct uitvoerbaar:
er wordt niet afgeweken van de in artikel 6:16 van de Algemene wet bestuursrecht (hierna:
de Awb) neergelegde hoofdregel dat het instellen van een rechtsmiddel tegen een besluit
de werking van dat besluit niet schorst. Bovendien is voorzien in aanvullende instrumenten
die in het strafrecht niet beschikbaar zijn, zoals een verplichting om specifieke
aanbieders van hostingdiensten te dwingen om preventieve maatregelen te nemen tegen
de verspreiding van online kinderpornografisch materiaal.
Ten slotte kan niet onvermeld blijven dat het (veel) vaker aanwenden van de in artikel
125p Sv neergelegde bevoegdheid een te groot beslag legt op de capaciteit van het
Openbaar Ministerie (hierna: OM). Dit is door het OM onderschreven. Door de ontoegankelijkmaking
van online kinderpornografisch materiaal te beleggen bij een daarvoor toegeruste Autoriteit,
kan de capaciteit van het OM worden vrijgehouden ten behoeve van de opsporing en vervolging
van personen die zelf kinderpornografisch materiaal produceren en verspreiden.
Het voorgestelde instrumentarium onderscheidt zich daarom zowel inhoudelijk als in
snelheid van de bestaande strafrechtelijke bevoegdheden, terwijl tegelijkertijd is
voorzien in adequate bestuursrechtelijke rechtsbescherming.
3 Maatregelen en sancties
De maatregelen strekken tot de ontoegankelijkmaking van kennelijk online kinderpornografisch
materiaal. Voor de definitie daarvan is aangesloten bij artikel 240b Sr. De in dit
artikel gebruikte term «afbeelding» slaat niet alleen op foto’s, maar ook op een film
of videoclip, of fragmenten of beelden daaruit. In dit wetsvoorstel wordt dit gevat
onder de noemer «kinderpornografisch materiaal». Met het begrip «kennelijk» is tot
uitdrukking gebracht dat over de kwalificatie van het desbetreffende materiaal redelijkerwijs
geen twijfel mogelijk kan zijn. Het is derhalve niet mogelijk een aanwijzing te geven
als over die kwalificatie enige twijfel kan bestaan. Met het kennelijkheidsvereiste
is tevens duidelijk dat met een door de Autoriteit gegeven kwalificatie niet wordt
vooruitgelopen op de kwalificatie van dit materiaal in een eventuele strafrechtelijke
procedure over hetzelfde materiaal.
3.1 Aanwijzing
Aan een aanbieder van een communicatiedienst die online kinderpornografisch materiaal
opslaat of doorgeeft kan een bindende aanwijzing worden gegeven. Anders dan de hierna
te bespreken zorgplicht kan de aanwijzing worden gericht tot elke aanbieder van een
communicatiedienst, en derhalve niet alleen op aanbieders van hostingdiensten. Wel
wordt de aanwijzing primair gericht tot aanbieders van hostingdiensten. Slechts als
dat niet mogelijk is én het geven van een aanwijzing evenredig en proportioneel is,
wordt een aanwijzing gericht tot een andere aanbieder. Dit uitgangspunt is vastgelegd
in artikel 6, tweede lid.
De aanwijzing attendeert de aanbieder op de aanwezigheid van het online kinderpornografisch
materiaal en verplicht ertoe dat materiaal binnen een in de aanwijzing opgenomen redelijke
termijn ontoegankelijk te maken. Niet relevant is of de desbetreffende aanbieder weet
had van het kinderpornografisch materiaal. Evenmin is relevant op wiens verzoek dit
materiaal is opgeslagen of wordt doorgegeven. Relevant is slechts of de desbetreffende
aanbieder het in zijn macht heeft het online kinderpornografisch materiaal ontoegankelijk
te maken. Naleving van een aanwijzing wordt afgedwongen met een last onder dwangsom
of een bestuurlijke boete (zie paragrafen 3.3 en 3.4).
Inhoud aanwijzing
In alle gevallen geldt dat de aanwijzing voldoende informatie moet bevatten op basis
waarvan de aanbieder het desbetreffende materiaal kan identificeren. Te denken valt
aan een URL, de (gebruikers)naam van de persoon die het materiaal op de servers heeft
geplaatst of een omschrijving van het materiaal in kwestie, zoals de titel of andere
kenmerken. Artikel 6, vierde lid, geeft daarover regels.
Met ingang van 17 februari 2024 geldt bovendien dat de aanwijzing zal moeten voldoen
aan de eisen van artikel 9 van de Digitaledienstenverordening.13 Het tweede lid van artikel 9 van de Digitaledienstenverordening bepaalt dat een bevel
om op te treden tegen illegale inhoud ten minste de volgende elementen dient te bevatten:
a. een verwijzing naar de Unie- of nationaalrechtelijke rechtsgrond voor het bevel;
b. een motivering waarin wordt uitgelegd waarom de informatie illegale inhoud vormt,
onder verwijzing naar een of meerdere specifieke bepalingen van het Unierecht of het
met het Unierecht in overeenstemming zijnde nationaal recht;
c. informatie ter identificatie van de uitvaardigende autoriteit;
d. duidelijke informatie waarmee de aanbieder de betrokken illegale inhoud kan identificeren
en lokaliseren, zoals een of meerdere exacte URL’s en indien nodig bijkomende informatie;
e. informatie over de verhaalmechanismen die ter beschikking staan van de aanbieder van
en de afnemer van de dienst die de inhoud verstrekten;
f. in voorkomend geval vermelding van de autoriteit waaraan de informatie over het aan
de bevelen gegeven gevolg moet worden verschaft.
Artikel 9, eerste lid, Digitaledienstenverordening bepaalt dat de aanbieder de beveluitvaardigende
autoriteit, in dit geval de ATKM, onverwijld in kennis stelt van het gevolg dat aan
de aanwijzing is gegeven met vermelding of, en zo ja wanneer aan de aanwijzing opvolging
is gegeven. Artikel 9, derde lid, Digitaledienstenverordening verplicht de ATKM verder
om de aanwijzing samen met de ontvangen informatie van de aanbieder over het aan de
aanwijzing gegeven gevolg door te sturen aan de digitaledienstencoördinator. Uiterlijk
op het tijdstip waarop gevolg is gegeven aan de aanwijzing of in voorkomend geval
op het door de ATKM in de aanwijzing genoemde tijdstip stellen aanbieders van hosting-
of communicatiediensten de afnemer van de betrokken dienst in kennis van de ontvangen
aanwijzing en het daaraan gegeven gevolg, zo bepaalt het vijfde lid van artikel 9
van de Digitaledienstenverordening. Dergelijke aan de afnemers van de dienst verstrekte
informatie vermeldt overeenkomstig het tweede lid een motivering en de bestaande verhaalsmogelijkheden.
De aanwijzing zal er in de regel toe strekken dat één of meerdere specifieke, in de
aanwijzing aangeduide, afbeeldingen of video’s ontoegankelijk moeten worden gemaakt.
Een aanwijzing kan er echter ook toe verplichten materiaal dat inhoudelijk overeenstemt
met het in de aanwijzing aangeduide materiaal ontoegankelijk te maken.14 Dit biedt uitkomst in gevallen waarin bijvoorbeeld sprake is van reeksen van afbeeldingen
die onderling verschillen, maar toch vrijwel identiek zijn. Hierbij kan worden gedacht
aan stills uit een (kortdurende) video-opname. De verschillen tussen het in de aanwijzing specifiek
aangeduide materiaal en daarmee inhoudelijk overeenstemmende materiaal mogen niet
van dien aard zijn dat de betrokken aanbieder gedwongen wordt het materiaal zelfstandig
te beoordelen.15 Gelet op artikel 15, eerste lid, van de Richtlijn inzake elektronische handel mag
een aanbieder er immers niet toe worden verplicht om in het algemeen toe te zien op
door hem opgeslagen informatie, noch een algemene verplichting om actief te zoeken
naar onrechtmatige of onwettige informatie.16 Een in de aanwijzing opgenomen opdracht om (vrijwel) gelijkluidend materiaal ontoegankelijk
te maken moet daarom zodanig specifiek zijn dat de betrokken aanbieder van een communicatiedienst
niet verplicht wordt een eigen beoordeling te maken.
In de aanwijzing wordt een termijn gesteld waarbinnen het online kinderpornografisch
materiaal ontoegankelijk moet zijn gemaakt. De lengte van die termijn is afhankelijk
van de omstandigheden van het geval en vereist een afweging tussen het belang van
tijdige verwijdering en de technische en praktische maatregelen die redelijkerwijs
van de aanbieder van een communicatiedienst kunnen worden gevergd. Gelet op het veelal
evidente karakter van kinderpornografisch materiaal zal de in de aanwijzing opgenomen
termijn in de regel een korte zijn. Ter illustratie kan worden gewezen op de termijn
in het op 13 december 2018 ondertekende addendum, waarin is opgenomen dat kinderpornografisch
materiaal binnen 24 uur na een melding moet zijn verwijderd.17 In de aanwijzing wordt niet voorgeschreven op welke wijze de ontoegankelijkmaking
moet plaatsvinden. Zie daarover onder «Ontoegankelijkmaking».
Een aanwijzing is een besluit als bedoeld in artikel 1:3 van de Awb en moet derhalve
voldoen aan alle eisen die de Awb daaraan stelt. Tegen een aanwijzing staan de gebruikelijke
rechtsmiddelen van bezwaar en beroep open. Hierop wordt nader ingegaan onder «Voorbereiding
en rechtsbescherming».
Tot wie is de aanwijzing gericht?
De aanwijzing kan worden gericht aan een aanbieder van communicatiediensten die is
betrokken bij de opslag of doorgifte van online kinderpornografisch materiaal. Voor
de identificatie van de betrokken aanbieder zijn technische instrumenten beschikbaar,
zoals een door de TU Delft ontwikkelde monitor.18
De algemene vereisten van zorgvuldigheid en evenredigheid stellen grenzen aan de bevoegdheidsuitoefening.
Daaruit vloeit voort dat de aanwijzing wordt gericht tot degene die daarvoor het meest
in aanmerking komt. Gelet op het uitgangspunt dat kinderpornografisch materiaal zoveel
mogelijk moet worden verwijderd, wordt de aanwijzing primair gericht tot aanbieders
van hostingdiensten: een aanbieder van een communicatiedienst bestaande uit de opslag
van gegevens die van een ander afkomstig zijn.19 Het is echter niet altijd mogelijk de betrokken aanbieder van hostingdiensten te
identificeren. Dat is onder meer het geval als een webpagina met kinderpornografisch
materiaal weliswaar vanuit Nederland is te benaderen, maar niet met zekerheid is vast
te stellen dat het desbetreffende materiaal ook daadwerkelijk op Nederlands grondgebied
wordt gehost. Ook in deze gevallen kan het wenselijk zijn op te treden tegen de verspreiding
van kinderpornografisch materiaal. In deze gevallen kan de aanwijzing worden gericht
tot dienstverleners die gegevens doorgeven of toegang tot een communicatienetwerk
verschaffen, en tot dienstverleners die gegevens tijdelijk opslaan met als enige doel
de doorgifte van de gegevens aan andere afnemers efficiënter te maken. Hiermee wordt
aangesloten bij de reikwijdte van artikel 125p, eerste lid, Sv.20 Wel moet, mede gelet op de algemene eisen van zorgvuldigheid en evenredigheid, bij
een beslissing om een aanwijzing uit te vaardigen aan aanbieders van «mere conduit»
of «caching» diensten worden betrokken dat zij minder dan aanbieders van hostingdiensten
in staat zijn om online kinderpornografisch materiaal ontoegankelijk te maken. Factoren
als kosten en inspanningen aan de kant van de aanbieder en de gevolgen die de ontoegankelijkmaking
heeft voor andere gegevens die door deze aanbieders worden opgeslagen of doorgeven
maken onderdeel uit van de afweging om in een concreet geval een aanwijzing te geven.
De aanwijzing is een herstelsanctie, en kan daarom louter worden opgelegd aan de aanbieder die redelijkerwijs in staat is het kinderpornografisch materiaal ontoegankelijk
te (laten) maken. Dit is reeds benoemd in paragraaf 2.2, en wordt hierna verder toegelicht.
Over het gebruik van zijn bevoegdheid tot het geven van een aanwijzing en het identificeren
van kennelijk kinderpornografisch materiaal wordt door de Autoriteit beleid gevoerd,
bijvoorbeeld door beleidsregels als bedoeld in titel 4.3 van de Awb op te stellen.
Ontoegankelijkmaking
Onder ontoegankelijkmaking wordt verstaan het treffen van alle redelijkerwijs te nemen
maatregelen om te voorkomen dat derden van het materiaal kennisnemen, en ter voorkoming
van de verdere verspreiding van het beeldmateriaal. Met de toevoeging dat de maatregelen
redelijkerwijs moeten zijn, is tot uitdrukking gebracht dat het mogelijk moet zijn
de in de aanwijzing opgenomen opdracht tot ontoegankelijkmaking op proportionele wijze
na te komen.
Onder ontoegankelijkmaking wordt in de eerste plaats verstaan het verwijderen van
gegevens uit een geautomatiseerd werk. Onderkend wordt dat het niet in alle gevallen
mogelijk zal zijn kinderpornografisch materiaal daadwerkelijk van het internet te
verwijderen. Dat is onder meer het geval indien een website niet in zijn geheel op
één server wordt gehost: het komt voor dat onderdelen van een website bij een Nederlandse
hostingaanbieder worden gehost, terwijl andere onderdelen zijn opgeslagen op een in
het buitenland geplaatste server.21 Mede daarom staat de definitie van ontoegankelijkmaking ook andere vormen van ontoegankelijkmaking
toe, mits deze ertoe strekken dat (verdere) kennisneming van die gegevens door derden
wordt voorkomen.
De aanwijzing schrijft niet voor welke (technische) middelen moeten worden aangewend
om kinderpornografisch materiaal ontoegankelijk te maken. De aanbieder van een communicatiedienst
tot wie de aanwijzing is gericht kiest zelf de middelen om aan de aanwijzing te voldoen.
De aanwijzing is een herstelsanctie. Een aanbieder die aannemelijk maakt alle redelijkerwijs
te nemen maatregelen te hebben getroffen, maar er desalniettemin niet in slaagt het
materiaal ontoegankelijk te maken, heeft aan de aanwijzing voldaan, mede gelet op
het in artikel 3:4, tweede lid, Awb neergelegde evenredigheidsbeginsel. Daarbij wordt
opnieuw opgemerkt dat aanbieders wier dienstverlening bestaat uit het doorgeven van
informatie of het verschaffen tot toegang van een communicatienetwerk het veelal niet
in hun macht hebben om gegevens daadwerkelijk te (laten) verwijderen. In deze uitzonderlijke
gevallen ligt een andere vorm van ontoegankelijkmaking voor de hand.
De aanwijzing verplicht een aanbieder van een communicatiedienst tot ingrijpen in
een concreet geval. Een aanwijzing strekt er niet toe dat een aanbieder wordt verplicht
in algemene zin toe te zien op de rechtmatigheid van het door hem opgeslagen materiaal.
De aanwijzing kan er ook niet toe strekken dat de aanbieder wordt opgedragen actief
naar dergelijk materiaal te zoeken of verplicht wordt alle geüploade materiaal op
systematische wijze te analyseren.22 Gelet op artikel 7, derde lid, van de Grondwet (hierna: Gw) kan de aanwijzing evenmin
strekken tot verplicht preventief toezicht op door de aanbieder opgeslagen of doorgegeven
gegevens.
Geografische gevolgen van de aanwijzing
De ontoegankelijkmaking van op Nederlands grondgebied opgeslagen online kinderpornografisch
materiaal kan gevolgen hebben voor de beschikbaarheid van dit type materiaal in het
buitenland. De Richtlijn inzake elektronische handel23 noch andere (internationale) wet- of regelgeving staat eraan in de weg dat een maatregel
tot ontoegankelijkmaking van materiaal ook buiten de Nederlandse territoriale landsgrenzen
gevolgen sorteert.
De maatregelen strekken er niet toe de diensten van in een andere lidstaat gevestigde
dienstverlener te beperken: de reikwijdte is beperkt tot in Nederland gevestigde dienstverleners.24 Deze geografisch beperkte reikwijdte doet niets af aan de noodzaak van het onderhavige
wetsvoorstel. Vanuit Nederland wordt disproportioneel veel online kinderpornografisch
materiaal via het internet ter beschikking gesteld. Daarom is Nederland verplicht
zich, binnen zijn eigen nationale grenzen, zoveel mogelijk in te spannen om dit type
materiaal ontoegankelijk te (laten) maken. Deze verplichting volgt uit artikel 25,
eerste lid, van Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december
2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en
kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad (PbEU
2011, L 335; hierna: de Richtlijn kindermisbruik). Met dit wetsvoorstel geeft Nederland
nadere invulling aan zijn verplichtingen op grond van deze bepaling.
Dit laat onverlet dat Nederland zich ook in Europees verband blijft inzetten voor
een Europese aanpak van online kinderpornografisch materiaal.25 Inmiddels heeft de Europese Commissie een voorstel gepubliceerd voor een Verordening
betreffende voorschriften ter voorkoming en bestrijding van seksueel kindermisbruik,
waarover momenteel in Brussel wordt onderhandeld.26
Voorbereiding en rechtsbescherming
De aanwijzing is een appellabel besluit, meer in het bijzonder een beschikking als
bedoeld in artikel 1:3, tweede lid, Awb. Daarom moeten bij het voorbereiden, geven
en bekendmaken van een aanwijzing de gebruikelijke bepalingen van de Awb, in het bijzonder
de hoofdstukken 2 tot en met 4 daarvan, in acht worden genomen. Zo zal de Autoriteit
in ieder concreet geval de rechtstreeks betrokken belangen moeten betrekken en in
het aanwijzingsbesluit deugdelijk moeten motiveren waarom de aanwijzing wordt gegeven.
Uit de aanwijzing moet voorts duidelijk blijken om welk materiaal het gaat en binnen
welke termijn de aanwijzing moet zijn opgevolgd. Een aanwijzing die niet aan voormelde
vereisten voldoet, zal door de bestuursrechter worden vernietigd.
Op de voorbereiding van een aanwijzing is afdeling 4.1.2 Awb van toepassing. Gelet
op artikel 4:11, eerste lid, aanhef en onder a, Awb zal het horen echter in vrijwel
alle gevallen achterwege kunnen worden gelaten. Met het voorgaande is niet uitgesloten
dat ook op grond van het Unierechtelijke verdedigingsbeginsel een verplichting kan
bestaan tot vooraf horen.27 Uit rechtspraak van het Hof van Justitie volgt dat in een zaak die binnen de werkingssfeer
van het Unierecht valt, een concrete afweging moet worden gemaakt of van horen kan
worden afgezien. Gelet op het spoedeisende karakter van kinderpornografisch materiaal
en in aanmerking genomen dat de gevolgen van een aanwijzing veelal ongedaan kunnen
worden gemaakt, zal in veel gevallen aan deze voorwaarden worden voldaan.
Tegen een aanwijzing staan de gebruikelijke bestuursrechtelijke rechtsmiddelen open:
bezwaar, gevolgd door het instellen van (hoger) beroep bij de bestuursrechter. De
in artikel 6:16 Awb neergelegde hoofdregel, dat het instellen van bezwaar en beroep
de werking van het besluit waartegen het is ingesteld niet schorst, geldt onverkort.
Vanzelfsprekend is het mogelijk om bij de voorzieningenrechter een verzoek om een
voorlopige voorziening te doen, strekkende tot schorsing van het besluit waarin de
aanwijzing is gegeven.
3.2 Zorgplicht
Ingevolge artikel 7 kunnen aanbieders van hostingdiensten worden verplicht passende
maatregelen te treffen om de opslag en doorgifte van online kinderpornografisch materiaal
te beperken. Er is niet voor gekozen deze zorgplicht van toepassing te verklaren op
alle aanbieders van hostingdiensten: de zorgplicht is slechts van toepassing na een
daartoe strekkend besluit van de Autoriteit. Hiermee wordt aansluiting gezocht bij
het systeem van artikel 5, tweede tot en met zesde lid, van TOI-verordening. Een dergelijk
besluit kan bijvoorbeeld worden genomen ten aanzien van een aanbieder die regelmatig
in aanraking komt met online kinderpornografisch materiaal en daar onvoldoende tegen
optreedt. Mede gelet op het beperken van uitvoeringslasten en het evenredigheidsbeginsel
ligt een dergelijk besluit dus niet in de rede als een aanbieder niet of nauwelijks
met online kinderpornografisch materiaal wordt geconfronteerd, of daar zelf voldoende
tegen optreedt.
De keuze ten aanzien van de te treffen maatregelen blijft bij de aanbieder. Gedacht
kan worden aan maatregelen van technische aard, zoals het onderhouden van een systeem
waarmee gebruikers online kinderpornografisch materiaal bij de aanbieder kunnen melden,
aan het voeren van aantoonbaar beleid waarmee klanten die online kinderpornografisch
materiaal opslaan of verspreiden worden geweerd of afgestoten, of aan het deelnemen
aan de (hierna te benoemen) Hashcheckserver. Het betreft hier een inspanningsverplichting,
die uitdrukking geeft aan de eigen verantwoordelijkheid van dergelijke aanbieders
om niet alleen reactief, maar ook proactief op te treden tegen de verspreiding van
online kinderpornografisch materiaal. Bij de vaststelling welke maatregelen redelijkerwijs
van een aanbieder kunnen worden gevergd spelen elementen als grootte, financiële draagkracht
en de mate van blootstelling aan online kinderpornografisch materiaal een rol. Van
een aanbieder van hostingdiensten die op grote schaal te maken heeft met de opslag
of doorgifte van online kinderpornografisch materiaal, mag meer worden verwacht dan
van een kleine speler die beperkt met dit type materiaal wordt geconfronteerd.
Vanzelfsprekend zal een besluit waarmee de zorgplicht wordt opgelegd moeten voldoen
aan de algemene beginselen van behoorlijk bestuur. Mede gelet op het rechtszekerheidsbeginsel
zal een dergelijk besluit voldoende concreet moeten zijn. Zo zal in het besluit moeten
zijn opgenomen binnen welke termijn de maatregelen moeten zijn genomen en met welk
resultaat. De verplichting tot het treffen van proactieve maatregelen doet vanzelfsprekend
geen afbreuk aan de Richtlijn inzake elektronische handel, en kan aanbieders van hostingdiensten
er dus niet toe verplichten in algemene zin toe te zien op gegevens die zij doorgeven
of opslaan. De zorgplicht verplicht er daarom niet toe geüpload materiaal op systematische
wijze te analyseren, of om actief te zoeken naar online kinderpornografisch materiaal.28
De betrokken aanbieder is desgevraagd verplicht informatie aan de Autoriteit te verschaffen
over de door hem getroffen maatregelen. Het ligt in de rede dat de Autoriteit zich
zal richten op aanbieders van hostingdiensten die in meer dan gebruikelijke mate worden
geconfronteerd met de opslag en doorgifte van online kinderpornografisch materiaal,
en dus juist bij die aanbieders informatie zal opvragen over de getroffen maatregelen.
Een meer dan gebruikelijke mate van opslag en doorgifte kan onder meer worden afgeleid
uit het aantal aanwijzingen dat een aanbieder per kalenderjaar ontvangt. Maar indien
de Autoriteit op andere wijze kan onderbouwen dat daarvan sprake is, bijvoorbeeld
door een onafhankelijk onderzoek te overleggen, kan ook besloten worden tot het opleggen
van de zorgplicht.
Aan een aanbieder van hostingdiensten die nalaat passende en evenredige maatregelen
te treffen kan een bestuurlijke boete of een last onder dwangsom worden opgelegd.
Bij de keuze om handhavend op te treden betrekt de Autoriteit dat de verplichting
tot het treffen van proactieve maatregelen een open norm bevat, en dat de keuze voor
de te treffen maatregelen aan de desbetreffende aanbieder is. Voorts betrekt de Autoriteit
dat de zorgplicht een inspanningsverplichting is: het is niet mogelijk om de opslag
en doorgifte van online kinderpornografisch materiaal in alle gevallen te voorkomen.
Dit alles heeft gevolgen voor de mogelijkheid om handhavend op te kunnen treden. Gelet
op het open karakter van de norm en de algemene beginselen van behoorlijk bestuur,
waaronder het rechtszekerheidsbeginsel, zal enig handhavend optreden slechts aan de
orde kunnen zijn als het handelen of nalaten van een aanbieder onmiskenbaar in strijd
is met de zorgplicht. Het ligt in de rede dat de Autoriteit over de aanwending van
deze bevoegdheid beleidsregels vaststelt als bedoeld in titel 4.3 van de Awb, of anderszins
kenbaar beleid voert.
Voorbereiding en rechtsbescherming
Een besluit van de Autoriteit om passende en evenredige maatregelen treffen, is een
appellabel besluit, meer in het bijzonder een beschikking als bedoeld in artikel 1:3,
tweede lid, Awb. Daarom moeten bij het voorbereiden, geven en bekendmaken van dit
besluit de gebruikelijke bepalingen van de Awb, in het bijzonder de hoofdstukken 2
tot en met 4 daarvan, in acht worden genomen. Zo zal de Autoriteit in ieder concreet
geval de rechtstreeks betrokken belangen moeten betrekken en in het besluit deugdelijk
moeten motiveren waarom daartoe wordt besloten. Mede gelet op het rechtszekerheidsbeginsel
zal een dergelijk besluit verder voldoende concreet moeten zijn. Zo zal in het besluit
moeten zijn opgenomen binnen welke termijn de maatregelen moeten zijn genomen en met
welk resultaat.
Tegen een besluit tot het treffen van passende en evenredige maatregelen staan de
gebruikelijke bestuursrechtelijke rechtsmiddelen open: bezwaar, gevolgd door het instellen
van (hoger) beroep bij de bestuursrechter.
Verzoek om wijziging of intrekking
Aanbieders van hostingdiensten kunnen de Autoriteit verzoeken om wijziging of intrekking
van een opgelegde zorgplicht. Dit is geregeld in artikel 7, derde lid van het wetsvoorstel.
De Autoriteit dient zo spoedig mogelijk en in ieder geval binnen drie maanden na ontvangst
op deze aanvraag te beslissen. Voor wat betreft het verzoek om wijziging of intrekking
van de zorgplicht is aansluiting gezocht bij de procedure op grond van de TOI-verordening,
meer in het bijzonder artikel 5, zevende lid.29 De beslissing op deze aanvraag is een appellabel besluit, meer in het bijzonder een
beschikking als bedoeld in artikel 1:3, tweede lid, Awb. Tegen een afwijzend besluit
staan de gebruikelijke bestuursrechtelijke rechtsmiddelen open: bezwaar, gevolgd door
het instellen van (hoger) beroep bij de bestuursrechter.
3.3 Last onder dwangsom
Aan een aanbieder van een communicatiedienst die nalaat tijdig opvolging te geven
aan een aanwijzing kan een last onder dwangsom worden opgelegd. Een last onder dwangsom
kan tevens worden opgelegd aan de aanbieder van hostingdiensten die nalaat opvolging
te geven aan zijn zorgplicht (artikel 7, eerste lid) of nalaat gegevens over de door
hem getroffen maatregelen te verstrekken (artikel 7, tweede lid).
Indien de last is opgelegd aan een aanbieder van een communicatiedienst die nalaat
tijdig opvolging te geven aan een aanwijzing tot ontoegankelijkmaking, strekt de dwangsom
ertoe deze medewerking alsnog af te dwingen. De last wordt slechts opgelegd aan de aanbieder die het in zijn macht heeft de last uit te voeren en dus redelijkerwijs
in staat is het kinderpornografisch materiaal ontoegankelijk te maken of maatregelen
te treffen.30 Voor het opleggen van een last onder dwangsom is niet vereist dat de aanbieder enige betrokkenheid heeft gehad bij het vervaardigen of de opslag van het kinderpornografisch
materiaal, of dat de aanwezigheid van kinderpornografisch materiaal verwijtbaar is.
De kern van de door de aanbieder begane overtreding is immers niet de aanwezigheid
van online kinderpornografisch materiaal, maar het niet opvolgen van een krachtens
artikel 6 gegeven aanwijzing tot ontoegankelijkmaking of het niet voldoen aan een
krachtens artikel 7 opgelegde zorgplicht. Een last onder dwangsom kan eveneens worden
opgelegd aan de aanbieder van hostingdiensten die nalaat desgevraagd gegevens te verstrekken
over de door hem getroffen maatregelen. In dat geval strekt de last ertoe de aanbieder
ertoe te bewegen deze gegevens alsnog te verstrekken.
De beschikking waarbij de last onder dwangsom wordt opgelegd vermeldt de herstelmaatregel,
zoals het ontoegankelijk maken van het kinderpornografisch materiaal. De last bevat
een begunstigingstermijn, waarbinnen het materiaal alsnog ontoegankelijk kan worden
gemaakt of maatregelen kunnen worden getroffen zonder dat een dwangsom wordt verbeurd.
Indien nodig zal de Autoriteit in overleg treden met de betrokken aanbieder over de
verschillende manieren waarop de aanwijzing kan worden opgevolgd.
In beide situaties wordt, in lijn met de algemene uitgangspunten van de Awb, de hoogte
van de dwangsom vastgesteld op een bedrag ineens, hetzij per tijdseenheid waarin de
last niet is uitgevoerd. De dwangsom wordt gemaximeerd op een bedrag waarboven geen
dwangsom meer wordt verbeurd.31 De hoogte van de dwangsom wordt vastgesteld op een bedrag dat in redelijke verhouding
staat tot het geschonden belang en de beoogde werking van de dwangsom. Invordering
kan zo nodig geschieden bij dwangbevel.32
3.4 Bestuurlijke boete
Aan de aanbieder van een communicatiedienst die nalaat opvolging te geven aan een
aanwijzing kan een bestuurlijke boete worden opgelegd van ten hoogste het bedrag dat
is vastgesteld voor de tweede categorie, bedoeld in artikel 23, vierde lid, Sr. Aan
een aanbieder van hostingdiensten die nalaat passende en evenredige maatregelen te
nemen om de opslag en doorgifte van online kinderpornografisch materiaal middels zijn
diensten te beperken kan een bestuurlijke boete worden opgelegd van ten hoogste het
bedrag dat is vastgesteld voor de vijfde categorie, bedoeld in artikel 23, vierde
lid, Sr.
De aard en ernst van online kinderpornografisch materiaal rechtvaardigt dat als systematisch
of aanhoudend wordt nagelaten opvolging te geven aan aanwijzing, een hoger boetemaximum
wordt gehanteerd.33 Daarom wordt het in dergelijke gevallen mogelijk een bestuurlijke boete op te leggen
van ten hoogste het bedrag dat is vastgesteld voor de zesde categorie, genoemd in
artikel 23, vierde lid, Sr of, indien dat meer is, ten hoogste 4% van de omzet van
de onderneming. Dit strookt met de maximale boetehoogte in vergelijkbare gevallen,
zoals de maximale boetehoogte genoemd in artikel 18, derde lid, van de TOI-verordening,
waar het niet-nakomen van de verplichtingen uit de verordening kan worden bestraft
met een sanctie ter hoogte van maximaal 4% van de omzet van de betrokken hosting service
provider34 en de maximale boetehoogte genoemd in artikel 83, vijfde of zesde lid, van Verordening
(EU) 2016/679 betreffende de bescherming van natuurlijke personen in verband met de
verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens
en tot intrekking van Richtlijn 95/46/EG (hierna: AVG).
Gelet op artikel 5:46, tweede lid, Awb wordt de hoogte van de boete in elk concreet
geval afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder
kan worden verweten. Bij het opleggen van een boete wordt beoordeeld of er omstandigheden
zijn die nopen tot verlaging of matiging van de boete. Een verminderde verwijtbaarheid
kan worden aangemerkt als een bijzondere omstandigheid als bedoeld in artikel 5:46,
derde lid, Awb, die aanleiding kan vormen de hoogte van de boete te matigen. Ook wordt
rekening gehouden met de omstandigheden waaronder de overtreding is begaan, zoals
het aantal keren dat een aanwijzing niet is opgevolgd en de mate van medewerking.
Een bestuurlijke boete kan op grond van artikel 5:41 Awb niet worden opgelegd voor
zover de overtreding niet aan de overtreder kan worden verweten.
Keuze punitief bestuursrechtelijk sanctiestelsel
Bij de afweging om te kiezen voor een zuiver bestuursrechtelijk stelsel (en daarmee
handhaving middels een bestuurlijke boete) is acht geslagen op het advies van de Afdeling
advisering van de Raad van State van 13 juli 2015 inzake sanctiestelsels,35 de reactie daarop van het kabinet in het nader rapport36 en de in die reactie genoemde kabinetsnota’s over de keuze voor een sanctiestelsel.
Zoals hierboven is toegelicht leent een deel van het voorgestelde instrumentarium
zich niet voor positionering binnen het strafrecht. Dit betreft onder meer de voorgestelde
zorgplicht alsook de beoogde herstelsancties, zoals de last onder dwangsom. Gelet
op de uitdrukkelijke wens om de ontoegankelijkmaking van online kinderpornografisch
materiaal en de handhaving te beleggen bij één bevoegde autoriteit en alle bevoegdheden
in één hand te houden, is in het onderhavige geval gekozen voor een zuiver bestuursrechtelijk
stelsel. De bestuurlijke boete complementeert de andere voorgestelde bevoegdheden,
en ziet op hetzelfde feitencomplex (de ontoegankelijkmaking van online kinderpornografisch
materiaal).37 Met de keuze voor een zuiver bestuursrechtelijk stelsel wordt tevens tot uitdrukking
gebracht dat de Autoriteit verantwoordelijk is voor de bestuursrechtelijke handhaving
van de verplichting om dit materiaal ontoegankelijk te maken.38 Om die reden is niet gekozen voor strafrechtelijke handhaving of een duaal stelsel.
Bij het bepalen van de (maximum)hoogte van de bestuurlijke boete is vanzelfsprekend
aangesloten bij de boetecategorieën van artikel 23 Sr (zie paragraaf 3.4).
3.5 Openbaarmaking bestuurlijke boete
Het feit dat een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven
aan een aanwijzing, kan openbaar worden gemaakt. Daarvan kan bijvoorbeeld sprake zijn
indien stelselmatig wordt nagelaten opvolging te geven aan een aanwijzing. Met deze
openbaarmaking zijn meerdere doelen gediend. De openbaarmaking is er in de eerste
plaats op gericht de naleving van deze wet te bevorderen, en tevens inzicht te geven
in de mate en de manier waarop op deze naleving toezicht wordt gehouden. Van de openbaarmaking
gaat bovendien een zekere diffamerende werking uit, omdat de bestuurlijke boete is
opgelegd wegens het nalaten opvolging te geven aan een gegeven aanwijzing. Met openbaarmaking
behoeft niet te worden gewacht tot het besluit waarmee de bestuurlijke boete is opgelegd
onherroepelijk is geworden. Dat zou de openbaarmaking van zijn waarde ontdoen, gelet
op de (vaak) lange duur van een bestuursrechtelijke procedure. Wel vindt openbaarmaking
niet eerder plaats dan nadat twee weken zijn verstreken na de dag waarop het besluit
tot oplegging van de bestuurlijke boete bekend is gemaakt. Daardoor is een betrokken
aanbieder in de gelegenheid om een rechtsmiddel aan te wenden, zoals een verzoek om
voorlopige voorziening. Het indienen van een dergelijk verzoek schort de openbaarmaking
op, totdat op het verzoek is beslist of het is ingetrokken.
Het ligt niet in de rede dat een (enkele) aanwijzing tot ontoegankelijkmaking openbaar
wordt gemaakt. Een aanbieder van een communicatiedienst heeft vaak geen weet van de
aanwezigheid van kinderpornografisch materiaal op zijn systemen. Veel aanbieders treden
ook op tegen dit type materiaal, zodra zij op de aanwezigheid daarvan zijn geattendeerd.
In dit licht is openbaarmaking van elke aanwijzing in beginsel niet proportioneel,
omdat de aanbieder veelal meewerkt door binnen de gestelde termijn opvolging te geven
aan een aanwijzing.
4. De Autoriteit
De in dit wetsvoorstel opgenomen taken en bevoegdheden worden uitgeoefend door een
nieuw op te richten zelfstandig bestuursorgaan: de Autoriteit Online Terroristisch
en Kinderpornografisch Materiaal (hierna: de Autoriteit).
4.1 Een zelfstandig bestuursorgaan
Er is geen bestaand bestuursorgaan dat is belast met de ontoegankelijkmaking van online
kinderpornografisch materiaal. De attributie van de in hoofdstuk 3 beschreven taken
en bevoegdheden noopt daarom tot de instelling van een nieuw bestuursorgaan. Het is
noodzakelijk dit bestuursorgaan vorm te geven als een publiekrechtelijk zelfstandig
bestuursorgaan, zonder eigen rechtspersoonlijkheid.
Artikel 1, aanhef en onder a, van de Kaderwet definieert een zelfstandig bestuursorgaan
als een bestuursorgaan van de centrale overheid dat bij wet met openbaar gezag is
bekleed, en niet hiërarchisch ondergeschikt is aan een Minister. Het kabinetsbeleid ten aanzien van
zelfstandige bestuursorganen is primair neergelegd in de Kamerbrief van 13 mei 2014.39 Dit kabinetsbeleid is in lijn met het ongevraagde advies van de Afdeling advisering
van de Raad van State van 15 juni 2020 over ministeriële verantwoordelijkheid.40 Het kabinetsbeleid neemt tot uitgangspunt dat publieke taken onder volledige ministeriële
verantwoordelijkheid worden uitgevoerd, zodat de verantwoordelijke bewindspersoon
op alle aspecten van de uitvoering (politiek) aanspreekbaar is. Dat laat onverlet
dat het in bepaalde situaties noodzakelijk kan zijn een zelfstandig bestuursorgaan
in te stellen. Dat is mogelijk als is voldaan aan één van de in artikel 3, eerste
lid, van de Kaderwet genoemde instellingsmotieven. In aanvulling daarop is een aanvullende
motivering vereist.41 Op grond van artikel 3, eerste lid, aanhef en onderdeel a, van de Kaderwet, kan een
zelfstandig bestuursorgaan worden ingesteld indien er behoefte is aan onafhankelijke
oordeelsvorming op grond van specifieke deskundigheid. Zoals vermeld in de Kamerbrief
van 20 november 2020, is daarvan in dit geval sprake.42 In dit specifieke geval is de primaire reden voor de keuze om de taak van het ontoegankelijk
doen maken van kinderpornografisch materiaal bij een zbo te beleggen de wens (de schijn
van) politieke inmenging in de vrijheid van meningsuiting te voorkomen. Vanzelfsprekend
dient elk overheidsorgaan een onafhankelijke positie in te nemen ten opzichte van
burgers en bedrijven. In het onderhavige geval gaat het echter om bevoegdheden die
onafhankelijk van politieke organen en invloed uitgevoerd moeten worden: het ontoegankelijk
maken van gegevens op internet, louter vanwege de inhoud daarvan, vormt naar zijn
aard een beperking van de vrijheid van meningsuiting. De vrijheid van meningsuiting
is in een democratische rechtsstaat cruciaal, en is mede daarom onder meer neergelegd
in artikel 7 van de Grondwet en artikel 10 van het Verdrag tot bescherming van de
rechten van de mens en de fundamentele vrijheden (hierna: EVRM). Het is vaste rechtspraak
dat met (legitieme en noodzakelijke) beperkingen op dit grondrecht terughoudend moet
worden omgegaan.43 Dit geldt ook als het om uitingen gaat die strafbaar zijn, zoals kinderpornografisch
materiaal – nog daargelaten dat over de kwalificatie van gegevens in een concreet
geval verschil van inzicht kan bestaan.
Een bevoegdheid die inbreuk maakt op de vrijheid van meningsuiting moet bovendien
met voldoende waarborgen zijn omgeven, zodanig dat een willekeurige inmenging wordt
voorkomen.44 Uit de rechtspraak van het Europees Hof voor de Rechten van de Mens (hierna: EHRM)
volgt dat het in de regel de onafhankelijke rechter is die, waar noodzakelijk, overgaat
tot een beperking van de vrijheid van meningsuiting.45 Dat laat onverlet dat ook een ander orgaan, zoals een bestuursorgaan, de bevoegdheid
kan worden geattribueerd om uitingen ontoegankelijk te maken. Het ontbreken van voorafgaande
rechterlijke toetsing moet dan worden gecompenseerd door andere waarborgen, zodanig
dat onafhankelijke oordeelsvorming alsnog is geborgd.46 Door de Autoriteit vorm te geven als zelfstandig bestuursorgaan is aan dit vereiste
voldaan: een zelfstandig bestuursorgaan is niet hiërarchisch ondergeschikt aan enige
politieke ambtsdrager, zodat onafhankelijke oordeelsvorming is geborgd. De bevoegdheden
die de Kaderwet toekent aan de Minister van Justitie en Veiligheid worden bovendien
beperkt, zodat invloed op de inhoudelijke uitoefening van de taken van de Autoriteit
wordt voorkomen (zie paragraaf 4.2).
De noodzaak tot van de politiek onafhankelijke oordeelsvorming, als het gaat om de
ontoegankelijkmaking van uitingen, is ook in Europees verband erkend. Zoals in voormelde
Kamerbrief van 20 november 2020 is aangekondigd, zal de Autoriteit zich tevens gaan
richten op de ontoegankelijkmaking van terroristische online-inhoud ter uitvoering
van de TOIverordening. Deze verordening heeft tot doel terroristische online-inhoud
binnen één uur van internet te verwijderen en verplicht elke lidstaat een daartoe
bevoegde nationale autoriteit aan te wijzen of op te richten.47 Ingevolge artikel 12, tweede lid, van de verordening vraagt of aanvaardt een dergelijke
autoriteit geen instructies van andere instanties in verband met de uitoefening van
de taken die hem op grond van de verordening zijn toegewezen, behoudens toezicht overeenkomstig
de nationale Grondwet.48 Door de Autoriteit vorm te geven als zelfstandig bestuursorgaan, wordt hieraan voldaan.
Geen agentschap of deconcentratie
Er is niet voor gekozen de Autoriteit vorm te geven als een agentschap. Een agentschap
is een intern verzelfstandigd in de uitvoering werkzaam dienstonderdeel van een ministerie,
met een eigen sturingsmodel en financiële administratie. Een agentschap is hiërarchisch
ondergeschikt aan een Minister, en verhoudt zich reeds daarom niet tot de benodigde
onafhankelijke oordeelsvorming. Er is evenmin gekozen voor een constructie waarin
de Autoriteit weliswaar wordt ondergebracht in een regulier dienstonderdeel van een
departement, maar waarbij de bevoegdheid van de Minister om in individuele gevallen
aanwijzingen of instructies te geven wordt beperkt. Dit leidt tot de ongewenste situatie
dat de Minister weliswaar beperkt wordt in zijn mogelijkheid tot ingrijpen, maar toch
volledig politiek verantwoordelijk blijft voor de wijze waarop de Autoriteit zijn
taken vervult.
4.2 Vormgeving
De Autoriteit wordt vormgegeven als een publiekrechtelijk zelfstandig bestuursorgaan
zonder eigen rechtspersoonlijkheid. Deze vormgeving is in lijn met het kabinetsbeleid
inzake zelfstandige bestuursorganen.49 Dat kabinetsbeleid neemt als uitgangspunt dat een zelfstandig bestuursorgaan in de
regel zonder rechtspersoonlijkheid wordt opgericht. Er is in dit geval geen aanleiding
om van dit uitgangspunt af te wijken: het is voor een goede taakvervulling en de beoogde
onafhankelijkheid van de Autoriteit niet noodzakelijk dat zij op eigen titel – dat
wil zeggen los van de rechtspersoon Staat der Nederlanden – aan het civielrechtelijke
rechtsverkeer deelneemt.
De leden van de Autoriteit worden bij koninklijk besluit op voordracht van de Minister
van Justitie en Veiligheid voor een termijn van vier jaar benoemd, met uitzondering
van de voorzitter, die voor vijf jaar wordt benoemd. Herbenoeming is mogelijk voor
eenzelfde periode. Deze termijnen zijn in lijn met de gebruikelijke benoemingstermijnen
en stellen de leden in de gelegenheid de benodigde ervaring en expertise op te bouwen.
Door de termijn van de voorzitter op één jaar langer te stellen dan de termijn van
de overige leden wordt de benodigde continuïteit en kennisoverdracht gewaarborgd.
Na inwerkingtreding van dit wetsvoorstel is de Kaderwet van toepassing op de Autoriteit.
De Kaderwet geeft algemene regels over de positionering van de Autoriteit ten opzichte
van de Minister van Justitie en Veiligheid, over onder meer:
– de positie van personeelsleden in dienst van het zelfstandig bestuursorgaan (artikel
16 Kaderwet);
– het opstellen van een jaarverslag (artikel 18 Kaderwet);
– het verstrekken van inlichtingen aan de Minister van Justitie en Veiligheid (artikel
20, eerste lid, Kaderwet);
– de bevoegdheid van de Minister van Justitie en Veiligheid om voorzieningen te treffen
bij taakverwaarlozing (artikel 23 Kaderwet).
Ter vergroting van de vereiste onafhankelijkheid wordt op onderdelen afgeweken van
de Kaderwet. Artikel 21 (geven van beleidsregels) en artikel 22 (vernietiging van
besluiten) zijn buiten toepassing verklaard. De artikelen 20 (inlichtingen) en 23
(taakverwaarlozing) zijn van toepassing, doch slechts voor zover het gaat om het financiële
beheer en de administratieve organisatie. In afwijking van artikel 12 van de Kaderwet
regelen de artikelen 2a en 2c van het onderhavige wetsvoorstel dat de benoeming, schorsing
en ontslag van de leden plaatsvindt bij koninklijk besluit. In aansluiting bij artikel
12, tweede lid, van de Kaderwet vindt dit laatste slechts plaats wegens ongeschiktheid
of onbekwaamheid dan wel wegens andere zwaarwegende in de persoon van de betrokkene
gelegen redenen. Logischerwijze kan ontslag voorts plaatsvinden op eigen verzoek.
Een nadere precisering is niet noodzakelijk: de artikelen 9, 13 en 14 van de Kaderwet
voorzien in algemene regels.
De beide kamers der Staten-Generaal worden elke vijf jaar geïnformeerd over de doelmatigheid
en doeltreffendheid van het functioneren van de Autoriteit (artikel 39, eerste lid,
van de Kaderwet).
4.3 Taken en positionering
De Autoriteit heeft tot taak de ontoegankelijkmaking van online kinderpornografisch
materiaal te bevorderen en zo nodig af te dwingen. De Autoriteit heeft tevens tot
taak onderzoek te doen naar de aanwezigheid van online kinderpornografisch materiaal,
zodat de verspreiding daarvan wordt voorkomen of beperkt, zo mogelijk in samenwerking
met private en publieke partijen.
De Autoriteit vergewist zich ervan dat een aanwijzing wordt opgevolgd en treedt zo
nodig op door het opleggen van een bestuursrechtelijke sanctie. De Autoriteit moet
behalve gezaghebbend ook snel kunnen handelen, en daarnaast de nodige expertise in
huis hebben om (mogelijk) kinderpornografisch materiaal te beoordelen. Ook moet hij
stimulerend en ontwikkelingsgericht zijn in de relatie met de betrokken marktpartijen.
De Autoriteit stimuleert de samenwerking tussen deze marktpartijen en bevordert dat
zij, en hun belangenorganisaties, zoveel mogelijk zelf initiatieven ontplooien om
instrumenten te ontwikkelen om online kinderpornografisch materiaal tegen te gaan.
Deze partijen zijn daartoe bij uitstek in staat, omdat de technische ontwikkeling
van ICT en internet wortelen in het marktdomein. Ook het mobiliseren van kennis uit
de wetenschap en het in verbinding brengen van deze sector met de marktsector is een
functie van de maatschappelijke samenwerking. De Autoriteit hanteert hiermee een hybride
aanpak: hij werkt via horizontale relaties samen met de markt (zie artikel 2, tweede
lid, onder b). Waar dat niet voldoende effect sorteert, vervult hij een verticale
gezagsrol en zal hij zo nodig maatregelen opleggen (zie artikel 2, tweede lid, onder
a).
Positionering
Positionering ten opzichte van de zelfregulering
De Autoriteit is uitdrukkelijk gepositioneerd náást de bestaande zelfregulering. De
zelfregulering is gericht op het vrijwillig en uit eigen beweging verwijderen van
online kinderpornografisch materiaal. Het EOKM werkt hiertoe samen met aanbieders
van communicatiediensten die vrijwillig meldingen opvolgen, een klein aandeel meldingen
hebben en zelf laten zien een actieve bijdrage te leveren aan de aanpak van online
seksueel kindermisbruik. De afspraken hieromtrent zijn vastgelegd in het op 13 december
2018 ondertekende addendum bij de gedragscode-notice-and-take-down dat is overeengekomen
tussen overheden, internetaanbieders, hostingbedrijven en andere tussenpersonen en
waarin het EOKM specifiek aangemerkt staat als betrouwbare partij (trusted flagger) voor de internetsector.
Het ligt in de rede dat de Autoriteit afspraken zal maken met het EOKM over de wijze
van samenwerking en afstemming.50 In het bijzonder voor de onderzoekstaak die de Autoriteit op grond van artikel 2,
tweede lid, onder b, van het wetsvoorstel heeft en die zij waar mogelijk dient uit
te voeren in samenwerking met private en publieke partijen, ligt het in de rede dat
zij die vorm geeft in samenwerking met het EOKM. Daarbij kan gedacht worden aan specifieke
afspraken betreffende meldingen over aanbieders die in het zelfregulerend kader niet
of niet voldoende reageren, relatief veel meldingen krijgen, (technische) barrières
opwerpen voor een goede samenwerking of waar anderszins de zelfregulering onvoldoende
effectief blijkt. De inzet van de ATKM dient zo veel mogelijk te zijn gericht op het
doen van onderzoek naar de aard en oorsprong van meldingen, het opvolgen van besluiten
die door de ATKM zijn uitgevaardigd en die gevallen waarin de zelfregulering niet
effectief blijkt. Het is daarbij uiteraard aan de ATKM zelf om te bepalen hoe zij
haar bevoegdheden uitoefent.
Positionering ten opzicht van strafrechtelijke opsporing en vervolging
De strafrechtelijke opsporing en vervolging ligt en blijft bij de politie en het OM.
De focus van politie en het OM richt zich primair op de opsporing en vervolging van
daders en het ontzetten van slachtoffers uit misbruiksituaties. De Autoriteit richt
zich op de ontoegankelijkmaking van online kinderpornografisch materiaal, in samenwerking
met deze relevante ketenpartners. Gelet op de internationale dimensie ligt het voor
de hand dat de Autoriteit samenwerking zoekt met vergelijkbare organen in het buitenland.
Ook met de politie en het OM worden afspraken gemaakt over de wijze van samenwerking
en afstemming tussen deze organisaties. Daarmee wordt voorkomen dat door uitoefening
van de bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging
van diegenen die kinderpornografisch materiaal produceren of bekijken wordt doorkruist.
Zie ook de artikelsgewijze toelichting op artikel 5.
Meldingen en crawling
Het wordt mogelijk om (verondersteld) online kinderpornografisch materiaal bij de
Autoriteit te melden. Hiertoe wordt een frontoffice ingericht, waar ook het EOKM en
de politie een melding kunnen doen. In het geval van het EOKM gaat het in het bijzonder
om meldingen over materiaal dat binnen het bestaande regime van zelfregulering niet
ontoegankelijk wordt gemaakt. Ook natuurlijke personen of andere rechtspersonen kunnen
melding doen. Vanwege het reeds bestaande effectieve systeem van zelfregulering, zullen
melders worden aangemoedigd eerst een melding bij het EOKM te doen, alvorens zich
tot de ATKM te wenden.
De Autoriteit is bevoegd om onderzoek te doen naar de aanwezigheid van online kinderpornografisch
materiaal op het openbare deel van het internet. Artikel 2, tweede lid, van dit voorstel
van wet biedt daarvoor de grondslag. Dit onderzoek kan handmatig gebeuren, maar ook
met meer innovatieve en automatische instrumenten. Bij dat laatste kan bijvoorbeeld
worden gedacht aan een webcrawler, waarmee (deels) geautomatiseerd naar online kinderpornografisch
materiaal wordt gezocht. Een voorbeeld waarbij dit toegepast zou kunnen worden, is
als er na melding van het aantreffen van materiaal onderzocht moet worden of hetzelfde
materiaal ook op andere servers of hostingdiensten wordt aangeboden. Ook kan de onderzoeksbevoegdheid
worden ingezet bij door het EOKM uitgevaardigde verwijderverzoeken of door de ATKM
uitgevaardigde verwijderingsbevelen en opgelegde sancties. Met de bevoegdheid voor
de ATKM om een webcrawler te gebruiken, wordt uitvoering gegeven aan de motie-Van
Nispen.51
In beide gevallen controleert de Autoriteit of het in het individuele geval daadwerkelijk
om kinderpornografisch materiaal gaat. Deze controle kan plaatsvinden door een ter
zake deskundige medewerker, maar kan ook geautomatiseerd worden verricht. In dit laatste
geval wordt, eventueel in combinatie met de hiervoor genoemde crawler, gebruikgemaakt
van de Hashcheckserver. Dit betreft een database met (thans) ongeveer 1,4 miljoen
unieke hashcodes (digitale vingerafdrukken) van eerder gedetecteerd online kinderpornografisch
materiaal. Deze hashcodes zijn door de politie beschikbaar gesteld.52 Daarnaast zijn er inmiddels ruim 60.000 hashcodes opgenomen van Interpol en 1,5 miljoen
codes van het Amerikaanse National Center for Missing & Exploited Children (bekend
als NCMEC). Zoals hiervoor aangegeven overlegt de Autoriteit over zijn activiteiten
met de betrokken marktpartijen vanuit het belang van een zo effectief mogelijke aanpak.
Zo kunnen de activiteiten van de Autoriteit en die van de betrokken aanbieders van
communicatiediensten elkaar aanvullen en versterken.
Onderzoeksgebied
Het onderzoeksgebied van de Autoriteit ziet enkel op materiaal dat zich op het openbare
internet bevindt. Met het openbare internet wordt bedoeld dat deel van het internet
dat door een gebruiker direct kan worden benaderd, bijvoorbeeld via een link, een
adres of een inlog. De Autoriteit is daarom bevoegd onderzoek te doen op het openbare
internet. Dit betekent dat wanneer voor de toegang tot informatie registratie of toelating
tot een groep gebruikers vereist is, zij alleen onder het bereik van het wetsvoorstel
valt wanneer gebruikers die toegang tot de informatie wensen, automatisch worden geregistreerd
of toegelaten zonder menselijke beslissing of selectie van wie toegang krijgt. Alleen
dan kan namelijk worden gesproken van het «openbare internet». Dit voorstel biedt
derhalve geen grondslag voor het kennisnemen van bronnen waarbij een aanvullende handeling,
die in feite niet volledig geautomatiseerd is, is vereist en waarvoor een «deurbeleid»
bestaat in de vorm van een beoordeling van de accounthouder (in enige mate doorbreken
van een beveiliging).
De Autoriteit wordt krachtens dit wetsvoorstel niet toegerust met opsporingsbevoegdheden,
omdat dat niet past bij de taak die het wetsvoorstel aan de Autoriteit toekent. De
taak van de Autoriteit is immers het zo snel mogelijk offline laten halen dan wel
ontoegankelijk doen maken van online kinderpornografisch materiaal en niet het opsporen
van de plaatsers van dit materiaal.
Wanneer sprake is van online kinderpornografisch materiaal, kan de Autoriteit een
aanwijzing geven. De beschikking daartoe wordt op elektronische wijze bekendgemaakt.
Bij nieuw kinderpornografisch materiaal maakt de Autoriteit daarvan melding bij de
politie (zie ook artikel 5, tweede lid). In dat geval kan opsporingsonderzoek opportuun
zijn, zodat actueel kindermisbruik wordt gestopt en een dader vervolgd. Het is denkbaar
dat de Autoriteit besluit geen aanwijzing te geven. Dat kan bijvoorbeeld het geval
zijn als de betrokken aanbieder van een communicatiedienst niet eerder in aanraking
is geweest met online kinderpornografisch materiaal en aannemelijk is dat zelfregulering
effectiever is. Van een aanwijzing zal voorts worden afgezien als de betrokken aanbieder
niet in Nederland is gevestigd. In dat geval wordt de melding doorgezet aan een in
het betrokken land gevestigd meldpunt.
Om zicht te houden op de meldingenstroom monitort de Autoriteit de uitgaande aanwijzingen
en zo mogelijk daarbij ook de meldingen van het EOKM, zodat inzichtelijk wordt welke
aanbieders meldingen ontvangen en binnen welke termijn deze worden opgevolgd. Deze
eerdergenoemde monitor is als instrument door de Technische Universiteit Delft gebouwd
en werkzaam.53 Het heeft een focus op meldingen aan aanbieders van hostingdiensten. Aanbieders van
mere conduit-diensten vallen buiten de scope van de monitor omdat meldingen van het
EOKM daar niet op zijn gericht. Zoals eerder opgemerkt ligt het echter niet in de
rede dat een aanwijzing vaak tot dit type aanbieders wordt gericht. De resultaten
van dit monitorinstrument maakt de Autoriteit jaarlijks openbaar, of naar eigen inzicht
vaker, waarmee namen en prestaties van deze aanbieders openbaar worden.
Evaluatie
Mede gelet op de toezegging van het kabinet om nieuwe wet- en regelgeving na de invoering
daarvan te toetsen, wordt de werking en effecten van het onderhavige voorstel van
wet geëvalueerd.54 Daarbij is aandacht voor de werking van het voorgestelde instrumentarium en de effecten
daarvan in de praktijk. Gelet op artikel 39 van de Kaderwet zendt de Minister van
Justitie en Veiligheid bovendien elke vijf jaar een verslag aan beide kamers der Staten-Generaal
ten behoeve van de beoordeling van de doelmatigheid en doeltreffendheid van het functioneren
van de Autoriteit.
4.4 Samenloop met uitvoering van de TOI-verordening
De Autoriteit zal zich tevens gaan richten op de ontoegankelijkmaking van terroristische
online-inhoud, ter uitvoering van de TOI-verordening.55 Voor het beleggen van deze beide taken bij één Autoriteit is gekozen omdat de taken
gelijksoortig zijn en de systematiek van inhoudsverwijdering overeenkomt. Het is daarom
doelmatig en doeltreffend als één Autoriteit beide taken uitvoert. Ook komt het de
zichtbaarheid voor de sector die met de Autoriteit te maken krijgt ten goede als beide
taken zijn belegd bij één instantie. De Uitvoeringswet verordening terroristische
online-inhoud (Uitvoeringswet TOI-verordening) zal eerder in werking treden dan het
onderhavige wetsvoorstel, zodat het zelfstandige bestuursorgaan reeds met die uitvoeringswet
zal zijn opgericht. Voor die situatie bevat artikel 15 van dit wetsvoorstel een samenloopbepaling.
Hoewel sprake is van een groot aantal overeenkomsten tussen de Uitvoeringswet TOI-verordening
en het onderhavige voorstel, zijn er ook een aantal verschillen. De Afdeling advisering
van de Raad van State heeft hier ook naar gevraagd in haar advies. Hieronder zal kort
worden stil gestaan bij de achtergrond van die verschillen.
Verwijdertermijn
De termijn waarbinnen terroristische online-inhoud op grond van de TOI-verordening
van het internet verwijderd moet zijn bedraagt één uur na ontvangst van het verwijderingsbevel,
terwijl artikel 6, vierde lid, aanhef en onder c van het onderhavige wetsvoorstel
bepaalt dat de aanwijzing de termijn bevat waarbinnen de gegevens ontoegankelijk moeten
worden gemaakt. De lengte van die termijn is afhankelijk van de omstandigheden van
het geval en vereist een afweging tussen het belang van tijdige verwijdering enerzijds
en de technische en praktische maatregelen die redelijkerwijs van de aanbieder kunnen
worden gevergd anderzijds. Een termijn van 1 uur voor de opvolging van een aanwijzing
om kinderpornografisch materiaal ontoegankelijk te maken acht het kabinet niet in
alle gevallen uitvoerbaar. Daarom is ervoor gekozen geen concrete termijn in de wet
op te nemen, maar is het aan de Autoriteit om in het concrete geval een afweging te
maken en daarbij een passende termijn te stellen. Gelet op het veelal evidente karakter
van kinderpornografisch materiaal zal de in de aanwijzing opgenomen termijn in de
regel wel kort zijn. Ter illustratie kan worden gewezen op de termijn in het op 13 december
2018 ondertekende addendum bij de gedragscode-notice-and-take-down voor de Nederlandse
internetsector, waarin is opgenomen dat kinderpornografisch materiaal binnen 24 uur
na een melding moet zijn verwijderd (zie: Notice and Takedown Code). Ook in het voorstel
voor een Verordening ter voorkoming en bestrijding van seksueel kindermisbruik (COM(2022)
209 final 2022/0155 (COD)) waarover momenteel wordt onderhandeld, is een verwijdertermijn
van 24 uur opgenomen.
Factoren die een rol spelen bij de keuze en hoogte van de sanctie
Ten aanzien van terroristische online-inhoud expliciteert de TOI-verordening concreet
een aantal te betrekken omstandigheden die een rol zullen spelen bij een op te leggen
bestuurlijke boete. Deze vloeien daarmee direct uit de Verordening voort. Het gaat
dan om: de aard, ernst en duur van de inbreuk; eerder gemaakte inbreuken door de aanbieder;
de financiële draagkracht van de aanbieder; de mate van samenwerking met de Autoriteit;
de omvang van de onderneming; de schuldgraad van de aanbieder.56 In het onderhavige wetsvoorstel zijn deze factoren niet in de tekst van de wet opgenomen.
De reden hiervoor is dat op grond van artikel 5:46, tweede lid, Awb de hoogte van
de boete in elk concreet geval wordt afgestemd op de ernst van de overtreding en de
mate waarin deze aan de overtreder kan worden verweten. Het bestuursorgaan houdt daarbij
zo nodig rekening met de omstandigheden waaronder de overtreding is gepleegd. Bij
het opleggen van een boete wordt verder beoordeeld of er omstandigheden zijn die nopen
tot verlaging of matiging van de boete. Het in dit wetsvoorstel opnemen van de omstandigheden
zoals genoemd in artikel 18, tweede lid van de TOI-verordening, zou daaraan niets
toevoegen. De Awb verplicht immers al rekening te houden met alle relevante factoren,
ook die zoals genoemd in de TOI-verordening. Dat deze factoren wel in de TOI-verordening
zijn opgenomen, is vanuit het standpunt van de EU-wetgever begrijpelijk nu deze daarmee
beoogt een binnen de Unie vergelijkbaar kader te scheppen. Nu de Awb hiervoor reeds
een algemene regeling geeft, is het niet noodzakelijk in dit wetsvoorstel nog een
bijzondere regeling op te nemen met factoren waarmee rekening moet worden gehouden
bij het opleggen van een bestuurlijke boete.
Mogelijkheid tot openbaarmaking bestuurlijke boete
In het onderhavige wetsvoorstel is de mogelijkheid opgenomen openbaar te maken dat
een bestuurlijke boete is opgelegd wegens het nalaten opvolging te geven aan een aanwijzing
(zie artikel 10 van dit wetsvoorstel). Reden daarvoor is in de eerste plaats de naleving
van deze wet te bevorderen, en tevens inzicht te geven in de mate en de manier waarop
op deze naleving toezicht wordt gehouden. Daarnaast gaat van de openbaarmaking een
zekere diffamerende werking uit, omdat de bestuurlijke boete is opgelegd wegens het
nalaten opvolging te geven aan een gegeven aanwijzing. Tijdens de behandeling van
de Uitvoeringswet TOI-verordening in de Tweede Kamer is door het lid Michon-Derkzen
een amendement ingediend dat er onder meer toe strekt de Autoriteit de mogelijkheid
te geven opgelegde bestuurlijke boetes voor het niet opvolgen van een verwijderingsbevel
openbaar te maken.57 Dit amendement is aangenomen en de Uitvoeringswet TOI-verordening en het onderhavige
wetsvoorstel zijn daarmee op dit punt gelijkluidend.
Format voor een beroep op overmacht
In tegenstelling tot het onderhavige wetsvoorstel bevat de TOI-verordening een regeling
met betrekking tot de wijze waarop de aanbieder van hostingdiensten zich kan beroepen
op overmacht dan wel feitelijke onmogelijkheid tot naleving van het bevel om terroristische
online-inhoud ontoegankelijk te maken. De TOI-verordening bevat daartoe een uitgewerkt
format op basis waarvan de onmogelijkheid tot naleving kenbaar kan worden gemaakt.
Dat het onderhavige wetsvoorstel niet voorziet in een specifieke regeling of specifiek
format is gelegen in het feit dat de Awb algemene regels bevat waarmee rekening moet
worden gehouden bij het opleggen van een last onder dwangsom of een bestuurlijke boete,
waarmee een aanbieder van hostingdiensten voldoende mogelijkheden heeft om een onmogelijkheid
tot naleving kenbaar te maken.
Een last onder dwangsom kan alleen worden opgelegd aan de overtreder die het in zijn
macht heeft de overtreding te beëindigen.58 Daarin ligt besloten dat een last onder dwangsom niet wordt opgelegd als de aanbieder
van een hostingsdienst vanwege overmacht of feitelijke onmogelijkheid niet in staat
zal zijn de last uit te voeren. In geval van blijvende of tijdelijke gehele of gedeeltelijk
onmogelijkheid voor de overtreder om aan zijn verplichtingen te voldoen, kan het bestuursorgaan
dat een last onder dwangsom heeft opgelegd op grond van artikel 5:34, eerste lid Awb,
op verzoek van de overtreder de last opheffen, de looptijd ervan opschorten voor een
bepaalde termijn of de dwangsom verminderen.
Voor wat betreft een bestuurlijke boete geldt dat een bestuursorgaan deze op grond
van artikel 5:41 Awb niet kan opleggen voor zover de overtreding niet aan de overtreder
kan worden verweten. Een aanbieder die niet in de mogelijkheid verkeert gegevens ontoegankelijk
te maken bijvoorbeeld om technische redenen, kan deze overtreding niet worden verweten
en hem kan derhalve geen bestuurlijke boete worden opgelegd. Bovendien dient de ATKM
de boete op grond van artikel 5:46, tweede lid, Awb af te stemmen op de ernst van
de overtreding en de mate waarin deze aan de overtreder kan worden verweten. Daarbij
houdt de ATKM zo nodig rekening met de omstandigheden waaronder de overtreding is
begaan. Een verminderde verwijtbaarheid kan derhalve aanleiding vormen een lagere
boete vast te stellen. Gelet op de reeds bestaande mogelijkheden in de Awb om de onmogelijkheid
tot naleving kenbaar te maken en rekening te houden met de omstandigheden waarin de
aanbieder verkeert, acht de regering opname van een specifieke regeling in dit wetsvoorstel
niet noodzakelijk.
5. Grondrechten
De voorgestelde bevoegdheden behoeven toelichting in een grondrechtelijk kader. Dit
komt hieronder aan bod.
5.1 Vrijheid van meningsuiting
De aanwending van de voorgestelde bevoegdheden kan een inmenging vormen in het recht
op vrijheid van meningsuiting. Dit recht omvat de vrijheid een mening te openbaren,
en de vrijheid om inlichtingen of denkbeelden te ontvangen, zonder inmenging van het
openbaar gezag en ongeacht landsgrenzen. Dit recht is onder meer beschermd in artikel
10 van het EVRM en artikel 11 van het Handvest van de Grondrechten van de Europese
Unie (hierna: het Handvest).59 Volgens de toelichting bij het Handvest corresponderen de rechten van artikel 11 van
het Handvest met de rechten die in artikel 10 van het EVRM zijn gewaarborgd en hebben
deze, gelet op artikel 52, derde lid, van het Handvest, dezelfde inhoud en reikwijdte.
Hierna wordt eerst stilgestaan bij de beperkingssystematiek van het EVRM en het Handvest.
De vrijheid van meningsuiting wordt vanzelfsprekend ook beschermd door artikel 7 van
de Grondwet. Op deze bepaling wordt aan het slot van deze paragraaf ingegaan.
Artikel 10, eerste lid, EVRM heeft ook betrekking op uitingen op internet.60 Het valt niet uit te sluiten dat materiaal dat als kinderpornografisch wordt gekwalificeerd,
onder omstandigheden binnen de reikwijdte van deze bepaling valt en dat (bijvoorbeeld)
degene die dit materiaal op het internet heeft geplaatst, hier een beroep op doet.61 Voor zover dat het geval is, geldt dat het in deze bepaling neergelegde recht op vrijheid van meningsuiting niet absoluut is:
het tweede lid stelt buiten twijfel dat op dit recht beperkingen mogelijk zijn. Een inmenging is gerechtvaardigd als deze bij wet is voorzien, een legitiem doel
dient en noodzakelijk is in een democratische samenleving.
Bij wet voorzien
Een inbreuk op het recht van vrijheid van meningsuiting vergt een wettelijke grondslag.
Deze grondslag moet voldoen aan de vereisten van toegankelijkheid (accessibility) en voorzienbaarheid (foreseeability). Het is dus niet alleen van belang of er een wettelijke grondslag is, maar ook of
de betreffende regeling kwalitatief in orde is en voldoende waarborgen biedt tegen
willekeurige inmenging. Dat betekent onder meer dat de grondslag waarop de inmenging
rust voor de burger voldoende kenbaar moet zijn, en dat de desbetreffende norm zodanig
precies moet zijn geformuleerd dat de burger zijn gedrag erop kan afstemmen.
Met de voorgestelde bevoegdheden wordt de benodigde wettelijke basis verschaft. Voorts
zijn de voorgestelde bevoegdheden nauwkeurig en specifiek omschreven. Allereerst geldt
dat zij louter kunnen worden aangewend in geval van kinderpornografisch materiaal.
Andere uitingen op internet vallen buiten de reikwijdte van deze bevoegdheid. Het
veelal evidente en contextonafhankelijk karakter van kinderpornografisch materiaal
maakt dat voldoende voorzienbaar is in welke gevallen zal worden opgetreden. Anders
dan bij vele andere soorten online uitingen zal er bij kinderpornografisch materiaal
niet snel twijfel zijn over de kwalificatie van het materiaal. Voorts geldt dat de
Autoriteit alleen optreedt in geval van kennelijk kinderpornografisch materiaal. Materiaal waarover redelijkerwijs toch enige discussie
mogelijk is valt derhalve buiten de reikwijdte van deze bevoegdheid.
Tegen zowel de aanwijzing als een (eventueel) daaropvolgende bestuursrechtelijke sanctie
staat bestuursrechtelijke rechtsbescherming open. Hoewel deze rechtsmiddelen de werking
van een besluit niet opschorten, kan zowel in bezwaar als in (hoger) beroep een verzoek
om een voorlopige voorziening worden gedaan. De toewijzing van dit verzoek kan schorsende
werking sorteren en ertoe leiden dat de ontoegankelijkmaking achterwege blijft of
ongedaan wordt gemaakt, totdat op het bezwaar of het beroep is beslist.
Legitiem doel
De ontoegankelijkmaking dient een legitiem doel: de bescherming van de gezondheid
of de goede zeden, alsmede op de bescherming van de rechten van anderen: daaronder
kan worden begrepen het beperken van de beschikbaarheid van online kinderpornografisch
materiaal.62 Het voorkomen en beperken van seksueel misbruik van minderjarigen is een zwaarwegend
belang.63 Deze zwaarwegendheid wordt ondersteund door de Richtlijn kindermisbruik. Ingevolge
deze richtlijn rust op Nederland een verplichting om maatregelen te treffen om handelingen
die verband houden met seksueel misbruik van kinderen te voorkomen. In overweging
46 van deze richtlijn staat:
«(...) Om kinderpornografie te bestrijden moet de verspreiding van materiaal betreffende
seksueel misbruik van kinderen worden beperkt door het voor daders moeilijker te maken
om de inhoud op het publiek toegankelijke internet te uploaden. Er moet derhalve worden
opgetreden om de desbetreffende inhoud te verwijderen (...).»
Deze verplichting is uitgewerkt in artikel 25, eerste lid, van voormelde richtlijn.
Op grond van deze bepaling zijn lidstaten verplicht maatregelen te nemen om de onverwijlde
verwijdering te bewerkstelligen van websites die kinderporno bevatten of verspreiden,
indien de desbetreffende gegevens op het grondgebied van die lidstaat worden gehost.
Met dit wetsvoorstel wordt in dergelijke maatregelen voorzien.
Noodzakelijk in een democratische samenleving
Ten slotte kan worden opgemerkt dat de voorgestelde maatregelen voorzien in een dringende
maatschappelijke behoefte (pressing social need).64 Gewezen wordt op het zeer grote aantal kinderpornografische afbeeldingen dat ieder jaar in Nederland
wordt gehost en doorgegeven en de noodzaak daar tegen op te treden. De voorgestelde
maatregelen zijn proportioneel. Het geven van een bindende aanwijzing is een middel
dat op een weinig ingrijpende manier de verspreiding van online kinderpornografisch
materiaal tegen gaat. Het opleggen van een sanctie, zoals een last onder dwangsom
of een bestuurlijke boete, kan noodzakelijk zijn om naleving van de aanwijzing af
te dwingen. Het opleggen van een last onder dwangsom of een bestuurlijke boete is
bovendien pas aan de orde als de aanwijzing niet, of niet volledig, wordt nagekomen.
Als de aanwijzing wordt opgevolgd, is er geen ruimte een sanctie op te leggen. De
aanwijzing verplicht ook niet tot meer dan waartoe de aanbieder van een communicatiedienst
in redelijkerwijs in staat is: de aanbieder die aannemelijk maakt alle redelijkerwijs
te nemen maatregelen te hebben getroffen, heeft aan zijn verplichtingen voldaan. Ten
aanzien van de last onder dwangsom wordt opgemerkt dat de hoogte van een dwangsom
in alle gevallen in redelijke verhouding moet staan tot de zwaarte van de overtreding
en de beoogde werking van de dwangsom. Enerzijds dient van de (dreigende) verbeurte
een prikkel uit te gaan de overtreding te beëindigen. Anderzijds mag deze prikkel,
gelet op het niet-punitieve karakter van de last onder dwangsom, niet verder te gaan
dan noodzakelijk. Het voormelde geldt evenzeer voor het opleggen van een bestuurlijke
boete: daarvoor is slechts plaats indien en nadat een aanwijzing niet of niet volledig
is opgevolgd en dit aan de dienstverlener kan worden verweten. De hoogte van de boete
wordt afgestemd op de ernst van de overtreding en de mate waarin deze aan de overtreder
kan worden verweten. Daarbij wordt onder meer rekening gehouden met de omstandigheden
waaronder de overtreding is gepleegd. Over de openbaarmaking wordt ten slotte opgemerkt
dat openbaarmaking pas aan de orde is nadat een bestuurlijke boete is opgelegd. Het
gaat derhalve niet om een maatregel die direct samen met een aanwijzing tot ontoegankelijkmaking
wordt opgelegd, maar om een maatregel opgelegd ter handhaving van deze aanwijzing.
Gelet op de mogelijke samenloop van een last onder dwangsom en een bestuurlijke boete
geldt bovendien dat het totale pakket van sancties, gelet op artikel 3:4, tweede lid,
Awb, evenredig zal moeten zijn.
Gelet op het voormelde is de voorgestelde regeling met voldoende waarborgen omkleed
om een willekeurige inmenging in de grondrechten te voorkomen. Daarbij is relevant
dat de bevoegdheid tot het geven van een aanwijzing slechts aangewend kan worden indien
sprake is van kennelijk online kinderpornografisch materiaal. Er is derhalve geen
sprake van een algemene bevoegdheid tot ontoegankelijkmaking, die onder alle omstandigheden
en gericht op alle typen online materiaal kan worden aangewend. Voorts is voorzien
in een effectief en daadwerkelijk rechtsmiddel, waaronder de mogelijkheid tot het
indienen van een verzoek om een voorlopige voorziening waarmee schorsende werking
kan worden verkregen.
Artikel 7 van de Grondwet
De vrijheid van meningsuiting wordt ook beschermd door artikel 7 Gw. Het derde lid
van dit artikel bepaalt dat niemand voorafgaand verlof nodig heeft voor het openbaren
van gedachten en gevoelens door andere middelen dan de drukpers en omroep, behoudens
ieders verantwoordelijkheid volgens de wet. Dit recht impliceert het recht een mening
te uiten, waarbij alleen de wet in formele zin beperkingen kan stellen. Ook uitingen
op internet vallen onder de reikwijdte van deze bepaling. Voorafgaand verlof wegens
de inhoud van een uiting is verboden, ook als dat bij wet in formele zin geschiedt.
Waar een (repressieve) beperking wordt aangebracht, moet bovendien zijn voorzien in
een rechtsgang naar een rechtsprekend orgaan.65
Gelet op hetgeen hiervoor is opgemerkt, is het voorgestelde systeem in lijn met artikel
7, derde lid, Gw. Benadrukt wordt dat de voorgestelde maatregelen niet strekken tot
enig stelsel van voorafgaand verlof: een aanwijzing kan slechts worden gegeven ten
aanzien van reeds geüpload kinderpornografisch materiaal, en strekt derhalve niet
tot enige verplichting om uitingen preventief te filteren. Dat geldt evenzeer voor
eventuele op de aanwijzing volgende sancties, nu deze slechts strekken ter handhaving
van de aanwijzing tot ontoegankelijkmaking. Ook de zorgplicht leidt niet tot preventief
toezicht van overheidswege, maar laat de keuze voor het treffen van passende en evenredige
maatregelen aan de aanbieder van hostingdiensten.
5.2 Vrijheid van ondernemerschap
Een bevoegdheid die strekt tot ontoegankelijkmaking van online informatie kan een
beperking opleveren van de vrijheid van ondernemerschap (artikel 16 Handvest). De
vrijheid van ondernemerschap ziet met name op het recht voor elke onderneming om,
binnen de grenzen van de aansprakelijkheid voor eigen handelingen, vrij te beschikken
over de haar ter beschikking staande economische, technische en financiële middelen.
De hier voorgestelde bevoegdheden kunnen ertoe leiden dat deze vrijheid wordt beperkt
omdat wordt ingegrepen in de bedrijfsvoering van ondernemingen. Deze beperking moet
noodzakelijk en proportioneel zijn. Uit de rechtspraak van het Hof van Justitie66 kan worden afgeleid dat een aanwijzing tot ontoegankelijkmaking van gegevens een
gerechtvaardigde inmenging is als aan drie eisen is voldaan:
– de aanwijzing schrijft niet voor welke maatregelen getroffen moeten worden. Degene
tot wie de aanwijzing is gericht kan zelf de (technische) middelen kiezen om aan die
maatregel te voldoen. Tevens moet diegene niet worden aangerekend dat een aanwijzing
niet is nagekomen als hij kan aantonen alle redelijke maatregelen daartoe te hebben
genomen;
– de genomen maatregelen mogen internetgebruikers niet nodeloos de mogelijkheid ontzeggen
om zich rechtmatig toegang tot beschikbare informatie te verschaffen, en
– de maatregel moet daadwerkelijk doeltreffend zijn, en derhalve tot gevolg hebben dat
niet-toegestane uitingen worden verhinderd of minstens bemoeilijkt.
Met de voorgestelde wettelijke regeling wordt aan deze voorwaarden voldaan. De beoogde
aanwijzing verplicht de aanbieder van een communicatiedienst alle maatregelen te treffen
die redelijkerwijs kunnen worden gevergd om het kinderpornografische materiaal ontoegankelijk
te maken. De aanwijzing schrijft niet voor welke (technische) middelen moeten worden
aangewend. De aanbieder van een communicatiedienst kan dus zelf de (technische) middelen
kiezen om aan de aanwijzing te voldoen. De aanbieder die aannemelijk maakt alle redelijkerwijs
te nemen maatregelen te hebben getroffen, maar er desalniettemin niet in slaagt het
materiaal ontoegankelijk te maken, heeft aan deze verplichting voldaan. Het voormelde
geldt in gelijke zin voor de zorgplicht.
Het vereiste van evenredigheid betreft een uitwerking van het evenredigheidsbeginsel,
zoals dat onder meer is neergelegd in artikel 52, eerste lid, van het Handvest. Uit
dit vereiste volgt dat de gevorderde maatregelen in een redelijke verhouding moeten
staan tot het daarmee beoogde doel. Een maatregel die slechts beperkt effectief is
wordt eerder als onevenredig aangemerkt: als het beoogde doel minder gemakkelijk wordt
gerealiseerd, zal de maatregel minder snel in een redelijke verhouding tot dat doel
staan. Ten aanzien van de voorgestelde maatregelen wordt opgemerkt dat de zorgplicht,
aanwijzing en eventuele daarop volgende sancties ertoe strekken dat de verspreiding
van online kinderpornografisch materiaal wordt beperkt. Hoewel de verspreiding van
kinderpornografisch materiaal nooit volledig valt uit te bannen, wordt dit wel sterk
bemoeilijkt. Gelet daarop, en op de omstandigheid dat er geen minder verstrekkend
middel voorhanden is, is de regering van oordeel dat de onderhavige maatregel aan
het evenredigheidsvereiste voldoet.
5.3 Verwerking van persoonsgegevens
De AVG geeft regels voor de verwerking van persoonsgegevens. Onder «persoonsgegevens»
wordt op grond van artikel 4, eerste lid, AVG verstaan alle informatie over een geïdentificeerde
of identificeerbare natuurlijke persoon.
Voor de uitoefening van de krachtens deze wet aan de Autoriteit opgedragen taken is
het verwerken van persoonsgegevens noodzakelijk. Dit betreft primair persoonsgegevens
van diegenen die op het (gesteld) kinderpornografisch materiaal worden afgebeeld.
Voorts betreft het persoonsgegevens van personen die zijn betrokken bij de rechtspersoon
aan wie een aanwijzing wordt gegeven of een sanctie wordt opgelegd. Omdat het niet
mogelijk zal zijn een aanwijzing te geven of een sanctie op te leggen zonder dat persoonsgegevens
worden verwerkt, is deze verwerking noodzakelijk. De taak om de ontoegankelijkmaking
van deze gegevens te bevorderen, zoals deze is opgedragen aan de Autoriteit, vormt
daarmee tevens de grondslag voor de verwerking van persoonsgegevens, als bedoeld in
artikel 6, eerste lid, onderdeel e, AVG. Het voormelde geldt evenzeer indien de Autoriteit
persoonsgegevens, verkregen bij de uitoefening van zijn taken, aan het Openbaar Ministerie
verstrekt ten behoeve van de strafrechtelijke vervolging en opsporing.
Bijzondere categorieën van persoonsgegevens
Voor de uitvoering van de voorgestelde bevoegdheden kan het voorts noodzakelijk zijn
om bijzondere categorieën van persoonsgegevens als bedoeld in artikel 1 van de Uitvoeringswet
Algemene verordening gegevensbescherming te verwerken. Hetzelfde geldt voor de verwerking
van strafrechtelijke gegevens als bedoeld in artikel 10 van de AVG. Voorafgaand aan
het geven van een aanwijzing moet worden vastgesteld of het materiaal inderdaad kinderpornografisch
is. Dat vergt een verwerking van persoonsgegevens betreffende seksuele gedragingen
van de personen (in het bijzonder: daders) die op het beeldmateriaal zichtbaar zijn.
Het verwerken van bijzondere categorieën van persoonsgegevens (waaronder gegevens
met betrekking tot iemands seksueel gedrag of seksuele gerichtheid) is op grond van
artikel 9, eerste lid, AVG verboden, tenzij in de AVG of het nationale recht een uitzondering
is aan te wijzen. De verwerking van deze bijzondere categorieën van persoonsgegevens
is noodzakelijk, omdat op het beeldmateriaal (veelal) een persoon zichtbaar zal zijn
die een bepaalde handeling met een minderjarige verricht, en waaruit deze gegevens
kunnen worden afgeleid. Voor het verwerken daarvan is derhalve een wettelijke grondslag
noodzakelijk. De mogelijkheid die artikel 9, tweede lid, onderdeel g biedt om een
dergelijke uitzondering te creëren is in dit wetsvoorstel benut. Artikel 11, eerste
lid, bepaalt dat de Autoriteit bijzondere categorieën van persoonsgegevens kan verwerken,
voor zover dat noodzakelijk is voor de uitvoering van de bij deze wet aan hem opgedragen
taken. Deze verwerking is noodzakelijk om redenen van zwaarwegend algemeen belang:
het ontoegankelijk maken van kinderpornografisch materiaal en het voorkomen van verdere
kennisneming en verspreiding daarvan. De zwaarwegendheid van dit belang blijkt onder
meer uit de eerder genoemde Richtlijn kindermisbruik. Deze Richtlijn onderstreept
dat seksueel misbruik en seksuele uitbuiting van kinderen tot ernstige schendingen
van grondrechten leidt en dat de bestrijding van dit type misbruik de hoogste prioriteit
heeft.
Vanzelfsprekend is het doel van deze verwerking gebonden aan de uitoefening van de
taken van de Autoriteit. De ruimte om persoonsgegevens te verwerken, vindt hierin
zijn begrenzing. De verwerking van deze typen persoonsgegevens is derhalve slechts
toegestaan voor zover dat noodzakelijk is voor de uitvoering van de taken van de Autoriteit:
het geven van aanwijzingen en zo nodig het opleggen van sancties. Verder dient de
Autoriteit als verwerkingsverantwoordelijke onder meer te voorzien in voldoende beveiligingsmaatregelen.
Geautomatiseerde besluitvorming
De Autoriteit is ook bevoegd om zelfstandig en dus zonder voorafgaande melding onderzoek
te doen naar de aanwezigheid van online kinderpornografisch materiaal. Artikel 2,
tweede lid onder b, van dit voorstel van wet biedt daarvoor de grondslag. Dit onderzoek
kan handmatig gebeuren, maar ook met meer innovatieve en automatische instrumenten
zoals een webcrawler waarmee (deels) geautomatiseerd naar online kinderpornografisch
materiaal wordt gezocht. In beide gevallen controleert de Autoriteit of het in het
individuele geval daadwerkelijk om kinderpornografisch materiaal gaat. Deze controle
kan plaatsvinden door een ter zake deskundige medewerker, maar kan ook geautomatiseerd
worden verricht. In dit laatste geval wordt, eventueel in combinatie met de hiervoor
genoemde crawler, gebruikgemaakt van de Hashcheckserver. Dit betreft een database
met (thans) ongeveer 1,4 miljoen unieke hashcodes (digitale vingerafdrukken) van eerder
gedetecteerd online kinderpornografisch materiaal. Deze hashcodes zijn door de politie
beschikbaar gesteld.67
Voordat op basis van een geautomatiseerde controle besloten wordt tot oplegging van
een aanwijzing of zorgplicht, vindt altijd een menselijke toets plaats. In antwoord
op het advies van de Afdeling advisering kan derhalve worden aangegeven dat het wetsvoorstel
op dit punt in overeenstemming is met de AVG, in het bijzonder artikel 22 AVG. De
AVG stelt namelijk grenzen aan besluitvorming die uitsluitend is gebaseerd op de geautomatiseerde
verwerking van persoonsgegevens en waaraan, zoals de AVG bepaalt, voor de betrokkene
rechtsgevolgen zijn verbonden of die hem op een andere manier in aanmerkelijke mate
treft.
Rechten van betrokkene
De betrokkene (of zijn wettelijk vertegenwoordiger), kan op grond van de AVG bij de
Autoriteit een verzoek indienen waarbij hij een beroep doet op een van zijn rechten
als betrokkene. Het kan in voorkomend geval noodzakelijk zijn bepaalde rechten van
betrokkene in te perken indien dit noodzakelijk is op grond van één van volgende gronden
genoemd in artikel 23, eerste lid, AVG:
– de nationale veiligheid (a),
– de openbare veiligheid (c),
– de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of
de tenuitvoerlegging van straffen, met inbegrip van de bescherming tegen en de voorkoming
van gevaren voor de openbare veiligheid (d),
– de bescherming van de betrokkene of van de rechten en vrijheden van anderen (i).
Daarmee wordt aangesloten bij artikel 23, eerste lid, aanhef en onderdelen a, c, d,
en i van de AVG die voorziet in de mogelijkheid om bij Unierechtelijke of lidstaatrechtelijke
wetgevingsmaatregel die op de verwerkingsverantwoordelijke of de verwerker van toepassing
is bepaalde rechten van betrokkene te beperken, op voorwaarde dat die beperking de
wezenlijke inhoud van de grondrechten en fundamentele vrijheden onverlet laat en in
een democratische samenleving een noodzakelijke en evenredige maatregel is ter waarborging
van een van de aldaar genoemde belangen.
In artikel 41 UAVG is eveneens een bepaling opgenomen die de mogelijkheid biedt om
rechten van betrokkenen onder de aldaar genoemde voorwaarden in te perken. Artikel
12 van onderhavig voorstel bevat een nadere concretisering van deze mogelijkheid,
waarbij de voorwaarde is opgenomen dat bij gebruikmaking van deze bevoegdheid moet
worden voorzien in een dragende onderbouwing, die schriftelijk wordt medegedeeld aan
de betrokkene wiens rechten worden beperkt. Indien dit echter afbreuk doet aan het
doel van de beperking kan de mededeling aan de betrokkene achterwege worden gelaten.
In dat geval dient alsnog mededeling aan betrokkene te worden gedaan zodra de reden
voor het achterwege blijven is vervallen. Het informeren van betrokkene doet dan immers
geen afbreuk meer aan het doel van de beperking.
Buiten kijf staat dat op een op het beeldmateriaal afgebeeld slachtoffer op grond
van deze bepaling – desgewenst – inzage kan en moet kunnen krijgen in dit materiaal.
Het is echter niet uitgesloten dat ook de persoon die het kinderpornografisch materiaal
heeft geproduceerd en daarop zichtbaar is, inzage in dit materiaal wil krijgen of
hier een kopie van wil ontvangen. In dat geval ligt het in de rede dat inzage wordt
geweigerd. Artikel 12, eerste lid, regelt daarom dat de Autoriteit kan bepalen dat
de rechten van betrokkene op grond van de AVG worden beperkt. Gelet op de aard van
kinderpornografisch materiaal kan deze verwerking mede betrekking hebben op bijzondere
categorieën van persoonsgegevens (waaronder gegevens met betrekking tot iemands seksueel
gedrag of seksuele gerichtheid). Dit vergt een zaaksgebonden afweging van de Autoriteit.
Een dergelijke beslissing zal bijvoorbeeld niet snel worden genomen als een op het
materiaal afgebeelde minderjarige of diens wettelijk vertegenwoordiger om inzage vraagt.
Advies Autoriteit Persoonsgegevens
Gelet op artikel 36, vierde lid, van de Algemene verordening gegevensbescherming is
een concept van dit wetsvoorstel en toelichting voorgelegd aan de Autoriteit Persoonsgegevens.
De Autoriteit Persoonsgegevens heeft geen opmerkingen bij het concept.
6. Verhouding tot overige regelgeving
6.1 Richtlijn inzake elektronische handel
De Richtlijn inzake elektronische handel bepaalt onder welke voorwaarden en omstandigheden
een aanbieder van een communicatiedienst aansprakelijk is voor zijn aandeel in het
ontsluiten van die informatie. Zo bepaalt artikel 14 van deze richtlijn dat aansprakelijkheid
voor hostingactiviteiten ontbreekt zolang de dienstverlener niet daadwerkelijk kennis
heeft van de onwettige informatie en, indien hij kennis krijgt van het onwettige karakter
van de informatie, hij prompt handelt om die informatie te verwijderen of de toegang
daartoe ontoegankelijk te maken. De artikelen 12 en 13 van deze richtlijn bevatten
vergelijkbare bepalingen voor aanbieders van respectievelijk «mere conduit» en «caching».
Voorts bepaalt artikel 15 van deze richtlijn dat deze typen dienstverleners geen algemene
verplichting mag worden opgelegd om toe te zien op de verspreide informatie of om
actief te zoeken naar feiten of omstandigheden die op onrechtmatige of strafbare activiteiten
duiden.
Dit aansprakelijkheidsregime doet geen afbreuk aan de mogelijkheid om nationale maatregelen
te treffen in het kader van de openbare orde en openbare veiligheid, waaronder het
tegengaan van online kinderpornografisch materiaal. Onder de mogelijke maatregelen
vallen in ieder geval administratieve uitspraken waarin de beëindiging van een inbreuk
wordt bevolen, met inbegrip van de verwijdering of het ontoegankelijk maken van onwettige
informatie (artikelen 12, derde lid, 13, tweede lid, en 14, derde lid, van de richtlijn).
De aanwijzing, last onder dwangsom en de bestuurlijke boete zijn dergelijke instrumenten.
Ook de zorgplicht, waarmee specifieke aanbieders van hostingdiensten bij besluit een
verplichting kan worden opgelegd om maatregelen te treffen waarmee de opslag en doorgifte
van online kinderpornografisch materiaal wordt beperkt, is in overeenstemming met
deze richtlijn, in het bijzonder artikel 15 daarvan.68 Benadrukt wordt dat een dergelijk besluit er niet toe strekt dat een aanbieder van
hostingdiensten wordt verplicht om in algemene zin toe te zien op de middels zijn
systemen opgeslagen of verspreide informatie. Van belang is verder dat de keuze voor
de te treffen maatregelen bij de aanbieder zelf blijft. Mogelijke maatregelen betreffen
onder meer het onderhouden van een systeem waarmee gebruikers online kinderpornografisch
materiaal bij de aanbieder kunnen melden of het (anderszins) voeren van aantoonbaar
beleid waarmee klanten die online kinderpornografisch materiaal opslaan of verspreiden
worden geweerd of afgestoten. Dit systeem sluit aan bij artikel 5, tweede tot en met
zesde lid, van de TOI-verordening.
De in dit wetsvoorstel voorgestelde maatregelen zijn beperkt tot aanbieders van communicatiediensten
die op Nederlands grondgebied zijn gevestigd. De in artikel 3, tweede tot en met zesde
lid, van de Richtlijn inzake elektronische handel opgenomen regeling voor maatregelen
gericht op aanbieders in andere lidstaten dan de lidstaat waar het desbetreffende
aanbieder is gevestigd, is daarom niet van toepassing.
Op 16 november 2022 is Digitaledienstenverordening in werking getreden.69 De Digitaledienstenverordening wordt voor het grootste deel met ingang van 17 februari
2024 van toepassing. De Digitale Dienstenverordening zal in de toekomst het algemene
kader vormen en de Elektronischehandelsrichtlijn deels vervangen. De Digitaledienstenverordening
is een zogenoemde lex generalis, horizontale wetgeving, die geen sectorspecifieke verboden of bepalingen bevat. Wel
bevat de Digitaledienstenverordening procedurele bepalingen om illegale online-inhoud
aan te pakken. Met het van toepassing worden van de Digitaledienstenverordening zullen
de artikelen 12 tot en met 15 van de Richtlijn inzake elektronische handel worden
geschrapt. Daarvoor in de plaats komen de artikelen 4, 5, 6 en 8 van de Digitaledienstenverordening.
Deze artikelen kennen een goeddeels gelijkluidende aansprakelijkheidsvrijstelling
voor aanbieders van mere-conduit-, caching- en hostingdiensten als de Richtlijn inzake
elektronische handel. Ook mag een aanbieder op grond van de Digitaledienstenverordening
geen algemene verplichting worden opgelegd tot monitoring van de door hen doorgegeven
of opgeslagen informatie noch tot actief onderzoek naar de feiten of omstandigheden
die duiden op illegale activiteiten (artikel 8 Digitaledienstenverordening). Verder
bevat artikel 9 van de Digitaledienstenverordening verplichtingen voor het bevel om
op te treden tegen illegale inhoud. Op deze verplichtingen, die gelden voor een de
door de ATKM uit te vaardigen aanwijzing op grond van dit wetsvoorstel, is reeds in
gegaan in paragraaf 3.1.
6.2 Verordening netneutraliteit
De verordening netneutraliteit (Verordening (EU) 2015/2120 tot vaststelling van maatregelen
betreffende open internettoegang en tot wijziging van Richtlijn 2002/22/EG inzake
de universele dienst en gebruikersrechten met betrekking tot elektronische-communicatienetwerken
en -diensten en Verordening (EU) nr. 531/2012 betreffende roaming op openbare mobilecommunicatienetwerken
binnen de Unie (PbEU 2015, L 310)) geeft regels over open internettoegang. Artikel
3 van deze verordening bepaalt, kort gezegd, dat alle internetverkeer gelijk moet
worden behandeld en dat aanbieders van internettoegangsdiensten, zoals een internetserviceprovider,
internetverkeer niet mogen beperken of beïnvloeden. De verordening kent een beperkte
lijst van uitzonderingen op het verbod op het blokkeren en vertragen van internetverkeer.
Uitzonderingen zijn onder meer mogelijk ter uitvoering van een wettelijk voorschrift
of rechterlijk bevel. Daaraan is in dit geval voldaan: de opvolging van de zorgplicht
of een aanwijzing, als bedoeld in deze wet, geldt als de uitvoering van een dergelijk
wettelijk voorschrift.
6.3 Richtlijn kindermisbruik
De eerder aangehaalde Richtlijn kindermisbruik strekt er mede toe online seksueel
misbruik tegen te gaan. De richtlijn is er primair op gericht degenen die zich schuldig
maken aan het vervaardigen, verspreiden of downloaden van beelden van seksueel misbruik
van kinderen te vervolgen, maar beoogt ook de beschikbaarheid van online kinderpornografisch
materiaal te beperken door te voorzien in maatregelen gericht op het verwijderen van
dit type inhoud. Zoals eerder opgemerkt verplicht artikel 25, eerste lid, van deze
richtlijn lidstaten om maatregelen te treffen tegen websites die kinderpornografisch
materiaal bevatten of verspreiden. Dergelijke maatregelen kunnen onder meer worden
gebaseerd op verschillende soorten overheidsoptreden zoals wetgevend, niet-wetgevend,
gerechtelijk en ander optreden. De in dit wetsvoorstel voorgestelde bevoegdheden passen
in het doel van deze richtlijn en versterken de Nederlandse inzet bij de aanpak van
online kinderpornografisch materiaal.
6.4 Verordening 2021/1232 betreffende een tijdelijke afwijking van sommige bepalingen
van Richtlijn 2002/58/EG
Bepaalde aanbieders van elektronische communicatiediensten maken op vrijwillige basis
gebruik van technologieën om online kindermisbruik op te sporen op hun diensten. De
Richtlijn betreffende privacy en elektronische communicatie (e-privacy-richtlijn)
is sinds december 2020 van toepassing op bepaalde aanbieders door een wijziging in
de definitie van het begrip «elektronische communicatiedienst».70 De e-privacy-Richtlijn bevat geen specifieke bepalingen betreffende de verwerking
van persoonsgegevens door aanbieders met het oog op het opsporen van online seksueel
kindermisbruik en het melden ervan of het verwijderen van onlinemateriaal betreffende
seksueel misbruik van kinderen. Daardoor konden aanbieders van elektronische communicatiediensten
met het van toepassing worden van de e-privacyrichtlijn niet langer gebruik maken
van technologieën om online kindermisbruik op te sporen.71 Verordening 2021/1232 voorziet in een tijdelijke afwijking van bepaalde voorschriften
van de e-privacy-Richtlijn.72 Daardoor kunnen aanbieders van elektronische communicatiediensten doorgaan met het
op vrijwillige basis opsporen, verwijderen en melden van kinderpornografie en met
het inzetten van technologie ter bestrijding van kinderuitlokking. Om ervoor te zorgen
dat de privacy van de gebruikers van die diensten wordt geëerbiedigd, moeten deze
aanbieders voldoen aan de voorwaarden uit de AVG en aan een aantal extra waarborgen
die in verordening 2021/1232 zijn opgenomen.
De tijdelijke afwijking is in ieder geval 3 jaar van toepassing. De in het onderhavige
wetsvoorstel voorgestelde bevoegdheden passen bij het doel van deze verordening en
versterken de Nederlandse inzet bij de aanpak van online kinderpornografisch materiaal.
6.5 Voorstel voor een Verordening aanpak seksueel kindermisbruik
Op 11 mei 2022 heeft de Europese Commissie een voorstel gepubliceerd voor een verordening
betreffende voorschriften ter voorkoming en bestrijding van seksueel kindermisbruik
(Verordening aanpak seksueel kindermisbruik, COM/2022/209 final). Het voorstel bestaat
uit regels die aanbieders van hostingdiensten en interpersoonlijke communicatiediensten
verplichten om het risico te beoordelen dat hun diensten worden gebruikt voor het
verspreiden van materiaal van seksueel kindermisbruik en het benaderen van kinderen
voor seksuele doeleinden (grooming). Onder bepaalde omstandigheden kunnen bedrijven
ook worden verplicht kinderpornografisch materiaal te detecteren, verwijderen of blokkeren.
Daarnaast stelt de Commissie voor een Europees centrum inzake seksueel misbruik van
kinderen (hierna: EU Centrum) op te richten. Het EU Centrum zal als expertise centrum
fungeren om betrouwbare informatie over materiaal van CSA te verstrekken, de ontvangen
meldingen van materiaal van CSA te beoordelen, relevante meldingen spoedig naar rechtshandhavingsautoriteiten
door te sturen en steun aan slachtoffers te verlenen.
Nederland steunt het uitgangspunt uit het voorstel dat zowel Europese overheden als
aanbieders van internetdiensten een verantwoordelijkheid hebben bij het voorkomen
en bestrijden van online seksueel kindermisbruik en de oprichting van een EU centrum.
Tegelijkertijd heeft Nederland zorgen over een aantal aspecten van het voorstel omdat
hiermee een potentieel vergaande inbreuk wordt gemaakt op het recht op privéleven,
het recht op gegevensbescherming en het telecommunicatiegeheim van burgers. Nederland
zal zich er in de onderhandelingen voor inzetten dat, waar mogelijk, de verwijdering
van zowel terroristische online-inhoud als online kinderpornografisch materiaal op
een uniforme wijze kan worden ingericht.
7. Financiële gevolgen, MKB-toets en regeldruk
7.1 Financiële gevolgen
Zoals in paragraaf 2.1 is toegelicht werd in 2021 bij 13% van de meldingen binnen
de bestaande zelfregulering geen of onvoldoende opvolging gegeven aan een melding.73 De Autoriteit bundelt deze meldingen tot dossiers, gekoppeld aan specifieke aanbieders.
Daarbij wordt uitgegaan van maximaal 150 dossiers per jaar. De beoogde werkzaamheden
variëren van het geven van een aanwijzing tot ontoegankelijkmaking en de opvolging
daarvan, inclusief het voeren van bestuursrechtelijke procedures, tot het vormgeven
van de zorgplicht en de beoogde samenwerking met de sector (zie paragraaf 4.3). De
Autoriteit hanteert een hybride aanpak voor het toezicht. De communicatie met de sector
vindt op elektronische wijze plaats.
Er is een business case opgesteld om de uitvoeringskosten van de Autoriteit te becijferen.74 Hierin vergt de behandeling van meldingen en dossiers een geschatte capaciteit van
6 fte. Daarnaast zal de monitoring en analyse één fte vergen, de ontwikkeling en handhaving
van de zorgplicht eveneens één fte, en de samenwerking met de sector en buiten Nederland
gevestigde meldpunten twee fte. Voor ondersteuning, voorlichting en bestuur is 4,5
fte geschat. In totaal komt dit op 14,5 fte per jaar aan structurele capaciteit. Omdat
sprake is van een kleine en een hoog specialistische organisatie zijn de gemiddelde
integrale kosten per fte op € 177.000 geschat, op basis van een vergelijking met andere
relevante zelfstandige bestuursorganen. Aldus bedragen de structurele kosten ten behoeve
van de Autoriteit € 2,5 miljoen per jaar. Zoals in paragraaf 4.4 is opgemerkt is de
beoogde hybride werkwijze van belang, omdat deze aanpak het meest effectief is in
het bereiken van het beoogde resultaat: een schoner internet. Deze aanpak is in de
business case hoger begroot dan slechts een sobere uitvoering van een verticale gezagsrol
door de Autoriteit. Daarom is voor de aanpak van kinderpornografische content door
de nieuwe Autoriteit structureel € 2,5 miljoen jaarlijks beschikbaar gesteld. Zoals
eerder vermeld wordt de Autoriteit ook belast met de uitvoering van de TOI-verordening;
de financiering daarvan wordt separaat geregeld.
De op- en inrichting van de beoogde Autoriteit zorgt tevens voor eenmalige kosten.
Deze betreffen onder meer de uitwerking en inrichting van de organisatiestructuur,
het werven van personeel, huisvesting en de inrichting van de ICT-structuur. Daartoe
is een kwartiermaker aangesteld. Een deel van deze kosten is overigens al gemaakt
in het kader van de bestaande zelfregulering: zo is de in paragraaf 4.3 bedoelde monitor
van de TU Delft al operationeel. Daarnaast wordt zoveel mogelijk aangehaakt bij de
bestaande meldverwerkingssystemen van het EOKM en andere ketenpartners. De geschatte
kosten voor de op- en inrichting van de Autoriteit bedragen derhalve € 1 miljoen.
Overigens kan het hiervoor genoemde bedrag van € 2,5 miljoen voor de structurele kosten
in het eerste jaar deels voor deze eenmalige kosten worden ingezet, omdat de structurele
kosten bij aanvang nog relatief laag zullen zijn en stapsgewijs zullen groeien. Verwacht
wordt daarom dat de eenmalige en structurele kosten in het eerste jaar sommeren tot
de begrote € 2,5 miljoen.
7.2 MKB-toets
In samenspraak met het Ministerie van Economische Zaken en Klimaat heeft een MKB-toets
plaatsgevonden. Tijdens een panelgesprek is aandacht besteed aan de werkbaarheid en
uitvoerbaarheid van het onderhavige wetsvoorstel, en de gevolgen van dit wetsvoorstel
voor de regeldruk. Tijdens de bijeenkomst waren vijf aanbieders van hostingsdiensten
aanwezig. Eén aanbieder heeft schriftelijk gereageerd. Alle deelnemers behoren tot
het midden- en kleinbedrijf. De hieronder weergegeven opmerkingen en suggesties zijn
een weergave van de verschillende perspectieven en invalshoeken, zoals ingebracht
door en namens de verschillende deelnemers en het Ministerie van Justitie en Veiligheid.
Door de deelnemers is opgemerkt dat wetgeving en de uitvoering door het beoogde bestuursorgaan
ruimte moeten laten voor aanpassingen aan de hand van de laatste (technische) ontwikkelingen,
zoals live-streaming en deeplinking. Dit betekent dat het bestuursorgaan in nauw contact
moet staan met zowel de markt als de betrokken partijen. Door de deelnemers is verder
de suggestie gedaan om te onderzoeken of de aanwijzing en last onder dwangsom ook
middels digitale wijze, voorzien van degelijke authenticatie, kan worden verzonden.
Dit is door het ministerie onderschreven.
Tijdens de bijeenkomst is verder opgemerkt dat de beoogde aanwijzing en sancties bij
bepaalde type aangeboden diensten (unmanaged hosting en transit hosting) moeilijker opvolgbaar zijn. Dergelijke meldingen worden direct doorgegeven aan de
klant; de aanbieder heeft zelf geen toegang tot de servers, omdat deze door de klant
worden onderhouden. Namens het ministerie is opgemerkt dat voor het opvolgen van een
aanwijzing een redelijke termijn, zoals 24 uur, wordt gegeven. Dat is voldoende tijd
om dergelijke meldingen te verwerken of laten verwerken, ook als deze op servers staan
die onderhouden worden door de klant. Dit standpunt is door de andere deelnemende
aanbieders onderschreven. Zijdens het ministerie is benadrukt dat het de verantwoordelijkheid
van de aanbieder is om te zorgen dat een melding accuraat wordt opgevolgd, ongeacht
de aangeboden dienst en de klant.
Door de deelnemers is erop gewezen dat door de grilligheid van het internet «abuse
golven» kunnen ontstaan. Dit zijn korte periodes waarbij veel ongewenste content,
zoals kinderpornografisch materiaal, wordt verspreid. Op dergelijke momenten kunnen
aanbieders het verwerken van meldingen nauwelijks bijhouden. Door het ministerie is
opgemerkt dat bij de aanwijzing en (het afdwingen van) de naleving daarvan rekening
zal worden houden met extreme abuse golven. Het moet voor het betrokken aanbieder
immers wel redelijkerwijs mogelijk zijn een aanwijzing op te volgen.
Een aantal marktpartijen heeft zorgen geuit dat bij het verwerken van meldingen mogelijk
nevenschade ontstaat, als er te weinig kennis is van het netwerk om het materiaal
ontoegankelijk te maken. Ook is opgemerkt dat de beoogde wetgeving mogelijk een «waterbed-effect»
zal hebben; zodanig dat de te treffen partijen uitwijken naar het buitenland. Het
ministerie erkent deze zorgen, maar benadrukt dat aanbieders, maar ook Nederland,
een eigen verantwoordelijkheid hebben om op te treden tegen de verspreiding van online
kinderpornografisch materiaal. Bovendien zet Nederland ook in Europees verband in
op de (grensoverschrijdende) bestrijding van online kinderpornografisch materiaal.
Ten slotte beaamt het ministerie dat juist slordige hosters zullen worden geraakt.
Aanbieders die zich binnen het bestaande regime van zelfregulering adequaat opvolging
geven aan een melding, worden niet of slechts zeer beperkt geraakt. Alle aanbieders
zijn en blijven echter verantwoordelijk voor het tijdig en zorgvuldig verwerken van
een aanwijzing. Benadrukt wordt dat ook zogenoemde «bulletproof hosters» (die bijvoorbeeld
gebruikmaken van «katvangers» en een bepaalde mate van anonimiteit garanderen) zullen
worden geraakt, bijvoorbeeld omdat daar middels het strafrecht tegen wordt opgetreden.
Dat laat onverlet dat het beoogde instrumentarium van toepassing wordt op alle aanbieders
van communicatiediensten. Hierin wordt geen onderscheid gemaakt.
7.3 Regeldruk
In deze paragraaf worden de uitgangspunten van effectieve regelgeving toegepast op
het beleid en de wetgeving die leidt tot de voorliggende voorstel van wet. Hierbij
is gebruik gemaakt van het Handboek Meting Regeldrukkosten.
Beleid en nadere acties om online materiaal van seksueel kindermisbruik aan te pakken
is evident nodig, om slachtoffers beter tegen dit materiaal te beschermen en om het
moeilijker te maken dit materiaal te vinden en delen op internet. Zoals in paragraaf
2.1 is opgemerkt, heeft Nederland een bijzondere verantwoordelijkheid vanwege haar
grote internetindustrie. De bestaande zelfregulering en strafrechtelijke aanpak werkt
goed, maar is duidelijk niet afdoende. Wanneer een aanbieder kennis krijgt van online
kinderpornografisch materiaal op zijn systemen, moet dit materiaal ontoegankelijk
gemaakt worden. Dit uitgangspunt is niet nieuw.75 De rol van de Autoriteit ligt in het verlengde van de bestaande zelfregulering, en
komt niet daarvoor in de plaats. Voor bedrijven die in dit kader goed meewerken en
acteren op online kinderpornografisch materiaal, verandert er dus vrijwel niets. Daarnaast
draagt het onderhavige voorstel bij aan een gelijk speelveld tussen aanbieders die
zich geconfronteerd zien met online kinderpornografisch materiaal omdat concurrentievoordelen,
die ontstaan door een verschil in handhavingsinspanning en bijbehorende kosten tussen
aanbieders, worden verminderd.
Het onderhavige wetsvoorstel is gericht op aanbieders die geen of onvoldoende invulling
aan de zelfregulering geven. Zij krijgen te maken met bestuursrechtelijke instrumenten,
zoals de plicht tot het treffen van maatregelen of een aanwijzing tot ontoegankelijkmaking.
De gevergde actie (het ontoegankelijk maken van het online kinderpornografisch materiaal
en het zo nodig treffen van passende maatregelen) is proportioneel en passend. Zo
verplicht de aanwijzing ertoe dat online kinderpornografisch materiaal ontoegankelijk
wordt gemaakt, maar wordt de wijze waarop dat gebeurt uitdrukkelijk bij de aanbieder
gelaten. De zorgplicht noopt niet tot het treffen van maatregelen door een aanbieder
die in het geheel niet met online kinderpornografisch materiaal wordt geconfronteerd.
Dat maakt voorliggende voorstel van wet lastenluw. Waar mogelijk wordt aangesloten
op bestaande processen die door de branche al binnen de bestaande zelfregulering worden
toegepast. Zo zal de bestaande Notice and Takedown code als uitgangspunt gelden voor
de Autoriteit. Ook zal het berichtenverkeer tussen de Autoriteit en de betrokken aanbieders
op elektronische wijze plaatsvinden, zodat aanbieders aanwijzingen krijgen op een
wijze die voor hen snel en goed werkbaar is. Verder zal de Autoriteit een hybride
aanpak in toezicht hanteren: hij werkt via horizontale relaties samen met aanbieders,
en vervult slechts waar dat onvoldoende effect sorteert een verticale gezagsrol. De
Autoriteit zal kennisnemen van alternatieve nalevingsvarianten en deze meenemen in
zijn werkwijze. Deze hybride vorm van toezicht garandeert een blijvende dialoog tussen
sector en de Autoriteit, in navolging van de huidige publiek-private samenwerking
die thans loopt met de branche. Concreet kan dit bijvoorbeeld resulteren in innovatieve
nieuwe oplossingen die vanuit de branche worden voorgesteld, en omarmd.
Om de kosten die gemoeid zijn met de uitvoering van deze wet inzichtelijk te krijgen
is uitvraag onder aanbieders van communicatiediensten gedaan, waarbij de kosten in
drie delen zijn opgesplitst. Het eerste deel gaat over de kosten die elke aanbieder
moet maken om bereikbaar te zijn voor eventuele aanwijzingen. Het tweede deel heeft
betrekking op de opvolging van aanwijzingen en derhalve het ontoegankelijk (laten)
maken van online kinderpornografisch materiaal. Daarbij zijn de verwachte kosten sterk
afhankelijk van het aantal aanwijzingen. Bij het derde deel gaat het om de invulling
van de zorgplicht, waarbij een aanbieder van hostingdiensten preventieve maatregelen
moet nemen na een daartoe strekkend besluit. Deze zorgplicht zal voor een klein deel
van deze aanbieders gelden.
Opgemerkt wordt dat de genoemde kosten ook worden gemaakt om andere vormen van online
abuse te bestrijden. De focus is hierna gericht op meldingen over online kinderpornografisch
materiaal. Kosten voor de bestrijding van andere vormen van abuse worden buiten beschouwing
gelaten.
Aanbieders van hostingdiensten
Bereikbaarheid
De hoogte van de kosten voor bereikbaarheid hangen samen met de wijze waarop meldingen
door de Autoriteit worden gedaan. Door aanbieders is opgemerkt dat een gestandaardiseerde
digitale weg tot minder kosten leidt dan bijvoorbeeld een fysieke vorm van melden.
De incidentele kosten voor het eenmalig aanleveren van contactgegevens aan de Autoriteit
door een aanbieder worden ingeschat op 50 tot 100 Euro. Verder zijn er andere incidentele
kosten, zoals het aanpassen van algemene voorwaarden om de klanten van de aanbieder
van hostingdiensten de plicht op te leggen binnen een bepaalde tijd content ontoegankelijk
te maken. De kosten daarvan worden tussen de € 500,– en € 1.000 geschat. Veel aanbieders
hebben al een supportafdeling of abuse-afdeling die 7 dagen per week, 24 uur per dag,
meldingen afhandelt. Indien deze afdeling niet bestaat moet die worden ingericht.
De kosten daarvan worden geschat op € 5.000 eenmalig en jaarlijks € 8.000. Dit betekent
ongeveer € 500,– per maand, om concreet 365 dagen per jaar de (mail)box waar meldingen
binnenkomen meerdere malen per dag te monitoren op mogelijke meldingen.
Kosten voor het afhandelen van aanwijzingen
Dit betreft handelingen als verificatie, loggen, uitzoeken en doorzetten naar een
klant. Wanneer de aanwijzing ziet op een server waar een aanbieder van hostingdiensten
zelf «managed hosting»-diensten op aanbiedt, worden de handelingskosten ongeveer 50%
lager ingeschat dan in het geval een hoster zelf géén logische toegang heeft tot het
materiaal, omdat hij bijvoorbeeld VPS-hosting aanbiedt (waarbij VPS staat voor Virtual
Private Server). In het eerste geval kan de aanbieder zelf handelen, terwijl hij in
het tweede geval zijn klant daartoe moet bewegen. In het tweede scenario ligt het
eerder voor de hand te kiezen voor een termijn van 24 uur, en geen kortere tijdspanne
zoals de termijn van één uur uit de TOI-verordening. Het verwerken van aanwijzingen
buiten kantoortijden kost een aanbieder grofweg twee keer meer dan het verwerken daarvan
binnen kantoortijden. Automatisering kan de afhandeling vereenvoudigen. Een aanwijzing
kan dan bijvoorbeeld automatisch gecategoriseerd worden en doorgestuurd naar een klant.
De opvolging door de aanbieder bestaat dan uit een controle of het materiaal daadwerkelijk
is verwijderd.
De kosten voor het verwerken van een aanwijzing binnen kantoortijden worden geschat
op een bedrag tussen de € 25,– en € 100,–. Voor meldingen buiten kantoortijden schatten
aanbieders de kosten op een bedrag tussen de € 50,– en € 200,– Euro extra per melding.
De handeling om een dienst af te sluiten worden door aanbieders geschat op € 35,–.
De kosten van automatisering worden op € 10.000 tot € 20.000 geschat, de opvolging
van een deels geautomatiseerd proces wordt op gemiddeld € 75,– geschat. Afhankelijk
van de hoeveelheid meldingen kan een aanbieder besluiten een team van medewerkers
in te richten dat enkel meldingen over abuse verwerkt. Een dergelijk team kan in de
rede liggen voor grote aanbieders die veel aanwijzingen (of meldingen van het EOKM)
krijgen voor verschillende vormen van content (en derhalve ook over andere vormen
van online abuse). De jaarlijkse loonsom van een medewerker ligt in dit scenario tussen
de 50.000 en 60.000 Euro, de extra kosten voor het routeren tussen de € 7.000 en € 10.000.
Kosten voor het uitvoeren van een zorgplicht
In reactie op de uitvraag geeft het merendeel van de aanbieders van hostingdiensten
aan niet te verwachten onder het zorgplichtregime te vallen, omdat het aantal meldingen
dat ze krijgen beperkt is. Een aanbieder die na een besluit van de Autoriteit onder
het zorgplichtregime valt kan een combinatie van maatregelen nemen, zoals het effectiever
inregelen of automatiseren van Notice and Takedown-processen, het toepassen van de
HashCheckService of het afstoten van bepaalde klanten. De keuze ten aanzien van de
te nemen maatregelen blijft bij de aanbieder.
De kosteninschatting is afhankelijk van het aantal klanten dat een aanbieder heeft
en de mate van blootstelling. Aanbieders geven aan tussen de € 20.000 en € 60.000
aan kosten te verwachten. Daarvan bedraagt grofweg de helft eenmalige kosten, en de
andere helft jaarlijks terugkerende kosten. Deze bedragen worden onderbouwd met een
optelsom van mogelijke preventieve maatregelen: het verplichtstellen van de HashCheckService
aan bestaande en nieuwe klanten, het opstellen van nieuw beleid en nieuwe voorwaarden,
het inpassen daarvan in bestaande processen en bijbehorende documentatie, een nadere
inventarisatie van klanten, deze klanten benaderen, activeren en evalueren, extra
opvolging geven aan notificaties, diensten tijdig tijdelijk afsluiten en contracten
definitief beëindigen.
Totale kosten aanbieders van hostingdiensten
De totale kosten voor aanbieders van hostingdiensten hangen sterk samen met de hoeveelheid
aanwijzingen die moeten worden verwerkt en reeds ingerichte processen om op te treden
tegen andere vormen van abuse. Hieraan gerelateerd zijn bijvoorbeeld keuzes om activiteiten
al dan niet te automatiseren. Concreet zal een aanbieder van hostingdiensten met een
enkele melding per jaar en een ingerichte abuse-afdeling nauwelijks extra kosten hebben.
Voor een aanbieder van hostingdiensten die een grote hoeveelheid aanwijzingen ontvangt
én onder de zorgplicht valt, kunnen de kosten oplopen tot rond de € 200.000.
Kosten mere conduit-diensten
Om de kosten voor mere conduit-diensten inzichtelijk te krijgen is eveneens een uitvraag
gedaan.
Hierbij is uitgegaan van een aantal uitgangspunten. Ten eerste dat een aanwijzing
primair wordt gericht tot aanbieders van hostingdiensten. Slechts als dat niet mogelijk
blijkt kan de aanwijzing worden gericht tot een aanbieder van mere-conduit diensten.
Het ontoegankelijk maken van online kinderpornografisch materiaal zou in dat geval
via een DNS-blokkade gebeuren. Een tweede uitgangspunt is dat de aanwijzing door de
Autoriteit geautomatiseerd plaatsvindt (via een uniform meldsysteem), zodat verwerking
waar mogelijk ook geautomatiseerd kan plaatshebben. Binnen deze uitgangspunten bedragen
de kosten voor een eenmalig implementatietraject tussen € 20.000 en € 30.000 Euro.
Als indicatie van de structurele operationele kosten wordt een bedrag van € 1.000
tot € 6.000 per maand genoemd, mits het aantal aanwijzingen niet meer dan 5 per maand
bedraagt.
8. Uitgebrachte adviezen
Het wetsvoorstel is in consultatie gegeven en op www.internetconsultatie.nl geplaatst. Er zijn adviezen ontvangen van het OM, de Raad voor de Rechtspraak (RvdR),
de Nederlandse Orde van Advocaten (NOvA), Google, VodafoneZiggo, NLConnect, Internet
Society Nederland (ISN), Match Group, KPN, Leaseweb, de Europese Commissie, het Adviescollege
toetsing regeldruk (ATR), de Autoriteit Persoonsgegevens (AP) en de Stichting Digitale
Infrastructuur Nederland (DINL). Ook enkele particulieren hebben op het wetsvoorstel
gereageerd. De regering is iedereen erkentelijk voor de ontvangen adviezen76.
De noodzaak om online kinderpornografisch materiaal ontoegankelijk te maken wordt
breed onderschreven. Door onder meer het OM, de RvdR, de Europese Commissie, Leaseweb,
Google en enkele particulieren is het wetsvoorstel positief ontvangen. Andere respondenten
hebben vragen gesteld over de reikwijdte van de voorgestelde maatregelen, de gevolgen
daarvan voor de betrokken tussenpersonen, en over de verhouding tot het strafrecht.
Hierna worden de adviezen samengevat weergegeven en thematisch besproken.
Nut en noodzaak
De TU Delft constateerde (op basis van een steekproef) dat 87% van de meldingen binnen
het regime van zelfregulering binnen 24 uur wordt opgepakt in 2021 en vraagt inzichtelijk
te maken welke verdere effecten een bestuursrechtelijk instrumentarium heeft. Het
is inderdaad zo dat een groot deel van de meldingen binnen de bestaande zelfregulering
adequaat wordt opgepakt. Dat neemt niet weg dat in 13% van de gevallen in Nederland
opgeslagen kinderpornografisch materiaal langer dan 24 uur beschikbaar blijft. Daarvan
bleef 10% zelfs langer dan 48 uur staan. Gelet op de snelheid waarmee dit materiaal
zich verspreidt is dit onvoldoende tijdig. Het is niet zo dat de resterende 13% niet
wordt opgevolgd omdat dit technisch niet mogelijk zou zijn. Het handhaven van een
korte termijn van bijvoorbeeld 24 uur is daarom zowel wenselijk als redelijk.
Een aantal partijen heeft erop gewezen dat uit de monitor van de Technische Universiteit
Delft blijkt dat het overgrote deel van online kinderpornografisch materiaal wordt
gehost bij slechts vier aanbieders. Zij vragen in hoeverre het proportioneel is daarvoor
het onderhavige voorstel van wet en een Autoriteit in het leven te roepen.
In reactie hierop wordt opgemerkt dat de beoogde Autoriteit niet louter wordt belast
met de bestrijding van online kinderpornografisch materiaal, maar tevens strekt tot
uitvoering van de TOI-verordening. Bovendien is een blijvende aanpak van online kinderpornografisch
materiaal in Nederland belangrijk en proportioneel, ook als het grootste deel van
dit materiaal zich momenteel bij vier aanbieders bevindt. Zoals hierboven beschreven
blijven er momenteel numeriek onacceptabel veel meldingen openstaan, waardoor kinderpornografisch
materiaal langdurig beschikbaar blijft. Ook deze laatste groep meldingen moet worden
opgevolgd. Evenzeer is belangrijk dat deze aanbieders preventieve maatregelen nemen,
zodat de hoeveelheid kinderpornografisch materiaal afneemt. De zorgplicht in dit wetsvoorstel
maakt dat een dergelijke verplichting gericht kan worden opgelegd.
Bovendien geldt dat een focus op deze vier aanbieders niet afdoende is. Uit de monitor
van de Technische Universiteit Delft blijkt dat ook bij andere aanbieders online kinderpornografisch
materiaal wordt opgeslagen en doorgegeven. Ook binnen deze groep zijn er bedrijven
die niet of nauwelijks reageren op meldingen. Voorkomen moet worden dat deze aanbieders,
met nu nog relatief weinig meldingen, uitgroeien tot aanbieders van grotere hoeveelheden
kinderpornografisch materiaal: verschuivingseffecten moeten worden tegengegaan. In
technische zin is het verplaatsen van deze content immers eenvoudig, en in een land
met een hostingsector zo groot als in Nederland is de kans daarop reëel. Het eerder
genoemde rapport van de Technische Universiteit Delft laat zien hoe dit materiaal
zich tussen domeinen verplaatst. Van de top 10 domeinen in 2020 stonden er bijvoorbeeld
vijf in de top 10 in 2019, en geen enkele in de top 10 van 2018. In de uitvoering
van het voorliggende voorstel van wet zal de Autoriteit verplaatsingseffecten inzichtelijk
krijgen en dit bestrijden, door met hybride toezicht de recent geïnfecteerde aanbieders
bij te staan, dan wel direct daarop te gaan handhaven.
De aanpak van online kinderpornografische materiaal vraagt daarom om een structurele
aanpak. Het ontoegankelijk maken van afbeeldingen in Nederland zal helaas niet tot
resultaat hebben dat deze afbeeldingen nooit meer opnieuw kunnen worden geüpload,
want op andere locaties waar dan ook ter wereld kan een kopie van de gewraakte afbeelding
staan en opnieuw worden verspreid. De Technische Universiteit Delft laat in haar rapport
zien dat de hoeveelheid kinderpornografisch materiaal in Nederlandse hostingnetwerken
in 2020 flink is gestegen en dat de aantallen maandelijks sterk fluctueren. Het gaat
hier dus om een hardnekkig en grillig probleem. In het verlengde van een verdere publiek-private
samenwerking is een kaderstellende rol vanuit de overheid dan ook geboden en proportioneel.
De voorliggende bestuursrechtelijke maatregel is daarom onmisbaar om álle betrokken
aanbieders te bewegen dit type materiaal op zo kort mogelijke termijn ontoegankelijk
te maken.
Verhouding tot het strafrecht
De ATR en het ISN vragen of het niet meer is aangewezen om middels het strafrecht
op te treden tegen tussenpersonen die betrokken zijn bij de opslag of doorgifte van
online kinderpornografisch materiaal.
Als aanbieders van communicatiediensten inhoudelijk betrokkenheid hebben bij online
kinderpornografisch materiaal, zodat aan de delictsomschrijving van artikel 240b Sr
wordt voldaan en sprake is van een verdenking van een strafbaar feit, wordt uiteraard
op strafrechtelijke vervolging ingezet. Met deze mogelijkheid van strafrechtelijke
vervolging kan echter niet worden volstaan. In artikel 54a Sr, gelezen in samenhang
met artikel 125p Sv, is een vervolgingsuitsluitingsgrond opgenomen voor tussenpersonen
die een communicatiedienst verlenen. Deze bepalingen strekken ter implementatie van
de Richtlijn inzake elektronische handel.77 Specifiek voor een aanbieder van hostingdiensten geldt dat deze niet aansprakelijk
is als hij geen kennis heeft van de gegevens die middels zijn diensten worden opgeslagen
en hij, zodra hij die wetenschap wel verkrijgt, prompt handelt om de gegevens ontoegankelijk
te maken. Voor aanbieders van andere diensten geldt een vergelijkbaar regime. Strafrechtelijke
vervolging van een aanbieder wegens de middels zijn diensten opgeslagen en verspreide
gegevens is daarom slechts in uitzonderlijke gevallen aan de orde. Een aanbieder kan
echter wel worden verplicht een inbreuk te beëindigen of te voorkomen (zie de artikelen
12, derde lid, 13, tweede lid, en 14, derde lid, van de Richtlijn inzake elektronische
handel). Daartoe strekt de bestuursrechtelijke aanwijzing. Dit alles is nader toegelicht
in paragraaf 2.3.
De RvdR en de NVvR vragen of een bestuursrechtelijke aanwijzing de strafrechtelijke
opsporing en vervolging niet doorkruist. Artikel 5, eerste lid, bepaalt dat de Autoriteit
met de politie en het OM in overleg treedt over de wijze waarop de Autoriteit zijn
taken en bevoegdheden uitoefent. Dit overleg strekt ertoe te voorkomen dat door de
aanwending van bestuursrechtelijke bevoegdheden de strafrechtelijke opsporing en vervolging
van diegenen die kinderpornografisch materiaal produceren of bekijken wordt doorkruist.
Aanwijzing
Onder meer KPN, NLConnect en VodafoneZiggo stellen dat de aanwijzing zich moet beperken
tot aanbieders van hostingdiensten en dat aanbieders van «caching» en «mere conduit»-diensten
moeten worden uitgezonderd.
Met de gekozen reikwijdte wordt aangesloten bij de reikwijdte van de artikel 125p
Sv neergelegde bevoegdheid tot het geven van een bevel tot ontoegankelijkmaking. Gelet
op de beginselen van evenredigheid en zorgvuldigheid wordt een aanwijzing echter gericht
tot de aanbieder die daarvoor het meest in aanmerking komt. Als het materiaal in Nederland
wordt gehost is dit in de eerste plaats de aanbieder van hostingdiensten. Slechts
als dat niet mogelijk is kan de aanwijzing worden gericht tot andere typen aanbieders.
Het advies van onder meer VodafoneZiggo en KPN om deze volgordelijkheid in de tekst
van de wet op te nemen is opgevolgd door de toevoeging van een nieuw artikel 6, tweede
lid.
Er is niet voor gekozen om het – in afwijking van artikel 125p Sv – in geen enkel
geval mogelijk te maken de aanwijzing te richten tot andere aanbieders dan aanbieders
van hostingdiensten. Het is (technisch) niet altijd mogelijk om de betrokken aanbieder
van hostingdiensten te identificeren. Dat kan onder meer het geval zijn als een webpagina
weliswaar vanuit Nederland is te benaderen, maar niet met zekerheid is vast te stellen
dat het desbetreffende materiaal op Nederlands grondgebied wordt gehost. Ook dan kan
het wenselijk zijn om op te treden tegen de verspreiding van kinderpornografisch materiaal,
bijvoorbeeld als sprake is van een zeer groot aantal afbeeldingen.78 In dergelijke gevallen kan het aangewezen zijn de aanwijzing te richten tot een andere
aanbieder dan aanbieders van hostingdiensten. Ook in dat geval stellen de beginselen
van zorgvuldigheid en evenredigheid grenzen aan de bevoegdheidsuitoefening. Factoren
als kosten en inspanningen aan de kant van de aanbieder en de gevolgen die de ontoegankelijkmaking
heeft voor andere gegevens die door deze aanbieders worden opgeslagen of doorgeven
maken onderdeel uit van de afweging om in een concreet geval een aanwijzing te geven.
Daarbij moet worden betrokken dat niet elke aanbieder van een communicatiedienst in
gelijke mate in staat is op te treden tegen de opslag en de doorgifte van online kinderpornografisch
materiaal. Zo is voor internet access providers een blokkering van het materiaal het
hoogst haalbare.
Het is dus niet zo dat aanbieders van «mere conduit» of «caching» services buiten
de reikwijdte van het onderhavige wetsvoorstel vallen, zoals DINL suggereert. De aanwijzing
kan worden gericht tot elke aanbieder van een communicatiedienst, met inachtneming
van de in artikel 6, tweede lid, opgenomen volgordelijkheid. Ook aanbieders van (hybride)
vormen van diensten vallen derhalve onder de reikwijdte, waaronder «infrastructure
as a service» diensten. De zorgplicht is echter beperkt tot aanbieders van hostingdiensten.
De ATR en ISN wijzen erop dat de aanwijzing voldoende feitelijke informatie moet bevatten,
omdat deze anders niet kan worden opgevolgd. Dit wordt onderschreven. In artikel 6,
vierde lid, is daarom opgenomen welke informatie een aanwijzing ten minste moet bevatten.
Deze gegevens zijn ontleend aan het bestaande artikel 125p Sv. Er zijn geen aanwijzingen
dat deze gegevens in de praktijk niet voldoende zijn. Ook overigens geldt voor de
aanwijzing het algemene bestuursrechtelijke uitgangspunt dat deze zodanig duidelijk
en concreet moet zijn geformuleerd dat degene tot wie deze is gericht niet in het
duister hoeft te tasten omtrent hetgeen gedaan moet worden. Een aanwijzing die onvoldoende
informatie bevat is niet afdwingbaar. Het is daarom niet nodig om in artikel 1 een
definitie van de «aanwijzing» op te nemen, zoals ISN voorstelt.
De RvdR merkt op dat voor het geven van een aanwijzing geen voorafgaande machtiging
van de rechter-commissaris is vereist. Dit is juist. Dat betekent echter niet dat
de bestuursrechtelijke aanwijzing met onvoldoende waarborgen is omkleed. Tegen een
aanwijzing staan de gebruikelijke rechtsmiddelen open, zoals bezwaar en beroep. Voort
is het zowel in de bezwaar- als in de beroepsfase mogelijk een verzoek tot een voorlopige
voorziening te doen, waarmee schorsende werking kan worden verkregen. Zoals toegelicht
in paragraaf 5.1 is de voorgestelde regeling daardoor met voldoende waarborgen omkleed
om een willekeurige inmenging in de grondrechten te voorkomen.
Zorgplicht
Een aantal respondenten vraagt om verduidelijking van de zorgplicht. Zij stellen dat
niet op voorhand duidelijk is wanneer een aanbieder alle redelijkerwijs te nemen maatregelen
heeft getroffen en dat dit voor rechtsonzekerheid zorgt. In reactie hierop wordt opgemerkt
dat een open norm in de regel niet precies omschrijft wanneer daaraan is voldaan.
Het betreft hier een inspanningsverplichting om maatregelen te treffen om de opslag
en doorgifte van online kinderpornografisch materiaal te beperken. Gelet op het rechtszekerheidsbeginsel
zal enig handhavend optreden daarom slechts aan de orde kunnen zijn als het handelen
of nalaten van een aanbieder onmiskenbaar in strijd is met de zorgplicht. De verplichting
tot het treffen van preventieve maatregelen wordt bovendien opgelegd bij besluit en
is daarom niet van toepassing op álle aanbieders van hostingdiensten, zoals hierna
wordt toegelicht. Van het rauwelijks opleggen van enige bestuursrechtelijke sanctie,
zoals de NOvA vraagt, zal dus geen sprake zijn.
Een aantal respondenten heeft gewezen op de (administratieve) lasten voor aanbieders
van hostingdiensten, zeker als het gaat om aanbieders die slechts zeer beperkt of
niet met online kinderpornografisch materiaal worden geconfronteerd. Deze reacties
hebben ertoe geleid dat de zorgplicht is heroverwogen. Thans is niet langer voorzien
in een zorgplicht die voor alle aanbieders van hostingdiensten geldt, maar voor een
verplichting die van toepassing is na een daartoe strekkend besluit van de Autoriteit.
Hiermee wordt aangesloten bij het stelsel van de TOI-verordening.79 De keuze ten aanzien van de te treffen maatregelen blijft bij de aanbieder. De zorgplicht
strekt er niet toe een aanbieder te verplichten om in algemene zin toe te zien op
de gegevens die hij opslaat en doorgeeft. Dat zou immers neerkomen op een vorm van
voorafgaand verlof en daarmee censuur. Het is niet noodzakelijk deze onmogelijkheid
in de tekst van de wet tot uitdrukking te brengen, zoals ISN vraagt, omdat deze verplichting
rechtstreeks voortvloeit uit artikel 15 van de Richtlijn inzake elektronische handel.
De suggestie van de RvdR om bij de vormgeving van de zorgplicht niet te spreken van
het «beperken» maar van het «verhinderen» van de opslag en doorgifte van online kinderpornografisch
materiaal is niet overgenomen. Met de term «beperken» wordt tot uitdrukking gebracht
dat de zorgplicht een inspanningsverplichting is. De opslag en doorgifte van online
kinderpornografisch materiaal kan immers niet geheel worden voorkomen.
De NOvA wijst erop dat de Autoriteit wel de bevoegdheid wordt gegeven om een aanbieder
van hostingdiensten een bestuurlijke boete op te leggen als niet aan de zorgplicht
is voldaan, maar dat de bevoegdheid tot het opleggen van een last onder dwangsom ontbreekt.
Dit advies is opgevolgd. Zoals de NOvA terecht stelt, moet het in deze gevallen mogelijk
zijn een last onder dwangsom op te leggen. De bevoegdheid tot het opleggen van een
bestuurlijke boete kan echter niet worden gemist. Hierop is hiervoor al ingegaan.
Autoriteit
De NVvR vraagt waarom de in dit wetsvoorstel genoemde bevoegdheden niet bij het OM
of een bestaand zelfstandig bestuursorgaan zijn belegd. In antwoord hierop wordt opgemerkt
dat het niet voor de hand ligt om bestuursrechtelijke taken en bevoegdheden onder
te brengen bij een strafrechtelijk orgaan. Bovendien is met de huidige aanpak juist
beoogd het OM te ontlasten, zodat zijn capaciteit kan worden benut ten behoeve van
de opsporing en vervolging van personen die kinderpornografisch materiaal produceren
en verspreiden. Het OM onderschrijft deze aanpak.
Er is voorts onderzocht of het mogelijk is deze taken onder te brengen bij een reeds
bestaand zelfstandig bestuursorgaan, zoals bij de (door de NVvR genoemde) Autoriteit
Consument en Markt. Er is echter geen bestaand zelfstandig bestuursorgaan dat kan
worden belast met de ontoegankelijkmaking van online materiaal. Waar een bestaand
zelfstandig bestuursorgaan een vergelijkbare bevoegdheid al heeft betreft het kleine
en hoogspecialistische bestuursorganen die zich niet lenen voor de onderhavige taak
(zoals de kansspelautoriteit ingevolge artikel 34n van de Wet op de kansspelen). Het
gaat immers niet om een klein aantal meldingen, zeker omdat het beoogde bestuursorgaan
ook wordt belast met de uitvoering van de TOI-verordening. Gelet op de aard en omvang
van deze taak is daarom gekozen voor een nieuw zelfstandig bestuursorgaan, dat wordt
belast met de ontoegankelijkmaking van zowel terroristische online-inhoud als online
kinderpornografisch materiaal.
Het OM adviseert om in de tekst van de wet op te nemen welke personen zijn belast
met het toezicht op de naleving. Dit advies is opgevolgd door de toevoeging van een
nieuw artikel 2, derde lid. Hiermee beschikken de daartoe aangewezen ambtenaren over
alle in afdeling 5.2 van de Awb opgenomen bevoegdheden. Mede in dit licht is het,
anders dan de NVvR in zijn advies opmerkt, niet noodzakelijk om te voorzien in aanvullende
(opsporings)bevoegdheden.
De ISN stelt dat het opleggen van een bestuurlijke boete en een last onder dwangsom
niet snel proportioneel zal zijn. De last onder dwangsom en de bestuurlijke boete
kunnen slechts worden opgelegd wegens het niet opvolgen van een aanwijzing of het
niet naleven van de zorgplicht. Het zijn bestaande bestuursrechtelijke instrumenten,
die onder meer worden genormeerd door de algemene bestuursrechtelijke waarborgen,
zoals hoofdstuk 5 van de Awb. De vrees van ISN, dat de genoemde maatregelen leiden
tot oververwijdering en er (bijvoorbeeld) toe leiden dat reeds de suggestie dat ergens online kinderpornografisch materiaal is opgeslagen tot ingrijpen leidt,
wordt daarom niet gedeeld.
De NOvA stelt dat de definities van «aanbieder van hostingdiensten» en «aanbieder
van communicatiediensten» onvoldoende onderscheidend zijn. Dit wordt niet gedeeld.
Het begrip «aanbieder van een communicatiedienst» sluit aan bij artikel 138g van het
Wetboek van Strafvordering. Hieronder worden mede begrepen aanbieders van hostingdiensten:
de aanbieder van een communicatiedienst bestaande in de opslag van gegevens die van
een ander afkomstig zijn. Wel is opvolging gegeven aan het advies om deze definities
direct na elkaar op te nemen in de definitiebepaling. Voorts is op advies van de RvdR
in de artikelsgewijze toelichting geëxpliciteerd dat met begrip «aanbieder van hostingdiensten»
wordt aangesloten bij artikel 14 van de Richtlijn inzake elektronische handel. Onder
de reikwijdte van dit begrip valt derhalve de natuurlijke persoon of rechtspersoon
die in de uitoefening van een beroep of bedrijf aan de gebruikers van zijn dienst
de mogelijkheid biedt te communiceren met behulp van een geautomatiseerd werk, of
gegevens verwerkt of opslaat ten behoeve van een zodanige dienst of de gebruikers
van die dienst.
Het is niet noodzakelijk om de strafuitsluitingsgrond te verbreden naar publieke en
private partijen waar de Autoriteit mee samenwerkt, zoals de NOvA suggereert. Alleen
de Autoriteit komt immers in aanraking met online kinderpornografisch materiaal. Voor
aanbieders van communicatiediensten is dit niet wenselijk. Het ontbreken van een strafuitsluitingsgrond
voor private partijen leidt ook binnen de bestaande zelfregulering niet tot problemen.
De NVvR vraagt om een nadere uitwerking van de taak genoemd in artikel 2, tweede lid,
onder b. Ingevolge deze bepaling krijgt de Autoriteit mede tot taak onderzoek te doen
naar, en informatie te verstrekken over, de aanwezigheid van online kinderpornografisch
materiaal teneinde de verspreiding daarvan te beperken, waar mogelijk in samenwerking
met private en publieke partijen. Deze taakstelling is in paragraaf 4.4 toegelicht.
Het gaat, kortheidshalve, om het verder vormgegeven van de bestaande publiek-private
samenwerking waarmee met vertegenwoordigers van het bedrijfsleven op vrijwillige basis
wordt opgetreden tegen online kinderpornografisch materiaal. Deze samenwerking bestaat
al in de vorm van werkgroepen en bilaterale contacten en kan bij de Autoriteit worden
geborgd, als onderdeel van de hybride werkwijze. Voor het inrichten van een meldpunt,
het doen van onderzoek, het stimuleren van marktpartijen en het mobiliseren van kennis
is geen nadere afzonderlijke wettelijke grondslag vereist.
Openbaarmaking
De NOvA, RvdR en de NVvR hebben bezwaren tegen de verplichting tot openbaarmaking
van een bestuurlijke boete wegens het stelselmatig nalaten opvolging te geven aan
een aanwijzing. In reactie hierop wordt opgemerkt dat met de openbaarmaking meerdere
doelen zijn gediend. De openbaarmaking is erop gericht de naleving van deze wet te
bevorderen en inzicht te geven in de mate en de manier waarop op deze naleving toezicht
wordt gehouden. Van de openbaarmaking gaat bovendien een zekere diffamerende werking
uit. Het advies om van openbaarmaking af te zien wordt daarom niet opgevolgd. Evenmin
gevolgd is het advies om openbaarmaking slechts mogelijk te maken ten aanzien van
een onherroepelijk geworden beschikking. Gelet op de duur van de bestuursrechtelijke
procedure verliest de openbaarmaking daardoor een groot deel van zijn waarde. Bovendien
is voorzien in afdoende waarborgen. Zo vindt openbaarmaking niet eerder plaats dan
nadat twee weken zijn verstreken na de dag waarop het besluit tot oplegging van de
bestuurlijke boete bekend is gemaakt. Daardoor is een betrokken aanbieder afdoende
in de gelegenheid om een rechtsmiddel aan te wenden, zoals een verzoek om voorlopige
voorziening. Ingevolge artikel 10, vierde lid wordt de openbaarmaking opgeschort totdat
de voorzieningenrechter op een dergelijk verzoek heeft beslist of het verzoek is ingetrokken.
Een dergelijke regeling is overigens zeer gebruikelijk. Bij wijze van voorbeeld wordt
gewezen op artikel 12u van de Instellingswet Autoriteit Consument en Markt.
Wel gevolgd is het advies van de NOvA om op de openbaarmaking het gehele artikel 10
van de Wet openbaarheid van bestuur van toepassing te verklaren. Omdat de Wob per
1 mei 2022 is vervangen door de Wet open overheid (Woo), is er voor gekozen het regime
van het goeddeels gelijkluidende artikel 5.1 Woo van toepassing te verklaren. Naar
het oordeel van de regering wordt met deze regeling en de daarin opgenomen waarborgen
een passend evenwicht bereikt tussen de doelen van openbaarmaking en de belangen van
de betrokken aanbieder.
Overig
De NOvA vraagt om aandacht te besteden aan de gevolgen van dit wetsvoorstel voor de
werklast van de Rechtspraak. Gewezen wordt op hetgeen hierover in hoofdstuk 7 is opgemerkt.
Het wetsvoorstel is voorts voorgelegd aan de RvdR, die heeft geconstateerd dat er
geen substantiële gevolgen voor zijn werklast zijn.
Door de NVvR is de vraag gesteld waarom niet is voorzien in de bevoegdheid tot oplegging
van een last onder bestuursdwang. Dit instrument is overwogen. Uit onderzoek dat op
verzoek van het Ministerie van Justitie en Veiligheid is verricht, blijkt echter dat
een last onder bestuursdwang slechts zeer beperkt inzetbaar is bij aanbieders van
hostingdiensten die niet meewerken en dat grote nevenschade niet kan worden uitgesloten,
omdat geforceerd toegang moet worden verkregen tot een netwerk.80 De last onder dwangsom is een gerichter instrument, dat aanbieders er door een financiële
prikkel (alsnog) toe beweegt zelf mee te werken.
De NVvR stelt dat een last onder dwangsom ook kan worden opgelegd zonder voorafgaande
aanwijzing, omdat de last per definitie een concretisering van de zorgplicht betreft.
Hier lijkt sprake te zijn van een misverstand. De zorgplicht verplicht specifieke
aanbieders van hostingdiensten ertoe de opslag en doorgifte van online kinderpornografisch
materiaal (proactief) te beperken. De aanwijzing strekt ertoe één of meerdere specifieke
afbeeldingen (reactief) ontoegankelijk te maken. Het betreft hier dus twee te onderscheiden
instrumenten. Overwogen is, zoals de NVvR adviseert, het mogelijk te maken een last
onder dwangsom op te leggen zonder voorafgaande aanwijzing. Hier is van afgezien:
gelet op het neutrale karakter van de dienstverlening van een aanbieder wordt verwacht
dat een aanwijzing in de regel tijdig wordt opgevolgd. Anders dan de NVvR betoogt
heeft dit geen significante invloed op de effectiviteit van het voorgestelde instrumentarium,
omdat de termijn om opvolging te geven aan een aanwijzing een korte zal zijn.
Voor zover de NVvR stelt dat in de toelichting niet is ingegaan op de rechtsbescherming
wordt gewezen op hetgeen daarover in hoofdstuk 3 is opgenomen.
Door onder meer het OM en Leaseweb is opgemerkt dat de voorgestelde verplichting om
een kopie van de ontoegankelijk gemaakte gegevens te behouden lastig uitvoerbaar is
voor aanbieders van «mere conduit» of «caching» diensten. Zij wijzen erop dat deze
verplichting ertoe leidt dat deze aanbieders ongewild in aanraking komen met dit type
materiaal. Deze adviezen hebben ertoe geleid dat deze verplichting is geschrapt. Daarbij
is betrokken dat het voor de Autoriteit ook zelf mogelijk is om een kopie te maken
van het materiaal dat ontoegankelijk wordt gemaakt, mede ten behoeve van de bestuursrechtelijke
en strafrechtelijke procedure.
Het OM heeft gevraagd of de Autoriteit zich mede kan richten op online kinderpornografisch
materiaal dat benaderbaar is middels het «dark web». De bevoegdheden van de Autoriteit
strekken zich uit tot voor een ieder toegankelijke informatiebronnen. Daaronder valt
ook het «dark web», omdat eenieder daartoe in beginsel toegang zal kunnen verkrijgen.
Voor toegang tot het dark web zijn immers in de regel geen bijzondere (strafrechtelijke)
opsporingsbevoegdheden vereist.
Het OM onderschrijft de mogelijkheid voor de Autoriteit om gegevens te delen met de
politie en het OM, en vraagt of het niet ook mogelijk zou moeten zijn dat politie
en het OM richting de Autoriteit gegevens kunnen delen zodat meldingen uit het strafrecht
kunnen worden doorgegeven aan de Autoriteit. Dit wordt niet noodzakelijk geacht: de
politie en het OM kunnen ook zonder dat zij deze (politie)gegevens verstrekken bij
de Autoriteit melding maken van online kinderpornografisch materiaal.
Een aantal partijen, waaronder DINL, heeft gevraagd naar de relatie van het onderhavige
voorstel van wet met de overige actielijnen uit het programma «Hernieuwde aanpak online
seksueel kindermisbruik». Daarbij is ook gevraagd hoe de continuïteit en financiering
van het EOKM wordt geborgd. De actielijnen uit dit programma zijn gericht op het schonen
van internet door publiek-private samenwerking, en worden geborgd bij de Autoriteit.
De beoogde hybride werkwijze zal het mogelijk maken om deze samenwerking constructief
verder vorm te geven. Het gaat daarbij bijvoorbeeld om het voortzetten van afstemmingsoverleggen
tussen publieke en private partners in de bestaande werkgroep. Ook de monitor van
de Technische Universiteit Delft is een instrument dat bij de Autoriteit wordt belegd.
Voor wat betreft de inzet van de HashCheckServer zal de Autoriteit nadere afspraken
met het EOKM maken, voor de beoogde webcrawler van de Autoriteit is bijvoorbeeld een
verbinding met de database van de HashCheckServer van belang. De financiering van
het EOKM is geen onderdeel van dit wetsvoorstel en blijft belegd bij het Ministerie
van Justitie en Veiligheid. Daarbij wordt aangetekend dat ook private partners hierin
een rol hebben, omdat zelfregulering van het EOKM juist in hun belang is. Naast bovengenoemde
actielijn gericht op het publiek-privaat schonen van internet, kent het programma
«Hernieuwde aanpak online seksueel kindermisbruik» een preventieve actielijn en een
actielijn gericht op het verscherpen van de opsporing. De projecten uit deze twee
actielijnen vallen buiten dit wetsvoorstel, omdat ze zich richten op partijen en doelgroepen
buiten de publiek-private samenwerking.
Verschillende respondenten, zoals Google, hebben erop gewezen dat de Richtlijn inzake
elektronische handel op termijn wordt vervangen door de DSA. Zij vragen hierop te
anticiperen. In paragraaf 3.1 en 6.1 is ingegaan op de van toepassing zijnde bepalingen
uit de Digitaledienstenverordening.
Aan het advies van de ATR om de gevolgen voor de regeldruk te kwantificeren is gevolg
gegeven. Er is uitvraag gedaan onder aanbieders van communicatiediensten. De uitvraag
resulteerde in een elftal reacties, waaruit een indicatie van de kosten is gedestilleerd
die in paragraaf 7.3 is verwoord.
ARTIKELSGEWIJS DEEL
Artikel 1
Aanbieder van een communicatiedienst
Deze definitie sluit aan bij de definitieomschrijving in artikel 138g Sv. Hieronder
wordt derhalve verstaan de natuurlijke persoon of rechtspersoon die in de uitoefening
van een beroep of bedrijf aan de gebruikers van zijn dienst de mogelijkheid biedt
te communiceren met behulp van een geautomatiseerd werk, of gegevens verwerkt of opslaat
ten behoeve van een zodanige dienst of de gebruikers van die dienst.
Aanbieder van hostingdiensten
Met aanbieder van hostingdiensten wordt gedoeld op de aanbieder die een communicatiedienst
verleent bestaande in de opslag van gegevens die van een ander afkomstig zijn. Daarbij
is niet het type onderneming, maar de aard van de aangeboden dienst doorslaggevend.
Ook aanbieders wier activiteiten gedeeltelijk bestaan uit hosting zijn derhalve, voor
zover zij dergelijke activiteiten ontplooien, aan te merken als aanbieder van hostingdiensten.
Met deze definitie wordt aangesloten bij artikel 14 van de Richtlijn inzake elektronische
handel. Onder de reikwijdte van deze definitie vallen onder meer aanbieders van serverruimte,
maar ook social media platforms, video streaming services en internet service providers,
voor zover zij ruimte aanbieden voor het opslaan van gegevens, zoals (onderdelen van)
websites, losse afbeeldingen of videobestanden. De opslag dient enige duur van betekenis
te hebben. Het automatisch en kortstondig opslaan van gegevens om de latere doorgifte
van die gegevens aan gebruikers van een dienst efficiënter te maken («caching») valt
niet onder de reikwijdte. Evenmin onder de reikwijdte valt de aanbieder wiens dienstverlening
bestaat uit het louter doorgeven van informatie of het verschaffen tot toegang van
een communicatienetwerk («mere conduit», waaronder access providers).
Kinderpornografisch materiaal
De definitie van kinderpornografisch materiaal stemt overeen met artikel 240b Sr,
met dien verstande dat het onderhavige wetsvoorstel slechts betrekking heeft op kinderpornografisch
materiaal dat via het internet wordt verspreid. Onder de reikwijdte van deze bepaling
vallen onder meer afbeeldingen waarop een seksuele gedraging staat waarbij iemand
die kennelijk de leeftijd van achttien jaar nog niet heeft bereikt, is betrokken of
schijnbaar is betrokken. De toepassing van deze bepaling is in hoge mate geobjectiveerd.
De werkelijke leeftijd van de afgebeelde persoon is niet relevant en hoeft evenmin
te worden bewezen. Het is voldoende dat aan de hand van de uit het materiaal blijkende
uiterlijke lichaamskenmerken volgt dat degene die is afgebeeld jonger oogt dan 18
jaar.81 Bij die schatting wordt rekening gehouden met alle kenmerken van het lichaam van
de desbetreffende persoon die enige indicatie kunnen geven omtrent de leeftijd van
die persoon.82 Voor het overige wordt verwezen naar het algemene deel van de toelichting.
Ontoegankelijk maken
Verwezen wordt naar paragraaf 3.2 van het algemene deel van de toelichting. In aanvulling
daarop wordt opgemerkt dat de aanwijzing niet dwingend voorschrijft op welke wijze
het kinderpornografisch materiaal ontoegankelijk moet worden gemaakt. De ontoegankelijkmaking
daarvan kan plaatsvinden door het materiaal te verwijderen, of de toegang daartoe
te blokkeren.
Artikelen 2, 2a en 2c
Zie hoofdstuk 4 van deze toelichting.
Artikel 2b
De Kaderwet verplicht niet tot vaststelling van een bestuursreglement. Wel is aan
de Minister die het aangaat een goedkeuringsrecht toegekend voor die gevallen waarin
een zelfstandig bestuursorgaan op grond van een andere wettelijke regeling een bestuursreglement
dient vast te stellen (artikel 11, eerste lid, van de Kaderwet). Het voorgestelde
artikel voorziet in een dergelijke verplichting. De reden voor deze verplichting is
dat de Minister van Justitie en Veiligheid een algemene verantwoordelijkheid heeft
voor de taakuitoefening door de Autoriteit, en de in een bestuursreglement opgenomen
regels – te denken valt bijvoorbeeld aan regels over de wijze van besluitvorming en
de taakverdeling tussen de leden – het functioneren en daarmee de taakuitoefening
van de Autoriteit kunnen beïnvloeden. Door algemene regels daarover op te nemen in
een bestuursreglement, dat door de Minister van Justitie en Veiligheid moet worden
goedgekeurd, wordt hij aldus in staat gesteld betere invulling te geven aan zijn systeemverantwoordelijkheid.
Het bestuursreglement bevat geen bepalingen die de inhoudelijke uitoefening van de
bevoegdheden van de Autoriteit normeren en kan dus niet afdoen aan de onafhankelijkheid
van de autoriteit.
Artikel 3
De uitoefening van de bij deze wet aan de Autoriteit opgedragen bevoegdheden vergt
dat de Autoriteit kinderpornografisch materiaal ontvangt, beoordeelt en in bezit houdt.
De Autoriteit en de personen die daar werkzaam zijn zullen zich bovendien door middel
van een geautomatiseerd werk of met gebruikmaking van een communicatiedienst toegang
tot dit materiaal moeten verschaffen, voor zover dit beschikbaar is op het openbare
internet. Dit artikel sluit zowel de Autoriteit als diens medewerkers uit van strafrechtelijke
vervolging voor deze handelingen. Dit geldt uiteraard alleen voor zover zij handelen
ter uitoefening van de bij deze wet aan hen opgedragen taken. Deze beperking moet
eng worden uitgelegd: het betreft niet alle werknemers van de Autoriteit, maar alleen
die werknemers voor wie het voor de uitoefening van hun werkzaamheden noodzakelijk
is dat zij met kinderpornografisch materiaal werken.
Artikel 4
Dit artikel bevat een kapstokbepaling voor het elektronische berichtenverkeer tussen
de Autoriteit en aanbieders van communicatiediensten.
Afdeling 2.3 Awb bevat een algemene regeling voor elektronische berichtenverkeer tussen
burgers en bestuursorganen. Zo is bijvoorbeeld geregeld dat een bericht van een bestuursorgaan
aan één of meer geadresseerden elektronisch kan worden verzonden als de geadresseerde
kenbaar heeft gemaakt dat hij langs deze weg voldoende bereikbaar is, en is bepaald
dat een burger die een bericht wil verzenden aan een bestuursorgaan, ook wanneer het
bestuursorgaan de elektronische weg daartoe heeft opengesteld, nog altijd de keuze
heeft het bericht anders dan langs elektronische weg te verzenden. In afwijking van
de artikelen 2:14, eerste lid, en 2:15, eerste lid van de Awb wordt in dit artikel
elektronisch berichtenverkeer tussen de Autoriteit en de betrokken aanbieder verplicht
voorgeschreven. De overige bepalingen van afdeling 2.3 van de Awb blijven van toepassing.
Dit houdt onder meer in dat de Autoriteit een elektronisch bericht op een betrouwbare
en vertrouwelijke manier verzendt, en dat als tijdstip van verzending van een bericht
geldt het moment waarop het een systeem voor gegevensbewerking heeft bereikt waarvoor
de Autoriteit geen verantwoordelijkheid draagt.
Het tweede lid bepaalt dat bij regeling van de Minister van Justitie en Veiligheid
nadere regels kunnen worden gegeven over de wijze waarop het elektronische berichtenverkeer
plaatsvindt. Hieronder worden verstaan regels over welke digitale voorziening beschikbaar
is, en over de wijze van authenticatie. Onder authenticatie wordt verstaan: de manier
waarop bij het inloggen in het elektronische berichtensysteem de identiteit van de
betrokken aanbieder van een communicatiedienst, danwel degene die namens deze aanbieder
optreedt, wordt vastgesteld.
Artikel 5
Het eerste lid regelt dat de Autoriteit met de politie en het openbaar ministerie
in overleg treedt. Met dit overleg wordt voorkomen dat door de aanwending van bestuursrechtelijke
bevoegdheden de strafrechtelijke opsporing en vervolging van diegenen die kinderpornografisch
materiaal produceren of bekijken, wordt doorkruist. Het overleg betreft ten eerste
aangelegenheden van algemene aard, zoals algemene kaders waarbinnen de Autoriteit
zijn bevoegdheden zal aanwenden en de wijze en frequentie waarop nadere afstemming
plaatsvindt met het openbaar ministerie en de politie. Het is niet noodzakelijk dat
de Autoriteit en het openbaar ministerie voorafgaand aan iedere bestuursrechtelijk
maatregel in overleg treden. Dat zou ook niet mogelijk zijn, gelet op de grote aantallen
meldingen over kinderpornografisch materiaal en het dus potentieel grote aantal op
te leggen maatregelen.
Het is niet uitgesloten dat de Autoriteit uit hoofde van haar werkzaamheden over informatie
komt te beschikken die van belang kan zijn bij de opsporing en vervolging. Het moet
daarom mogelijk zijn deze gegevens uit eigen beweging, of op verzoek, aan de politie
te verstrekken. Het tweede lid bevat daartoe een grondslag, op grond waarvan de Autoriteit
dergelijke gegevens aan de politie kan verstrekken voor zover deze persoonsgegevens
of inlichtingen noodzakelijk zijn voor de uitoefening van diens wettelijke taak, bedoeld
in artikel 3 van de Politiewet 2012.
Artikel 6
De aanwijzing schept een bestuursrechtelijke norm waar de betrokken aanbieder van
hostingdiensten aan moet voldoen. De aanwijzing attendeert de aanbieder op de aanwezigheid
van online kinderpornografisch materiaal en verplicht ertoe dit materiaal binnen een
in de aanwijzing opgenomen termijn ontoegankelijk te maken. In algemene zin geldt
dat de aanwijzing (zo mogelijk) wordt gegeven aan een aanbieder van hostingdiensten.
Omdat deze aanbieders het materiaal daadwerkelijk hebben opgeslagen, kan van hen redelijkerwijs
worden gevergd dat zij dit materiaal verwijderen. Soms is het (technisch) niet mogelijk
om de betrokken aanbieder van hostingdiensten te identificeren. Dat is bijvoorbeeld
het geval als deze in het buitenland is gevestigd. Het tweede lid bepaalt daarom dat
indien de aanwijzing niet kan worden gericht tot een aanbieder van hostingdiensten,
deze kan worden gericht tot een aanbieder van een communicatiedienst. Gedacht kan
worden aan een aanbieder die de doorgifte van deze gegevens verzorgt («mere conduit»).
Het derde lid stelt buiten twijfel dat de aanwijzing bindend is. Naleving van deze
verplichting kan worden afgedwongen met een last onder dwangsom of een bestuurlijke
boete.
Voor de definitie van ontoegankelijkmaking in het eerste lid is aansluiting gezocht
bij de omschrijving van ontoegankelijkmaking zoals deze is neergelegd in artikel 125p
Sv en artikel 34n van de Wet op de kansspelen. Zie daarover het algemene deel van
deze toelichting. In de aanwijzing wordt niet dwingend voorgeschreven welke handelingen
de aanbieder moet verrichten om het desbetreffende materiaal ontoegankelijk te maken.
Het vierde lid vermeldt de elementen die in ieder geval in de aanwijzing moeten worden
opgenomen. Door deze elementen in de wet op te nemen wordt zeker gesteld dat elke
aanwijzing in ieder geval deze gegevens bevat. Indien de Digitaledienstenverordening
van toepassing wordt, geldt ten aanzien van de inhoud van de aanwijzing dat ook moet
worden voldaan aan de voorwaarden genoemd in artikel 9, tweede lid, van de Digitaledienstenverordening.
Artikel 7
Verwezen wordt naar paragraaf 3.2 van het algemene deel van deze toelichting.
Artikel 8
Een last onder dwangsom kan worden opgelegd als de aanwijzing, bedoeld in artikel
6, niet is opgevolgd. Het is derhalve niet mogelijk om direct, zonder voorafgaande
aanwijzing, een last onder dwangsom op te leggen, ook niet als vast staat dat de betrokken
aanbieder van een communicatiedienst kennis heeft van het kinderpornografisch materiaal.
De last onder dwangsom is een herstelsanctie. De last mag daarom niet verder strekken
dan noodzakelijk om ongedaanmaking van de overtreding te bewerkstelligen. Zie verder
paragraaf 3.3 van het algemene deel van deze toelichting.
Het is tevens mogelijk een last onder dwangsom op te leggen aan de aanbieder van hostingdiensten
die niet heeft voldaan aan artikel 7, eerste en tweede lid.
Artikel 9
Het eerste lid bepaalt dat de Autoriteit bevoegd is tot het opleggen van een bestuurlijke
boete voor het niet voldoen aan een aanwijzing. Voor wat betreft de maximale boetehoogte
is aangesloten bij het boetemaximum voor het niet voldoen aan een ambtelijk bevel
op grond van artikel 184 Sr. Daarmee wordt verzekerd dat het niet opvolgen van een
aanwijzing niet anders wordt gesanctioneerd dan het niet voldoen aan een krachtens
artikel 125p Sv gegeven bevel.
Het tweede lid bepaalt dat de Autoriteit bevoegd is tot het opleggen van een bestuurlijke
boete wegens het nalaten passende en evenredige maatregelen te treffen om de opslag
en doorgifte van online kinderpornografisch materiaal te beperken. Voorts bepaalt
dat artikellid de maximale hoogte van de bestuurlijke boete die kan worden opgelegd
Ingevolge het derde lid kan aan een aanbieder van een communicatiedienst die systematisch
of aanhoudend nalaat opvolging te geven aan een aanwijzing een bestuurlijke boete
worden opgelegd van ten hoogste het bedrag dat is vastgesteld voor de zesde categorie,
genoemd in artikel 23, vierde lid, Sr of, indien dat meer is, ten hoogste 4% van de
omzet van de onderneming. Met het vereiste dat het nalaten systematisch of aanhoudend
moet zijn is tot uitdrukking gebracht dat de hogere bestuurlijke boete (met een hoger
boetemaximum) niet kan worden opgelegd aan de overtreder die slechts enkele keren
heeft nagelaten een aanwijzing tot ontoegankelijkmaking uit te voeren; in het begrip
systematisch of aanhoudend ligt besloten dat het moet gaan om een patroon van nalaten
(tijdig) te handelen.
Gelet op artikel 5:46, tweede lid, Awb wordt de hoogte van de bestuurlijke boete in
alle gevallen afgestemd op de ernst van de overtreding en de mate waarin deze aan
de overtreder kan worden verweten. Daarbij wordt rekening worden gehouden met de omstandigheden
waaronder de overtreding is gepleegd.
Het is denkbaar dat een last onder dwangsom en bestuurlijke boete cumuleren. Wel blijft
van belang dat het totale pakket van sancties evenredig is.
Artikel 10
Artikel 10 voorziet in een bevoegdheid van de Autoriteit tot openbaarmaking van een
besluit waarin een bestuurlijke boete is opgelegd wegens het nalaten opvolging te
geven aan een aanwijzing tot ontoegankelijkmaking. Uitgangspunt is dat deze besluiten
openbaar worden gemaakt, met uitzondering van de gegevens die op basis van artikel
5.1 van de Wet open overheid (Woo) niet voor openbaarmaking in aanmerking komen. Het
betreft hier onder meer bedrijfs- en fabricagegegevens die vertrouwelijk aan de overheid
zijn medegedeeld en persoonsgegevens als bedoeld in paragraaf 3.1 onderscheidenlijk
paragraaf 3.2 van de Uitvoeringswet Algemene verordening gegevensbescherming. Ten
aanzien van de in artikel 5.1, tweede lid, Woo genoemde belangen wordt door de Autoriteit
een belangenafweging verricht waarbij het belang van openbaarmaking wordt gewogen
tegen de in die bepaling genoemde belangen. Gelet op de aard van de overtreding ligt
het overigens niet in de lijn der verwachting dat deze afweging snel in het voordeel
van de betrokkene uitvalt Op grond van het vijfde lid van artikel 5.1 Woo kan openbaarmaking
voorts achterwege blijven indien openbaarmaking onevenredige benadeling toebrengt
aan een ander belang dan genoemd in het eerste of tweede lid en het algemeen belang
van openbaarheid niet tegen deze benadeling opweegt. Het bestuursorgaan baseert een
beslissing tot achterwege laten van de openbaarmaking van enige informatie in dat
geval ten aanzien van dezelfde informatie niet tevens op een van de in het eerste
of tweede lid genoemde gronden.
Met openbaarmaking wordt niet gewacht totdat de beschikking waarbij de bestuurlijke
boete is opgelegd onherroepelijk is geworden. Gelet op de daartegen openstaande rechtsmiddelen
zou dit de openbaarmaking goeddeels van zijn toegevoegde waarde ontdoen, omdat door
het aanwenden van rechtsmiddelen tegen een dergelijk besluit de openbaarmaking gedurende
lange tijd kan worden uitgesteld. In plaats daarvan is in het derde lid geregeld dat
openbaarmaking niet eerder plaatsvindt dan nadat twee weken zijn verstreken na de
dag waarop het besluit aan de belanghebbende bekend is gemaakt. Voorts bepaalt het
vierde lid dat een verzoek om een voorlopige voorziening schorsende werking heeft
en de openbaarmaking opschort, totdat op dat verzoek is beslist.
Niet de gehele beschikking waarbij de bestuurlijke boete is opgelegd wordt openbaar
gemaakt; deze beschikking bevat in de regel immers ook andere (persoons)gegevens dan
alleen de normadressaat, zoals bijvoorbeeld gegevens over het online kinderpornografisch
materiaal. Het zesde lid bepaalt daarom dat bij algemene maatregel van bestuur regels
worden gesteld over de openbaar te maken gegevens. Het betreft hier in elk geval regels
over welke gegevens openbaar worden gemaakt, en regels over de wijze waarop deze openbaarmaking
plaatsvindt.
Artikel 11
Het eerste lid bevat de noodzakelijke wettelijke grondslag voor het verwerken van
bijzondere categorieën van persoonsgegevens en persoonsgegevens van strafrechtelijke
aard. In het tweede lid is de noodzakelijke wettelijke grondslag voor het verwerken
persoonsgegevens van strafrechtelijke aard opgenomen. Voor een nadere toelichting
wordt verwezen naar paragraaf 5.3 van het algemene deel van de toelichting.
Artikel 12
Artikel 12 voorziet in de mogelijkheid om in concrete gevallen conform de voorwaarden
die de AVG daaraan stelt de rechten van betrokkene te beperken. Dit is in paragraaf
5.3 toegelicht.
Artikel 13
De ontoegankelijkmaking kan ertoe leiden dat online kinderpornografisch materiaal
wordt verwijderd. Gelet op het belang van deze gegevens voor een eventuele bestuursrechtelijke
of strafrechtelijke procedure, is het van belang dat een kopie van dit materiaal behouden
blijft. Het artikel voorziet in een grondslag om bij algemene maatregel van bestuur
regels te stellen over het behoud en de opslag van het materiaal en de daarbij bijbehorende
persoonsgegevens. Daarbij worden in elk geval regels gesteld over de manier waarop
de Autoriteit dit (strafbare) materiaal opslaat zodat toegang tot dit materiaal door
derden wordt voorkomen en daarvoor geldende bewaartermijnen. Gelet op het beginsel
van opslagbeperking is het uitgangspunt dat persoonsgegevens niet langer worden bewaard
dan noodzakelijk is voor de doeleinden waarvoor zij zijn verzameld. Voorts worden
regels gesteld over de wijze waarop de kopie kan worden gebruikt of inzage daarin
wordt gegeven ten behoeve van een strafrechtelijke of bestuursrechtelijke procedure.
Bij procedures ten behoeve van de strafvordering kan worden gedacht aan een strafzaak
tegen degene die het kinderpornografisch materiaal heeft geproduceerd of op internet
heeft geplaatst. De verwijzing naar de bestuursrechtelijke procedure ziet op de mogelijkheid
van bezwaar, beroep of hoger beroep tegen de rechtmatigheid van een gegeven aanwijzing
of een sanctie. Het betreft hier bijvoorbeeld een procedure waarin een aanbieder van
een communicatiedienst de rechtmatigheid van een aanwijzing tot ontoegankelijkmaking
of een daarop volgende bestuursrechtelijke sanctie bestrijdt, bijvoorbeeld omdat verschil
van inzicht bestaat over de kwalificatie van het als kinderpornografisch aangemerkte
materiaal.
Artikel 14
Het huidige artikel 54a Sr bevat een vervolgingsuitsluitingsgrond voor aanbieders
van een communicatiedienst. Deze vervolgingsuitsluitingsgrond strekt ertoe de aansprakelijkheid
van deze intermediaire dienstverleners te beperken, door te bepalen dat deze aanbieders
bij een strafbaar feit dat met gebruikmaking van die diensten wordt begaan als zodanig
niet worden vervolgd, als is voldaan aan een krachtens artikel 125p Sv gegeven bevel.
In artikel 54a Sr is geen vervolgingsuitsluitingsgrond opgenomen voor een aanbieder
van een communicatiedienst die opvolging geeft aan een aanwijzing. Deze wijziging
voorziet daarin, zodat een beroep op de in artikel 54a Sr opgenomen vervolgingsuitsluitingsgrond
evenzeer toekomt aan de aanbieder die kinderpornografisch materiaal ontoegankelijk
heeft gemaakt als gevolg van een aanwijzing.
Artikel 15 bevat een samenloopbepaling voor de Uitvoeringswet TOI-verordening. Deze samenloopbepaling
bewerkstelligt dat het beoogde nieuwe zelfstandige bestuursorgaan slechts éénmaal
wordt opgericht. Ook is voorzien in een samenloopbepaling voor de beoogde wijziging
van artikel 54a Sr.
Artikel 16 schrapt artikel 19 uit de Uitvoeringswet TOI-verordening. Dit artikel uit de Uitvoeringswet
TOI-verordening bevatte een samenloopbepaling voor het geval van samenloop met dit
wetsvoorstel. De Uitvoeringswet TOI-verordening is op 21 maart 2023 door de Eerste
Kamer aangenomen en treedt op korte termijn in werking. Gelet hierop zal de Uitvoeringswet
TOI-verordening eerder in werking treden dan het onderhavige wetsvoorstel. Een samenloopbepaling
in de Uitvoeringswet TOI-verordening met dit wetsvoorstel is daarom niet langer noodzakelijk.
Artikel 17 bevat een samenloopbepaling voor het bij koninklijke boodschap van 18 juli 2019 ingediende
voorstel van wet tot wijziging van de Algemene wet bestuursrecht in verband met de
herziening van afdeling 2.3 van die wet (Wet modernisering elektronisch bestuurlijk
verkeer). Hoewel het met dat wetsvoorstel voorgestelde artikel 2:7, derde lid, voorziet
in een algemene grondslag voor het verzenden van een bericht langs elektronische weg,
is niet uit te sluiten dat een aanbieder van hostingdiensten een natuurlijk persoon
is. Een afwijking van het in dat wetsvoorstel voorgestelde artikel 2:8 blijft daarom
noodzakelijk.
Artikel 18 bevat de inwerkingtredingsbepaling van deze wet, waarbij het mogelijk is om voor
de verschillende artikelen of onderdelen daarvan een verschillend tijdstip vast te
stellen. Als uitgangspunt geldt dat de gehele voorstel van wet als één geheel in werking
treedt. Gedeeltelijke of gefaseerde inwerkingtreding zal slechts in zeer uitzonderlijke
gevallen aan de orde zijn, bijvoorbeeld als dat noodzakelijk blijkt om de benodigde
samenloop met de Uitvoeringswet TOI-verordening te waarborgen.
Artikel 19 bevat de citeertitel.
Deze toelichting wordt ondertekend mede namens de Minister van Binnenlandse Zaken
en Koninkrijksrelaties.
De Minister van Justitie en Veiligheid,
D. Yesilgöz-Zegerius
Ondertekenaars
-
Eerste ondertekenaar
D. Yesilgöz-Zegerius, minister van Justitie en Veiligheid -
Mede ondertekenaar
H.G.J. Bruins Slot, minister van Binnenlandse Zaken en Koninkrijksrelaties
Bijlagen
Stemmingsuitslagen
Aangenomen met handopsteken
| Fracties | Zetels | Voor/Tegen |
|---|---|---|
| PVV | 37 | Voor |
| GroenLinks-PvdA | 25 | Voor |
| VVD | 24 | Voor |
| NSC | 20 | Voor |
| D66 | 9 | Voor |
| BBB | 7 | Voor |
| CDA | 5 | Voor |
| SP | 5 | Voor |
| ChristenUnie | 3 | Voor |
| DENK | 3 | Voor |
| FVD | 3 | Voor |
| PvdD | 3 | Voor |
| SGP | 3 | Voor |
| Volt | 2 | Voor |
| JA21 | 1 | Voor |
Gerelateerde documenten
Hier vindt u documenten die gerelateerd zijn aan bovenstaand Kamerstuk.