Brief regering : Aanpak online hate speech

Nr. 158 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 december 2018

In vervolg op de voortgangsbrief Nationaal Actieprogramma Discriminatie 20181 en het verzoek van het lid Azarkan (DENK) inzake de aanpak van haatberichten op sociale
media als Facebook zend ik uw Kamer hierbij deze brief met de aanpak van online hate speech.

Europese aanpak

In Nederland en in andere Europese landen is een significante toename van illegale
online content waar te nemen, bijvoorbeeld waar het gaat om discriminatoire uitingen
waaronder het aanzetten tot haat en geweld («hate speech»), pedopornografische afbeeldingen
en strafbare terroristische of extremistische uitingen. Er is een toenemende wens
bij enkele EU-lidstaten om bestaande wet- en regelgeving die de vrijheid van meningsuiting
beperkt in de fysieke wereld mede van toepassing te verklaren op online activiteiten,
zoals bij de discussie over de uitbreiding van de reikwijdte van de Audiovisuele Mediadiensten
Richtlijn tot aanbieders van videoplatforms. Bij diverse gelegenheden hebben de Europese
Raad en de (JBZ-)Raad zich uitgesproken over illegale online content en de risico’s
erkend die voortvloeien uit het toenemende gebruik van social media, zoals de snelle verspreiding van nepnieuws en het zich discriminerend uitlaten tegenover
migranten. Nederland onderstreept daarbij steeds weer het belang van een gezamenlijke
Europese aanpak, samenwerking bij strafrechtelijke vervolging en de belangrijke rol
van onderwijs ten aanzien van het ontwikkelen van kritisch denkvermogen en mediawijsheid.

Gedragscode

Tijdens het Nederlandse voorzitterschap van de Raad van de Europese Unie in 2016 werd
door de Europese Commissie, gezamenlijk met Facebook, Microsoft, Twitter en Google/YouTube
een Gedragscode gepresenteerd om online hate speech tegen te gaan. De belangrijkste inspanningsverplichting die uit de Gedragscode voortvloeit
betreft de afdoening en eventuele verwijdering van haatzaaiende uitingen na meldingen
van gebruikers binnen 24 uur. Daarnaast bevat de Gedragscode afspraken over monitoring van de afspraken. Ter gelegenheid van de derde bijeenkomst
van de EU-Groep op Hoog Niveau aangaande het tegengaan van racisme, vreemdelingenhaat
en andere vormen van intolerantie op 31 mei en 1 juni 2017 heeft de Europese Commissie
gerapporteerd over de resultaten van deze monitoring. De resultaten laten zien dat
significante vooruitgang is geboekt ten aanzien van de efficiëntie en snelheid van
afdoening van meldingen, verbetering van de rapportagesystematiek, een betere opleiding
van medewerkers, verbeterde samenwerking met betrokken partijen en verbetering van
de eenduidigheid in behandeling, ongeacht wie de melder is. Tegelijkertijd zijn ook
verbeterpunten geconstateerd, vooral waar het de transparantie over de criteria van
afdoening en de terugkoppeling naar gebruikers betreft.

In EU-verband heeft het kabinet zich, gezien de vooruitgang die is geboekt onder de
Gedragscode, uitgesproken voor de voortzetting en uitbreiding van de Gedragscode,
inclusief de monitoring door de Europese Commissie. Daarnaast dringt het kabinet aan op meer transparantie van de betrokken sociale-mediabedrijven
ten aanzien van interne procedures en de aantallen verzoeken om verwijdering van illegale
inhoud en de afdoening daarvan, analoog aan de transparantie-rapportages die sommige
van deze ondernemingen publiceren inzake verzoeken die zij van overheden ontvangen.

Mededeling bestrijding illegale content

Op 28 september 2017 heeft de Europese Commissie een «Mededeling over de bestrijding
van illegale online content – Naar een grotere verantwoordelijkheid voor online platformen»
uitgebracht (COM(2017)555). De mededeling formuleert richtsnoeren en uitgangspunten
voor online platforms om – in samenwerking met nationale autoriteiten in lidstaten
en andere relevante belanghebbenden – illegale online content tegen te gaan. Wat in
de fysieke wereld illegaal is, is dat ook online. Daarbij kan gedacht worden aan het
verspreiden van terroristische en extremistische uitingen, hate speech, pedopornografisch
materiaal, het schenden van auteursrechten en het online aanbieden van illegale goederen
als wapens en drugs. De mededeling richt zich op het faciliteren en intensiveren van
de implementatie van succesvolle werkwijzen om illegale content te voorkomen, op te
sporen, te verwijderen en de toegang ertoe onmogelijk te maken; tevens moet dat zorgen
voor meer transparantie en bescherming van fundamentele rechten online. De mededeling
legt een grote verantwoordelijkheid bij online platforms om illegale online content
te bestrijden, met inachtneming van de artikelen 14 en 15 van de e-commerce-richtlijn.
Online platforms worden met deze mededeling opgeroepen een effectief meldingssysteem
operationeel te hebben, bij voorkeur door middel van een Notice-and-Take-Action-(NTA-)procedure,
waarbij oordelen over toelaatbaarheid zijn gebaseerd op Europees en nationaal geldend
recht. Waar mogelijk dienen ook technieken te worden ingezet om proactief op te kunnen
treden en (her)plaatsing van illegale content te voorkomen. De samenwerking tussen
platforms en rechtshandhavingsautoriteiten dient te worden geoptimaliseerd, vooral
om snel en effectief te kunnen optreden bij een rechterlijk bevel tot verwijdering
en om signalen van criminele activiteiten te kunnen delen met rechtshandhavingsautoriteiten.
Deze dienen op hun beurt voldoende te zijn uitgerust om deze signalen vervolgens op
te pakken en waar nodig tot vervolging over te gaan. Daarnaast zou het verwijderen
van illegale content veel sneller en betrouwbaarder kunnen geschieden als online platformen
het opzetten van een geprivilegieerd kanaal ondersteunen voor gecertificeerde instanties
die met gezag de aanwezigheid van illegale content onder de aandacht van platformen
kunnen brengen («trusted flaggers»). Om «oververwijdering» tegen te gaan dienen platforms het verwijderen van content
te motiveren en een bezwaarprocedure in te richten, waarbij wordt opgeroepen deze
onder te brengen bij bijvoorbeeld een geschilbeslechtingscommissie. De Commissie kondigde ten slotte aan tot mei 2018 de toepassing van deze richtsnoeren en
uitgangspunten te monitoren om tot een afweging te komen of aanvullende, mogelijk
wetgevende, maatregelen nodig zijn. Op de conclusies van de Commissie zal ik later
in deze brief ingaan.

Het kabinet staat positief ten aanzien van de mededeling. Bij diverse gelegenheden
hebben de Europese Raad en de JBZ-Raad zich uitgesproken over illegale online content
en de risico’s erkend die voortvloeien uit het toenemende gebruik van social media,
zoals de risico’s van radicalisering via internet, de snelle verspreiding van nepnieuws
en het zich discriminerend uitlaten tegenover migranten. Nederland onderstreept daarbij
het belang van een gezamenlijke Europese aanpak en de belangrijke rol van onderwijs
en het ontwikkelen van kritisch denkvermogen en mediawijsheid.

Aanbeveling effectieve aanpak illegale online content

Op 1 maart 2018 heeft de Europese Commissie een «Aanbeveling voor een effectieve aanpak
van illegale online content» opgesteld. De aanbeveling roept lidstaten en hosting
service providers op effectieve, toepasselijke en proportionele maatregelen te nemen
om illegale online content tegen te gaan, in overeenstemming met het mensenrechtencharter
en wettelijke EU-bepalingen, met name op het gebied van de bescherming van persoonsgegevens,
mededinging en elektronische handel. De aanbeveling bouwt voort op de Gedragscode
voor IT-platformen om illegale content tegen te gaan en op de voortgang die is geboekt
in het kader van het EU Internet Forum.

De aanbeveling roept op tot het inrichten van toegankelijke en gebruikersvriendelijke
elektronische meldingsmechanismen en werkt uit hoe transparantie kan worden geboden
richting gebruikers, melders en content providers over de inhoudelijke beoordeling
van de content. Tegen een besluit tot verwijdering of blokkering van een uiting dient
bezwaar aangetekend te kunnen worden. Dat betekent dat verwijderde of geblokte content
ook weer zichtbaar moet kunnen worden gemaakt. De aanbeveling roept lidstaten op om
in dit kader een systeem van buitengerechtelijke geschillenbeslechting op te zetten.
Waar mogelijk dienen service providers technieken in te zetten om proactief illegale
content te weren.

Lidstaten en hosting service providers worden opgeroepen contactpunten aan te wijzen
en snelle procedures op te zetten voor meldingen van competente autoriteiten. Lidstaten
worden aangemoedigd om de samenwerking tussen hosting service providers en rechtshandhavingsautoriteiten een wettelijke basis te geven. De samenwerking met zogenoemde «trusted flaggers» dient te worden bevorderd, evenals informatie-uitwisseling en het delen van technische
oplossingen tussen hosting service providers. De aanbeveling bevat tenslotte enkele
aandachtspunten ten aanzien van het tegengaan van terroristische content.

Verordening aanpak terroristische content

Naar aanleiding van de monitoring van richtsnoeren en uitgangspunten om illegale online
content te verwijderen, heeft de Commissie aangegeven dat aanvullende wetgeving door
middel van een verordening enkel toegevoegde waarde heeft ten aanzien van terroristische
content online. In september 2018 heeft de Europese Commissie een voorstel gedaan
voor een verordening waarmee binnen de Europese Unie terroristische online content
binnen één uur verwijderd kan worden. De voorgestelde verordening beoogt de oprichting
van een grensoverschrijdend systeem waarmee terroristische uitlatingen zo snel mogelijk
van het internet worden verwijderd. Nederland verwelkomt wetgeving om het verwijderen
van terroristische content te bevorderen. Nederland heeft echter significante zorgen
over de juridische en praktische implicaties van een grensoverschrijdend verwijderingsbevel,
met name ten aanzien van effectieve rechtsmiddelen voor internetbedrijven. Hier heeft
het kabinet tijdens de onderhandelingen veelvuldig aandacht voor gevraagd. Uw Kamer
is hier op gebruikelijke wijze, door middel van het BNC fiche, en tijdens de technische
briefing van 31 oktober jl. over geïnformeerd. Begin december was er reeds voldoende
steun voor een algemene oriëntatie binnen de Europese Raad. Gezien de omstandigheid
dat de verordening onze zorgen met betrekking tot de grensoverschrijdende rechtsmacht
niet voldoende weg kon nemen, heeft Nederland de algemene oriëntatie niet kunnen steunen.

Zelfregulering en onafhankelijke juridische toetsing

Voor het kabinet geldt in eerste instantie het uitgangspunt dat de online community
zichzelf reguleert en controleert. Wat dat betreft beoordeelt het kabinet de systematiek
waarbij sociale-mediabedrijven zelf klachten over ongewenste content toetsen als positief.
Het verwijderen moet echter niet doorslaan naar ongewenste, maar niet strafbare content.
Dan wordt de vrijheid van meningsuiting onnodig ingeperkt. Met de dreiging van boetes
bij het onjuist beoordelen neemt het risico daarop toe. Het kabinet staat huiverig
tegenover het laten toetsen van uitingen door belangenorganisaties of overheidsinstellingen
met een specifiek belang, maar zoekt de balans in een onafhankelijke juridische toetsing.
In Nederland kan naast het direct melden bij een sociale-mediaplatform momenteel ook
melding worden gedaan bij het Meldpunt internetdiscriminatie (MiND), dat is ondergebracht
bij de Stichting NL Confidential. Dit Meldpunt beoordeelt meldingen door het maken
van een inschatting of de gewraakte uiting op het internet als een strafbaar feit
kan worden aangemerkt vanwege strijdigheid met de discriminatie- en aanverwante artikelen
in het Nederlandse wetboek van strafrecht. Wordt strijdigheid geconstateerd, dan volgt
een verzoek tot verwijdering van de uiting. Wordt hieraan geen gehoor gegeven dan
kan binnen de sociale-media-bedrijven worden opgeschaald. Krijgt een melding dan nog
geen opvolging, dan volgt doormelding naar het Openbaar Ministerie.

Ons land kent een fenomeengerichte aanpak van illegale activiteiten die zich (ook)
online kunnen voordoen. Binnen de aanpak van terrorisme, pedopornografie, discriminatie,
illegale wapenhandel, schendingen van het auteursrecht is dan ook veel aandacht voor
de online component. Ook vanuit het beleid rond het aanbod van audiovisuele mediadiensten
en bevorderen van het economische verkeer bestaat aandacht voor de online aspecten.

Ten aanzien van het tegengaan van online kinderporno en online discriminatie («hate
speech») geldt voor het kabinet als uitgangspunt vrijwillige – doch geen vrijblijvende
– samenwerking tussen overheid en IT-platformen. Indien deze samenwerking niet tot
de gewenste resultaten leidt, zal Europese of nationale wetgeving in overweging worden
genomen.

Aanpak online dynamiek extremistische sprekers

In mijn brief van 28 mei (Kamerstuk 29 614, nr. 76) over de Integrale aanpak van extremistische sprekers, ben ik ingegaan op de relevante
uitingsmisdrijven en mijn beeld bij de online dynamiek aangaande extremistische uitingen.
In de bijlage bij deze brief ga ik uitgebreid in op de belangrijkste strafbepalingen
inzake groepsbelediging (artikel 137c Sr), aanzetten tot haat, discriminatie of geweld
(artikel 137d Sr), opruiing (artikelen 131 en 132 Sr), eenvoudige belediging (artikel
266 Sr) en bedreiging (artikel 285 Sr). Ook hierbij geldt wat offline illegaal is,
is dat ook online. Verder noem ik de maatregelen gericht op het verwijderen van extremistische
uitingen en de inzet in de komende jaren op een integrale multidisciplinaire aanpak
van extremistische en terroristisch gebruik van digitale media.

Herbezinning

De Europese ontwikkelingen ten aanzien van de aanpak van illegale online content nopen
tot een herbezinning op de aanpak van illegale content online, waaronder de aanpak
van online hate speech. Zoals eerder met uw Kamer gecommuniceerd in de voortgangsbrief
over het Nationaal Actieprogramma Discriminatie (Kamerstuk 30 950, nr. 156), is in de Rijksbegroting vanaf 2020 geen budget meer gereserveerd voor een zelfstandig
meldpunt internetdiscriminatie. Bij de herbezinning zal naast samenloop met andere
vormen van illegale online content ook worden gekeken naar een rechtsbasis voor verwijderverzoeken,
buitengerechtelijke geschillenbeslechting, privacyaspecten en rapportageverplichtingen.

Het laten voldoen van de huidige meldpunten aan de eisen van de Commissie zal een
forse investering vragen. Tegelijkertijd moeten de werkwijze en afdoening van verwijderverzoeken
worden gestroomlijnd en geüniformeerd. Daarom zal het kabinet zich richten op bundeling
van de bestaande expertise in één organisatie, die dan ook kan worden ingericht conform
de eisen vanuit Europa. Een dergelijke beweging ligt het meest voor de hand en past
ook in de ambitie die is uitgesproken ten aanzien van de bestuurlijksrechtelijke aanpak
binnen de hernieuwde aanpak van kinderporno waarover ik uw Kamer heb geïnformeerd
in mijn brief van 13 december jl.2

Bij een dergelijke organisatie kan ook een functie worden ondergebracht waarbij content
wordt beoordeeld op onrechtmatigheid voor een individuele burger, bijvoorbeeld omdat
deze geen toestemming (meer) geeft voor het online gebruik en verspreiding van beeldmateriaal
waarmee deze persoon in verband kan worden gebracht. Daarmee kan de huidige vereiste
civiele procedure worden aangevuld met een simpele administratieve kortgedingprocedure,
waarbij ervan uit wordt gegaan dat er geen toestemming is gegeven om de getoonde beelden
online toegankelijk te maken, tenzij degene die de beelden heeft geplaatst een bezwaarprocedure
start en het tegendeel aantoont.

Om het bovenstaande te toetsen op haalbaarheid laat het kabinet op dit moment onderzoeken
of het takenpakket bij de rechtbank of bij een reeds bestaande toezichthouder kan
worden ondergebracht en welke kosten hiermee gemoeid zouden zijn. Deze studie zal
naar verwachting in het voorjaar van 2019 worden afgerond. Met een voorziening als
hier beoogd, zou ook uitvoering worden gegeven aan de motie Van Nispen,3 waarin de regering wordt verzocht een voorstel uit te werken voor een snelle, laagdrempelige
procedure die slachtoffers niet met hoge kosten confronteert, met als doel privacy-schendingen
snel te beëindigen en slachtoffers beter te ondersteunen, voor zover het om privacy-schendend
materiaal op internet gaat. Over de civielrechtelijke aanpak van onrechtmatige online
content wordt uw Kamer begin 2019 nader geïnformeerd.

De Minister van Justitie en Veiligheid,
F.B.J. Grapperhaus