Brief regering : Rapport ‘Schimmige scheidslijnen’

Nr. 771 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 2 december 2025

Hierbij bied ik uw Kamer het onderzoek «Schimmige scheidslijnen: Juridische, ethische,
en praktische uitdagingen bij het detecteren en modereren van terroristische, extremistische
en impliciet extremistische content, met respect voor de vrijheid van meningsuiting»
aan. Dit onderzoek is op verzoek van de Nationaal Coördinator Terrorismebestrijding
en Veiligheid (NCTV) uitgevoerd door het International Centre for Counter-Terrorism
(ICCT), in opdracht van het Wetenschappelijk Onderzoek- en Datacentrum (WODC). Het
onderzoek richt zich op de vraag of het haalbaar is een duidingskader voor terroristische,
extremistische en in het bijzonder borderline content te ontwikkelen, zonder dat dat ten koste gaat van de vrijheid van meningsuiting.1 Hoewel borderline content geen strikt terroristisch karakter heeft en niet per definitie
tot geweld hoeft te leiden, kan zij wel de veiligheid van burgers en instituties ondermijnen.
Dit kan bijvoorbeeld doordat dergelijke uitingen aanzetten tot haat of opruiing, of
doordat extremistisch gedachtengoed erdoor wordt genormaliseerd. Dit soort type content
vind ik zeer zorgelijk, in het bijzonder vanwege de impact die het kan hebben op jongeren.

Bevindingen en aanbevelingen

Het onderzoek concludeert dat de ontwikkeling van een universeel, betrouwbaar duidingskader
voor de detectie van terroristische, illegale en borderline content niet haalbaar
is gezien de huidige juridische, technische en ethische omstandigheden. Volgens de
onderzoekers zijn er verschillende fundamentele uitdagingen bij het ontwikkelen van
een duidingskader voor borderline content. Zo is er geen eenduidige definitie van
«extremistische content» en maken extremistische actoren gebruik van steeds veranderende
uitdrukkingsvormen en tactieken. Het gebrek aan definities, een grote afhankelijkheid
van persoonlijke interpretatie, en vooroordelen van menselijke moderatoren kunnen
bovendien leiden tot onjuiste classificatie van content. Indien er op basis van die
interpretatie moderatiebeslissingen volgen die de content beperken of verwijderen,
vindt een mogelijke inperking van de vrijheid van meningsuiting plaats.

De onderzoekers constateren dat er wel handelingsperspectieven zijn en doen achttien
aanbevelingen. Deze zijn gericht aan online platformen, beleidsmakers en coördinerende
overheidsactoren, zoals de NCTV en Autoriteit online Terroristisch en Kinderpornografisch
Materiaal (ATKM).2 Een groot aantal van de aanbevelingen is gericht aan online platformen. Deze aanbevelingen
staan in het teken van het doorvoeren van verbeteringen van het detectie- en moderatiebeleid.
Het gaat onder andere om het ontwikkelen van duidelijkere definities en referentiekaders
voor typen van schadelijke content en het gebruik maken van hybride AI-menselijke
moderatiemodellen.

Beleidsmakers wordt aanbevolen om een «multistakeholdergroep» op te richten bestaande
uit onder andere deskundigen, gebruikersgroepen en platforms om onder andere te reflecteren
op de indicatoren van terroristische en borderline content en hierover publiekelijk
te rapporteren. Daarnaast wordt onder meer aanbevolen om het publieke debat te bevorderen
over welke schadelijke content als rechtvaardig of als niet-rechtvaardig kan worden
gezien en over de autonomie die online platformen mogen hebben bij de moderatie van
online content.3 Ook wordt beleidsmakers aanbevolen de digitale weerbaarheid van gebruikers te vergroten
door middel van ondersteuning van preventieprogramma’s op onder andere scholen en
jongerenorganisaties.

De coördinerende overheidsactoren, zoals de NCTV en de ATKM, wordt onder andere aanbevolen
om transparante samenwerking met de online platformen te zoeken en met hen een open
discussie te voeren over de gebruikte indicatoren voor het duiden van online content.
Ook wordt aanbevolen om een lijst met veelgebruikte uitdrukkingen, specifiek taalgebruik
en codetaal – die kenmerkend zijn voor extremistische groepen die online content in
Nederland plaatsen – met online platforms te delen. Verder adviseren de onderzoekers
om in dialoog met andere Europese lidstaten en de Europese Commissie in te zetten
op verdere versterking van Europese regelgevingskaders en in samenwerking met de sector
een sector-brede gedragscode te ontwikkelen.

Beleidsreactie

Ik onderschrijf de uitdagingen die de onderzoekers noemen bij het ontwikkelen van
een duidingskader. De conclusie, dat de ontwikkeling van een universeel en betrouwbaar
duidingskader voor borderline content op dit moment niet haalbaar is, onderken ik.

Dialoog met platformen

Voor het optreden tegen content die zeer onwenselijk is, maar net niet de lat van
strafbaarheid haalt, is de overheid grotendeels afhankelijk van de internetsector.
Deze sector is in eerste instantie aan zet om te zorgen dat hun gebruikers online
veilig zijn. Ik zal het rapport en de daarin gedane aanbevelingen gericht aan deze
online platformen daarom actief betrekken in mijn structurele dialoog met de platformen.
In deze dialoog zal ik aandacht vragen voor de wijze waarop de aanbevelingen opgevolgd
moeten worden. Door de platformen in de dialoog aan te spreken op hun verantwoordelijkheden,
zet ik me blijvend in voor het stimuleren van de verantwoordelijkheid van de platformen
om een veiligere online omgeving te creëren en te onderhouden. Ik onderschrijf hierbij
ook het belang van voldoende menselijke contentmoderatie, waarvan de noodzaak door
de onderzoekers in het rapport wordt benadrukt. Daarnaast werk ik aan effectieve interventiemogelijkheden
die online radicalisering tegen kunnen gaan, en zoek ik nadrukkelijk de samenwerking
met de sector op. Een concreet voorbeeld is de pilot met de ReDirect-methode met Meta,
waarbij gebruikers die online zoeken naar terroristische of extremistische content
met een informatieveld worden doorgeleid naar online hulp.

De aanbeveling om een «multistakeholdergroep» op te richten, heb ik gedeeld met betrokken
partijen, zoals de ATKM en de internetsector. Hierbij ligt de focus vooral op het
inzichtelijk maken van zowel de (on)mogelijkheden als de potentiële bijdrage van een
dergelijke groep. Over de ontwikkelingen hieromtrent zal ik uw Kamer in de volgende
voortgangsbrief over de Versterkte Aanpak Online in het voorjaar van 2026 informeren.

Internationale samenwerking en gedragscode

De onderzoekers pleiten voor Europese samenwerking en het ontwikkelen van een gedragscode
met de sector. Ik erken dat internationale samenwerking een belangrijk instrument
is in het tegengaan van online extremisme en terrorisme. In dit licht neemt Nederland
een actieve rol binnen de Europese Unie en zal op korte termijn, samen met gelijkgezinde
lidstaten, de Europese Commissie oproepen om onder meer samen met online platforms
een vrijwillige gedragscode op te stellen om hen beter in staat te stellen om verspreiding
van illegale content tegen te gaan.

Een belangrijk aanvullend EU-instrument is het EU Internet Forum (EUIF), waar lidstaten,
EU-instellingen en online platformen samenwerken om terroristische en onwenselijke
online content (bijvoorbeeld borderline content) te bestrijden. Het EUIF heeft onder
andere een handboek borderline content ontwikkeld, waarin definities, casestudies
en concrete voorbeelden worden beschreven die online platformen en contentmoderatoren
helpen contentmoderatie aan te scherpen. Het EUIF is ook het forum waar Nederland
in samenspraak met gelijkgezinde landen de platformen wijst op hun eigen verantwoordelijkheid
ten aanzien van deze problematiek en waar draagvlak wordt gecreëerd voor aanvullende
maatregelen. Onder andere hier zal ik dan ook de aanbevelingen onder de aandacht brengen
en mij inspannen voor verdere versterking van Europese regelgevingskaders.

In dit licht ga ik kijken naar de wenselijkheid en haalbaarheid van een zorgplicht
voor online platformen in Europees verband. Over de ontwikkelingen hieromtrent zal
ik uw Kamer in de volgende voortgangsbrief over de Versterkte Aanpak Online in het
voorjaar van 2026 informeren.

Contentmoderatie

Ik deel de constatering van de onderzoekers dat de normalisering van extremistisch
gedachtegoed via impliciet taalgebruik en memes op online platformen zorgelijk en
onwenselijk is. Ik acht het van groot belang dat contentmoderatie op peil blijft om
deze tendens tegen te gaan en dat daar waar mogelijk bruikbare handvatten zijn om
terroristische, illegale en borderline content te detecteren en te kwalificeren. Daarom
bekijk ik, conform de motie van het lid Michon-Derkzen (VVD), de mogelijkheden om
te komen tot een werkbare definitie van extremistische content.4 Dit kan online platformen ondersteunen bij het detecteren en identificeren van online
content dat zorgelijk en onwenselijk is.

Een dergelijke definitie kan bijdragen aan een meer gedeeld beeld van dit type content
en de risico’s daarvan. Passend bij de strekking van de motie en in lijn met de oproep
in een aantal van de aanbevelingen om te komen tot een meer gezamenlijke inzet, kan
de sector betrokken worden bij de uitwerking hiervan, met name waar het gaat om een
toets in hoeverre zo’n definitie ook daadwerkelijk werkbaar en toepasbaar is. Ook
de samenwerking met de ATKM wordt opgezocht. Bij haar detectie- en beoordelingswerkzaamheden
komt de ATKM ook materiaal tegen dat niet als terroristisch kan worden beoordeeld,
maar wel als zorgelijk en onwenselijk kan worden gezien. De ervaring hiermee kan tevens
input vormen om tot een definitie van extremistische content te kunnen komen. Vanzelfsprekend
zal ik uw Kamer in het voorjaar van 2026 informeren over de voortgang middels de voortgangsbrief
Versterkte Aanpak Online.

Preventieprogramma’s en bevorderen publiek debat

Wat betreft de aanbevelingen inzake het versterken van preventieprogramma’s en digitale
weerbaarheid kan ik uw Kamer melden dat reeds meerdere geëvalueerde lesprogramma’s
beschikbaar zijn, die breder kunnen worden ingezet om de online weerbaarheid en mediawijsheid
van met name jongeren te vergroten. Hierover heb ik u nader geïnformeerd in de recente
Kamerbrieven die ingaan op de Versterkte Aanpak Online.5 De aanbeveling om het publieke debat te stimuleren over welke vormen van schadelijke
content als rechtvaardig of niet-rechtvaardig kunnen worden beschouwd, heb ik gedeeld
met de Minister van Binnenlandse Zaken en Koninkrijksrelaties, die zorg zal dragen
voor de verdere opvolging. Zo vindt in 2026, in het kader van digitale burgerschapsvorming,
een landelijk gesprek over online discriminatie en haatspraak plaats. Het doel is
door middel van interactie tussen burgers bewustwording te creëren over onwenselijke
online content (bijvoorbeeld borderline content) en samen tot normering te komen.
Daarbij wordt ook gevraagd naar de rollen die men ziet voor de overheid, sociale mediaplatformen
en Nederlandse burgers zelf in het veiliger maken van de digitale publieke ruimte.

Tot slot

Terroristische en extremistische groeperingen misbruiken online platforms om propaganda
te verspreiden, activiteiten te coördineren en tot geweld aan te zetten. Het kabinet
zal zich onverminderd blijven inzetten om online extremisme en terrorisme aan te pakken.
Naast de aanpak van terroristische content en illegale content moet er oog zijn voor
borderline content, omdat deze content kan bijdragen aan het online radicaliseringsproces
en aan de normalisering van extremistisch gedachtegoed. Het bewaken van fundamentele
rechten, zoals de vrijheid van meningsuiting blijft hierbij van groot belang, maar
het vraagt om een zorgvuldige balans met maatregelen die online radicalisering tegengaan
en de veiligheid bevorderen. Nog dit jaar zal ik in de voortgangsbrief Versterkte
Aanpak Online extremisme en terrorisme nader ingaan op de ontwikkelingen in de aanpak.

De Minister van Justitie en Veiligheid, F. van Oosten