Brief regering : Voortgangsbrief Versterkte Aanpak Online inzake extremistische en terroristische content

Nr. 751
BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 mei 2025

De online wereld is een vast onderdeel van ons leven en biedt ongekende mogelijkheden
voor communicatie, innovatie en het verkrijgen van informatie. Tegelijkertijd kent
deze digitale ruimte ook een schaduwzijde. Extremistische en terroristische groeperingen
misbruiken online platformen om propaganda te verspreiden en in stand te houden, nieuwe
leden te rekruteren en zelfs aanslagen voor te bereiden. Bovendien vindt het overgrote
deel van radicalisering momenteel online plaats.1 Daarbij ziet de Algemene Inlichtingen- en Veiligheidsdienst (AIVD) dat minderjarigen
tussen de twaalf en zeventien jaar steeds vaker een terroristische dreiging vormen
vanwege hun jihadistische of rechts-terroristische gedachtegoed.2 Dit beeld wordt bevestigd door recente aanhoudingen, waarbij ook minderjarigen betrokken
waren.3 Het voorgaande onderstreept de noodzaak om voortdurend alert te blijven op de schaduwkanten
van de online leefwereld. Het is essentieel om passende maatregelen te nemen om onze
samenleving, zowel online als offline, weerbaar te maken tegen radicalisering en terrorisme
– in het bijzonder waar het jongeren betreft.4

Het kabinet blijft zich inzetten om online extremisme en terrorisme aan te pakken.
In de contourenbrief Versterkte Aanpak Online (december 2023)5 en de Kamerbrief Nadere Uitwerking Versterkte Aanpak Online (december 2024)6 heeft het kabinet uw Kamer een overzicht gegeven van de reeds genomen en geplande
maatregelen. In deze brief ga ik, mede namens de Staatssecretaris Participatie en
Integratie, onder andere in op de dialoog met de internetsector, stand van zaken omtrent
een pilot met de ReDirect-methode, nieuwe trainingen die zijn ontwikkeld, de lokale
aanpak, digitale weerbaarheid, verschillende EU-initiatieven op contentmoderatie en
het Project Online Content Moderatie (PrOCoM). Daarnaast besteed ik in deze brief
in het bijzonder aandacht aan het voorkomen van online radicalisering van jongeren.
Tot slot zal ik in deze brief ingaan op verschillende moties van en toezeggingen aan
uw Kamer.

Sociale mediaplatformen

Een belangrijk onderdeel van de aanpak gericht op de preventie en bestrijding van
online extremisme en terrorisme is een structurele nationale dialoog met de internetsector.
Inmiddels hebben binnen deze dialoog zeventien gesprekken plaatsgevonden met verschillende
typen online platformen, variërend van grote sociale mediaplatformen tot gaming- (gerelateerde)
platformen. Op deze manier treed ik in contact met platformen die door het merendeel
van de Nederlanders worden gebruikt, met name door jongeren. Tijdens de gesprekken
zijn nadrukkelijk mijn zorgen geuit over risico’s voor jongeren en over platform-specifieke
ontwerp- en beleidskeuzes, waaronder het afschalen van menselijke contentmoderatie
ten gunste van geautomatiseerde contentmoderatie. Daarbij is telkens de eigen verantwoordelijkheid
van online platformen op deze punten benadrukt. Daarnaast hebben operationele partners,
waaronder de politie, in deze gesprekken aangegeven welke specifieke dreigingen zij
op platformen zien binnen de Nederlandse context. Op dit punt zijn er aanvullende
afspraken gemaakt, zoals het verbeteren van de medewerking aan opsporingsverzoeken.
Dit stelt operationele partners in staat om onderzoeksgegevens effectiever met online
platformen uit te wisselen. Ten slotte is het eerste gesprek met X (voorheen Twitter)
noemenswaardig, waar de eerder benoemde zorgen nadrukkelijk onder de aandacht zijn
gebracht. Daarbij is X expliciet aangesproken op het gebrek aan contentmoderatoren
met kennis van de Nederlandse taal. Dit is van belang om de juiste beoordeling van
content in de Nederlandse taal en cultuur mogelijk te maken. De verwachting is uitgesproken
dat X het aantal Nederlandse contentmoderatoren op peil brengt. Ik volg het komende
transparantieverslag in het kader van de digitaledienstenverordening om te zien of
dit het geval is. Ondertussen verricht de Staatssecretaris van Binnenlandse Zaken
en Koninkrijkrelaties (BZK) een onderzoek naar de beste contentmoderatiepraktijken
op zeer grote online platformen, inclusief X. De resultaten van dit onderzoek zullen
na de zomer worden gedeeld met de Tweede Kamer en de Europese Commissie.

Tijdens één van de gesprekken is met een groot gamingplatform afgesproken om samen
de mogelijkheden van een pilot op het gebied van een verbeterd veiligheidsdesign te
verkennen. Het doel van deze pilot is het platform te ondersteunen bij het aanpakken
van online gedrag van gebruikers dat mogelijk duidt op een neiging naar gewelddadig
extremisme, onder andere door een betere koppeling met hulpverlening te realiseren.Voor
het einde van het jaar zal ik uw Kamer hierover verder informeren. Verder zal het
Wetenschappelijk Onderzoek- en Datacentrum (WODC) binnenkort van start gaan met een
onderzoek naar de werking van online rekrutering voor terroristische en extremistische
doeleinden op gaming- (gerelateerde) platformen. Dit onderzoek richt zich mede op
de kwetsbaarheid van jongeren die actief zijn op deze platformen. Ik acht het van
groot belang om specifiek aandacht te geven aan online gaming, aangezien er nog veel
vragen zijn over de manieren waarop extremistische groeperingen jongeren via deze
platformen benaderen. Hiermee geef ik opvolging aan één van de aanbevelingen uit het
WODC-rapport «Radicale reclame op sociale media. Een onderzoek naar online rekrutering», waarin wordt geadviseerd om specifiek de rol van gaming- (gerelateerde) platformen
te onderzoeken.7 Ten slotte is dit jaar een WODC-onderzoek gestart naar de haalbaarheid van een duidingskader
voor extremistische content, inclusief borderline content en extremistische memes.

ReDirect-methode

Een belangrijk onderdeel van de dialoog met de internetsector is het verkennen van
mogelijkheden om in samenwerking met online platformen concrete instrumenten te ontwikkelen
die bijdragen aan het tegengaan van online radicalisering. Deze gesprekken hebben
ertoe geleid dat binnenkort kan worden gestart met een pilot met de ReDirect-methode.
Mensen die online zoeken naar extremistische of terroristische content worden geconfronteerd
met een informatieveld om hen door te geleiden naar online hulp. De pilot wordt in
samenwerking met Meta binnen Nederland gelanceerd op de online platformen Facebook,
Instagram en Threads. Gebruikers zullen worden doorgeleid naar een landingspagina
van het Landelijk Steunpunt Extremisme (LSE), waarbij ook de mogelijkheid bestaat
om gebruik te maken van de, in opdracht van de NCTV, ontwikkelde online chatfunctie.8 Binnen deze chatfunctie kunnen jongeren anoniem en laagdrempelig chatten met experts
op het gebied van radicalisering en extremisme. Indien nodig wordt vroegtijdig hulp
geboden, zoals persoonlijke begeleiding of familieondersteuning via het LSE. Met het
implementeren van een pilot met de ReDirect-methode geef ik gevolg aan de motie Kuik
(CDA)9 en de toezegging aan het lid Boswijk (CDA).10 Ik zet erop in om met meerdere online platformen samen te werken zodat we dergelijke
interventies breder implementeren en de mogelijkheden om vroegtijdig te interveniëren
versterken. Hiervoor zal ik dan ook aandacht blijven vragen in de dialoog met de internetsector.

Lokale aanpak

De lokale aanpak vormt een essentieel onderdeel van de kabinetsinzet tegen radicalisering,
extremisme en terrorisme, waarbij altijd sprake is van maatwerk. Met name waar het
jongeren betreft is dergelijk maatwerk vereist – een noodzaak die ook door de AIVD
in haar recente publicatie wordt onderstreept.11 Hieronder ga ik in op enkele aspecten van de online inzet binnen de lokale aanpak,
met een bijzondere focus op jongeren. Hierin is op zowel nationaal als lokaal niveau
een grote rol weggelegd voor preventie, bijvoorbeeld door het bevorderen van digitale
weerbaarheid van jongeren, ouders en lokale professionals zoals jeugdwerkers en leerkrachten.
Middels deze initiatieven wordt invulling gegeven aan de motie van het lid Ceder (CU)
en het lid Six Dijkstra (NSC), waarin de regering wordt verzocht in overleg met de
NCTV te komen met een plan van aanpak digitale weerbaarheid ter voorkoming van radicalisering
door sociale media.12

Gemeenten voeren de regie over de lokale aanpak en zijn verantwoordelijk voor de ontwikkeling
en uitvoering ervan, in samenwerking met relevante partners. Met name gemeenten hebben
aangegeven behoefte te hebben aan een duidelijker handelingsperspectief voor optreden
in het online domein. Daarbij gaat het bijvoorbeeld om verduidelijking van beschikbare
bevoegdheden omtrent signalen over online radicalisering. Daarom werk ik op dit moment
aan een aanvulling op de recent vernieuwde Handreiking voor de Lokale Aanpak van radicalisering,
extremisme en terrorisme.13 Deze aanvulling richt zich op de mogelijkheden voor gemeenten om te handelen binnen
het online domein in het kader van extremisme en terrorisme. In hoofdlijnen wordt
ingegaan op basiskennis over de online dimensie van radicalisering, extremisme en
terrorisme, en bevoegdheden van gemeenten. Ten slotte komen ook mogelijke interventies
aan bod die betrekking hebben op het online domein binnen de lokale aanpak, bijvoorbeeld
ten aanzien van het bevorderen van digitale weerbaarheid.

Online radicalisering kan snel gaan en relatief onopgemerkt plaatsvinden. Daarom is
het van belang dat lokale professionals – en de samenleving in het algemeen – over
de juiste kennis en handvatten beschikken om signalen vroegtijdig te herkennen zodat
hierop effectief kan worden gehandeld. Hierover ben ik in gesprek met de Vereniging
van Nederlandse Gemeenten (VNG). Daarnaast zal het Rijksopleidingsinstituut tegen
Radicalisering (ROR) een workshop «online radicalisering» aanbieden voor lokale professionals.
In deze workshop wordt onder andere ingegaan op wat online radicalisering inhoudt,
welke processen hierbij een rol spelen en wat het handelingsperspectief voor professionals
is.

Ook op Europees niveau is er aandacht voor het lokale domein, waarbij wordt ingezet
op het versterken van kennis en handelingsperspectieven met betrekking tot (het herkennen
van) online radicalisering. In samenwerking met Frankrijk en de Europese Commissie
leidt Nederland dit jaar een serie werkgroepen binnen de EU Knowledge Hub on Prevention of Radicalisation. In deze werkgroepen komen professionals uit de praktijk samen om lokale ervaringen
op Europees niveau uit te wisselen, met als doel het ontwikkelen van praktische handvatten.
Inhoudelijk richten deze werkgroepen zich volledig op online radicalisering onder
jongeren. Het doel is om op EU-niveau concrete en toepasbare handvatten te ontwikkelen,
met bijzondere aandacht voor de ondersteuning van professionals op lokaal niveau.
In juni 2025 vindt in Nederland één van de drie werkgroepen plaats.

Het versterken van digitale weerbaarheid is een belangrijke pijler binnen de preventieve
aanpak van online radicalisering, waarbij passende en effectieve interventies op lokaal
niveau van groot belang zijn. Op dit gebied werk ik intensief samen met het Ministerie
van Sociale Zaken en Werkgelegenheid (SZW), waaronder bij het toekennen van de Versterkingsgelden.
Vanuit de Versterkingsgelden worden diverse interventies ondersteund die bijdragen
aan het versterken van de digitale weerbaarheid van jongeren. Zo werken gemeenten
onder andere aan het vergroten van mediawijsheid. In deze lessen krijgen jongeren
inzicht in hun eigen socialmediagebruik en leren ze de onderliggende mechanismen te
herkennen die zorgwekkende online content effectief en aantrekkelijk maken. Daarnaast
organiseren gemeenten online activiteiten waardoor jongerenwerkers in contact komen
met jongeren die anders niet bereikt zouden worden. Door in te zetten op het leggen
van contact kan eenzaamheid worden bestreden en voorkomen worden dat jongeren in een
sociaal isolement raken, wat kan bijdragen aan vatbaarheid voor radicalisering.

Het versterken van digitale weerbaarheid is tevens een belangrijk onderdeel van de
Actieagenda Integratie en Open en Vrije Samenleving. Het Ministerie van Sociale Zaken
en Werkgelegenheid (SZW) richt zich in deze agenda op het vergroten van bewustwording,
het bieden van kennis en handelingsperspectief en het stimuleren van effectieve interventies
op het gebied van digitale weerbaarheid. De agenda omvat tevens het (laten) uitvoeren
van onderzoek en het faciliteren wetenschappelijk onderbouwde interventies en programma’s
ter versterking van weerbaarheid en het tegengaan van extremisme. Hierbij is specifiek
aandacht voor het versterken van de samenwerking tussen het sociale en het veiligheidsdomein.

Ten slotte werkt het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK)
aan een publiekscampagne die zich primair richt op ouders en opvoeders, met als doel
hen beter te informeren over kinderrechten in de digitale wereld. Door ouders handelingsperspectief
te bieden en hen bewust te maken van de risico’s en rechten online, worden zij beter
toegerust om hun kinderen te begeleiden in het maken van veilige en bewuste keuzes.
Daarmee draagt de campagne bij aan het versterken van de digitale weerbaarheid van
kinderen en sluit deze aan bij de bredere inzet op het voorkomen van online radicalisering.
Daarnaast werkt BZK aan een strategie voor kinderrechten online, waarin de koers voor
de komende jaren wordt uiteengezet op het gebied van kinderrechten online en waarbij
bestaande initiatieven van maatschappelijke partners worden benut.

EU-initiatieven op contentmoderatie

Conform de motie van het lid Michon-Derkzen14 en mijn toezegging de Kamer te informeren over contentmoderatie15 zal ik hieronder de EU-initiatieven ten aanzien van contentmoderatie nader toelichten.
Daarnaast verstuur ik in gezamenlijkheid met deze Kamerbrief de uitkomsten van het
Project Online Content Moderatie (PrOCoM), conform dezelfde motie van het lid Michon-Derkzen.

In de eerste plaats is de digitaledienstenverordening (Digital Services Act, of DSA)
van belang. Deze is sinds 17 februari 2024 van toepassing op tussenhandeldiensten,
waaronder hostingbedrijven en online platformen. De DSA bevat verschillende bepalingen
over contentmoderatie. Zo moeten alle aanbieders van tussenhandeldiensten in hun algemene
voorwaarden beleid voor contentmoderatie opnemen en dat beleid ook zorgvuldig toepassen.
Aanbieders van hostingdiensten, waaronder online platformen, zijn verplicht een toegankelijk
en gebruiksvriendelijk meldsysteem beschikbaar te stellen waarmee melding kan worden
gemaakt van illegale online inhoud, zoals terroristisch materiaal. Dit systeem moet
bijdragen aan tijdige en zorgvuldige besluitvorming over de ingediende meldingen.
Zeer ernstige strafbare feiten moeten proactief worden gemeld bij de bevoegde autoriteiten.
Daarnaast verplicht de DSA online platformen om beleid te voeren ten aanzien van gebruikers
die herhaaldelijk illegale inhoud verspreiden.

De DSA verplicht online platformen verder tot het nemen van maatregelen om minderjarigen
te beschermen. Voor de zomer van 2025 zal de Europese Commissie richtsnoeren publiceren
over de bescherming van minderjarigen online, waarin wordt geadviseerd hoe online
platformen een hoog niveau van privacy, veiligheid en beveiliging voor minderjarigen
kunnen waarborgen. De bescherming van minderjarigen is ook onderdeel van de toezichtprocedure
die de Europese Commissie heeft ingesteld tegen het bedrijf Meta.16 Voor zogenoemde zeer grote online platformen geldt bovendien dat zij de systeemrisico’s
die voortvloeien uit het ontwerp of de werking van hun dienst moeten onderzoeken en
beperken. Deze systeemrisico’s omvatten onder meer de verspreiding van illegale inhoud
en de werkelijke of verwachte negatieve effecten ten aanzien van de bescherming van
minderjarigen. Sinds februari van dit jaar geldt de Uitvoeringswet digitaledienstenverordening,
en zijn de Autoriteit Consument & Markt (ACM) en de Autoriteit Persoonsgegevens (AP)
officieel bevoegd om toe te zien op de naleving van de DSA door tussenhandeldiensten
die in Nederland zijn gevestigd. Eén van de focusgebieden van de toezichthouders voor
het komende jaar zal de bescherming van minderjarigen zijn.

Ten tweede is in het kader van contentmoderatie de Verordening Terroristische Online-Inhoud
(hierna: TOI-Verordening) van belang. Als toezichthouder detecteert en beoordeelt
de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) op grond
van deze wetgeving online terroristisch materiaal. De aanbieder van hostingdiensten
waarbij online terroristisch materiaal wordt gevonden moet dit materiaal binnen een
uur verwijderen of ontoegankelijk maken zodra zij van de ATKM een verwijderingsbevel
ontvangt. Aanvullend moeten online platformen transparantieverslagen publiceren waarin
wordt aangegeven hoeveel verwijderbevelen zijn ontvangen en hoe hier opvolging aan
is gegeven. Wanneer een toezichthouder herhaaldelijk verwijderbevelen stuurt naar
een specifiek online platform, kan de toezichthouder dit betreffende platform een
zogenoemd «blootstellingsbesluit» opleggen. In dat geval is het platform verplicht
om proactieve maatregelen te nemen om te voorkomen dat het in de toekomst opnieuw
terroristische content beschikbaar stelt.

De ATKM heeft conform de toezegging aan het lid Michon-Derkzen beleidsaanbevelingen
met betrekking tot online terrorisme gedeeld, waarmee ik de toezegging als afgedaan
beschouw.17 Zoals de ATKM heeft beschreven in haar jaarverslag, heeft zij zich in de eerste fase
van haar operationalisering gericht op de beoordeling van online terroristisch materiaal
met een jihadistisch en rechts extremistisch karakter. Zij treft bij de detectie en
beoordeling hiervan ook veelvuldig materiaal aan dat op grond van de TOI-Verordening
niet als terroristisch kan worden beoordeeld, maar wel problematisch is in relatie
tot de bredere problematiek van online radicalisering en extremisme van met name jongeren.
De ATKM kan zich in dit licht een meer integrale aanpak van deze online problematiek
voorstellen, waarbij haar werkzaamheden, met in achtneming van haar onafhankelijke
rol, aansluiten op de bredere inzet van de NCTV ten aanzien van online radicalisering,
extremisme en terrorisme.

Als relatief jonge toezichthouder moet de ATKM de tijd en ruimte krijgen om uit te
groeien tot gezaghebbende autoriteit in de bestuursrechtelijke aanpak van de online
illegale inhoud waarvoor zij verantwoordelijk is. Tegelijkertijd waardeer ik het dat
we op grond van eerdergenoemde constateringen door de ATKM ons beleid ten aanzien
van online terrorisme verder kunnen vormgeven. We staan in contact met de ATKM over
de wijze waarop deze organisatie gezien haar toezichthoudende rol hieraan binnen de
wettelijke kaders concreet kan bijdragen. In gesprekken met de ATKM heb ik daarnaast
mijn groeiende zorg over de snelle online radicalisering van jongeren benadrukt. Ook
het gebruik van rechts-extremistische en jihadistische memes en emoji’s is onder de
aandacht gebracht van de ATKM.18Ik spreek mijn waardering uit voor het waardevolle werk dat de ATKM tot nu toe heeft
verricht en zie uit naar hun verdere inzet om in samenwerking met mijn ministerie
online terrorisme versterkt aan te pakken.

Een aanvullend beleidsmatig instrument op EU-niveau betreft het EU Internet Forum,
een samenwerkingsverband waar EU-lidstaten, EU-instellingen en online platformen samenkomen
om illegale en onwenselijke (bijvoorbeeld borderline) online content tegen te gaan. Hierin kunnen best practices en nieuwe inzichten ten
aanzien van contentmoderatie worden uitgewisseld. Daarnaast zijn twee gedragscodes
relevant: de Gedragscode tegen illegale haatzaaiende uitlatingen op het internet en de Gedragscode betreffende desinformatie. In de genoemde Gedragscode tegen illegale haatzaaiende uitlatingen op het internet is vastgelegd dat sociale mediaplatformen meldingen van haatzaaiende uitlatingen
binnen 24 uur moeten behandelen en verwijderen. In de Gedragscode betreffende desinformatie verbinden de ondertekenende online platformen zich aan extra toezeggingen om de verspreiding
van desinformatie terug te dringen, en scherpen zij bestaande afspraken aan. De naleving
van deze toezeggingen door ondertekenende online platformen zal vanaf 1 juli 2025
jaarlijks onderworpen worden aan een onafhankelijke audit in het kader van de DSA.
Naast deze EU-initiatieven op het gebied van contentmoderatie verdient tot slot ook
het CounteR-project binnen EU Horizon 2020 aandacht. Dit project ontwikkelt geavanceerde
software die radicaliserende online content vroegtijdig detecteert en verwijdert,
met waarborgen voor privacy en gegevensbescherming.

Mogelijke knelpunten in relevante wetgeving zal ik nader onderzoeken door de evaluatieprocessen
van de Europese Commissie nauwgezet te volgen en daar zo nodig actief aan bij te dragen.
Zo wordt binnenkort de TOI-Verordening geëvalueerd. In dat kader zal ik het WODC de
opdracht geven om eventuele verbeterpunten en lacunes in de wetgeving expliciet in
kaart te brengen. Ten slotte zal de Minister van Economische Zaken de evaluatie van
de DSA door de Europese Commissie in 2027 nauwgezet volgen.

Project Online Content Moderatie (PrOCoM)

Met betrekking tot de aanpak van illegale content in de volle breedte, is het noemen
van het Project Online Content Moderatie (PrOCoM) van belang. Dit project heeft een
publiek-private samenwerking tot stand gebracht waar onderwerpen kunnen worden besproken
met betrekking tot content die strafbaar of evident onrechtmatig is, dan wel anderszins
ongewenste elementen bevat.19 Daarnaast is het handelingsperspectief van slachtoffers van online grensoverschrijdend
gedrag uitgebreid met de mogelijkheid om een verwijderverzoek in te dienen via Helpwanted
(onderdeel van Offlimits). Burgemeesters worden ondersteund met een handelingskader
met betrekking tot online aangejaagde openbare orde problematiek. Tenslotte is verder
geïnvesteerd in het verhogen van het kennisniveau en het vergroten van de expertise
binnen de rijksoverheid met betrekking tot internet-gerelateerde onderwerpen. Het
eindverslag van dit project is als bijlage toegevoegd aan deze brief.

Tot slot

De digitale wereld ontwikkelt zich in hoog tempo en brengt zowel kansen als risico’s
met zich mee. In deze brief ben ik nader ingegaan op de huidige inzet in het tegengaan
van online extremisme en terrorisme met bijzondere aandacht voor jongeren. Bij deze
aanpak blijft het bewaken van fundamentele rechten, zoals de vrijheid van meningsuiting,
van groot belang – maar vraagt om een zorgvuldige balans met maatregelen die online
radicalisering tegengaan en de veiligheid bevorderen. Vrijheid en veiligheid zijn
geen tegenpolen, maar vereisen wel voortdurende afweging en waakzaamheid, zodat het
internet een ruimte blijft waarin fundamentele rechten worden beschermd én misbruik
wordt tegengegaan. In het najaar van 2025 zal ik in een volgende brief nader ingaan
op de verdere ontwikkelingen in de aanpak van online extremisme en terrorisme.

De Minister van Justitie en Veiligheid,
D.M. van Weel