Antwoord schriftelijke vragen : Antwoord op vragen van het lid Mutluer over extreemrechtse memes

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 28 juni
2024). Zie ook Aanhangsel Handelingen, vergaderjaar 2023–2024, nr. 2013.

Vraag 1

Bent u bekend met het artikel «Grappig, maar gevaarlijk: NCTV wil maatschappij wapenen
tegen extreemrechtse «meme»»1?

Antwoord 1

Ja.

Vraag 2

Deelt u de mening dat dit soort memes veel impact kunnen hebben op de samenleving
en in het bijzonder op jongeren en hun gedachtenontwikkeling?

Antwoord 2

Memes zijn een belangrijk online communicatiemiddel voor extreemrechts2 en worden op diverse manieren en met verschillende functies ingezet. De stelselmatige
verspreiding van extreemrechtse memes draagt bij aan de normalisering en sociale acceptatie
van een onverdraagzaam gedachtegoed, leidt tot (online) groeps- en identiteitsvorming
binnen een radicale subcultuur en biedt mogelijk inspiratie voor geweld of ander extremistisch
handelen. Zo kan de normalisering van extremistisch gedachtegoed leiden tot racisme,
uitsluiting en discriminatie van minderheden en andersdenkenden. Memes kunnen daarnaast
bijdragen tot niet-gewelddadige extremistische acties als haatzaaien, angst verspreiden,
doelbewust desinformatie verspreiden, demoniseren en intimideren, verwerpen van wet-
en regelgeving, en pogingen om een parallelle samenleving tot stand te brengen waarbij
het gezag van de Nederlandse overheid en het rechtssysteem worden afgewezen. Dit zijn
ongewenste ontwikkelingen die de sociale cohesie aantasten en de democratische rechtsorde
en daarmee ook de nationale veiligheid op termijn kunnen ondermijnen.

Via memes kan extremistisch gedachtegoed op een laagdrempelige manier verspreid worden
richting jongeren. Zo bereiken aanhangers van extreemrechts vooral jongeren in het
online domein, die in de eerste instantie niet ontvankelijk zijn voor ingewikkelde
ideologische extremistische theorieën. Omdat memes de extreemrechtse boodschap – zoals
antidemocratische, racistische en onverdraagzame uitingen – juist op een zogenaamd
humoristische en subtiele manier verpakken, bestaat het risico dat jongeren op deze
manier toch geïnteresseerd raken in het extreemrechtse gedachtegoed. Op deze manier
kunnen jongeren van grotere sociale media platformen en gamefora gelokt worden naar
alternatieve en besloten platformen, waar veel explicietere rechts-extremistische
ideeën worden gedeeld, waaronder kwaadaardige complottheorieën, geweldsfantasieën,
antisemitisme en boodschappen die aanzetten tot haat.

Vraag 3

Hoe gaat u de samenleving en in het bijzonder jongeren weerbaarder maken tegen extreemrechtse
memes waarvan de inhoud vergaande radicalisering en extremisme of zelfs terrorisme
beoogt en verheerlijkt3?

Antwoord 3

Het kabinet is van mening dat er in onze democratische rechtsorde absoluut geen plaats
is voor rechts-extremistische uitingen of opvattingen. Het is zorgelijk en kwalijk
dat extreemrechts gedachtegoed onder andere via memes breed verspreid wordt en een
aantrekkingskracht uitoefent op met name kwetsbare, jonge mannen, niet zelden minderjarig.
Het kabinet is er alles aan gelegen om jongeren hiertegen te beschermen en weerbaar
te maken, niet alleen vanwege de dreiging van extremistisch en/of terroristisch geweld
maar ook voor de kansen en toekomst van deze jongeren. Dit vergt een aanpak van twee
kanten; het vergroten van de (online) weerbaarheid van jongeren en, het tegengaan
van de online verspreiding van deze extremistische en soms zelfs terroristische content.
Het is binnen onze democratie een grondrecht om een open discussie te voeren, waarin
mensen hun mening vrij kunnen uiten. Maar dat betekent niet dat er in onze democratische
rechtsorde plaats is voor rechts-extremistische uitingen.

Het is allereerst belangrijk om bewustzijn te creëren voor online content die wellicht
onschuldig lijkt, maar dat zeker niet is. Daarom is het van belang om de mediawijsheid
en digitale weerbaarheid van met name jongeren te versterken. Het vergroten van digitale
weerbaarheid gebeurt nu vooral via diverse cursussen en programma’s gericht op jongeren.
Er wordt ingezet op het verhogen van mediawijsheid ten aanzien van online bronnen,
het herkennen van extremistische boodschappen, en middels de Rijksbrede strategie
voor de effectieve aanpak van desinformatie.4 Zo is er het lesprogramma «Under Pressure» dat zich richt op het vergroten van weerbaarheid
tegen desinformatie en het vergroten van democratisch burgerschap onder jongeren om
zo de voedingsbodem voor polarisatie en radicalisering te verminderen.5 De inzet op het vergroten van digitale weerbaarheid via (lokale) interventies en
het ondersteunen van professionals en gemeenten wordt de komende jaren verder versterkt.
Daarnaast wordt de adequate inzet van de versterkingsgelden die gemeenten kunnen aanvragen
voor de aanpak van radicalisering, extremisme en terrorisme benut om meer bewustzijn
te creëren over de online aspecten van extremisme en terrorisme. Zo maken diverse
gemeenten reeds gebruik van online (weerbaarheids)cursussen en projecten die hiervoor
aandacht vragen.

Ook het tegengaan van de online verspreiding van extremistische en terroristische
content heeft prioriteit. In de beantwoording van de vragen 7, 8 en 9 ga ik hier verder
op in.

Vraag 4

Wat zijn de huidige mogelijkheden om te handhaven op extremistische memes of memes
die oproepen tot geweld? Op welke vlakken schieten het strafrecht of mogelijkheden
tot online contentbeheer tekort?

Antwoord 4

Het kabinet werkt aan een Versterkte Aanpak Online (VAO) inzake extremistische en
terroristische content. De contourenbrief hierover is op 12 december 2023 naar uw
Kamer is gestuurd.6 Eén van de prioriteiten binnen deze Versterkte Aanpak Online is het tegengaan van
zogenoemde borderline («legal yet harmful») content waartoe memes vaak kunnen worden gerekend. De uitwerking van de Versterkte
Aanpak Online inzake extremistische en terroristische content kunt u na de zomer 2024
verwachten.

Indien er wel sprake is van online terroristisch materiaal, kan de Autoriteit online
Terroristisch en Kinderpornografisch Materiaal (hierna: ATKM) verwijderingsbevelen
sturen op basis van de Verordening Terroristische Online Inhoud7 en de Uitvoeringswet Terroristische Online Inhoud.8 Aanbieders van hostingdiensten zijn verplicht om specifiek materiaal op aanwijzing
van de ATKM binnen een uur te verwijderen of ontoegankelijk te maken. Memes die niet
in strijd zijn met de Verordening Terroristische Online Inhoud kunnen niet door de
ATKM worden verwijderd (zie ook de beantwoording van vragen 7, 8 en 9).

Wanneer er sprake is van memes die strafbare feiten of strafbare uitlatingen bevatten,
zoals bedreiging, is strafrechtelijke opsporing van de personen achter (anonieme)
accounts mogelijk. Het is aan het Openbaar Ministerie om dit te beoordelen.

Zie ook het antwoord op vraag 7.

Vraag 5

Is er voldoende kennis en capaciteit bij de politie om dit soort memes te herkennen?
Zo nee, welke acties worden of kunnen worden ondernomen om die kennis bij de politie
te doen toenemen? Is hier tijdens de opleiding aandacht voor? Zo nee, wordt dit in
de toekomst wel opgenomen in het curriculum?

Antwoord 5

In de opleidingen bij de politie is er aandacht voor actuele ontwikkelingen op het
gebied van extreemrechts, waaronder rechts-extremisme en rechtsterrorisme. In het
kader van de aanpak contraterrorisme, extremisme en radicalisering heeft de politie
samen met de NCTV een digitale symbolenbank ingericht. Deze symbolenbank is beschikbaar
voor politieagenten en helpt bij het herkennen van rechts-extremistische verschijningsvormen,
waaronder memes. Binnen de politie is er thans voldoende expertise aanwezig om dit
soort memes te herkennen en om de organisatie hierover breed te kunnen adviseren.

Vraag 6

Ziet u mogelijkheden om jongerenwerkers in te zetten om jongeren hier online op aan
te spreken of voor te behoeden? Welke best practices bestaan al in het lokale veld?

Antwoord 6

Jongerenwerkers zijn onmisbare professionals om preventieve maatregelen ten aanzien
van (online) extremisme uit te voeren. Zo werken diverse gemeenten reeds met online
jongerenwerkers die via sociale mediaplatformen in contact staan met jongeren en hen
zo ondersteunen. Bij zorgelijk online gedrag, zoals ondermijning, georganiseerde criminaliteit,
radicalisering en extremisme, kunnen jongerenwerkers daarover in gesprek gaan met
jongeren en zo nodig interveniëren. Het is van belang dat personen die een voorbeeldfunctie
bekleden – zo ook jongerenwerkers – zich bewust zijn van dit soort memes en zich actief
uitspreken tegen extremistische uitingen om de normalisering hiervan tegen te gaan.

Daarnaast worden er in samenwerking met gemeenten en professionals door het Rijk handelingsperspectieven
opgesteld om hen te ondersteunen bij het versterken van digitale weerbaarheid in preventie
van o.a. extremisme. Ook wordt er naar manieren gekeken om jongeren zelf te betrekken
bij het versterken van de digitale weerbaarheid. Verder werkt het Ministerie van Sociale
Zaken en Werkgelegenheid aan een overzicht van interventies gericht op preventie van
radicalisering, waarbij specifiek aandacht wordt gegeven aan interventies in het online
domein. Aanvullend, zoals benoemd in de beantwoording van vraag 3, ondersteunt de
NCTV gemeenten via de versterkingsgelden om meer bewustzijn te creëren over de online
aspecten van extremisme en terrorisme. Uiteraard zullen eventuele nieuwe online interventies
getoetst worden aan alle relevante wettelijke en juridische kaders waaronder die met
betrekking tot de privacy.

De komende jaren zal er bijzondere aandacht uitgaan naar het integreren van het online
domein in de lokale aanpak van radicalisering en extremisme. Daarom blijven de Ministeries
van Justitie en Veiligheid en van Sociale Zaken en Werkgelegenheid in overleg met
gemeenten en (jeugd)professionals, om het delen van best practices te stimuleren en
faciliteren, de ervaren knelpunten verder te onderzoeken, effectieve methoden voor
een lokale (preventieve) aanpak van online extremisme en terroristische activiteiten
verder te ontwikkelen en waar mogelijk uit te breiden.

Vraag 7, 8 en 9

Hoe kijkt u aan tegen de rol van platforms in contentmoderatie van extremistische
content, met name de berichten-applicaties (WhatsApp, Telegram, Signal), Alt-tech
of alternatieve platformen (Gab, Parler, Bitchute, Minds, RocketChat) en rechts-extremistische
en terroristische websites, fora en online netwerken?

Heeft u deze platforms aangesproken op hun rol? Zo ja, hoe verliepen deze gesprekken?
Zo nee, bent u bereid dit te doen? Welke rol hebben de providers hier volgens u in?

Welke rol ziet u voor de Autoriteit online Terroristisch en Kinderpornografisch Materiaal
(ATKM) bij het aanspreken van platforms die dit soort memes toestaan en bij het laten
verwijderen van dit soort content, mede in het licht van de Verordening terroristische
online-inhoud?

Antwoord 7, 8 en 9

Ik deel de zorgen ten aanzien van de verspreiding van extremistische online content
op platforms en berichtendiensten. De mate waarin deze diensten content (kunnen) modereren
verschilt aanzienlijk. Bij sommigen is (stevige) verbetering nodig. Dit geldt met
name ten aanzien van alternatieve platformen zoals door het lid Mutluer genoemd, waar
contentmoderatie in veel gevallen vrijwel geheel afwezig is. Hierdoor kan extremistische
content veelvuldig voorkomen.

Daar waar sprake is van memes die terroristische online content bevatten, kan de Autoriteit
online Terroristisch en Kinderpornografisch Materiaal (ATKM) op basis van de Verordening
Terroristische Online Inhoud9 en de Uitvoeringswet Terroristische Online Inhoud10 hostingbedrijven en platformen verplichten deze content binnen één uur te verwijderen
of ontoegankelijk te maken. Ook heeft de ATKM de bevoegdheid om boetes te versturen
naar aanbieders van hostingdiensten indien zij een verwijderingsbevel niet opvolgen.
Deze boete kan oplopen tot 4% van de jaarlijkse omzet van de betreffende hosting provider.

De mate waarin sociale media bedrijven zich inspannen om de verspreiding van terroristische
online inhoud te beperken is onderdeel van de dialoog met de internetsector, die ik
in het kader van de eerdergenoemde Versterkte Aanpak Online ben gestart over deze
thema’s. Tijdens deze gesprekken heb ik mijn zorgen over de verspreiding van extremistische
online content geuit en de platforms aangesproken op hun rol in het veilig houden
van hun online omgeving. De inzet blijft gericht op een structurele dialoog met de
internetsector over specifiek deze onderwerpen.

Vraag 10

Hoe beziet u het spanningsveld tussen de vrijheid van meningsuiting enerzijds en het
gevaar van extreemrechtse memes (met name de groep extremistische memes) anderzijds?
Hoe wordt hierin onderscheid gemaakt tussen extremisme, terrorisme en activisme?

Antwoord 10

In de fenomeenanalyse van de NCTV wordt een meme gedefinieerd als een idee, uiting
of mening gevat in tekst of in visueel materiaal zoals een foto, video of gif-bestand
al dan niet voorzien van tekst of geluid, die online wordt gekopieerd en verspreid.
Het gaat dus om (een onderdeel van) uitingen van personen, die in beginsel beschermd
worden door de vrijheid van meningsuiting. De vrijheid van meningsuiting is een kernwaarde
van de democratie. Zij kan slechts worden beperkt op grond van een wettelijke bepaling
en wanneer die beperking een gerechtvaardigd doel dient en noodzakelijk is in een
democratische samenleving. Voorbeelden van dat soort beperkingen zijn er voor onder
meer kinderpornografie, terroristische inhoud en haatzaaien, die allen strafbaar zijn
gesteld.11 Daarbij wordt geen onderscheid gemaakt tussen uitingen in de fysieke wereld en online
content: dat wat strafbaar en onrechtmatig is in de fysieke wereld is dat ook online.
Om ontoelaatbare beperkingen van de vrijheid van meningsuiting te voorkomen is het
beleid voor dit soort memes primair gericht op het verhogen van bewustwording, kennis
en weerbaarheid.

In algemene zin geldt dat in een democratische rechtsorde personen te allen tijde
binnen de grenzen van de wet hun grondrechten moeten kunnen uitoefenen. In de praktijk
kan dit leiden tot een botsing van grondrechten, waarbij de uitoefening van een grondrecht
door de ene persoon of groep leidt tot een botsing met een grondrecht van een andere
persoon of groep. Grondrechten zijn echter niet absoluut. In de Grondwet en in verdragen
zoals het Europese Verdrag van de Rechten van de Mens is vastgelegd dat grondrechten
onder voorwaarden kunnen worden beperkt voor een zwaarwegender doel in het kader van
het algemeen belang. Vanuit het oogpunt van algemeen belang is er wetgeving met daarin
beperkingen van het recht van vrijheid van meningsuiting, zoals het antidiscriminatieverbod
of het verbod tot haatzaaien of opruiing. Daarnaast is soms voor deze botsing van
grondrechten een contextuele rechtsstatelijke toets (door de rechter) nodig om te
bepalen welke grondrecht in het specifieke geval voorrang heeft ten opzichte van andere
grondrechten. Het is uiteindelijk aan de rechter om te bepalen of bepaalde uitingen
al dan niet worden beschermd door het recht op de vrijheid van meningsuiting of andere
grondrechten.

Daarbij hecht ik eraan te benadrukken dat extremisme niet in het verlengde van activisme
ligt, maar wezenlijk iets anders is. Men dient ervoor te waken om een directe causale
lijn te zien waarbij uitgegaan wordt dat maatschappelijke onrust en allerlei vormen
van activisme uiteindelijk tot extremisme zouden kunnen leiden. De doelen die extremisten
nastreven en/of de middelen zijn inherent antidemocratisch of ondemocratisch. Bij
activisten is dit niet het geval. Om te bepalen of iets extremistisch is, worden deze
gedragingen nooit geïsoleerd bezien, maar altijd binnen de context van een ideologisch
motief en gepaard gaande met geweld of stelselmatige en doelbewuste gedragingen die
de democratische rechtsorde ondermijnen. Voor een uitgebreidere toelichting op extremisme,
het onderscheid met activisme en terrorisme, verwijs ik u naar de onlangs verschenen
Nationale Extremismestrategie 2024–2029.12

Vraag 11

Wat zijn naar aanleiding van de fenomeenanalyse van de Nationaal Coördinator Terrorismebestrijding
en Veiligheid (NCTV) de volgende stappen die u op dit onderwerp gaat nemen?

Antwoord 11

De conclusies uit de fenomeenanalyse zullen betrokken worden bij de verdere uitwerking
van de Versterkte Aanpak Online en de uitvoering van de Nationale Extremismestrategie
2024–2029.13 Deze strategie schetst een overzicht en de kaders voor de beleidsinzet op extremisme,
waaronder ook de inzet op weerbaarheid.

Vraag 12

Bent u bereid te onderzoeken of een publiekscampagne over extreemrechtse memes eraan
kan bijdragen dat burgers de beeldtaal en symboliek van memes beter leren herkennen,
waarin nadrukkelijk wordt gepoogd om de groep jongeren te bereiken die door extreemrechtse
memes geïnteresseerd raken in het gedachtegoed en daardoor mogelijk radicaliseren?

Antwoord 12

Een van de doelen van de publieke fenomeenanalyse naar het gebruik van memes door
extreemrechts is het informeren van burgers over de gevaren omtrent extreemrechtse
memes. Hierbij is het vooral zaak om bewustzijn te creëren dat sommige memes niet
zo onschuldig zijn als ze lijken. Via het netwerk van de NCTV worden met de analyse
professionals bereikt die met jongeren werken. Daarnaast neemt de NCTV in gesprekken
met zijn communicatiepartners mee wat de toegevoegde waarde kan zijn van een jongerencampagne
aanvullend op de bestaande communicatie inzet.

Vraag 13

Kunt u deze vragen beantwoorden voorafgaand aan het commissiedebat over terrorisme/extremisme
op 20 juni a.s.?

Antwoord 13

Ja.