Brief regering : Beleidsreactie op het WODC-onderzoek ‘Rechtsextremisme op sociale media platforms? Ontwikkelingspaden en handelingsperspectieven’

Nr. 690
BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 10 oktober 2023

Om online radicalisering beter te kunnen begrijpen en tegen te gaan heeft het Wetenschappelijk
Onderzoek- en Documentatiecentrum (WODC) op verzoek van de Nationaal Coördinator Terrorismebestrijding
en Veiligheid (NCTV) onderzoek laten uitvoeren naar de wijze waarop rechts-extremistische
radicalisering kan optreden en welke rol sociale media daarbij spelen. Het is een
grote en belangrijke studie geworden, waarvoor ik de onderzoekers zeer erkentelijk
ben. Om recht te doen aan het omvangrijke eindrapport zal mijn departement de komende
tijd benutten om de bevindingen en aanbevelingen verder te bestuderen en mee te nemen
in de uitwerking van de Versterkte Aanpak Online van extremistische en terroristische
content online. Uw Kamer ontvangt binnenkort de eerste hoofdlijnen in de vorm van
de Contourenbrief Versterkte Aanpak Online inzake extremistische en terroristische
content. Hierin worden de ambities ten aanzien van het verstevigen van de online aanpak
geschetst. Deze brief fungeert als opmaat naar een verdere uitwerking van de Versterkte
Aanpak Online voor extremistische en terroristische content die in het voorjaar van
2024 met uw Kamer wordt gedeeld.

In onderhavig onderzoek is specifiek gekeken naar de verschillende ontwikkelingspaden
voor het optreden van rechts-extremistische radicalisering in de richting van gewelddadig
en of terroristisch gedachtengoed en de rol van aanbevelingsalgoritmen binnen sociale
mediaplatforms. Ook is onderzocht in welke mate, naast online invloeden, ook offline
contacten een noodzakelijke voorwaarde zijn voor rechts-extremistische radicalisering.
Relevante wet en -regelgeving, zoals de Verordening Terroristische Online Inhoud (TOI-Verordening)
en de Digital Services Act zijn daarbij betrokken, waarmee ik ook tegemoetkom aan de toezegging aan het lid
van der Werf.1 Zo staat in dit WODC-onderzoek uiteengezet in welke mate en op welke wijze online
platforms aansprakelijk zijn voor de content die zij verspreiden.2 Het onderzoek is uitgevoerd door het Verwey-Jonker Instituut in samenwerking met
Textgain. Het onderzoeksrapport «rechts-extremisme op sociale media platforms? Ontwikkelingspaden
en handelingsperspectieven» treft u als bijlage aan. Hiermee voldoe ik aan de toezegging
aan het Kamerlid van der Werf om de uitkomsten van het onderzoek met uw Kamer te delen.3

Hieronder ga ik in op de belangrijkste bevindingen van het onderzoek, de door de onderzoekers
geschetste handelingsperspectieven om gewelddadige rechts-extremistische radicalisering
via online platforms tegen te gaan en mijn reactie daarop.

Bevindingen en aanbevelingen

Volgens de onderzoekers draagt een grote variëteit aan risicofactoren, op zowel individueel
niveau als op groeps- en samenlevingsniveau, bij aan het ontstaan van radicaliseringsprocessen.
Belangrijke noties hieruit wil ik meenemen in de opvolging van het WODC-rapport over
ideologische duidingen die ik uw kamer voor de zomer aanbood.4 Daarin is aanbevolen om meer aandacht te hebben voor andere ideologieën dan jihadistisch
extremisme om bij het duiden van personen tunnelvisie en ongelijke behandeling, in
onder meer het strafrecht en de lokale aanpak, te voorkomen. De onderhavige studie
naar factoren van radicalisering vanuit rechts-extremistische ideologie draagt hieraan
bij. Daarnaast blijken de ontwikkelingspaden van radicalisering uiterst complex, waarbij
zowel online als offline factoren een rol spelen en op elkaar inwerken. Om de invloed
van de online context op extremistische overtuigingen en geweld te kunnen begrijpen,
dient volgens de onderzoekers te worden gekeken naar deze wisselwerking tussen online
en offline factoren. In dit verband is het goed om te vermelden dat er volgend jaar
een onderzoek verschijnt, uitgevoerd door het WODC, waarin processen van online rekrutering
door en voor extremistische groepen, alsmede naar de preventie daarvan worden onderzocht.

Een van de factoren die kan bijdragen aan (online) radicalisering is het in aanraking
komen met extremistische content. De onderzoekers geven aan dat rechts-extremistische
individuen en netwerken diverse online strategieën hanteren om hun gedachtengoed de
leefwereld van personen te laten binnendringen. Zo kan het vermommen van content,
bijvoorbeeld door het gebruik van humor, ironie en dog whistles, bijdragen aan (langdurige)
blootstelling en daarmee normalisering, gewenning en acceptatie van rechts-extremistische
content.

Volgens de onderzoekers hebben de grote mainstreamplatforms zoals Facebook, TikTok
en Youtube in de laatste jaren stappen in de goede richting gezet om extremistische
content te modereren. Zij stellen dat er dikwijls streng is opgetreden tegen kanalen
en pagina’s die gelinkt zijn aan rechts-extremistische groepen. Daarentegen zijn alternatieve,
kleinere («alt-tech» of «fringe») platforms populairder geworden. Daar deze minder
goed gereguleerd en gemodereerd worden, kan hier meer extremistische content worden
gepost. Internetgebruikers met extremistische boodschappen die het bereik van hun
content op deze kleinere platforms willen vergroten, maken soms gebruik van grotere
platforms om met gematigder materiaal (via internetlinks) door te verwijzen naar de
extremistische content op deze kleinere platforms. Niet-extremistische online subculturen
en populaire online influencers kunnen zo fungeren als ingang naar rechts-extremistisch
gedachtengoed of bepaalde gemeenschappen.

De rol van aanbevelingsalgoritmen en sociale mediafuiken, bij rechts-extremistische
radicalisering binnen de online context daarbij, is volgens de onderzoekers genuanceerder
dan in het publieke discours soms wordt voorondersteld. Zij stellen dat er andere
factoren en mechanismen zijn die kunnen bijdragen aan rechts-extremistische radicalisering.
Zo stellen de onderzoekers dat persoonlijke keuzes en het zoekgedrag van gebruikers
minstens zo belangrijk zijn, zoals het in de eigen sociale omgeving delen van links
naar extremistische content, het abonneren en/of volgen van bepaalde kanalen op sociale
mediaplatforms met extreme content en het ontmoeten van gelijkgestemden in echokamers.

De onderzoekers merken op dat er een grijs gebied overblijft van content die als onwenselijk
kan worden gezien, maar die niet op grond van wettelijke kaders verwijderd kan worden.
Zij noemen dit «borderline content», boodschappen op het randje die polariserend zijn
maar niet extremistisch. Extremistische content op de grote sociale media platforms
lijkt grotendeels vervangen te zijn door deze borderline content. Volgens de onderzoekers
wordt borderline content op de grote sociale mediaplatforms maar in beperkte mate
gemodereerd. Zij lichten toe dat er een gebrek aan expertise is om deze content correct
te identificeren. Nederland zou «Trusted Flaggers5» kunnen identificeren, aanwijzen, en ondersteunen om daarbij te helpen, zo stellen
de onderzoekers. Tevens raden zij aan toe te werken naar meer co-regulering tussen
platforms en de overheid, waarbij ze aanraden vanuit de overheid terughoudendheid
te betrachten in het beoordelen van «harmful content».

Volgens de onderzoekers is het handelingsperspectief van de Nederlandse overheid ten
aanzien van de zeer grote online platforms of overige online platforms met hoofdvestiging
in het buitenland beperkt, aangezien de Europese Commissie respectievelijk het land
van vestiging van het desbetreffende online platform hier de rol van toezichthouder
heeft. Nederland kan de Europese Commissie wel vragen om bij het toezicht en handhaving
van de Digital Services Act specifiek aandacht te besteden aan de bestrijding van extremistische content.

Meer mogelijkheden heeft de Nederlandse overheid ten aanzien van de minder grote platforms,
zo constateren de onderzoekers. In de eerste plaats is het volgens de onderzoekers
van belang in te zetten op het sneller verwijderen van extremistische, illegale content
op de kleinere platforms. In de tweede plaats wijzen de onderzoekers op het belang
te investeren in samenwerking tussen overheden, online platforms en onderzoekers.

De onderzoekers wijzen daarnaast op de rol van de Autoriteit Consument en Markt (ACM)
in het handhaven van de Digital Services Act voor kleinere platforms. Ook wijzen zij op het belang van het stimuleren van niet-Engelstalige
contentmoderatie op online platforms, omdat zij constateren dat deze minder effectief
is. Wat betreft de commentsecties van artikelen in de nieuwsmedia merken de onderzoekers
op dat hier veelvuldig links worden geplaatst naar extremere content.

Ten behoeve van continue kennisopbouw ten aanzien van borderline content adviseren
de onderzoekers overheden (ministeries) om meer samen te werken. Tevens adviseren
de onderzoekers meer te experimenteren en mogelijkheden te onderzoeken of steun te
geven aan initiatieven voor lokaal werkende online platforms of non-profit sociale
media. Voorts wordt door de onderzoekers gesteld dat het beleid omtrent sociale media
platforms niet alleen gebaseerd moet zijn op economische en juridische uitgangspunten,
maar ook op publieke waarden. De onderzoekers bevelen tot slot aan dat de overheid
meer moet investeren in kritisch denken, digitale weerbaarheid en mediawijsheid.

Beleidsreactie

Diverse aanbevelingen van de onderzoekers komen terug in reeds lopende beleidsinitiatieven.
Een belangrijk instrument dat ons gaat helpen terroristische content op het internet
tegen te gaan, is de oprichting van de Autoriteit online Terroristisch en Kinderpornografisch
Materiaal (ATKM). De ATKM is sinds 1 september 2023 van start gegaan en zal aanbieders
van hostingdiensten een verwijderbevel sturen indien er sprake is van content die
terroristisch van aard is.

Het stimuleren van non-profit platforms gebaseerd op publieke waarden, wat de onderzoekers
aanbevelen, wordt gedaan door mijn collega van Binnenlandse Zaken en Koninkrijksrelaties.
Via alternatieve platforms als PubHub en Pol.is worden maatschappelijke debatten aangejaagd.
Voor wat betreft de aanbevelingen ten aanzien van het versterken van mediawijsheid
en digitale weerbaarheid zijn reeds meerdere geëvalueerde lesprogramma’s beschikbaar,
welke breder ingezet kunnen worden om de online weerbaarheid en mediawijsheid van
met name jongeren te vergroten. Maar ik acht het ook van belang om te investeren in
het bevorderen van inzicht bij ouders, docenten, jeugdprofessionals en gezagsdragers
in de online leefwereld van jongeren. Deze zaken komen tevens aan bod in de Contourenbrief
Versterkte Aanpak Online inzake extremistische en terroristische content.

Met de onderzoekers ben ik van mening dat normalisering van rechts-extremisme door
middel van zogenaamd humoristische memes en dog whistles zorgelijk en onwenselijk
is. Daarom acht ik het op peil houden van contentmoderatie van groot belang blijft
om dit tegen te gaan. Want ondanks de constatering van de onderzoekers dat de grote
sociale mediaplatforms stappen in de goede richting hebben gezet in het modereren
van content verwacht ik van hen toch meer dan zij nu laten zien. Ook deel ik met de
onderzoekers de zorgen die worden aangekaart rondom kleinere platforms. Een ambitieuze
internationale inzet (zoals bij de Commissie) en aansluiting bij reeds bestaande coalities
is daarbij wezenlijk.

In de Contourenbrief Versterkte Aanpak Online van extremistische en terroristische
content wordt uitgebreider ingegaan op mijn ambities inzake bovenstaande kwesties
en zal ik ook stilstaan bij de rol van aanbevelingsalgoritmen en de significante verantwoordelijkheid
die grote sociale media platforms daar wat mij betreft in hebben. Want hoewel ik met
de onderzoekers deel dat het zoekgedrag van internetgebruikers zelf aandacht verdient,
acht ik het wel van belang nog meer inzicht te krijgen in de werking van aanbevelingsalgoritmen
van grote sociale mediaplatforms. Deze transparantie is nu namelijk gebrekkig. De
Digital Services Act, die voor VLOPs (Very Large Online Platforms) reeds is ingegaan, biedt verdere mogelijkheden om onderzoek te verrichten naar de
invloed van algoritmen.

Overige aanbevelingen worden meegenomen in de verdere uitwerking van de Versterkte
Aanpak Online van extremistische en terroristische content die in 2024 met uw Kamer
zal worden gedeeld.

Tot slot

De komende jaren zal ik in samenwerking met andere ministeries de inspanningen verhogen
om rechts-extremistische content en radicalisering online tegen te gaan. Daarnaast
is een groot deel van de bevindingen en aanbevelingen zeer nuttig voor een grote groep
professionals die zich bezighoudt met het tegengaan van rechts-extremistische radicalisering,
zowel op lokaal, landelijk als internationaal vlak. Ik zal ervoor zorgdragen dat hier
maximaal van gebruik wordt gemaakt.

De Minister van Justitie en Veiligheid,
D. Yesilgoz-Zegerius