Brief regering : Voortgangsbrief Rijksbrede strategie voor de effectieve aanpak van desinformatie en aankondiging nieuwe acties

Nr. 230
BRIEF VAN DE STAATSSECRETARIS EN MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 17 juni 2024

De verspreiding van desinformatie, uit zowel binnen- als buitenland, vormt een groot
risico voor het vrije en open debat. Dit debat is cruciaal voor het functioneren van
onze democratische rechtsstaat.1 Veruit de meeste desinformatie wordt online verspreid. Sinds een aantal jaar neemt
het kabinet daarom maatregelen om de impact van desinformatie te verminderen. In december
2022 is deze inzet herzien in de Rijksbrede strategie voor de effectieve aanpak van
desinformatie.2 In de bijlage van deze brief brengen wij u, mede namens de Ministers van Buitenlandse
Zaken en van Justitie en Veiligheid, de Staatssecretaris van Cultuur en Media en de
Staatssecretaris van Volksgezondheid, Welzijn en Sport, op de hoogte van de voortgang
van acties uit de strategie.

Sinds 2017, toen het kabinet het eerste beleid op het fenomeen desinformatie met uw
Kamer deelde, is de verspreiding van desinformatie in omvang en intensiteit toegenomen.
Het kabinet vindt dit een zorgelijke ontwikkeling. De verspreiding van desinformatie
leidt tot onrust en onzekerheid bij mensen en heeft een verstorend effect op onze
samenleving als geheel en op het leven van individuele mensen daarin. In sommige gevallen
leidt dit zelfs tot onnodig verlies van levens.

Het kabinet vindt daarom dat er meer nodig is om de ondermijnende impact van desinformatie
tegen te gaan. Het kabinet onderscheidt daarin vier aandachtsgebieden waarvan het
cruciaal is dat ze beschermd blijven tegen de risico’s van de verspreiding van desinformatie.

1) Cruciale democratische processen, waaronder verkiezingen

2) Volksgezondheid, waaronder mentale gezondheid en vaccinaties

3) Sociale en maatschappelijke stabiliteit

4) Inzet op het gebied van (internationale) veiligheid en stabiliteit

Om dit te doen neemt het kabinet, in aanvulling op de lopende acties uit de Rijksbrede
strategie effectieve aanpak van desinformatie, stevige nieuwe maatregelen. Bij al
deze maatregelen blijven de waarden en grondrechten van onze rechtsstaat, zoals de
vrijheid van meningsuiting en persvrijheid, voorop staan. Deze maatregelen zijn in
te delen in drie groepen:

1) Maatregelen om verspreiders en verspreiding van desinformatie aan te pakken:

a. Meldvoorziening, geschillenbeslechtingsorgaan en kenniscentrum

b. Het verminderen van de risico’s van generatieve AI

c. Implementatie van de digitaledienstenverordening (DSA)

2) Maatregelen om de weerbaarheid van burgers te versterken

a. Versterking van factcheckers

b. Versterkte inzet op mediawijsheid

c. Oprichting Nationaal Expertisecentrum Wetenschap en Samenleving

d. Versterkte inzet op weerbaarheid tegen medische desinformatie

e. Versterkte inzet op weerbaarheid tegen onjuiste antidemocratische narratieven

3) Kennisontwikkeling van de problematiek en effectieve aanpak van desinformatie

a. Verdiepen kennis impact desinformatie op de Nederlandse democratische rechtstaat

b. Verkenning instrumentarium detectie Foreign Information Manipulation and Interference
(FIMI)3

Deze brief zet in deel A uiteen welke invloed nieuwe technologische en maatschappelijke
ontwikkelingen hebben op de verspreiding van desinformatie. Daarna gaan wij, in deel
B, dieper in op de toenemende impact van desinformatie op de samenleving. Tot slot
bespreken we in deel C de nieuwe acties die het kabinet neemt om de Rijksbrede strategie
voor de effectieve aanpak van desinformatie te versterken. Hiermee reageert het kabinet
ook op de motie Nordkamp c.s. (Kamerstuk 36 410-X, nr. 48) waarin onder meer wordt verzocht de weerbaarheid van de samenleving tegen desinformatie
te versterken.4

A. Nieuwe technologische en maatschappelijke ontwikkelingen

Op technologisch gebied kan generatieve AI sneller en op grotere schaal bijdragen
aan de creatie en verspreiding van geloofwaardigere desinformatie in de vorm van tekst,
beeld en audio.5 Onderzoek toont aan dat mensen niet alleen moeilijk kunnen onderscheiden of een gezicht
echt of synthetisch is, maar ook meer vertrouwen hebben in nepgezichten.6 Wanneer het herkennen van des- of misinformatie steeds uitdagender wordt, vermindert
dit de weerbaarheid van burgers tegen desinformatie. Gezien de snelle ontwikkeling
van generatieve AI, vraagt het kabinet zich af hoe overheden en onafhankelijke media
desinformatie ook in de toekomst voldoende en tijdig in beeld kunnen brengen om effectief
te blijven handelen. Specifiek punt van zorg is daarbij het gebruik van AI door statelijke
actoren in gecoördineerde informatiemanipulatiecampagnes. Innovaties in dynamische,
gepersonaliseerde en realtime contentcreatie vergroten de overtuigingskracht van dergelijke gemanipuleerde berichten.
Dit maakt de detectie ervan complex. Ook maakt AI het makkelijker om deze campagnes
op grote schaal goed te vertalen in de taal van het land waartegen de campagne gericht
is. Bovendien kunnen dergelijke gemanipuleerde berichten op de lange termijn impact
hebben op het vertrouwen van burgers in onder meer de overheid, de media en belangrijke
instituten of politici.

Daarnaast signaleert het Commissariaat voor de Media (hierna: CvdM) een daling in
het gebruik van traditionele media, met name onder jongeren.7 65-plussers gebruiken met name televisiezenders, radiozenders en dagbladen gebruiken.
Terwijl voor jongeren sociale media, online kijken en online luisteren de belangrijkste
mediatypen zijn. Het CvdM ziet ook dat het gebruik van lineaire televisiezenders niet
toeneemt als gebruikers ouder worden. Dat jongeren steeds minder gebruikmaken van
traditionele media is dan ook geen leeftijdseffect te noemen, maar een generatie-effect.
Deze ontwikkelingen hebben impact op de mediasector en de weerbaarheid van burgers.
Onafhankelijke en pluriforme media spelen namelijk een belangrijke rol bij het ontkrachten
van desinformatie en moeten dit ook kunnen blijven doen.

B. Toenemende impact van desinformatie

De gevolgen van des- en misinformatie kunnen verstrekkend zijn en in potentie de nationale
veiligheid schaden. Op internationaal gebied zijn de geopolitieke verhoudingen afgelopen
jaren duidelijk gewijzigd. Statelijke actoren stellen zich steeds assertiever op en
trachten met informatieoperaties de informatieomgeving te manipuleren. De Europese
Unie noemt dit FIMI. FIMI kan democratische processen ondermijnen, zoals verkiezingen,
(interne) maatschappelijke spanningen vergroten en de stabiliteit van de internationale
rechtsorde aantasten. Ook FIMI-campagnes gericht op andere landen dan Nederland kunnen
de Nederlandse veiligheidsbelangen schaden en daarmee invloed hebben op de democratische
rechtsstaat. Dit is met name het geval wanneer de effectiviteit en legitimiteit van
multilaterale instituties worden aangetast of wanneer deze campagnes zorgen voor inmenging
en instabiliteit bij partnerlanden, of in staten grenzend aan het Koninkrijk en in
de directe omgeving van de Europese Unie.8
9

Er zijn in de afgelopen maanden meerdere van dit soort FIMI-campagnes blootgelegd
door partners. Begin dit jaar publiceerden Duitsland10 en Frankrijk11 over pro-Russische netwerken van inauthentieke accounts die berichtgeving verspreiden
gericht op het ondermijnen van de steun aan Oekraïne en het polariseren van het nationale
debat. Het European Digital Media Observatory (EDMO) heeft onderkend dat dit netwerk
in omvang toeneemt, waarbij ook een Nederlandstalige website is opgezet12 – en ook de European External Action Service publiceerde onlangs over een aan dit
netwerk gerelateerde campagne.13 De Canadese ngo CitizenLab heeft recent een Spamouflage-campagne14 blootgelegd afkomstig van actoren gevestigd in China, die o.a. gericht was op het
beïnvloeden van parlementsleden en waarbij gebruik werd gemaakt van AI-gegenereerd
materiaal.15 Onderdeel van de campagne was een netwerk van inauthentieke nieuwswebsites waaronder
enkele Nederlandse domeinnamen.16 Naast het ondermijnen van de Westerse steun aan Oekraïne of het zaaien van verdeeldheid
in Europa, zijn campagnes ook gericht op het ondermijnen van internationale belangen
en betrekkingen van Nederland en partners. Een voorbeeld is het pro-Russische «Africa Initiative» dat anti-Westerse sentimenten en desinformatie verspreidt, o.a. over Westerse gezondheidsprojecten
in Afrikaanse landen. Tot slot zijn de recente Tsjechische onthullingen rond Voice
of Europe een voorbeeld van FIMI-campagnes gericht op de EU.17 Deze voorbeelden tonen aan dat we waakzaam moeten blijven voor de inzet van informatieoperaties
in of tegen Nederland en de Nederlandse belangen wereldwijd. Onze democratische rechtsstaat
moet beschermd blijven. Daarbij heeft het kabinet wat betreft dergelijke campagnes
specifieke aandacht voor het beschermen van de internationale rechtsorde en democratische
processen, waaronder het verkiezingsproces.18

Daarbovenop signaleren de AIVD, de NCTV en de Nationale Politie ook dat onze democratische
rechtsorde onder druk komt te staan door de verspreiding van een angstaanjagend vijandbeeld
van een kwaadaardige elite die uit is op onderdrukking, slavernij en moord. Dergelijke
vijandbeelden kunnen mensen aanzetten tot extremistische handelingen als opruiing,
huisbezoeken, bedreigingen en zelfs geweld. De verspreiding van deze feitelijk onjuiste
boodschappen tasten het vertrouwen in de wetgevende, uitvoerende en rechtsprekende
macht, de traditionele media en de wetenschap aan. Hiermee wordt de legitimiteit van
deze instituties ondermijnd.19 Sommige landen, zoals Rusland, spelen in op deze maatschappelijke sentimenten, bijvoorbeeld
door de verspreiding van desinformatie en het heimelijk zoeken naar ingangen voor
beïnvloeding in en van de Europese politiek. Dit soort heimelijke activiteiten dragen
bij aan het versterken van de maatschappelijke onrust in het Westen.20

Tot slot ziet het kabinet op het gebied van de volksgezondheid ook dat mensen steeds
meer informatie halen uit andere bronnen halen dan de folder, brief of website van
het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) en de Jeugdgezondheidszorg
(JGZ) of sites van (huis)artsen of ziekenhuizen. De al genoemde opkomst van sociale
media en internet als belangrijkste bron van informatie versterkt dit. Op internet
en sociale media is veel desinformatie over vaccinaties te vinden en soms is het lastig
de juiste- van de onjuiste informatie te onderscheiden. Dit maakt de verspreiding
van desinformatie over vaccinaties één van de drie waarschijnlijke hoofdredenen van
de dalende vaccinatiegraad.21 Dit kan onnodig lijden en in het ergste geval zelfs onnodig overlijden tot gevolg
hebben.

C. Aankondiging nieuwe maatregelen

Om bovengenoemde redenen vindt het kabinet het nodig om meer te doen om de ondermijnende
impact van desinformatie tegen te gaan. Daarom neemt het kabinet, in aanvulling op
de lopende acties uit de Rijksbrede strategie effectieve aanpak van desinformatie,
stevige nieuwe maatregelen. Bij al deze stappen blijven de waarden en grondrechten
van onze rechtsstaat, zoals de vrijheid van meningsuiting en persvrijheid, voorop
staan.

1) Maatregelen om verspreiders en verspreiding van online desinformatie aan te pakken

Meldvoorziening en kenniscentrum

Onder de digitaledienstenverordening moeten grote online platformen zoals sociale
media meldingen van burgers en organisaties, over verwijdering van berichten, over
illegale content of over desinformatie, serieus in behandeling nemen en daarop reageren.
Het kabinet wil dat voor burgers makkelijker maken en burgers faciliteren wanneer
zij geschillen hebben met sociale media platformen of melding willen maken van desinformatie.
In het kader van de aanpak van desinformatie vindt het kabinet het belangrijk om de
verkenning tot realisatie van een meldvoorziening en kenniscentrum voort te zetten
omdat het constateert dat desinformatie zich voornamelijk verspreidt via grote online
platformen, zoals sociale media. De oprichting van een meldvoorziening stond ook opgenomen
als beoogd doel in de Rijksbrede strategie effectieve aanpak van desinformatie van
december 2022. Het kabinet geeft vervolg aan de verkenning van realisatie van een
meldvoorziening en kenniscentrum.

Daarbij zien we dat het mediagebruik van burgers blijvend wegschuift van traditionele
media naar online platforms. Het kabinet is van mening dat te veel sociale media platformen
hebben nagelaten voldoende investeringen te doen in context-specifieke, talige en
culturele menselijke expertise in Nederland.22 Het is niet de primaire taak van de overheid om constant te reageren op de incidenten
die zich voordoen bij grote online platforms en hun contentmoderatie praktijken te
corrigeren. Platformen moeten deze verplichting zelf nakomen. Wanneer burgers denken
dat platformen dit niet doen, moeten burgers voldoende ondersteuning kunnen krijgen
en ergens terecht kunnen met klachten die platformen volgens hen onvoldoende oplossen.

De DSA biedt daartoe ook de mogelijkheid via het stelsel van onafhankelijke buitengerechtelijke
geschillenbeslechting (artikel 21 DSA). Concreet kunnen organisaties die voldoen aan
de criteria van artikel 21 certificering verkrijgen van een digitaledienstencoördinator.
Het Ministerie van BZK steunt de totstandkoming van dergelijke organisaties en wil
dat de inrichting van een dergelijke organisatie in Nederland komt omdat ze een belangrijke
rol vervullen voor de bescherming van de vrijheid van meningsuiting. Hierdoor kunnen
burgers over de hele EU terecht voor geschilbeslechting betreffende content-moderatie
besluiten van online platformen. Daarom zal het Ministerie van BZK de volgende stap
nemen in de verkenning van een meldvoorziening, geschillenbeslechtingsorgaan en kenniscentrum.
Ook zal BZK onderzoeken wat er nodig is om dit te realiseren. Hierbij zullen journalistiek,
wetenschap en het maatschappelijk middenveld worden betrokken.

Risico’s generatieve AI verminderen

Door de technologische ontwikkelingen, zoals de ontwikkeling van generatieve AI, ontstaan
er nieuwe manieren om desinformatie te verspreiden en produceren. De lijn tussen echt
nieuws en desinformatie wordt hierbij steeds verwarrender. Daarnaast wordt microtargeting
steeds gebruikelijker. Door het gebruik van AI tools kunnen grote platformen boodschappen
nauwkeuriger richten op individuen met unieke voorkeuren en interesses, en kunnen
boodschappen doeltreffender worden.

In dat kader zijn binnen de overheidsbrede visie generatieve AI al nieuwe stappen
aangekondigd om de risico’s van generatieve AI met betrekking tot desinformatie te
verminderen.23 Zoals het faciliteren van publiek beschikbare AI-benchmarking en tooling (zoals bias-detectie,
op basis van bijvoorbeeld democratische input) om vangrails aan te brengen voor verantwoorde
generatieve AI in Nederland.

Het kabinet wil de kansen van generatieve AI benutten voor het tegengaan van desinformatie.
Ook wil het kabinet dat grote platformen generatieve AI inzetten om te voldoen aan
hun wettelijke verplichtingen om systeemrisico’s zoals desinformatie tegen te gaan.
Dan kan het bijvoorbeeld gaan om «pro-sociale chatbots»24 die automatisch gegenereerde kennis aanleveren aan gebruikers, afhankelijk van de
context of aan het op grote schaal meenemen van gebruikers in samenvattingen van journalistieke
en wetenschappelijke artikelen verschillende hypothesen, theorieën en empirisch onderzoek.

Implementatie digitaledienstenverordening (DSA)

Het kabinet heeft via wetgeving, zoals de digitaledienstenverordening en de AI verordening,
de afgelopen periode online platforms verplicht om hun technologie en diensten op
een verantwoorde wijze in te zetten. Nu is een goede implementatie en uitvoering van
de digitaledienstenverordening van belang. De digitaledienstenverordening maakt sociale
media verantwoordelijk voor het tegengaan van desinformatie. De Minister van EZK heeft
op 3 april het wetsvoorstel voor de Uitvoeringswet digitaledienstenverordening aan
uw Kamer aangeboden. Het toezicht van de Europese Commissie op grote platformen is
al gestart. Artikel 35, tweede lid, met betrekking tot het mitigeren van risico’s,
stelt dat de digitaledienstenraad, in samenwerking met de Europese Commissie, een
keer per jaar een rapport uitbrengt waarin, onder andere, «best practices» voor het
mitigeren van geïdentificeerde risico’s staan.

Het kabinet zal de «best practices» in de content-moderatiepraktijken van verschillende
digitale platformen in Nederland in kaart brengen. Deze inzichten zullen worden gedeeld
met de Europese Commissie en andere relevante toezichthouders.

De Europese Commissie heeft ook recentelijk richtsnoeren gepubliceerd voor aanbieders
van zeer grote onlineplatforms en zeer grote onlinezoekmachines inzake de beperking
van systeemrisico’s voor verkiezingsprocessen. Het kabinet steunt deze richtsnoeren
en moedigt de Commissie aan om haar rol als toezichthouder actief op te pakken.25

2) Versterking mediawijsheid en weerbaarheid van burgers

Versterking factcheckers

Het kabinet gaat factchecken als essentieel onderdeel van de maatschappij stimuleren,
waarbij de onafhankelijkheid van factcheckers gewaarborgd moet blijven. Het Ministerie
van BZK geeft daarom een aanvullende subsidie aan het BENEDMO consortium, zodat het
factcheckers netwerk in Nederland wordt versterkt.

Factchecken wordt gedaan door verschillende organisaties en mensen, vanuit verschillende
(professionele) achtergronden. Om het werk «factchecken» effectief en structureel
te ondersteunen, zet het Kabinet samen met BENEDMO de eerste stap: zij onderzoeken
welke potentiële financieringsmodellen factcheckers onafhankelijk en duurzaam laten
functioneren. Deze zullen wij vervolgens helpen bevorderen. Ook brengt BENEDMO in
kaart hoe de samenwerking tussen factcheckers en grote digitale platformen, die niet
altijd vanzelfsprekend is, verloopt. Hierdoor kan het kabinet bijdragen aan een effectievere
structuur voor deze samenwerking.

Versterkte inzet mediawijsheid

Het kabinet versterkt ook de inzet op mediawijsheid van burgers. Hier zet het Ministerie
van OCW al stappen, zoals het project Dichterbijnieuws.26 Ook actualiseren organisaties als het Netwerk Mediawijsheid via isdatechtzo.nl27 en het BENEDMO28 consortium doorlopend hun projecten en publicaties aan de hand van nieuwe ontwikkelingen.

Bij het versterken van de inzet op mediawijsheid benadrukt het kabinet dat des- en
misinformatie momenteel een zeer klein deel vormt van het mediagebruik van de meeste
mensen.29 Voorkomen moet worden dat waarschuwingen voor des- en misinformatie ertoe leiden
dat burgers ook feitelijk juiste informatie gaan wantrouwen.30 Tegelijkertijd ziet het kabinet ook dat 48% van de Nederlanders zich redelijk tot
veel zorgen maakt over de foutieve, misleidende informatie online. 41% maakt zich
een beetje zorgen.31 Het is belangrijk tegemoet te komen aan deze zorgen en een kritische houding van
burgers richting online informatie te stimuleren, maar daarbij te voorkomen dat deze
kritische houding omslaat naar cynisme.

Nationaal Expertisecentrum Wetenschap en Samenleving

Het kabinet wil informatie dichter bij de burger brengen. Wetenschapscommunicatie
zorgt voor verbinding tussen wetenschap en samenleving. Er zijn in Nederland al veel
goede initiatieven op het gebied van wetenschapscommunicatie, maar het kan nog beter.
Daarom is het Nationaal Expertisecentrum Wetenschap en Samenleving (NEWS) opgericht,
met steun van de Minister van OCW. NEWS zorgt dat bestaande kennis over wetenschapscommunicatie
wordt gedeeld en gebruikt – door wetenschappers, beleidsmakers en burgers te verbinden.
Daarmee voorkomen we dat sommige groepen mensen in de samenleving minder betrokken
worden bij wetenschap, zorgen we voor meer interactie en gelijkwaardige dialoog tussen
burgers en wetenschap en komt er meer aandacht voor de methodes en het proces van
wetenschappelijk onderzoek naast alleen de resultaten. Hierdoor ontstaat een breder
bereik van en meer impact op de samenleving.

Versterken weerbaarheid burgers tegen medische desinformatie

Waar het gaat om het verminderen van de invloed van medische des- en misinformatie
heeft de Staatssecretaris van VWS uw Kamer recentelijk geïnformeerd over nieuwe acties
gericht op het verbeteren van de beschikbaarheid van medische informatie. Dit betreft
o.a. acties om de beschikbaarheid van relevante en betrouwbare online informatie te
versterken, zorgprofessionals en influencers te mobiliseren tegen desinformatie en
internationaal actie te ondernemen tegen de verspreiding van medische desinformatie.32

Daarbij zal de Staatssecretaris van BZK een kennis gedreven beleidsstrategie formuleren
op het gebied van mis- en desinformatie die een negatieve impact heeft op de volksgezondheid.
Zij zet dit jaar nog een onderzoek uit naar risico’s en handelingsopties met betrekking
tot online desinformatie en volksgezondheid. De Staatssecretaris van VWS verkent hoe
hij hier mede-invulling aan kan geven. Een samenwerking wordt aangegaan met De Nieuwe
Utrechtse School die dit onderwerp interdisciplinair aanpakt. Ook voorzien publieksdialogen,
studentinitiatieven en kunstinitiatieven het kabinet van de nodige inzichten en handvatten.

Versterken weerbaarheid burgers tegen onjuiste antidemocratische narratieven

Waar het gaat over de verspreiding van onjuiste antidemocratische narratieven is het
belangrijk mensen hier weerbaar tegen te maken. Hier gaat het om stimuleren van kritisch
denken over informatie online. De acties die wij al nemen om de weerbaarheid van burgers
te versterken vindt u in de bijlage, zoals het meerjarig dialoog programma, in samenwerking
met het Rathenau instituut en de financiële bijdrage aan www.isdatechtzo.nl.

Instituties moeten ook feitelijke en begrijpelijk informatie verstrekken, zodat mensen
zich minder tot simplificerende complotconstructies wenden. Kansen liggen ook in het
tijdig zichtbaar maken door media en (onderzoeks-)journalistiek van extremistische
narratieven. Daarnaast is het belangrijk om de verbinding te blijven zoeken met mensen
die belangstelling hebben voor het soevereine gedachtegoed. Lokale partners geven
aan dat deze mensen grote behoefte hebben aan een luisterend oor en dat oprechte aandacht
escalatie kan voorkomen. Wij zijn in gesprek met lokale partners, zoals burgemeesters
en wethouders, om te bekijken waar wij hierin kunnen ondersteunen. Verder bekijken
wij wat er naast de al genomen acties nog meer nodig is wat betreft het omgaan met
het bredere fenomeen van anti-institutionele tendensen.

3) Maatregelen om de problematiek rondom desinformatie en FIMI beter in beeld te krijgen,
inclusief mogelijkheden voor toekomstige effectieve interventies

Onderzoek naar de impact desinformatie op de Nederlandse democratische rechtstaat

Het Ministerie van BZK gaat een brede verkenning uitvoeren naar de wijze waarop de
kwaliteit van het open publieke debat gewaarborgd kan worden. Hierin wordt gekeken
naar kwetsbaarheden in het open publieke debat, waaronder de wijze waarop desinformatie
de Nederlandse democratische rechtsstaat in de breedte kan beïnvloeden. Dit onderzoek
bespreekt de impact van desinformatie op het verkiezingsproces, maar ook impact op
de sociale en politieke stabiliteit, waaronder de democratische rechtsstaat.33 De ervaringen die worden opgedaan tijdens de verkiezingen voor het Europees Parlement
worden meegenomen in dit onderzoek.

Op basis van de uitkomsten van het onderzoek zal worden bepaald óf het monitoringsinstrumentarium
voor binnenlandse desinformatie moet worden uitgebreid, en óf hiervoor nieuwe wettelijke
grondslagen moeten worden gerealiseerd. Uw Kamer wordt eind dit jaar geïnformeerd
over de resultaten van dit onderzoek.

Verkenning instrumentarium detectie FIMI

Het kabinet evalueert doorlopend wat internationale ontwikkelingen op het gebied van
FIMI voor Nederland en het Nederlandse internationale beleid kunnen betekenen. Daarbij
onderzoekt het kabinet of de weerbaarheid tegen informatiemanipulatie door statelijke
actoren nu en in de toekomst om aanvullende maatregelen vraagt, om zo de samenleving
blijvend weerbaar te houden tegen inmenging door statelijke actoren, om activiteiten
gericht op het ondermijnen van de democratie effectief tegen te gaan, en/of om de
Nederlandse inzet op het gebied van (internationale) veiligheid en stabiliteit te
beschermen. Het kabinet sluit hiermee aan bij de verschillende lopende sporen uit
de bredere aanpak statelijke dreigingen, waarmee maatregelen worden genomen om ongewenste
of heimelijke buitenlandse beïnvloeding tegen te gaan en onze democratische processen
en instituties worden beschermd.34

In Nederland doen de AIVD en MIVD onderzoek naar statelijke actoren en de mate waarin
zij een dreiging vormen voor de nationale veiligheid. In dat onderzoek kunnen zij
stuiten op het gebruik van desinformatie als tactiek of middel.

Gelijkgezinde partners beschikken over gelijke en andere instrumenten om FIMI te detecteren
en tegen te gaan, bijv. capaciteit voor de detectie van FIMI-campagnes op basis van
openbare bronnen. Het kabinet brengt het instrumentarium in kaart waarover gelijkgezinde
partners beschikken, verkent de toepasbaarheid van dit instrumentarium binnen de Nederlandse
context en onderzoekt daarmee het handelingsperspectief voor eigen beleid.

Tot slot

Met dit stevige pakket aan nieuwe acties versterken we de al bestaande lijnen waarbinnen
de Rijksoverheid optreedt tegen desinformatie, zoals geschetst in de Rijksbrede strategie.35 Daarnaast verkennen we, gebaseerd op wetenschappelijk onderzoek en contacten met
bevriende landen, de mogelijkheden tot aanvullende interventies passend binnen de
Nederlandse context.

Hierdoor beschermen we onze democratische rechtstaat en individuele burgers, nu en
in de toekomst, tegen de ondermijnende impact van desinformatie. Halverwege 2025 informeert
het kabinet uw Kamer over de voortgang van de uitvoering van deze brief.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
A.C. van Huffelen

De Minister van Binnenlandse Zaken en Koninkrijksrelaties,
H.M. de Jonge

Bijlage 1 Voortgang acties Rijksbrede strategie voor de effectieve aanpak van desinformatie

In december 2022 is de inzet om de impact van desinformatie te verminderen herzien
in de Rijksbrede strategie voor de effectieve aanpak van desinformatie. Hieronder
wordt weergegeven wat de stand van zaken is van de acties uit de Rijksbrede strategie,
dit is net zoals in de Rijksbrede strategie gecategoriseerd via twee sporen.

Spoor 1: Het versterken van het vrije en open publieke debat

Pluriform medialandschap behouden

Om het pluriforme medialandschap in Nederland te behouden, werkt de Staatssecretaris
van Onderwijs, Cultuur en Wetenschap (OCW) aan het versterken van de journalistiek,
lokale publieke omroepen en aan persveiligheid. Ook heeft het adviescollege Van Geel
zijn eindrapport «Eenheid in Veelzijdigheid» opgeleverd waarin aanbevelingen gedaan
worden over de pluriformiteit van het landelijke publieke omroepbestel.36 De Staatssecretaris van OCW heeft de Kamer geïnformeerd over de keuzes die ten grondslag
liggen aan het herzien van het publieke omroepbestel, de Kamer heeft hierover op 11 april
jl. gedebatteerd.37

Op EU-niveau zijn stappen gezet om de onafhankelijkheid en verscheidenheid van media-aanbod
te versterken met de Europese verordening mediavrijheid. Deze verordening bevat verschillende
bepalingen die de redactionele onafhankelijkheid van media versterken. Daarnaast wordt
de samenwerking tussen toezichthouders versterkt, o.a. waar het gaat om het weren
van mediadiensten van buiten de Unie die een risico vormen voor publieke veiligheid.
De Staatssecretaris van OCW heeft uw Kamer nader geïnformeerd over dit akkoord.38

Tot slot is op 1 januari 2024 het gebruik van persoonsgegevens voor intimiderende
doeleinden (doxing) strafbaar gesteld. Individuen of groepen die doxen hebben als
doel een ander vrees aan te jagen, ernstige overlast aan te doen, of de persoon in
de uitoefening van zijn ambt of beroep ernstig te hinderen. Door middel van deze nieuwe
strafbaarstelling kan dit beter en sneller worden aangepakt.

Weerbaarheid burgers versterken

Om de weerbaarheid van burgers tegen desinformatie te versterken heeft het Ministerie
van BZK in 2023 een financiële bijdrage geleverd aan www.isdatechtzo.nl.39 Deze bijdrage wordt in 2024 voorgezet, met doel de impact van de website verder te
vergroten. Hierom publiceert de website artikelen die aansluiten op actualiteiten
en nieuwe ontwikkelingen, bijvoorbeeld de Europese verkiezingen. Daarnaast zal de
website zich dit jaar richten op desinformatie binnen de specifieke context van verschillende
platformen. Ook werkt isdatechtzo.nl samen met factcheckers en andere stakeholders
om te kijken waar zij elkaar kunnen versterken en impact kunnen vergroten.

In opdracht van de Staatssecretaris voor OCW is het Netwerk Mediawijsheid in 2023
begonnen met het project Dichterbijnieuws.40 Dit project heeft als doel om nieuwswijsheid en het besef van het belang van de onafhankelijke
journalistiek te vergroten bij jongeren en volwassenen. In dit project worden in 2024
onder meer burgerdialogen georganiseerd en schoolbezoeken van journalisten in klassen.

Daarnaast is in samenwerking met het Rathenau instituut een meerjarig dialoog programma
gestart. Op het moment wordt hierbinnen gewerkt aan een selectie van de thema’s en
een uitwerking van de methodologie. Naar verwachting zal de eerste maatschappelijke
dialoog in september of oktober van 2024 plaatsvinden.

Recent onderzoek van het CBS naar ICT-gebruik van huishoudens en personen, een onderzoek
dat in alle EU-landen op dezelfde manier wordt uitgevoerd, toont aan dat Nederlanders
ten opzichte van andere Europeanen zich relatief kritisch opstellen ten aanzien van
online informatie. Van de mensen die hebben aangegeven informatie op internet te hebben
gezien waarover ze twijfelden, zei 66 procent te hebben gecontroleerd of deze informatie
waar was. Ruim 80 procent van hen gaf aan dit te doen door naar meer informatie te
zoeken op andere nieuwswebsites of Wikipedia. De helft zei de bron te hebben gecontroleerd.
In 2023 had Nederland van alle EU-27 landen het hoogste percentage inwoners (van 16
tot 75 jaar), dat op internet informatie gezien had die volgens hen niet waar was,
of waarbij ze twijfelden aan de waarheid ervan (71 procent). In Finland zei 70 procent
van de 16- tot 75-jarigen dit, in Roemenië was dit met 29 procent het laagst. Het
EU-27 gemiddelde was 49 procent.41

Stimuleren en gebruik publieke alternatieven voor online platformen

In 2023 heeft het Ministerie van BZK aan ICTU de opdracht verleend om Polis42 technisch te realiseren. In 2024 zal Polis, binnen de Rijksoverheid, op twee onderwerpen
worden ingezet. Hierbij worden de functionaliteiten van het instrument getest en onderzocht
wat nodig is voor grootschalig en publiek gebruik. Vervolgens zullen twee onderwerpen
met een representatieve steekproef worden geprobeerd om het instrument verder door
te ontwikkelen. Als het platform voldoet aan de eisen en behoefte van de Rijksoverheid,
vindt vervolgens in 2024 een case openbaar plaats. Bij succes van deze case zal het
instrument voor structureel gebruik worden klaargemaakt. Zodat het kan worden ingezet
bij participatietrajecten en raadplegingen over verdelende onderwerpen. En zo inzicht
kan geven in de nuances van het debat, consensus en minderheidsstemmen.

Spoor 2: Invloed van desinformatie verminderen

Inzet afhankelijk van de inhoud van desinformatie

Waar het gaat over het vergroten van het bewustzijn van (overheids)organisaties over
desinformatie, heeft het Ministerie van BZK in 2023 actief gewerkt aan het vergroten
van de kennis van medeoverheden en burgers over desinformatie rondom het verkiezingsproces.
Over de genomen maatregelen is uw Kamer op 9 november 2023 geïnformeerd.43

Ook heeft het Ministerie van BZK in februari 2023 een simulatie georganiseerd voor
ambtenaren en communicatieprofessionals vanuit de Ministeries van BZK, EZK, OCW, Defensie
en de NCTV. Het doel van deze simulatie was dat deelnemers leerden snel en proportioneel
te reageren op desinformatiecampagnes. Uit de evaluatie van de simulatie bleek dat
deelnemers deze als interessant en leerzaam hadden ervaren. In de begroting van BZK
voor 2024 is daarom wederom budget gereserveerd voor het organiseren van een desinformatiesimulatie
met 40 mensen.

Het kabinet heeft eind oktober 2023 ook de Handreiking voor gemeenten voor online
onderzoek bij het handhaven van de openbare orde en veiligheid (OOV) gepubliceerd.44 De handreiking geeft handvatten voor gemeenten om actief met hun privacy-organisatie
invulling te geven aan hun OOV-taak in relatie tot de privacy van burgers. Deze handreiking
komt tegemoet aan de wens van gemeenten om vanuit de Rijksoverheid handvatten te krijgen
voor het verrichten van online onderzoek in publiek toegankelijke bronnen in het kader
van OOV.

Tot slot kan desinformatie ook tijdens een crisis hele serieuze gevolgen hebben. Om
crisisexperts beter te equiperen om hiermee om te gaan, is alertheid op desinformatie
een vast onderdeel geworden in trainingen en handreikingen over crisiscommunicatie
en crisisbeheersing. Ook in risicocommunicatie wordt in toenemende mate stil gestaan
bij desinformatie, bijvoorbeeld via denkvooruit.nl.

Waar het gaat over internationale normen heeft Nederland, samen met Canada, op 20 september
2023 de Global Declaration on Information Integrity Online gelanceerd.45 Deze verklaring ziet toe op het bevorderen van de integriteit van online verspreidde
informatie en daarmee ook het tegengaan van misinformatie en desinformatie. De verklaring
biedt kaders voor toekomstige initiatieven die raken aan het tegengaan van desinformatie
en de bescherming en promotie van een integere informatie-omgeving. Het promoten van
informatie integriteit is daarbij een positieve manier om desinformatie tegen te gaan,
waarbij de focus ligt op het stimuleren van (de verspreiding van) authentieke, non-synthetische
content i.p.v. maatregelen gericht op censuur.

Deze positieve aanpak werpt zijn vruchten af; inmiddels hebben 34 landen zich aangesloten
bij deze verklaring en heeft Brazilië, als voorzitter van de G20, aangegeven de verklaring
te gebruiken als startpunt van de G20 discussies over de aanpak van desinformatie
en promotie van informatie integriteit dit jaar.

Nederland maakt sinds januari 2024 onderdeel uit van de stuurgroep van de Mis/Dis Resource Hub van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO). Met deze
groep werkt Nederland in multilateraal verband aan adviezen en rapporten voor het
tegengaan van desinformatie en de promotie van informatie integriteit. Op 4 maart
2024 is het eerste rapport gepubliceerd; Fact not Fakes: Tackling Disinformation, Strengthening Information Integrity.

Hierin wordt een analytisch kader gepresenteerd om landen te begeleiden bij het ontwerpen
van beleid. Het richt zich langs drie complementaire kaders:

• Beleid om de transparantie, verantwoordingsplicht en pluraliteit van informatiebronnen
te verbeteren

• Het bevorderen van maatschappelijke weerbaarheid tegen desinformatie

• Het verbeteren van organisatie en maatregelen binnen overheidsinstellingen om de integriteit
van de informatie ruimte te handhaven.

Sinds januari 2024 heeft Nederland het voorzitterschap overgenomen van de Freedom Online Coalitie. Centraal in het Nederlandse FOC-voorzitterschap dit jaar staat het intensiveren
van de samenwerking tussen FOC-landen om als eenheid invloed uit te oefenen op belangrijke
onderhandelingen binnen de VN, zoals die over de Global Digital Compact. Doel daarbij is het behoud van het multistakeholder-model en ervoor te zorgen dat
nieuwe internationale afspraken over digitale technologieën (zoals AI) goed verankerd
zijn in mensenrechten. Een van de prioriteiten is daarbij het tegengaan van het gebruik
van technologie voor repressieve doeleinden.

Nederland is ook co-voorzitter van de FOC Taskforce on Information Integrity Online. Binnen deze taskforce wordt samen met experts uit het maatschappelijk middenveld,
de private sector, academici en overheidsvertegenwoordigers gewerkt aan een visie
op hoe een gezond online informatie-ecosysteem er in detail uit zou moeten zien. Met
deze inzet wordt binnen de overheden van de FOC-lidstaten capaciteit opgebouwd om
informatie integriteit te promoten middels een op mensenrechten en democratische waarden
gebaseerde aanpak.

Inzet afhankelijk van de verspreider of producent van desinformatie

Tot slot besteedt het kabinet specifiek aandacht aan buitenlandse desinformatie die
door statelijke, of daaraan gelieerde actoren, wordt verspreid. Door de Europese Unie
wordt in deze context gesproken over FIMI.46 De aanpak van desinformatie verspreid door deze actoren past binnen de bredere aanpak
statelijke dreigingen, die onder andere inzet op het verhogen van de weerbaarheid
en respons tegen hybride dreigingen.47

Om de responsmogelijkheid van het kabinet te versterken is op 7 november 2023 het
Rijksbreed Responskader tegen statelijke dreigingen (RBRK) bekrachtigd. Hiermee heeft
het kabinet de mogelijkheid om een gecoördineerde respons af te geven tegen statelijke
dreigingen, waaronder FIMI.

Het kabinet staat daarnaast zowel bilateraal als in multilateraal verband in nauw
contact met andere landen waar het FIMI betreft. Deze coalities zijn afgelopen jaar
versterkt en uitwisselingen zijn geïntensiveerd. Het betreft onder andere uitwisselingen
in de EU, G7, NAVO en OESO. Dit is ook bruikbaar voor het Nederlandse dreigingsbeeld.

Concrete voorbeelden hiervan zijn het Europese Rapid Alert System, het Hybrid Center of Excellence en het NAVO StratCom Center of Excellence. In deze gremia zijn onder andere signalen over desinformatie, maatregelen om hiermee
om te gaan en de laatste wetenschappelijke inzichten uitgewisseld. Leden van de NAVO
en Europese lidstaten doen mee om de negatieve impact van desinformatie zo effectief
mogelijk aan te pakken en van elkaar te leren. Via deze wegen worden ook FIMI-campagnes
gesignaleerd, vindt uitwisseling plaats over de verschillende verschijningsvormen
van FIMI en worden best practices gedeeld over het verhogen van de weerbaarheid en responsmogelijkheden. Waar nodig
wordt gekeken naar een gezamenlijke reactie. Nederland participeert actief, o.a. door
via het Rapid Alert System vertaalde versies van de Rijksbrede Strategie en de Kamerbrief
Weerbaarheid Verkiezingsproces te delen.

Ook het instrumentarium van de EU op het gebied van FIMI is uitgebreid. De totstandkoming
van de EU FIMI Toolbox, waarmee de EU op systematische wijze kan reageren op FIMI-dreigingen
en incidenten, is in 2023 afgerond. De Toolbox is een bundeling van bestaand en toekomstig
instrumentarium op het gebied van weerbaarheidsverhogende maatregelen en capaciteitsopbouw,
disruptie en regulering, en politieke en diplomatieke responsmaatregelen. In juli
2023 is het instrument voor het eerst ingezet, toen de EU sancties oplegde aan diverse
Russische entiteiten en personen voor het verspreiden van informatiemanipulatiecampagnes.48 EDEO en lidstaten werken daarnaast aan het verhogen van het gedeeld situationeel
(dreigings)beeld, o.a. door het signaleren van campagnes via het EU Rapid Alert System.49

Inzet op de verantwoordelijkheden van traditionele en sociale media

Sinds 25 augustus 2023 is de DSA van toepassing op 19 zeer grote online platformen
en zeer grote online zoekmachines, waaronder een aantal zeer grote sociale media platformen
(Facebook, TikTok, Instagram, X/Twitter). Voor alle overige tussenhandeldiensten is
de DSA sinds 17 februari 2024 van toepassing. De Minister van EZK heeft op 3 april
het wetsvoorstel voor de Uitvoeringswet DSA aan uw Kamer aangeboden.

De AI-verordening zal naar verwachting in de tweede helft van 2024 in werking treden.
Deze gaat vervolgens gefaseerd van kracht. De verordening vereist transparantie voor
content die door AI wordt gegenereerd. Er moet bijvoorbeeld bij o.a. deep fakes duidelijk
worden gemaakt dat foto’s of video’s door of met behulp van AI zijn gecreëerd. Dit
geldt ook voor door AI gegenereerde teksten. Systemen die stemgedrag van natuurlijke
personen en/of de uitkomst van verkiezingen of referenda beïnvloeden zijn als hoog
risico aangemerkt en ontwikkelaars moeten zo risico-mitigerende maatregelen nemen.

Er komt een verbod voor AI-systemen die subliminale technieken gebruiken, voor manipulatieve
systemen in brede zin, en voor systemen die kwetsbaarheden (zoals leeftijd, handicap,
sociale of economische situatie) uitbuiten om personen te beïnvloeden. Ook worden
transparantie en risico-mitigatie eisen opgelegd aan grote AI-modellen. Daar kan ook
het risico van het gebruik van het AI-model voor het verspreiden van desinformatie
onder vallen.

Om initiatieven tot meer betrouwbare content zichtbaarder te maken en authenticiteit
te garanderen, heeft Public Spaces in 2023 het Proof of Provenance Project afgerond. Dit project heeft een browser plug-in opgeleverd die iedereen in diens
eigen browser kan installeren. Deze extensie stelt de lezer in staat te achterhalen
wie de oorspronkelijke auteur is van een bepaald artikel. Daarnaast worden gesprekken
gehouden met platformen om de mogelijkheden van contentverificatie via cryptografie
zoals C2PA te bekijken.

Ondertekenaars van de EU Praktijkcode tegen Desinformatie, waaronder sociale mediaplatformen
en mediawijsheid organisaties, rapporteren sinds 2023 jaarlijks over hun voortgang
van gemaakte afspraken.50 Voor het eerst is er, op aandringen van de European Digital Media Observatory (EDMO),
vergelijkend onderzoek gedaan naar de prestaties van verschillende platformen in Polen,
Spanje en Slowakije.51 Daar is te lezen dat sociale media platformen in verschillende mate en op verschillende
manieren hun verantwoordelijkheid nemen om desinformatie tegen te gaan. De toezichthouder
beoordeelt of deze voortgang voldoende is binnen het wettelijk kader van de DSA. In
het geval van zeer grote online platformen als X, Facebook en Twitter is dat primair
de Europese Commissie. Op 18 december 2023 heeft de Commissie een formele procedure
ingeleid om te beoordelen of X mogelijk inbreuk heeft gemaakt op de DSA52. De inleiding van een formele procedure geeft de Commissie de bevoegdheid om verdere
handhavingsmaatregelen te nemen in geval van niet-naleving.

Kennisontwikkeling

Het Ministerie van BZK heeft een pilot studie laten uitvoeren door de European Digital
Media Observatory (EDMO) waarin werd onderzocht wat de meest efficiënte governancestructuur
is om datatoegang zoals beschreven in de DSA te faciliteren. De resultaten uit de
EDMO pilot zullen de basis vormen voor de gedelegeerde handeling die de Europese Commissie
zal publiceren over datatoegang voor wetenschappers. Een gedelegeerde handeling wijzigt
niet-essentiële onderdelen van een wetgevings-handeling of vult deze aan. Zodra de
gedelegeerde handeling van toepassing is, hebben wetenschappers toegang tot datasets
van zeer grote online platformen (VLOPs), inclusief gevoelige data. Dit zal in 2024
zijn. Daarnaast hebben sinds 10 augustus 2023 wetenschappers verbonden aan universiteiten
of onderzoeksinstellingen in Europa toegang gekregen tot de publieke data van TikTok.
Dit omvat informatie over gebruikersprofielen, volgers, likes en gepubliceerde content,
toegankelijk via TikTok’s Application Programming Interface (API). Hiermee kunnen wetenschappers onderzoek doen naar de maatregelen die TikTok
neemt om burgers te beschermen.

Daarnaast heeft het Ministerie van BZK in 2023 de lokale impact en aard van desinformatie
in kaart gebracht in de Quickscan lokale misleidende informatie. Uw Kamer is eerder
geïnformeerd over de resultaten van dit onderzoek.53 Uit dit onderzoek bleek dat gemeenten misleidende informatie, in de vorm van desinformatie,
misinformatie en complottheorieën, ervaren als een steeds nadrukkelijker probleem.
Ook benoemen de respondenten dat het omgaan met misleidende informatie veel tijd en
geld kost, wat de werkdruk en kwaliteit van de besluitvorming beïnvloedt. Daarnaast
kan misleidende informatie het werkplezier van wethouders en gemeenteraadsleden aantasten.
Tegelijkertijd constateert men een gebrek aan capaciteit en expertise binnen de gemeente
om hier goed mee om te gaan. Daaruit volgt een ondersteuningsbehoefte bij het herkennen
van de verschillende vormen van misleidende informatie en het voeren van een preventieve
aanpak. Om tegemoet te komen aan deze ondersteuningsbehoefte zal het Ministerie van
BZK in 2024 daarom de handleiding «omgaan met desinformatie» voor medeoverheden herzien
en breed onder de aandacht van gemeenten brengen.

Ook heeft het Ministerie van BZK subsidie verstrekt voor het oprichten van een Ronde
Tafel Desinformatie. Beeld & Geluid trad op als secretaris en coördinator van dit
initiatief. Verspreid over 2022 en 2023 zijn in totaal vier kennissessies georganiseerd
waarin verschillende experts uit het maatschappelijk middenveld, wetenschap, media/journalistiek
en de overheid samenkwamen om kennis en ervaring uit te wisselen en oplossingsrichtingen
uit te denken met betrekking tot desinformatie. Deze kennissessies hebben bijgedragen
aan het versterken van een netwerk van onafhankelijke deskundigen een aan de kennisuitwisseling
over dit onderwerp.

Tot slot laat het kabinet momenteel onderzoek uitvoeren naar Chinese intimidatie van,
en inmenging in, Nederlandse media. Met dit onderzoek, bekostigd door BZ, OCW en JenV,
wordt tegemoetgekomen aan het verzoek van de Kamer (motie Brekelmans, Kamerstuk 21 501-02, nr. 2643). Naar verwachting wordt het onderzoeksrapport in de zomer van 2024 afgerond en gepubliceerd.