Verslag van een commissiedebat : Verslag van een commissiedebat, gehouden op 6 juli 2023, over voortzetting commissiedebat Desinformatie en online platformen d.d. 14 juni 2023

Nr. 198
VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 24 augustus 2023

De vaste commissie voor Digitale Zaken en de vaste commissie voor Binnenlandse Zaken
hebben op 6 juli 2023 overleg gevoerd met mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties
en Digitalisering, over:

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 29 november
2022 inzake kabinetsreactie versterkte gedragscode tegen desinformatie (Kamerstuk
30 821, nr. 169);

– de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties d.d. 27 december
2022 inzake informatie speciale portals socialemediaplatformen (Kamerstukken 30 821 en 26 643, nr. 172);

– de brief van de Minister van Buitenlandse Zaken d.d. 2 juli 2021 inzake fiche: Mededeling
richtsnoeren versterking gedragscode tegen desinformatie (Kamerstuk 22 112, nr. 3159);

– de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 20 juni
2023 inzake beantwoording vragen gesteld tijdens het commissiedebat Desinformatie
en onlineplatformen van 14 juni 2023 (Kamerstukken 30 821 en 26 643, nr. 183).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de vaste commissie voor Digitale Zaken, Valstar

De voorzitter van de vaste commissie voor Binnenlandse Zaken, Hagen

De griffier van de vaste commissie voor Digitale Zaken, Boeve

Voorzitter: Valstar

Griffier: Muller

Aanwezig zijn zes leden der Kamer, te weten: Dekker-Abdulaziz, Gündoğan, Kathmann,
Rajkowski, Valstar en Van Weerdenburg,

en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering.

Aanvang 10.03 uur.

De voorzitter:

Ik open deze vergadering en heet u allen van harte welkom bij de vaste commissie voor
Digitale Zaken. Aan de orde is de voortzetting van het commissiedebat Desinformatie
en onlineplatformen, dat op 14 juni 2023 heeft plaatsgevonden. Dit is dus een derde
termijn. Dat betekent dat er geen vierde termijn is. Het betekent dat we straks het
woord aan de Tweede Kamerleden gaan geven en vervolgens aan de Staatssecretaris voor
de beantwoording. We hebben later vandaag een tweeminutendebat. Dat is aangevraagd
door mevrouw Dekker-Abdulaziz. Voordat ik nog wat andere opmerkingen ga maken, wil
ik zeggen dat het kan zijn dat er vandaag wat Kamerleden in en uit gaan lopen, omdat
er plenair ook tweeminutendebatten gaande zijn. Datzelfde geldt voor deze voorzitter.
Ik moet even over twaalf in de plenaire zaal zijn, dus dan ga ik het voorzitterschap
overdragen aan de ondervoorzitter van deze commissie, mevrouw Dekker-Abdulaziz.

Er is een schriftelijke beantwoording van het vorige debat geweest. Daar heeft u allemaal
kennis van kunnen nemen. Die is ook geagendeerd voor dit debat. Ik ga toch voor de
zekerheid even aantekenen dat u de vorige keer ook toestemming heeft verleend aan
mevrouw Gündoğan, die geen lid is van deze commissie. Ik ga er gemakshalve van uit
dat u dat dit keer ook doet. Dat is het geval. Dan ga ik haar bijna het woord geven,
maar niet voordat ik heb aangegeven dat ik de interrupties ga maximeren tot twee keer
twee in de eerste termijn. Ik zeg erbij: hoe minder interrupties u bij elkaar doet,
hoe meer tijd u overhoudt voor de termijn van de Staatssecretaris. Dat is geen open
invitatie; ik teken het alleen aan.

Dan ga ik allereerst het woord aan mevrouw Gündoğan geven. U heeft allen vier minuten.
Mevrouw Gündoğan.

Mevrouw Gündoğan (Lid Gündoğan):

Dank u wel, voorzitter. Ik maakte net al een gekscherende grap dat ik mijn inbreng
toch had moeten uitschrijven, maar ik doe het even uit het blote hoofd. Ik denk dat
er de afgelopen periode ontzettend veel aandacht is voor sociale media. Deze week
was dat ook weer het geval, zowel op tv als in The Economist. De strijd is losgebarsten
tussen Elon Musk aan de ene kant en Mark Zuckerberg aan de andere kant over wie nu
een nieuwe Twitter gaat beginnen. Süeda Isik van NRC laat op TikTok zien hoe de algoritmes
werken en hoe je als je je voordoet als een jongen van 16, in een hele misogyne omgeving
terechtkomt. Ik denk dat er ontzettend veel signalen zijn om ons zorgen te maken over
sociale media. Aan de ene kant is er hun hypercommerciële inslag, waarmee ze data
kapitaliseren voor hun eigen gewin en soms zelfs ten koste van onze eigen democratieën.
In kwetsbaardere landen wordt het gewelddadig. Daarom wil ik heel even stilstaan bij
de beantwoording van de Staatssecretaris van de vorige keer. Als ik het even mag samenvatten,
zegt de Staatssecretaris dat de veiligheidsdiensten behoorlijk goede instrumenten
hebben. Dat is niet mijn ervaring. Ik heb het de vorige keer bewust bij mezelf gehouden,
omdat ik daardoor zeker weet dat ik geen dingen zeg die onwaar zijn of waarop kan
worden afgedongen. Bij de doodsbedreigingen die ik heb gekregen, met name via sociale
media, liepen onze veiligheidsdiensten vast. Die waren onvindbaar vanwege anonimiteit.
Daarom wil ik even doorgaan op anonimiteit.

Ik ben niet tegen anonimiteit an sich. Ik ben tegen onvindbaarheid die gekoppeld is
aan anonimiteit. Ik zou toch heel graag, nu de DSA eraan zit te komen, de Staatssecretaris
willen vragen naar de juridische mogelijkheden om onvindbaarheid tegen te gaan. Zelf
zit ik eraan te denken – maar misschien zijn er ook andere oplossingen – dat als je
onder andere op Twitter of op Instagram een geverifieerd account wil hebben, je een
kopie van je paspoort moet inleveren. Maar er zijn ook mildere vormen. Ik denk bijvoorbeeld
aan de Ajax-app. Die heb ik zelf. Daarbij moet je allerlei gegevens invullen, waardoor
je echt traceerbaar bent. Wanneer inlichtingendiensten behoefte hebben om te weten
wie er achter een account zit, zijn er vele manieren om dat uit te vinden. Dan is
het principe dus dat het prima is als iemand als buurvrouw123 anoniem door het leven
wil gaan vanwege werk of andere redenen. Denk bijvoorbeeld aan privéredenen, omdat
hij of zij niet wil dat de familie weet welke geaardheid of gedachten hij of zij heeft.
Die vrijheid moeten we ook borgen en geven. We gaan nog steeds uit van het goede van
de mens. Maar du moment dat buurvrouw123 je vertelt dat zij of hij je kind bij het
schoolplein staat op te wachten om vol te spuiten omdat je coronawoordvoerder bent,
hebben we echt met een ander niveau te maken. Nogmaals, ik ben me ervan bewust dat
wat ik heb meegemaakt, nog maar het topje van de ijsberg is van wat sommige bewindspersonen
of journalisten over zich heen krijgen. Door het feit dat Nederland nu niet meer in
de top tien staat van de meest veilige persvrije landen, denk ik dat er echt urgentie
is om te onderzoeken wat we nog meer zouden kunnen doen.

Ik heb de tijd niet in de gaten gehouden. Ik hoor dat ik nog 30 seconden heb. Nogmaals,
dit is niet een cri de coeur om de vrijheid van meningsuiting te gaan. Dit is een
cri de coeur om bedreigingen en onveiligheid tegen te gaan. Daar wil ik het bij laten.

Dank u wel.

De voorzitter:

Dank, mevrouw Gündoğan. Dan geef ik het woord aan mevrouw Van Weerdenburg. Zij spreekt
namens de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank u wel, voorzitter. Ik denk dat ik ook even ga inzoomen op anonimiteit. Daar ging
de beantwoording grotendeels over. In het debat dat tot nu toe gevoerd is, zie je
een beetje een beweging van meerdere partijen naar de vraag of we de anonimiteit moeten
opheffen. De PVV vindt dat in ieder geval een heel erg slecht idee. Overigens is het
natuurlijk wel redelijk hypocriet dat een aantal mensen aan de linkerkant van het
politieke spectrum het hardst schreeuwden dat Elon Musk geen geld mag vragen voor
verificatie, terwijl je daarmee eigenlijk ook een soort van gegevens mee vastlegt.
In die zin heft dat de anonimiteit juist deels op. Laat ik het even bij de feiten
houden. Ik ben heel erg blij dat de Staatssecretaris antwoordt dat het opheffen van
de anonimiteit niet direct een goed idee is. Ik maak me wel een beetje zorgen over
de formulering, want daar spreekt een beetje twijfel uit. Het is niet direct een goed
idee, maar het is niet helemaal van tafel. Ik zou nog wel eventjes wat uitgebreider
willen horen wat ze ermee bedoelt dat het niet direct een goed idee is.

Collega Gündoğan had het net over buurvrouw123. Dat je anoniem bent met je naam, avatar
of het plaatje dat erbij staat, is één ding. Maar het is iets anders als de politie
bij een overtreding moet kunnen achterhalen wie of wat het is. Laten we heel duidelijk
zeggen waar we voorstander van zijn en waarvan niet. Volgens mij schetste de Staatssecretaris
ook al dat het op dit moment al zo is dat anonieme accounts vervolgd kunnen worden.
Qua politiecapaciteit kunnen we daar nog een heel eind in groeien.

De voorzitter:

U mag even wachten, want deze bel duurt lang.

We hebben even gewacht tot de aanvangsbel voorbij was. De rest van de Kamer is ook
wakker. Ik geef het woord weer aan mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Veel dank, voorzitter. Ik zei dat het nu al zo is dat anonieme accounts opgespoord
kunnen worden, indien nodig. Ik denk dat dat goed is. Ik denk dat dat voldoende is.
Ik ben het wel eens met de voorgaande spreker dat we qua politiecapaciteit en effectiviteit
nog een stuk kunnen groeien. Mijn fractievoorzitter kan daar ook over meepraten.

Ik wil tot slot nog één dingetje uit de beantwoording noemen. Daarin staat heel duidelijk
dat de overheid niet bepaalt wat desinformatie is. Ik ben blij met dat antwoord van
de Staatssecretaris. Ik zou haar ook willen vragen om dan heel duidelijk te zeggen
dat niet alleen de Nederlandse overheid dat niet bepaalt, maar dat het ook niet in
Brussel wordt bepaald door de Europese Commissie, het parlement of wat dan ook. Daar
is wel een hele beweging gaande van wat allemaal wel en niet gezegd mag worden en
wat allemaal onder haat en nog wat vage termen valt. Dat gaat steeds breder. Dat wordt
een glijdende schaal. Ik zou dus graag van deze Staatssecretaris nog heel duidelijk
willen horen dat óók Brussel, dus ook de Europese overheid, niet bepaalt wat desinformatie
is. Als zij dat kan toezeggen en kan doen, ben ik voorlopig tevreden.

Dank u.

De voorzitter:

Dank, mevrouw Van Weerdenburg. Dan geef ik het woord aan mevrouw Kathmann. Zij spreekt
namens de PvdA.

Mevrouw Kathmann (PvdA):

Dank, voorzitter. Ik heb ook een aantal vervolgvragen over de beantwoording van de
eerdere vragen. De eerste vraag gaat over een vraag die ik stelde over het keurmerk
voor de verdere ontwikkeling van AI. Ik had daarbij specifiek gevraagd welke rol de
regionale publieke omroepen daarin zouden kunnen spelen. De Staatssecretaris geeft
gelukkig heel fijn aan dat ze zich aan het oriënteren is op het ontwikkelen van een
keurmerk. Ik zou daar toch iets meer feeling bij willen krijgen. Kan de Staatssecretaris
erop ingaan wanneer zij de Kamer daarover gaat informeren? Kunnen we misschien iets
van een tijdlijn krijgen, of informatie over hoe de oriëntatie eruitziet? Worden de
regionale publieke omroepen daarbij betrokken?

Ook had ik een aantal vragen gesteld over het crisis response mechanism. Ik pak ze
er even bij. De meeste vragen zijn wel beantwoord, maar niet de vraag over de rol
die Nederland daarin heeft. Als het mechanisme in werking treedt, heeft een lidstaat
straks nieuwe, eigen bevoegdheden, omdat die aangemerkt is als trusted flagger. Kan
de Staatssecretaris aangeven of er van tevoren kaders zijn opgesteld, dus hoe die
bevoegdheid door Nederland ingevuld gaat worden en hoe die nationaal mogelijk gebruikt
gaat worden?

Dat waren mijn aanvullende vragen.

De voorzitter:

Dank, mevrouw Kathmann. Dan geef ik het woord aan mevrouw Dekker-Abdulaziz. Zij spreekt
namens D66.

Mevrouw Dekker-Abdulaziz (D66):

Dank, voorzitter. Vandaag spreken we voor de tweede keer in korte tijd over desinformatie.
Vooraf is het goed om duidelijk te stellen waar we het over hebben. Desinformatie
is het moedwillig verspreiden van foutieve informatie om maatschappelijke schade aan
te richten. Per ongeluk onzin rondbazuinen is dus niet hetzelfde. Het is het voeden
van complottheorieën, onwaarheden over instanties verspreiden enzovoort.

Bij het vorige debat hebben we het kort gehad over anonimiteit online. Zolang niemand
online rekenschap hoeft af te leggen, blijven grote platformen zoals Twitter of Facebook
een wildwestgebied, waar iedereen maar doet waar hij zin in heeft. Wat D66 betreft
zijn er oplossingen denkbaar waarmee online anonimiteit bewaard kan blijven, maar
er ook rekenschap kan worden gegeven van strafbare uitlatingen. D66 wil inzetten op
pseudonimiteit op de grote platformen. Ik snap dat dat vragen oproept. Het is een
beetje zoals op een gemaskerd bal. Iedereen houdt zijn masker, zijn anonimiteit, maar
heeft een uniek token in de hand. Dat token is bijvoorbeeld op basis van jouw e-mail,
telefoonnummer of IP-adres. Op het moment dat je aantoonbaar de regels overtreedt,
kan een platform optreden. Dan moet je je token inleveren en wordt je account geblokkeerd.
Omdat je een token hebt moeten inleveren, kan je niet zo gemakkelijk als nu een nieuw
account aanmaken en van vooraf aan beginnen.

D66 vindt het een groot goed dat iedereen online kan zijn wie hij of zij wil. Dat
moet veilig gebeuren, maar het internet en met name de grote platformen zijn allang
geen prettige omgevingen meer. Naast alle desinformatie is het een open riool voor
racisme en hatespeech. Met deze pseudonimiteit verhogen we de verantwoordelijkheid
bij gebruikers en platformen om de regels te handhaven. Zelfs Twitter maakt nu al
een stap naar een verificatieplicht voor de dienst TweetDeck. Dat is volgens mij een
helder signaal dat hierin stappen gezet moeten worden. Ik wil graag van de Staatssecretaris
weten hoe zij hiernaar kijkt. Is zij bereid om deze mogelijkheden te onderzoeken en
hiervoor te pleiten in Brussel?

Tot slot. In het eerdere debat heb ik een punt gemaakt over de invloed van AI op desinformatie.
Ik denk dan vooral aan het onjuist citeren van nieuwsmedia. Daarom bereid ik samen
met mijn collega van de VVD een motie voor over een watermerk voor door AI gegenereerde
teksten.

Tot slot. We moeten als samenleving omgaan met desinformatie. Dat vraagt iets van
ons als individuen, maar ook van de overheid. Wij zien bijvoorbeeld dat Denemarken
succes heeft met een bottom-up approach. Daar zijn we van gecharmeerd. Daarom lijkt
het mij verstandig dat de aanpak van desinformatie ook een vast onderdeel wordt van
de cybersecurity oefeningsdag, zoals ISIDOOR. Graag een toezegging hierop. Dat scheelt
weer een motie vanavond.

Dank u wel.

De voorzitter:

Dank u wel, mevrouw Dekker-Abdulaziz. Voordat ik het woord aan mevrouw Rajkowski geef,
is er een interruptie van mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Ik probeer in het verhaal van mevrouw Dekker overeenkomsten te vinden. Ze had het
over pseudonimiteit. Daar had ik het net ook al eventjes over. Alleen, ik heb een
beetje moeite met het volgende. Aan de ene kant heeft ze het over strafbare feiten.
Daarover zijn we het eens. Ik denk dat dat nu ook al goed te doen is. Maar op een
ander punt zet ze desinformatie tegenover complottheorieën. Dat zijn verschillende
dingen. Gaat het nou om strafbare feiten, om dingen die echt volgens de wet niet mogen,
of zitten we al in het grijze gebied van complottheorieën? Want complottheorieën zijn
niet per definitie strafbaar.

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de vraag. Volgens mij heeft de Staatssecretaris in haar schriftelijke beantwoording
ook laten zien dat er voor strafbare feiten het een en ander bestaat, maar dat het
niet altijd al gebeurt. Ik heb het over zaken als hatespeech en discriminatie. Dat
is wel het overtreden van de regels van de platformen zelf, maar daar wordt op dit
moment niet op gehandhaafd. Daar doel ik op.

Mevrouw Van Weerdenburg (PVV):

Oké, maar strafbare hatespeech – ik zou het moeten weten, maar ik heb even de Nederlandse
strafwet niet helder – is vooralsnog niet hetzelfde als complottheorieën verspreiden.
Dat hoeft niet strafbaar te zijn. Dat kun je ook gewoon blokken. Laten we ook niet
doen alsof er helemaal niks tegen te doen is. Zeker op Twitter kun je op honderd verschillende
manieren iets filteren, blokken of wat dan ook. Nogmaals, gisteren had ik een debat
over de incidentele suppletoire begroting voor Oekraïne. Ik was daar samen met de
heer Baudet de enige spreker. Hij heeft daar een vrij lang verhaal gehouden. Verder
was er niemand aanwezig om het aan te horen. Dat mag natuurlijk. Dat kun je op Twitter
ook gewoon doen. Je kan ook jezelf afsluiten voor iets, vingers in je oren, en dan
hoef je er geen aanstoot aan te nemen.

Mevrouw Dekker-Abdulaziz (D66):

Ik hoor hier geen vraag, maar het gaat D66 om desinformatie. Ik heb aan het begin
van mijn betoog gezegd wat de officiële definitie van «desinformatie» is, namelijk
het moedwillig verspreiden van foutieve informatie om maatschappelijke schade aan
te richten. Daartegen moet je acteren. Je kunt jezelf daarvoor afsluiten door ergens
in een digitale kelder te zitten, maar het gaat natuurlijk om de maatschappelijke
gevolgen van desinformatie. Daar gaat het ons om.

De voorzitter:

Dan geef ik het woord aan mevrouw Rajkowski. Zij spreekt namens de VVD.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Een zeer korte inbreng van mijn kant. Het belangrijkste punt is
– daarom heeft de VVD het debat over desinformatie en socialemediaplatforms ook aangevraagd
– dat wij graag een verbod willen op algoritmen die mensen bewust doen radicaliseren.
De diensten waarschuwen ook dat de stap naar het plegen van geweld steeds kleiner
wordt en dat het een gevaar is voor onze democratische rechtsstaat. Daar wil de VVD
wat aan doen. De beantwoording tijdens het eerdere debat en de schriftelijke beantwoording
waren voor ons helder. De Staatssecretaris onderschrijft het probleem en geeft inderdaad
aan dat er nu wettelijk niets gedaan kan worden. Toezichthouders gaan kijken naar
algoritmen, maar we hebben nog niet geregeld waar ze naar kijken. Daarom gaat de VVD
straks bij het tweeminutendebat een motie hierover indienen.

De voorzitter:

U bent nog niet klaar met uw inbreng, want er is een interruptie van mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Ik ben heel benieuwd hoe zoiets er dan uit moet zien. In de vorige aflevering van
dit debat had mevrouw Rajkowski het over alle aanbevelingsalgoritmes. Daar was ik
het niet mee eens, maar ik kon het volgen. Maar nu heeft ze het over aanbevelingsalgoritmes
die iemand doen radicaliseren. Hoe ziet dat eruit? Als ik de heren Baudet en Wilders
volg en daardoor meer van hun tweets zie, is dat dan zo'n aanbevelingsalgoritme dat
mij kan doen radicaliseren?

Mevrouw Rajkowski (VVD):

Dan is er de vorige keer miscommunicatie ontstaan, denk ik. Wij zijn niet tegen aanbevelingsalgoritmes
an sich. Ik denk dat het heel prettig kan zijn dat als jij het heel fijn vindt om
bepaalde content te zien, jij daar meer van ziet. Of de content dan links, rechts
of whatever is, maakt mij eerlijk gezegd niet zo veel uit. Het punt dat we in het
vorige debat hebben proberen te maken, is het volgende. We hebben een gesprekje gehad
met een klokkenluider, wetenschappers en journalisten. Die hebben onderzoek gedaan.
Zij zien dat als je een clean browser hebt en een account aanmaakt, de volgende video
die dan wordt aanbevolen net iets extremer is dan wat je tot dan toe hebt gezien.
Binnen zes stappen hoor je dan dus dat je de overheid niet moet vertrouwen en dat
niks klopt. Het is dus juist steeds bedoeld voor manipulatie en radicalisering. Daarvan
dacht de VVD altijd: onze samenleving is weerbaar genoeg om dat zo te laten; dat kunnen
we allemaal aan. Nu zien we dat ook de diensten ervoor waarschuwen dat het niet goed
gaat en dat dit op lange termijn een gevaar is voor onze democratische rechtsstaat.
Dan vinden wij dat we nu moeten ingrijpen. Wij willen dat toezichthouders en wetenschappers
gaan kijken naar die algoritmen. Als dit element, waar big tech aan verdient maar
waardoor onze samenleving afgebroken wordt, er bewust in zit, willen we dat dat element
eruit gehaald wordt en verboden wordt.

De voorzitter:

Mevrouw Van Weerdenburg, tot slot.

Mevrouw Van Weerdenburg (PVV):

Ik begrijp waar mevrouw Rajkowski op doelt. Dat is de fabeltjesfuik, zoals Lubach
goed heeft uitgelegd. Dat begrijp ik. Maar ik wil hier alsnog eventjes in herinnering
roepen dat desinformatie volgens de strafwet niet strafbaar is. Ook het hebben van,
zoals ze dan worden genoemd, «radicale» gedachten of het zeggen van dingen die «radicaal»
overkomen, is niet strafbaar. Onze strafwet is heel duidelijk: pas als je iets gaat
doen, kom je in strafrechtelijk gebied. Ik snap niet waarom D66 en de VVD de strafwet
ineens willen gaan uitbreiden met dingen die allang niet meer strafbaar zijn. Het
is er ten eerste de plek niet voor. Ten tweede vind ik het nogal eng. Er wordt gesproken
over «radicaal» gedachtegoed en het verliezen van het vertrouwen in de overheid, maar
vind je het gek dat mensen hun vertrouwen in de overheid verliezen? En dat gaan we
dan criminaliseren? Ik mag toch hopen dat ik dat verkeerd begrepen heb.

Mevrouw Rajkowski (VVD):

Dat heeft u zeker verkeerd begrepen, want gezond wantrouwen jegens de overheid is
prima. Het is zelfs prima als je de overheid haat. Dat moeten mensen allemaal zelf
weten. Ik kan me ook voorstellen dat je alles wat met de overheid en politiek te maken
heeft niet vertrouwt, en misschien ook nooit meer gaat vertrouwen, als je door de
overheid kapot bent gemaakt in de toeslagenaffaire, in Groningen of op een andere
manier. Ik ben blij dat we in een samenleving leven waarin dat mag en moet kunnen.
Dat is volgens mij wat een democratische rechtsstaat is. Ik ben dat net vergeten te
zeggen, maar die motie ga ik inderdaad samen met D66 indienen.

Dan had ze nog een vraag, voorzitter. Ik moet even... Wat was het begin van de interruptie?

De voorzitter:

Kunt u dat punt kort herhalen, mevrouw Van Weerdenburg?

Mevrouw Van Weerdenburg (PVV):

Ja, heel kort. Ik vroeg me af of we de dingen die D66 en de VVD hiermee willen voorkomen,
gaan criminaliseren. Willen ze de wet uitbreiden of willen ze het gewoon voorkomen?
Dat laatste is eigenlijk al erg genoeg.

Mevrouw Rajkowski (VVD):

Nu heb ik ’m weer, voorzitter. Kijk, ik denk dat er veel dingen in onze samenleving
gebeuren waarvan we als democratie hebben gezegd: wij laten dit vrij omdat wij een
democratie zijn. Daar ben ik het tot op zekere hoogte mee eens. Toch zie ik dat er
aan een aantal randen van die democratie geschaafd wordt. Dat kan bijvoorbeeld zo
zijn in sommige vormen van informeel onderwijs. Daar gebeurt misschien niets letterlijk
strafbaars maar ik vind ze toch zeer onwenselijk, omdat kinderen daar worden opgevoed
om met de rug naar de samenleving te staan. Dat kan bijvoorbeeld ook zo zijn bij algoritmen
die bewust als doel hebben om mensen te laten radicaliseren, omdat big tech daar haar
geld mee verdient. Van dat soort dingen hebben we nog niet met elkaar afgesproken...
Daarom vind ik het goed dat we dit soort debatten voeren. Ik vind dat onwenselijk
en vind dat we dit moeten verbieden, en wel op Europees niveau. Daar ga ik de Staatssecretaris
toe oproepen.

De voorzitter:

Dank, mevrouw Rajkowski. Daarmee is er een einde gekomen... Nee, nog niet. Er is nog
een interruptie van mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Ik had een vraag. Ik hoor de VVD praten over de onwenselijkheid van dergelijke algoritmen,
die alleen maar escaleren. Daarover zijn we het volgens mij met elkaar eens. Maar
mijn vraag gaat over de wens van het Europees parlement om het algoritme van social
media in de AI Act als een hoogrisicoalgoritme te zien. Is de VVD het met me eens
dat de Staatssecretaris zich daar ook voor moet inzetten?

Mevrouw Rajkowski (VVD):

Nou, niet zomaar elk algoritme van sociale media.

Mevrouw Dekker-Abdulaziz (D66):

Het aanbevelingsalgoritme.

Mevrouw Rajkowski (VVD):

Van mij hoeft het aanbevelingsalgoritme zelf niet per se zo gezien te worden. Het
gaat me om de elementen die erin zitten. Daar zit het ’m voor mij in. Ik denk dat
aanbevelingsalgoritmen het Nederlandse mkb juist ook geholpen hebben om hun lokale
producten bij de juiste personen onder de aandacht te brengen. Ik zou aanbevelingsalgoritmen
dus niet in hun geheel aanmerken als een hoog risico. Dat hoeft denk ik ook niet.

Mevrouw Dekker-Abdulaziz (D66):

Het zien als hoogrisicoalgoritme stelt ons als overheid straks in staat om in ieder
geval te onderzoeken hoe dat algoritme in elkaar zit. Het zit dan ook gewoon in een
register. Het maakt het niet verboden of zo. Het is ook niet heel erg kwalijk. Het
staat dan alleen onder toezicht. Als het dan niet verboden wordt, gebeurt er helemaal
niets mee.

Mevrouw Rajkowski (VVD):

Nu ga ik meer de kant van mevrouw Van Weerdenburg op leunen. Ik ben toch nog niet
overtuigd, omdat ik alleen het deel uit die aanbevelingsalgoritmen wil hebben dat
een gevaar is voor onze democratische rechtsstaat. Van de rest zou ik echt af willen
blijven. Daar zit, denk ik, het verschil tussen ons en D66. Wij zitten tussen u en
de PVV in. Als het een haakje zou kunnen bieden om tot een oplossing te komen voor
zo'n verbod, wil ik er zeker naar kijken. Maar ik ben er wel voorzichtig mee.

De voorzitter:

Daarmee is er een einde gekomen aan de derde termijn van de zijde van de Tweede Kamer.
Voordat wij overgaan naar de beantwoording van de Staatssecretaris gaan wij 21,5 minuut
schorsen. Wij komen hier om exact 10.50 uur weer terug.

De vergadering wordt van 10.28 uur tot 10.52 uur geschorst.

De voorzitter:

Ik geef bij dezen het woord aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties
voor de beantwoording in de derde termijn.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Fijn dat we vandaag nog kunnen spreken over dit toch belangrijke
onderwerp. Het is een thema waarover we ook al in de eerste twee termijnen met elkaar
hebben gesproken. De bestrijding van desinformatie is inderdaad heel relevant. Tegelijkertijd
moeten we ervoor zorgen dat we de vrijheid van meningsuiting in dit land, een groot
goed, ook blijven bewaken. Ik ga door met de beantwoording van de vragen. Ik doe dat
op volgorde van de partijen.

Ik begin met de inbreng van mevrouw Gündoğan. Zij vroeg: wat kunnen opsporingsdiensten
nou eigenlijk doen tegen anonieme bedreigingen, waaronder doodsbedreigingen, op onlineplatforms?
Ze vroeg ook naar de vindbaarheid van de bedreigers. Mensen die online strafbare uitingen
doen, kunnen worden opgepakt. Er zijn mogelijkheden voor opsporing en vervolging.
Opsporingsdiensten kunnen informatie vorderen bij tussenhandelsdiensten zoals de onlineplatforms.
Op het moment dat er bijvoorbeeld sprake is van doodsbedreigingen, of andere vormen
van bedreigingen, kunnen opsporingsdiensten daar terecht. Zij zullen proberen te achterhalen
welke gebruikersgegevens zijn opgegeven bij het aanmaken van het account, welk e-mailadres
en welk telefoonnummer eventueel aan dat account zijn gekoppeld, welk IP-adres is
gebruikt bij het aanmaken van het account, welk IP-adres is gebruikt bij het plaatsen
van het bedreigende bericht en op welke andere IP-adressen dit account het laatst
is gebruikt. Indien de identiteit van de feitelijke verzender van dat strafbare bericht
kan worden vastgesteld, zal in beginsel ook tot vervolging worden overgegaan. Dat
is belangrijk om te weten: er zijn mogelijkheden om dit te doen.

Bij bedreigingen is anonimiteit in heel veel gevallen niet het grootste thema. Heel
vaak worden de bedreigingen gedaan door mensen die wel degelijk bekend zijn. Zij maken
zichzelf bekend of plaatsen dergelijke berichten onder hun eigen naam. Maar soms is
er alsnog een probleem om het aan te pakken, ook bij mensen wier identiteit bekend
is. Dat is bijvoorbeeld zo als iemand in een ander land verblijft of als er sprake
is van uitleveringskwesties. Ook kan het schenden van voorwaarden voor eerdere voorwaardelijke
vrijlating een obstakel zijn. Om die reden zijn we van plan om met de Minister van
Justitie en Veiligheid vlak na de zomer een brief te sturen. Daarin gaan we kijken
naar een versterkte aanpak online. We gaan met name kijken hoe we de verbeterde samenwerking
met de platforms kunnen inrichten. Zo willen we zorgen dat het makkelijker wordt om
mensen te kunnen opsporen wanneer er sprake is van strafbare feiten. Maar de bevoegdheid
is er en in de meeste gevallen lukt het ook om de relevante persoon te vinden.

Mevrouw Gündoğan (Lid Gündoğan):

Ik heb juist een aantal specifieke voorbeelden aangedragen omdat de praktijk en de
theorie soms best wel ver uit elkaar staan. Ik heb zelf bedreigingen gekregen; daarom
kan ik het uit de eerste hand vertellen. Van de verschillende diensten die daarnaar
hebben gekeken, kreeg ik terug dat dit naar alle waarschijnlijkheid niet je standaard
toetsenbordridder is, om het maar even te kwalificeren. Dit is een net even wat handiger
iemand. Deze persoon werkt met een VPN en een speciaal voor online bedreigingen aangemaakt
e-mailadres, en gaat bewust niet op de wifi maar op 4G en dergelijke. Heel veel dingen
worden omzeild. Dan sta je gewoon met lege handen. Veiligheidsdiensten kunnen wel
het een en ander uitzetten bij Instagram, Facebook of Twitter, maar die staan ook
met lege handen. De veiligheidsdiensten wijzen dan naar een gebrek waardoor ze niet
verder kunnen opsporen, maar de socialemediabedrijven hebben niets om de opsporing
mee te kunnen vervolgen. Niettemin is er zeer waarschijnlijk wél een reden om een
onderzoek naar strafbare gedragingen op te zetten. Dat is de praktijk. Die hiaten
moeten we met elkaar proberen op te lossen, denk ik.

Staatssecretaris Van Huffelen:

Veiligheids- en inlichtingendiensten zijn natuurlijk geen opsporingsdiensten. Ik denk
dat het goed is om dat onderscheid te maken. Nogmaals: de bevoegdheden zijn er, evenals
de mogelijkheden om data op te vragen bij en te vorderen van de platforms. De samenwerking
met de platforms kan in sommige opzichten beter, dus daar willen we met elkaar naar
kijken. Ik vind het ingewikkeld om te reageren op de casuïstiek die u naar voren brengt,
omdat ik daar natuurlijk niet alle feiten van en inzichten in ken. Maar het is misschien
goed om er nog een keer met elkaar over te spreken, om te zien of uw voorbeelden voldoende
terugkomen in de brief. Daar ben ik zeer toe bereid. De kern is dat de politie- en
opsporingsorganisaties, naar wij begrijpen, in de meeste gevallen in staat zijn om
zulke mensen te vinden. Anonimiteit is niet altijd een thema, maar er kunnen andere
redenen zijn die het moeilijk maken om iemand te vervolgen voor dit soort informatie.
In de brief die we na de zomer zullen sturen, kijken we graag nog een keer naar de
specifieke voorbeelden die u heeft opgebracht. Daar kunnen we dan nog een keer induiken.

De voorzitter:

De Staatssecretaris vervolgt haar betoog.

Staatssecretaris Van Huffelen:

De PVV en D66 stelden een vraag over anonimiteit en het opheffen daarvan. Het is een
beetje een discussie. Laat ik eerst de vraag van D66 beantwoorden, namelijk of het
wenselijk zou zijn om de anonimiteit op te heffen door gebruik te maken van iets als
een token. Hoewel ik de ernst van de desinformatieproblematiek zeker niet wil onderschatten
– sterker nog, die is een reden waarom we dit debat voeren – vind ik het opheffen
van anonimiteit wel een onwenselijke en disproportionele inbreuk op het recht op privacy.
Op straat loop je ook niet rond met een naambadge of je telefoonnummer. Anonimiteit,
ook op het internet, is een groot goed. Het behoort tot het recht op zelfbeschikking
en het recht op privacy. Het bekendmaken van iemands naam is daarnaast natuurlijk
niet zomaar een oplossing voor online haatzaaien of bedreigen. Bovendien zijn er,
zoals ik net aangaf, al veel mogelijkheden om de identiteit van mensen die een strafbaar
feit plegen daadwerkelijk te herleiden. Als iemand zich op het web anoniem voordoet
en er strafbare feiten worden gepleegd, kan diens anonimiteit al wel degelijk worden
opgeheven.

Er was ook een vraag over pseudonimiteit. Dat betekent dat een gebruiker weliswaar
niet met zijn eigen naam actief is op het internet, maar dat diens identiteit toch
te herleiden is. Dat vind ik eerlijk gezegd ook ingewikkeld. Dat betekent namelijk
dat een platform wel degelijk weet wie jij bent. Sterker nog, zoals ik de voorstelling
ervan begrijp, zou een platform een hele administratie moeten bijhouden van de personen
die erop actief zijn, onder welk pseudoniem dan ook. We vinden het juist zo belangrijk
dat wereldwijd werkende platforms niet verplicht worden om gevoelige persoonsgegevens,
zoals je naam, e-mailadres of andere gegevens, te verzamelen. Ik zie eigenlijk geen
mogelijkheden voor het uitwerken van uw ideeën over het opheffen van anonimiteit of
het creëren van een pseudoniem op een manier dat mensen daadwerkelijk beschermd blijven
in hun privacy. Nogmaals, bij het oplossen van strafbare feiten is het probleem eigenlijk
veel minder groot dan u wellicht denkt. In de meeste gevallen kunnen we namelijk wel
degelijk achterhalen welke personen erachter zitten.

Dat naar aanleiding van de vragen die daarover gesteld zijn.

De voorzitter:

Voordat u verdergaat is er een interruptie van mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de antwoorden. De discussie die we vandaag met elkaar hebben, gaat natuurlijk
niet over strafbare feiten, maar over desinformatie. Ik heb al meerdere keren gezegd
wat er onder desinformatie wordt verstaan. Mijn vraag is: gaat het er niet om de anonimiteit
op te heffen? Er bestaan verschillende technische oplossingen waarbij je een token
overlegt, dat ervoor zorgt dat je niet heel snel nog een keer op een platform kan
komen als je erdoor geblokkeerd wordt. Is de Staatssecretaris echt niet bereid om
te kijken of er überhaupt uitwerkingen mogelijk zijn? Daar gaat de vraag eigenlijk
over, hoewel misschien indirect.

Staatssecretaris Van Huffelen:

Ik vind het ingewikkeld, want dan gaan we toch aan een platform vragen om de identiteit
van iemand bij te houden, al dan niet gekoppeld aan een token. Ik ben dus gewoon heel
erg benieuwd hoe u het voor zich ziet dat dat werkt. Het punt is namelijk dat ik denk
dat je niet wilt dat de overheid dit gaat doen. Ook denk ik dat je niet wilt dat een
platform dat gaat doen, want dat zou betekenen dat een platform, zelfs als u onder
de naam X activiteiten uitvoert, toch weet wie u bent, want als u zich dan onder de
naam Y meldt, weet een platform nog steeds dat ú het kennelijk bent die die informatie
deelt of verspreidt of op dat platform actief is. Nogmaals, ik heb er heel veel moeite
mee als aan platforms wordt gevraagd om te registreren wie de gebruikers zijn, zeker
als het gaat om mensen die zich heel graag op het platform begeven maar niet voor
hun hele omgeving bekend willen maken wie ze zijn, wat hun identiteit is, wat ze willen,
welke mening ze hebben enzovoorts, enzovoorts.

Mevrouw Dekker-Abdulaziz (D66):

Dat laatste vraag ik ook niet, want pseudoniem zijn betekent dat je voor je omgeving
en op het platform, laten we voor het gemak Twitter nemen, dan nog niet bekend bent.
Je bent dan buurvrouw123, Grietje of whatever. Het gaat er niet om dat je hele identiteit
bekend is. Sowieso zijn er heel veel platforms waar ik mijn rijbewijs moet uploaden,
om überhaupt op een platform te komen. Dus dat bestaat al. Maar dat is ook niet wat
ik vraag. Ik vraag: zullen we bijvoorbeeld aan technische oplossingen denken die in
de toekomst mogelijk zijn, zoals – ik noem maar wat – het koppelen van een telefoonnummer
aan een onlineaccount, waardoor je als je van dat socialmediaplatform geweerd wordt,
niet opnieuw heel snel weer een account kunt aanmaken. Zo'n telefoonnummer is natuurlijk
niet je gehele identiteit. Dat is een token, en daar heb ik het over.

Staatssecretaris Van Huffelen:

Ik weet niet over welke onlineplatforms u het heeft waarop je daadwerkelijk je rijbewijs
of je paspoort moet laten zien. Ikzelf in ieder geval ken die platforms niet direct.
Ook in het geval van zo'n telefoonnummer geldt dat je het kunt veranderen of dat je
het nummer van iemand anders kunt invoeren, enzovoort, enzovoort. Wat meer fundamenteel
gaat het, dus even los van de precieze technische oplossing, over het volgende. Ook
al kan iemand naar buiten toe een pseudoniem hebben, maar als een platform moet weten
wie jij bent – want dat moet een platform weten als je wil bereiken wat u wil bereiken
– dan betekent dat dat grote socialmediaplatform de identiteitsgegevens van u of van
iedereen die daarvan gebruikmaakt, ook daadwerkelijk moet registreren. Dat vind ik
niet wenselijk, want dat betekent dat zij niet alleen hier in Nederland, maar wereldwijd,
want die platforms werken allemaal wereldwijd, databases moeten bijhouden van dit
soort toch heel gevoelige persoonsgegevens. Ik zie daar niet direct een oplossing
voor, omdat je, hoewel je dan naar buiten toe anoniem kunt zijn, bij het platform
nog steeds heel veel informatie, gevoelige persoonlijke informatie, registreert.

De voorzitter:

De Staatssecretaris gaat nog niet verder. Er is nog een interruptie van mevrouw Gündoğan.

Mevrouw Gündoğan (Lid Gündoğan):

Misschien zijn de oplossingen die wij aandragen niet helemaal handig, uitvoerbaar,
praktisch et cetera, maar ik hoop dat we met elkaar consensus hebben over het feit
dat er excessen plaatsvinden op die sociale media, dat er verdiend wordt aan die data
en dat het, zeker met het oog op de aankomende AI – we hebben nu al moeite om te weten
of mensen mensen zijn en welke mensen het zijn, maar straks weten we niet of het überhaupt
nog mensen zijn – misschien tijd is om te verkennen wat we wél kunnen doen, wat wél
uitvoerbaar is, wat wel aan allerlei wensen op het gebied van privacy voldoet. Misschien
hebben wij met elkaar dus niet de creativiteit en de kennis in huis. Is het dan niet
tijd om die opdracht uit te zetten en deze nader te verkennen, zodat sociale media
wat meer gereguleerd en veiliger kunnen worden, ook met het oog op onze – ik vind
het heel belangrijk om dat er als laatste nog aan toe te voegen – democratie?

Staatssecretaris Van Huffelen:

Ik zou de laatste willen zijn om het niet met u eens te zijn dat dit een heel groot
thema is. Eigenlijk gaat mijn hele agenda Waardengedreven Digitaliseren over dit onderwerp.
Niet in de laatste plaats gaat eigenlijk alle regelgeving, ook de Europese, over dit
thema. Denk daarbij aan de DSA en de AI Act. Die regelgeving gaat erover hoe we ervoor
kunnen zorgen dat de onlinewereld een net zo veilige en net zo gereguleerde wereld
wordt als onze offlinewereld, hoe we ervoor kunnen zorgen dat mensen zich daarin op
een veilige manier kunnen begeven, hoe we ervoor kunnen zorgen dat we desinformatie
kunnen aanpakken, waar het debat van vandaag natuurlijk over gaat, en hoe we ervoor
kunnen zorgen dat strafbaar gedrag ook kan worden aangepakt. Wat mij betreft is dat
de kern van wat we willen bereiken. Het punt is alleen dat de instrumenten die we
daartoe inzetten, instrumenten moeten zijn die niet alleen effectief zijn, maar ook
weer voldoen aan andere grondrechten en waarden die we in onze democratie hebben,
zoals privacy, zelfbeschikking enzovoorts, enzovoorts. De kern is dat ik het zeer
met u eens ben, net als met de meeste inbrengen in deze Kamer, en dat ik het relevant
vind om de excessen aan te pakken, om zo te zorgen dat de onlinewereld veilig is.
Tegelijkertijd zou ik niet overboord willen gaan door bijvoorbeeld aan socialmediaplatforms
te vragen om een registratie bij te houden, bij wijze van spreken een kopie van de
BRP, waarbij er allerlei gegevens van jou daar worden bewaard. Dat zei ik ook in het
antwoord aan mevrouw Dekker-Abdulaziz. Nogmaals, anonimiteit is – dat is misschien
nog een ander argument – in de meeste gevallen niet het probleem als het gaat over
het aanpakken van strafbare feiten. U zegt gevallen te kennen waarin dat wel zo is,
maar daar moeten we dan nog een keer induiken. Maar in de meeste gevallen is het goed
mogelijk, met behulp van de socialmediaplatforms, die verplicht zijn om mee te werken
aan de opsporing door opsporingsdiensten, om daadwerkelijk de informatie boven water
te krijgen over wie het gaat en om, als dat nodig is, vervolging in te stellen.

De voorzitter:

De Staatssecretaris vervolgt haar beantwoording.

Staatssecretaris Van Huffelen:

Dan had ik de vraag van mevrouw Van Weerdenburg: als de overheid niet bepaalt wat
desinformatie is, bepaalt de EU dat dan ook niet? Het korte antwoord daarop is dat
dit inderdaad zo is. Het is niet aan de EU om te bepalen wat desinformatie is. Ook
de Europese benadering van de aanpak is gefocust op vrijheid van meningsuiting en
andere rechten die zijn vastgelegd in het EU-Handvest voor de fundamentele rechten.
De focus ligt dus veel meer op transparantie en zorgen dat je platforms verantwoordelijk
maakt voor het zorgen voor en creëren van een veilige onlineomgeving. De praktijkcode
tegen desinformatie – die is een specifieke praktijkcode die onderdeel wordt van de
DSA – is dan ook gemaakt. Daarin zijn afspraken gemaakt om bijvoorbeeld met name onafhankelijke
factcheckers hun werk te laten doen.

Dan de vraag van mevrouw Kathmann, die ging over het keurmerk voor AI. De kern is
eigenlijk dat het maken van een keurmerk onderdeel is van de AI-verordening. Die is
nog niet helemaal afgerond, maar die werkt op basis van dat je technische eisen stelt
aan hoogrisico-AI-systemen en dat je een keurmerk moet hebben voordat je dat systeem
op de markt brengt of, in geval van overheden, gebruikt. Er komen eisen die te maken
hebben met bijvoorbeeld de manier waarop er met data wordt omgegaan en de noodzaak
van menselijk toezicht. Dat keurmerk is een zogenaamde CE-markering. Dat is een keurmerk
dat ervoor zorgt dat je weet dat het AI-systeem daadwerkelijk voldoet aan de eisen.

De vraag van mevrouw Kathmann was ook wat de rol van publieke omroepen daarin is.
Die spelen daar geen rol in. Ik zat even door te denken toen de vraag werd gesteld,
maar misschien bedoelt mevrouw Kathmann ook iets anders. Er is natuurlijk wel degelijk
iets, bijvoorbeeld waar het gaat om meer een soort van classificatiesystemen. Dergelijke
systemen kennen we bijvoorbeeld bij games en bij films, waarbij dan bijvoorbeeld wordt
gezegd: deze film is geschikt voor iemand van boven de 12 of boven de 16. Die classificaties
zijn er ook, maar dat zijn niet de daadwerkelijke keurmerken zoals die in de AI-verordening
zitten.

De voorzitter:

Een interruptie van mevrouw Kathmann.

Mevrouw Kathmann (PvdA):

Niet echt een interruptie, maar ik denk wel even een verduidelijkende opmerking. Ik
denk dat hier twee dingen door elkaar gaan, inderdaad, want je hebt een technologisch
keurmerk en een soort keurmerk omdat we toch op een soort zoektocht zijn naar hoe
we zorgen dat onze betrouwbare onafhankelijke media, die aan hoor en wederhoor doen,
die factchecking doen, een rol kunnen spelen bij het juist op onlineplatformen geven
van goed nieuws en onafhankelijk nieuws. Dus meer in de vorm van zo'n soort keurmerk.
Of een beweging; misschien is «keurmerk» dan een verkeerd woord. Want hiermee gaan
er twee dingen door elkaar heen: het ene gaat inderdaad veel meer over het technologische
en het andere heeft er veel meer mee te maken dat we nu eenmaal partijen hebben die
daaraan doen, die gewoon goede journalistiek bedrijven; en dat je van hun nieuws op
aan kunt, dat je dat kan vertrouwen. En hoe we ervoor zorgen dat dat veel meer herkend
wordt.

Staatssecretaris Van Huffelen:

Een aantal publieke omroepen heeft daar zelf al een soort keurmerk voor gemaakt: de
«Spoelkeuken», heet dat. Dat maakt het ook mogelijk om daar iets mee te doen. Het
is meer zelfregulering, zou je kunnen zeggen. Maar meer in het algemeen hebben we
in het kader van de aanpak van desinformatie al gezegd – en dat hebben we ook in de
brief die we eerder naar u hebben gestuurd al gezegd – dat we het belangrijk vinden
dat er de mogelijkheid is voor een divers en publiek medialandschap, dat ook kan bestaan
uit sociale media, waarin publieke omroepen een rol kunnen blijven spelen. En het
andere is natuurlijk dat we ook hebben aangegeven dat wij het belangrijk vinden om
alternatieven te creëren, alternatieve socialmediaplatforms, die mensen dan ook kunnen
gebruiken, en die niet noodzakelijkerwijs op basis van een commercieel oogmerk hun
werk doen.

Dan was er ook de vraag van mevrouw Kathmann over het crisis response mechanism. Dat
is inderdaad een onderdeel van die DSA, de inmiddels aangenomen en in werking tredende
wet die gericht is op het reguleren van socialmediaplatforms, onder andere de Digital
Services Act. Het is zo dat bij dat mechanisme een rol speelt dat de digitaledienstencoördinatoren
gezamenlijk de Europese Commissie kunnen oproepen om in geval van nood, een crisis
beter gezegd, een mechanisme op te roepen. Dat mechanisme maakt het mogelijk om aanvullende
risicoassessments te doen. Dat moeten socialmediaplatforms jaarlijks doen, maar dat
wordt dan als een extra zaak ingebracht. En de Commissie kan op basis daarvan dan
ook ingrijpen als dat nodig zou blijken te zijn. Aan dat mechanisme doen wij mee omdat
van die digitaledienstencoördinatoren, onze ACM een beoogde coördinator is; dat moet
ik daarbij zeggen, wat ze is nog niet officieel aangewezen. Die kan daar dus ook aan
meedoen, en Nederland doet dan mee in een combinatie met andere toezichthouders.

De voorzitter:

Een interruptie van mevrouw Kathmann.

Mevrouw Kathmann (PvdA):

Ja, dat was ook bekend, maar de vraag was juist: hoe werkt dat nou? Want het gaat
er natuurlijk om dat je in tijden van crisis eigenlijk de macht krijgt – om het even
zo te zeggen, zowel negatief als positief – om in te grijpen in digitale vrijheden.
Dan spelen nationale overheden daar gewoon ook een rol in: je bent trusted flagger.
Maar hoe ziet die rol eruit? Weet Nederland het dan en heeft het een kader voor «zo
gaan we het invullen: als er een crisis is doen we dit, en als die er is, dan grijpen
we op deze manier in», of gaan we dat spelenderwijs leren? Of zijn er helemaal geen
strakke kaders voor?

Staatssecretaris Van Huffelen:

De DSA is natuurlijk nog – om het zo te zeggen – in an early stage, dus we weten het
nog niet precies. De kern is dat een crisis ook daadwerkelijk wel een crisis moet
zijn; er moet wel iets heel ernstigs aan de hand zijn voordat je het mechanisme gaat
inroepen. Wat dan overigens ook nog waarborgen heeft, dus het gaat eerst over onderzoek
doen, en dan pas over ingrijpen. Er zijn niet nu al allerlei kaders en ideeën over
hoe dat er dan precies uit moet komen te zien, en het is hopelijk ook niet dat dit
op korte termijn nodig of noodzakelijk is. Het is wel iets anders dan de «trusted
flagger»-status. Dus een deel van de Nederlandse departementen heeft een «trusted
flagger»-status bij een aantal socialmediaplatforms. Zo is bijvoorbeeld mijn eigen
departement gespecialiseerd in verkiezingen. We hebben dat al eens eerder gedaan:
als er een bericht komt op sociale media dat zegt dat het een goed idee is om twee
vakjes in te vullen op je kiesbiljet of stembiljet, dat we dan aangeven dat dat niet
zo handig is, omdat dat dan natuurlijk ook betekent dat je biljet dan ongeldig wordt
verklaard. Om die reden hebben wij dat een keer aangegeven. Die «trusted flagger»-status
kunnen we niet zelf opleggen; dat is iets wat je eventueel kunt aanvragen, en daar
moet een socialmediaplatform dan toestemming voor geven. Het tweede is dat je als
trusted flagger opmerkingen maakt; iets wat iedereen kan doen maar onder de DSA is
dat nog beter geregeld. Dus dat, als je problemen hebt met wat er op een platform
staat, daarvoor dan een ingang moet zijn, en dat je klacht moet worden opgepakt. Maar
het is altijd weer aan het platform zelf om dan wel of niet in te grijpen. Overigens,
als ze dat niet doen en er sprake zou zijn van een strafrechtelijk feit, dan is een
platform daarna wel verantwoordelijk.

De voorzitter:

Tot slot...

Staatssecretaris Van Huffelen:

Maar ik kan u dus niet helpen met een hele precieze omschrijving van wat voor crisis
het precies zou moeten zijn en hoe we dan gaan handelen, want terughoudendheid is
hier natuurlijk ook van belang; je gaat niet zomaar een crisis uitroepen en niet zomaar
ingrijpen in dit soort platforms.

De voorzitter:

Tot slot op dit punt, mevrouw Kathmann.

Mevrouw Kathmann (PvdA):

Is dan al bekend hoe de Europese Commissie die kaders gaat invullen? Komt er een duidelijke
definitie van een «crisis»? Komen er duidelijke kaders? En komt er dan ook een duidelijk
kader voor de rol van nationale overheden daarin of is dat vrij aan de lidstaten,
en willen wij dan vooroplopen? Wanneer is daar meer duidelijkheid over?

Staatssecretaris Van Huffelen:

Ik zal voor u uitzoeken hoe dat precies gaat lopen in de komende tijd, en dan kom
ik daar schriftelijk op terug. Is dat goed? Want dan zal ik uitleggen hoe de EU of
onze nog te benoemen coördinatoren, dus in ons geval de beoogde coördinator maar de
nog niet benoemde coördinator, waarbij de ACM een rol zal spelen... Ik zal u de timing
van deze stappen dan wat meer toelichten.

Dan was er de vraag van D66 over desinformatie toevoegen aan de cybersecurityoefening
ISIDOOR. Eigenlijk is ons idee dat we dat ook willen doen, maar niet noodzakelijkerwijs
in deze cybersecurityoefening. We hebben namelijk een eerdere oefening gehouden voorafgaande
aan de verkiezingen voor de provinciale staten en waterschappen op het gebied van
desinformatie. Daar komt een evaluatie van, en in het kader van die evaluatie, die
we uiteraard naar u toe sturen, zou ik willen kijken naar de vraag hoe je kunt oefenen
met situaties waarin er sprake is van desinformatie. Dat zou eventueel samen kunnen
met die cybersecurityoefening, of misschien apart daarvan, maar het lijkt mij goed
als we dat daarin meenemen. Ik zou daar dus positief op willen antwoorden, maar dus
niet dat dat noodzakelijkerwijs in het ISIDOOR-platform moet, maar wel om in ieder
geval te kijken hoe we bij grootschalige of minder grootschalige desinformatiesituaties
zouden kunnen acteren.

Dan is er nog de vraag vanuit de VVD over het verbod op algoritmes die mensen doen
radicaliseren. Mevrouw Rajkowski gaf aan dat daar wettelijk eigenlijk niets aan gedaan
kan worden. Dat laatste ben ik overigens niet met haar eens, maar ik wil wel even
iets meer vertellen over wat we nu hebben. Want de zorgen over algoritmen die ervoor
kunnen zorgen dat je heel eenzijdig geïnformeerd wordt, die zijn er. Dat is ook een
van de basiselementen die worden meegenomen in die Digital Services Act, want die
moet ervoor zorgen dat je openbaar en transparant moet maken hoe die algoritmes werken,
zodat die algoritmes kunnen worden onderzocht, kunnen worden bekeken, kunnen worden
bekritiseerd door wetenschappers of ngo's die op dit gebied actief zijn. Wij voeren
daarnaast ook gesprekken met de internetsector om die algoritmes niet alleen kenbaar
te maken, maar ook te zorgen dat die algoritmes juist niet het mechanisme hebben dat
ze heel sterk leiden tot alleen maar één soort informatie. Maar de DSA moet de werking
van deze algoritmes dus kenbaar maken, duidelijk maken, de data moeten worden gedeeld
met onderzoekers enzovoort, enzovoort, enzovoort. De DSA gaat in op 25 augustus. En,
en dat is volgens mij niet onbelangrijk, de DSA regelt ook dat jij als gebruiker van
een socialmediaplatform niet alleen maar kunt klagen over zo'n algoritme of, als je
dat zou willen, over de inhoud van wat er wordt verspreid, maar ook dat je dat algoritme
kunt uitzetten. Dus aanbevelingsalgoritmes moeten conform de DSA transparant worden
gemaakt, zodat onderzocht en bekeken kan worden hoe ze werken, door de gebruikers
maar ook door de wetenschappers en door ngo's of door mensen die zich bijvoorbeeld
bezighouden op het gebied van privacy, maar tegelijkertijd is het ook zo dat de DSA
bepaalt dat platforms de mogelijkheid moeten bieden aan hun gebruikers om aanbevelingsalgoritmes
uit te zetten. In het kader van de vraag die door de VVD werd gesteld, denk ik dat
het van belang is dat we eerst kijken wat het effect van de DSA is voordat we nog
verdergaande verboden maken op die algoritmes. Daarvoor moeten we eerst de DSA in
werking laten treden. Dat gaat gebeuren. De grote platforms zijn inmiddels aangewezen.
Voor hen gaat die wet op 25 augustus in. Daarmee heb ik volgens mij ook een antwoord
gegeven op de vraag van mevrouw Rajkowski.

De voorzitter:

Voordat u verdergaat, is er nog een interruptie van mevrouw Van Weerdenburg en daarna
een van mevrouw Dekker-Abdulaziz. Mevrouw Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Ik ga even proberen een vertaling in jip-en-janneketaal te maken. Begrijp ik uit de
uiteenzetting van de Staatssecretaris van zojuist nou goed dat je nog steeds eenzijdig
geïnformeerd kan worden als je dat wil en dat er dus een opt-in is, maar dat het wel
kenbaar moet zijn? Begrijp ik dus goed dat er iets bij moet staan als «u wordt eenzijdig
geïnformeerd» en dat het dan oké is? Bijvoorbeeld het platform Twitter heeft nu één
tijdlijn met daarin de mensen die je volgt, en één «for you»-tijdlijn, waarin ze er
zelf van alles bij verzinnen, maar daar kan je dan tussen switchen. Is dat voldoende
voor de DSA? Is het niet nodig om verdere stappen te zetten, zoals de VVD net suggereerde?

Staatssecretaris Van Huffelen:

Misschien is het goed om er even iets meer over te zeggen. Kijk, de DSA zegt ook dat
een platform moet zorgen dat de omgeving waar het verantwoordelijk voor is op social
media een veilige plek is waar je je mening en je informatie kan delen, waar je je
informatie vandaan kunt halen en waar een fair debat mogelijk is. Dat moet dus gereguleerd
worden. Aanbevelingsalgoritmes moeten door platforms transparant gemaakt worden, maar
dat is niet hetzelfde als zeggen: we willen alleen maar algoritmes die eenzijdige
informatie aangeven. Ze moeten transparant maken hoe het algoritme werkt. Ze moeten
hun risico's inventariseren die samenhangen met de vraag of het algoritme een eenzijdige
kant heeft. Het zou dus heel goed kunnen zijn dat een algoritme dat heel erg eenzijdig
werkt te veel wordt gezien als een hoogrisicoalgoritme, als een algoritme dat ook
daadwerkelijk moet worden gereguleerd en moet worden aangepakt. Het kan dus best zijn
dat een toezichthouder zegt: wij vinden dat het algoritme dat u gebruikt niet past
bij de manier waarop een algoritme volgens ons moet werken. Maar de kern is dus dat
een aanbevelingsalgoritme transparant moet zijn. Ze moeten gewoon aangeven hoe het
werkt. En als je als gebruiker vindt dat dat een algoritme is dat je niet graag wil
gebruiken, moet je het kunnen uitzetten.

Mevrouw Van Weerdenburg (PVV):

Ik wil hier toch nog even op doorgaan. Wanneer komt de toezichthouder dan om de hoek
kijken? Gaat dat echt over de manier waarop het algoritme werkt of over de manier
waarop het uitwerkt? Als ik namelijk alleen maar kattenplaatjes wil zien, moet ik
het recht hebben om alleen maar in kattenplaatjes en hondenfilmpjes te zwemmen. Als
ik mij heel veilig voel in een bubbel van FVD- en PVV-gelijkgestemden, moet dat ook
gewoon kunnen. Maar waar komt de waakhond dan om de hoek kijken? Gaat dat om de werking
van het algoritme of om wat het effect van dat algoritme uiteindelijk is?

Staatssecretaris Van Huffelen:

Dat gaat inderdaad wat meer over de systeemrisico's die erachter zitten. Dus als u
heel graag alleen maar kattenplaatjes wil hebben, kan een socialmediaplatform u dat
aanbieden. Dat mag ook gewoon volgens de DSA. Hetzelfde geldt voor meer extreme informatie
die u zoekt of andere dingen die u wil. Maar het kan dus. Er is vrijheid van meningsuiting.
Alles wat binnen de vrijheid van meningsuiting past, mag ook door een socialmediaplatform
worden doorgegeven. U mag ook kiezen welke informatie u verkiest, maar het moet wel
transparant zijn hoe het algoritme werkt.

De voorzitter:

Dan is er nog een interruptie van mevrouw Dekker-Abdulaziz.

Mevrouw Dekker-Abdulaziz (D66):

Dank voor de antwoorden van de Staatssecretaris, maar het is natuurlijk wel zo dat
die aanbevelingsalgoritmes van de big tech op dit moment gebaseerd zijn op commercieel
belang, waarbij interactie eigenlijk het hoogste goed is. Hoe meer reacties je krijgt,
hoe hoger je komt in de nieuwsfeed. Dat is natuurlijk hetgeen waar we het over hebben.
De extreme meningen worden dan hoger op de lijn gezet dan de niet-extreme meningen.
Zoals we met elkaar hebben gedeeld, word je dan dus down the rabbit hole gezogen.
Transparantie is daar geen oplossing voor. Of wel?

Staatssecretaris Van Huffelen:

Ik denk dat transparantie wel helpt. U had het in het debat met mevrouw Rajkowski
ook over die fabeltjesfuik. Het wordt wel duidelijk hoe een algoritme in elkaar zit
en werkt. Dan gaat het niet over de vraag of u met name de informatie krijgt die u
zelf wilt, maar om de vraag of het algoritme werkt in termen van het oplieren of groter
maken van een debat. Wanneer er sprake van is dat dit soort situaties kunnen ontstaan,
dan moet dat vallen binnen die risicoassessments die socialmediaplatforms moeten doen;
daar is de DSA natuurlijk wél voor. Het Europees parlement heeft overigens in de AI
Act die nu voorligt – die is dus nog niet aangenomen – een punt opgenomen om dit risico
ook aan te pakken, door die algoritmes inderdaad te zien als hoogrisicoalgoritmes.
Maar de kern is dat de DSA ook al helpt om dit soort risico's in kaart te brengen
en inzichtelijk te maken, en om de toezichthouders ook daadwerkelijk hun werk te laten
doen als die risico's te extreem worden. Er wordt dus al wel degelijk een mogelijkheid
gecreëerd om dit soort algoritmes niet alleen inzichtelijk te maken, maar om die ook
aan te pakken wanneer die het effect hebben dat er niet meer een veilig en open debat
kan worden gevoerd.

De voorzitter:

Mevrouw Dekker-Abdulaziz, tot slot.

Mevrouw Dekker-Abdulaziz (D66):

Tot slot dan. De DSA gaat over allerlei risico's in het gebruik van algoritmes, maar
we zitten natuurlijk ook in een wereld waarin de AI Act aangenomen wordt in het Europarlement
en waarin er binnenkort ook trialogen daarover beginnen. Ik vraag me af of de Staatssecretaris
dan ook vanuit díé hoek, dus bezien vanuit de AI Act, bereid is om te kijken naar
de aanbevelingsalgoritmes van social media.

Staatssecretaris Van Huffelen:

Ik wil daar heel graag nog op terugkomen, omdat ik namelijk ook wil kijken hoe de
interferentie tussen de DSA en de AI Act is op dit gebied. Ik kom daar dus bij u op
terug. De kern is dat we niet alleen willen dat dit risico inzichtelijk wordt, maar
dat dat ook kan worden aangepakt. Dit is een heel technisch antwoord, maar we moeten
daarvoor wel even goed kijken naar die samenloop tussen de twee wetten.

Voorzitter, als u het goedvindt, kom ik nog even terug op één punt. Want ik heb wat
nadere informatie kunnen verzamelen over het punt dat door mevrouw Kathmann werd gemaakt
over de toezichthouders en de manier waarop er kan worden gemerkt in situaties van
dat crisis mechanism. De toezichthouders, die dus nog benoemd moeten worden, kunnen
dit kader gaan opstellen. Dat hebben ze nu nog niet gedaan, want ze moeten nog voor
de eerste keer bij elkaar komen. Een aantal van die kaders zijn al wel in artikel
36 van de DSA opgenomen, maar de toezichthouders moeten dus nog starten met het opzetten
van dit kader. We kunnen u wel de komende tijd verder informeren over de manier waarop
dit vorm gaat krijgen.

De voorzitter:

En wanneer u kunt de Kamer daarover informeren, zodat wij de toezegging helemaal smart
kunnen maken?

Staatssecretaris Van Huffelen:

Dat is een beetje moeilijk te zeggen, want het is een Europese activiteit. De toezichthouders
moeten eerst bij elkaar gaan komen. Ik denk dus dat het goed is dat we dit even op
de lijst zetten van dingen die we niet morgen kunnen vertellen, omdat we dan nog niet
iets te vertellen hebben. Maar we kunnen dat misschien wel over een jaar of zoiets
dergelijks vertellen. Als het eerder kan, dan doen we het eerder, maar …

De voorzitter:

Dan kunnen wij in ieder geval noteren dat de Kamer daar voor het einde van het jaar
iets over te horen krijgt, al is het maar een korte update. Wij moeten de toezegging
in ieder geval in de tijd wegzetten, helaas, dus dan gaan we met u welbevinden dit
zo registreren als toezegging. Daarmee is er als het goed is bijna een einde aan dit
debat gekomen. Terwijl de griffier naast mij onder lichte paniek de toezeggingen aan
het afronden is, ga ik nog twee toezeggingen proberen voor te lezen. De eerste toezegging
is gedaan aan mevrouw Gündoğan.

– In de brief versterkte aanpak online, die na de zomer naar de Kamer zal worden gestuurd,
zullen de aangedragen voorbeelden van het lid Gündoğan met betrekking tot anonimiteit
op onlineplatformen en strafbare vervolging worden meegenomen.

De Staatssecretaris.

Staatssecretaris Van Huffelen:

Ik denk dat het wel goed is dat we daar een gesprek over hebben in het kader van de
privacy en dat we bekijken wat haar voorbeelden zouden betekenen voor het beleid,
maar ik vind het niet goed en prettig om létterlijk op deze voorbeelden in te gaan.
Maar het punt dat mevrouw Gündoğan maakte was het volgende. Ik gaf aan: wij zien eigenlijk
in de feitelijke situatie weinig problemen bij het vinden van mensen die online strafbare
feiten plegen. Mevrouw Gündoğan zei: ik heb een aantal voorbeelden waarin ik zie dat
dat wél lastig is. We moeten die natuurlijk meewegen om te zien of die iets betekenen
voor ons beleid. Het lijkt me dus heel goed dat we die voorbeelden met elkaar delen
en dat we die in de brief meewegen. Dat zou een mooier onderwerp zijn in plaats van
het letterlijk verwerken van die voorbeelden.

De voorzitter:

Ik kijk naar mevrouw Gündoğan om te zien of dat ook op haar goedkeuring kan rekenen.
Dat hoop ik wel, want anders wordt het gewoon geen toezegging. Mevrouw Gündoğan zegt
buiten de microfoon: laten we kijken hoever we gaan komen.

Dan ga ik naar de volgende toezegging. Als ik me niet vergis, is dit een toezegging
aan mevrouw Kathmann.

– De Staatssecretaris zal de Kamer voor het eind van het jaar informeren over de kaders
van de toezichthouders omtrent de crisis response mechanisms.

Dit is een aparte toezegging, dus ik ga weer naar de Staatssecretaris kijken om te
zien of dit op haar goedkeuring kan rekenen. Of wil ze nog enige aanvulling erbij
doen?

Staatssecretaris Van Huffelen:

Nee, hoewel ik niet weet wat de status op dat moment is, heb ik toegezegd dat ik in
ieder geval een update zal geven over het punt dat mevrouw Kathmann maakte, namelijk
dat ze wil weten of er dan meer helder is over hoe dat kader eruitziet voor dat crisis
response mechanism.

De voorzitter:

Helder. Dat zijn we met elkaar ook overeengekomen.

Dan nog een laatste toezegging. Dit was een toezegging aan mevrouw Dekker-Abdulaziz.

– Het toevoegen van desinformatie aan cybersecurityoefening ISIDOOR wordt meegenomen
in de evaluatie van de eerdere oefening.

De Staatssecretaris.

Staatssecretaris Van Huffelen:

Nee, want de vraag was of ik het daarin wilde stoppen, maar ik gaf aan dat we al een
keer hebben geoefend met dit onderwerp, dat we die oefening aan het evalueren zijn
en dat we in die evaluatie meenemen hoe we het verder oefenen op dit gebied willen
vormgeven. Dat zou kunnen in het kader van de ISIDOOR-oefeningen, maar het kan ook
op een andere manier. Daarover informeer ik de Kamer in het kader van die evaluatie.

De voorzitter:

Crystal clear. Dank voor deze verfijning van de desbetreffende toezegging. Zo gaan
we die ook opnemen.

Dan is er echt een einde aan deze derde termijn van het debat gekomen. Ik dank de
Staatssecretaris en natuurlijk ook de ondersteuning voor hun komst. Ik dank de Kamerleden
voor het aanwezig zijn in hun eigen huis. En ik dank de toehoorders thuis en op de
publieke tribune.

Sluiting 11.33 uur.