Antwoord schriftelijke vragen : Antwoord op vragen van de leden Van der Werf, Six Dijkstra, Kathmann en Michon-Derkzen over het bericht ‘In de strijd tegen deepfakes krijgen Denen copyright op eigen gezicht en stem’

Antwoord van Minister Van Oosten (Justitie en Veiligheid), mede namens de Staatssecretaris
van Justitie en Veiligheid (ontvangen 19 september 2025).

Vraag 1

Bent u bekend met het artikel «In de strijd tegen deepfakes krijgen Denen copyright
op eigen gezicht en stem»?

Antwoord 1

Ja.

Vraag 2

Deelt u de opvatting van de stichting Stop Online Shaming dat de politie, justitie
en de Autoriteit Persoonsgegevens «blijkbaar niet de capaciteit en prioriteit [hebben]
om partijen en personen die dit uploaden en verspreiden aan te pakken»?

Antwoord 2

Het kabinet erkent de grote impact die bepaalde deepfakes en online misbruik hebben
op slachtoffers. Effectieve handhaving en bescherming van slachtoffers zijn van groot
belang. De beleidsreactie op het rapport «Online seksueel geweld» van 21 maart 20252 zal ik u in het najaar doen toekomen, hierin wordt onder meer gereflecteerd op de
capaciteit en prioriteit van onder andere de politie, het OM, de Autoriteit Persoonsgegevens
(AP) en de Autoriteit Consument en Markt (ACM) voor de problematiek rondom online
misbruik.

Het is daarnaast belangrijk om te benoemen dat het in de praktijk helaas soms lastig
is om effectief op te treden tegen deepfake porno, omdat aanbieders van deepfake-websites
vaak niet transparant zijn over hun identiteit of hun vertegenwoordiging binnen de
EU. Dit bemoeilijkt het vaststellen van de juiste verantwoordelijke partij en daarmee
de handhaving. Ook blijkt dat wanneer de identiteit van deze partijen wel te achterhalen
is, zij niet in Nederland, of zelfs niet in de EU, gevestigd zijn, wat handhaving
bemoeilijkt.

Vraag 3

Wat vindt u ervan dat de stichting Stop Online Shaming geregeld zaken aanvoert bij
grote techbedrijven, maar dat deze bedrijven weigeren mee te werken?

Antwoord 3

Grote techbedrijven hebben de verantwoordelijkheid om zich te houden aan geldende
wet- en regelgeving en daarmee illegale inhoud tegen te gaan. Op grond van de Digitale
Services Act (DSA) rust op zeer grote online platforms en zeer grote online zoekmachines
de verantwoordelijkheid om illegale inhoud op hun diensten tegen te gaan en systeemrisico’s
te mitigeren, onder meer door het voor gebruikers van de platforms mogelijk te maken
om illegale inhoud op eenvoudige wijze te melden.

Zeer grote online platforms en zoekmachines zijn daarnaast verplicht jaarlijks een
risicobeoordeling uit te voeren om systeemrisico’s, zoals schadelijke deepfakes, te
identificeren. Indien relevante risico’s aanwezig zijn, dan moeten zij passende maatregelen
nemen om deze te beperken, zoals aanpassingen in diensten, de interface, algemene
voorwaarden, moderatieprocedures en/of algoritmes. Indien een platform systematisch
nalaat om adequaat op meldingen te reageren, kunnen nationale toezichthouders of de
Europese Commissie daarop handhaven, bijvoorbeeld door boetes op te leggen. Daarnaast
hebben gebruikers de mogelijkheid om, naast het doorlopen van de interne klachtenafhandelingsprocedure
bij een aanbieder, een gerechtelijke procedure te starten.

Dat organisaties burgers vertegenwoordigen of ondersteunen, kan in het algemeen bijdragen
aan de effectieve handhaving van gebruikersrechten onder de Digitaledienstenverordening
(hierna: de DSA) en aan een betere rechtsbescherming in de digitale omgeving.

Vraag 4

Wat gaat u doen om ervoor te zorgen dat grote techbedrijven hun verantwoordelijkheid
gaan nemen om mensen te beschermen tegen online grensoverschrijdend gedrag, zoals
het verspreiden van pornografische deepfakes?

Antwoord 4

Het kabinet is zich bewust van de enorme impact die online grensoverschrijdend gedrag,
zoals het verspreiden van pornografische deepfakes, kan hebben op slachtoffers. Zoals
gemeld in mijn antwoord op vraag 3 beoogt de DSA de verspreiding van illegale inhoud
en systeemrisico’s aan te pakken. Dat betreft vaak ook deepfake-pornobeelden, omdat
die veelal illegaal zijn en dus onder toepassingsbereik van de DSA vallen.3 Onder meer de verantwoordelijke onafhankelijke toezichthouders kunnen optreden tegen
bedrijven die bijdragen aan de creatie of verspreiding van dergelijk materiaal.

Daarnaast vindt er vanuit mijn departement en onder andere het Ministerie van Economische
Zaken en het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties regelmatig overleg
plaats met techbedrijven. Om de brede dialoog over online content te ondersteunen,
is in 2023 – onder neutraal voorzitterschap van ECP4 – een overlegplatform opgericht waarin publieke en private partijen uitdagingen en
ontwikkelingen op het gebied online contentmoderatie uitwisselen. Daarnaast ondersteunt
het Ministerie van Justitie en Veiligheid het meldpunt Helpwanted van stichting Offlimits,
om het voor burgers eenvoudiger te maken om hulp te zoeken en melding te doen van
illegale content met als doel om dit snel verwijderd te krijgen. Offlimits onderhoudt
contacten met platformen en heeft op 15 juli jl. de status van betrouwbare flagger
toegewezen gekregen door de ACM. Hiermee is haar rol in het signaleren en melden van
illegale inhoud geformaliseerd onder de DSA.

Vraag 5

Welke juridische grondslag is er in Nederland om ongewenste deepfakes aan te pakken?
In hoeverre is de bestaande auteursrechtwetgeving hiervoor geschikt?

Antwoord 5

Het Nederlandse recht biedt een breed scala aan instrumenten om ongewenste deepfakes
aan te pakken, zowel civiel-, straf- als bestuursrechtelijk.5 Bij verwerking van persoonsgegevens in deepfakes, zoals gezichtskenmerken of stem,
is de Algemene Verordening Gegevensbescherming (AVG) van toepassing. Zo verbiedt de
AVG het maken en verspreiden – buiten de huiselijke sfeer – van deepfakes waarin persoonsgegevens
zijn verwerkt zonder een verwerkingsgrondslag. In de praktijk is daardoor een deepfake
die zonder toestemming is gemaakt, zeker als daarin gevoelige (bijvoorbeeld seksuele)
content is te zien, strijdig met de AVG. De betrokkene kan een klacht indienen bij
de AP wanneer het gaat om (deepfake)content waarbij onrechtmatig persoonsgegevens
zijn verwerkt.

Het toepassen van deepfake-technologie kan onder omstandigheden een onrechtmatige
daad vormen. Dit zal standaard het geval zijn bij publicatie van pornografische deepfakes
die zonder toestemming zijn vervaardigd, maar kan bijvoorbeeld ook het geval zijn
bij de imitatie van stemmen. Ook uit de regeling van het portretrecht in de Auteurswet
volgt dat publicatie van een portret dat niet in opdracht is gemaakt (zoals bij deepfakes
veelal het geval zal zijn) niet geoorloofd is als een redelijk belang van de geportretteerde
zich tegen de openbaarmaking verzet (artikel 21 Auteurswet).

De DSA verplicht online platforms om het melden van illegale inhoud, zoals ongeoorloofde
deepfakes, mogelijk te maken.6 Als zij vervolgens geen actie ondernemen op zulke meldingen dan kunnen zij er, mits
aan de overige voorwaarden daarvoor is voldaan, zelf aansprakelijk voor worden gesteld.
Als een platform structureel tekortschiet in de afhandeling van dit soort meldingen,
kunnen daarnaast toezichthouders daar tegen optreden, bijvoorbeeld middels het opleggen
van een boete. De DSA geeft gebruikers bovendien het recht om een klacht te kunnen
indienen bij platformen, en in sommige gevallen kunnen gebruikers naar een onafhankelijke
geschilbeslechtingscommissie om besluiten van platformen aan te vechten. Zoals toegelicht
bij het antwoord op vraag 4, zijn zeer grote online platformen en zeer grote online
zoekmachines op grond van de DSA verder verplicht om de systeemrisico’s die kunnen
voortvloeien uit de verspreiding van kunstmatig gegenereerde of gemanipuleerde content,
zoals deepfakes, te identificeren en te beperken. De transparantieverplichtingen uit
de AI-verordening7 vereenvoudigen de opsporing van dergelijke, kunstmatig gegenereerde, content en het
AI-systeem daarachter.

Het strafrecht, met onder meer artikel 254ba Sr (Wet seksuele misdrijven, in werking
getreden per 1 juli 2024), stelt het zonder instemming maken of verspreiden van seksueel
beeldmateriaal strafbaar, ongeacht of dit door een persoon of AI is vervaardigd. Ook
andere strafrechtelijke bepalingen, zoals doxing (art. 285d Sr) en smaad/laster (art.
261 Sr), kunnen van toepassing zijn.

Vraag 6

Gaat u naar Deens voorbeeld het auteursrecht uitbreiden door mensen copyright te geven
op hun uiterlijk en stem, en grote techbedrijven aansprakelijk stellen voor het weghalen
van ongewenste deepfakes?

Antwoord 6

Het Nederlandse recht biedt voldoende mogelijkheden voor juridische (civiele) vervolgstappen,
strafrechtelijke vervolging en bestuursrechtelijke handhaving. Eerder werd door mijn
ambtsvoorganger en de toenmalig Minister voor Rechtsbescherming naar aanleiding van
de uitkomst van onderzoeken van het WODC geconstateerd dat het wettelijk kader voldoende
mogelijkheden biedt om het onwenselijke gebruik van deepfaketechnologie te adresseren.8 Zoals hiervoor genoemd kunnen online platforms onder voorwaarden al aansprakelijk
worden gesteld als zij geen medewerking verlenen aan het verwijderen van illegale
content.

Recentelijk werd voor wat betreft pornografische deepfakes in het eerder genoemde
rapport «Online seksueel geweld» geconcludeerd dat het bestrijden van online seksueel
misbruik niet wordt belemmerd door een gebrek aan regelgeving.9 Hier komt bij dat het auteursrecht in de kern bedoeld is om de maker van een werk
van letterkunde, wetenschap of kunst in staat te stellen het werk te (laten) exploiteren.
Introductie van een auteursrecht op iets dat op zichzelf beschouwd geen creatieve
prestatie is (een stem of beeltenis) en dat tot doel heeft openbaarmaking te voorkomen,
staat daar haaks op. De Staatssecretaris van Justitie en Veiligheid ziet dan ook geen
aanleiding om over te gaan tot aanpassing van wetgeving.