Antwoord schriftelijke vragen : Antwoord op vragen van het lid Kathmann over de oproep van experts om AI-uitkleedsoftware wereldwijd te verbieden

Antwoord van Minister Van Weel (Justitie en Veiligheid), mede namens de Staatssecretaris
van Economische Zaken en Klimaat (ontvangen 15 april 2026). Zie ook Aanhangsel Handelingen,
vergaderjaar 2025–2026, nr. 1218.

Vraag 1

Bent u bekend met het manifest, wereldwijd ondertekend, die oproept om AI-uitkleedsoftware
te verbieden?1

Antwoord 1

Ja.

Vraag 2

Wat is uw reactie op het manifest? Kunt u inhoudelijk reageren op de specifieke oproepen
aan beleidsmakers van EU-lidstaten?

Antwoord 2

Het is goed dat het maatschappelijk middenveld met dit manifest breed aandacht vraagt
voor de problematiek rondom nudifying-tools. De slachtoffers zijn met name vrouwen
en minderjarigen, maar deepnudes kunnen in potentie van iedereen gemaakt worden. Het
bericht dat zoveel mensen slachtoffer zijn geworden is zeer zorgwekkend. Het is onacceptabel
om met behulp van AI zonder toestemming mensen uit te kleden. De impact en de gevolgen
van deepnudes voor slachtoffers en hun omgeving zijn enorm, mede omdat het maken van
deepnudes steeds geavanceerder wordt en daarmee deepnudes steeds realistischer worden.

Ten aanzien van de eerste drie specifieke oproepen: op grond van het bestaande straf-
en civiele recht kan de nudify-problematiek in Nederland en de EU al grotendeels worden
aangepakt. Het gebruik ervan zonder toestemming zal in de praktijk vrijwel altijd
strafbaar en/of onrechtmatig zijn. Zo biedt de Nederlandse wetgeving via de artikelen 252
en 254ba Wetboek van Strafrecht voldoende mogelijkheden om strafrechtelijk op te treden
tegen personen die met AI applicaties zonder toestemming deepnudes van personen, waaronder
vrouwen en minderjarigen, genereren, voorhanden hebben en verspreiden.

Bij het verwerken van persoonsgegevens in deepfakes, zoals gezichts- of stemkenmerken,
is verder de Algemene Verordening Gegevensbescherming (hierna: AVG) van toepassing.
De AVG verbiedt het maken en verspreiden van deepfakes die persoonsgegevens bevatten,
buiten de huiselijke sfeer, zonder een geldige verwerkingsgrondslag. In de praktijk
betekent dit dat een deepfake zonder toestemming, vooral wanneer het gevoelige (bijvoorbeeld
seksuele) inhoud bevat, in strijd is met de AVG. Personen wiens gegevens onrechtmatig
zijn verwerkt in (deepfake)content kunnen een klacht indienen bij de Autoriteit Persoonsgegevens
(hierna: AP).

Het gebruik van deepfake-technologie kan onder bepaalde omstandigheden een onrechtmatige
daad vormen. Dit is meestal het geval bij de publicatie van pornografische deepfakes
die zonder toestemming zijn gemaakt, maar kan ook gelden voor stemimitaties. Bovendien
blijkt uit de regeling van het portretrecht in de Auteurswet dat het publiceren van
een portret, dat niet op verzoek is gemaakt (wat meestal het geval is bij deepfakes),
niet is toegestaan als er een redelijk belang van de geportretteerde is dat zich verzet
tegen openbaarmaking (artikel 21 Auteurswet).

De digitaledienstenverordening (Digital Services Act, hierna: DSA) regelt dat hostingsdiensten,
waaronder online platforms, verplicht zijn om te voorzien in mechanismen via welke
gebruikers meldingen kunnen doen van illegale inhoud die zich op de dienst/op het
platform bevindt. De meldingen moeten vervolgens (tijdig) worden beoordeeld en verwerkt.
In het geval van illegale deepnudes zal dit betekenen dat zij de betreffende inhoud,
zodra zij daarvan kennis hebben, moeten verwijderen. Wanneer de hostingdiensten, waaronder
online platforms, dat niet doen riskeren zij aansprakelijkheid.

Daar bovenop geldt voor de zogenaamde aangewezen «zeer grote online platforms» (zoals
X, Facebook, Instagram, TikTok, YouTube, Snapchat) de verplichting om zogenaamde systeemrisico’s
die voortvloeien uit het ontwerp of de werking van de dienst en daaraan verbonden
systemen (waaronder algoritmes en aanbevelingssystemen), te beoordelen en te beperken.
Dit omvat risico’s in verband met de verspreiding van illegale inhoud, zoals gemanipuleerde
seksueel expliciete afbeeldingen, met inbegrip van inhoud die kan neerkomen op materiaal
van seksueel misbruik van kinderen. In dat kader is de Europese Commissie, die primair
toezicht houdt op aangewezen zeer grote online platforms- en zoekmachines, onlangs
een onderzoek gestart tegen X, in verband met de risico’s voortvloeiende uit de uitrol
van Grok in dat platform.2

Het kabinet staat voor een effectieve aanpak van de nudify-problematiek en daar kan
een verbod deel van uitmaken. Op dit moment wordt de mogelijkheid van een verbod op
het aanbieden van nudifying-tools verkend. Hiervoor is verdere studie nodig. Er is
nog weinig bekend over de effectiviteit van een mogelijk verbod, waar dit eventueel
opgenomen zou moeten worden, de wijze waarop dit het beste vorm kan krijgen, de handhavingsmogelijkheden
en de uitvoeringsconsequenties. Mijn ministerie is momenteel in gesprek met verschillende
partijen om te bezien of de aanpak kan worden versterkt.

In de aanpak van dergelijke grensoverschrijdende uitdagingen kan een Europese benadering
effectiever zijn dan een nationale. Daarom is het positief dat hierover gesprekken
op Europees niveau worden gevoerd. In dat kader is relevant dat de Raad op 13 maart
jl. zijn mandaat voor de triloog heeft vastgesteld ten aanzien van de AI-omnibus en
een amendement waarbij AI-systemen die non-consensuele expliciete deepfakes genereren
(zoals nudify-tools) onder de verboden AI-praktijken in de AI-verordening worden gebracht,
heeft gesteund. Op 26 maart jl. heeft het Europees Parlement ingestemd met een dergelijk
verbod. Dit betekent dat de onderhandelingen tussen het Europees Parlement en de Raad
over de definitieve vorm van een dergelijk verbod kunnen beginnen.3

Voor wat betreft de laatste specifieke oproep geldt dat in het kader van het herziene
curriculum voor het primair en voortgezet onderwijs kerndoelen voor Digitale Geletterdheid
zijn ontwikkeld. De kerndoelen richten zich onder meer op het herkennen van online
risico’s, het omgaan met (ongepaste) content en het bevorderen van digitale weerbaarheid,
waaronder het kritisch omgaan met AI-toepassingen. Ook in het middelbaar beroepsonderwijs
is aandacht voor digitale geletterdheid, zowel in beroepsgerichte programmaonderdelen
als via generieke onderdelen.

Via het Netwerk Mediawijsheid wordt aanvullend ingezet op brede bewustwording en ondersteuning
van burgers van alle leeftijden. Het netwerk ontwikkelt informatie, campagnes en lesmateriaal
voor leerlingen, docenten, ouders en andere doelgroepen, met aandacht voor online
pesten, seksueel grensoverschrijdend gedrag en sextortion.

Vraag 3

Steunt u het manifest? Zo ja, op welke manieren geeft u uitvoering aan de aanbevelingen?

Antwoord 3

Het is goed dat het maatschappelijk middenveld met dit manifest een duidelijke stem
laat horen over de risico’s van zogenoemde nudifying tools. Door gezamenlijk stelling
te nemen, maken de betrokken organisaties duidelijk dat dit een vraagstuk is voor
iedereen: overheden, technologiebedrijven en de samenleving in het algemeen. Het manifest
draagt eraan bij dat mensen zich bewuster worden van hun eigen rol in het tegengaan
van dit probleem en spreekt iedereen aan op zijn of haar verantwoordelijkheid om bij
te dragen aan een veilige (digitale) omgeving, in het bijzonder voor kinderen en jongeren.
Ten aanzien van de uitvoering van de aanbevelingen verwijs ik naar de beantwoording
van vraag 2.

Vraag 4

Hoe gaat u de motie-Van der Werf c.s. [Kamerstuk 36 800 VI-80] uitvoeren die vraagt om een onderzoek naar een verbod op dergelijke apps?

Antwoord 4

Op dit moment wordt de mogelijkheid van een dergelijk verbod onderzocht. Zoals aangegeven
in het antwoord op vraag 2, is een verbod op AI-uitkleedapplicaties inmiddels onderdeel
van de lopende AI Omnibus-onderhandelingen. Met de voortgangsbrief seksuele misdrijven,
die twee keer per jaar wordt verzonden, wordt u verder geïnformeerd over de uitvoering
van deze motie.

Vraag 5

Kunt u de wettelijke maatregelen tegen uitkleedsoftware versnellen, en zo spoedig
mogelijk met wetgeving komen om AI-uitkleedsoftware te verbieden?

Antwoord 5

Er is hier sprake is van een maatschappelijk probleem dat zich in grote mate blijft
voordoen en dat dit een snelle, voortvarende aanpak vereist. Het onderwerp heeft de
aandacht van het kabinet, wat onder andere blijkt uit het coalitieakkoord.4 De mogelijkheden voor de aanpak van AI-uitkleedsoftware worden op dit moment verkend.
Een verbod op AI-uitkleedapplicaties is verder onderdeel van de onderhandelingen over
de AI-omnibus. Dit vraagstuk is complex en kent helaas geen snelle oplossing. Een
zorgvuldige afweging, samen met alle betrokken partijen is noodzakelijk.

Vraag 6

Bent u bekend met de oproep van Spanje, gesteund door Ierland, Frankrijk en Slovenië,
om AI-uitkleedsoftware te verbieden in artikel 5 van de Europese AI Act?5,
6

Antwoord 6

Ik ben bekend met de oproep van verschillende lidstaten om AI-uitkleedsoftware in
artikel 5 van de Europese AI Act te verbieden. Als vermeld in de beantwoording van
de vragen 2, 4 en 7 is een verbod op AI-uitkleedsoftware inmiddels onderdeel van onderhandelingen
over de AI-omnibus.

Vraag 7

Deelt u de analyse van deze landen dat AI-uitkleedsoftware al is verboden in de Europese
Unie? Zo niet, bent u bereid te pleiten voor een Europees verbod?

Antwoord 7

Bestaande Europese wetgeving verbiedt het maken en verspreiden van bepaalde seksueel
expliciete beelden. Het gaat hier bijvoorbeeld om beelden van personen zonder hun
toestemming of materiaal van seksueel kindermisbruik. Deze wetgeving maakt het vooral
mogelijk om achteraf in te grijpen. De Europese ontwikkelingen ten aanzien van dit
onderwerp worden meegenomen in de eerdergenoemde verkenning naar een eventueel verbod.

Vraag 8

Bent u bereid om Nederland bij deze groep EU-lidstaten te voegen? Welke expertise
en ondersteuning kan Nederland in deze groep bieden, bijvoorbeeld met organisaties
als Offlimits aan tafel?

Antwoord 8

Onderdeel van eerdergenoemde verkenning is het actief aangaan van gesprekken en samenwerking
met andere Europese lidstaten. Als aangegeven in de beantwoording van vraag 2 hebben
in het kader van de verkenning naar de mogelijkheid van een verbod op het aanbieden
van nudifying-tools ook gesprekken met verschillende stakeholders en experts plaatsgevonden.
Ik informeer u hier verder over in de voortgangsbrief seksuele misdrijven.

Vraag 9

Kunt u deze vragen afzonderlijk van elkaar en zo snel mogelijk beantwoorden?

Antwoord 9

Ja.