Antwoord schriftelijke vragen : Antwoord op vragen van het lid Kathmann over een verbod op de AI-chatbot van X

Antwoord van Minister Van Weel (Justitie en Veiligheid) en van Staatssecretaris Aerdts
(Economische Zaken en Klimaat) (ontvangen 17 maart 2026). Zie ook Aanhangsel Handelingen,
vergaderjaar 2025–2026, nr. 1037.

Vraag 1

Bent u bekend met de berichten «X komt met nieuwe beperkingen voor gebruik Grok, maar
mensen uitkleden blijft simpel»1, «Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod
in Nederland op tafel»2 en «Topoverleg tussen OM en Minister over uitkleed-app Grok, topman Musk komt beloftes
niet na met nieuwe update»3?

Antwoord 1

Ja.

Vraag 2

Is het bij u bekend dat de AI-chatbot Grok van xAI wordt gebruikt om seksuele deepfakes
te maken op X? Wat is daarop uw reactie?

Antwoord 2

Ja, wij vinden het onacceptabel dat met de AI-chatbot Grok op grote schaal deepnudes
(seksueel getinte nepafbeeldingen of -video’s) zijn gegenereerd. Het bericht dat zoveel
mensen slachtoffer zijn geworden vinden wij zeer zorgwekkend. De slachtoffers zijn
met name vrouwen en minderjarigen, maar deepnudes kunnen in potentie van iedereen
gemaakt worden. De impact en de gevolgen van deepnudes voor slachtoffers en hun omgeving
zijn enorm, mede omdat het maken van deepnudes steeds geavanceerder wordt en daarmee
deepnudes steeds realistischer worden. Daarnaast zijn deze beelden ook schadelijk
voor de samenleving, omdat iedereen, specifiek jongeren, ze online tegen kunnen komen.

Het vervaardigen van seksueel beeldmateriaal van minderjarigen, of van personen zonder
toestemming, is strafbaar, ook als het materiaal met AI is gegenereerd.

Vraag 3

Welke conclusies trekt u op basis van de berichtgeving? Vindt u dat X en xAI verantwoord
handelen? Zo niet, welke maatregelen kunt u zowel nationaal als Europees nemen om
misbruik van xAI tegen te gaan?

Antwoord 3

Zoals ook bij vraag 2 beantwoord, vinden wij het bericht dat mensen, met name vrouwen
en kinderen, slachtoffer worden van deepnudes zeer zorgwekkend.

De GROK AI tool is geen zelfstandig platform, maar een onderdeel van X waarlangs de
verspreiding plaatsvindt. X is onder de Digital Service Act (DSA) een zeer groot online
platform. De Europese Commissie (EC) houdt hier toezicht op en is inmiddels een onderzoek
gestart in het kader van de DSA.4 Het is aan de EC om te beoordelen of X aan de wettelijke verplichtingen heeft voldaan.
Nederland heeft in de lopende onderzoeken tegen X geen specifieke rol. Uiteraard volgen
wij de ontwikkelingen met belangstelling.

Vraag 4

Wat heeft u met het Openbaar Ministerie besproken in het overleg van 15 januari 2026,
waarover het AD bericht heeft? Kunt u de uitkomsten met de Kamer delen?

Antwoord 4

Het gesprek waarnaar wordt verwezen in het AD, betreft een gesprek op werkniveau tussen
medewerkers van het Ministerie van Justitie en Veiligheid en medewerkers van de politie
en het Openbaar Ministerie (OM). Binnen het Ministerie van Justitie en Veiligheid
wordt gekeken naar de mogelijkheden om het gebruik van nudify-applicaties verder tegen
te gaan. Ondanks de mogelijkheid om gebruikers van de applicaties strafrechtelijk
te vervolgen (via de artikelen 252 en 254ba Sr) en de mogelijkheid om elk illegaal
beeld te laten verwijderen, blijft het maatschappelijke probleem rondom deepnudes,
zich in grote mate voordoen. Om die reden wordt bezien of het wenselijk en haalbaar
is het aanbieden van de applicaties zelf te verbieden, nationaal dan wel Europees.
In dat kader hebben met verschillende stakeholders en experts, waaronder ook medewerkers
van de politie en het OM, gesprekken plaatsgevonden. Voordat een inhoudelijke positie
bepaald wordt, is verdere studie nodig.

In de voortgangsbrief aanpak seksuele misdrijven, die twee keer per jaar wordt verstuurd,
zal de Minister van Justitie en Veiligheid uw Kamer informeren over de stand van zaken
van deze verkenning.

Vraag 5

Zijn uitkleedapps en -tools verboden in Nederland? Hoe wordt hierop gehandhaafd, en
welke gevolgen heeft het voor X dat het platform het genereren van seksuele deepfakes
standaard aanbiedt via Grok?

Antwoord 5

Zie het antwoord op vraag 4. Welke gevolgen het heeft voor X dat het platform het
generen van deepnudes standaard aanbiedt via GROK, zal moeten blijken uit het onderzoek
dat door de Europese Commissie is ingesteld.

Vraag 6

Welke mogelijkheden bent u aan het verkennen om op te treden tegen uitkleedapps en
-tools? Hoe bent u dit aan het onderzoeken en op welke termijn gaat u de uitkomsten
met de Kamer delen?5 Hoe snel zou u aanvullende maatregelen kunnen nemen?

Antwoord 6

Zie het antwoord op vraag 4.

Vraag 7

Vindt u de maatregelen die X heeft aangekondigd voldoende, namelijk een geoblokkade
voor de AI-functie om seksuele deepfakes te genereren in landen die daar wetten tegen
hebben? Wat betekent dit voor Nederlandse slachtoffers?

Antwoord 7

Wij zullen de effectiviteit van de door X genomen maatregelen moeten afwachten. Wij
houden dat nauwlettend in de gaten.

Vraag 8

Deelt u de zorgen van de indiener dat deze geoblokkade gemakkelijk te omzeilen is
en geen recht doet aan het leed van slachtoffers die ongewenst seksueel zijn afgebeeld?

Antwoord 8

Ja, wij delen deze zorgen, maar zoals eerder geantwoord zullen wij de effectiviteit
van de getroffen maatregelen moeten afwachten.

Vraag 9

Onder welke voorwaarden vindt u het acceptabel dat Grok beschikbaar blijft op X? Bent
u, ook na de technische aanpassingen van de chatbot, van mening dat deze niet langer
beschikbaar moet zijn?

Antwoord 9

Zoals geantwoord bij vraag 4, wordt binnen het Ministerie van Justitie en Veiligheid
gekeken naar de mogelijkheden om het gebruik van nudify applicaties verder tegen te
gaan.

Vraag 10

Bent u bereid om, net als in België en het Verenigd Koninkrijk, over te gaan tot het
blokkeren van de AI-chatbot Grok? Welke andere ingrijpen heeft u tot uw beschikking?

Antwoord 10

De DSA harmoniseert de regels die van toepassing zijn op tussenhandeldiensten op de
interne markt volledig. De lidstaten mogen derhalve geen aanvullende nationale eisen
stellen of in stand houden die verband houden met aangelegenheden die binnen het toepassingsgebied
van de verordening vallen, tenzij daarin uitdrukkelijk is voorzien in de verordening.
Vanuit België is een oproep geweest aan de EC om op te treden, maar daar is Grok momenteel
niet verboden.

De EC is inmiddels een onderzoek gestart naar de AI chatbot Grok. Bij constatering
van schending van de DSA staan de EC verschillende middelen ter beschikking; één daarvan
is de toegang tot een dienst beperken.

In het Verenigd Koninkrijk is andere wetgeving op digitale diensten van toepassing
dan in de Europese Unie.

Vraag 11

Steunt u de oproep van de Europese Commissie dat alle interne documenten en data gerelateerd
aan de chatbot Grok moet worden vrijgegeven in het lopende onderzoek naar de contentmoderatie
van X?6

Antwoord 11

Het is niet aan ons als bewindspersonen om deze oproep van de EC te beoordelen. Zoals
ook bij vraag 3 beantwoord, houdt primair de EC toezicht op X en op Grok, als onderdeel
van X. In het onderzoek, dat is gestart door de EC, heeft Nederland geen specifieke
rol. Uiteraard volgen wij de ontwikkelingen met belangstelling.

Vraag 12

Kunt u de relevante toezichthouders, in dit geval de Autoriteit Consument & Markt
en de Autoriteit Persoonsgegevens, vragen om hun reactie? Hebben zij voldoende mogelijkheden
om toezicht te houden en te handhaven?

Antwoord 12

De ACM en AP hebben aangegeven op dit moment samen met andere partijen en toezichthouders
te verkennen wat de mogelijkheden zijn om dit soort applicaties aan te pakken en hoe
zij elkaar daarin kunnen versterken.

Als het gaat om specifiek de bevoegdheden van de ACM, heeft de ACM de volgende reactie
gegeven:

«De ACM houdt in Nederland toezicht op de DSA. De DSA gaat niet over welke online
inhoud illegaal is. Dat bepalen wetten zoals het strafrecht of privacywetgeving. Wat
de DSA wél regelt, is welke processen de online platforms moeten hebben ingericht
op het voorkomen van illegale inhoud. Bijvoorbeeld, hoe online platforms moeten omgaan
met meldingen over illegale inhoud. Dit betekent dat de ACM niet kan optreden tegen
de illegale content zelf, zoals bijvoorbeeld de seksuele beelden die zonder toestemming
zijn verspreid. De ACM komt bij deze problematiek enkel in beeld als er sprake is
van een onlineplatform (of een hosting provider) die een rol speelt in de verspreiding/hosting
van de content en zoals hiervoor genoemd de processen niet op orde heeft.

De ACM kan optreden wanneer de aanbieders van deze diensten in Nederland gevestigd
zijn. De allergrootste platforms vallen primair onder toezicht van de EC. Zo heeft
de EC een DSA-onderzoek geopend tegen het platform X, in verband met de rol dat dat
platform speelt in het verspreiden van content door middel van Grok. Nationale toezichthouders
kunnen wel bijstand verlenen bij onderzoeken als de EC daarom vraagt. Ook kunnen Nederlandse
gebruikers meldingen van mogelijke DSA-overtredingen bij de ACM indienen. De ACM zorgt
er dan voor dat deze bij de juiste instanties terechtkomen.»

Als het gaat om specifiek de bevoegdheden van de AP, heeft de AP de volgende reactie
gegeven:

«Het genereren en/of verspreiden van seksuele deepfakes is in dit geval een verwerking
van persoonsgegevens die aan de Algemene verordening gegevensbescherming (AVG) moet
voldoen. De AP kan onderzoek instellen naar personen of organisaties die verantwoordelijk
zijn voor het (mogelijk) maken en verspreiden van dit soort materiaal. Dit kan op
basis van klachten, maar ook op eigen initiatief. Als uit dat onderzoek blijkt dat
de AVG wordt overtreden, kan de AP optreden, bijvoorbeeld door het opleggen van boetes
en het laten verwijderen van content.

Wanneer het hoofdkantoor van een organisatie in een andere lidstaat is gevestigd,
zoals het geval bij X (het Europese hoofdkantoor is namelijk gevestigd in Ierland),
dan stelt de gegevensbeschermingsautoriteit van het betreffende land onderzoek in.
De AP houdt nauw contact met deze collega-toezichthouders.

De AP merkt op dat wat deepnudes betreft er zowel praktische als juridische complicaties
zijn als het gaat om bewijsvergaring en handhaving. Zo is het vaak lastig te achterhalen
wie de deepfakes heeft gemaakt of verspreid, zijn de eigenaren van platforms vaak
moeilijk vindbaar of bevinden deze zich in het buitenland (veelal buiten de EU). Ook
sluit wetgeving niet altijd naadloos aan op dit soort situaties.»

Een complicerende factor is ook dat de illegaliteit van de content telkens van individueel
geval tot geval moet worden beoordeeld en bewezen en het is niet goed mogelijk dit
in generieke zin te doen. Voor een effectieve aanpak van dit probleem bevelen de ACM
en AP aan dat onderzoek wordt gedaan naar manieren om de drempel voor de illegaliteit
van deze problematiek te verlagen, of om vast te stellen of een nieuwe strafbaarstelling
van meerwaarde is. Dan kan het probleem bij de bron worden aangepakt, in plaats van
incidentbestrijding.

Vraag 13

Hoeveel klachten en meldingen zijn er gedaan door slachtoffers van seksuele deepfakes
door Grok? Hoe wordt hier opvolging aan gegeven? Gebeurt dit altijd tijdig?

Antwoord 13

Slachtoffers kunnen bij verschillende organisaties, zoals Slachtofferhulp Nederland
(SHN), Centrum Seksueel Geweld (CSG) en Offlimits, terecht voor hulp. Als het slachtoffer
overweegt een melding te maken of aangifte te doen, kan deze terecht bij de politie.
Genoemde hulporganisaties kunnen slachtoffers hierover informeren of hierbij ondersteunen.

Bij bovengenoemde hulporganisaties is niet bekend of er ook Nederlanders zijn die
slachtoffer zijn geworden van de AI-naaktbeelden, die specifiek met de AI-Chatbot
Grok zijn gegenereerd. Dit komt omdat bij meldingen die door slachtoffers worden gedaan
bij SHN en CSG, in de registratie geen onderscheid wordt gemaakt naar misbruik van
echt dan wel met AI-gegenereerd beeldmateriaal. Bij meldingen die door slachtoffers
worden gedaan bij Offlimits, wordt in de registratie wel onderscheid gemaakt tussen
echt en AI-gegenereerd beeldmateriaal, maar wordt niet geregistreerd met welke specifieke
AI-applicatie, zoals bijvoorbeeld de AI-chatbot Grok, de afbeeldingen zijn gegenereerd.

De politie heeft in de afgelopen twee maanden wel een toename gezien in de hoeveelheid
meldingen die vanuit platforms worden gedaan over uploads naar AI-chatbot Grok. Mogelijk
zijn er ook slachtoffers die zelf melding hebben gedaan bij de politie, maar dit is
niet goed uit de registratie te halen, omdat de melding onder verschillende delictsoorten
kan worden geregistreerd.

Vraag 14

Hoe is uw contact met X? Heeft u de zorgen over deepfakes al met X besproken? Zo ja,
wanneer is dat gebeurd en wat waren de uitkomsten van deze gesprekken? Zo niet, kunt
u dit zo spoedig mogelijk alsnog doen?

Antwoord 14

Nee, dit hebben wij niet met X besproken. De EC heeft inmiddels een onderzoek ingesteld.
Wij zullen de ontwikkeling rondom dit onderzoek volgen.

Vraag 15

Voldoen X en xAI naar uw weten aan de ethische- en transparantieverplichtingen van
Nederlandse en Europese wet- en regelgeving? Welke gevolgen heeft het als dit niet
het geval is?

Antwoord 15

Zoals ook bij de vragen 3 en 11 aan de orde is gekomen, is het aan de EC, een onafhankelijke
toezichthouder, om hier toezicht op te houden. De EC is inmiddels een onderzoek gestart
in het kader van de DSA. Het is aan de EC om te beoordelen of X aan de wettelijke
verplichtingen heeft voldaan. Nederland heeft in de lopende onderzoeken tegen X geen
specifieke rol. Uiteraard volgen wij de ontwikkelingen met belangstelling. Als de
toezichthouder vaststelt dat sprake is van het niet nakomen verplichtingen, kan zij
sancties opleggen.

Vraag 16

Behoren het verbieden van X of het vertrekken van overheidsorganisaties van de dienst
tot de mogelijkheden als X stelselmatig de nationale en Europese wet- en regelgeving
blijft overtreden?

Antwoord 16

Het kabinet beraadt zich op dit moment over de wenselijkheid en mogelijkheid van een
verbod op bepaalde applicaties. Het verbieden van X als geheel is niet aan de orde.

Vraag 17

Kunt u deze vragen afzonderlijk van elkaar en zo snel mogelijk beantwoorden?

Antwoord 17

Ja.