Antwoord schriftelijke vragen : Antwoord op vragen van het lid Van der Werf over het verbieden van deepfake pornografie

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid), mede namens de Minister
voor Rechtsbescherming (ontvangen 14 november 2022).

Vraag 1

Bent u bekend met het bericht «Ik schaamde me omdat het zo realistisch leek; Nochtli slachtoffer deepfake porno»?1

Antwoord 1

Ja, daarmee zijn wij bekend.

Vraag 2

Deelt u de mening dat het misbruiken van iemands identiteit voor deepfake pornografie
verwerpelijk is en grote gevolgen heeft voor de slachtoffers?

Antwoord 2

Die mening delen wij.

Vraag 3

Welke maatregelen worden er op dit moment genomen om het misbruiken van iemands identiteit
voor deepfake pornografie tegen te gaan?

Antwoord 3

Het kabinet heeft het WODC onderzoek laten uitvoeren naar de vraag of regulering van
deepfakes voldoende is. Dit onderzoek heeft het kabinet 13 januari 2022 aan uw Kamer
verzonden. Het kabinet komt nog voor het kerstreces met een beleidsreactie, waarin
wordt ingegaan op de opvolging die aan het onderzoek zal worden gegeven.

Vraag 4 en 5

In hoeverre is het misbruiken van iemands identiteit voor het maken en delen van deepfake
pornografie op dit moment strafbaar?

Valt het misbruiken van iemands identiteit voor het maken en delen van deepfake pornografie
volgens u onder het bereik van artikel 139h Sr, waarmee misbruik van seksueel beeldmateriaal
strafbaar wordt gesteld? Zo ja, bent u bereid dat duidelijker in de wet te expliciteren,
bijvoorbeeld bij de behandeling van het Wetsvoorstel seksuele misdrijven? Zo nee,
welke mogelijkheden zijn er om dit via andere wegen strafbaar te stellen?

Antwoord 4 en 5

De strafbaarstelling van artikel 139h Sr omvat onder meer het, zonder toestemming
van de afgebeelde, vervaardigen van seksueel beeldmateriaal. Op grond van dit artikel is vorig jaar door de rechtbank
Den Haag een veroordeling uitgesproken voor het maken van een seksuele deepfake (4 maart
2021, ECLI:NL:RBDHA:2021:1885). Ook het openbaar maken en het voorhanden hebben van dergelijke deepfakes kunnen vallen onder het bereik van artikel 139h Sr. In de
kabinetsreactie op het rapport van het WODC over de regulering van deepfakes zal nader
worden ingegaan op de strafbaarheid en strafrechtelijke aanpak van deepfake seksueel
beeldmateriaal. Zoals gemeld in antwoord op vraag 3 krijgt u de beleidsreactie nog
voor het kerstreces.

Vraag 6

Wat vindt u van de suggestie van het Wetenschappelijk Onderzoek- en Documentatiecentrum
(WODC) om «het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie
te verbieden voor de consumentenmarkt», gegeven het feit dat nu alleen het gebruik
daarvan voor specifieke doeleinden verboden is?2

Antwoord 6

Wij hebben met belangstelling kennisgenomen van de suggesties van het WODC. In de
beleidsreactie zal hier nader op in worden gegaan.

Vraag 7

Onderschrijft u de conclusie van het WODC dat het kernprobleem bij deepfakes de handhaving
is? Tegen welke problemen loopt u daarbij op dit moment aan?

Antwoord 7

Het onderzoek signaleert inderdaad dat de handhaving van bestaande regels complex
is. Technologie waarmee deepfakes kunnen worden gemaakt is vrijelijk beschikbaar op
het internet, er zijn slechts beperkte technieken om deepfakes bij voorbaat te weren
en gepubliceerde deepfakes kunnen eenvoudig worden gekopieerd en verder verspreid.
Om de handhaving hierop te kunnen versterken, wordt gewerkt aan een inventarisatie
van de mogelijkheden die er zijn om hier beter en sneller op in te spelen. De conclusies
hierop zullen worden meegenomen in de beleidsreactie bij het WODC-rapport. Ook kan
een klacht worden ingediend bij de Autoriteit Persoonsgegevens (AP). Bij het maken
en verspreiden van deepfakes kunnen immers onrechtmatig persoonsgegevens zijn verwerkt

Vraag 8

Deelt u de mening dat online platforms ook een verantwoordelijkheid hebben om dit
soort content te identificeren en uit de lucht te halen? Zo ja, hoe ziet u daarop
toe?

Antwoord 8

Ja. Hoewel strafbare content vanzelfsprekend wordt bestreden door middel van opsporing
en vervolging – in het geval van deepfakes van diegenen die deze content vervaardigen,
ter beschikking hebben of openbaar maken – is de aanpak daarnaast gericht op de snelle
verwijdering van deze content door de internetsector.

In 2008 is tussen overheden, internetaanbieders, hostingbedrijven, en andere tussenpersonen
een «Notice and Take Down» (NTD) gedragscode overeengekomen die ziet op vrijwillige
verwijdering van illegaal (waaronder strafbaar) materiaal door de internetsector.
Omdat de verplichtingen voor de sector en de overheid worden aangescherpt met de Digital
Services Act (DSA), die in februari 2024 van toepassing wordt, zal de NTD-gedragscode
de komende tijd nog eens tegen het licht worden gehouden vanuit een publiek-private
samenwerking.

Aanvullend daarop faciliteert de overheid een aantal meldpunten om illegale (waaronder
strafbare) content onder de aandacht te brengen van dienstverleners binnen de internetsector.
Content die zij als «illegaal» betitelen wordt in dat kader in de meeste gevallen
ook daadwerkelijk ontoegankelijk gemaakt. Het kabinet zet de komende jaren bovendien
in op het verder optimaliseren van opvolging van meldingen van deze meldpunten en
zal daarbij ook bezien voor welke andere vormen van illegale content een meldvoorziening
dient te worden ingericht.

Daarnaast geldt dat content providers (providers die toezien op inhoud en moderatie
van hun informatiedienst) zich ervan dienen te vergewissen of de personen die figureren
op beelden die worden gedeeld via hun website, platform of anderszins, expliciet toestemming
hebben gegeven voor het openbaar maken van die beelden. Doen zij dat niet, dan kunnen
zij civielrechtelijk aansprakelijk worden gesteld en eventueel worden gehouden tot
betaling van een schadevergoeding en/of het verwijderen of ontoegankelijk maken van
de gewraakte content. Voor service providers (iedere natuurlijke of rechtspersoon
die een dienst van de informatiemaatschappij levert) geldt het voorgaande niet gelet
op de in de in artikel 6:196c van het Burgerlijk Wetboek opgenomen uitzondering op
de aansprakelijkheid voor de via hun diensten doorgegeven informatie. In de rechtspraak
is echter bepaald dat wanneer een serviceprovider zich toch op enige wijze bemoeit
met de content die via zijn dienstenaanbod wordt gehost, hij zich ook niet kan beroepen
op de uitzondering van aansprakelijkheid die voor serviceproviders geldt en in dat
kader ook gehouden is zich ervan te vergewissen of sprake is van toestemming tot publicatie
(16 februari 2022, ECLI:NL:RBAMS:2022:557).

Vóór het eerstvolgende CD seksueel geweld en kindermisbruik van 15 december 2022 wordt
uw Kamer nog per brief nader geïnformeerd over de vergewisplicht van internetproviders.

Vraag 9

Kunt u deze vragen beantwoorden voor het debat over de begroting van Justitie en Veiligheid
2023?

Antwoord 9

Ja.