Antwoord schriftelijke vragen : Antwoord op vragen van het lid Slootweg over het bericht ‘Deepfakes op TikTok maken illegale reclame voor leningen’

Antwoord van Minister Kaag (Financiën) (ontvangen 3 juli 2023). Zie ook Aanhangsel
Handelingen, vergaderjaar 2022–2023, nr. 2779.

Vraag 1

Bent u bekend met het bericht «Deepfakes op TikTok maken illegale reclame voor leningen»
van BNR Nieuwsradio?1

Antwoord 1

Ja.

Vraag 2

Vindt u het met mij eveneens verwerpelijk dat een internationaal reclamenetwerk door
middel van deepfakes met name jongeren met valse beloften naar leensites lokt?

Antwoord 2

Ja, reclame die is gebaseerd op valse beloften is sowieso verwerpelijk. Dat dit nog
eens specifiek is gericht op jongeren maakt het nog kwalijker.

Vraag 3

Kun u aangeven welke wet- en regelgeving wordt overtreden door deze reclames op TikTok,
zoals gesteld in het artikel, wie deze overtredingen begaat en wie verantwoordelijk
is voor het naleven en handhaven van de wet- en regelgeving op dit punt?

Antwoord 3

Het is aan de rechter of toezichthouders om overtredingen vast te stellen, en niet
aan het kabinet. Tot nu toe is voor zover bekend nog geen overtreding vastgesteld.
Wij hebben evenmin informatie over lopende of nog te starten onderzoeken. Daarover
kunnen de toezichthouders, die onafhankelijk zijn, ook geen uitspraken doen. Hieronder
geef ik wel een overzicht van de wet- en regelgeving die in dit kader van toepassing
is.

Regels die gelden voor de de uploader(s) van de reclamevideo´s:

• Regels over oneerlijke handelspraktijken (Whc): In de bijlage onderdeel a van de Wet handhaving consumentenbescherming (Whc) staan
onder meer de regels over oneerlijke handelspraktijken. Zo mag een onderneming het
commerciële oogmerk bij een praktijk niet verbergen (als de gemiddelde consument daardoor
een andere beslissing over de overeenkomst kan nemen dan hij anders had gedaan). Ook
moet de onderneming onder meer essentiële informatie opnemen in reclame-uitingen waaronder
zijn identiteit.

• Regels in het kader van elektronische handel (Whc): De Whc kent ook informatieverplichtingen indien commerciële communicatie online wordt
verricht. Degene die de commerciële communicatie online plaatst zorgt er onder andere
voor dat de commerciële communicatie duidelijk als zodanig herkenbaar is en de commerciële
communicatie zijn identiteit vermeldt.

• Spamverbod: Daarnaast gelden er eventueel regels over spam. De ACM ziet toe op de naleving van
het spamverbod in artikel 11.7 van de Telecommunicatiewet.

• Regels in het kader van bemiddelen in of aanbieden van krediet (Wft, BGfo, Nrgfo): Indien er sprake is van bemiddelen in / of aanbieden van een financieel product zoals
krediet dan dient een onderneming daarvoor een vergunning te hebben en te voldoen
aan de relevante regelgeving uit onder meer art. 4:19, tweede lid, Wft en art. 53
BGfo die zien op correcte, duidelijke en niet-misleidende informatieverstrekking.

• Op naleving van bovenstaande wet- en regelgeving wordt toezicht gehouden door de ACM
en waar het een financiële dienst of activiteit betreft door de AFM.

Regels die gelden voor Google en/of TikTok als platform waarop de reclames worden
aangeboden:

• Regels in het kader van elektronische handel (BW): Op grond van de richtlijn elektronische handel gelden informatieverplichtingen voor
aanbieders als Google die in het BW in artikel 3:15d zijn geïmplementeerd. Dat betekent
dat Google informatie moet verstrekken over onder meer de identiteit van de aanbieder
van de reclame en er gelden informatieverplichtingen indien Google commerciële communicatie
via haar platformen verspreidt. Beoordeling van eventuele overtreding van deze wet
is aan de civiele rechter.

• Digital Services Act (DSA): Op grond van de DSA moeten Google en TikTok ervoor zorgen dat gebruikers, waaronder
minderjarigen, zo veilig mogelijk gebruik kunnen maken van hun diensten. De DSA is
voor Google vanaf eind augustus 2023 van toepassing. De Europese Commissie houdt toezicht
op de grote platforms.

• De DSA bevat verschillende geharmoniseerde zorgvuldigheidsverplichtingen. De zeer
grote online platforms- en zoekmachines, waaronder TikTok en Google, moeten onder
de DSA aan de strengste zorgvuldigheidsverplichtingen voldoen. Aanbieders van online
platforms die op hun online-interfaces reclame tonen, moeten er verder voor zorgen
dat voor elke specifieke reclame die wordt getoond duidelijk wordt dat de informatie
reclame betreft, namens wie de reclame wordt getoond, wie er voor de reclame heeft
betaald en op basis van elke parameters bepaald wordt aan welke afnemer(s) de reclame
wordt getoond.

Vraag 4

Kunt u bevestigen dat ABN AMRO, ING en Pricewise niet betrokken zijn bij deze reclamestrategie
en er evenmin van op de hoogte waren?

Antwoord 4

ABN AMRO, ING en Pricewise laten weten niet van deze advertentiewijze te weten en
niet hiermee geassocieerd te willen worden. Zij hebben geprobeerd de reclames zo snel
mogelijk uit de lucht te halen via TikTok en Google. TikTok heeft inmiddels aan ABN
AMRO aangegeven dat de advertenties over leningen niet in lijn zijn met de richtlijnen
voor financiële instanties. Alle advertenties zijn van het platform verwijderd. Ook
zijn alle accounts geblokkeerd van waaruit de advertenties geplaatst zijn.

Vraag 5

Zo ja, ligt het voor deze bedrijven in de rede een financiële claim in te dienen bij
de producent van deze reclames?

Antwoord 5

ING heeft aangeven om, indien duidelijk is wie er verantwoordelijk is voor het plaatsen
van deze advertenties, te bekijken wat juridisch de mogelijkheden zijn en of het nodig
is om hier actie op te ondernemen. De andere betrokken bedrijven hebben zich hier
niet over uitgelaten. Vooralsnog zijn geen claims ingediend.

Vraag 6

Bent u bereid om als aandeelhouder van ABN AMRO aan te dringen op het stopzetten van
deze reclames en het indienen van een schadeclaim bij de producent van deze reclames?

Antwoord 6

NLFI is namens de staat aandeelhouder. Het ministerie staat daarbij op afstand. Dee
bank heeft uit zichzelf al de nodige acties ondernomen.

Vraag 7

Deelt u de opvatting dat de producent van deze deepfakereclames misbruik maakt van
het reclamenetwerk van Google?

Antwoord 7

Google heeft aangegeven dat deze advertentie niet door Google op TikTok is weergegeven.
Als Google advertenties aantreft van gebruikers die de beleidsregels inzake misleiding
van gebruikers schenden, kan het account worden beëindigd. Zie daarnaast de beantwoording
van vraag 3 voor wat betreft de regels die gelden voor de uploader(s) van de reclamevideo’s. Het is aan de bevoegde autoriteiten om te oordelen of er al
dan niet sprake is van misbruik van het reclamenetwerk.

Vraag 8

Welke verantwoordelijkheid ligt er in juridisch en moreel opzicht bij zowel Google
als TikTok om ervoor te zorgen dat gebruikers hun platform op een veilige manier kunnen
gebruiken en oplichting van gebruikers met name jongeren te voorkomen?

Antwoord 8

Voor de beantwoording van deze vraag over de verantwoordelijkheden in juridisch opzicht
verwijs ik naar het antwoord bij vraag 3, waarin de verantwoordelijkheden van Google
en TikTok op grond van de DSA worden toegelicht. Naast verplichtingen op grond van
de DSA dienen online platforms als Google en TikTok zich ook te houden aan het generieke
consumentenrecht. Over welke verantwoordelijkheden en verplichtingen er rusten op
online platforms op grond van het consumentenrecht heeft de ACM in 2020 vuistregels
gepubliceerd: Vuistregels Online platformen (acm.nl).

Verder is het een taak van platformen zelf om ervoor te zorgen dat de informatie die
via hun diensten wordt verspreid zo betrouwbaar mogelijk is, maar ook om ervoor te
zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te
herkennen en signaleren.

Vraag 9

Op welke wijze gaat u gebruikers, met name jongeren, beschermen tegen dergelijke praktijken
die desastreuze financiële gevolgen kunnen hebben, met name omdat experts verwachten
dat deepfake reclames in de nabije toekomst niet van echt te onderscheiden zijn?

Antwoord 9

De Nederlandse overheid zet allereerst in op het mediawijs en weerbaar maken van burgers
en scholieren. Steeds meer scholen in Nederland besteden binnen de context van digitale
geletterdheid en mediawijsheid aandacht aan bijvoorbeeld desinformatie. Voor scholen
gebeurt dat onder meer door al bestaand lesmateriaal overzichtelijk te bundelen. Op
die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen.
Voor de bredere kabinetsinzet ten aanzien van het versterken van de weerbaarheid van
burgers, verwijs ik u naar de Kamerbrief over de Rijksbrede strategie effectieve aanpak
van desinformatie2.

De digitale wereld is complex. Er is een substantiële kennisasymmetrie tussen de bedrijven
die de digitale wereld maken en de gebruikers daarvan. De precieze werking van dataverzameling,
-deling en -gebruik is ingewikkeld, beïnvloedingen zijn subtiel en ongemerkt (denk
aan grafische ontwerpen om gebruikers bepaalde keuzes te laten maken), maar ook de
werking van apparaten zelf of instellingen zijn voor een gemiddelde gebruiker vaak
moeilijk te doorgronden. Hierdoor wordt het voor gebruikers moeilijk om een goede
inschatting te maken van de effecten van online activiteiten op eigen welzijn. Zeker
als het gaat om kinderen. Naast dat bedrijven verplicht zijn om zo transparant mogelijk
te zijn over hoe hun producten werken is goede voorlichting aan kinderen, ouders en
verzorgers over kansen en risico´s in de digitale wereld cruciaal. Zoals aangekondigd
in de brief van 16 december 2022 wil het kabinet daarom een meerjarige, brede publiekscampagne
starten3. Het thema desinformatie zal daar onderdeel van uitmaken.

Op grond van de DSA zijn grote online platforms- en zoekmachines verplicht om jaarlijks
de systeemrisico’s die voortvloeien uit de werking of het gebruik van hun diensten
in kaart te brengen en deze risico’s zo nodig beperken. Systeemrisico’s zijn bijvoorbeeld
de verspreiding van illegale inhoud en/of desinformatie via hun diensten, al dan niet
met gebruikmaking van deepfakes. De Europese Commissie zal hier toezicht op houden.

Als het specifiek gaat over reclames voor krediet ziet de AFM toe op de vergunningplicht
voor consumptief krediet en de normen die bij het antwoord op vraag 3 worden genoemd.
Kredietaanbieders moeten onder meer toetsen of de lening verantwoord kan worden verstrekt
en een BKR-toets doen. Er mag bovendien alleen krediet worden verstrekt aan 18+. Een
kredietcontract aan minderjarigen is niet rechtsgeldig.

Ten aanzien van gebruik van AI geldt dat er in Brussel onderhandeld wordt over de
AI act. Gebruikers van generatieve AI, zoals systemen die videomateriaal genereren
of bewerken die aanzienlijk op bestaande personen lijken, worden onder de AI Act verplicht
om uiterlijk op het moment van de eerste interactie of blootstelling duidelijk te
maken dat sprake is van gegenereerde content. Tot slot kan worden vermeld dat de Europese
Commissie wil dat partijen die zich hebben aangesloten bij de Code of Practice on
Disinformation, technologie gaan ontwikkelen zodat AI gegenereerde content duidelijk
gelabeld wordt, zodat geen twijfel meer kan bestaan of iets echt of een deepfake is.
Hierover is de Europese Commissie op dit moment in gesprek met de ondertekenaars van
de EU Code of Practice on Disinformation.

Vraag 10

Welke mogelijkheden zijn er om dit soort illegale reclames aan te pakken, wanneer
het verantwoordelijke bedrijf is geïdentificeerd?

Antwoord 10

Zie vraag 3. De toepasselijke wet- en regelgeving geven de bevoegde autoriteiten,
waaronder de AFM, de ACM of in het geval van de DSA de Europese Commissie, een mandaat
te handhaven indien de regels worden overtreden.