Antwoord schriftelijke vragen : Antwoord op vragen van de leden Sjoerdsma, Kat en Dekker-Abdulaziz over het bericht dat AI-sites teksten van nieuwsmedia gebruiken zonder daar bronvermelding aan toe tevoegen

Antwoord van Minister Weerwind (Rechtsbescherming), mede namens de Staatssecretaris
van Binnenlandse Zaken en Koninkrijksrelaties en de Minister van Economische Zaken
en Klimaat (ontvangen 16 november 2023). Zie ook Aanhangsel Handelingen, vergaderjaar
2023–2024, nr. 28.

Vraag 1

Kunt u reflecteren op het gegeven dat AI-sites teksten van nieuwsmedia gebruiken,
zonder daar bronvermelding aan toe te voegen?1

Antwoord 1

Als ik de vraag zo mag interpreteren dat de vraagstellers zich zorgen maken dat het
ontbreken van bronvermelding bij AI gegenereerde tekst kan zorgen voor de verspreiding
van onder andere mis- en desinformatie, dan deel ik die zorg. De verspreiding van
mis- en desinformatie kan verminderen door correcte bronvermelding, aangezien dit
de lezer en factcheckers in staat stelt om de herkomst en betrouwbaarheid van informatie
te kunnen controleren en beoordelen. Daarom vind ik het van belang dat AI-sites en
andere generatieve artificiële intelligentie bronnen correct vermelden.

Het is een andere vraag of de ontwikkelaars van generatieve artificiële intelligentie
op grond van het auteursrecht ook verplicht zijn om te melden met welke werken van
letterkunde, wetenschap of kunst de generatieve artificiële intelligentie is getraind.
Het antwoord op die vraag luidt ontkennend. Artikel 25a, derde lid, van de Auteurswet
bevat een definitie van tekst- en datamining. Onder «tekst- en datamining» wordt verstaan
een geautomatiseerde analysetechniek die gericht is op de ontleding van tekst en gegevens
in digitale vorm om informatie te genereren, zoals, maar niet uitsluitend, patronen,
trends en onderlinge verbanden. Die definitie, die op de EU-richtlijn auteursrecht
in de digitale eengemaakte markt is gebaseerd, is zo ruim geformuleerd dat daaronder
naar het zich laat aanzien ook het trainen van artificieel intelligente applicaties
met teksten van nieuwsmedia kan ressorteren. Het geven van een authentieke interpretatie
is echter niet aan mij, maar uiteindelijk aan het Hof van Justitie van de Europese
Unie voorbehouden. Artikel 15o van de Auteurswet regelt in lijn met de voornoemde
richtlijn dat het maken van een reproductie van een werk van letterkunde, wetenschap
of kunst in het kader van tekst- en datamining onder twee cumulatieve voorwaarden
geen inbreuk maakt op het auteursrecht. Een reproductie is dan dus toegestaan zonder
voorafgaande toestemming van de maker of zijn rechtverkrijgenden. In de eerste plaats
moet degene die de tekst- en datamining verricht rechtmatig toegang hebben tot het
werk. In de tweede plaats moet het maken van zo’n reproductie ten behoeve van tekst-
en datamining niet door de makers of zijn rechtverkrijgenden uitdrukkelijk op passende
wijze zijn voorbehouden. Bronvermelding is dus geen voorwaarde voor het rechtmatig
kunnen maken van een reproductie in het kader van tekst- en datamining.

Momenteel wordt in de Europese Unie onderhandeld over een Europese AI-verordening.
Binnen de triloogonderhandelingen van de AI-verordening is onderwerp van discussie
of en hoe bij door AI gegenereerd materiaal verantwoording moet worden afgelegd over
met welke (auteursrechtelijk beschermde) bronnen de data is getraind. Het Europees
Parlement heeft een verplichting voorgesteld om aan te geven of de AI-systemen zijn
getraind met auteursrechtelijk beschermde werken. Het gaat om een eigenstandige verantwoordingsbepaling
die de auteursrechtelijke uitzondering inzake tekst- en datamining nadrukkelijk onverlet
laat. Het niet naleven van zo’n eigenstandige verantwoordingsbepaling zou, als die
bepaling in de verordening zou worden opgenomen, een onrechtmatige daad kunnen opleveren.

Vraag 2

In hoeverre klopt het geschetste beeld dat u het standpunt is toegedaan dat een uitzonderingsbepaling
uit de Auteurswet geldt voor het scrapen (tekst- en datamining) van nieuwsartikelen en andere journalistieke content door
tech-bedrijven?2

Antwoord 2

Artikel 15o van de Auteurswet bevat een uitzondering op het auteursrecht voor tekst-
en datamining. Die uitzondering kan door iedereen, dus ook door tech-bedrijven, worden
ingeroepen, mits de twee voorwaarden worden nageleefd die aan de inroepbaarheid van
de uitzondering worden gesteld. Zoals bij de beantwoording van vraag 1 is aangegeven,
moet degene die zich op de beperking beroept in de eerste plaats op rechtmatige wijze
toegang tot het auteursrechtelijk beschermde werk hebben verkregen. In de tweede plaats
moet de rechthebbende het maken van een kopie van het werk ten behoeve van tekst-
en datamining niet uitdrukkelijk op passende wijze hebben voorbehouden.

Vraag 3

In hoeverre klopt het dat de Minister van Economische Zaken en Klimaat hier een andere
kijk op heeft en vindt dat het scrapen van auteursrechtelijk beschermd werk niet is
toegestaan? Hoe verklaart u deze verschillende visies?

Antwoord 3

Van een andere kijk op de zaak of een verschil van inzicht tussen de Minister van
Economische Zaken en Klimaat en mij is geen sprake. De Minister van Economische Zaken
en Klimaat heeft opgemerkt dat het auteursrecht onverkort geldt met betrekking tot
tekst- en datamining. Het auteursrecht kent de hoofdregel dat voor het maken van een
reproductie van een werk van letterkunde, wetenschap en kunst in beginsel telkens
voorafgaande toestemming van de maker of zijn rechtverkrijgenden is benodigd. De toestemming
is «in beginsel» vereist, want er kan een uitzondering op het auteursrecht van toepassing
zijn. Een voorbeeld van zo’n uitzondering is artikel 15o van de Auteurswet op grond
waarvan het maken van een kopie van werk ten behoeve van tekst- en datamining onder
bepaalde voorwaarden is toegestaan zonder voorafgaande toestemming van de rechthebbende.
Als de bij de beantwoording van de eerste twee vragen geduide voorwaarden van artikel
15o van de Auteurswet niet worden gerespecteerd is er alsnog sprake van een inbreuk.

Vraag 4

In hoeverre deelt u de overtuiging dat het scrapen van artikelen die nieuwsmedia achter een betaalmuur hebben geplaatst in strijd is
met de Auteurswet, aangezien ook voor de uitzonderingsbepaling van de Auteurswet een
voorwaarde hangt van rechtmatige toegang (dus enkel als het werk voor het publiek online vrijelijk beschikbaar is gesteld)?3

Antwoord 4

De vragenstellers merken terecht op dat alleen een beroep op artikel 15o van de Auteurswet
kan worden gedaan als er rechtmatige toegang bestaat tot het werk van letterkunde,
wetenschap of kunst dat wordt gereproduceerd in het kader van tekst- en datamining.
Dat wil echter niet zeggen dat de bepaling alleen maar kan worden ingeroepen voor
tekst- en datamining van werken die online vrij toegankelijk zijn. Ook het scrapen
van artikelen die door nieuwsmedia achter een betaalmuur zijn geplaatst, kan onder
artikel 15o van de Auteurswet vallen, mits degene die zich op die bepaling beroept
rechtmatige toegang tot die artikelen heeft verkregen door daarvoor te betalen. Uiteraard
moet ook de andere voorwaarde, dat het auteursrecht niet uitdrukkelijk is voorbehouden
door de maker of zijn rechtverkrijgenden, worden nageleefd. Nieuwsmedia die niet willen
dat hun achter een betaalmuur geplaatste artikelen worden gebruikt om artificieel
intelligente applicaties te trainen, kunnen dus een daartoe strekkend uitdrukkelijk
voorbehoud maken en de gebruikers van die artikelen daarop wijzen bij het verlenen
van toegang. Daar wordt in toenemende mate gebruik van gemaakt. Het voorbehoud kan
ook in de metadata van de nieuwsartikelen worden opgenomen.

Vraag 5

Onderschrijft u de conclusie dat het onbeperkt vergaren en verwerken van journalistieke
content achter paywalls door grote techbedrijven ten koste gaat van de exploitatie
van rechthebbenden? Acht u het wenselijk dat de marktmacht van grote techbedrijven
daardoor wordt vergroot ten koste van traditionele media?

Antwoord 5

Tegen het onbeperkt kunnen vergaren en verwerken van journalistieke content zijn rechthebbenden
beschermd via artikel 15o van de Auteurswet, die makers en hun rechtverkrijgenden
in staat stelt daaraan desgewenst paal en perk te stellen, in het bijzonder door hen
in de gelegenheid te stellen het auteursrecht uitdrukkelijk op passende wijze voor
te behouden. De EU-richtlijn auteursrecht in de digitale eengemaakte markt, waar artikel
15o Auteurswet op is gebaseerd, zal in 2026 worden geëvalueerd.

Vermeldenswaardig is voorts dat recent de Europese Digital Markets Act (DMA) van kracht
is geworden die (oneigenlijk) gebruik van data door de allergrootste tech-bedrijven
(zogeheten poortwachters) moet beteugelen en tot eerlijker marktgedrag van die bedrijven
moet leiden. De DMA heeft als doel concurrentie op digitale markten te versterken
en meer keuzevrijheid te bieden aan gebruikers. In september 2023 zijn de eerste poortwachters
aangewezen. Deze poortwachters moeten binnen zes maanden aan de verboden en verplichtingen
uit de DMA voldoen. De DMA bevat onder andere transparantievereisten en verplichtingen
tot het hanteren van eerlijke en niet-discriminerende voorwaarden voor poortwachters.

Vraag 6

Hoe kan de maker van een tekst het recht op reproductie voorbehouden (de tweede voorwaarde
voor de uitzonderingsbepaling binnen de Auteurswet)?

Antwoord 6

Artikel 15o van de Auteurswet schrijft in het voetspoor van de EU-richtlijn auteursrecht
in de digitale eengemaakte markt op dit specifieke punt voor dat het auteursrecht
door de maker of zijn rechtverkrijgenden niet uitdrukkelijke en passende wijze is
voorbehouden zoals door middel van machinaal leesbare middelen bij een online ter
beschikking gesteld werk. Uit overweging 18 van de voornoemde richtlijn blijkt dat
de rechthebbenden specifiek de rechten om reproducties te maken en opvragingen te
verrichten ten behoeve van tekst- en datamining op passende wijze kunnen voorbehouden.
Bij content die online voor het publiek beschikbaar is gesteld, wordt het voorbehouden
van die rechten enkel als passend beschouwd indien hierbij machinaal leesbare middelen
worden gebruikt, waaronder metagegevens en de voorwaarden van een website of een dienst.
Het voorbehouden van rechten ten behoeve van tekst- en datamining mag dus geen betrekking
hebben op andere vormen van gebruik. In andere gevallen dan online gebruik kan het
passend zijn om rechten voor te behouden met behulp van andere middelen, zoals contractuele
overeenkomsten of een eenzijdige verklaring. Rechthebbenden moeten maatregelen kunnen
nemen om te waarborgen dat indien zij de rechten hebben voorbehouden, dit ook wordt
nageleefd. Het geven van een authentieke interpretatie van de uitzondering en daarin
opgenomen voorwaarden is uiteindelijk aan het Hof van Justitie van de Europese Unie
voorbehouden.

Vraag 7

Kunt u toelichten in hoeverre de AI Act handvatten biedt om hiertegen op te treden?
Wat doet u om het vrijelijk scrapen van nieuwsartikelen aan banden te leggen?

Antwoord 7

De AI-verordening biedt naar verwachting handvatten om risico’s te voorkomen en te
mitigeren die ontstaan door de inzet van AI-systemen die voor een breed scala aan
toepassingen kan worden ingezet, de zogeheten General Purpose AI (GPAI), maar lijkt
minder geschikt om alle risico’s op schendingen van auteursrecht te adresseren. Hierbij
is het wel belangrijk om te vermelden dat de AI-verordening geen afbreuk doet aan
het bestaande juridische kader voor het auteursrecht. De Raad en het Europees Parlement
hebben voor GPAI een andere aanpak voorgesteld waarover nog overeenstemming moet worden
gevonden in de triloog in Brussel. Hiervoor verwijs ik naar de geannoteerde agenda
voor de informele Telecomraad.4 Het kabinet vindt het belangrijk dat er eisen worden gesteld GPAI die leiden tot
een eerlijke AI-ontwikkelketen. Omdat veel AI wordt ontwikkeld op basis van GPAI,
is het noodzakelijk dat andere ontwikkelaars de juiste informatie hebben als ze op
een GPAI-systeem voortbouwen. Het kabinet steunt de eis aan aanbieders van GPAI om
informatie te geven en ondersteuning te bieden aan aanbieders die voortbouwen op deze
GPAI om er een «nieuw» systeem van te maken waardoor ze aan de eisen van de AI-verordening
die voor hen gelden kunnen voldoen.

Zoals in het antwoord bij vraag 1 is aangegeven, is binnen de triloogonderhandelingen
van de AI-verordening onderwerp van discussie of en hoe bij door AI gegenereerd materiaal
verantwoording moet worden afgelegd over met welke (auteursrechtelijk beschermde)
bronnen de data is getraind. Het Europees Parlement heeft een aantal aanvullende eisen
voorgesteld, waaronder een verplichting om te markeren dat er gebruik is gemaakt van
auteursrechtelijk beschermd materiaal bij het trainen van grote AI-modellen. Dit betreft
geen verplichting tot bronverwijzing, maar een samenvatting van het gebruik van trainingsdata
dat is beschermd onder het auteursrecht. Deze verplichting zou rechthebbenden beter
in staat moeten stellen om te controleren of de voorwaarden worden nageleefd die aan
de inroepbaarheid van artikel 15o van de Auteurswet zijn gesteld, aldus het Europees
Parlement. Het kabinet zet op dit moment in op goede informatieverplichtingen voor
alle GPAI zoals hierboven beschreven, wat naar verwachting al gevolgen zal hebben
voor de wijze waarop grote AI-modellen worden getraind. Daarnaast heeft het kabinet
conform de motie Dekker-Abdulaziz en Rajkowski,5 zoals ook naar verwezen in de geannoteerde agenda van de informele Telecomraad en
het bijbehorend schriftelijk overleg, een mogelijke verdergaande verplichting die
zich richt op door AI gegenereerde tekst- of beeldmateriaal waarbij gebruik is gemaakt
van auteursrechtelijk materiaal in de trainingsdata bij het Spaanse voorzitterschap
onder de aandacht gebracht. De discussie hierover loopt echter nog. De specifieke
risico’s op schendingen van auteursrecht kunnen daarnaast worden meegenomen in de
evaluatie van de EU-richtlijn auteursrecht in 2026, wanneer ook de AI-verordening
enkele tijd van kracht is en de eerste gevolgen kunnen worden bezien.

Vraag 8

Heeft u er kennis van genomen dat de privacywaakhonden van twaalf landen waarschuwingen
hebben uitgedeeld aan social mediabedrijven omdat zij datascraping moeten uitbannen?
Wat is uw visie hierop? Vindt u dat dit ook in Nederland moet gebeuren?6

Antwoord 8

Ja, ik heb kennis genomen van de gezamenlijke verklaring die de Australische privacytoezichthouder
samen met elf andere gegevensbeschermings- en privacytoezichthouders uit niet-EU landen
heeft uitgebracht om scraping op sociale media en andere publiekelijk toegankelijke
websites te adresseren. Organisaties dienen volgens de Australische privacytoezichthouder
redelijke stappen te nemen om persoonsgegevens te beschermen tegen misbruik, inmenging,
verlies, ongeoorloofde toegang en verandering. Ook het beschermen tegen het ongeoorloofd
verzamelen van deze gegevens via scraping, zou daaronder vallen.

Ik zie dat ook in EU-verband organisaties die persoonsgegevens verwerken deze gegevens
op een passende manier moeten beschermen. Dit wordt geregeld in de Algemene Verordening
Gegevensbescherming (AVG). De AVG telt zes basisprincipes waaraan de verwerking van
persoonsgegevens dient te voldoen. De verwerking van persoonsgegevens dient rechtmatig,
behoorlijk en transparant te zijn, terwijl ook dient te zijn voldaan aan de beginselen
van doelbinding, minimale gegevensverwerking, juistheid, opslagbeperking en integriteit
en vertrouwelijkheid (artikel 5 AVG). Het laatstgenoemde beginsel van integriteit
en vertrouwelijkheid houdt onder andere in dat de nodige technische of organisatorische
maatregelen dienen te worden getroffen om een passende beveiliging van persoonsgegevens
borgen. Daarbij noemt dit artikel uitdrukkelijk dat persoonsgegevens moeten zijn beschermd
tegen ongeoorloofde of onrechtmatige verwerking, opzettelijk verlies, vernietiging
en beschadiging. In lijn daarmee vereist artikel 32 AVG dat, rekening houdend met
de stand van de techniek, de uitvoeringskosten, en de aard de omvang en de context
van verwerking en de risico’s, voor de rechten van de betrokkene een op het risico
afgestemd beveiligingsniveau moet worden gewaarborgd. Zo kan het noodzakelijk zijn
om een procedure in te stellen voor het op gezette tijdstippen testen, beoordelen
en evalueren van de doeltreffendheid van de technische en organisatorische maatregelen
ter beveiliging van de verwerking (artikel 32 AVG). Welke maatregelen in concrete
gevallen zijn vereist – bijvoorbeeld om te beschermen tegen de gevolgen van scraping
– vraagt om een risicoanalyse waarin met alle relevante omstandigheden wordt rekening
gehouden. Of in concrete gevallen is voldaan aan het vereiste niveau van beveiliging
uit de AVG is uiteindelijk aan de onafhankelijke toezichthouder om te beoordelen,
in Nederland de Autoriteit Persoonsgegevens.

Vraag 9

In hoeverre heeft u reeds uitvoering gegeven aan de motie-Dekker-Abdulaziz en Rajkowski,
over het Europees voorzitterschap te verzoeken om watermerken te verplichten bij door
AI gegenereerde tekst en beelden?7

Antwoord 9

In het Commissievoorstel voor de AI-verordening en de raadspositie op die verordening
worden gebruikers van deepfaketechnologie verplicht om bekend te maken dat het gegenereerde
beeld-, audio- of videomateriaal kunstmatig gegenereerd of bewerkt is. Een dergelijke
plicht draagt bij aan het zoveel mogelijk (vooraf) mitigeren van het gevaar dat gemanipuleerd
materiaal ten onrechte voor authentiek wordt gehouden. Nederland heeft deze transparantieverplichting
in de onderhandelingen in de Raad en in de trilogen met het Europees Parlement gesteund.
Een mogelijke verdergaande verplichting die is gericht op door AI gegenereerde tekst-,
audio- of beeldmateriaal waarbij gebruik is gemaakt van auteursrechtelijk materiaal
in de trainingsdata, zal door het kabinet bij het Spaanse voorzitterschap onder de
aandacht worden gebracht als het onderwerp op de agenda staat.

Vraag 10

In hoeverre wordt de ontwikkeling van de kabinetsvisie op generatieve AI beïnvloed
door de val van het kabinet?

Antwoord 10

De ontwikkelingen van de (kabinets)visie op generatieve AI worden voortgezet. De Staatssecretaris
van Binnenlandse Zaken en Koninkrijksrelaties zal deze begin 2024 met uw Kamer delen.
De opgaven rondom (generatieve) AI zijn te groot om hier als kabinet geen stappen
in te zetten tijdens deze demissionaire periode. Daarbij heeft uw Kamer in grote meerderheid
gevraagd om deze visie via het steunen van de motie Dekker-Abdulaziz en Rajkowski.8 Daarom is het van belang om een integrale visie neer te leggen die recht doet aan
de korte- en lange termijn impact en een handelingsperspectief formuleert waarmee
deze technologie op verantwoorde wijze in de samenleving wordt ingebed.

Daarnaast stuurt de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties
uw Kamer voor het einde van het jaar het voorlopige standpunt inzake de omgang met
generatieve AI door Rijksorganisaties. Om tot dit standpunt te komen, is onder andere
advies ingewonnen van de Landsadvocaat.