Brief regering : Consument, data en AI

35 251 Wijziging van de Wet handhaving consumentenbescherming ter uitvoering van Verordening
(EU) 2017/2394 van het Europees Parlement en de Raad van 12 december 2017 betreffende
samenwerking tussen de nationale autoriteiten die verantwoordelijk zijn voor handhaving
van de wetgeving inzake consumentenbescherming en tot intrekking van Verordening (EG)
nr. 2006/2004

Nr. 14 BRIEF VAN DE STAATSSECRETARIS VAN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 4 december 2020

Kunstmatige intelligentie (AI) biedt kansen voor bedrijven voor consumenten. In consumentenmarkten
wordt steeds meer gebruik gemaakt van data, AI en algoritmen. Dit heeft voordelen
voor bedrijven en consumenten. Tegelijkertijd weten bedrijven meer en meer over hun
klanten en zijn zij hierdoor in staat om informatie gericht bij bepaalde groepen consumenten
onder de aandacht brengen.

Het kabinet onderschrijft het belang van een sterke positie van de consument bij het
gebruik van data, AI en algoritmen.1 Deze brief gaat in op een toezegging over digitale prijsdiscriminatie2 en drie moties: over malafide webwinkels3, over de transparantie van boekingsplatforms4 en over de versterking van de positie van de consument5. De toezegging en deze moties houden verband met data, AI en algoritmen vanuit het
oogpunt van het consumentenbeleid.

1. Digitale prijsdiscriminatie

Tijdens het notaoverleg op 16 december 2019 over de initiatiefnota van het lid Verhoeven
(D66) over mededinging in de digitale economie6, sprak ik met uw Kamer over de macht van techbedrijven. Tijdens dit debat kwam onder
meer de vraag aan de orde of online prijsdiscriminatie wettelijk toegestaan is. Het
lid Buitenweg (GroenLinks) vroeg in dit kader of ik advies wilde vragen bij het College
voor de Rechten van de Mens (CRM) over digitale prijsdiscriminatie.

Ik heb in het kader van deze toezegging met het CRM gesproken. Het CRM beoordeelt
aan de hand van het gelijkebehandelingsrecht of het personaliseren van prijzen in
een specifiek geval verboden is (want discriminatie) of toegestaan (want juridisch
gerechtvaardigd).

Het verbod op discriminatie volgens het gelijkebehandelingsrecht houdt in dat een
bedrijf in beginsel geen direct of indirect onderscheid mag maken op grond van beschermde
persoonskenmerken (zoals ras, geslacht, godsdienst, seksuele geaardheid of politieke
overtuiging) die zijn opgenomen in de gelijkebehandelingswetgeving.7

Het CRM heeft de afgelopen jaren diverse oordelen uitgesproken over situaties die
relevant zijn in het kader van prijsdifferentiatie. Als rode draad door deze oordelen
loopt de omstandigheid dat het personaliseren van prijzen in beginsel is toegestaan,
maar dat een bedrijf geen prijsverschil mag hanteren tussen persoon A en B, die zich
in een vergelijkbare positie bevinden, als dat prijsverschil direct of indirect herleidbaar
is tot één van de in de wet genoemde, beschermde persoonskenmerken. Een voorbeeld
van dergelijke, onrechtmatige prijsdiscriminatie is het alleen aan vrouwen aanbieden
van een gereduceerde toegangsprijs voor een evenement.8

Ik wil tot slot benadrukken dat burgers en bedrijven de mogelijkheid hebben om een
melding te doen bij het CRM als zij vermoeden dat een bedrijf zich schuldig maakt
aan prijsdiscriminatie.

2. Malafide webwinkels

De motie van het lid Palland (CDA) verzoekt het kabinet te onderzoeken hoe consumenten
beter kunnen worden beschermd tegen malafide webwinkels door de huidige aanpak daarvan
tegen het licht te houden en te verkennen of aanvullende maatregelen nodig zijn, en
daarbij ook het huidige systeem van domeinnaamregistratie te betrekken. De motie verzoekt
ook om hier in Europees verband aandacht voor te vragen en de Kamer hierover eind
2020 te rapporteren.

Malafide webwinkels misleiden bewust consumenten, bijvoorbeeld door bestelde producten
niet te leveren of door nepproducten te verkopen. Voor zover het gaat om de strafrechtelijke
vervolging van strafbare feiten, valt de aanpak van malafide webwinkels onder de verantwoordelijkheid
van de Minister van Justitie en Veiligheid. Hieronder ga ik in op de aanpak van malafide
webwinkels die onder mijn verantwoordelijkheid valt.

De toezichthouder Autoriteit Consument en Markt (ACM) kan, bijvoorbeeld met een last
onder dwangsom of een bestuurlijke boete, handhavend optreden tegen webwinkels die
de consumentenregels overtreden. De ACM heeft sinds de inwerkingtreding van de CPC-verordening9 in februari 2020 een nieuw handhavingsinstrument in handen gekregen, namelijk de
mogelijkheid om, na voorafgaande machtiging door de rechter-commissaris, domeinnamen
op zwart te doen zetten. Dit nieuwe instrument kan bijdragen aan een betere bescherming
van consumenten tegen malafide webwinkels.

Het huidige systeem van domeinnaamregistratie binnen het .nl-domein wordt beheerd
door de Stichting Internet Domeinregistratie Nederland (SIDN). De registratie van
domeinnamen en het contact met domeinnaamhouders verloopt via tussenpersonen, zogenoemde
registrars, die tegen een vergoeding bij SIDN zijn aangesloten. Registrars zijn contractueel
verplicht aan SIDN bepaalde gegevens te verstrekken, zoals naam, adres en mailadres
van nieuwe domeinnaamhouders. SIDN zorgt voor een verwijzing tussen de domeinnaam
en het IP-adres via een geautomatiseerd proces.

SIDN en de registrars ondernemen diverse acties om malafide webwinkels aan te pakken.
Een voorbeeld hiervan is het systeem dat het lab van SIDN heeft ontwikkeld, dat op
basis van verdachte signalen en met behulp van zelflerende algoritmen nep-webwinkels
herkent. Verdachte signalen kunnen bijvoorbeeld zijn het tijdstip waarop een domeinnaam
is aangevraagd, het e-mailadres waarop een domeinnaam wordt geregistreerd en of sprake
is van herregistratie. Van de verdachte domeinnamen wordt vervolgens aan de registrars
gevraagd de registratiegegevens van de domeinnaamhouder te verifiëren. Kan de houder
niet aantonen dat de gegevens correct zijn, dan wordt de domeinnaam buiten werking
gesteld. De website kan dan niet meer via de domeinnaam bereikt worden.

SIDN kent daarnaast een notice- en takedownregeling gebaseerd op de Gedragscode Notice- en Takedown10, die ook is onderschreven door veel van de Nederlandse hostingaanbieders (partijen
die ruimte bieden om websites op te slaan op een plek die altijd verbonden is met
internet). Notice- and takedown vindt signaalgestuurd plaats. Op basis van meldingen over onmiskenbaar onrechtmatige
of strafbare inhoud van een website een hostingsaanbieder de specifieke content van
een website kan verwijderen. Daarnaast kan SIDN zo nodig de domeinnaam buiten werking
stellen.

Verder ontvangt SIDN via samenwerkingen met onder andere de ACM via informatievorderingen
en het Landelijk Meldpunt Internetoplichting van de politie signalen over onrechtmatige
content, zoals malafide webwinkels. Deze manier waarbij SIDN, signaalgestuurd en op
basis van eigen onderzoek, in samenwerking met registrars en hostingaanbieders domeinnamen
op zwart kan zetten, levert mijns inziens een belangrijke bijdrage aan het aanpakken
van malafide webwinkels. Ik juich de samenwerking tussen deze partijen dan ook toe.

Het aanmaken van domeinnamen door malafide webwinkels beperkt zich niet tot het Nederlandse
domein (.nl) en gebeurt voornamelijk vanuit derde landen. Zogeheten registries die domeinnaamregistratie beheren (zoals SIDN), werken internationaal samen via de
Council of European National Top-Level Domain Registries (CENTR) en de Internet Corporation
for Assigned Names and Numbers (ICANN). Binnen deze organisaties worden informatie
en succesvolle praktijkvoorbeelden uitgewisseld over de aanpak van malafide webwinkels
en misbruik van domeinnaamregistratie. Ook vanuit de overheden verenigd in het Governmental
Advisory Committee (GAC) van ICANN wordt steeds meer druk uitgeoefend om misbruik
van domeinnaamregistratie proactief te bestrijden.

De huidige aanpak waarin ACM en SIDN samenwerken om malafide webwinkels aan te pakken
werkt goed. De eerdergenoemde CPC-verordening is recent in werking getreden. Daarnaast
worden nationaal en internationaal meerdere acties ondernomen om misbruik van domeinnaamregistratie
aan te pakken. Ik zie geen noodzaak om op dit moment aanvullende maatregelen te overwegen.

3. Transparantie boekingsplatforms

Uw Kamer heeft mij middels de motie van het lid Aartsen (VVD) verzocht om in overleg
met de ACM te rapporteren over transparantie van boekingsplatforms om gesjoemel met
onlinerecensies en onlinereviews tegen te gaan. Ik heb hierover met de ACM gesproken.
De ACM heeft aan mij meegedeeld dat zij momenteel een breed onderzoek uitvoert naar
onlinerecensies van onder andere boekingsplatforms en webwinkels. De ACM verwacht
in het eerste kwartaal van 2021 over de uitkomsten van het onderzoek te rapporteren.
Zoals bekend kan ik niet ingaan op lopende onderzoeken van de ACM. Ik zie de resultaten
het onderzoek van de ACM met interesse tegemoet. Verder ziet de ACM er actief op toe
dat consumenten die online winkelen, kunnen vertrouwen op de informatie die de webwinkel
geeft over onder meer het product, de prijs, de levertijd en het retourrecht. Dit
is recentelijk reden geweest voor de ACM om een handhavingsbesluit te nemen richting
een webwinkel.11

De recente Europese Richtlijn betreffende betere handhaving en modernisering van de
regels voor consumentenbescherming12 bevat expliciete informatieverplichtingen die kunnen helpen bij het tegengaan van
gesjoemel met onlinerecensies en onlinereviews. Zo verplicht de richtlijn handelaren
die toegang bieden tot reviews van producten om aan de consument informatie te verstrekken
hoe de handelaar verzekert (controleert) dat gepubliceerde consumentenbeoordelingen
ook daadwerkelijk afkomstig zijn van consumenten die het product hebben gebruikt of
gekocht.13

De richtlijn verbiedt daarnaast expliciet het beweren dat beoordelingen van producten
zijn ingediend door consumenten die het product daadwerkelijk hebben gebruikt of aangekocht,
zonder redelijke en proportionele stappen te nemen om na te gaan of deze beoordelingen
afkomstig zijn van dergelijke consumenten.14 De richtlijn bepaalt ook dat het voor handelaren verboden is om valse beoordelingen
en -aanbevelingen te (laten) plaatsen, zoals «likes» op sociale media, om hun producten
te promoten, en om consumentenbeoordelingen of aanbevelingen op misleidende wijze
voor te stellen, bijvoorbeeld door alleen positieve beoordelingen te publiceren en
negatieve te verwijderen.15 De internetconsultatie van het wetsvoorstel ter implementatie van deze richtlijn
is recent afgerond.16

Ik constateer dat zowel op het gebied van wetgeving als op het gebied van handhaving
acties worden ondernomen om de transparantie van boekingsplatforms te bevorderen.
Daarmee worden belangrijke stappen gezet om consumenten in staat te stellen om op
basis van transparante en eerlijke informatie keuzes te kunnen (blijven) maken.

4. Versterking positie consumenten

De leden Moorlag en Buitenweg wijzen in hun motie op de nieuwe technologieën die het
voor bedrijven mogelijk maken om op grote schaal data van consumenten te verzamelen.
Zij vragen op welke wijze de positie van de consument kan worden versterkt. Data,
AI en algoritmen zorgen voor veel nieuwe mogelijkheden voor het bedrijfsleven op het
gebied van marketing en advertenties. Bedrijven zijn door het gebruik van data, AI
en algoritmen beter in staat om hun aanbod af te stemmen op een specifieke groep consumenten,
of zelfs een individuele consument. Deze praktijk heeft een grote vlucht genomen,
met grote platforms als koplopers in deze ontwikkeling. Het onderwerp data, AI en
algoritmen staat zowel op nationaal als op Europees niveau in de aandacht en er worden
veel acties ondernomen. Ik zie erop toe dat het belang van de consument hierbij wordt
meegenomen.

Nationale ontwikkelingen

Op 8 oktober 2019 heeft het kabinet het Strategisch Actieplan voor AI (SAPAI) gelanceerd.17 SAPAI bevat de overkoepelende AI-aanpak van dit kabinet en formuleert beleidsmaatregelen
om de maatschappelijke en economische kansen van AI te benutten en daarbij de publieke
belangen te borgen. In juni 2020 is ook een update van de Nederlandse Digitaliseringstrategie
(NDS) gepubliceerd, waarin kabinetsbreed ambities en doelstellingen op het gebied
van digitale transitie uiteen worden gezet.18 In beide documenten wordt het belang van consumentenbescherming benadrukt.

Het kabinet heeft daarnaast een ambtelijke projectgroep aangekondigd, die een gezamenlijke,
openbare beleids- en onderzoeksagenda ontwikkelt op het gebied van normering van en
toezicht op algoritmen.19 Ook heeft het kabinet recent per brief aan uw Kamer20 gereageerd op diverse onderzoeken naar algoritmen, waaronder het door mij geïnitieerde
onderzoek naar onvoorziene effecten van zelflerende algoritmen.21 Daaruit blijkt dat bedrijven steeds meer weten van hun klanten, terwijl consumenten
vaak niet doorhebben dat zij bijvoorbeeld onderworpen zijn aan algoritmische besluitvorming.22 Daardoor is het voor consumenten soms lastig om te doorgronden in welke mate en op
welke manier hun keuzegedrag wordt beïnvloed en wat zij daar desgewenst tegen kunnen
doen.

In de brief geeft het kabinet aan dat nader verkend zal worden welke maatregelen kunnen
bijdragen aan het tegengaan van eventuele negatieve effecten van algoritmen op consumenten.

Ik heb daarnaast een inventarisatie laten uitvoeren door de Universiteit van Tilburg
naar het consumentenbeleid in de digitale economie, om in beeld te brengen hoe het
consumentenbeleid toekomstbestendig kan worden gemaakt in het licht van digitale technologieën
en toenemende dataverwerking van consumenten.23 Een conclusie van het onderzoek is dat het grootschalige gebruik van data, AI en
algoritmen door bedrijven voor een ongelijke(re) verhouding tussen bedrijf en consument
kan zorgen.

Ook heb ik gesproken met toezichthouder ACM. Uit het gesprek met de ACM blijkt dat
het voor toezichthouders als de ACM een uitdaging is om overtredingen van het consumentenrecht
waarbij algoritmen een rol spelen op te sporen en aan te pakken. De ACM is daarom
dit jaar een pilot gestart waarin zij methoden en werkwijzen om de werking van algoritmen
die door marktpartijen worden gebruikt in de praktijk te controleren test en ontwikkelt.

Europese ontwikkelingen

Data, AI en algoritmen krijgen ook in de Europese Unie steeds meer aandacht, waaronder
in het Witboek over kunstmatige intelligentie24 en de nieuwe Europese Consumentenagenda25 van de Europese Commissie. Hierin benadrukt de Europese Commissie dat consumentenbescherming
een plaats moet krijgen bij het ontwikkelen van beleid op het terrein van AI.

Daarnaast moet uiterlijk per 28 mei 2022 de eerdergenoemde richtlijn modernisering
consumentenbescherming zijn geïmplementeerd. Deze introduceert onder andere een aantal
nieuwe informatieverplichtingen op het gebied van data, AI en algoritmen. Zo moeten
handelaren voorafgaand aan het sluiten van een overeenkomst de consument informeren
over het doen van een gepersonaliseerd aanbod, bijvoorbeeld als gebruik wordt gemaakt
van een algoritme dat bijhoudt wat de consument heeft gekocht en welke websites hij
heeft bekeken.26 Voor online marktplaatsen (platforms) gaat daarnaast gelden dat zij algemene informatie
(bijvoorbeeld over de belangrijkste standaardparameters) beschikbaar moeten stellen
over hoe de rangschikking van het aanbod wordt bepaald.27

Tot slot wordt op dit moment in Europees verband bezien of de Richtlijn productaansprakelijkheid28 en de Richtlijn productveiligheid29 moeten worden aangepast met het oog op nieuwe technologieën, waaronder software.

5. Conclusie

Het gebruik van data, AI en algoritmen heeft bedrijven en consumenten kansen en gemak
opgeleverd. Desalniettemin is het belangrijk om ook oog te houden voor de keerzijden
van deze ontwikkelingen. De digitale economie kan alleen floreren als de consument
daarin een sterke positie inneemt. Daar is op nationaal en op Europees niveau aandacht
voor. Ik houd uw Kamer vanzelfsprekend op de hoogte van de ontwikkelingen in de bovengenoemde
trajecten.

De Staatssecretaris van Economische Zaken en Klimaat, M.C.G. Keijzer