Brief regering : Reactie op het rapport 'Behavioral design in video games' van het Trimbos-instituut

Nr. 948
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 16 december 2022

Inleiding

Ook kinderen gebruiken digitale producten en diensten. Gezien hun kwetsbaarheid moeten
die ontworpen en gemaakt worden in het belang van het kind. Zodat de kansen (zo kunnen
games het probleemoplossend vermogen vergroten, het ruimtelijk inzicht versterken,
maar ook helpen bij het tegengaan van depressie) worden benut maar ook de risico’s
worden bestreden. Want onderzoek laat ook risico’s zien, zoals voor de mentale/sociale
en lichamelijke gezondheid, gokken en gameverslaving.

Daarom zet ik stevig in op veilige digitale producten en diensten voor kinderen. Eerder
is de Code kinderrechten online tot stand gekomen die handvatten biedt om bij het
ontwerpen van digitale producten en diensten het belang van het kind voorop te stellen.
Deze code wordt onderdeel van een meer integrale aanpak, waarbij ook de Europese ontwikkelingen
een rol spelen. Begin volgend jaar zal ik uw Kamer door middel van een voortgangsbrief
over de hele breedte informeren over de stand van zaken van het borgen van kinderrechten
online.1 Regulering en toezicht maken daar deel van uit. In aanloop daar naartoe reageer ik,
mede namens de Minister van Economische Zaken en Klimaat, in deze brief op de specifieke
aanbevelingen uit het onderzoeksrapport «Behavioral design in video games: A roadmap
for ethical and responsible games that contribute to long-term consumer health and
well-being» van het Trimbos-instituut (opgenomen in de bijlage).

Het rapport

Eind vorig jaar bracht het Trimbos-instituut het hierboven genoemde onderzoeksrapport
uit over «Behavioral design in video games: A roadmap for ethical and responsible
games that contribute to long-term consumer health and well-being». Ik omarm de aanbevelingen
uit dit rapport en ga in deze brief in op de bevindingen en op de initiatieven die
ik in gang zet om nadelige effecten van gamen tegen te gaan. Deze initiatieven hebben
inmiddels hun weg gevonden in de lijn «Iedereen kan de digitale wereld vertrouwen»
in de Werkagenda Waarden-gedreven Digitaliseren die op 4 november jl. aan uw Kamer
is verzonden.

Het spelen van online games is een belangrijke activiteit onder kinderen. Zo blijkt
uit onderzoek dat 89% van de Nederlandse basisschoolkinderen en 75% van de middelbare
schoolkinderen online games spelen.2 Daarnaast heeft de coronapandemie ervoor gezorgd dat gamen populairder is geworden.3 Dat is niet per se slecht. Onderzoek laat zien dat games allerlei kansen bieden voor
kinderen en volwassenen. Zo kunnen games het probleemoplossend vermogen van mensen
vergroten, het ruimtelijk inzicht versterken, maar ook helpen bij het tegengaan van
depressie.4 Maar onderzoek5 laat ook belangrijke nadelen van gamen zien, zoals risico’s voor de mentale/sociale
en lichamelijke gezondheid, de rol van in-game cultuur (bijvoorbeeld toxische gemeenschappen,
vrouwonvriendelijkheid), gokken en gameverslaving. Deze nadelen vloeien voort uit
schadelijke ontwerpkeuzes en manipulatieve verdienmodellen. Het ontwerp van games
kan het gedrag van de gamer dus sturen: dit wordt «behavioral design» («gedragsontwerp») genoemd. Soms is dat heel zichtbaar. Bijvoorbeeld een tijdelijk evenement
in een game dat je eigenlijk niet kan missen. Soms is de sturing onzichtbaar. Zo kan
via algoritmen de beleving van de game onzichtbaar worden aangepast. Sommige games
frustreren de gamer bewust om een aankoop te stimuleren, terwijl andere games positief
gedrag juist aanmoedigen.

De inzet van geavanceerde technieken om mensen te verleiden en te beïnvloeden groeit.6 Het hierboven genoemde onderzoek van het Trimbos-instituut is in 2021 in samenwerking
met de universiteit Leiden en de technische universiteit Eindhoven tot stand gekomen.
Het onderzoek biedt aanbevelingen die in acht kunnen worden genomen om te zorgen voor
een ethisch en verantwoord ontwerp van games.

Bevindingen en aanbevolen principes

Het onderzoek gaat in op verschillende verleidingstechnieken om spelers (onder wie
kinderen als kwetsbare doelgroep) te verleiden tot langdurig gebruik van een app of
tot aankopen in apps en games. Interfaces worden zo ontworpen dat zij leiden tot het
opzettelijk verbergen van informatie (bijvoorbeeld pas bij het online betaalmoment
extra kosten in rekening brengen) of dat zij een misleidend ontwerp hebben (bijvoorbeeld
het melden dat het gewenste artikel bijna uitverkocht is, terwijl dat niet het geval
is). Deze zogenaamde «dark patterns» sturen het gedrag van de consument/gebruiker.7

Er bestaan veel verschillende soorten technieken die tot gedragsverandering aanzetten
in apps en games. Langdurig gebruik van een app of game wordt bijvoorbeeld gestimuleerd
door notificaties die attenderen op nieuwe content of events of door negatieve of
positieve ervaringen. Denk aan het beschikbaar stellen van virtuele items op het moment
dat je de game langere tijd speelt. Het doen van aankopen wordt onder meer gestimuleerd
door gebruikers te verleiden bijvoorbeeld extra content, digitale munten of virtuele
items (met korting) te kopen. Bij sommige games leidt het kopen hiervan ook tot een
grotere kans op winnen in het spel (pay-to-win).

De virtuele items kunnen worden aangeboden in een online store, maar ook door gebruikmaking
van loot boxes. Loot boxes zijn virtuele objecten (zoals schatkisten) die gamers kunnen
aanschaffen of verdienen door te spelen en waarin virtuele items zitten (zoals wapens)
en waarbij het op voorhand niet duidelijk is wat de gamer krijgt (bijvoorbeeld welk
wapen). Het financiële succes van loot boxes heeft tot een brede incorporatie van
loot boxes in games geleid. Het Trimbos onderzoek laat zien dat loot boxes verslavingsgevoelige
elementen bevatten zoals bijna-winst-effecten (het gevoel dat je bijna hebt gewonnen),
visuele en geluidseffecten en de mogelijkheid om snel achter elkaar loot boxes te
blijven openen. Daarmee krijgt de speler de neiging om door te blijven spelen en meer
loot boxes te kopen. Het onderzoek geeft aan dat de verleidingstechnieken in het algemeen
geavanceerder en subtieler worden en dat er een toename te zien is in het toepassen
van de technieken.

Een andere conclusie van het onderzoek is dat de onderliggende verdienmodellen van
games de afgelopen jaren zijn veranderd. Terwijl zo´n 15 jaar geleden met name aan
aanschaf van games werd verdiend, zijn steeds meer games gratis en is het verdienmodel
meer gestoeld op het verleiden van gamers tot het doen van micro-transacties. De transparantie
ten aanzien van ontwerpbeslissingen om koopgedrag te beïnvloeden is beperkt.

Op basis van het onderzoek heeft het Trimbos-instituut de volgende principes geformuleerd
die leidend moeten zijn voor het gedragsontwerp van games:

1) het ontwerp moet gemaakt worden in het belang van het kind;

2) er moet gezorgd worden voor kindvriendelijke gegevensbescherming;

3) het recht van het kind om te spelen moet naar behoren in acht worden genomen;

4) het profileren van kinderen voor commerciële doeleinden moet vermeden worden;

5) een ontwerp dat leidt tot uitbuiting en negatieve effecten op de ontwikkeling en gezondheid
van kinderen moet vermeden worden;

6) er moet een positieve en een gezonde balans ondersteund worden in het gedragsontwerp;

7) er moeten negatieve effecten voorkomen worden, met name voor kwetsbaren en kinderen;
en

8) een zorgplicht moet rekening houden met de gevolgen van de ontwerpkeuzes en er moeten
kaders en grenzen worden ontwikkeld voor de industrie.

Aanbevelingen en initiatieven

In het rapport zijn vijf aanbevelingen opgenomen voor de overheid. Hieronder worden
de aanbevelingen besproken, alsook mijn inzet. Ik merk hierbij nog op dat het inzetten
van verleidingstechnieken niet alleen kinderen raakt, maar ook volwassenen. Een andere
opmerking is dat veel games worden gemaakt buiten Nederland, waarmee de vraag zich
voordoet of een nationale aanpak volstaat. Ik kom daarop terug bij het onderwerp loot
boxes.

Alle initiatieven staan in de Werkagenda Waardengedreven Digitaliseren, in de programmalijn
«Iedereen kan de digitale wereld vertrouwen» en worden in deze brief verder uitgewerkt.
Over de realisatie van de Werkagenda zal ik uw Kamer ieder najaar rapporteren.

Aanbeveling 1: samenwerking met NGO’s en platforms

Ten eerste is de aanbeveling aan de overheid om meer (internationaal) samen te werken
met NGO’s om kinderen online te beschermen, de industrie aan te moedigen om zich ethisch
en verantwoord te gedragen en de dialoog te stimuleren en een gedragscode op te stellen.
Dat geldt ook voor het bilaterale contact tussen de industrie en de overheid dat verbeterd
kan worden.

Verbod op loot boxes

Ik steun dat er intensiever contact kan plaatsvinden met NGO’s en de game-industrie
om ethisch en verantwoord ontwerp van games te stimuleren. Het kabinet gaat daarom
dialoogtafels organiseren. Hieronder ga ik daar verder op in, bij de aanbeveling over
uitoefenen van invloed op interne processen in de game industrie.

Tegelijkertijd zie ik ook de beperkte impact van zelfregulering tot nu toe en (niet
verplichtend) beleid zoals de Code Kinderrechten Online. Hoewel het debat over schadelijk
ontwerp van online producten en diensten (waaronder games) al een aantal jaar gevoerd
wordt en handvatten voor ethisch ontwerp (zoals de Code Kinderrechten Online) aanwezig
zijn, laat het onderzoek van het Trimbos-instituut zien dat het ontwerp van games
nog steeds tegen het belang van gebruikers in kan gaan. Met de motie Bontenbal c.s.
heeft uw Kamer mij gevraagd om te zoeken naar een mogelijkheid om loot boxes in Nederland
te verbieden en daarvoor waar nodig de wet aan te passen.8 Ook de Autoriteit Consument en Markt is voorstander van regulering.9 Het Trimbos onderzoek laat zien dat deze loot boxes niet in het belang zijn van gebruikers
en zeker niet als het gaat om kinderen. De technieken die worden ingezet om gebruikers
te verleiden loot boxes aan te schaffen en te openen kunnen een verslavend karakter
hebben.

Er is daarom verkend hoe tot regulering kan worden gekomen. Bij deze verkenning naar
het verdergaand reguleren van loot boxes, is naar verschillende typen wetgeving gekeken,
zoals de wet op de kansspelen (Wok), verslavingswetgeving en het consumentenrecht.
Uit deze verkenning blijkt dat het Europees consumentenrecht qua reikwijdte en scope
de beste mogelijkheden biedt voor de regulering van loot boxes. Voor wat betreft de
Wok bepaalde de Afdeling bestuursrechtspraak van de Raad van State in maart 2022 dat
een loot box van Electronic Arts (EA) geen kansspel is waarvoor een vergunning nodig
is. Naar het oordeel van de Afdeling bestuursrechtspraak is het verkrijgen en het
openen van deze loot boxes («packs») geen opzichzelfstaand spel. Daardoor kunnen de
betreffende loot boxes niet worden aangemerkt als kansspel en is er geen vergunning
nodig. Omdat loot boxes bijna altijd onderdeel zijn van een breder spel, zal het moeilijk
zijn deze via de Wok verdergaand te reguleren.

Wat betreft wetgeving ten aanzien van verslavende middelen – zoals de Opiumwet – kwam
uit de verkenning dat ook deze wetgeving niet voor de hand ligt. Deze wetgeving richt
zich met name op verslavingen aan fysieke goederen (zoals drugs), die een andere achterliggende
problematiek (productie, verspreiding, context) kennen dan loot boxes.

Beide typen wetgeving – kansspelwetgeving en verslavingswetgeving – zijn bovendien
grotendeels nationaal, terwijl een Europese benadering bij loot boxes de voorkeur
biedt, gegeven de internationale aard van games. Bij nationale regulering kunnen loot
boxes makkelijker worden omzeild bijvoorbeeld door middel van het installeren van
een VPN met registratie op een server in een ander land met minder strikte wetgeving.
De richtlijn voor oneerlijke handelspraktijken heeft wel een Europese reikwijdte en
daarnaast kan verkend worden of loot boxes, de verleidingstechnieken die daar in zitten
of andere verleidingstechnieken met een negatief effect op consumenten als oneerlijke
handelspraktijk kunnen worden aangemerkt. De Europese Commissie is gestart met een
consultatie over consumentenbescherming in de online omgeving.10 De Commissie gaat onderzoeken of aanvullende maatregelen nodig zijn om consumenten
online beter te beschermen. In het kader hiervan is de Minister van Economische Zaken
en Klimaat voornemens aan de Europese Commissie voor te leggen of loot boxes als oneerlijke
handelspraktijk kunnen worden aangemerkt. Behalve loot boxes worden ook andere verleidingstechnieken
in dit kader bekeken; pay-to-win en het gebruik van digital currencies.

Een Europese aanpak vergroot tevens de kans dat game-industrie daadwerkelijk het ontwerp
van hun spellen aanpast. Een verbod op loot boxes ertoe kan leiden dat deze worden
verruild voor andere ontwerptechnieken om gebruikers te verleiden tot het doen van
financiële (micro) transacties. Daarom zal ik ook andere acties ondernemen, die hieronder
beschreven worden.

Aanbeveling 2: versterken informatie en controle cyclus

Ten tweede schrijft het Trimbos-instituut dat de overheid de effectiviteit van zelfregulering
van bedrijven kan controleren door middel van monitoren en toezicht, door het game-
en digitaal beleid van de overheid te evalueren en het financieren en faciliteren
van onderzoek.

Coderingssysteem als onderdeel van een keurmerk Publieke waarden

Ik zie dat meer informatie over welke ontwerptechnieken game-ontwikkelaars toepassen,
kan helpen om het debat te voeren over wat we ethisch verantwoord vinden en wat niet.
Daarnaast is het voor gamers (of voor hun omgeving, waaronder hun ouders) van belang
om te weten welke verleidingstechnieken in een game aanwezig zijn om een weloverwogen
beslissing te kunnen nemen over het wel of niet spelen van een game.11 Ik zal daarom een coderingssysteem ontwikkelen dat voor games in kaart brengt welke
verleidingstechnieken in een game aanwezig zijn. Dit systeem zal in overeenstemming
en in aanvulling op bestaande systemen – zoals PEGI12 – ontwikkeld worden. Onderdeel van dit coderingssysteem is dat ontwikkelingen in
de toepassing van verleidingstechnieken in kaart worden gebracht, zoals de vervanging
van loot boxes door andere beïnvloedingstechnieken. Ook wordt in dit coderingssysteem
de mate van borging van kinderrechten opgenomen. Dit systeem zal worden ondergebracht
in een meer omvattend keurmerk publieke waarden dat is opgenomen in de programmalijn
«Iedereen kan de digitale wereld vertrouwen», «publieke waarden borgen» van de Werkagenda.

Daarnaast ga ik met ontwikkelaars van onlineproducten en diensten in gesprek over
het verstrekken van data over problematisch gebruik van onlineproducten en diensten
door minderjarigen aan onafhankelijke onderzoekers. Ontwikkelaars van digitale producten
en diensten beschikken over grote hoeveelheden data over de omvang en het type gebruik
door minderjarigen en hebben hierdoor relevante informatie over problematisch gebruik
en schade wat kan optreden. Deze informatie is van groot belang voor onafhankelijke
onderzoekers en hulpverleners die zich bezighouden met schadelijke effecten van digitale
producten en diensten.

Aanbeveling 3: preventie en behandeling van schade en/of stoornissen door gamen

Ten derde geeft het Trimbos-instituut aan dat er maatregelen ter preventie kunnen
worden genomen voor onder andere de behandeling van problemen zoals gaming stoornissen.
Zo heeft het Trimbos-instituut een Gamen Infolijn (http://www.gameninfo.nl/) ingericht en een aanbeveling geschreven over preventie van problematisch gamen.13 Mediawijsheid.nl besteedt op hun website ook aandacht aan verschillende aspecten
van gamen. Zo worden voor- en nadelen van gamen behandeld en zijn er tips en instrumenten
te vinden die behulpzaam zijn bij het bereiken van een gezonde houding ten opzichte
van gamen.

Publieksvoorlichting

In het kader van preventie en bewustwording organiseert ik in aanvulling hierop een
brede publieksvoorlichting over de risico’s van (langdurig) online zijn. Dit betreft
niet alleen het spelen van games maar bijvoorbeeld ook social media gebruik. De primaire
doelgroep zijn jongeren omdat zij meer risico lopen op problematisch gamen in vergelijking
met de algemene populatie14 maar ook ouders worden betrokken. Op basis hiervan kunnen ouders en jongeren signalen
herkennen, weten waar zij hulp en informatie kunnen krijgen en kunnen zij acties ondernemen.

Daarnaast zal dit ouders stimuleren om over dit onderwerp na te denken en hierover
het gesprek aan te gaan met hun kind. Het zal ook bijdragen aan de bespreekbaarheid
van het probleem in de samenleving. Dit beleidsinitiatief is in lijn met eerder advies
over problematische games door het Trimbos-instituut.15

Evenals de Europese Commissie ben ik van mening dat het betrekken van kinderen essentieel
is voor hun eigen bewustwording en de effectiviteit van voorlichting.16 Daarnaast betrek ik kinderen bij het ontwikkelen van een tech-etiquette over «do’s-and-don’ts»
online.

In het kader van preventie zet ik ook actief in op de ontwikkeling en het verplichten
van de «age appropriate design code» zoals door de Europese Commissie is aangekondigd
in de BIK+ strategie (Better Internet for Kids). De BIK+ strategie heeft tot doel
om kinderen te beschermen tegen illegale of niet op hun leeftijd afgestemde inhoud,
hen mondiger te maken via digitale vaardigheden en hen inspraak te geven in de digitale
wereld. De age appropriate design code wil de kinderen beschermen tegen schadelijke
en illegale inhoud, gedragingen, contacten en gebruikersrisico’s en hun welzijn online
verbeteren.

Ook is, in reactie op de motie Ceder/Dekker-Abdulaziz17, de doorontwikkeling en versterking van de Code kinderrechten online ter hand genomen.
Dit wordt bezien in het licht van de totstandkoming van de age appropriate design
code. De age appropriate design code lijkt op de Code Kinderrechten Online in de zin
dat het ook principes definieert voor ontwerp van digitale producten en diensten (waaronder
games) die kinderrechten respecteren. De Code kinderrechten online wordt doorontwikkeld
tot een praktisch instrument dat ontwikkelaars van online diensten en -producten behulpzaam
is bij het ontwerpproces. Ten slotte zal de Code worden geactualiseerd.

Daarnaast zet ik in op een effectievere leeftijdsverificatie. In dit kader zijn de
ontwikkelingen ten aanzien van de Europese Wallet van belang maar ook alternatieven
daarvoor. Vanzelfsprekend wordt bij het zoeken naar betere leeftijdsverificatie gekeken
naar de mate waarin de privacy van kinderen bij de verificatie geborgd is, bijvoorbeeld
door toepassing van privacy by design principes.

Ten slotte zal ik op verzoek van Uw Kamer18 de aanbevelingen meenemen uit een rapport van UNICEF19 uit 2019 die zien op het bereiken van een gezonde wijze van spelen van games, voor
zover deze niet in deze brief worden meegenomen.

Aanbeveling 4: juridische interventies door de overheid

Het Trimbos-instituut beveelt aan om juridische maatregelen te nemen om ongezond en
schadelijk ontwerpgedrag te ontmoedigen door bijvoorbeeld deze ontwerpen te verbieden
en strenger te handhaven op dergelijke ontwerpen. Ook kan de overheid de maatschappij
informeren en kennis delen over schadelijk gedrag online.

Kinderrechten impact assessment

Ik laat een kinderrechten impact assessment ontwikkelen dat dient om, voordat het
ontwerpproces in gang wordt gezet, inzicht te krijgen in het risico van schending
van kinderrechten in het finale ontwerp. Ik bekijk, ook in Europees verband, of en
hoe een dergelijk assessment kan worden verplicht. In de Digital Service Act is al
een assessmentplicht opgenomen voor hele grote online platforms en zoekmachines maar
veel online games zullen niet als een online platform in de zin van de Digital Service
Act zijn aan te merken. Het informeren en delen van kennis in de zin van bewustwording
is hierboven al aan de orde gekomen bij de aanbeveling over preventie en behandeling
van schade en/of stoornissen door gamen.

Aanbeveling 5: uitoefenen van invloed op interne processen in de game industrie

De laatste aanbeveling ziet op het uitoefenen van invloed op de interne processen
in de game industrie. De overheid kan bijvoorbeeld positief gedrag belonen, schade
monitoren en advies geven aan de industrie over ethisch en verantwoord gedragsontwerp.

Dialoogtafels

Ik pak dit op in de vorm van het organiseren van de hiervoor genoemde tafels om samenwerking
en dialoog met het maatschappelijk middenveld, de industrie en relevante toezichtautoriteiten
te stimuleren en kennis te delen. Daarbij zal ik het ethisch en verantwoord gedrag
blijven aanmoedigen.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
A.C. van Huffelen