Brief regering : Reactie op het rapport 'Verantwoord virtueel; bescherm consumenten in virtual reality' van het Rathenau Instituut

Nr. 720
BRIEF VAN DE STAATSSECRETARIS VAN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 3 december 2020

Hierbij ontvangt u, mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties
(BZK) en de Minister voor Rechtsbescherming, de reactie op het rapport «Verantwoord
virtueel; bescherm consumenten in virtual reality» van het Rathenau Instituut.

In het najaar van 2019 publiceerde het Rathenau Instituut het onderzoeksrapport «Verantwoord
Virtueel; bescherm consumenten in virtual reality»1. Dit onderzoek past in een reeks onderzoeken naar nieuwe technologieën die de interactie
met de computer en de digitale wereld veranderen en die immersief zijn (technologieën
waarin we worden ondergedompeld). In dit kader zijn onlangs ook onderzoeken verschenen
over augmented reality en spraaktechnologie. In het eerste deel van deze brief wordt
een overzicht gegeven van de belangrijkste uitkomsten en aanbevelingen van het onderzoek.
Het tweede deel bevat de kabinetsreactie op de conclusies en beleidsadviezen. Deze
reactie heeft enige tijd op zich laten wachten in verband met de noodzakelijke interdepartementale
afstemming.

Rapport «Verantwoord Virtueel; bescherm consumenten in virtual reality»

Met Virtual Reality (VR) kan een mens zich verplaatsen in een virtuele driedimensionale
omgeving. Met behulp van een VR-bril en andere accessoires kunnen gebruikers zich
vrijelijk door een door computers gegenereerde omgeving bewegen en interacties aangaan
met elkaar en met objecten in deze virtuele wereld. VR vertoont gelijkenissen met
bestaande mediatechnologie, zoals gaming en sociale media, maar VR onderscheidt zich
op twee belangrijke aspecten van bestaande mediatechnologie. Ten eerste is VR een
immersieve technologie die VR-gebruikers volledig onderdompelt in de door computers
gegenereerde omgeving. VR-sets sluiten de zintuigen van gebruikers af van de buitenwereld.
Daardoor wordt de suggestie versterkt dat men daadwerkelijk in de virtuele wereld
aanwezig is. Ten tweede is VR een intieme technologie. Via sensoren in VR-brillen
kunnen tal van persoonlijke biometrische data worden verzameld. Het meten van de motoriek
van gebruikers, inclusief hoofd- en lichaamsbewegingen, oogbewegingen, gezichtsuitdrukkingen
en gebaren, kan aldus de onderzoekers verregaande inzichten geven in iemands persoonlijkheid
en voorkeuren. Volgens hen is bij VR de versmelting tussen mens en computer haast
volledig.

Het rapport schetst een reeks zorgen en vraagstukken bij het toenemende gebruik door
consumenten van VR. Er worden vier groepen van risico’s onderscheiden:

1. lichamelijke en mentale risico’s;

2. sociale risico’s;

3. machtsmisbruik, waaronder misbruik marktmacht;

4. juridische risico’s zoals privacy schendingen.

In het rapport worden als lichamelijke en mentale risico’s, verslaving, het verdwijnen
van de grens tussen de reële en de virtuele wereld of een overmatige betrokkenheid
genoemd. Deze risico’s kunnen leiden tot sociale vervreemding. Naast deze vervreemding
worden ook sociale risico’s gezien die verbonden zijn aan extreme content, zoals seksuele
en/of agressieve beelden die kunnen leiden tot grensoverschrijdend gedrag in de fysieke
wereld. De vraag of je bijvoorbeeld moord en ander – in de fysieke wereld – onrechtmatig
gedrag moet toestaan in VR, dient volgens de onderzoekers serieus genomen te worden
vanwege het immersieve karakter van VR.

Bij machtsmisbruik gaat het om het verzamelen van intieme en biometrische persoonlijke
data en de mogelijkheid van ontwikkelaars en aanbieders om virtuele werelden, objecten
en avatars te manipuleren – zonder dat de gebruiker het merkt en zonder toestemming
– om zo het gedrag van gebruikers te beïnvloeden. Zowel de hardware, de software,
de content, als de infrastructuur van de virtuele wereld wordt ontwikkeld door een
klein aantal grote techbedrijven, wat volgens de onderzoekers leidt tot een ongewenste
machtsconcentratie. VR bevindt zich volgens hen in een grijs gebied waarin een aantal
juridische en rechtsfilosofische vraagstukken samenkomt en waaraan een aantal juridische
risico’s kleeft, met name op het gebied van privacy of de status van virtuele entiteiten.
De onderzoekers vragen zich bijvoorbeeld af wat privacy betekent in de virtuele wereld
en of schade aan virtuele entiteiten gelijk kan worden gesteld aan schade aan echte
entiteiten, en zo ja, in welke mate?

Daarnaast worden in het rapport een aantal bevindingen en beleidsadviezen gepresenteerd.
Op de eerste plaats wordt gesignaleerd dat er momenteel sprake is van een groeiende
kloof tussen enerzijds het gebrek aan politieke aandacht en anderzijds de noodzaak
van de tijdige ontwikkeling van kaders om deze technologie in te bedden. Om de maatschappelijke
en persoonlijke risico’s van VR te kunnen begrenzen, stellen de onderzoekers de volgende
vier maatregelen voor:

1. Breng (inter)nationaal debat op gang over ethiek van VR

2. Stel kaders op voor de maatschappelijke inbedding van VR

3. Informeer en bescherm VR-consumenten goed

4. Verricht onderzoek naar de (langetermijn)effecten van VR

Om het debat over VR op gang te brengen wordt gewezen op de noodzaak consumenten te
informeren en een politiek discussie te voeren over thema’s als machtsmisbruik en
de lichamelijke, mentale, en sociale risico’s van VR. Daarnaast wordt de oproep gedaan
te verhelderen wat de bestaande reguleringskaders betekenen voor VR en in hoeverre
VR om nieuwe specifieke kaders vraagt. Denk aan het reguleren van het delen van specifieke
biometrische data die via VR beschikbaar komen. Het goed informeren over en het beschermen
van de consument tegen mogelijke schadelijke gevolgen van VR is volgens de onderzoekers
essentieel. Mensen geven in VR hun meest intieme data af en worden kwetsbaar ten opzichte
van marktpartijen, maar ook ten opzichte van andere mensen. Het is nodig om consumenten
voor te lichten over de persoonlijke en intieme data die zij genereren in VR en de
manier waarop dit een inbreuk kan vormen op hun privacy en autonomie. VR-platforms
zijn geen privéruimtes in het publieke domein maar zijn markten waarin wordt betaald
of geruild met geld en data. Voorts wordt de aanbeveling gedaan meer onderzoek te
verrichten naar de (langetermijn)effecten van VR. Zo bestaan er volgens de onderzoekers
kennislacunes over de effecten van onderdompeling in VR, of over de vraag welke VR-ervaringen
verstorende en negatieve effecten hebben op gebruikers.

Kabinetsreactie

Het kabinet is gevoelig voor de zorgen en de in het rapport gesignaleerde vraagstukken
bij het toenemende gebruik door consumenten van VR. Aandacht voor de maatschappelijke
vraagstukken bij technologie is een voorwaarde voor het succesvol benutten van de
kansen van technologie. In onder andere de Nederlandse Digitaliseringstrategie besteedt
het kabinet aandacht aan grondrechten en ethische vraagstukken in de digitale tijd.2 Digitale toepassingen bieden kansen, maar zijn zelden zonder risico’s. Daarom zet
het kabinet in op het beschermen van fundamentele rechten en het vergroten van de
digitale weerbaarheid van burgers en bedrijven, om Nederland de ruimte te bieden voor
het benutten van de kansen die digitalisering biedt.

VR is geen nieuw technologie. Zoals in het rapport wordt aangegeven bestaat de fascinatie
voor VR al sinds de jaren vijftig. De onderzoekers verwachten dat de snelle ontwikkelingen
van de afgelopen jaren zich voort zullen zetten. Hoewel de markt voor VR, aldus het
rapport nog klein is en weinig gebruikers bereid zijn te betalen voor VR content,
wordt in het rapport de verwachting uitgesproken dat de markt de komende jaren snel
zal groeien. De motivering hiervoor is dat goedkopere en meer comfortabele VR-headsets
op de markt komen. Het kabinet wijst er op dat naast de consumententoepassingen van
VR, waar dit onderzoek zich op richt, ook niet-commerciële toepassingen in publieke
sectoren zoals zorg en onderwijs betekenisvol kunnen zijn. Een recente nieuwe toepassing
is er bijvoorbeeld in het medische domein, waar een longchirurg met behulp van een
VR-bril tijdens de operatie driedimensionaal kan zien waar de tumor zich bevindt.

De zorgen rondom VR zijn niet nieuw. De in het rapport gesignaleerde risico’s en ethische
en sociale vraagstukken op het gebied van privacy, autonomie, fysieke en mentale integriteit,
toegang tot technologie, en de vereisten die gesteld worden aan consumententechnologie,
bestaan ook voor andere digitale toepassingen of (digitale) spelvormen. Als gevolg
van het vooralsnog beperkte gebruik van VR zijn de risico’s en problemen die hieraan
zijn verbonden in kwantitatieve zin nog beperkt. Het kabinet heeft aandacht en zorg
voor de risico’s, naast de eigen verantwoordelijkheid hiervoor van bedrijven en consumenten.
Het kabinet zet bij de aanpak van gameverslaving in op preventie en voorlichting,
adequate behandeling en handhaving van bestaande regelgeving. Hierover bent u door
de Minister voor Rechtsbescherming geïnformeerd in zijn reactie op het bericht «Verbied
verslavende games voor minderjarigen»3. Daarnaast wordt in opdracht van het Ministerie van BZK een Code voor Bescherming
van Kinderrechten Online ontwikkeld. Dit om ervoor te zorgen dat deze kwetsbare groep
beter beschermd wordt tegen online risico’s. Verder laat het Ministerie van BZK door
het Trimbos Instituut onderzoek doen naar manipulatie van gedrag in mediaproducten
en games. Het beoogde doel daarvan is meer inzicht te krijgen in de gedragsbeïnvloeding
in games en mediaproducten, zodat een taxonomie en een onderzoeks- en beleidsagenda
vastgesteld kunnen worden.

Dit is urgent omdat het de wereld buiten de industrie van mediaproducten niet duidelijk
is waarop de ontwerpkeuzes van leveranciers zijn gebaseerd. Er ontbreekt een gemeenschappelijke
taal.

Voor het misbruik van marktmacht of privacy-schendingen geldt dat er in wetgeving
normatieve kaders zijn, die voor economische activiteiten in brede zin gelden. Producenten
van VR en degenen die VR toepassen dienen, voor zover het gaat om de verwerking van
persoonsgegevens, in overeenstemming te handelen met de Algemene verordening gegevensbescherming,
de Uitvoeringswet AVG en eventuele sectorale privacyregelgeving. Zo is een producent
van VR gehouden het ontwerp van een VR-applicatie zo in te richten dat aan de gegevensbeschermingsbeginselen
wordt voldaan ter bescherming van betrokkenen (privacy by design). Onder andere in
de Nederlandse Digitaliseringsstrategie zijn acties opgenomen die er op gericht zijn
om de privacy van mensen te beschermen, niet alleen in de relatie tussen overheid
en burgers, maar ook tussen burgers en bedrijven, en dat ze grip hebben op hun persoonsgegevens.
Ook zet het kabinet zich actief in voor de totstandkoming en implementatie van een
ambitieuze Europese e-privacy verordening. Met de motie van de leden Van der Staaij
en Van de Graaf4 wordt de regering verzocht te onderzoeken of de verwachte doorbraak van virtuele
technologie tot aanpassingen moet leiden van de bestaande reguleringskaders en wettelijke
voorschriften. Met het oog op deze motie heeft de Minister voor Rechtsbescherming
aan uw Kamer gemeld5, dat het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) een onderzoek
start naar de mogelijke maatschappelijke gevolgen van immersieve technologie, toegespitst
op de vraag of het huidige reguleringskader en de huidige regelgeving voldoen. Na
afronding van dit onderzoek zal uw Kamer hierover worden geïnformeerd.

Een concrete vraag die in het rapport wordt opgeworpen is de vraag in hoeverre VR
als een biomedische technologie moet worden gezien en gereguleerd. De afgelopen jaren
zijn stap voor stap VR-zelfhulpapplicaties beschikbaar gekomen, bijvoorbeeld om mensen
te helpen hun post-traumatische stress, spinnenfobie of sociale angststoornis te overwinnen.
Volgens de onderzoekers omzeilen bedrijven het dure en tijdrovende proces van medisch
onderzoek, en brengen zij steeds vaker simpele varianten van de als medische toepassing
ontwikkelde VR op de consumentenmarkt. Het kabinet wijst er op dat VR met een medisch
doel dient te voldoen aan de wet- en regelgeving die van toepassing is op medische
hulpmiddelen. Hier hoort bij dat gebruikers de benodigde veiligheidsinformatie (waarschuwingen/voorzorgsmaatregelen/contra-indicaties)
ontvangen. Vanaf 26 mei 2021 is de nieuwe Europese Verordening Medische hulpmiddelen
van toepassing. Met deze verordening worden de regels die gelden voor software (waaronder
VR) met een medisch doel aangescherpt. Zo moet er meer klinisch bewijs zijn over de
prestaties van de software en beoordeelt een aangewezen instantie of de software aan
de regels voor medische hulpmiddelen voldoet. In het rapport worden echter met name
voorbeelden aangehaald zonder medisch doel, zoals meditatie applicaties of applicaties
voor het overwinnen van spreekangst. De wet- en regelgeving voor medische hulpmiddelen
is daarop niet van toepassing. Mocht in de toekomst blijken dat VR in brede zin een
gevaar oplevert voor de gezondheid of veiligheid van gebruikers of voor de volksgezondheid,
dan biedt de Europese Verordening Medische hulpmiddelen de mogelijkheid om bepaalde
regels die gelden voor medische hulpmiddelen ook van toepassing te verklaren op VR
zonder medisch doel.

Om de maatschappelijke en persoonlijke risico’s van VR te kunnen beheersen stelt het
Rathenau Instituut vier maatregelen voor. Ten eerste wordt geadviseerd een (inter)nationaal
debat op gang te brengen over de ethiek van VR. Dit is in lijn met het kabinetsbeleid
om dialogen over technologische ontwikkelingen te organiseren en te stimuleren. In
de Nederlandse Digitaliseringsstrategie wordt de wenselijkheid van een brede maatschappelijke
dialoog over nieuwe ethische vraagstukken onderschreven. Er zijn in 2019 reeds verschillende
«burgerdialogen» over de kansen en risico’s van technologie georganiseerd, waarin
een gevarieerde groep burgers met elkaar in gesprek is gegaan over wat zij verwachten
van technologieën en wat zij (on)wenselijke ontwikkelingen vinden. De weerslag van
deze dialogen kan input zijn voor de kaders voor de maatschappelijke inbedding van
VR, waartoe het Rathenau Instituut oproept. ECP, het onafhankelijke platform voor
de informatiesamenleving waaraan ook de overheid deelneemt, heeft een model ontwikkeld
op het gebied van begeleidingsethiek. Dat model is geschikt voor alle verschillende
innovatieve en disruptieve technologieën. Momenteel wordt de werking getoetst bij
verschillende organisaties. In het Rathenau-rapport wordt ook voorgesteld VR consumenten
te informeren en te beschermen. Het kabinet merkt hierover op dat bescherming en het
informeren van consumenten staand beleid is. Onder andere via het dilemmaspel «Tech
Twijfels» dat momenteel ontwikkeld wordt, en waarin onder meer middelbare scholieren
worden uitgedaagd na te nadenken over de kansen en risico’s van nieuwe technologieën
voor mensenrechten, zet het kabinet actief in op voorlichting over de effecten van
technologieën op publieke waarden en grondrechten. Voor kinderen van basisscholen
was er in 2019 een speciale editie van Donald Duck met een lespakket over technologie
en grondrechten. Tot slot wordt in het rapport geadviseerd onderzoek te verrichten
naar de (langetermijn)effecten van VR. Naar dergelijke effecten zal deels worden gekeken
in het eerder genoemde WODC onderzoek, waar het effecten betreft die aanleiding geven
voor aanvullende regelgeving met betrekking tot immersieve technologie. Na afronding
van dit onderzoek zal uw Kamer hierover worden geïnformeerd door de Minister voor
Rechtsbescherming.

De Staatssecretaris van Economische Zaken en Klimaat,
M.C.G. Keijzer