Brief regering : Reactie op verzoek commissie over het advies van de Raad Volksgezondheid & Samenleving 'Waarde(n)volle zorgtechnologie. Een verkennend advies over de kansen en risico's van kunstmatige intelligentie in de zorg'

Nr. 186 BRIEF VAN DE MINISTER VOOR MEDISCHE ZORG

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 1 juli 2019

Met uw brief van 13 maart 2019 heeft u mij gevraagd te reageren op het RVS-rapport
«Waarde(n)volle zorgtechnologie». De RVS is van mening dat Artificiële Intelligentie
(AI) de zorg veel te bieden heeft. Het kan een positieve bijdrage leveren aan de publieke
waarden die verbonden zijn aan de zorg. Het gaat dan om kwaliteit, toegankelijkheid,
betaalbaarheid/solidariteit en pluriformiteit (aansluiting op diversiteit in de samenleving)
van de zorg. Niettemin zien zij ook risico’s. AI zou de eerdergenoemde publieke waarden
ook juist kunnen ondermijnen. De RVS stelt in zijn rapport een tweesporenbenadering
voor om de ontwikkeling van AI in de zorg in goede banen te leiden: een spoor voor
de lange(re) termijn en een spoor waarmee nu al kan worden gestart. Het spoor voor
de langere termijn bevat drie onderdelen:

1. Een programmatische aanpak, waarbij ontwikkelingen worden gevolgd, ervaringen bijeen worden gebracht en gekeken
wordt welke maatregelen nodig zijn om de publieke belangen te kunnen blijven borgen.

2. Kennis genereren en delen, burgers informeren. De RVS adviseert de overheid om inhoudelijke kennis, debat en opinievorming over
de rol van AI in de gezondheidszorg en de veranderingen die dit met zich meebrengt
te stimuleren.

3. Opleiden. In de verschillende zorgopleidingen is specifieke aandacht nodig voor AI, zowel
voor het leren doorgronden van algoritmen als voor de interactie tussen mens en technologie.

Het spoor voor de korte termijn bevat vier onderdelen:

1. Kwaliteitseisen stellen. De RVS adviseert de overheid om nadere kwaliteitseisen te stellen voor toelating
tot de (Nederlandse) markt en daarbij samen te werken op Europees niveau.

2. Kwaliteitseisen afdwingen. Aanbieders van AI-technologie opereren voor een belangrijk deel (in eerste instantie)
buiten het collectieve systeem om. De RVS denkt dat zij daardoor niet hoeven te voldoen
aan de regels die tot doel hebben de kwaliteit, de toegankelijkheid en de betaalbaarheid
van de zorg te borgen.

3. Datacontinuïteit garanderen. Bedrijven kunnen failliet gaan. In dat geval moeten patiënten over hun gegevens
kunnen blijven beschikken. De RVS stelt voor een (gratis) downloadmogelijkheid voor
patiënten van hun gegevens in zorgsystemen te verplichten om de continuïteit van zorg
te waarborgen.

4. Traceerbaarheid voor burgers realiseren. De RVS stelt dat burgers moeten kunnen zien waar hun medische gegevens zijn opgeslagen
en met wie deze gegevens worden gedeeld.

Beleidsreactie

Net als de RVS ben ik van mening dat AI de zorg veel te bieden heeft, mits de publieke
belangen in de zorg voldoende worden beschermd. Daarbij vind ik het ook belangrijk
dat de belangen van de individuele patiënt worden beschermd, zoals de patiëntveiligheid
en autonomie. In deze brief reageer ik op de voorgestelde tweesporenbenadering. In
mijn reactie geef ik aan welke acties de rijksoverheid al neemt om de ontwikkeling
van AI in de zorg in goede banen te leiden. Er gebeurt al veel, op enkele punten is
nadere uitwerking vereist.

Op 29 mei 2019 heb ik tijdens een gesprek met de RVS afgesproken dat zij worden betrokken
bij de verdere stappen die de overheid zet op het gebied van AI in de zorg.

Een programmatische aanpak

De RVS stelt voor om te komen tot een programmatische aanpak voor AI. Hier is het
kabinet momenteel al mee bezig. Op korte termijn wordt het «Strategisch actieplan
voor AI» vanuit het kabinet gepubliceerd. Hieraan heeft het Ministerie van VWS meegewerkt.
Dit actieplan zal de visie en standpunten van het kabinet bevatten voor het benutten
van de vele mogelijkheden die AI biedt voor innovatie en economische groei, en voor
de aanpak van maatschappelijke uitdagingen.

In het strategisch actieplan kijkt het kabinet breder dan gezondheid, zorg en ondersteuning.

Voor de implementatie en doorontwikkeling van het strategisch actieplan voor AI en
de onderliggende acties wordt een brede Nationale AI Coalitie opgezet. In deze coalitie
gaan bedrijven, overheden, kennisinstellingen en onderwijsinstellingen zo veel mogelijk
samen acties oppakken. Vanuit het Ministerie van VWS wordt momenteel bekeken op welke
manier de gezondheidszorg het best aangehaakt en vertegenwoordigd kan worden in deze
coalitie.

Specifieke aspecten van de toepassing van AI ten behoeve van gezondheid, zorg en ondersteuning
staan ook op mijn netvlies. In de Kamerbrief «data laten werken voor gezondheid» van
november 2018 (Kamerstuk 27 529, nr. 164) schrijf ik dat gebruik van data-analyses nieuwe vragen met zich meebrengt, onder
andere op juridisch en ethisch gebied.

Ik organiseer momenteel ronde tafels met een diversiteit aan partijen om te bezien
wat kansen en risico’s zijn bij ontwikkeling, implementatie en opschaling van AI-tools
in de zorg. Binnen Europa wordt hier ook volop aandacht aan besteed, onder ander in
het E-health Network. Eind 2019 informeer ik u over de voortgang op de actielijnen
uit voorgenoemde Kamerbrief(Kamerstuk 27 529, nr. 164). In mijn visie op Medische Technologie, die u op 26 april 2019 heeft ontvangen (Kamerstukken
32 805 en 31 765, nr. 82), omschrijf ik mijn ambitie om te komen tot een evenwichtige MedTech markt. Daarbij
zet ik onder andere in op het opzetten van een internationale horizonscanning voor
MedTech om (de ontwikkeling van) nieuwe Medische Technologie, waaronder AI, in de
gaten te houden.

Daarnaast komen in de recente voortgangsrapportage Innovatie en Zorgvernieuwing de
activiteiten aan de orde die VWS oppakt om kansrijke toepassingen, waarbij technologieën
zoals AI worden ingezet, op te schalen teneinde de zorg organiseerbaar te houden.

Op Europees niveau is Nederland voorzitter van de werkgroep New Emerging Technologies.
Deze werkgroep bespreekt hoe nieuwe medische technologieën (waaronder AI-toepassingen)
passen binnen het wetgevend kader voor medische hulpmiddelen.

Kennis genereren en delen, burgers informeren

De RVS adviseert de overheid om inhoudelijke kennis, debat en opinievorming over de
rol van AI in de gezondheidszorg en de veranderingen die dit met zich meebrengt te
stimuleren. Het kabinet onderneemt hiertoe al verschillende activiteiten. Op zeer
korte termijn wordt de «kabinetsvisie AI, publieke waarden en mensenrechten» opgeleverd.
Deze kabinetsvisie bevat een beschrijving van de kansen en risico’s van Artificiële
Intelligentie (AI) voor belangrijke publieke waarden en mensenrechten, evenals de
beleidsmaatregelen om kansen te versterken en risico’s te adresseren. Met steun van
het Ministerie van BZK is voor iedereen in Nederland de Nationale AI-cursus beschikbaar
gesteld. In deze cursus leren Nederlanders wat AI precies is, wat de basisprincipes
zijn en waarom AI belangrijk is. Het brede (industriële) MKB krijgt de beschikking
over actuele kennis en tools voor verantwoord gebruik van AI en data via vijf regionale
smart industry initiatieven.

Specifiek op het terrein van zorg organiseert Nictiz in samenwerking met het Centrum
voor ethiek en gezondheid (CEG) bijeenkomsten over de ethiek van digitale zorg. AI
is daar een belangrijk onderdeel van. Daarnaast heb ik het CEG gevraagd om een signalement
uit te brengen met de ethische aspecten die een rol spelen bij een aantal concrete
zorgtoepassingen waarin AI kan worden gebruikt. Het gaat om apps en wearables bij
preventie, robotisering in de langdurige zorg en sensortechnologie ten behoeve van
maatschappelijke ondersteuning. Het CEG heeft al eerdere een signalement uitgebracht
over het gebruik van medische expertsystemen in de curatieve zorg. Ik verwacht dat
deze signalementen nuttige input leveren voor opinievorming over de rol van AI voor
gezondheid, zorg en ondersteuning. Ten slotte ontwikkel ik momenteel een toolbox voor
zorgprofessionals die willen starten met het ontwikkelen of implementeren van AI-toepassingen,
maar vragen hebben over wet- en regelgeving, ethiek of mogelijkheden tot opleiding.
Deze zal eind van het jaar beschikbaar zijn voor eenieder die hierin interesse heeft.

Opleiden

In alle hoofdlijnenakkoorden hebben de betrokken partijen onderschreven dat technologische
ontwikkelingen een rol spelen bij de noodzaak voor aanpassingen in de wijze waarop
zorg en ondersteuning wordt aangeboden. Dit vraagt ook wat van de vaardigheden en
kennis van de zorgprofessionals van de toekomst. De beroepsgroepen en opleiders betrekken
technologische ontwikkelingen dan ook nadrukkelijk in verschillende trajecten om de
opleidingen toekomstbestendig te maken. Zo worden technologische ontwikkelingen expliciet
betrokken in de herziening van het raamplan voor de basisartsopleiding dat dit jaar
in opdracht de NVZ en NFU wordt uitgevoerd. Ook geeft de FMS in haar visiedocument
Medisch Specialist 2025 expliciet aandacht aan technologische ontwikkelingen. De aanbevelingen
van de RVS benadrukken het belang van kennis en vaardigheden van de zorgprofessionals
van de toekomst en voor de studenten van nu op het gebied van technologische ontwikkelingen.

Kwaliteitseisen stellen voor markttoelating van zelflerende software

De Europese wetgeving stelt strenge eisen aan de veiligheid en betrouwbaarheid van
medische hulpmiddelen. Hoe hoger de risicoklasse, hoe strenger de eisen. De RVS stelt
in zijn rapport dat de CE-markering voor toelating tot de (Europese) markt van AI-toepassingen
ontoereikend is. Het klopt dat veel software nu buiten het bereik van de Europese
richtlijnen voor medische hulpmiddelen valt. Dit gaat veranderen per mei 2020. Vanaf
dat moment is nieuwe Europese wetgeving van toepassing. Alle software met een medisch
doel valt onder deze wetgeving. Dat geldt dus ook voor medische software met AI. Software
valt onder de nieuwe regels bovendien sneller in een hogere risicoklasse.

Er zal voortaan klinisch bewijs moeten zijn dat medische software doet wat het belooft
voordat de software op de markt wordt gebracht. Dit geldt ook (na een eventuele overgangstermijn)
voor medische software die nu al op de markt is. Bovendien wordt vereist dat software
wordt ontwikkeld volgens de state of the art. Dit houdt in dat de software moet voldoen aan de geldende Europese en internationale
normen. Er wordt gewerkt aan een internationale norm voor AI. In februari 2019 is
hierover een bijeenkomst bij NEN geweest.

Op Europees niveau wordt gewerkt aan een leidraad voor klinisch onderzoek naar software.
Het is een uitdaging om te komen tot goede onderzoeksresultaten over de betrouwbaarheid
van zelflerende software. Door het zelflerende karakter kunnen de uitkomsten immers
voortdurend veranderen. Ik dring erop aan dat er in de richtlijn aandacht wordt besteed
aan onderzoek naar zelflerende algoritmen.

Kwaliteitseisen afdwingen

De RVS gaat er vanuit dat kwaliteitseisen voor AI in de zorg niet afdwingbaar zijn,
omdat zij voor een belangrijk deel buiten het collectieve systeem om functioneren.
De kwaliteitseisen voor markttoelating en post market surveillance die op grond van
de Europese verordening medische hulpmiddelen gelden voor medische software zijn van
toepassing op alle medische software, ongeacht of het binnen of buiten het collectieve
systeem functioneert. Daarnaast gelden de regels zoals vastgelegd in de Wet op de
geneeskundige behandelingsovereenkomst (WGBO) en Wet kwaliteit, klachten en geschillen
zorg (Wkkgz) onverminderd als de AI wordt ingezet door een zorgaanbieder. Ook de vergoeding
van AI in de zorg is in principe niet anders dan de vergoeding van «reguliere» medische
hulpmiddelen.

Ik zal (laten) uitzoeken in hoeverre regels uit de WGBO en Wkkgz van toepassing zijn
indien AI zorg levert zonder tussenkomst van een zorgverlener. Ik vind het namelijk
belangrijk dat de kwaliteit, de toegankelijkheid en de betaalbaarheid ook geborgd
zijn als (in de toekomst) zorg wordt verleend door zelfstandige AI. Daarbij zal de
afweging moeten worden gemaakt of AI zonder medisch doel die wordt geleverd binnen
de gezondheidszorg of maatschappelijke ondersteuning (zoals sociale robots), specifieke
aandacht nodig heeft of dat het voldoende is om deze vormen van AI mee te nemen in
het brede strategisch actieplan voor AI.

In het kader van kwaliteitseisen wijs ik ook graag op de richtlijnen voor de ontwikkeling
en implementatie van ethiek in artificiële intelligentie. Deze richtlijnen zijn begin
april 2019 gepubliceerd door de Europese Commissie. Daarin wordt ook ingegaan op de
bescherming van publieke waarden (zie onderstaand kader). De Europese Commissie wil
na een pilotfase komen tot internationale consensus over de ethische ai-richtlijnen.
Technologie, data en algoritmes kennen immers geen grenzen. De Europese Commissie
wil samenwerken met partners als Japan, Canada en Singapore en een actieve rol spelen
in internationale discussies en initiatieven als de G7 en de G20.

De zeven ai-richtlijnen van de EU

1. Menselijk toezicht: ai-systemen moeten het mogelijk maken dat de mens de regie houdt
en de rechten van de mens ondersteunt. Ze mag niet de menselijke autonomie ondermijnen;

2. Robuust en veilig: ai vraagt om veilige, betrouwbare en robuuste algoritmes die om
kunnen gaan met de fouten binnen ai-systemen;

3. Privacy en databeleid: burgers moeten volledige controle hebben over hun eigen data,
terwijl data over hen niet gebruikt mag worden om hen schade te berokken of te discrimineren;

4. Transparantie: ai-systemen moeten traceerbaar zijn;

5. Diversiteit en eerlijkheid: ai-systemen moeten alle menselijke vaardigheden meenemen
en toegang verzekeren voor iedereen;

6. Maatschappij en milieu centraal: ai-systemen moeten positieve sociale veranderingen
mogelijk maken en duurzaamheid hoog in het vaandel dragen;

7. Verantwoordelijkheid: mechanismes moeten ingebouwd worden om entiteiten verantwoordelijk
te maken voor (de uitkomsten van) ai-systemen.

Datacontinuïteit garanderen

De RVS stelt voor een (gratis) downloadmogelijkheid voor patiënten van hun gegevens
in zorgsystemen te verplichten om de continuïteit van zorg waarborgen. Op die manier
kunnen patiënten over hun medische gegevens blijven beschikken, bijvoorbeeld als een
zorginstelling failliet gaat.

Het is reeds wettelijk verplicht voor zorgaanbieders om patiënten desgevraagd een
digitaal overzicht van hun medische gegevens te verstrekken. Met het programma MedMij
zorgt VWS ervoor dat iedereen die dat wil, levenslang kan beschikken over zijn eigen
gezondheidsgegevens in een persoonlijke gezondheidsomgeving (PGO). Deze informatie
blijft na het downloaden van gegevens beschikbaar, ook als een zorginstelling failliet
is gegaan.

Traceerbaarheid voor burgers realiseren

De RVS stelt dat burgers moeten kunnen zien waar hun medische gegevens zijn opgeslagen
en met wie deze gegevens worden gedeeld. Ik zet in op maximale zeggenschap van burgers
over de eigen (medische) data. Ik vind het van groot belang dat burgers en patiënten
weten waar hun data zich bevindt en wat er mee gebeurt. Hierbij hoort dat patiënten
(indien gewenst) terugkoppeling krijgen over uitkomsten van data-analyses en dat iemand
kan weigeren om zijn persoonlijke data beschikbaar te stellen voor onderzoek, of eerder
gegeven toestemming in kan trekken. In de Algemene Verordening gegevensbescherming
(AVG) is het wettelijke kader op het gebied van privacy in de zorg geregeld, waaronder
de verantwoordelijkheid voor het informeren van betrokkenen over de opslag en het
gebruik van data. Toezicht hierop wordt gehouden door de Autoriteit Persoonsgegevens.
Als een patiënt wil weten welke medische gegevens zijn opgeslagen en met wie die zijn
gedeeld, dient de patiënt dit zelf op te vragen bij de zorgaanbieder. Als een medisch
hulpmiddel medische gegevens opslaat, kan de patiënt deze informatie opvragen bij
de beheerder van de data van het medische hulpmiddel. Ik acht het met het oog op informatiebeveiliging
niet wenselijk om (op één locatie) te verzamelen bij welke zorgaanbieders of in welke
medische hulpmiddelen gegevens van een patiënt zijn verzameld. Dit is namelijk privacygevoelige
informatie.

Ten slotte

Er gebeurt veel op het terrein van AI, zowel binnen gezondheid, zorg en ondersteuning
als daarbuiten. Ik volg de ontwikkelingen nauwgezet en zal AI een centrale plek geven
in de nationale agenda MedTech 2020–2024. Deze nationale agenda wordt ontwikkeld in
samenspraak met het veld. Ook de RVS zal in dit traject worden betrokken. AI zal ons
ongetwijfeld voor uitdagingen stellen, maar ik heb er vertrouwen in dat we met de
hierboven omschreven acties kunnen profiteren van de kansen die AI biedt voor gezondheid,
zorg en ondersteuning.

De Minister voor Medische Zorg, B.J. Bruins