Brief regering : Kabinetsreactie WRR-rapport 'Opgave AI: de nieuwe systeemtechnologie'

Nr. 943
BRIEF VAN DE MINISTER VAN ECONOMISCHE ZAKEN, VAN DE STAATSSECRETARIS VAN BINNENLANDSE
ZAKEN EN KONINKRIJKSRELATIES EN VAN DE MINISTERS VAN JUSTITIE EN VEILIGHEID, VOOR
RECHTSBESCHERMING, VAN BUITENLANDSE ZAKEN EN VOOR BUITENLANDSE HANDEL EN ONTWIKKELINGSSAMENWERKING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 7 oktober 2022

Met deze brief reageert het kabinet op het in 2021 verschenen rapport «Opgave AI.
De nieuwe systeemtechnologie» van de Wetenschappelijke Raad voor het Regeringsbeleid
(WRR) (bijlage bij Kamerstuk 26 643, nr. 805). Het kabinet heeft met waardering kennisgenomen van het rapport, dat na een uitgebreid
onderzoek naar Artificiële Intelligentie (AI) en publieke waarden tot stand is gekomen.
Gezien het toenemende gebruik van AI en gezien de impact ervan, is dit onderzoek van
grote waarde voor de beleidsvorming van het hele kabinet.

Deze reactie wordt samen met de verzamelbrief publieke controle op algoritmen en de
kabinetsreactie op het Rathenau onderzoek «Algoritmes Afwegen» (Kamerstuk 26 643, nr. 924) aan uw Kamer aangeboden. Deze brieven gaan nader in op de inzet van algoritmes door
de overheid en kunnen in samenhang met deze kabinetsreactie gelezen worden.

Korte weergave rapport

De samenleving staat volgens de WRR momenteel op een keerpunt wat betreft het gebruik
van AI. Door wetenschappelijke doorbraken op het gebied van machine learning en daarbinnen deep learning, gecombineerd met een toename van rekenkracht en beschikbare data, heeft de technologie
de overstap van het laboratorium naar de praktijk in sneltreinvaart kunnen maken.
Het aantal AI-gerelateerde patenten stijgt en de investeringen in AI groeien aanzienlijk,
waardoor er in het bedrijfsleven en bij de overheid steeds meer toepassingen van deze
technologie te vinden zijn.

Bijzonder aan AI is haar brede toepasbaarheid. De WRR typeert AI als een systeemtechnologie
die invloed heeft op de hele samenleving. AI valt volgens de WRR te vergelijken met
de opkomst van de stoommachine, elektriciteit, de verbrandingsmotor en de computer.
Dit zijn geen «gewone» maar «systeemtechnologieën», die in uiteenlopende domeinen
voor allerlei doeleinden ingezet kunnen worden. Als dit voor AI ook succesvol gebeurt,
dan kan deze technologie bijdragen aan een economische groei tot 1,4 procent van het
bbp per jaar.1 Tegelijkertijd heeft een systeemtechnologie ook grote invloed op het leven van mensen,
maar is het niet vanzelfsprekend dat de samenleving deze technologie zomaar omarmt.

Het is duidelijk dat de rol van de overheid volgens de WRR zal groeien naarmate AI
verder ingebed raakt in de samenleving. De vijf opgaven die de WRR destilleert uit
de omgang met eerdere systeemtechnologieën zijn:

1) Demystificatie: het vergroten van kennis over AI en het adresseren van onrealistische
beelden;

2) Contextualisering: het creëren van een goede omgeving om AI te laten functioneren;

3) Engagement: het betrekken van maatschappelijke partijen bij de technologie;

4) Regulering: het opstellen van toekomstvaste kaders; en

5) Positionering: het strategisch nadenken over de positie van Nederland op het internationale
toneel.

De overheid dient zich volgens de WRR nu al voor te bereiden op deze vijf opgaven
die volgen uit het karakter van AI als systeemtechnologie. Hierbij dient de overheid
de geïdentificeerde opgaven structureel te benaderen. Dit is nodig, aangezien de impact
van AI op de samenleving vooraf onmogelijk af te bakenen is. Om hier een richting
voor te geven komt de WRR in deel 3 van het rapport met 10 aanbevelingen en een slotaanbeveling
voor beleid die aan deze opgaven gerelateerd zijn. In de bijlage bij deze brief gaat
het kabinet in op deze aanbevelingen.

Algemene appreciatie rapport

Allereerst is het kabinet de WRR zeer dankbaar voor dit uitvoerige en gedegen rapport.
Het verrichte onderzoek zal dankzij de brede en multidisciplinaire insteek niet alleen
nu, maar ook in de toekomst van grote waarde zijn voor het door de gehele overheid
te vormen beleid rond AI.

Het economische en maatschappelijke belang van AI

Het kabinet onderschrijft de conclusie van de WRR dat AI geen «gewone» technologie
is maar een systeemtechnologie met een fundamentele en brede impact op de economie
en maatschappij. Zoals de WRR aangeeft heeft AI ook invloed op onze burgerrechten,
de rechtstaat en publieke waarden, waaronder veiligheid en gezondheid, autonomie en
vrijheid, rechtvaardigheid en inclusie. Het is belangrijk om hierbij op te merken
dat het niet alleen om negatieve invloed gaat. Het AI-beleid draait om het vergroten
van vertrouwen in AI-systemen en het optimaliseren van kansen. AI als technologie
ondersteunt ook onze welvaart, de borging van publieke waarden en draagt bij aan het
oplossen van maatschappelijke vraagstukken. Ter illustratie:

In de zorg helpen beeldherkenningstoepassingen artsen op dit moment al bij het stellen
van diagnoses van bepaalde soorten kanker en bestaan er beslissingsondersteunende
hulpmiddelen om de kans op heropname op de intensive care te berekenen. AI wordt op
dit moment ook ingezet om het onderhoud van belangrijke duurzame energie infrastructuur
beter, goedkoper en makkelijker te maken. Zo bestaan er drones die met behulp van
AI windmolens kunnen inspecteren. AI wordt regelmatig ingezet in toepassingen die
het leven van mensen gemakkelijker maken. Een concreet voorbeeld is AI-technologie
die tekst naar spraak omzet. Dit is met name voor mensen met een visuele beperking
een zeer behulpzame oplossing. Ook is de ontwikkeling van AI de drijvende kracht achter
de ontwikkeling van rijhulpsystemen en zelfrijdende voertuigen. Dit zorgt voor de
beperking van ongevallen in het verkeer, minder files en de beperking van de uitstoot
van auto’s. Dit zijn slechts enkele voorbeelden van de inzet van AI die het leven
van mensen makkelijker en veiliger maken en economische kansen bieden voor bedrijven.

De WRR hanteert in het rapport de definitie van de Europese High-Level Expert Group on AI: «systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met
enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.»
De opgaven die de WRR voor de systeemtechnologie AI schetst en de aanbevelingen die
de WRR doet raken op veel plekken aan het bredere digitaliseringsbeleid en hebben
niet altijd betrekking op alleen AI. In deze reactie komt dus naast AI-beleid op sommige
plekken ook het bredere digitaliseringsbeleid aan de orde. Deze brede invalshoek is
van belang omdat ook de inzet van eenvoudige algoritmen grote gevolgen kan hebben.

AI in het coalitieakkoord: op weg naar een integrale aanpak

Om de positieve invloed van AI te verstevigen en de negatieve invloed zo veel mogelijk
te beperken, is een nadrukkelijke rol van de overheid vereist. De WRR benadrukt terecht
dat het hierbij niet om een eenmalige opgave gaat, maar dat structurele aandacht nodig
is in de vorm van begeleiding, het stellen van kaders, het stimuleren van ontwikkeling
en verantwoorde toepassingen van AI, en de inzet van AI door de overheid zelf. Zoals
de brede insteek van het rapport «Opgave AI» aangeeft, gaat het ook niet om een opgave
die één enkel ministerie of overheidsonderdeel kan adresseren. Een integrale aanpak
is vereist om de inbedding van AI in goede banen te leiden.

Vanwege het brede belang, heeft het kabinet in het coalitieakkoord (voor het eerst)
een apart hoofdstuk gewijd aan digitalisering en digitale sleuteltechnologieën zoals
AI.2 Daarin stellen we dat de huidige digitale revolutie grote kansen biedt voor onze
samenleving en economie en dat we die kansen willen benutten. Tegelijkertijd zien
we ook uitdagingen die digitale technologieën met zich meebrengen, zoals de digitale
kloof en groeiende ongelijkheid. Ook kunnen onze veiligheid, rechtsstaat, democratie,
mensen- en grondrechten en concurrentievermogen onder druk komen te staan. Het kabinet
wil deze risico’s dan ook tegengaan. Nieuw in dit kabinet is dat er een Staatssecretaris
van digitalisering is aangesteld die verantwoordelijk is voor de hoofdlijnen van het
digitaliseringsbeleid en daarbij toeziet op het verankeren van publieke waarden. In
vervolg op het coalitieakkoord heeft het kabinet in de brief «Hoofdlijnen beleid voor
digitalisering» het belang van een grotere rol voor de overheid in de begeleiding
van de digitale transitie en in een goede maatschappelijke inbedding ervan beschreven.3

AI en algoritmebeleid

AI is onderdeel van het digitaliseringsbeleid maar daarnaast is er ook specifiek beleid
en coördinatie voor AI. De afgelopen jaren is er een basis voor een integrale aanpak
door de overheid gelegd met het Strategisch Actieplan voor AI (SAPAI). Hierin is voor
de eerste keer een gezamenlijke inzet van de overheid geformuleerd, die is gericht
op het benutten van de maatschappelijke en economische kansen van AI en het borgen
van publieke belangen.4 Hier wordt al op verschillende manieren werk van gemaakt. Zo is in 2019 met een brede
groep maatschappelijke belanghebbenden een publiek-privaat samenwerkingsverband opgericht,
de Nederlandse AI Coalitie (NL AIC). In deze coalitie werken maatschappelijke organisaties,
onderwijs- en onderzoeksinstellingen, bedrijfsleven en overheden samen om AI-ontwikkelingen
in Nederland te versnellen en AI-initiatieven in Nederland met elkaar te verbinden.
Om Nederland als voorop te kunnen lopen in de ontwikkeling van mensgerichte AI hebben
er ook verschillende investeringen plaatsgevonden, onder andere via het Nationaal
Groeifonds in het AiNed programma voor onderzoek en innovatie.5

Zoals uit de uitgebreide reactie op de aanbevelingen hierna (zie bijlage) blijkt,
wordt er ook al het nodige gedaan voor de vijf opgaven voor AI. Zo vindt demystificatie plaats in de vorm van het op allerlei manieren vergroten van digivaardigheden en
kennis, zowel in de samenleving als binnen de overheid. Het bevorderen van de juiste
omgeving om AI te laten floreren (contextualisering) en het betrekken van de samenleving bij deze ontwikkeling (engagement) gebeurt met name via publiek-private samenwerkingsverbanden om verschillende sectoren
te ondersteunen bij de toepassing van AI in hun specifieke context. Regulering van AI en vraagstukken die daarmee samenhangen, zoals rond data, vindt vooral op Europees
niveau plaats. Nederland draagt bij aan de totstandkoming van EU wet- en regelgeving
die zorgt voor een gelijk speelveld en die zowel zorgt voor het benutten van de kansen
van digitalisering als grondrechten en publieke waarden versterkt. Daarbij is aandacht
voor de praktische uitvoerbaarheid. Een voorbeeld hiervan is de AI-verordening die
onder andere AI-systemen met een hoog risico voor mensenrechten, gezondheid en veiligheid
reguleert. De AI-verordening legt de basis voor een interne markt voor AI met een
gelijk speelveld voor ondernemers en regels om risico’s tegen te gaan. Nederland zet
zich hierbij in voor duidelijke kaders voor verantwoord gebruik van AI en ruimte voor
ondernemers om te innoveren.6 Verder is er EU wetgeving in de maak die de basis legt voor nieuwe verhoudingen op
de digitale markt door de controle van gebruikers over hun data te vergroten en door
grote technologiebedrijven meer verantwoordelijkheden op te leggen en aan meer controle
te onderwerpen. Met de totstandkoming van een AI-verdrag binnen de Raad van Europa
zal de bescherming van democratie, rechtsstaat en mensenrechten nog verder worden
verstevigd. Internationale positionering van Nederland vindt daarenboven ook plaats door bilaterale en multilaterale samenwerking
en door onze open strategische autonomie te versterken, zoveel mogelijk in samenwerking
met EU-partners en gelijkgestemde derde landen.

AI in de samenleving

Met deze stappen zijn we er echter nog niet. Om goed voorbereid de overstap te maken
naar een samenleving waarin AI een belangrijke rol speelt, moet er meer worden gedaan.
Zoals toegelicht in de verzamelbrief publieke controle op algoritmen en de kabinetsreactie
op het Rathenau-onderzoek «Algoritmes Afwegen» neemt het kabinet de komende tijd een
aantal maatregelen.

Bij deze maatregelen staat het vergroten van transparantie centraal. Om meer kennis
op te doen over de werking en de impact van AI, zal het kabinet, in lijn met de aanbeveling
van de WRR voor de opgave demystificatie voor overheidsorganisaties het opstellen
van een algoritmeregister verplicht stellen. Het algoritmeregister bevat in ieder
geval hoog-risico algoritmes. Om het algoritmeregister zo in te richten dat het beheer
daarvan haalbaar is voor de uitvoering, zal een uitvoeringstoets worden uitgevoerd.
De betrokken organisaties zijn gevraagd om de algoritmes die de afgelopen tijd zijn
doorgelicht zoveel mogelijk voor het eind van het jaar in het register te publiceren.
Het kabinet wil verder in overleg met overheden komen tot een eenduidige registratie
van algoritmen. Het kabinet gaat daarnaast, in aansluiting op de aanbeveling over
demystificatie, middels investeringen in 2022–2026 van 2 miljoen euro per jaar, de
digitale kennis en vaardigheden (digivaardigheid) van mensen vergroten, zodat iedereen
kritisch kan nadenken over de voor- en nadelen van AI en (zo veel mogelijk zelfstandig)
mee kan doen in de digitale samenleving.7 Ook zal er een jaarlijkse monitoring plaatsvinden waarin aspecten als digivaardigheid,
mediawijsheid en kennis van technologie worden meegenomen.

De overheid dient het goede voorbeeld te geven als het gaat om de inzet van mensgerichte
en verantwoorde AI. Er bestaan op dit gebied diverse richtlijnen en handreikingen,
die meer gestroomlijnd worden in het implementatiekader «inzet van algoritmes» zodat
het duidelijk is welke eisen gelden voor overheidsorganisaties als zij algoritmen,
waaronder AI, inzetten. Het kabinet wil dit vorm gaan geven door middel van een implementatiekader
dat voor alle overheidsorganisaties aangeeft welke waarborgen in acht moeten worden
genomen bij de inzet van algoritmen. Om ervoor te zorgen dat het implementatiekader
zo uitvoerbaar mogelijk is, zal ten aanzien van het kader een uitvoeringstoets plaatsvinden.

Een ander element dat versteviging behoeft is het toezicht op algoritmen en AI. Bijna
alle toezichthouders hebben in hun toezichtsdomein met AI te maken. Stevig toezicht
is onmisbaar om ervoor te zorgen dat de nodige waarborgen in acht worden genomen,
waardoor de grondrechten en publieke waarden worden beschermd. Bij een gebied dat
zich in snel tempo ontwikkelt zoals AI, spelen toezichthouders ook een belangrijke
rol bij het signaleren van knelpunten tussen de wet- en regelgeving en de praktijk.
Het kabinet investeert daarom in een algoritmetoezichthouder die in de loop van 2023
zal worden ingericht. Ten aanzien van nieuwe toezichtstaken die hieruit voortvloeien
zal een uitvoeringstoets worden uitgevoerd. Ook wordt het budget van de Autoriteit
Persoonsgegevens structureel verhoogd om het toezicht op de naleving van de AVG in
het digitale domein te ondersteunen.

In de bijlage gaat het kabinet verder in op de aanbevelingen van de WRR. Daarin wordt
duidelijk gemaakt wat de overheid op dit moment al doet op het gebied van AI, en waar
het kabinet van plan is om meer, minder of dingen anders te doen.

Vervolg

Om de ambities uit het coalitieakkoord op het terrein van digitalisering te realiseren
zal, zoals toegezegd door de Staatssecretaris Koninkrijksrelaties en Digitalisering
een werkagenda digitalisering verschijnen.

Daarnaast zal de Minister van Economische Zaken en Klimaat voor de digitale economie
een strategie uitwerken. Hierin zal het kabinet ook ingaan op het belang van AI en
de vraag hoe het kabinet de kansen en risico’s van AI zal adresseren.

De Minister van Economische Zaken en Klimaat,
M.A.M. Adriaansens

De Staatssecretaris voor Koninkrijksrelaties en Digitalisering, Alexandra C. van Huffelen

De Minister van Justitie en Veiligheid,
D. Yeşilgöz-Zegerius

De Minister voor Rechtsbescherming,
F.M. Weerwind

De Minister van Buitenlandse Zaken,
W.B. Hoekstra

De Minister voor Buitenlandse Handel en Ontwikkelingssamenwerking,
E.N.A.J. Schreinemacher