Brief regering : Kabinetsreactie op de Rapportage AI & Algoritmerisico’s Nederland van de Autoriteit Persoonsgegevens

Nr. 1382
BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 augustus 2025

Uw vaste kamercommissie voor Digitale Zaken heeft in de procedurevergadering van 23 april
2025 mij verzocht om een kabinetsreactie aan de Kamer te doen toekomen op de Rapportage
AI & Algoritmerisico’s Nederland (RAN 4) van 12 februari 2025 van de Autoriteit Persoonsgegevens
(AP). Met deze brief ga ik in op dit verzoek.

Algemeen

Vooropgesteld wil ik allereerst de AP via deze weg danken voor deze vierde periodieke
rapportage met inzichten in de risico’s en effecten van AI & algoritmes in Nederland.
Ook dit demissionaire kabinet zal zich onverminderd sterk maken voor de verantwoorde
inzet van AI & algoritmes.

Op 4 juli jl. is de Nederlandse Digitaliseringsstrategie (NDS) naar de Tweede Kamer
gestuurd en gepubliceerd.1 Een belangrijke pijler van de NDS is AI. AI neemt een hoge vlucht, met kansen, maar
brengt ook nieuwe risico’s en incidenten mee, zoals ook de AP terecht aangeeft. We
omarmen deze systeemtechnologie daarom zonder naïviteit: AI zal een blijvende en transformerende
rol spelen. We verzilveren als één overheid de kansen en zorgen voor de verantwoorde
inzet van AI en algoritmes, zodat transparantie, veiligheid en democratische controle
geregeld zijn en we ook in een krappe arbeidsmarkt onze dienstverlening op niveau
kunnen houden. En eerder dit jaar, op 22 april, bood mijn ambtsvoorganger uw Kamer
het overheidsbrede standpunt op Generatieve AI aan.2 Een herijking van het voorlopige standpunt van december 2023 waar een advies van
de AP mede aan ten grondslag lag.3

Reactie op de algemene conclusies van het rapport

A) De AP concludeert dat er door de Nederlandse overheid goede stappen zijn gezet in
het beheersen van AI (Artificiële intelligentie) en algoritmerisico’s met AI/algoritmekaders
en -registraties. Volgens de AP is de voortgang in AI- en algoritmeregistratie nog
onvoldoende, waardoor adequaat zicht ontbreekt op de hogere risicovolle toepassingen.
De grip op met name AI moet versterkt worden, gelet op de snelle ontwikkelingen van
deze technologie en nieuwe zorgen die dat met zich meebrengt. De AP benoemt recente
nieuwe incidenten in binnen- en buitenland die raken aan meerdere toepassingsgebieden
die onder de AI-verordening gereguleerd gaan worden. De AP raadt aan om de Europese
standaarden uit de AI-verordening mee te nemen bij de verdere ontwikkeling van het
Algoritmekader. Deze standaarden worden momenteel nog ontwikkeld vanuit de EU en zullen
helpen voldoen aan de vereisten voor systemen met een hoog risico’s.

Reactie

Ik ben verheugd dat de AP de AI/algoritmekaders en -registraties als een goede stap
ziet in de richting van verantwoorde inzet van AI binnen de overheid. Ook steunt de
AP het brede karakter van het algoritmekader, dat verschillende vereisten uit wetgeving
en geadviseerde maatregelen aan elkaar verbindt. Het aandachtspunt voor de doorontwikkeling
rondom Europese standaarden neem ik ter harte en zal helpen te voldoen aan de vereisten
voor systemen met een hoog risico. In het verlengde hiervan wil ik de inzet, ontwikkeling
en inkoop van AI in een overheidscontext eenduidiger kunnen toetsen door waar mogelijk
gezamenlijke (auditeerbare) normen voor AI-gebruik vast te stellen. In het kader van
de NDS wordt dit verder doorontwikkeld.

De rapportage van de AP bevestigt dat het aantal registraties in het Algoritmeregister
snel toeneemt, maar ook dat er nog een weg te gaan is. Als Nederlandse overheid zijn
we een van de eerste landen met een dergelijk register. Met Rijksoverheidsorganisaties
is afgesproken dat zij in ieder geval alle hoog-risico AI-systemen (categorie A in
de handreiking Algoritmeregister4) voor het einde van dit jaar registreren in het Algoritmeregister.5 Daarnaast hebben de departementen uw Kamer recentelijk planningsbrieven gestuurd
over hoe zij impactvolle algoritmen (categorie B) zullen opnemen.6 Daarnaast verken ik of het verplicht stellen van registraties een gewenste stap is.

B) De AP gaat uitgebreid in op de meest recente ontwikkeling van AI-chatbots voor virtuele
vriendschappen en therapeutische relaties. De AP constateert dat wereldwijd het aanbod
en gebruik van AI-chatbotapps groeit. De mogelijke afhankelijkheidsrelatie die gebruikers
opbouwen met- en de verkeerde inzet van chatbots kunnen zorgen voor grote risico’s.
De AP concludeert dat deze chatbots over het algemeen onvoldoende transparant, onvoldoende
betrouwbaar, en risicovol zijn in crisissituaties. De AP pleit voor meer onderzoek
naar de risico’s, beperkingen en kansen van chatbots voor therapeutische begeleiding
in mentale gezondheidszorg. Ook is het van belang dat AI-gegenereerde content of interacties
ook als zodanig te herkennen zijn voor de gebruikers.

Reactie

De chatbots zullen zich moeten verhouden tot de AI-verordening, die afdwingbare eisen
stelt voor transparante AI-modellen. Ontwikkelaars van AI-modellen voor algemene doeleinden
zijn verplicht om technische documentatie over het model op te stellen en beschikbaar
te houden voor toezichthouders en om informatie op te stellen voor ontwikkelaars die
het AI-model in hun eigen AI-systeem willen integreren.7 Deze verplichtingen gaan in vanaf 2 augustus 2025. De AI-verordening introduceert
vanaf augustus 2026 ook transparantieverplichtingen voor bepaalde AI-systemen, waaronder
voor generatieve AI-systemen zoals chatbots.8 Zo moet de gegenereerde content duidelijk gemarkeerd worden als kunstmatig gegenereerde
of gemanipuleerde content. Op EU-niveau wordt nu gewerkt aan de normen ten aanzien
van transparantie van gebruikte gegevens in modellen en om toepassingen verder te
verduidelijken.

Daarnaast zijn, zo stelt de AP terecht vast, de privacy risico’s groot omdat mensen
geneigd zijn en uitgenodigd worden om zeer persoonlijke informatie te delen met een
chatbot. Als de overheid besluit generatieve AI-modellen en/of applicaties zoals AI-chatbots
te ontwikkelen en/of te gebruiken dan is het belangrijk over de inkoopvoorwaarden
duidelijk te zijn. In de inkoopvoorwaarden kunnen namelijk belangrijke afspraken worden
vastgelegd over effectiviteit en betrouwbaarheid, het veilige gebruik van data (privacy,
beveiliging) en zoveel mogelijk transparantie van gebruikte gegevens in modellen.

In het zorgdomein wordt ingezet op verantwoorde AI-ontwikkeling en -gebruik. Het Ministerie
van Volksgezondheid, Welzijn en Sport (VWS) draagt bij aan het actief identificeren
van kansen en uitdagingen voor de opschaling van AI in de zorg. Als het gaat om het
pleidooi van de AP om meer onderzoek te doen naar de risico’s en implicaties van chatbots
op bijvoorbeeld effectiviteit/ betrouwbaarheid en op (verslavings)gedrag, dan kan
ik u melden dat er momenteel niet specifiek voor therapeutische begeleiding in mentale
gezondheidszorg onderzoek wordt gedaan. Wel komen kansen en uitdagingen terug in verschillende
rapportages en analyses.9 Daarnaast bundelt een groep toonaangevende zorginstellingen haar krachten om de inzet
van generatieve AI in de zorg op een verantwoorde manier te versnellen. VWS heeft
ingezet op een subsidieverstrekking aan ZonMW (ZonMw programmeert en financiert onderzoek
en vernieuwing in gezondheid, zorg en welzijn) om in te zetten op de validatie van
taalmodellen. Dit is momenteel in volle gang, het consortium RIGH:T10 is hiermee bezig.11

C) Voorts stelt de AP vast dat uit de praktijk blijkt dat voor een goede beheersing van
AI-systemen in overheidsorganisaties een meer alomvattende open en verantwoorde aanpak
nodig is, die verder gaat dan de focus op een specifieke wet- en regelgeving, maar
uitgaat van een meer holistische benadering voor cross-sectorale regelgeving of samenloop
van regelgeving en andere kaders. Organisaties met een voldoende mate van volwassenheid
weten regie te nemen en de kansen voor positieve inzet en bloeiende innovatie te omarmen.
Het is bijvoorbeeld belangrijk dat ambtenaren en burgers ook weten wat AI precies
doet en dat ze daarbij de juiste vragen kunnen stellen en/of en tijdig gebreken herkennen
om AI desgewenst te verbeteren. Bij de inzet van algoritmes en AI is steeds meer sprake
van een AI-keten. Dit vraagt om een samenspel van systemen en organisaties die op
elkaar voortbouwen concludeert de AP. Dit zijn complexe rollen waarbij het delen van
informatie in de keten is nodig om te komen tot een goede samenwerking en een passende
verantwoordelijkheidsverdeling.

Reactie

Ik ben het ermee eens dat voor een goede beheersing van risico’s een meer alomvattende,
open en verantwoorde aanpak nodig is en daar werk ik ook aan. AI heeft in de recente
jaren een enorme vlucht genomen. De omarming en inpassing daarvan gaat met vallen
en opstaan. Nieuwsgierige medewerkers in organisaties hebben de impact van AI geagendeerd
en ermee geëxperimenteerd, weerstanden worden overwonnen, het gebruik begint te normaliseren,
fouten ontstaan en er zijn nieuwe regels. Een volwaardige en verantwoorde inzet van
AI waarbij de mogelijkheden worden benut en de risico’s vermeden of gemitigeerd, vraagt
om verdere professionalisering van organisaties op dit punt. Een volwassenheidsmodel,
zoals de AP benoemt, is een nuttig handvat daarbij. In het Algoritmekader12 voor overheden heb ik dan ook enkele voorbeelden van een volwassenheidsmodel opgenomen.
Deze raken ook aan de eerste aanzet die de AP heeft gedaan voor een meerjarig actieplan
om AI-geletterdheid binnen organisaties te bevorderen, waarvoor ik de AP erkentelijk
ben. Terecht stelt de AP dat AI-geletterdheid belangrijk is, omdat het ons in staat
stelt, in de verschillende rollen die we hebben, om met kritisch inzicht naar AI te
kijken. Op verschillende manieren wordt gewerkt aan het bewerkstellingen van meer
AI-vaardigheden van ambtenaren. Zo wordt binnen het programma digitaal vakmanschap
ingezet op het versterken van digitale vaardigheden van ambtenaren, waaronder AI-
en datavaardigheden. Generatieve AI is hierbij een expliciet onderdeel. In het programma
worden zowel de technische als juridische aspecten van generatieve AI meegenomen,
voor zover dit noodzakelijk is voor het goed uitvoeren van het werk. Om de digitale
kennis te verbeteren is de Rijksacademie voor Digitalisering en Informatisering Overheid
(RADIO) opgericht. Zij biedt bijvoorbeeld een basiscursus aan over de kansen en risico's
van generatieve AI voor overheidsambtenaren. Verder zal er in het kader van de NDS
actief worden ingezet op AI-geletterdheid en wordt dit vraagstuk overheidsbreed opgepakt.

D) De toezichthouders intensiveren de voorbereidingen op de AI-verordening en de inbedding
daarvan in Nederland, stelt de AP vast. Dat doen toezichthouders door uitleg te geven
hoe organisaties aan de eisen kunnen voldoen. Dit proces loopt nog. De AP stelt vast
dat bedrijven en overheidsorganisaties aan het inspelen zijn op de nieuwe vereisten.

Reactie

Sinds de inwerkingtreding van de Europese AI Verordening op 1 augustus 2024, heeft
de Europese Commissie twee officiële richtlijnen gepubliceerd: over de definitie van
een AI-systeem en over verboden AI-praktijken, beide gepubliceerd in februari 2025.
Deze richtsnoeren zijn bedoeld om stakeholders te ondersteunen bij het interpreteren
van de wet. Ze dienen gezien te worden als niet bindende, levende documenten. Zoals
ook de AP vaststelt, zijn bedrijven en overheidsorganisaties al aan het inspelen op
deze nieuwe vereisten.

Eind 2024 brachten de Rijksinspectie Digitale Infrastructuur (RDI) en de AP een advies
uit over de inrichting van het toezicht op de AI-verordening in Nederland, in opdracht
van de ministeries van EZ, BZK en JenV.13 Momenteel bereidt het kabinet de inrichting van dit toezicht voor. Hierover zal uw
Kamer in het najaar van 2025 nader worden geïnformeerd. Op basis van de uitvoeringswet
– die eveneens in voorbereiding is – zullen de betrokken toezichthouders uitvoerbaarheidstoetsen
uitvoeren om in kaart te brengen wat de financiële consequenties van deze (nieuwe)
toezichtstaken zijn.

Tot slot

Het demissionaire kabinet blijft zich onverminderd inzetten om grip te krijgen op
algoritmes en AI en om de belangrijkste zorgen die in de samenleving spelen met name
rond de nieuwste AI-ontwikkelingen, op te pakken. De periodieke rapporten van de AP
zijn een goede graadmeter en de uitkomsten stellen het kabinet in staat om daar waar
nodig, het beleid aan te scherpen.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
E. van Marum