Antwoord schriftelijke vragen : Antwoord op vragen van de leden Dekker-Abdulaziz en Van Meenen over de ontwikkelingen op het gebied van kunstmatige intelligentie

Antwoord van Staatssecretaris Van Huffelen (Binnenlandse Zaken en Koninkrijksrelaties)
en Minister Adriaansens (Economische Zaken en Klimaat), mede namens de Ministers van
Sociale Zaken en Werkgelegenheid, voor Primair en Voortgezet Onderwijs en van Onderwijs,
Cultuur en Wetenschap (ontvangen 13 maart 2023). Zie ook Aanhangsel Handelingen, vergaderjaar
2022–2023, nr.
1472.

Vraag 1

Bent u bekend met de berichten «Natuurlijk gebruiken leerlingen ChatGPT. Het onderwijs
kan maar beter anticiperen op de robots»1 (Volkskrant, 16 januari 2023) en «ChatGPT glipt langs docenten: «Ik gebruik het om
snel huiswerk te maken»»2 (NOS, 16 januari 2023)? Zo ja, hoe beoordeelt u de desbetreffende berichten?

Antwoord 1

Ja, we zijn bekend met deze berichten. Wat deze ontwikkelingen uiteindelijk voor het
onderwijs gaan betekenen weten we nu nog niet zeker. Wat we wel weten, is dat sommige
docenten zich nu geconfronteerd zien met de risico’s van deze recente ontwikkelingen
op het gebied van artificiële intelligentie (AI) en zich daarover zorgen maken. Die
zorgen begrijpen wij. Ook zijn er docenten die kansen zien om met AI hun onderwijs
te verbeteren. Er is veel behoefte aan een gesprek over de impact van AI op het onderwijs.
Van onderwijsinstellingen vraagt dit om te doordenken hoe zij vanuit hun visie op
goed onderwijs dit binnen hun instellingen willen vormgeven. Zij worden hierbij ondersteund
door Kennisnet en SURF, die webinars en artikelen aanbieden.

Het is belangrijk om te vermelden dat het onderwijs niet stil staat. De inzet van
AI en in bredere zin digitalisering is al langer een belangrijk thema in het onderwijs.
Dit zien we terug in goede initiatieven zoals de programma’s Doorpakken op Digitalisering
en het Versnellingsplan. Ook in de komende tijd blijft het onderwijs hier aandacht
aan besteden. Vanuit OCW wordt in 2023 een expertisepunt voor digitale geletterdheid
opgericht als centraal online informatiepunt, loket voor scholen en als ondersteuningsstructuur
waar leraren, schoolleiders en bestuurders terecht kunnen voor hulp en informatie
over digitale geletterdheid. Hierover zijn we op dit moment in gesprek.

AI is echter niet de eerste technologie die zijn intrede doet in het onderwijs die
een impact achterlaat. Zo hadden de rekenmachine en computers bijvoorbeeld ook veel
gevolgen, maar worden deze nu veelvuldig gebruikt in de klas. AI kan het onderwijs
verbeteren door het leren motiverender te maken, het onderwijs beter af te stemmen
op de behoefte van de lerende en docenten te ondersteunen.

Vraag 2

Wat vindt u van de recente ontwikkelingen rondom kunstmatige intelligentie en in het
bijzonder ChatGPT? Deelt u de zorgen van de vragenstellers over de gevolgen ervan
op het onderwijs?

Antwoord 2

Zoals aangegeven bij vraag 1 geldt dat we nog niet weten wat AI uiteindelijk gaat
betekenen voor het onderwijs. Wij begrijpen zowel de kansen als de risico’s die vanuit
het onderwijs worden genoemd.

Het kabinet ziet aan de ene kant de positieve waarde van generatieve AI, waar ChatGPT
een voorbeeld van is. Zo hebben deze systemen de potentie om efficiëntie en productiviteit
te verbeteren. ChatGPT kan bijvoorbeeld teksten schrijven makkelijker maken, en kan
zelfs bijdragen bij programmeren. Individuen zijn er ook relatief makkelijk mee in
staat tekst te genereren voor doeleinden als vermaak of taalverwerving. Naast ChatGPT
zijn afbeeldingen gegenereerd door AI, zoals wordt gedaan door DALL-E, daar een goed
voorbeeld van.

Het kabinet ziet anderzijds ook diverse negatieve effecten van generatieve AI en deelt
de zorgen van de vragenstellers. AI kan bijvoorbeeld leiden tot biases, waardoor groepen
leerlingen en studenten om onterechte redenen benadeeld kunnen worden3, 4. Ook kunnen AI-toepassingen als ChatGPT ingezet worden door lerenden om fraude te
plegen bij schrijfopdrachten. Zoals aangegeven bij het antwoord op vraag 3, vraagt
dit van het onderwijs om goed te doordenken hoe zij het onderwijs organiseren. ChatGPT
is weliswaar in staat om in een handomdraai een toelichtende tekst te genereren over
een onderwerp, maar het kan geen betekenis of context afleiden uit deze tekst. Daarom
zullen vaardigheden als kritisch lezen, het kritisch analyseren en in context plaatsen
van teksten, en het toepassen van opgedane kennis nog belangrijker worden in de nabije
toekomst.

ChatGPT kan ook op andere wijzen en in andere domeinen negatieve effecten hebben.
Deze effecten kunnen voortkomen uit de werking van de tool, waar het ondanks ingebouwde
waarborgen mogelijk is om bevooroordeelde of discriminerende antwoorden te krijgen.
Generatieve AI zoals ChatGPT kan ook gebruikt worden voor schadelijke doeleinden.
Zoals het makkelijker maken van desinformatie en phishing. Bovengenoemde effecten
omvatten niet alle zorgen die er zijn, en niet alle gevolgen zijn op dit moment al
goed te overzien, zoals ook de WRR in het algemeen over AI schrijft in het rapport
‘Opgave AI. De Nieuwe systeemtechnologie’5.

Naast de ontwikkelingen in het onderwijs houdt het kabinet de algemene ontwikkelingen
rond ChatGPT en dit soort breed toepasbare AI nauwlettend in de gaten. Waar bestaande
kaders en maatregelen onvoldoende blijken, zullen we kijken naar wat eventueel aanvullend
nodig is.

Vraag 3

Welke handvaten hebben leraren en scholen om om te gaan met kunstmatige intelligentie?

Antwoord 3

De ontwikkeling van AI vraagt van zowel docenten als leerlingen om op een doordachte
manier met deze technologie in het onderwijs om te leren gaan. Daarbij is het belangrijk
dat scholieren, leraren en de brede maatschappij in gesprek blijven over het gebruik
van AI in de klas. Van docenten vraagt dit ook meer op het gebied van didactische
en digitale vaardigheden. OCW draagt hieraan bij door het inrichten van een expertisepunt
voor digitale geletterdheid in 2023 waar leraren, schoolleiders en bestuurders terecht
kunnen voor hulp en informatie over digitale geletterdheid. Van onderwijsinstellingen
vraagt dit om te doordenken hoe zij vanuit hun visie op goed onderwijs dit binnen
hun instellingen willen vormgeven. Zij worden hierbij ondersteund door Kennisnet en
SURF, die webinars en artikelen aanbieden.

Vraag 4 en 5

Hoe voorkomen we negatieve effecten op de kwaliteit van het onderwijs?

Welke stappen gaat u zetten om negatieve effecten te voorkomen en scholen te ondersteunen?
En welke positieve gevolgen en kansen voor het onderwijs ziet u?

Antwoord 4 en 5

Wij nemen hiervoor verschillende stappen. Wij zullen in de beleidsreactie op het rapport
«Naar hoogwaardig digitaal onderwijs» van het Rathenau Instituut en de verkenning
«Inzet van intelligente technologie» van de Onderwijsraad nader ingaan op onze visie
op AI in het onderwijs en hoe we de kansen die AI biedt voor beter onderwijs op een
veilige en verantwoorde manier kunnen benutten. Daarnaast heeft de Europese Commissie
recent een handreiking gepubliceerd voor leerkrachten over hoe om te gaan met AI en
data6.

Met behulp van het Nationaal Groeifonds investeren wij substantieel in het realiseren
van digitale innovaties die het onderwijs verder helpen, met oog voor de risico’s.
Er is € 80 miljoen beschikbaar voor het Nationaal Onderwijslab AI (NOLAI) tot 2035.
In het NOLAI werken scholen, wetenschappers en bedrijven samen aan de ontwikkeling
en evaluatie van verantwoorde en veilige digitale innovaties die tegemoet komen aan
de behoeftes in het funderend onderwijs. In co-creatie projecten werken zij aan een
goede inzet van AI in het onderwijs, vanuit een pedagogisch en didactisch verantwoorde
basis, met oog voor risico’s als privacy en autonomie van leerlingen en leraren. Zoals
blijkt uit de haalbaarheidsstudie van NOLAI kan AI onderwijs op maat ondersteunen,
de competentie en autonomie van leerlingen bevorderen, hun digitale geletterdheid
vergroten en de werkdruk van leraren verminderen.

Met behulp van het Groeifondsprogramma digitaliseringsimpuls investeren we ook substantieel
in de digitalisering van het mbo en ho. Onderdeel van dit programma is de transformatiehub
docentondersteuning. Het doel van deze transformatiehub is om docenten evidence-informed
te ondersteunen en te professionaliseren, zodat zij over de juiste kennis en vaardigheden
beschikken om de ontwikkelingen op het gebied van digitalisering (waaronder AI) bij
te houden. Een ander belangrijk onderdeel van het programma zijn de Centers for Teaching
and Learning (CTL). De CTL zorgen ervoor dat nationale ontwikkelingen – zoals wetenschappelijke
kennis en de bouw van nationale ICT-infrastructuren – doorgeleid worden naar de instellingen.
Daarnaast ondersteunen de CTL docenten bij digitaliseringsvraagstukken.

Uiteraard blijven wij in gesprek met het onderwijsveld over de impact van AI op het
onderwijs en houden we de ontwikkelingen nauwlettend in de gaten. Zo hebben Kennisnet,
de PO-Raad en de VO-raad een monitor ontwikkeld, MYRA, die scholen inzicht geeft in
hoe zij ervoor staan op het gebied van technologie en digitalisering. Bewustwording
over AI vormt daar één van de onderdelen van, waaronder het gebruik van chatbots in
de klas en computational thinking.

Vraag 6

Bent u bekend met het bericht: «We gaan een interessant jaar rondom AI-ontwikkeling
tegemoet»7 (Dutch IT Channel) van 7 januari? Zo ja, bent u het ermee eens dat 2023 een cruciaal jaar wordt
voor kunstmatige intelligentie en het ethische gebruik daarvan door bedrijven?

Antwoord 6

Ja we zijn ben bekend met de berichten. De ontwikkelingen op het gebied van AI volgen
elkaar snel op. Dit is ook door de WRR benadrukt in hun rapport «Opgave AI».

Gezien het toenemende mondiale gebruik van AI, is het ook voor het Nederlandse bedrijfsleven
van groot belang dat zij inspeelt op nieuwe technologische mogelijkheden. Dit is niet
alleen relevant voor onze concurrentiepositie en welvaart maar ook voor de aanpak
van grote uitdagingen zoals de klimaattransitie, verduurzaming van de landbouw en
personeelstekorten in de zorg en het onderwijs.

In het Nederlandse bedrijfsleven is al langer aandacht voor de mogelijkheden van AI.
Gemiddeld 13% van het Nederlandse bedrijfsleven zet AI in, ten opzichte van gemiddeld
8% in het Europese bedrijfsleven.8 AI-toepassingen worden door snelle

ontwikkelingen op het gebied van analytics en machine learning steeds interessanter
voor bedrijven.

Om ervoor te zorgen dat het gebruik van AI door bedrijven op een ethische manier plaatsvindt,
is de aanpak van het kabinet gericht op de ontwikkeling van mensgerichte AI. Deze
AI moet veilig zijn, transparant en met respect voor fundamentele rechten. Via het
investeringsprogramma AiNed wordt er bijna 230 miljoen euro voor AI kennis, innovatie
en talent vrijgemaakt. Onder andere de zogenaamde ELSA labs (ethical, legal, societal
aspects)

verrichten onderzoek op het gebied van mensgerichte AI en helpen bedrijven bij de
toepassing.

Vraag 7

Welke nieuwe kansen en bedreigingen voorziet u voor bedrijven op het gebied van kunstmatige
intelligentie naar aanleiding van de meest recente ontwikkelingen? Is de huidige inzet
nog actueel in het ondersteunen van bedrijven in het gebruik van kunstmatige intelligentie
voor innovatie, verduurzaming en diens productieprocessen?

Antwoord 7

Zie ook de beantwoording op vraag 6 met betrekking tot de kansen voor bedrijven. Nederland
staat klaar om in te spelen op de kansen van AI. Aan de ene kant biedt AI kansen voor
de aanpak van grote uitdagingen zoals de kilmaattransitie, verduurzaming van de landbouw
en personeelstekorten in de zorg en het onderwijs. Daarnaast kan AI onze concurrentiepositie
versterken en welvaart vergroten. AI kan voor een economische groei van 1,4 procent
van het bbp per jaar zorgen als we de ontwikkeling en het gebruik van AI op grote
schaal weten te adopteren.9

In de Strategie Digitale Economie10 zetten we uiteen hoe we het huidige fundament kunnen versterken en daarmee de kansen
van AI zo goed mogelijk kunnen benutten. Het is belangrijk dat we blijven investeren
in AI zelf en de randvoorwaarden voor de ontwikkeling en het gebruik van deze systemen.
Hiermee voorkomen we ook dat we als Nederland te afhankelijk worden van grote technologiebedrijven
van buiten de Europese Unie.

Een eerste belangrijke randvoorwaarde waar Nederland al een goede uitgangspositie
heeft, is een goed opgeleide beroepsbevolking en internationaal toonaangevende kennisinstellingen.
Het kabinet zet zich ervoor in om deze positie te behouden en waar nodig te versterken.11 Het AiNed programma focust zich onder andere op de arbeidsmarkt en zet zich in om
de capaciteit voor AI opleidingen en trainingen van werknemers te verhogen. Ook werkt
de Nederlandse AI Coalitie (NL AIC) aan het (bij)scholen van werknemers via gratis
AI-cursussen met certificering. Daarnaast investeert het kabinet in het versterken
van digitale vaardigheden in het algemeen, onder andere via het Actieplan Groene en
Digitale Banen.

Een andere belangrijke voorwaarde voor een tech-ecosysteem is de beschikbaarheid van
een goede digitale infrastructuur. Nederland beschikt al over een betrouwbare, hoogwaardige
digitale infrastructuur en het kabinet heeft dan ook de ambitie om deze positie te
behouden en verder te versterken.

Daarnaast bestaat er in Nederland al een sterke Publiek-Private Samenwerking op AI.
De NL AIC speelt een belangrijke rol als facilitator van Publiek-Private Samenwerking
(PPS). Kennis wordt daar ontwikkeld en gedeeld, ook naar het MKB. Deze samenwerking
vindt onder andere plaats met de Regionale Ontwikkelingsmaatschappijen. Onder de NL
AIC vallen verschillende werkgroepen die ook sectorale kennis met elkaar delen. Om
praktische oplossingen te ontwikkelen voor toepassing van mensgerichte AI door organisaties,
zijn er door de NL AIC 22 ELSA labs georganiseerd. Dit stimuleert de mensgerichte
toepassing van AI in sectoren als de zorg of bij de energietransitie.

Het kabinet heeft de ambitie om het gebruik van geavanceerde digitale technologieën
(waaronder AI) binnen het MKB te verhogen tot tenminste 75% in 2030. Dit gebeurt onder
andere via bredere programma’s, waaronder de Versnelling Digitalisering MKB en Smart
Industry. Ook worden er Europese Digitale Innovatiehubs (EDIHs) opgericht die het
MKB ondersteunen om digitale technologieën, waaronder AI, als gebruikers toe te passen.

Naast het stimuleren van het gebruik van AI, zet het kabinet zich ook in om de ontwikkeling
van deze systemen in Nederland te bevorderen. Nederland neemt deel aan Europese Test-
en experimenteerfaciliteiten waarin een goede infrastructuur wordt geboden voor het
ontwikkelen en gebruik van AI voor specifieke sectoren. Ook gaat het kabinet ontwikkelaars
ondersteunen in het voldoen aan regelgeving, zoals de aankomende AI-verordening, via
regulatory sandboxes.

Het kabinet blijft zich ervoor inzetten dat de kansen van AI op een verantwoordelijke
manier zo goed mogelijk benut kunnen worden, met name bij grote maatschappelijke opgaven
zoals de energietransitie en in innovatieve sectoren zoals de maakindustrie.

Vraag 8 en 9

Op welke wijze heeft u de impact van kunstmatige intelligentie op de arbeidsmarkt
in kaart gebracht?

Bent u bereid dat met de Kamer te delen?

Antwoord 8 en 9

Zowel internationaal (o.a. OESO12, Eurofound13) als nationaal (o.a. CPB, TNO) doen meerdere partijen onderzoek naar de toepassingen
van AI in het arbeidsdomein. Deze onderzoeken richten zich bijvoorbeeld op monitoring
en surveillance op de werkvloer en op de effecten van de inzet van AI op gezond en
veilig werken.

Zo heeft het CPB recent het rapport «Technologie, de arbeidsmarkt en de rol van beleid»14 uitgebracht. Hierin worden de technologische veranderingen voor de Nederlandse arbeidsmarkt
geanalyseerd. In een samenwerking tussen TNO en RIVM wordt daarnaast gewerkt aan een
beeldvormende toekomstverkenning op het gebied van gezond en veilig werken. AI komt
daarin aan de orde. Daarnaast doet TNO op dit moment een ander onderzoek over wat
de mogelijke impact kan zijn van AI op het gebied van gezond en veilig werken. Het
College voor de Rechten van de Mens heeft tevens de risico’s en effecten van AI op
het gebied van discriminatie bij werving en selectie onderzocht en heeft enkele aanbevelingen
gedaan in hun onderzoek genaamd «Recruiter of computer?»15.

Als het gaat om de regulering van de toepassing van systemen voor AI wordt op EU-niveau
ingezet op de AI-verordening. Specifiek in het arbeidsrecht wordt een belangrijke
stap gezet met het richtlijnvoorstel van de Europese Commissie gericht op een verbetering
van arbeidsvoorwaarden in platformwerk. Het richtlijnvoorstel bevat, in aanvulling
op de Algemene Verordening Gegevensbescherming, o.a. regels over de toepassing van
algoritmes en zien op de transparantie over en het gebruik van geautomatiseerde monitoring-
en besluitvorming en de verplichting van menselijke tussenkomst.

Conform de met Uw Kamer gemaakte informatieafspraken wordt Uw Kamer regelmatig geïnformeerd
over de voortgang van de onderhandelingen over dit richtlijnvoorstel.

De ontwikkelingen gaan snel. Het kabinet acht het van belang om deze ontwikkelingen
goed te volgen. Het kabinet acht het van belang te bezien of de resultaten van onderzoeken
gericht op het in kaart brengen van zowel de kansen als uitdagingen rondom AI kunnen
worden meegenomen in de beleidsontwikkeling. Dit kan door nationale beleidsontwikkeling,
Europese standpuntbepaling en of regulering, al dan niet op Europees niveau. De Autoriteit
Persoonsgegevens heeft als coördinerend toezichthouder op de toepassing van algoritmes
ook een rol als het gaat om de toepassing van algoritmes in het arbeidsrecht.

Vraag 10

Kunt u dieper ingaan op de kansen en bedreigingen die kunstmatige intelligentie en
technologie zoals ChatGPT bieden voor de arbeidsmarkt?

Antwoord 10

ChatGPT geeft het volgende antwoord: «het effect van ChatGPT op de Nederlandse arbeidsmarkt
is momenteel onbekend omdat het model nog relatief nieuw is en nog niet op grote schaal
is toegepast. Het kan echter worden gebruikt in verschillende sectoren, zoals customer
service, waardoor het potentieel heeft om de efficiëntie en productiviteit te verhogen
en de kosten te verlagen. Dit kan leiden tot veranderingen in de arbeidsmarkt, zoals
automatisering van bepaalde taken en een grotere vraag naar vaardigheden die gericht
zijn op het werken met deze technologie.»

In het algemeen kan AI taken en processen optimaliseren, hierdoor kunnen bedrijven
efficiënter werken. Door AI kunnen banen en taken verdwijnen maar kunnen ook nieuwe
ontstaan. Daarvoor zijn nieuwe vaardigheden nodig. Digitale vaardigheden en gekwalificeerd
ICT-personeel zijn een belangrijke randvoorwaarde voor een succesvolle digitale transitie
en voor ons toekomstig verdienvermogen. Het is daarom belangrijk om technische, digitale
en sociale vaardigheden te verbeteren bij werkenden en te blijven investeren in Leven
Lang Ontwikkelen. Het kabinet heeft daarom, in samenwerking met sociale partners,
het Actieplan Groene en Digitale banen met de Kamer gedeeld.

Het effect van AI op de Nederlandse arbeidsmarkt zien we bijvoorbeeld bij platformwerk.
AI kan hierbij worden gebruikt om werkenden te matchen met klanten, tarieven te bepalen,
maar ook om werkenden aan te sturen. AI kan bijdragen aan het efficiënter en «slimmer»
maken van platformbedrijven. Bovendien liggen er kansen om de algoritmes, die platformen
gebruiken nadrukkelijker in lijn te brengen met overheidsbeleid onder andere op het
gebied van gezond en veilig werken. Op deze manier kunnen zowel de platforms, werkenden
als klanten profiteren. Maar het levert ook vragen op over onder andere algoritmisch
management, zoals of er wel of geen sprake is van gezagsuitoefening, en of werkenden
voldoende inzicht en inspraak hebben in de werking van deze algoritmes. Deze vraagstukken
zijn onderdeel van de het richtlijnvoorstel over platformwerk.

Het gebruik van AI bij o.a. werving en selectie kan discriminatie met zich meebrengen.
Als werkgevers kiezen voor de inzet van een algoritme bij werving en selectie, dan
dienen zij volgens het College voor de Rechten van de Mens te controleren of er nog
steeds een inzichtelijke, controleerbare en systematische procedure wordt gebruikt.16 Deze aanbevelingen worden meegenomen in de verdere uitwerking van het wetsvoorstel
toezicht gelijke kansen bij werving en selectie. Ook worden landelijke en Europese
ontwikkelingen op AI (en het tegengaan van de risico’s ervan) nauw gevolgd.

AI kan op veel manieren effect hebben op gezond en veilig werken. Een eenduidig effect
is daardoor niet te benoemen. Het gaat daarbij vaak om risico’s die al bestaan, maar
door de innovatieve technologie op een andere manier versterkt worden. Daarnaast is
nog niet alle beschikbare technologie ook daadwerkelijk wijdverbreid geïmplementeerd
op de werkvloer. AI heeft zeker de potentie om werk veiliger te maken. Er moet wel
aandacht komen voor mogelijke ongewenste effecten die zulke technologie kan hebben,
zoals bijvoorbeeld psychosociale belasting.

Vraag 11

Is het Strategisch Actieplan voor Artificiële Intelligentie bestendig genoeg gezien
de recente ontwikkelingen? Bent u bereid om de Nederlandse inzet op kunstmatige intelligentie
te herzien naar aanleiding van de snelle ontwikkelingen op het gebied van kunstmatige
intelligentie?

Antwoord 11

In het Strategisch Actieplan voor Artificiële Intelligentie van 8 oktober 2019 is
de basis gelegd voor de overkoepelende Nederlandse AI-inzet. In de voortgangsrapportages
van de Nederlandse Digitalisering Strategie zijn de ontwikkelingen rondom deze inzet
jaarlijks meegenomen.

Ook dit kabinet vindt het belangrijk goed zicht te houden op de ontwikkelingen rondom
AI, en wat dit betekent voor haar inzet. De recente Kamerstukken de Strategie Digitale
Economie17, Werkagenda Digitalisering18 en kabinetsreactie op het WRR-rapport AI19 beschrijven de actuele inzet op AI door dit kabinet. Om integraal zicht te houden
op de ontwikkelingen rond AI, en bij te sturen waar nodig heeft dit kabinet daarnaast
een Ambtelijke Commissie Digitalisering (ACD) ingesteld die de ontwikkelingen van
deze technologie in context van de bredere digitaliseringsopgave beziet.

Vraag 12

Bent u bereid deze vragen te beantwoorden voor het Commissiedebat Kunstmatige Intelligentie
van 25 januari?

Antwoord 12

Wij hebben geprobeerd de vragen te beantwoorden voor het commissiedebat, maar dit
is helaas niet gelukt.