Antwoord schriftelijke vragen : Antwoord op vragen van het lid Rooderkerk over het bericht ‘Pleidooi voor AI-richtlijn op scholen: 'Risico's groot, bewustzijn laag'’

Antwoord van Staatssecretaris Paul (Onderwijs, Cultuur en Wetenschap) (ontvangen 7 oktober
2024).

Vraag 1

Bent u bekend met het pleidooi van de Algemene Onderwijsbond (AOb) voor een AI-richtlijn
op scholen?1

Antwoord 1

Ja.

Vraag 2

Welk inzicht heeft u in het gebruik van artificiële intelligentie (AI) door scholen?
Heeft u een overzicht van welke AI-tools worden ingezet door scholen zelf?

Antwoord 2

In algemene zin hebben we inzicht in het gebruik van AI door scholen en welke tools
dat zijn. In de meest recente Monitor Digitalisering Onderwijs (MDO, voorheen MYRA)
2023 van Kennisnet, de PO-Raad en de VO-raad is leraren gevraagd naar het gebruik
van digitale middelen2. In het primair onderwijs maakte in 2023 63 procent van de leraren gebruik van dashboards
waarop de voortgang van leerlingen te volgen is (Snappet, Gynzy, Prowise Learn, Rekentuin)
en 40 procent gebruikte adaptieve gepersonaliseerde digitale leermiddelen.3 In het voortgezet onderwijs betrof dit respectievelijk 31 procent en 29 procent van
de leraren.4 In de MDO 2025 zal leraren specifiek gevraagd worden of zij AI (apps of toepassingen)
bij de lessen en lesvoorbereiding gebruiken en over welke kennis en vaardigheden zij
op dit terrein beschikken

Vraag 3

Heeft u inzicht in de manier waarop door leerlingen gebruik wordt gemaakt van AI voor
het maken van werkstukken en huiswerkopdrachten en hoe scholen hiermee omgaan?

Antwoord 3

Ik heb geen inzicht in de manier waarop leerlingen thuis gebruik maken van AI voor
het maken van werkstukken en huiswerkopdrachten.

Vraag 4

Op welke wijze heeft AI een plek in de nieuwe kerndoelen voor digitale geletterdheid?
Wanneer zijn deze definitief verankerd?

Antwoord 4

Begin maart 2024 heeft de SLO de conceptkerndoelen digitale geletterdheid opgeleverd.
In deze concepten is AI expliciet opgenomen. Momenteel worden de kerndoelen op scholen
beproefd op bruikbaarheid en wordt geëvalueerd hoe goed ze aansluiten bij de praktijk.
Daarnaast zal dit najaar de wetenschappelijke Curriculumcommissie een advies uitbrengen
over de conceptkerndoelen.

In oktober ontvangt uw Kamer een brief waarin wordt toegelicht hoe hier invulling
aan wordt gegeven.

Vraag 5

Vindt u het goed dat leerlingendata terechtkomt in handen van grote AI-bedrijven?
Hoe verhoudt dit zich tot de Algemene verordening gegevensbescherming (AVG) en wat
gaat u hieraan doen?

Antwoord 5

Ik vind het belangrijk dat de (digitale) veiligheid en privacy van de onderwijsomgeving
van leerlingen en onderwijspersoneel geborgd is. Het is in de eerste plaats aan de
schoolbesturen om hun (digitale) onderwijs vorm te geven, en daarbij te kiezen of,
en zo ja welke, AI-producten ze hierbij inzetten. AI kan het onderwijs ondersteunen,
mits bewust gekozen en verantwoord toegepast. De handreiking AI van Kennisnet biedt
handvatten om te zorgen voor sociale veiligheid en een pedagogisch klimaat bij AI
op school.5 Daarnaast is het van groot belang dat de persoonsgegevens van leerlingen bij het
gebruik van AI-systemen goed worden beschermd. De website Aanpak IBP van Kennisnet
helpt scholen om de AVG goed na te leven. Relevant is onder meer dat de school een
verwerkersovereenkomst afsluit met de leverancier van het AI-systeem waarin contractueel
wordt vastgelegd dat de leverancier de gegevens alleen mag gebruiken voor de doelen
die de school aangeeft. Ook is de school in de meeste gevallen verplicht om een data
protection impact assessment (DPIA ofwel een privacyonderzoek) uit te voeren als in
een AI-systeem persoonsgegevens worden verwerkt, waarmee de privacyrisico’s in kaart
worden gebracht en maatregelen genomen worden om deze te beperken. Omdat dit voor
scholen intensief en tijdrovend kan zijn, voeren de ICT-coöperaties SURF en SIVON
namens de onderwijssector DPIA’s uit op digitale producten die in het onderwijs gebruikt
worden. Dat doen ze niet alleen bij Nederlandse aanbieders, maar ook voor grote internationale
bedrijven zoals Google en Microsoft. In dit kader zijn afspraken gemaakt met onder
andere Zoom, Google en Microsoft over het beschermen van de privacy van leerlingen,
studenten en medewerkers. Ik bevorder via het Programma Digitaal Veilig Onderwijs
dat SIVON ook DPIA’s kan uitvoeren op andere digitale producten die in het funderend
onderwijs worden gebruikt.

Vraag 6

Denkt u dat leerkrachten en scholen voldoende toegerust zijn om AI veilig in te zetten
en de inzet ervan door leerlingen te herkennen en te bespreken?

Antwoord 6

Ik vind het belangrijk dat het onderwijs AI op een doordachte en verantwoorde manier
toepast, met aandacht voor publieke waarden zoals privacy en kansengelijkheid en dat
leraren bewuste en weloverwogen keuzes kunnen maken over het gebruik van AI. Leraren
moeten de technologie kunnen gebruiken, en begrijpen hoe AI-systemen werken, wat hun
beperkingen zijn en welke ethische vraagstukken daarbij komen kijken. Dit vraagt van
leraren dat zijzelf ook digitaal vaardig zijn.

Daarom ondersteun ik leraren op verschillende manieren bij de inzet van AI in het
onderwijs. Er zijn concrete handvatten beschikbaar, zoals de handreiking AI in het
onderwijs van Stichting Kennisnet die scholen helpt verantwoorde keuzes te maken rondom
AI, met richtlijnen voor beleid en professionalisering. En er is de gratis online
AI-cursus van de Nederlandse AI-coalitie voor docenten in het primair en voortgezet
onderwijs. Het Expertisepunt Digitale Geletterdheid biedt daarnaast ondersteuning
aan het po, vo, s(v)o en mbo. Tot slot werken we samen met Vlaanderen aan digitale
professionalisering voor leraren. We gaan samen onderzoeken hoe we leraren op slimme
manieren beter kunnen ondersteunen bij het aanleren van digitale vaardigheden.

Vraag 7

Bent u bekend met het bericht «Meer kennis algoritmen nodig op scholen, «anders risico
op discriminatie»»?6

Antwoord 7

Ja.

Vraag 8

Deelt u de zorgen van het College voor de Rechten van de Mens over dat de inzet van
adaptieve leermiddelen kan leiden tot kansenongelijkheid?

Antwoord 8

Ik ben het met het College eens dat het van belang is dat systemen die gebruikt worden
in het onderwijs niet leiden tot uitsluiting of discriminatie. Kinderen mogen nooit
de dupe worden van discriminatie, ook niet wanneer die impliciet in algoritmes is
ingebouwd. Hoewel de onderzoekers aangeven dat er op dit moment geen concrete voorbeelden
te vinden zijn van discriminatie of uitsluiting door algoritmes in het funderend onderwijs,
is het ook in de toekomst van belang dat dit geen plaats krijgt in de (digitale) onderwijssystemen.
Daartoe is recent de nieuwe AI-verordening in werking getreden. Deze Europese wet
stelt verdere grenzen aan de toepassing van algoritmes in het onderwijs. Zo wordt
het gebruik van een aantal typen AI en algoritmes ingedeeld in de hoog-risico-categorie,
waarin extra eisen zijn opgenomen. Systemen die zich richten op onder andere toelating
tot het onderwijs of het beoordelen van een passend onderwijsniveau vallen in deze
categorie. Als onderwijsinstellingen deze systemen willen inzetten, dienen zij aanvullende
maatregelen te treffen om te voorkomen dat gebruik van deze systemen kansenongelijkheid
in de hand werkt.

Vraag 9 en 10

Op welke wijze wordt toezicht gehouden op de algoritmes van programma’s zoals Snappet,
Gynzy en andere lesmethoden?

Hoe gaat u transparantie, uitlegbaarheid en de eerlijkheid van deze algoritmes waarborgen?

Antwoord 9 en 10

Op Europees niveau biedt de recent geïntroduceerde AI-verordening een juridisch kader
om ervoor te zorgen dat AI-systemen veilig en ethisch worden ingezet. De komende tijd
zal ik samen met de onderwijssector verkennen hoe we de maatregelen binnen de AI-verordening
het beste kunnen vormgeven.

Op nationaal niveau speelt het Nationaal Onderwijslab AI (NOLAI) een belangrijke rol
in het waarborgen van de kwaliteit, kansengelijkheid en de regie van leraren in de
verantwoorde ontwikkeling en toepassing van AI in het onderwijs. Zo maakt NOLAI in
het wetenschappelijk programma de pedagogische, maatschappelijke en sociale gevolgen
van intelligente technologie in onderwijs inzichtelijk. In het onlangs gepubliceerde
referentiekader wordt de werkwijze van het Onderwijslab uitgelegd.7 Daarnaast biedt het opschalingsplan van NOLAI waardevolle inzichten in de integratie
van AI-producten in het onderwijs, waarbij de visie van scholen en de vaardigheden
van leraren centraal staan. Leraren worden uitgerust met de benodigde kennis en tools
om AI op een verantwoorde en effectieve manier in hun onderwijspraktijk te integreren
en zorgt voor een duurzame en brede implementatie van AI-producten in het funderend
onderwijs.

Vraag 11

Heeft u inzicht in hoeveel scholen zelfstandig richtlijnen of beleid hebben opgesteld
voor het gebruik van AI?

Antwoord 11

Ik vind het belangrijk dat scholen bewuste en verantwoorde keuzes maken over het gebruik
van AI op basis van een AI-beleid dat past bij de visie op onderwijs en de kernwaarden
van de school. Scholen kunnen hiervoor gebruikmaken van het Vier-in-balans model8 en de Handreiking AI in het onderwijs9 van Kennisnet. In de Monitor Digitalisering Onderwijs 2025 zullen onder meer vragen
worden opgenomen over visie en beleid van het schoolbestuur omtrent AI, en of de school
richtlijnen heeft over verantwoord gebruik van AI in de klas.

Vraag 12 en 13

Bent u bereid om in gesprek te gaan samen met de AOb en scholen die vooroplopen als
het gaat om AI-beleid om lessen te trekken voor een eventuele landelijke richtlijn?

Bent u bereid om samen met de AOb de handschoen op te pakken voor een richtlijn voor
AI in de klas? Zo nee, waarom niet?

Antwoord 12 en 13

In onze huidige digitale maatschappij, waar technologische innovaties zich snel ontwikkelen,
is het noodzakelijk dat we scholen ondersteunen bij de doordachte inzet en gebruik
van AI in de klas. In het kader van de gesprekken die ik zal voeren met de onderwijssector
over de AI-verordening en hoe we de maatregelen en het toezicht daarop vormgeven,
ga ik graag in gesprek met de AOb, de andere onderwijspartners en scholen. Tegelijkertijd
wil ik benadrukken dat er al op verschillende manieren ondersteuning wordt geboden
aan schoolbestuurders, schoolleiders en leraren. Door inzichten te bundelen kunnen
we de samenwerking tussen alle betrokken partijen versterken.