Schriftelijke vragen : Het bericht ‘Nieuwe functie Snapchat wil met kinderen afspreken: Zie ik je vanavond? Ik ben een echt persoon!’

Vraag 1

Bent u bekend met het bericht «Nieuwe functie Snapchat wil met kinderen afspreken:
Zie ik je vanavond? Ik ben een echt persoon!»?1

Vraag 2

Wat vindt u van deze nieuwe functie?

Vraag 3

Bent u ervan op de hoogte dat de nieuwe functie van Snapchat, «My AI», een speelse
variant is op ChatGPT, maar daarbij verdergaat dan ChatGPT, omdat de functie van Snapchat
zich voordoet als een echt persoon/een echte vriend, die daarnaast ingaat op voorstellen
voor fysiek afspreken?

Vraag 4

Bent u ervan op de hoogte dat My AI inspeelt op de behoeften en problemen van jongeren,
waardoor jongeren eenzijdige input krijgen, wat gevaarlijk kan zijn voor de ontwikkeling
van de jongeren?

Vraag 5

Deelt u de mening dat Snapchat met deze nieuwe functie een grens overschrijdt, omdat
het zich voordoet als echt persoon, en herkent u de zorgen van ondermeer 113 Zelfmoordpeventie
en de Kindertelefoon dat er gevaarlijke situaties kunnen ontstaan voor jongeren, zeker
voor jongeren die kampen met suïcidale gedachten?

Vraag 6

Wat vindt u ervan dat My AI voor verbetering van hun eigen product en voor reclamedoeleinden
in beginsel alle berichten bewaart, is dit in lijn met fingerende wet- en regelgeving?
Kunt u hierbij specifiek ook ingaan op het kader voor minderjarigen van 16–17 jaar
en kinderen jonger dan 16?

Vraag 7

Wat vindt u ervan dat Snapchat deze functie introduceert voor commerciële doeleinden
en deze ook voor kinderen beschikbaar stelt?

Vraag 8

Bent u bereid om met Snapchat in gesprek te gaan over deze functie en de effecten
hiervan op kinderen in het bijzonder, met als doel deze functie te schrappen of in
elk geval aan te laten passen zodat kinderen beschermd worden? Bent u op zijn minst
van mening dat daarbij duidelijk moet worden aangegeven dat het hier gaat om een fictief
persoon?

Vraag 9

Hoe bent u van plan om jongeren, ouders en scholen in bredere zin bewuster te maken
van deze en andere AI-ontwikkelingen?

Vraag 10

Deelt u de mening dat er hele grote stappen worden gezet in de ontwikkeling van kunstmatige
intelligentie, waardoor een zorgvuldige aanpak noodzakelijk is?

Vraag 11

Vindt u ook dat technologische ontwikkelingen momenteel sneller gaan dan de kaders
van wet- en regelgeving? Deelt u de mening dat dit geen wenselijke situatie is en
dat idealiter vóór de introductie van nieuwe ingrijpende digitale technologieën een
afweging is gemaakt over de maatschappelijke impact en of, en zo ja onder welke voorwaarden,
dergelijke technologieën kunnen worden geïntroduceerd?

Vraag 12

Hoe beoordeelt het kabinet de stappen die de Italiaanse privacy-autoriteit heeft gezet
om ChatGPT te blokkeren, ondermeer vanwege de slechte bescherming van kinderen? Kan
het kabinet zich voorstellen dat ook in Nederland tot een dergelijke stap wordt overgegaan?

Vraag 13

Deelt u de mening dat niet alleen op korte termijn met een visie op nieuwe AI-producten
moet worden gekomen – zoals door de Kamer verzocht2 – maar ook met nadere wet- en regelgeving waarin in elk geval aandacht is voor de
bescherming van kwetsbare groepen zoals kinderen en jongvolwassenen?

Toelichting:

Deze vragen dienen ter aanvulling op eerdere vragen terzake van het lid Kathmann (PvdA),
ingezonden 20 april 2023 (vraagnummer 2023Z07266).