Schriftelijke vragen : Het artikel ‘Snelgroeiende autonome AI-assistent is een ‘disaster waiting to happen’’.

Vraag 1

Bent u bekend met het artikel «Snelgroeiende autonome AI-assistent is een «disaster
waiting to happen»»?1

Vraag 2

Deelt u de zorgen van experts dat steeds autonomer opererende AI-assistenten risico’s
vormen voor veiligheid, privacy, menselijke controle en mentale gezondheid? En kunt
u daarbij aangeven welke risico’s u het meest urgent acht?

Vraag 3

Acht u het wenselijk dat AI-systemen zelfstandig handelingen, zoals het doen van aankopen
en het aangaan van contracten, kunnen verrichten namens gebruikers?

Vraag 4

Zo ja, kunt u aangeven welke toepassingen het kabinet maatschappelijk gezien wenselijk
en/of acceptabel vindt, en welke niet?

Vraag 5

In hoeverre is het huidige Nederlandse en Europese toezichtkader (waaronder de AI
Act) toereikend om risico’s van autonome AI-systemen die zelfstandig taken uitvoeren
te ondervangen?

Vraag 6

Welke definitie van verantwoorde AI (innovaties) hanteert het kabinet? En in hoeverre
passen AI-assistenten daarin?

Vraag 7

Kunt u aangeven of het naar uw inzicht wenselijk is dat er vanuit de overheid gebruik
gemaakt wordt van autonome AI-assistenten? En op welke vlakken gebeurt dit al? Onder
welke voorwaarden wordt dit toegestaan en hoe wordt hierop toegezien in de praktijk?

Vraag 8

Hoe wordt op dit moment geborgd dat er in kritieke infrastructuur, in sectoren als
defensie, de zorg en de overheid zelf, altijd sprake blijft van «meaningful human
control» (ofwel «human in the loop») bij het gebruik van autonome AI-assistenten?

Vraag 9

Welke andere waarborgen (vangrails) zijn naar uw verwachting nog nodig om hier goed
mee om te gaan, voor zowel overheid als samenleving, en is bijsturing mogelijk?