Schriftelijke vragen : Het bericht ‘Incassobedrijf gebruikt AI om kwetsbare schuldenaar te spotten: ‘Kan bizarre situaties opleveren’’

Vraag 1

Bent u bekend met het bericht «Incassobedrijf gebruikt AI om kwetsbare schuldenaar
te spotten: «Kan bizarre situaties opleveren»»?1

Vraag 2

Zijn er bij u meer voorbeelden bekend van incassobureau’s en andere organisaties die
toezien op (problematische) schulden die gebruik maken of willen maken van kunstmatige
intelligentie? Om hoe veel bedrijven gaat dit?

Vraag 3

Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen
van correspondentie van mensen met schulden? Op welke data is dit systeem getraind
en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee
aan dataminimalisatie?

Vraag 4

Ziet u risico’s bij het inzetten van zelflerende kunstmatige intelligentie door incassobureau’s,
zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming
en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie?

Vraag 5

Deelt u de mening dat organisaties in de schuldenindustrie uiterst terughoudend moeten
zijn met het inzetten van kunstmatige intelligentie en algoritmes? Kunt u onderbouwen
waarom?

Vraag 6

Kunt u garanderen dat het gebruik van kunstmatige intelligentie voor consumenten altijd
optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke
correspondentie door een dergelijk systeem te laten controleren?

Vraag 7

Intrum geeft aan dat deze AI-toepassing «een bewezen succes is in het Verenigd Koninkrijk,»
kunt u toelichten op welke manier het Verenigd Koninkrijk AI-toepassingen in de schuldenindustrie
momenteel gebruikt? Welke invloed heeft dit gehad op personen met schulden, hoe is
hun privacy geborgd en hoe is het toezicht daarop geregeld?

Vraag 8

Welke kaders gelden er momenteel voor het gebruik van kunstmatige intelligentie door
incassobureau’s en schuldeisers? Zijn er bestaande kaders voor het gebruik van algoritmes,
die ook van toepassing zijn op kunstmatige intelligentie?

Vraag 9

Past de voorgestelde AI-toepassing van Intrum binnen de kabinetsvisie Generatieve
AI en de Werkagenda Waardengedreven Digitaliseren? Zo ja, kunt u toelichten op welke
punten deze AI-toepassing in de schuldenindustrie bijdraagt aan maatschappelijk waardevolle
digitalisering? Zo niet, kunt u uiteenzetten op welke vlakken deze AI-toepassing in
strijd is met het kabinetsstandpunt? Welke consequenties verbindt u daar aan?

Vraag 10

Welke instrumenten zal de Europese AI-verordening bieden om zo nodig in te grijpen
of op de rem te trappen als kunstmatige intelligentie op een onwenselijke manier te
werk gaat in de publieke- en private sector?

Vraag 11

Bent u bereid om nu al te werken aan duidelijke kaders voor het gebruik van kunstmatige
intelligentie, vooruitlopend op de AI-verordening, bij organisaties die verstrekkende
financiële besluiten maken over mensen en gevoelige persoonsgegevens verwerken?

Vraag 12

Kunt u aan de hand van de verboden categorieën, zoals beschreven in artikel 5, lid
1c, van de AI-verordening2 beoordelen of de AI-screening door een incassobureau van mensen met (mogelijk) problematische
schulden gerechtvaardigd is? Kunt u afzonderlijk ingaan op hoofdartikel 5, lid 1c
en sub-onderdelen i en ii?

Vraag 13

Valt de schuldenindustrie onder het toepassingsbereik van het verbod op emotieherkenning
op de werkplek en in het onderwijs, die de AI-verordening voorschrijft? Zo niet, bent
u bereid om een dergelijke uitbreiding van het toepassingsbereik te onderzoeken en
indien mogelijk in de nationale uitvoeringswet te verwerken?

Vraag 14

Wordt er in de schuldenindustrie en soortgelijke sectoren waar veel gevoelige persoonsgegevens
worden verwerkt actief meegekeken door de Autoriteit Persoonsgegevens op het gebruik
van AI? Welke rol speelt de Inspectie Justitie en Veiligheid bij het toezicht op algoritme-
en AI-toepassingen in de sector, nu de Wet kwaliteit incassodienstverlening per 1 april
2024 in werking treedt?

Vraag 15

Op welke termijn verwacht u aan de Kamer wet- en regelgeving voor te leggen die kaders
stelt en normen bepaalt voor de toepassingen van kunstmatige intelligentie in de publieke-
en private sector?

Vraag 16

Kunt u deze vragen afzonderlijk beantwoorden?