Antwoord schriftelijke vragen : Antwoord op vragen van de leden Kathmann en Mohandis over het bericht 'Incassobedrijf gebruikt AI om kwetsbare schuldenaar te spotten: 'Kan bizarre situaties opleveren''

Antwoord van Minister Weerwind (Rechtsbescherming), mede namens de Staatssecretaris
van Binnenlandse Zaken en Koninkrijksrelaties (ontvangen 28 juni 2024). Zie ook Aanhangsel
Handelingen, vergaderjaar 2023–2024, nr. 1665.

Vraag 1

Bent u bekend met het bericht «Incassobedrijf gebruikt AI om kwetsbare schuldenaar
te spotten: «Kan bizarre situaties opleveren»»?1

Antwoord 1

Ja.

Vraag 2

Zijn er bij u meer voorbeelden bekend van incassobureau’s en andere organisaties die
toezien op (problematische) schulden die gebruik maken of willen maken van kunstmatige
intelligentie? Om hoe veel bedrijven gaat dit?

Antwoord 2

Het kabinet acht het aannemelijk dat steeds meer incassodienstverleners gebruik zullen
maken van kunstmatige intelligentie (hierna: AI) tijdens het minnelijke of buitengerechtelijke
incassotraject. Bijvoorbeeld de PAIR Finance Group doet dit al.2 Het kabinet tekent hier in het algemeen bij aan dat de toepassing van AI zorgvuldig
en binnen de kaders van (privacy)wetgeving moet gebeuren. Voorts blijkt uit de praktijk
ook steeds meer dat de consument te woord wordt gestaan door een chatbot die de eerste
vragen afvangt. Deze ontwikkeling beperkt zich dan ook niet tot incassodienstverleners.

Gebruik van chatbots en in het algemeen «het opnemen van contact» waar het buitengerechtelijke
incassoactiviteiten betreft, sluiten aan bij het kwaliteitskader dat sinds 1 april
2024 geldt voor buitengerechtelijke incassodienstverlening op grond van de Wet kwaliteit
incassodienstverlening (hierna ook: WKI). De kwaliteit van de incassodienstverlening
staat centraal, ongeacht de techniek die daarbij wordt ingezet. Het aantal incassodienstverleners
dat daadwerkelijk gebruikmaakt van AI wordt niet bijgehouden en is niet bekend.

Vraag 3

Is het u bekend welke techniek precies zal worden toegepast door Intrum voor het scannen
van correspondentie van mensen met schulden? Op welke data is dit systeem getraind
en wat gebeurt er met de input van mensen met schulden? Voldoet het bedrijf hiermee
aan dataminimalisatie?

Antwoord 3

Uit het artikel worden de precieze methoden of werkwijzen van Intrum mij niet duidelijk.
Datzelfde geldt voor het gebruik van data door Intrum en wat er gebeurt met de input
van mensen met schulden. Vanuit het Ministerie van Binnenlandse Zaken & Koninkrijksrelaties
(BZK) is er contact met incassobureau Intrum. Medewerkers van het Ministerie van BZK
en van het Ministerie van Justitie en Veiligheid (JenV) plannen een gesprek in met
incassobureau Intrum om rond het zomerreces over de breedte van dit thema te spreken
met elkaar. In het contact met uw Kamer worden de relevante opbrengsten van het gesprek
betrokken.

In hoeverre Intrum voldoet aan de vereisten, waaronder die met betrekking tot dataminimalisatie,3 die op grond van de Algemene Verordening Gegevensbescherming (AVG) gelden is ter
beoordeling van diens Functionaris Gegevensbescherming en aan de toezichthouder, te
weten de Autoriteit Persoonsgegevens (AP). Dat is mij op dit moment niet bekend.

Vraag 4

Ziet u risico’s bij het inzetten van zelflerende kunstmatige intelligentie door incassobureau’s,
zoals het aanleren van discriminerende vooroordelen, gebrek aan transparante besluitvorming
en inbreuk op privacy bij het scannen van mogelijk gevoelige correspondentie?

Antwoord 4

Ja, het kabinet ziet dat de inzet van AI door incassobureaus gepaard kan gaan met
bepaalde risico’s. Hier wijst de organisatie Bits of Freedom in het aangehaalde bericht
ook op. Gelet op voornoemde vindt het kabinet het belangrijk om erop te wijzen dat
bij de toepassing van AI al de nodige waarborgen en regels gelden. De risicogebaseerde
aanpak van de Europese AI-verordening, met als vuistregel hoe hoger de (potentiële)
impact van een AI-systeem op de burger hoe strenger de eisen, sluit hierbij aan. Als
daarnaast bij het trainen of gebruiken van algoritmes persoonsgegevens worden verwerkt,
bijvoorbeeld afkomstig uit gevoelige correspondentie, dan is de AVG van toepassing.
Het is aan de toezichthouder om op de naleving toe te zien en hierop te handhaven.

Vraag 5

Deelt u de mening dat organisaties in de schuldenindustrie uiterst terughoudend moeten
zijn met het inzetten van kunstmatige intelligentie en algoritmes? Kunt u onderbouwen
waarom?

Antwoord 5

Te allen tijde moet voorkomen worden dat mensen met schulden verder in de problemen
komen door toepassing van AI. Zoals het kabinet hiervoor al aangeeft dient de professionaliteit
en de kwaliteit van incassodienstverlening voorop te staan. Dit om in het verleden
geconstateerde misstanden bij de inning van geldvorderingen tegen te gaan. Daarbij
dienen de belangen van zowel de schuldeisers bij inning van de vordering als de bescherming
van de schuldenaren tegen het ontstaan van problematische schulden in balans te zijn.
De genoemde balans gaat ook op bij het doel van de inzet van AI. De verantwoordelijkheid
voor het naleven van de geldende wet- en regelgeving, bijvoorbeeld op grond van de
AVG en WKI, ligt bij de incassodienstverleners en andere ondernemingen die incassowerkzaamheden
verrichten. In gesprekken met de branche besteedt het kabinet hier aandacht aan.

Vraag 6

Kunt u garanderen dat het gebruik van kunstmatige intelligentie voor consumenten altijd
optioneel is en dat consumenten nooit onder druk gezet mogen worden om de persoonlijke
correspondentie door een dergelijk systeem te laten controleren?

Antwoord 6

Nee, dat kan het kabinet niet garanderen. Dat laat onverlet dat er eisen gelden voor
de wijze van benaderen van de schuldenaar op grond van de WKI.4 Ook in het geval door een incassodienstverlener AI wordt ingezet, zal deze partij
zich moeten verhouden tot de WKI. Mensen met schulden mogen bijvoorbeeld niet oneigenlijk
onder druk worden gezet. Daarbij geldt dat ten aanzien van persoonlijke correspondentie
incassodienstverleners gehouden zijn aan de AVG die bescherming biedt bij de verwerking
van (bijzondere) persoonsgegevens van alle betrokkenen. Aan de inzet van AI zullen
op termijn expliciete eisen worden gesteld ten aanzien van de techniek die wordt gebruikt.

Vraag 7

Intrum geeft aan dat deze AI-toepassing «een bewezen succes is in het Verenigd Koninkrijk,»
kunt u toelichten op welke manier het Verenigd Koninkrijk AI-toepassingen in de schuldenindustrie
momenteel gebruikt? Welke invloed heeft dit gehad op personen met schulden, hoe is
hun privacy geborgd en hoe is het toezicht daarop geregeld?

Antwoord 7

Het onderzoek naar de praktijk uit het Verenigd Koninkrijk is mij onbekend. Daarom
is er contact met Intrum voor een toelichting en om hierover van gedachten te wisselen.
Dat gesprek zal tussen in ieder geval medewerkers van BZK, van JenV (JenV is verantwoordelijk
voor de WKI) en Intrum plaatsvinden. Zie ook mijn antwoord op vraag 3.

Vraag 8

Welke kaders gelden er momenteel voor het gebruik van kunstmatige intelligentie door
incassobureau’s en schuldeisers? Zijn er bestaande kaders voor het gebruik van algoritmes,
die ook van toepassing zijn op kunstmatige intelligentie?

Antwoord 8

Om te beginnen moet het gebruik van AI als daarin persoonsgegevens worden verwerkt
voldoen aan de AVG, bovendien treedt vanaf de zomer de AI-verordening gefaseerd in
werking. De AI-verordening bevat regels voor het gebruik van AI in de EU en regelt
ook het toezicht op die regelgeving.

Vraag 9

Past de voorgestelde AI-toepassing van Intrum binnen de kabinetsvisie Generatieve
AI en de Werkagenda Waardengedreven Digitaliseren? Zo ja, kunt u toelichten op welke
punten deze AI-toepassing in de schuldenindustrie bijdraagt aan maatschappelijk waardevolle
digitalisering? Zo niet, kunt u uiteenzetten op welke vlakken deze AI-toepassing in
strijd is met het kabinetsstandpunt? Welke consequenties verbindt u daar aan?

Antwoord 9

In algemene zin kunnen AI-toepassingen die mensen helpen om hun positie te versterken
– zeker mensen in meer kwetsbare posities – op bijval van het kabinet rekenen. Uiteraard
dienen deze AI-toepassingen met waarborgen omkleed te worden. Dat wil zeggen dat aan
bestaande wet- en regelgeving (zie ook het antwoord op vraag 8) en aan nieuwe eisen
die voortvloeien uit de AI-verordening (zie het antwoord op vraag 11) moet worden
voldaan, maar ook dat bredere morele overwegingen over de inzet van dergelijke toepassingen
aan de orde moeten zijn.

Vraag 10

Welke instrumenten zal de Europese AI-verordening bieden om zo nodig in te grijpen
of op de rem te trappen als kunstmatige intelligentie op een onwenselijke manier te
werk gaat in de publieke- en private sector?

Antwoord 10

Op 21 mei jl. heeft de Telecomraad van de EU de AI-verordening aangenomen waarna de
implementatie van de AI-verordening in gang wordt gezet en fasegewijs in werking zal
treden. De AI-verordening stelt eisen aan de ontwikkeling van risicovolle AI-systemen,
nog voordat ze op de markt worden gebracht of in gebruik worden genomen met als doel
om ervoor te zorgen dat ze veilig zijn en mensenrechten respecteren. De verordening
stelt een risicogebaseerde benadering voor en stelt verplichtingen aan aanbieders
en gebruikers afhankelijk van het risiconiveau dat een AI-systeem met zich meebrengt.
De AI-verordening zal van toepassing zijn op alle sectoren, waaronder ook de schuldenindustrie.
De verordening heeft een algemeen karakter en is niet beperkt tot een specifieke branche.
Alleen bij inzet voor opsporings- en veiligheidsdiensten gelden aangepaste regels.

Vraag 11

Bent u bereid om nu al te werken aan duidelijke kaders voor het gebruik van kunstmatige
intelligentie, vooruitlopend op de AI-verordening, bij organisaties die verstrekkende
financiële besluiten maken over mensen en gevoelige persoonsgegevens verwerken?

Antwoord 11

Verschillende bepalingen uit de AI-verordening worden na inwerkingtreding gefaseerd
van kracht, te beginnen met de bepalingen over verboden praktijken na een half jaar.
Het streven is dat in juni 2025 verplichtingen gaan gelden voor aanbieders van generieke
AI-toepassingen (die ten grondslag liggen aan concrete AI-toepassingen). Daarbij is
de verwachting ook dat dan het nationale toezicht op AI is geregeld. Weer een jaar
later, in juni 2026, treden de vereisten voor hoog risico in werking. Vanwege de fasegewijze
invoer neemt het kabinet daarom verschillende stappen om de implementatie van deze
verordening optimaal te laten verlopen. Het kabinet is in gesprek met bedrijven en
(mede)overheden om de impact van de AI-verordening in kaart te brengen. Het kabinet
zal een uitvoeringswet maken en waar nodig bestaande wetgeving daarop aanpassen. Het
toezicht op de AI-verordening wordt verder ingericht in samenwerking met toezichthouders.

Vraag 12

Kunt u aan de hand van de verboden categorieën, zoals beschreven in artikel 5, lid
1c, van de AI-verordening5 beoordelen of de AI-screening door een incassobureau van mensen met (mogelijk) problematische
schulden gerechtvaardigd is? Kunt u afzonderlijk ingaan op hoofdartikel 5, lid 1c
en sub-onderdelen i en ii?

Antwoord 12

De AI-verordening kent een aantal verboden, waaronder een verbod op social scoring
waar u naar refereert met artikel 5. Dan gaat het om AI-toepassingen met de intentie
om die in de handel te nemen, of om door, of namens, overheidsinstanties ingezet te
worden op basis van data afgeleid uit sociaal gedrag, om mensen te classificeren en
te beoordelen. Een toevoeging in lid 1c en subonderdelen i en ii, is dat de toepassingen
leiden tot ongunstige of onrechtvaardige benadeling van groepen. Het kabinet geeft
geen oordeel of een toepassing geoorloofd is of niet. Dat is aan de toezichthouders
en in voorkomend geval uiteindelijk aan de rechter.

Vraag 13

Valt de schuldenindustrie onder het toepassingsbereik van het verbod op emotieherkenning
op de werkplek en in het onderwijs, die de AI-verordening voorschrijft? Zo niet, bent
u bereid om een dergelijke uitbreiding van het toepassingsbereik te onderzoeken en
indien mogelijk in de nationale uitvoeringswet te verwerken?

Antwoord 13

De schuldenindustrie valt onder het toepassingsbereik van het verbod op emotieherkenning
indien gebruik wordt gemaakt van AI-technieken voor social scoring en het gebruik
daarvan nadelige en ongunstige gevolgen heeft voor personen zoals omschreven in artikel 5
lid 1c i en ii.

Vraag 14

Wordt er in de schuldenindustrie en soortgelijke sectoren waar veel gevoelige persoonsgegevens
worden verwerkt actief meegekeken door de Autoriteit Persoonsgegevens op het gebruik
van AI? Welke rol speelt de Inspectie Justitie en Veiligheid bij het toezicht op algoritme-
en AI-toepassingen in de sector, nu de Wet kwaliteit incassodienstverlening per 1 april
2024 in werking treedt?

Antwoord 14

Hoewel de AI-verordening nog niet in werking is getreden is de AVG wel van toepassing
en is een toezichthouder (AP) actief die op de juiste toepassing van deze wetgeving
toeziet. Dit geldt ook waar het de verwerking van (bijzondere) persoonsgegevens betreft
door incassodienstverleners. De AVG is bovendien van toepassing indien (bijzondere)
persoonsgegevens worden verwerkt bij het gebruik van AI. De AP is coördinerend toezichthouder
op algoritmes en AI die risico’s met zich meebrengen voor publieke waarden en grondrechten.6Bijna alle algoritmes verwerken persoonsgegevens en vallen daarmee onder het toezicht
van de AP. Verder heeft de AP in haar «Focus AP 2020–2023» aangegeven dat «algoritmes
& AI» één van haar focusgebieden is.7, 8 Het belangrijkste aandachtsgebied binnen dit focusgebied is het stelsel van toezicht
op AI en algoritmes waarin persoonsgegevens worden gebruikt. De AP stelt dat het hierbij
van belang is dat bedrijven en organisaties die geautomatiseerd besluiten nemen aan
de eisen uit de AVG voldoen, zoals de informatieplicht, transparantie, uitlegbaarheid
en menselijke tussenkomst.

Naast eisen uit de AVG gelden de regels uit de Wet kwaliteit incassodienstverlening.
De WKI regelt de verplichte registratie in het Register incassodienstverlening9 door en stelt kwaliteitseisen aan buitengerechtelijke incassodienstverleners. Het
toezicht en de handhaving op de naleving van de kwaliteitseisen van de WKI zijn primair
belegd bij de Inspectie Justitie en Veiligheid (hierna: de Inspectie).10 De Inspectie kan via regulier toezicht langsgaan bij incassodienstverleners of informatie
opvragen. De Inspectie kan geen individuele klachten van schuldenaren of schuldeisers
in behandeling nemen. Op haar website kan via het «Klachtenformulier Wet kwaliteit
incassodienstverleners» wel een melding worden gemaakt. De Inspectie gebruikt deze
meldingen om keuzes te maken in haar toezicht en om te bepalen welke incassodienstverleners
worden onderzocht.

Vraag 15

Op welke termijn verwacht u aan de Kamer wet- en regelgeving voor te leggen die kaders
stelt en normen bepaalt voor de toepassingen van kunstmatige intelligentie in de publieke-
en private sector?

Antwoord 15

De AI-verordening is op 21 mei jl. door de Europese Telecomraad aangenomen en treedt
naar verwachting vanaf de zomer fasegewijs in werking. Zie antwoord op vraag 11 voor
de inwerkingtreding van alle categorieën van AI.

Vraag 16

Kunt u deze vragen afzonderlijk beantwoorden?

Antwoord 16

Ja. Zie voorgaand.