Brief regering : Toezegging commissiedebat Inzet algoritmen en data-ethiek (Schufa-arrest)

Nr. 314
BRIEF VAN DE STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 6 maart 2025

Tijdens het commissiedebat Inzet algoritmen en data-ethiek op 28 januari 2025 (Kamerstuk
26 643, nr. 1283), heeft het lid Ergin (DENK) gevraagd hoe het advies van de Autoriteit Persoonsgegevens
(AP) d.d. 10 oktober 20241 zich verhoudt tot het arrest van het Hof van Justitie van de Europese Unie (HvJEU)
in de zaak «Schufa».

Het lid Ergin stelde de vraag of de Europese interpretatie van de Europese regels
strikter is dan de interpretatie door de AP in haar advies. De Staatssecretaris Koninkrijksrelaties
en Digitalisering zegde toe hierop schriftelijk terug te komen. Met deze brief doe
ik deze toezegging gestand.

Vooropgesteld dient te worden dat het HvJEU en de AP beide uitgaan van hetzelfde Europeesrechtelijk
normenkader, zoals dat is vastgelegd in de Algemene Verordening Gegevensbescherming
(AVG). Dat de AP dit kader minder strikt interpreteert dan het HvJEU, valt uit haar
advies niet af te leiden. Graag licht ik dit toe.

Geautomatiseerde besluitvorming

Artikel 22, eerste lid, AVG verbiedt geautomatiseerde individuele besluitvorming.
Dat betreft een uitsluitend op geautomatiseerde verwerking, met inbegrip van profilering,
gebaseerd besluit, waaraan ofwel voor de betrokkene rechtsgevolgen zijn verbonden
ofwel dat hem anderszins in aanmerkelijk mate treft. Het HvJEU oordeelde in het Schufa-arrest
dat niet alleen de uiteindelijke beslissing zelf, maar ook de voorbereidende handelingen
die leiden tot die beslissing gezien kunnen worden als geautomatiseerde besluitvorming.

Het Schufa-arrest

Op 7 december 2023 heeft het HvJEU twee arresten gewezen in verband met de

gegevensverwerking door het Duitse kredietinformatiebureau Schufa Holding AG, dat
zijn cliënten informatie verstrekt over de kredietwaardigheid van derden. In één van
deze arresten2 staat geautomatiseerde besluitvorming centraal. Daarbij ging het om de praktijk waarbij
Schufa, aan de hand van persoonlijke kenmerken en een wiskundig-statistische methode,
op geautomatiseerde wijze «scores» opstelde. Daaruit volgde bijvoorbeeld hoe waarschijnlijk
het is dat een kredietaanvrager toekomstige betalingsverplichtingen zal nakomen. In
de praktijk werd de beslissing tot kredietverlening gebaseerd op de scores. Over deze
gang van zaken liet het HvJEU zich uit. Als het hoofdzakelijk van een geautomatiseerd
gegenereerde waarschijnlijkheidswaarde afhangt welke beslissing wordt genomen op de
aanvraag van de desbetreffende persoon, is naar het oordeel van het HvJEU sprake van
«geautomatiseerde individuele besluitvorming» in de zin van artikel 22 AVG, ook al
wordt de definitieve beslissing door een mens genomen.

Het AP-advies

In haar advies geeft de AP zich aantoonbaar rekenschap van het Schufa-arrest. Zij
zwakt de daarin uitgesproken conclusies niet af, maar past ze toe op de aan haar voorgelegde
Nederlandse uitvoeringspraktijk. In de kabinetsreactie d.d. 3 december 20243 bij het advies is nader ingegaan op het advies van de AP en de definitie van «besluit».
De AP benadrukt in haar advies onder andere het belang van betekenisvolle menselijke
tussenkomst bij de inzet van geautomatiseerde risicoselectie-instrumenten. Ook dit
is in lijn met het oordeel van het HvJEU, dat als gezegd concludeert dat sprake is
van geautomatiseerde besluitvorming wanneer een besluit weliswaar door een mens genomen
wordt, maar dat besluit hoofdzakelijk afhangt van een voorgaande geautomatiseerde beoordeling zoals een waarschijnlijkheidswaarde.
Dit maakt duidelijk dat menselijke tussenkomst alleen niet voldoende is: deze moet
betekenisvol zijn. Om betekenisvol te zijn, moet degene die «tussenkomt» voldoende
kunnen beoordelen of selectie in een bepaald geval terecht is. Dat vereist dat de
behandelaar weet hoe het geautomatiseerde proces werkt en welke invloed dit heeft
op het uiteindelijke besluit. De AP stelt daarnaast een vijftal andere voorwaarden
waaraan geautomatiseerde risicoselectie moet voldoen, waaronder het vooraf en periodiek
onderzoeken en ondervangen van discriminatoire verwerkingen en kenbaarheid voor de
betrokkene.

Ik zie in het advies dan ook geen aanwijzingen dat de interpretatie van de AP van
artikel 22 AVG minder strikt is dan die van het HvJEU.

De Staatssecretaris van Justitie en Veiligheid,
T.H.D. Struycken