Amendement : Amendement van het lid Buitenweg over het niet hanteren van algoritmes waarvan de uitkomsten niet navolgbaar en controleerbaar zijn

Nr. 13
AMENDEMENT VAN HET LID BUITENWEG

Ontvangen 7 december 2020

De ondergetekende stelt het volgende amendement voor:

Aan artikel 1.9 wordt een lid toegevoegd, luidende:

6. Bij de geautomatiseerde gegevensanalyse door het samenwerkingsverband worden geen
algoritmes gehanteerd waarvan de uitkomsten niet navolgbaar en controleerbaar zijn.

Toelichting

Dit wetsvoorstel maakt toepassing mogelijk van vormen van geautomatiseerde gegevensanalyse
zoals profilering. Het recente verleden (denk bijvoorbeeld aan de toeslagenaffaire
bij de Belastingdienst de toepassing van SyRi) heeft laten zien dat automatische gegevensverwerking
kan leiden tot onverklaarbare, onjuiste en zelfs discriminatoire uitkomsten. Deze
risico’s zijn terug te leiden op het gebrek aan inzicht in de totstandkoming van de
automatisch gegenereerde gegevens. Voorkomen moet worden dat bij automatische gegevensanalyse
niet kan worden ingestaan van de kwaliteit van de te analyseren data en de objectiviteit
van de gehanteerde analysemethoden.

Indiener stelt daarom voor om bij automatische gegevensanalyse te verplichten dat
inzichtelijk moet zijn hoe de uitkomsten tot stand zijn gekomen. Indiener spreekt
de wens uit dat de gehanteerde modellen voor de geautomatiseerde gegevensanalyse wetenschappelijk
gevalideerd dienen te zijn en auditeerbaar en toetsbaar te zijn voor toezichthouders
en wetenschappers. Van alle uitkomsten van de analyse moet het navolgbaar en uitlegbaar
zijn hoe deze tot stand zijn gekomen. Dat laat naar het oordeel van de indiener geen
ruimte voor het gebruik van zelflerende algoritmes waarbij de uitkomsten niet meer
navolgbaar zijn.

Buitenweg