Verslag van een bijeenkomst : Verslag van een digitale Interparlementaire conferentie van de parlementaire controlegroep Europol (JPSG) (herdruk)

H/ Nr. 7 HERDRUK1
VERSLAG VAN EEN DIGITALE INTERPARLEMENTAIRE CONFERENTIE

Vastgesteld 5 april 2022

Op 28 februari 2022 vond vanuit Brussel, België, op digitale wijze de tiende bijeenkomst
plaats van de gezamenlijke parlementaire controlegroep Europol (verder: JPSG).

De JPSG houdt op basis van artikel 51 van de Europolverordening2 politiek toezicht op de activiteiten van het EU-agentschap voor politiesamenwerking
Europol. De JPSG bestaat uit leden van de nationale parlementen – maximaal vier leden,
gelijkelijk te verdelen over beide Kamers der Staten-Generaal – en van het Europees
Parlement – LIBE-comité – en komt in beginsel twee maal per jaar bijeen.

Vanuit de Eerste Kamer namen de leden Veldhoen (GroenLinks) en Van Hattem (PVV) deel
aan de conferentie. De Tweede Kamer werd vertegenwoordigd op ambtelijk niveau.

De delegatie brengt als volgt verslag uit.

1. Vaststelling van de agenda en welkomstwoord

De vergadering werd geopend door de covoorzitters van deze conferentie, mevrouw Yaël
Braun-Pivet, voorzitter van de JPSG-delegatie van de Nationale Vergadering van Frankrijk,
de heer François-Noël BUFFET, voorzitter van de senaat van de Franse JPSG-delegatie,
de huidige voorzitter van de Raad van de Europese Unie, en de heer Juan López-Aguilar,
voorzitter van de LIBE-commissie van het Europees Parlement.

Op initiatief van mevrouw Braun-Pivet hielden de deelnemers aan het begin van de bijeenkomst
een minuut stilte voor de slachtoffers van de militaire inval in Oekraïne. Mevrouw
Braun-Pivet maakte daarna van de gelegenheid gebruik de agenda kort, procedureel toe
te lichten en een terugkoppeling te geven aan de vergadering van de Trojka-bijeenkomst,
die plaatsvond direct voorafgaand aan de JPSG-vergadering. Tijdens deze vergadering
benadrukte de Trojka dat het van belang is dat de schriftelijke vragen die, conform
artikel 4.2 van het reglement van orde van de JPSG, worden gesteld door de JPSG-leden
aan Europol, tijdig en uitputtend beantwoord worden.

2. Recente activiteiten Europol en presentatie van de stand van de onderhandelingen
over de voorgestelde herziening van de Europol-verordening

De uitvoerend directeur van Europol, mevrouw Catherine De Bolle, verzorgde ter vergadering
een presentatie van de activiteiten van en de ontwikkelingen binnen Europol. Ze keek
daarbij terug op de periode sinds de vorige JPSG vergadering op 25 en 26 oktober 2021.3 Mevrouw De Bolle ging verder in op de betrokkenheid van Europol bij de situatie in
Oekraïne. Europol is een partner van Oekraïne en staat permanent in contact en wisselt
informatie uit met de verbindingsofficier – ook wel liaison officier – van Oekraïne. Ook staat Europol in nauw contact met de andere EU instituties en
lichamen om de situatie in Oekraïne te volgen. Verder blijft Europol de politie-instanties
en andere wetshandhavingsdiensten in Oekraïne en de burgers die zij beschermen en
die geraakt zijn door dit conflict ondersteunen.

Mevrouw De Bolle nam notie van de oproep om Europol de schriftelijke vragen van de
JPSG-leden beter en sneller te laten beantwoorden en zij gaf aan zich hiervoor sterk
te maken.

Mevrouw De Bolle sprak verder de verwachting uit dat de voorgestelde wijziging van
de Europolverordening, Europol in het huidige digitale tijdperk beter in staat zal
stellen om lidstaten te ondersteunen in het tegengaan van misdrijven, terrorisme en
grote veiligheidsbedreigingen. Eind januari 2022 is het concept programmeringsdocument
van Europol voor de periode 2023–2025 aan de leden van de JPSG aangeboden, waarvan
de Europol Strategie 2020+ de basis blijft. In haar presentatie gaf mevrouw De Bolle
voorts een update van de operationele activiteiten van Europol. Mevrouw De Bolle gaf
in dit kader aan dat de COVID-19 pandemie nog altijd effect heeft op de hoeveelheid
en aard van de criminaliteit. Verder kondigde mevrouw De Bolle aan dat een update
van de Europol Strategie 2000+ is voorzien in de komende periode.

Ten aanzien van de «big data»- uitdaging van Europol haalde mevrouw De Bolle de beslissing
van 3 januari 2022 van de Europese Toezichthouder voor gegevensbescherming (EDPS)
aan waarin wordt bepaald dat Europol het DSC4 voor grote en complexe datasets zonder categorisering van betrokkenen binnen een
vaste bewaringstermijn van zes maanden moet voltooien en bij het verstrijken waarvan
Europol wordt bevolen de gegevens te wissen. Tegen deze achtergrond verwelkomde mevrouw
De Bolle het onderhandelaarsakkoord op de geamendeerde Europol oprichtingsverordening
dat voor wat betreft het thema verwerking persoonsgegevens ook deels een oplossing
biedt voor de «big data»-uitdaging van Europol.

De heer Wojciech Wiewiórowski, de Europees Toezichthouder gegevensbescherming (EDPS),
koppelde vervolgens de werkzaamheden van de EDPS inzake Europol terug aan de JPSG-vergadering.
De heer Wiewiórowski wees erop dat deze bijeenkomst naar alle waarschijnlijkheid de
laatste zal zijn onder de huidige Europolverordening en dat de rol van de EDPS onder
de nieuwe regelgeving in de praktijk kleiner zal worden. De heer Wiewiórowski lichtte
voormelde EDPS-beslissing van 3 januari 2022 verder toe. De heer Wiewiórowski gaf
aan dat Europol verschillende van de gegevensbeschermingsrisico’s heeft aangepakt
die in het eerste onderzoek van de EDPS waren vastgesteld. Volgens spreker is echter
geen significante vooruitgang geboekt bij het aanpakken van het grootste zorgpunt
inhoudende dat Europol voortdurend persoonsgegevens over personen opslaat wanneer
het niet heeft vastgesteld dat de verwerking voldoet aan de limieten die zijn vastgelegd
in de huidige Europolverordening. Een dergelijke verzameling en verwerking van gegevens
kan een enorme hoeveelheid informatie opleveren, waarvan de precieze inhoud vaak onbekend
is voor Europol tot het moment dat deze wordt geanalyseerd en geëxtraheerd – een proces
dat vaak jaren duurt. Een periode van 6 maanden voor de vooranalyse en filtering van
grote datasets moet Europol in staat stellen te voldoen aan de operationele behoeften
van de EU-lidstaten die voor technische en analytische ondersteuning afhankelijk zijn
van Europol, en tegelijkertijd de risico's voor de rechten en vrijheden van personen
tot een minimum te beperken, aldus de heer Wiewiórowski. Gelet op de operationele
behoeften van Europol en de hoeveelheid tot nu toe verzamelde gegevens, heeft de EDPS
besloten Europol een termijn van 12 maanden te geven om ervoor te zorgen dat het besluit
wordt nageleefd voor de datasets die reeds in het bezit zijn van Europol.

3. Thematisch debat I Europols bijdrage in de strijd tegen migrantensmokkelaars

De heer Jean Philippe Lecouffe, plaatsvervangend uitvoerend directeur van Europol,
directoraat Operaties, wees er in zijn presentatie op dat migrantensmokkel een ernstige,
grensoverschrijdende criminele activiteit is, die het leven van migranten in gevaar
brengt, blijk geeft van gebrek aan respect voor het menselijk leven, en de menselijke
waardigheid uit winstbejag en de migratiebeheerdoelstellingen van de EU en de grondrechten
van de betrokkenen, ondermijnt. De heer Lecouffe gaf tevens aan dat de afgelopen jaren
Europol een toename heeft geregistreerd van deze activiteiten over alle routes om
de Europese Unie in te komen, met name bij de aankomst over zee. Spreker wees erop
dat smokkelnetwerken in staat zijn om hun aanbod van illegale diensten snel aan te
passen en dat zij functioneren op verschillende manieren, afhankelijk van de geografische
locaties en de context waarin zij opereren. Zij bieden diverse diensten aan, waaronder
verschillende vervoerswijzen, safehouses langs de route en frauduleuze reisdocumenten.
In het luchtvervoer speelt fraude met identiteitskaarten en visa een belangrijke rol.
De heer Lecouffe gaf aan dat het opvoeren van de respons op migrantensmokkel een gemeenschappelijke
uitdaging is voor de EU, haar lidstaten en de partnerlanden. Spreker wees erop dat
het in 2016 opgerichte Europees Centrum tegen migrantensmokkel (EMSC) van Europol
een centrale rol speelt in de samenwerking op het gebied van rechtshandhaving doordat
het centrum de lidstaten operationele ondersteuning biedt bij hun onderzoeken door
rechercheurs uit de lidstaten bijeen te brengen, analyses te verstrekken en deel te
nemen aan actiedagen. De heer Lecouffe gaf aan dat gestreefd wordt naar een volledige-routeaanpak,
waarbij internationale samenwerking en coördinatie met de partners en tussen de lidstaten
worden gecombineerd met de inzet op ontwrichting van het bedrijfsmodel van mensensmokkelaars.
Het EMSC zal zich de komende periode richten op een betere samenwerking met belangrijke
landen van herkomst en doorreislanden en daarnaast op een uitbreiding van de kennisbasis
waarbij de lidstaten zullen worden ondersteund in de ontwikkeling van nieuwe technologieën,
aldus spreker.

De heer Johannes Luchner, adjunct-directeur-generaal, DG HOME, Europese Commissie,
sprak over de menselijke tragedie die achter migrantensmokkel schuilgaat. De heer
Luchner lichtte het op 29 september 2021 door de Europese Commissie gepresenteerde
actieplan tegen migrantensmokkel nader toe. Spreker gaf als speerpunten van dit actieplan
aan; i) een versterkte samenwerking met partnerlanden en internationale organisaties
ter bestrijding van mensensmokkel; ii) het reageren op de instrumentalisering van
illegale immigratie door overheidsactoren, iii) de versterking van het rechtskader
voor het bestraffen van mensensmokkelaars; iv) het voorkomen van uitbuiting van gesmokkelde
migranten; v) de versterking van de samenwerking en ondersteuning van het werk van
rechthandhavingsinstanties en het gerechtelijk apparaat en vi) de uitbreiding van
de kennisbasis. Tot slot wees de heer Luchner erop dat er nieuwe uitdagingen liggen
in de strijd tegen migrantensmokkel aangezien mensensmokkelaars steeds vaker gebruikmaken
van digitale diensten en instrumenten, zoals sociale media en mobiele apps voor werving,
communicatie en geldovermakingen, het ophalen en overdragen van migranten, het verstrekken
van routebegeleiding, het delen van foto's en video's van documenten en tickets en
zelfs het monitoren van rechtshandhavingsactiviteiten. Spreker gaf tot slot het belang
aan om te blijven inzetten op een intensivering van de samenwerking met de andere
agentschappen zoals Eurojust en Frontex in de strijd tegen migrantensmokkel.

Mevrouw Silke Albert, expert misdaadpreventie, Afdeling Mensenhandel en Migrantensmokkel
(HTMSS), Afdeling voor georganiseerde misdaad en illegale handel (OCB), Afdeling voor
Verdragszaken (DTA), Bureau van de Verenigde Naties voor drugs en misdaad stond onder
meer stil bij het verschil tussen migrantensmokkel en mensenhandel. Zij wees erop
dat dit verschillende soorten misdrijven zijn waarop verschillende wetgeving van toepassing
is. Beiden vormen weliswaar een grote bedreiging voor de slachtoffers en de lidstaten
en derde staten, maar behoeven ook een verschillende aanpak.

In het daaropvolgende debat met JPSG-leden kwamen onder meer vragen naar voren over
Oekraïne en de rol van Europol daarin. In dit kader vroeg het Nederlandse JPSG-lid
Van Hattem (Eerste Kamer) onder meer om een toelichting te geven op Europols strategische
samenwerking met Oekraïne en of de strategische samenwerking met Rusland nog bestaat.

In antwoord op de vraag van het lid Van Hattem gaf mevrouw De Bolle aan dat de strategische
samenwerking met Rusland enkel nog op papier bestaat en dat hier thans geen uitvoering
aan wordt gegeven.

4. Keynote Interventions

Dit betrof een sessie met Gérald Darmanin, Minister van Binnenlandse Zaken, van Frankrijk,
en Olivier Onidi, adjunct directeur-generaal DG HOME, van de Europese Commissie. Laatstgenoemde
verving Ylva Johansson, EU-commissaris voor Binnenlandse Zaken, die – gezien de op
24 februari 2022 gestarte militaire invasie van Oekraïne door Rusland – op verzoek
van de JBZ Raad met spoed was afgereisd naar EU-lidstaten grenzend aan Oekraïne om
de situatie aldaar in ogenschouw te nemen en EU-ondersteuning aan te bieden bij het
omgaan van de ontstane situatie.

Minister Darmanin verwelkomde het onder Frans EU-Raadsvoorzitterschap tot stand gekomen
(onderhandelaars)akkoord over amendering van de Europolverordening. Hij stelde dat
met de nieuwe mandaat Europol meer effectief kan optreden, onder meer in de digitale
sfeer waar de nieuwe verordening meer ruimte biedt om samen te werken met private
(tech)bedrijven. Samenwerking die onontbeerlijk is bij het bestrijden van misdaad
in het digitale domein.

Voor wat betreft de «big data»-uitdaging (hierboven reeds aan gerefereerd) stelde
hij dat met de regels in de geamendeerde verordening betreffende de omgang met bulkdata,
Europol nu weer vooruit kan. Hij tekende hierbij aan dat de datasets aangeleverd vanuit
de lidstaten, in conformiteit zijn met de in die lidstaten (en op EU-niveau) geldende
waarborgen – kennelijk in een poging te benadrukken dat de big data-uitdaging van
Europol (die handelt over het te lang in bezit hebben van bestanden) niet ging om
de vraag of de data in die bestanden rechtmatig waren verkregen.

De heer Onidi wees in relatie tot het eerder besproken onderwerp migrantensmokkel
op de rol van het Europol Competence Centre dat lidstaten ondersteunt bij het snel
informatie delen over mensensmokkelaars. Het Competence Centre ondersteunt lidstaten
ook in hun vermogen om weerbaarheid tegen cybercrime op te bouwen.

Refererend aan de «big data»-uitdaging stelde hij dat eigenlijk alleen Europol de
capaciteit heeft om bulkbestanden te analyseren en kruisverbanden met data in andere
EU JBZ databanken te leggen. Hij verwees hierbij naar de Encrochat casus (waarbij
de politie twintig miljoen chatberichten in het veel binnen het criminele circuit
gebruikte Encrochat kon meelezen na het breken van de encryptie) waar de Franse en
Nederlandse politie massieve databestanden aanleverden waarbij (enkel) Europol de
capaciteit had die snel te analyseren.

De heer Onidi stelde verder dat de gewijzigde Europol verordening het agentschap in
staat stelt intensiever samen te werken met derde landen. Ook onderstreepte hij dat
de nieuwe tekst het parlementaire toezicht door de JPSG verstevigt, onder meer door
introductie van de mogelijkheid van het uitvaardigen van formele opinies door de JPSG.

In het debat met JPSG-leden kwamen vragen naar voren over de rol en invloed van de
nieuwe staffunctionaris grondrechten die de gewijzigde Europol verordening introduceert
en over wijzigingen in de rol van de Europese Toezichthouder voor Gegevensbescherming
bij het toezicht op Europol.

Het Spaanse EP-lid mevrouw Pagazaurtundúa (Renew, waar vanuit Nederland de VVD en
D66 aan gelieerd zijn) vroeg zich af of nu Europese handhavingsautoriteiten, gefaciliteerd
door Europol, steeds intensiever samenwerken, er niet ook toegewerkt moet worden naar
een gezamenlijke «politie code». Ze stelde dat er onder burgers veel zorgen leven
over privacy (ook wat betreft de toegang van de politie tot persoonlijke gegevens)
en dat het van belang is de balans tussen (bevoegdheden) politie en (zorgen) burgers
goed in evenwicht te houden en zo het vertrouwen van het publiek te behouden. Het
Duitse Bundestag-lid Fiedler (SDP) sloot zich hierbij aan en riep op tot het komen
tot een gezamenlijke EU politiecultuur, inclusief gezamenlijke trainingen en een code
voor beroepsethiek.

In antwoord op de vragen, uitte de heer Onidi zich positief over de oproep tot een
gezamenlijke EU «politie code» als iets om op de langere termijn naar toe te bewegen.
Over het respecteren van grondrechten door Europol, stelde hij dat de standaarden
die het agentschap aanlegt bij zijn activiteiten op hoog niveau geborgd zijn. Hij
verwees naar de in juni dit jaar van kracht wordende verordening ter voorkoming van
de verspreiding van terroristische online content, waarin ook Europol een rol speelt,
als een voorbeeld van het borgen van grondrechten.

Minister Darmanin benadrukte tevens de borging van grondrechten in de nieuwe Europol
verordening waarbij hij wees op de nieuwe staffunctionaris grondrechten binnen het
agentschap, het toezicht door de EDPS, en de controle door de JPSG als drie soorten
toezicht op Europol. Hij maakte een vergelijking met Frankrijk waar het toezicht op
de nationale politie meerdere lagen kent, inclusief betrokkenheid van commissies voor
burgerlijke vrijheden.

5. Thematisch debat II Risico's en kansen van kunstmatige intelligentie (AI) voor
Europol

Het thematisch debat werd gestart met een interventie van Jürgen Ebner, adjunct directeur
governance bij Europol. Hij stelde dat het gebruik van AI-technieken feitelijk een
noodzakelijke voorwaarde is geworden voor Europol om zijn taken naar behoren uit voeren.
Hij stelde dat AI-technieken het mogelijk maken binnen zeer omvangrijke databestanden
de spreekwoordelijke naald in een hooiberg te vinden. AI en machine learning nemen hierbij mensen werk uit handen, werk dat Europol medewerkers gezien de enorm
in omvang toegenomen databestanden, nauwelijks meer handmatig zouden kunnen verrichten.
Hij haalde hier als voorbeeld beeldherkenningssystemen aan waarmee mega databestanden
snel gescand kunnen worden op beelden van online, grensoverschrijdend kindermisbruik.
Gebruik van deze technieken speelt voor Europol tijd vrij die ingezet wordt voor onderzoek
dat anders mogelijk was blijven liggen.

Tegelijk stelde de heer Ebner een zeer open oog te hebben voor risico’s van AI technieken
die bij inzet zonder adequate waarborgen kunnen leiden tot «potential harmful outcomes».
Hij stelde dat daarom AI-technieken voor gebruik eerst aan een uitgebreid afwegingskader
getoetst worden. Hij stelde dat Europol geen gebruik maakt van technieken als «predictive
policing» (wiskundige, voorspellende analyses en andere analytische technieken bij
wetshandhaving om potentiële criminele activiteiten te identificeren) en live gezichtsherkenningssystemen.
Over de publieke acceptatie van AI-technieken, haalde hij een onderzoek onder 5.000
mensen van de universiteit van Sheffield /Centric aan waaruit naar voren kwam dat
circa 90 procent van de respondenten de inzet van AI-technieken bij politieonderzoek
in beginsel ondersteunt.

Olivier Onidi (adjunct directeur-generaal DG HOME) stelde dat het zoeken naar kruisverbanden
in de zeer omvangrijke JBZ databanken moeilijk voorstelbaar is zonder de inzet van
AI-technieken. Hij hield een pleidooi AI-technieken binnen de EU zelf te ontwikkelen
om niet afhankelijk te zijn van technieken uit andere werelddelen. Hij benadrukte
– net als de heer Ebner ― dat de gewijzigde Europol verordening erin voorziet dat
onderzoek & innovatie projecten waarbij de verwerking van persoonsgegevens een rol
speelt (daaronder begrepen de ontwikkeling van nieuwe AI-technieken) vijf hordes moeten
passeren voordat ze in gang kunnen worden gezet: onder meer toestemming van de uitvoerend
directeur, consultatie van de interne toezichthouder gegevensbescherming en van de
nieuwe interne staffunctionaris grondrechten, en notificatie vooraf van de EDPS. De
heer Onidi benadrukte verder de samenloop van deze bepalingen met de momenteel in
Brussel in onderhandeling zijnde AI-verordening.

De derde spreker tijdens deze sessie was mevrouw Nathalie Smuha, onderzoeker recht
en ethiek van AI/Technologie aan de rechten faculteit van de KU Leuven. Ze stelde
dat AI geen nieuwe «magische techniek» maar eerder een set van data-analysetechnieken
is, bedoeld voor het ondersteunen van tussentijdse of eindbeslissingen, gebaseerd
op statistische methoden, kansrekening en correlatie (meer dan op causale verbanden).
Ze benadrukte de grote mogelijkheden die AI-technieken bieden, bijvoorbeeld detectie
van online misbruik van kinderen, maar gaf aan in haar presentatie vooral de risico’s
te zullen belichten.

Mevrouw Smuha gaf aan dat de Europese Commissie, de uitdagingen van AI-technieken
onderkennend, in 2018 een expertgroep op hoog niveau in het leven heeft geroepen (waar
zij lid van is) om de kansen en de van gebruik van deze technieken risico’s in kaart
te brengen. Deze expert groep – die mede aan de wieg stond van de AI-verordening die
momenteel in Brussel op de onderhandelingstafel ligt – heeft het begrip betrouwbare AI geïntroduceerd, met als basisprincipes de robuustheid, ethiek en rechtmatigheid van AI-technieken. Daarbij moeten technieken onder meer «evidence based» en vrij
van tendentie (bias) zijn. Persoonsgegevens en privacy dienen beschermd te worden en uitkomsten van AI-systemen
dienen robuust te zijn onder meer in de zin dat ze reproduceerbaar zijn. Als bijzondere
uitdagingen noemde zij dat de huidige conceptverordening niet enkel op huidige maar
ook op toekomstige AI-technieken toegesneden moet zijn. En dat de risico’s van AI-technieken
niet enkel in relatie tot individuen maar, gegeven de schaalbaarheid, ook in relatie
tot de samenleving moeten worden gezien – bijvoorbeeld het risico van het ontstaan
van asymmetrische informatiepositie die de balans tussen wetgevende, uitvoerende en
rechtsprekende macht beïnvloedt. Voor wat betreft het basisprincipe ethiek stelde
zij dat het afbakenen van toepassingen van AI die in ethische zin maatschappelijk
aanvaardbaar of juist onwenselijk zijn, moeilijker is dan het bepalen welke toepassingen
strikt verboden dienen te zijn.

De vragen van JPSG-leden richtten zich vooral op hoe het risico op discriminatie en
«bias» bij het gebruik van AI-technieken voorkomen kan worden waarbij de Franse MEP
Delbos-Corfield (Groenen) melding maakte van slechte ervaringen in het VK met het
gebruik van deze technieken. Het Nederlandse JPSG-lid Van Hattem (Eerste Kamer) sneed
het voornemen van de Europese Commissie aan tot het creëren van een Europese digitale
identiteit (waarmee burgers zich digitaal kunnen identificeren bij webdienstaanbieders
en desgewenst bepaalde persoonlijke informatie kunnen vrijgeven), en sprak zijn zorgen
uit over de mogelijke interactie tussen dit initiatief en het gebruik van AI-technieken,
en risico’s voor de privacy. Het Nederlandse JPSG-lid Veldhoen (Eerste Kamer) waarschuwde
tegen het gebruik van zelf-lerende AI-systemen zonder menselijke controle en interventie.
Zij stelde onder meer dat het op zich positief is dat bij gebruik van dergelijke systemen
binnen Europol het nemen van beslissingen in de handen van mensen blijft maar vroeg
zich, met het oog op rechtszekerheid en verantwoording, af of mensen enkel de eindbeslissingen
nemen of dat ook tussentijdse beslissingen in handen blijven van mensen. Meer als
opdracht aan zichzelf en mede JPSG-leden, riep zij parlementariërs in het algemeen
op zich grondig te verdiepen in het complexe AI-vraagstuk en de impact op samenleving
en democratie. Het Belgische JPSG-lid Metsu (Belgisch federaal parlement, NVA) vroeg
zich af wat voor Europol expliciet de kansen zijn die AI-techniek kan bieden.

De heer Ebner antwoordde op de vraag naar mogelijkheden van AI dat ondertussen bij
vrijwel alle justitiële onderzoeken binnen Europol AI-technieken ingezet worden gegeven
de, de afgelopen jaren enorm gegroeide hoeveelheid data, betrokken bij brede maar
ook individuele onderzoeken. Op de vraag van het lid Veldhoen stelde hij dat bij gebruik
van AI-systemen vanaf het begin en in alle verdere stadia menselijke interventie voorzien
is, waarbij hij ook wees op de rol van de nieuw te introduceren interne Europol staffunctionaris
grondrechten. Op de vraag van het lid Van Hattem, antwoorde hij dat Europol zelf geen
toegang heeft tot persoonsgegevens zoals die, die in de nog te introduceren Europese
digitale identiteit besloten zouden liggen, en dat dergelijke data enkel vanuit de
lidstaten kunnen worden aangeleverd, onder de daar geldende wettelijke vereisten,
in het kader van een lopend onderzoek.

Mevrouw Smuha sloot af met de opmerking dat een EU verantwoordingskader voor gebruik
van AI-technieken binnen Europol, en daarbuiten, toekomstbestendig moet zijn omdat
de mogelijkheden van deze technieken en de hoeveelheid data die voorhanden is enkel
sterk zal toenemen. Reagerend op vragen van leden naar voldoende middelen, stelde
ze dat niet alleen voldoende financiële middelen nodig zijn, ook voor toezicht, maar
evenzeer voldoende geschoold personeel dat in staat is met de complexiteit van AI-systemen
om te gaan maar evenzeer met de ethische en juridische risico’s die AI-systemen introduceren.
Alleen onder de voorwaarde van voldoende tijd, middelen en scholing kunnen functionarissen
suggesties voor besluitvorming waar AI-systemen mee komen, voldoende kritisch beoordelen.

De JPSG co-voorzitters Braun-Pivet en López-Aguilar sloten de vergadering af onder
dankzegging aan sprekers en leden. De volgende JPSG-vergadering zal in het najaar
in Brussel, Belgie, plaatsvinden, de datum wordt binnenkort gecommuniceerd.

Namens de delegatie van de Eerste Kamer,

Veldhoen

Van Hattem

De griffier van de delegatie van de Eerste Kamer, Wittich-de Ridder

De griffier van de delegatie van de Tweede Kamer, Rook