Verslag van een hoorzitting / rondetafelgesprek : Verslag van een hoorzitting, gehouden op 11 februari 2021, over de rol van socialmediaplatformen

Nr. 823 VERSLAG VAN EEN HOORZITTING

Vastgesteld 9 maart 2022

De vaste commissie voor Digitale Zaken heeft op 11 februari 2022 gesprekken gevoerd
over de rol van socialmediaplatformen.

Van deze gesprekken brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie, Kamminga

De griffier van de commissie, Boeve

Voorzitter: Azarkan

Griffier: Boeve

Aanwezig zijn zes leden der Kamer, te weten: Azarkan, Ceder, Van Ginneken, Koekkoek,
Rajkowski en Van Weerdenburg,

alsmede de heer Haveman en de heer Pancini.

Aanvang 10.01 uur.

De voorzitter:

Ik heet u allen welkom bij deze hoorzitting van de vaste commissie voor Digitale Zaken
over de rol van socialmediaplatformen. Deze hoorzitting bestaat uit twee delen van
ieder 45 minuten. De centrale vraag luidt als volgt: welke rol speelt de werking van
socialmediaplatformen bij maatschappelijke onrust, polarisatie, radicalisering, ontwrichting
en andere onwenselijke impact op democratie en rechtsstaat?

Van de Kamer zijn aanwezig: mevrouw Van Ginniken namens D66, mevrouw Van Weerdenburg
namens de PVV, mevrouw Rajkowski namens de VVD en mevrouw Koekkoek namens de Partij
voor de Dieren...

Mevrouw Koekkoek (Volt):

Volt!

De voorzitter:

Sorry, namens Volt. Neem me niet kwalijk. Het zat heel dicht bij elkaar.

Ik verwacht nog een of twee collega's. Welkom ook aan de mensen die deze hoorzitting
op afstand volgen. In het bijzonder heet ik welkom de heer Haveman. Hij gaat in het
eerste blok met ons in gesprek namens Facebook, of de andere naam waaronder het bekend
is, namelijk Meta, maar dat is volgens de mensen thuis denk ik nog niet helemaal duidelijk.
Meneer Haveman is daar Head of Public Policy Nederland, België en Luxemburg.

Blok 1

Gesprek met:

– Edo Haveman, Meta

De voorzitter:

Welkom, meneer Haveman. U krijgt eerst de gelegenheid voor een kort openingsstatement
van maximaal vijf minuten. Vervolgens zullen we starten met de inbreng van een aantal
leden van de gezamenlijke voorbereidingsgroep. Daarna gaan we in op de vragen van
individuele leden. Ik geef graag het woord aan u, meneer Haveman.

De heer Haveman:

Dank u wel.

Voorzitter, geachte Kamercommissie. Allereerst hartelijk dank voor de uitnodiging
om hier te mogen spreken. Ik ben Edo Haveman, Hoofd Public Policy bij Meta voor de
Benelux. Ik ben in die rol verantwoordelijk voor publiek beleid in Nederland, België
en Luxemburg. Ik ga over de contacten over onze beleidskeuzes met politici, toezichthouders
en beleidsmakers, en de lokale invulling van hoe wij onze verantwoordelijkheid nemen
als bedrijf. Ik begin mijn introductie met enkele opmerkingen over het belang van
veiligheid voor mijn bedrijf. Daarna zal ik in iets meer detail uitleggen wat onze
benadering is op het gebied van veiligheid. Tot slot wil ik ingaan op de werking van
ons rankingalgoritme.

Veiligheid en welzijn vormen de basis van ons bedrijf en liggen aan de grondslag van
ons businessmodel. Als mensen zich niet veilig voelen, zullen ze ons platform niet
gebruiken en niet terugkomen. Adverteerders willen niet dat hun merken en producten
worden weergegeven naast extreme en hatelijke inhoud. Daar zijn ze altijd heel duidelijk
over geweest. Met andere woorden, ons businessmodel is volledig in lijn met het nastreven
van een prettig en veilig platform. We hebben bij Meta dan ook vele duizenden mensen
werken aan veiligheid en beveiliging. We hebben daarin sinds 2016 13 miljard dollar
geïnvesteerd. In 2021 gaat het alleen al om 5 miljard dollar. Laat me kort een toelichting
geven op onze aanpak wat betreft veiligheid. Onze aanpak kent vijf pilaren: beleid,
tools, materialen, samenwerkingen en feedback.

Allereerst beleid. We hebben beleid, bijvoorbeeld onze richtlijnen voor de community,
onze huisregels, waarin we proberen een evenwicht te vinden tussen de volgende waarden:
mensen een stem geven, authenticiteit, waardigheid, privacy en veiligheid. In deze
richtlijnen staat exact beschreven wat wel en niet toegestaan is op Facebook. Het
doel is dat mensen zich veilig voelen om te delen wat voor hen belangrijk is met familie
en vrienden. Op basis van dit beleid verbieden we aanzetten tot haat of geweld, gevaarlijke
organisaties en ook fraude, naakt of pesten.

Dan de tweede pilaar, tools. We hebben tools waarmee we ons beleid kunnen handhaven.
Mensen kunnen berichten of reacties melden die mogelijk onze regels schenden, zodat
we ernaar kunnen kijken. We gebruiken ook slimme technologie, kunstmatige intelligentie,
om inhoud die mogelijk in strijd is met onze regels, te vinden nog voordat deze aan
ons wordt gemeld. In ons transparantierapport maken we elk kwartaal bekend hoe goed
dit gaat. Daarin staan het aantal berichten per categorie waarop actie is ondernomen,
het percentage van de inhoud waarop actie is ondernomen dat we proactief hebben gevonden,
het aantal bezwaarschriften, het aantal herstelde berichten en de prevalentie van
specifieke inhoud, dus hoeveel inbreuk makende inhoud daadwerkelijk wordt gezien door
gebruikers op ons platform. Onze tools werken, want het merendeel van de verwijderde
inhoud wordt opgespoord door deze slimme systemen. De prevalentie daalt gestaag.

Dan de derde pilaar, materialen. Op ons platform, in ons Helpcentrum en Veiligheidscentrum,
bieden we materialen om mensen te helpen begrijpen hoe onze tools werken en om hen
te helpen met specifieke problemen.

Vier: samenwerkingen. We hebben samenwerkingsverbanden in veel landen, waaronder Nederland.
In Nederland werken we met veiligheidsorganisaties als het EOKM, safetyNed en 113
Zelfmoordpreventie. We werken ook met Nederlandse factcheckers in dienst van AFP en
DPA. We werken met toezichthouders, zoals de AFM, de NVWA en de Ksa, en overheidsorganisaties,
zoals het Ministerie van Binnenlandse Zaken, bijvoorbeeld rondom de verkiezingen,
de politie en inlichtingendienst AIVD.

Dan de vijfde pilaar, feedback. Via de genoemde organisaties, maar ook van academici,
experts, mensen op ons platform en politici krijgen we voortdurend feedback om onze
tools, systemen en diensten altijd te kunnen blijven verbeteren.

Deze aanpak onderstreept eigenlijk al waar ik mijn toelichting mee begon: veiligheid
en welzijn vormen de kern van ons bedrijf en liggen ten grondslag aan het businessmodel.
Dit werk stopt nooit en we zullen daarin blijven investeren, ook dit jaar weer.

Ik denk dat het nuttig is om even wat tijd te besteden aan ranking en hoe ons rankingalgoritme
werkt, zodat dit helder is voordat we aan de vragen beginnen. De belangrijkste manier
waarop mensen Facebook ervaren, is via hun nieuwsfeeds. Gemiddeld hebben mensen op
elk willekeurig moment een paar duizend berichten beschikbaar in hun nieuwsoverzicht.
Dat zijn de updates van hun vrienden, van de pagina's die ze volgen et cetera. Maar
ze besteden slechts tijd aan het bekijken van zo'n 300 berichten. Het gepersonaliseerde
proces dat we gebruiken om van de duizenden berichten te komen naar de berichten die
je in je feed ziet, wordt «rangschikking» genoemd. Dat rangschikkend proces is ontworpen
om het kerndoel van de nieuwsfeed te bereiken, namelijk mensen helpen berichten te
vinden die het meest waardevol voor hen zijn. In lijn met wat ik eerder al stelde,
zijn we er niet bij gebaat om mensen verontrustende inhoud te laten zien. Als mensen
zich niet veilig voelen, zullen ze in de toekomst minder snel terugkeren en schieten
we uiteindelijk onszelf in de voet.

Nog even de werking van nieuwsfeeds in detail. Er zijn vier componenten die belangrijk
zijn voor de volgorde waarin je berichten te zien krijgt: inventaris, signalen, voorspellingen,
score. Allereerst inventaris. Dat zijn eigenlijk alle potentiële berichten die je
nog niet hebt gezien van vrienden, groepen en pagina's die je volgt. Dan signalen,
voorspellingen en score. We hebben tienduizenden gepersonaliseerde signalen over de
waarde van deze berichten en tientallen voorspellingen om de waarschijnlijkheid van
een interactie te bepalen. Die samen leveren een score op voor elk bericht, elke keer
dat je Facebook opent. Vervolgens maken we daar een eindscore van. Aanwijzingen dat
inhoud op de een of andere manier problematisch zou kunnen zijn, leiden weer tot aftrek
van de beginscore. Zodra deze integriteitsgerelateerde problemen zijn meegenomen,
krijgt elk bericht een eindscore, elke keer dat je Facebook opent. Die eindscore bepaalt
de volgorde van de berichten, want die worden op basis van de score op een logische
volgorde gezet. Elke persoonlijke feed is daarmee uniek en voor iedereen anders. We
werken voortdurend op basis van feedback om die rankingmechanismen te verbeteren.
We gebruiken daarvoor input van externe experts, maar natuurlijk ook van de mensen
die Facebook zelf gebruiken. Daarbij kunnen mensen er ook zelf voor kiezen om alsnog
de feed chronologisch weer te geven.

Over deze aftrekmechanismen willen we open en transparant zijn. In onze communityrichtlijnen
leggen wij uit wat we verwijderen, en bij het type inhoud dat we degraderen, leggen
we uit welke zaken aftrek krijgen en daarom dus minder zichtbaar zijn op Facebook.
Dat kan zijn omdat het problematisch is of anderszins van lage kwaliteit. Voorbeelden
zijn clickbaitlinks, sensationele gezondheidsinhoud, commerciële gezondheidsberichten,
nieuwsartikelen zonder transparant auteurschap, websites die in hun verkeer te afhankelijk
zijn van Facebook, misinformatie en inhoud geplaatst door herhaaldelijke overtreders
van ons beleid. Dit soort berichten zouden hogere scores kunnen krijgen dan wenselijk,
maar krijgen dus aftrek om ervoor te zorgen dat mensen op ons platform waardevolle
berichten te zien krijgen. Dus ook in onze ranking staan veiligheid en welzijn centraal.

Resumerend. Veiligheid en het bieden van een prettig platform zijn goed voor onze
business en past binnen onze missie. Als mensen zich niet veilig voelen, zullen ze
ons platform niet gebruiken. Adverteerders willen hun advertenties niet naast kwalijke
berichten hebben staan. Ik hoop dat ik duidelijk heb kunnen maken dat veiligheid ten
grondslag ligt aan dit alles.

Hartelijk dank en ik beantwoord graag uw vragen!

De voorzitter:

Dank, meneer Haveman, voor uw inleiding. Ik ga graag naar de Kamerleden voor hun vragen
en geef als eerste het woord aan mevrouw Van Ginneken namens de voorbereidingsgroep.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Dank aan de heer Haveman voor het feit dat hij hier vandaag gekomen
is. Ik ben heel blij dat we deze bijeenkomst houden. Zoals bekend maak ik me al tijden
zorgen over de impact van socialmediabedrijven. Sinds de Facebookfiles van Haugen
is dat er niet beter op geworden. Ik denk ook dat we daar met elkaar even goed naar
moeten kijken vandaag. Hoe werkt Facebook polarisatie eventueel in de hand en wat
doet Facebook eraan om dat weer te beperken?

Even over de voorbereidingsgroep. We willen in duo's een aantal onderwerpen behandelen,
waarover we vragen hebben voorbereid. Het eerste duo is collega Van Weerdenburg en
ik. Wij willen vooral stilstaan bij wat nou die impact op de samenleving is en wat
uw beeld daarvan is.

Mevrouw Van Weerdenburg (PVV):

Meneer Haveman, er is natuurlijk best wel een golf van verontwaardiging ontstaan in
de samenleving: uw platform zou onrust en polarisatie in de maatschappij aanwakkeren.
Wij proberen hier dus uit te vinden of dat inderdaad zo is en of u inderdaad – zoals
Facebookklokkenluider, mevrouw Haugen, die we gisteren gesproken hebben, zegt – extreme
uitingen en extreme meningen een megafoon in handen geeft. De vraag is dus: klopt
dat? Of is uw platform slechts een weerspiegeling van de samenleving? De wetenschappers
die we gister aan tafel hadden, hebben gezegd: er is weinig tot geen wetenschappelijk
bewijs dat er een causaliteit is tussen sociale media en polarisatie in de samenleving,
maar dat komt ook omdat we eigenlijk geen goeie data hebben om te onderzoeken. Dat
is ook wat mevrouw Haugen ons meegaf: geef maar eens aan waarom jullie niet meer data
beschikbaar kunnen stellen, zodat we inderdaad kunnen zien dat waar we wellicht bang
voor zijn, er helemaal niet is.

De voorzitter:

Meneer Haveman, uw reactie.

De heer Haveman:

Dank voor deze vragen; ik denk dat een meervoud wel op z'n plek is. Ik probeer alle
losse elementen een plek te geven in mijn antwoord, maar laat het me vooral weten
als ik onverhoopt een element vergeet in mijn beantwoording. Ik denk dat ik in mijn
introductie genoeg heb stilgestaan bij het belang van waardevolle, positieve content
voor ons platform. Ik heb geprobeerd duidelijk te maken dat er geen belang is voor
ons om mensen heftige of extreme content voor te schotelen, omdat dit mensen enkel
afschrikt en in ieder geval op de langere termijn zorgt dat mensen niet meer terugkomen.
Als mensen boos, opgewonden of verdrietig worden, is dat een negatieve ervaring. Negatieve
ervaringen leiden ertoe dat mensen niet terugkomen naar onze platformen en dat we
helemaal geen business hebben. Datzelfde geldt voor de andere kant, als je vanuit
het commerciële model, het businessmodel redeneert. Ik spreek regelmatig met grote
adverteerders in Nederland. Zij geven dezelfde signalen. Zij doen dat ook regelmatig
publiek. Zij willen niet dat hun merken, hun advertenties naast kwalijke, kwetsende,
haatdragende of opruiende inhoud komen. Daar hebben ze groot gelijk in.

Dan een paar stapjes naar achter als het gaat om polarisatie. Ik denk dat we allemaal
zien dat de maatschappij verdeeld is. Dat geldt in sommige landen misschien nog wel
meer dan in Nederland. Er is sprake van verdeeldheid. Dat vindt logischerwijs ook
zijn weerspiegeling in het online discours. Wij zijn deel van de onlinewereld. De
gesprekken die op onze platformen plaatsvinden, zijn veelal positief en prettig. Mensen
delen positief nieuws met elkaar of vinden elkaar rond gemeenschappelijke zaken, uiteenlopend
van tuinieren en hardlopen tot bakken en recente babyfoto's. Maar ja, daar vinden
ook onprettige gesprekken plaats. Dat is niet meer dan logisch, maar het betekent
wel dat wij een heel grote verantwoordelijkheid hebben om daar streng tegen op te
treden. Daarom hebben we richtlijnen voor de community, onze community standards,
die een grens trekken tussen wat wel en niet is toegestaan. Expliciet oproepen tot
haat, discriminatie, pesten en misinformatie delen die tot geweld zou kunnen leiden,
zijn verboden. Op het moment dat wij die zaken op het spoor komen, dan wel doordat
mensen die aan ons rapporteren, dan wel doordat we ze zelf vinden door slimme technologie,
zullen we die neerhalen. Wij remmen ook content af op het moment dat die een negatieve
invloed op de ervaring, en daarmee dus ook op de maatschappij, zou kunnen hebben.
Dat doen wij ook omdat het in ons belang is.

Zal ik doorgaan over data delen? Want ik zie dat mevrouw Van Ginneken misschien een
vraag wil stellen.

Mevrouw Van Ginneken (D66):

Dat heeft u goed gezien. In de introductie heb ik het net niet zo expliciet aangestipt,
maar we hadden met elkaar afgesproken dat wij als vragenstellers eventueel zouden
interrumperen, om een beetje vaart en verdieping in het gesprek te kunnen krijgen.
U heeft goed gezien dat ik dat van plan was te doen.

De heer Haveman:

Ik ben hier ook om uw vragen te beantwoorden.

Mevrouw Van Ginneken (D66):

Jazeker, en daar ben ik heel blij mee. U schetst dat u een platform wil dat iedereen
een prettige ervaring biedt. Maar tegelijkertijd waarschuwen de AIVD en de NCTV voor
de radicalisering van jongeren op socialmediaplatforms, ook uw platform. We weten
uit publicaties in The Wall Street Journal dat meer dan 60% van de mensen die lid
worden van een extremistische groep op Facebook, dat doen nadat zij daartoe een aanbeveling
hebben gekregen van jullie rankingalgoritme. Er komt daarom een vraag bij me op. U
beschrijft allerlei maatregelen die u neemt om effecten te dempen, maar tegelijkertijd
zien we dat de kern van het platform die negatieve effecten juist heel erg in de hand
werkt. Frances Haugen schetst daar heel veel voorbeelden van in de Facebook Files
die ze bekend heeft gemaakt. Voor mij voelt dit dus een beetje dubbel. Mijn vraag
is: erkent Facebook de rol die het heeft in het versterken van radicalisering en polarisatie,
of niet?

De heer Haveman:

Nee, ik herken niet het soms geschetste beeld dat sociale media als die van Meta een
versterkend effect zouden hebben op radicalisering. Er zijn net een aantal dingen
gewisseld over de samenhang tussen polarisatie en sociale media. Er werd ook verwezen
naar een aantal quotes van gisteren. Ik zou het nog wat sterker willen aanzetten:
het verband dat wordt gesuggereerd dat sociale media leiden tot polarisatie – ik heb
het mevrouw Van Ginneken een aantal keer horen zeggen – is niet wat de wetenschap
zegt. Ik heb daar ook nog wat zaken op nageplozen. Ik zag ook de positionpaper van
Rathenau, waarin ook weer wordt verwezen naar wetenschappelijke bronnen die dit verband
niet zien. Ik denk dat er allerlei voorbeelden zijn van landen waar de polarisatie
allang toenam voor er sociale media waren, laat staan Facebook, en dat er ook heel
veel landen zijn waar Facebook enorm groeit, maar de polarisatie het afgelopen decennium
aan het afnemen is geweest. Ik vind het dus moeilijk dat daar zo'n duidelijk verband
tussen wordt gelegd. Er is heel veel wetenschappelijk onderzoek gedaan, ook vanuit
Nederland. Ik kwam een tijdje terug ook nog een artikel tegen van een Zweedse dame,
Maria Nordbrandt. Zij heeft ook op basis van Nederlandse data onderzoek gedaan en
vond juist een soort van omgekeerd verband: toegenomen polarisatie leidt tot meer
socialemediagebruik. Het is dus belangrijk om echt wel te bekijken wat het onderzoek
zegt en wat de effecten zijn.

Mevrouw Van Weerdenburg (PVV):

Het klopt wat de heer Haveman zegt. Aan de andere kant: de onderzoekers van het Rathenau
constateren tegelijkertijd dat er ook gewoon heel erg weinig data is om te onderzoeken
of die causaliteit er is. Kan het zijn dat die door de wetenschap tot nu toe niet
of amper gevonden is omdat er gewoon te weinig data is, en zou Meta niet meer data
kunnen verstrekken?

De heer Haveman:

Dat zijn twee losse vragen. Ik denk dat het aan de wetenschappers is om te concluderen
of het logisch is dat die data er niet zijn en of die verbanden daarmee niet te beoordelen
zijn. Ik kan me voorstellen dat het voor dat soort macroprocessen niet per se nodig
is, maar goed, ik ben geen wetenschapper. Dat laat ik dus aan het Rathenau. Dan datadelen.
De interactie met de wetenschap is heel belangrijk. Wij proberen heel transparant
te zijn in de dingen die wij doen op ons platform, bijvoorbeeld door mensen mee te
nemen in wat ons rankingalgoritme doet en door te laten zien waarom ze bepaalde content
op bepaalde momenten zien. Je kunt op Facebook bij elk bericht klikken op «waarom
zie ik dit bericht?» Dan krijg je iets van duiding over waarom je dat nu daar ziet.
Daarnaast hebben wij elk kwartaal een rapportage ...

Mevrouw Van Ginneken (D66):

Mag ik u heel even onderbreken, meneer Haveman?

De heer Haveman:

Natuurlijk.

Mevrouw Van Ginneken (D66):

U schetst allerlei maatregelen die u neemt om effecten te beperken, maar ik ben toch
nog een beetje blijven hangen bij de onthutsende conclusie dat u denkt dat uw platform
geen actieve rol speelt in radicalisering of polarisatie. Nogmaals, als 60% van de
mensen die lid worden van een extremistische Facebookgroep dat doet na een actieve
aanbeveling van het platform zelf, dan is dat toch een niet te ontkennen effect? 80%
van de desinformatie die rondzwerft op het platform, komt vanwege het rankingalgoritme
dat u net beschreef, terecht bij de 4% van de mensen die daar het meest kwetsbaar
voor is. Dat is een groep die ook het meest geneigd is om tot acties in de fysieke
ruimte over te gaan. U kunt dan toch niet ontkennen dat u, naast alles wat u probeert
om het te beperken, ook een negatieve impact heeft op het gebied van polarisatie in
onze samenleving?

De heer Haveman:

Ik ken de cijfers niet die mevrouw Van Ginneken aanhaalt, dus ik kan niet gelijk zeggen
of het 5%, 10% of 3% moet zijn en of het lager of hoger is. Ik ben wel bekend met
de maatregelen die wij nemen. Ik vertaal het even naar de Nederlandse situatie. Nederland
heeft een turbulent jaar gehad. Een van de dingen die ik mij vanuit mijn rol bij Meta
goed herinner, waren de avondklokrellen van begin vorig jaar, of hoe je ze ook zou
willen noemen. Dat was een moment waarop wij vanuit Meta heel waakzaam waren over
wat er op ons platform plaatsvindt. Wij wilden en willen daar namelijk geen negatieve
rol in spelen. Dan zijn we waakzaam en proberen we met de relevante teams alert te
zijn ... Is het goed dat ik even mijn zin afmaak?

De voorzitter:

Als u uw laatste zin echt even afmaakt, maar probeer ...

De heer Haveman:

Toen heb ik ook zelf een aantal berichten gezien waarin een aantal van de oproerkaaiers
zelf zei: «Jongens, we moeten niet op Facebook zitten, want hier worden we continu
afgegooid. Kom mee naar deze Telegramgroep, want daar kunnen we wel open en bloot
communiceren.» Ik denk dus dat we wel onderscheid moeten maken tussen verschillende
soorten sociale media. In ieder geval probeert ons platform een vijandige omgeving
te creëren voor oproer en polarisatie, omdat we dat op ons platform gewoon niet willen
hebben.

Mevrouw Van Ginneken (D66):

Het valt me heel erg op dat u zegt: we hebben rondom rellen in Nederland de boel een
beetje in de gaten gehouden om te kijken of het niet uit de hand zou lopen. U heeft
dat ook eerder gedaan rondom de bestorming van het Capitool in Amerika. Daar heeft
u de zogenoemde breakglassfunctie gebruikt, zoals die in de wetenschap heet. Als de
polarisatie en de snelheid waarmee extreme content gedeeld wordt te gortig worden,
heeft u kennelijk een rem, een knop waaraan u kunt draaien: doe het allemaal maar
een tandje minder want anders gaat het uit de hand lopen. Dat vind ik een heel ongemakkelijk
idee. Ik probeer me voor te stellen welke vergadering er dan plaatsvindt bij Facebook
waarin mensen met elkaar uitwisselen dat er zo veel maatschappelijke onrust is dat
er aan de knop gedraaid moet worden, omdat het bepaalde effecten heeft op het gebruik
van de platformen en het verdienmodel. Waarom staat die knop niet altijd op het maximaal
dempen van polarisatie?

De heer Haveman:

Ik kan niet helemaal mee in het beeld dat mevrouw Van Ginneken nu schetst. Wij proberen
altijd een veilig platform te zijn en altijd zaken als polarisatie tegen te gaan.
Tegelijkertijd zien we dat er in de maatschappij processen gaande zijn. Ik denk dat
het voorbeeld dat ik uit Nederland aanhaalde, een proces is dat autonoom verloopt.
Wij kijken of we als platform daar een verantwoorde rol in spelen. Wij doen wat we
kunnen om het tegen te gaan, en dat doen wij vervolgens.

De voorzitter:

Ik denk dat we overgaan naar het volgende blokje. Mevrouw Rajkowski.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Ik wil specifiek doorgaan op Facebookgroepen. Facebookgroepen worden
steeds populairder. Er zitten heel veel mensen in. Ze hebben ook zeker heel veel voordelen.
Dat wil ik nog even hier gezegd hebben. Lotgenoten kunnen elkaar vinden en in gesprek
gaan over allerlei onderwerpen. Maar we zien ook de negatieve kanten ervan. Er kunnen
heel veel mensen in één groep zitten. Zo'n groep kan functioneren als een soort echokamer,
waardoor iedereen die erin zit denkt: wat ik vind, vindt eigenlijk iedereen en hier
moeten we toch echt wat tegen gaan doen. Ik heb als gemeenteraadslid in Utrecht gezien
hoe snel het kan gaan als sociale media gebruikt worden, niet alleen Facebook maar
ook andere platformen, om bijvoorbeeld rellen te organiseren. Zo is Kanaleneiland
in Utrecht op een gegeven moment door 300 jongeren op z'n kop gezet – vooral door
jongeren van buiten Utrecht, wil ik er nog even bij gezegd hebben. Daar zit onze zorg:
wat doen dit soort Facebookgroepen en wat betekent dat voor de onrust op straat? Experts
en deskundigen zeggen ook dat groepsberichten geprioriteerd worden in een Facebooktijdlijn
ten opzichte van berichten van buiten de groep. Je kan tot 2.200 mensen per dag uitnodigen
in zo'n groep, dus je hebt zo een bereik van een half miljoen mensen. Stel dat ik
ben aangesteld om een Russische desinformatiecampagne op te zetten, dat ik daarvoor
een team heb en dat ik snel succesvol wil zijn. Klopt het dan dat het voor mij slimmer
zou zijn om een Facebookgroep aan te maken en daar mijn desinformatie in te verspreiden,
dan dat ik een-op-een berichten naar allemaal mensen ga versturen.

De heer Haveman:

Even denken. Het is een als-dansituatie. Ik denk dat je theoretisch gezien sneller
berichten verspreidt in een groep dan een-op-een. Maar ook als je tien mensen tegelijk
aanspreekt, gaat dat sneller dan wanneer je één mens tegelijk persoonlijk aanspreekt.
Dat betekent dus ook dat wij een grotere verantwoordelijkheid hebben. Specifiek als
het bijvoorbeeld gaat om buitenlandse inmenging zijn we heel strikt. We hebben daar
aanvullende maatregelen en aanvullende teams voor, die specifiek boven op wat wij
coordinated inauthentic behavior noemen, zitten. Tegen dat gecoördineerde inauthentieke
gedrag hebben wij tools en teams gemaakt, die kunnen zien of dat plaatsvindt. Het
gaat daarbij om derden uit een ander land, dan wel hetzelfde land, die zich voordoen
als specifieke groepen en die informatie verspreiden, die mogelijk zelfs correct is
maar in ieder geval opruiend zou kunnen zijn. Daarop kunnen wij dan ingrijpen. Dat
zijn zaken die gebeuren. Wij proberen daar ook publiek over te rapporten. Dat doen
wij elke maand in ons Coordinated Inauthentic Behavior Report. Elke maand publiceren
we daarin welke varianten van buitenlandse inmenging wij neerhalen.

Mevrouw Rajkowski (VVD):

Dank, meneer Haveman. Ik weet dat, want ik heb veel van jullie rapporten gezien en
jullie communiceren daar veel over. Mijn vraag ging over de prioritering. Klopt het
dat berichten uit groepen voorrang krijgen in de rangorde in een tijdlijn? Speelt
die prioritering er dus een rol in? Ik heb van experts en deskundigen begrepen dat
60% van de berichten die wij in onze Facebooktijdlijn zien, uit groepen afkomstig
is, vanwege onder andere de prioritering.

De voorzitter:

Meneer Haveman, klopt dat?

De heer Haveman:

Nu snap ik uw vraag beter, dank u wel. Dat is natuurlijk persoonlijk. Iedereen heeft
een gepersonaliseerde nieuwsfeed. Als jij besluit om een bepaalde groep te volgen,
dan krijg je berichten van die groep te zien. Als je veel met die groep interacteert,
dan neemt de waarschijnlijkheid toe, denk ik, dat berichten van die groep hoger in
jouw tijdlijnen komen. Als je veel interacteert met familie of vrienden, zullen die
berichten ook hoger in jouw tijdlijnen komen. Maar goed, dat zijn allemaal losse elementen
die bijdragen aan die waarschijnlijkheid. Ik kan dus niet zeggen: het is voor altijd
en voor iedereen zo. Dat is natuurlijk het hele punt van personalisatie.

Wat ik ook belangrijk vind om te noemen, is dat we bijvoorbeeld ook de aftrekmechanismen
hebben. Op het moment dat content wordt gedeeld die niet voldoet aan onze richtlijnen
of een optelling is van onze degradatierichtlijnen, dan komt die alsnog weer lager
te staan. Als een groep bijvoorbeeld meerdere keren misinformatie plaatst of informatie
plaatst die door onze factchecker is geclassificeerd als misinformatie, dan zal die
groep blijvend aftrek krijgen. Er zijn dus mechanismen waardoor je inderdaad van groepen
meer ziet, maar er zijn ook mechanismen waardoor je van groepen minder ziet.

Mevrouw Van Ginneken (D66):

Meneer Haveman, mag ik u heel even onderbreken, want het gebeurt me weer dat mij dat
triggert. U spreekt over «aftrek». U noemde dat ook in uw introductie. Maar we weten
ook dat naast die aftrek, een reactie op een post in de vorm van een duimpje omhoog
vijf keer minder snel verspreid wordt dan een boze reactie op een post, dus een reactie
met een roodgloeiend emoticon. Frances Haugen heeft dat hier gisteren nog nadrukkelijk
uitgesproken, maar we hadden het al kunnen lezen in de Facebook Files die in oktober
openbaar werden gemaakt. Dat vind ik bijna schizofreen aan het verhaal dat ik hier
steeds hoor. In de kern werkt het platform polarisatie in de hand, maar daarnaast
heeft u allerlei maatregelen, die u ook uitgebreid wil beschrijven, die dat effect
moeten dempen. Dat voelt voor mij alsof u zegt «o, ik heb hier een doosje pleisters»,
terwijl wij denken «er is een slagaderlijke bloeding». Die passen niet op elkaar.
Gisteren hebben wij het ook aan de experts gevraagd: kan de kern van zo'n platform,
kan de kern van een Facebookplatform, niet fundamenteel anders ingericht worden zodat
het neutraal is en niet alleen de extreme content voorrang geeft, terwijl we dan toch
nog een gezellig socialmediaplatform hebben? Het antwoord was: ja. Frances Haugen
heeft een aantal concrete, specifieke technieken genoemd waar jullie voor hadden kunnen
kiezen. Jullie weten al jaren dat de keuzes die jullie gemaakt hebben in de techniek
en het verdienmodel, deze negatieve effecten in de samenleving in de hand werken.
En wij weten het, dankzij Frances Haugen, sinds oktober ook. De essentiële vraag die
wat mij betreft hier vandaag op tafel ligt, is: waarom kiest Facebook ervoor om dat
verdienmodel en de werking van het platform overeind te houden, wetende dat Facebook
deze negatieve effecten in de samenleving kan wegnemen door andere technische en commerciële
keuzes te maken?

De voorzitter:

Meneer Haveman, dat was een lange inleiding, met een goed antwoord van u?

De heer Haveman:

Nou ja, ik ga niet mee in die karakterschets. Ik ga niet mee in de suggestie dat de
mechanismen bij ons zo werken dat ze die effecten hebben. Wij zijn continu bezig om
algoritmen en andere mechanismes zo in te richten dat mensen een positieve, waardevolle
ervaring hebben. En dat moeten we wel doen, want anders zouden we binnen no time out
of business zijn. Dan zouden we niet meer bestaan als bedrijf. Ik snap dat u specifieke
zorgen heeft, maar de karakterschets dat de mechanismen helemaal verkeerd zouden staan,
herken ik niet.

Mevrouw Van Ginneken (D66):

Zegt u dan dat mevrouw Haugen fout zit? Zegt u dat zij liegt?

De heer Haveman:

Ik heb niet de specifieke quote voor ogen waar u naar verwijst. Ik denk dat allerlei
elementen in ons rankingmechanisme een rol spelen. We proberen dat continu zo bij
te stellen dat mensen een positieve ervaring hebben. Maar misschien mag ik het iets
concreter maken met, weer, een voorbeeld, op het gevaar af dat het eventjes tijd kost.
Er zijn natuurlijk heel veel reacties mogelijk op Facebookberichten: je hebt commentaar,
je hebt inderdaad de like en je hebt een aantal verschillende emoticons, emoji's,
waarmee je kunt reageren. Ik kan me nog herinneren dat ik een paar jaar terug op een
gegeven moment een ngo aan de telefoon had. Zij zeiden: «We plaatsen regelmatig nieuwsberichten
uit andere delen van de wereld die best wel heel verdrietig en schokkend zijn. Mensen
plaatsen daar over het algemeen negatieve emoji's bij, want het zijn ook gewoon nare
dingen. Maar we willen niet dat we nou overal heel laag in tijdlijnen komen, want
het is juist van belang dat de mensen dit zien.» Nou ja, dat is zo'n voorbeeld dat
misschien minder straightforward is dan wat mevrouw Van Ginneken hier aanhaalt, maar
dat ook aangeeft dat heel veel dingen in balans gebracht moeten worden. Voor ons is
het dan de puzzel om ervoor te zorgen dat waardevolle berichten bovenaan komen. En
daar zullen we elke dag naar blijven streven.

De voorzitter:

Dank. Ik ga eerst naar mevrouw Van Weerdenburg, dan naar mevrouw Rajkowski en dan
naar mevrouw Koekkoek.

Mevrouw Van Weerdenburg (PVV):

Ik ga hier misschien even tussenin zitten, want er lijkt een misverstand te zijn of
een difference of opinion. U zegt: wij nemen vooral als maatstaf dat mensen een prettige
ervaring hebben op ons platform en zolang ze blijven komen, is dat zo. Kan het zo
zijn dat heel veel mensen uw platform juist gebruiken om terug te rage-tweeten of
om...? Nou ja, om wat mevrouw Haugen rage-clicking noemde. Mensen willen dan gewoon
eventjes tien minuten schreeuwen op Facebook, dan zij ze het kwijt en gaan ze lekker
weer door met de dingen die ze voor die dag gepland hebben. Kan het zijn dat mensen
uw platform juist daarvoor gebruiken en dat fijn vinden? Kan het dus zijn dat ze daardoor
een prettige ervaring hebben? Zo ja, dan is dat misschien ook wel een soort goede
ventielfunctie.

De heer Haveman:

Nee, bij mijn beste weten is het over-, over-, over-, overgrote deel van de content
op Facebook prettige, vriendelijke, gezellige, warme, waardevolle content.

Mevrouw Rajkowski (VVD):

Dank voor de beantwoording. Mijn levenshouding is in die zin: ik geloof er niet in
dat bij Facebook allemaal mensen werken die denken «het is negen uur, de dag begint
en wij gaan even lekker zorgen dat er overal gepolariseerd wordt», et cetera. Dus
op die manier kijk ik er ook niet naar. Ik denk niet dat er vervelende mensen bij
Facebook werken die dit graag willen veroorzaken in landen, et cetera. Maar ik zie
wel hoe snel het bedrijf is gegroeid en welke rol bedrijven als Facebook uiteindelijk
spelen in onze samenleving. Het is gewoon de openbare publieke ruimte. Dat is het
gewoon! En daar komt gewoon een bepaalde verantwoordelijkheid bij kijken.

In het begin hoorde ik u zeggen: expliciete oproepen tot haat willen we niet en die
halen we dan ook neer waar dat kan. Gisteren gaf Frances Haugen aan in het gesprek
met ons: oké, maar onze technieken, onze algoritmen en onze AI zijn ook überhaupt
nog niet sterk genoeg om dit allemaal goed op te kunnen sporen, ook omdat taal gewoon
heel lastig te begrijpen is. Soms zijn het hele, hele fijne dingen en zover is die
techniek nog niet. Daar gaat mijn vraag over. Aan de ene kant denk ik: oké, als ik
een advertentie krijg, lukt het om die supergepersonaliseerd weer te geven. Dus ik
krijg bijvoorbeeld schoenen in beeld en dan denk ik: hé, ik wist nog helemaal niet
dat ik die wilde en dat ik die nodig had. Dat is dan weer fijn, maar aan de andere
kant lukt het dan weer niet om hele, hele zware dingen als datingfraude en orgaanhandel
in andere landen ervanaf te halen. Dus mijn vraag is: zijn jullie dan te snel gegroeid?
Doen jullie wel genoeg? Of kunnen jullie het gewoon nog niet?

De heer Haveman:

Dank voor deze vraag. Misschien is het allereerst goed om te beginnen met de opmerking
dat ik dat stukje van mevrouw Haugen ook gezien heb. Het percentage dat ze noemde
over onze AI – onze artificial intelligence, de kunstmatige intelligentie die achter
hatespeech aan zit – sloeg echt specifiek op hatespeech die louter en alleen door
AI was gevonden en neergehaald. Dat zijn gelukkig niet al onze systemen, want we hebben
40.000 mensen aan de achterkant die werken aan veiligheid en beveiliging. Als het
specifiek om hatespeech gaat, is het verder heel belangrijk om toch ook niet alleen
te kijken naar de output maar ook naar de outcome. Wat is de situatie waar je bent?

Ik noemde in mijn inleiding heel kort wat wij meten met prevalentie. Dus hoeveel van
de eventueel kwalijke content wordt alsnog gezien op je platform, ondanks al je maatregelen?
Dat is immers wat je wilt weten en dat is misschien ook nog een vervolgantwoord op
de eerdere vraag van mevrouw Van Weerdenburg over wat mensen eigenlijk zien op het
platform en wat er nou echt gebeurt op ons platform. In onze kwartaalrapportages van
het Community Standards Enforcement Report geven we ook prevalentiegetallen. Daarvoor
doen we steekproeven op ons eigen platform van bepaalde categorieën. Dat zijn bijvoorbeeld
hatespeech, terrorismecontent en onlinekindermisbruik; het gaat dan om dit soort verschrikkelijke
zaken.

Over hatespeech, zeer belangrijk in deze context, hebben we in het derde kwartaal
van 2021 gerapporteerd dat de prevalentie in een halfjaar is gehalveerd naar 0,03%.
Van de 10.000 berichten op Facebook die mensen zien, bevatten er dus drie mogelijk
hatespeech. Het gaat dan dus niet om de berichten die er zijn, maar om de berichten
die mensen daadwerkelijk zien, de views. Een halfjaar eerder waren dat er nog zes
en we hebben dat door middel van AI en door zelf scherp te modereren, kunnen halveren.
Volgens mij kunnen we daaraan zien dat er zeker positieve vooruitgang is.

De voorzitter:

Dank. Dan de laatste vraag in het blok, mevrouw Koekkoek.

Mevrouw Koekkoek (Volt):

Ik heb heel goed geluisterd naar de eerdere vragen en uitleggen. Waar we nu mee worstelen,
is volgens mij niet nieuw. Al jarenlang zijn er producten die anders bedoeld zijn
en toch op een bepaalde manier impact hebben op de samenleving. Ik denk bijvoorbeeld
aan de supermarkt. De meerderheid van wat er ligt in de supermarkt, is hartstikke
gezond en goed voor je en heb je nodig om te overleven, maar we weten ook dat als
er snoep of sigaretten bij de kassa liggen, mensen die eerder kopen, waar de samenleving
last van heeft en wat een impact heeft. Hetzelfde verhaal geldt hiervoor. Het merendeel
is allemaal hartstikke aardig maar dat geldt absoluut niet voor een klein percentage,
dat wel impact heeft op de samenleving. Als het bij die supermarkt misgaat, hebben
we ook nog de politie en de samenleving die er iets van vinden en een overheid die
kan reguleren, bijvoorbeeld door snoep in minder kleurrijke verpakkingen ergens anders
te leggen. Dat is het geval van Meta echter niet zo. Ik heb goed naar uw inleiding
geluisterd. Experts worden geconsulteerd door Meta. De beveiliging zit bij Meta. Mijn
vraag is de volgende. Vindt u ook niet dat gezien de impact op de samenleving, bepaalde
informatie die nodig is om wat betreft de beveiliging dat kleine stukje eruit te halen,
juist bij de samenleving zou moeten liggen? Zouden we bijvoorbeeld niet de code voor
de aanbevelingsalgoritmes openbaar moeten maken, zodat de samenleving die uiteindelijk
met de impact wordt geconfronteerd, ook mee kan kijken en mee kan beveiligen?

De heer Haveman:

Dank voor deze vraag, mevrouw Koekkoek. Er spelen heel veel algoritmes een rol om
een veilige situatie op ons platform te creëren. Er zijn algoritmes die kunnen helpen
om een kwalijke content weg te halen of die lager te zetten en om ook de ranking te
bepalen. Dat zijn optelsommen, waarvan ik niet weet of dat makkelijk is om dat publiek
neer te zetten en hoe dat het verder brengt.

Mevrouw Koekkoek (Volt):

Voordat we het te breed gaan trekken; ik blijf even bij de analogie met de supermarkt
omdat die volgens mij makkelijk te volgen is. Ik zeg ook niet dat je alle marketingstrategieën
openbaar moet maken. Het gaat mij om het kleinere percentage dat niet opgespoord kan
worden en waar we geen grip op hebben, maar dat zeker wel impact heeft op de democratische
rechtsorde in onze samenleving. Zouden we dat niet openbaar moeten maken of desnoods
alleen moeten delen met wetenschappers en onderzoekers, in ieder geval met externen?
Want op dit moment vindt de enige check die gedaan wordt, intern plaats. Dus degene
die ervan profiteert, checkt ook. En dat doen we normaliter eigenlijk nooit in de
samenleving.

De heer Haveman:

Dat delen van data met wetenschappers is een vrij fundamenteel punt. Daar zijn we
hard mee bezig. We kennen FORT, Facebook Open Resource and Transparency, via welke
we een aantal datasets nu al ter beschikking stellen als het gaat om democratie en
verkiezingen. Dat betreft ook veel initiatieven met wetenschappers in Amerika. Het
probleem met het nu al delen van data is dat de huidige GDPR/AVG, de combinatie van
hoe toezichthouders zijn geconstelleerd, helaas nu niet de juridische duidelijkheid
biedt aan ons om die data compliant, consistent en schaalbaar te delen, omdat het
persoonsgegevens zijn. Dat is echt een fundamenteler probleem. We zien dit belang
wel en we willen dit ook. Daarom zijn we ook bezig in een werkgroep van EDMO, de European
Digital Media Observatory, en academici om te kijken of we binnen GDPR tot een artikel 40-code
kunnen komen om een framework te creëren om wel eerlijk, doordacht en ethisch een
systeem te hebben waarbij we die data actief met academici kunnen delen. De DSA kan
daar ook een heel goede rol in spelen door de wettelijke grondslag te organiseren.
Maar op het moment is de wet niet goed georganiseerd om de data te delen op een manier
zoals we dat graag zouden willen doen om het onderzoek mogelijk te maken. Tegelijkertijd
gebeurt er heel veel onderzoek naar ons en brengen we zelf ook peerreviewed papers
naar buiten die wel die double check kennen, maar dit is een fundamenteel issue waar
we zelf hard mee bezig zijn maar waarbij ook echt hulp van de politiek nodig is.

De voorzitter:

Tot slot zou ik zelf ook nog een vraag willen stellen. Ik merk dat er een groot verschil
is tussen enerzijds hoe u aankijkt tegen alles wat uw organisatie wil doen om de veiligheid
van de samenleving te vergroten en de negatieve invloed te beperken, en anderzijds
de signalen die wij hebben. Dat is natuurkijk heel moeilijk vast te stellen. Zou u
als organisatie bereid zijn om mee te werken op het moment dat er een commissie wordt
ingesteld die maximaal toegang heeft tot uw organisaties om te kijken hoe dat echt
werkt?

De heer Haveman:

Dan moet ik eerst de exacte implicaties weten, omdat wij in heel veel landen opereren
en we ook te maken hebben met de wetgeving in die landen. Er zijn heel veel beelden
over ons platform. Ik hoorde gisteren nog een aantal beelden, ook wel heftige beelden
over hoe slecht Instagram voor de jeugd zou zijn. Als je het gesprek daarover voert
met wetenschappers ... Nederland heeft ook een aantal echt vermaarde wetenschappers
als het gaat over de ontwikkeling van jeugd. Als je het gesprek daarover voert met
wetenschappers in Amsterdam en Rotterdam, dan blijkt dat beeld echt anders en een
heel stuk positiever te zijn.

De voorzitter:

Maar dan zou het toch goed zijn als een commissie van deskundigen maximale transparantie
krijgt van Meta en Facebook? Dan zou de tweede oproep zijn om niet alleen de data
te delen die u wilt delen maar ook de data waarom wetenschappers vragen. Bent u bereid
om daaraan mee te werken?

De heer Haveman:

Ik zei net al dat we niet zomaar persoonsgegevens kunnen delen om goede redenen, om
goede wettelijke redenen, en dat we samen met de wetenschap bezig zijn om die kaders
daarvoor te maken. Daar ben ik persoonlijk heel blij mee, want is het is superbelangrijk
om op die manier dat gesprek te kunnen voeren. Vervolgens denk ik dat een bredere
dialoog over wat er gaande is in de samenleving, welke rol sociale media daarin spelen
en het daarnaar onderzoek doen, zeer waardevol is.

De voorzitter:

Meneer Haveman, dank voor uw statement en uw uitgebreide beantwoording. Hiermee zijn
we aan het eind gekomen van het eerste blok. We schorsen tot 11.00 uur en dan gaan
we na de schorsing verder met het tweede blok over Google.

De vergadering wordt van 10.46 uur tot 11.00 uur geschorst.

Blok 2

Gesprek met:

– Marco Pancini, Google

De voorzitter:

Aan de orde is de hoorzitting over de werking van socialemediaplatforms en maatschappelijke
organisaties als het gaat om polarisatie, radicalisering, ontwrichting en andere onwenselijke
impact op democratie en de rechtsstaat. We zijn aangekomen bij het tweede blok. Ik
stel de Kamerleden aan u voor. Mevrouw Van Ginneken van D66, mevrouw Van Weerdenburg
van de PVV, mevrouw Rajkowski van de VVD en mevrouw Koekkoek van Volt. In het bijzonder
heet ik Marco Pancini welkom. Ik ga over naar het Engels nu.

Good morning to Mr Pancini, who joins us via a video connection. Thank you for joining
us in this hearing and for the opportunity to discuss the role of social media platforms.
Before we start, I would like to introduce the Members of Parliament to you. Ms Van
Ginneken from Democrats 66, Ms Van Weerdenburg from the Party for Freedom, Ms Rajkowski
from the People's Party for Freedom and Democracy and Ms Koekkoek from the party European
Volt. Thank you again, Mr Pancini. I would like to start by giving you the opportunity
for an opening statement of five minutes. Afterwards, I would like to ask my fellow
members of Parliament to ask you several questions and for you to answer.

Mr Pancini, the floor is yours.

De heer Pancini:

Thank you, Mr Chairman, for having me here today. Dear members of the Digital Affairs
Committee, I am honoured to be here. My name is Marco Pancini and I lead the YouTube
Government Affairs and Public Policy for Europe. I am honoured to be here with you
today and to discuss these important topics.

Over the past eighteen months, we have all used digital services more than ever before.
Over half of the world is now online, with our use of technology leaping forward five
to ten years in as many months. At YouTube, our mission is to give everyone a voice
and show them the world. We believe that everyone deserves to have a voice and that
the world is a better place when we listen, share and build the community through
our stories. In support of this mission, four freedoms comprise the foundation of
our philosophy.

Firstly: freedom of expression. We believe people should be able to speak freely,
share opinions, and foster an open dialogue. We believe that creative freedom leads
to new voices, formats and possibilities. Secondly: freedom of information. We believe
everyone should have easy open access to information and that video is a powerful
force for education, building understanding and documenting world events, big and
small. Thirdly: freedom of opportunity. We believe everyone should have a chance to
be discovered, build a business and succeed on their own terms, and that people, not
gatekeepers, decide what is popular. And lastly: freedom to belong. We believe everyone
should be able to find communities of support, break down barriers, transcend borders
and come together around shared interests and passions.

Over the years, we have seen more and more people come to YouTube to share their experiences
and understand their world more deeply. This is especially true when it comes to learning
new skills or participating in civic engagement and developing informed opinions about
current events. With so many users around the world that are looking at YouTube for
information, we have a responsibility to provide a quality experience and to support
informed citizenry. Over the past several years, responsibility has been a critical
area of investment across our company. We have focused extensively on developing policies
and building product solutions with regard to these possibilities, while preserving
the opportunity of an open platform. Our approach to responsibility consists of four
pillars. The first pillar: we remove content that violates our policies as quickly
as possible. We set the responsible rules for each of our products and services to
take action against content and behaviour that infringe on them. We also comply with
legal obligations wherever we are operating, requiring the removal of content. All
our activities in this area happen through a combination of man and machine. We have
machines to manage the volume. We are talking about more than 500 hours uploaded every
hour. And we have humans for the context. Users can report videos that they believe
violate the guidelines.

Removal of content may occur for two reasons. It violates the law or it violates our
rules of law, our internal committee guidelines that we have for every product or
service. Our policies are not set in stone. We update them as we see fit, as the world
around us is changing and developing. For instance, no one saw the pandemic coming.
We had to update our policies around covid and vaccines as the situation developed.
Among others, we considered the following types of risk when considering which safeguards
and rules may be needed for each product and service. Harmful and dangerous behaviour,
hateful content, threats, harassment and bullying, violent or graphic content, sexually
explicit content, spam, abuse, unsafe practices, and impersonation and misrepresentation,
what we call misinformation.

To help us identify and manage gaps in our existing policies, we also consider access
from all over the world, including the European countries, user feedback and regulatory
guidance.

The second pillar. We want to raise up authoritative voices when users seek breaking
news and information. We want to elevate high quality content and authoritative sources
where it matters most. For example, we provide covid labels under every video, mentioning
the covid pandemic. The information window for COVID-19 content includes links to
the government site, Dutch local authorities and the Dutch information site about
COVID-19. Another example, also about The Netherlands. During the national elections
last year, we provided information on how to vote, where to vote and links to local
resources, all from authoritative sources from The Netherlands. We build our product
for everyone, while more than 100,000 YouTube employees around the world all have
of course a wide variety of views. We have safeguards in place to ensure that we design
and enforce our policies in a way that is free from improper bias.

The third pillar. We reduce the spread of content that brushes up against our policy
lines or so-called borderline content. We reduce the spread of potentially harmful
information while we feature or recommend content, even beyond our policies. While
every piece of content that is available on our site should be easy to find by users
who are actively looking for it, not all content that is aggravated is recommended
to users. We do not have an obligation to do so.

Finally, we want to reward trusted, eligible creators and artists. We set very high
standards for quality reliability for publishers and content creators, who would like
to advertise on the content. When they need to disperse, we of course want them to
be successful. These levers allow us to be consistent in our methodology across products,
while tailoring their implementation to fit the uses and the needs of its users. We
share the goals of European stakeholders to develop a comprehensive framework that
supports consumer protection across digital platforms. However, in such a comprehensive
undertaking, the slightest change in the text can have significant and potentially
unintended consequences for our responsibility efforts. A negative impact for creators
and users is jeopardizing the effectiveness of legislation. For example, as we move
into the final stages of the Digital Services Act, we believe it is critical to help
the stakeholders better understand how YouTube's approach to responsibility across
several areas and how some of the proposals could also negatively impact our current
policies and processes. Our hope is that through a constructive dialogue like this,
we will be able to balance policy goals and the realities of operating a safe and
open digital platform. Thank you for your time. I am very happy to answer any questions
you may have.

De voorzitter:

Thank you for your opening statement, Mr Pancini. I would like to give the floor to
Ms Van Weerdenburg.

Mevrouw Van Weerdenburg (PVV):

Thank you, Mr Chairman, and thank you, Mr Pancini for enlighting us this morning.
Lately, there is a strong opinion that social media platforms play a significant role
in social unrest and polarization, radicalization and other undesirable impacts on
democracy. What is your opinion on that? Is it true? Is your platform merely a mirror
of society or do algorithms or the working of your platform give a megaphone to extreme
views?

De heer Pancini:

Thank you for the question. Recommendations are there to help users to find content
that they love, content that is positive and engaging for them. That is why we want
to make sure that, especially when you are looking for music or entertainment content,
you will find content that you like or that people with a similar preference like
you also like. When it is about political speech or speech more in general the rules
have to be different. We acknowledge that. That is why we want to make sure that,
when users are coming to our platform, they find authoritative sources. When a user
is searching for breaking news, we want them to find recommended content that is coming
from authoritative sources. That was very important during the past years. The task
was: make sure that users coming to our platforms were finding this kind of information.
That is also true for issues like the pandemic. Of course, if users are searching
for content related to COVID-19, we want them to receive recommended content that
is in line with the health authorities guidelines. Whenever a video is talking about
COVID-19, there are links around the video and near the video that lead to authoritative
sources to complete the information for the users.

About the role of platforms like YouTube in the social discourse I would like to point
your attention to several facts. First, there is a lot of discussion around the business
model of platforms like YouTube. I want to clearly state that since the beginning,
it is in our business interest to make sure that content that is recommended to our
users is not borderline, is not controversial. Because this is also what our business
partners and our advertisers want. Advertisers do not want to be associated with controversial
content, borderline content. On the other side, users also want positive content.
There is an interesting study from AlgorithmWatch about the very recent German elections,
which shows that users coming to YouTube in Germany, who are searching for information
around the elections, were recommended content that was not aiming to radicalize their
views. This is testament of our efforts to ensure that this is the direction that
we are taking.

De voorzitter:

Thank you, Mr Pancini. Ms Van Ginneken.

Mevrouw Van Ginneken (D66):

Thank you. Thank you for being with us, Mr Pancini. I want to dive a bit deeper into
the recommendation algorithm. You stated that political speech, political content,
is handled differently. This recommendation algorithm is a very important one. Your
Chief Product Officer, Neil Mohan, stated that 70% of all the watched content on YouTube
came from the recommended section. So, it plays a huge part in helping us find interesting
content, but also in finding disturbing content. The recommendation algorithm is not
neutral. Last year, Mozilla conducted research and found that over 70% of the recommended
videos violate YouTube's own content policies for various reasons. This is quite interesting,
especially in non-English speaking countries.

Excuse me for this long introduction, but I think not all viewers are as involved
in this as you and I are. In this recommendation algorithm, there is something that
is called a rabbit hole. A rabbit hole works as follows: a colleague of mine recently
created a new clean YouTube account and watched a video about a PCR-test. He clicked
the first recommendation he got and that brought up a video about the validity of
PCR-tests. Then he clicked the first recommendation that came out of that video and
that was a video about a conspiracy theory on whether or not corona is a hoax. This
is called a rabbit hole: you get pulled into radical extremist content quite quickly.
This happens on your platform. This is quite a worrying phenomenon, I think, with
regard to polarization in our society. Can you reflect on how this algorithm comes
up with this extreme content so quickly? What is happening there?

De heer Pancini:

Thank you for this question. I would be very happy to look into the example that you
are bringing to my attention and to provide you with feedback. That said, let me put
into context our work around recommendation and content more in general. Let us start
from the entry point of the conversation. We want to make sure that every piece of
content on our platform is in line with our policies. How do we do that? We do that
with a combination of machines and humans. Machines help us to find the content at
scale, humans review the content and review also the flags that we are receiving from
our users. First and foremost, if a piece of content is not in line with our policies,
we want to make sure that we are able to identify this content and remove it with
as little views as possible. To give you an idea, we have developed a metric about
the priority view rate. For every 10,000 views this measures the number of views that
come from priority content. In Q3 2021 this was 0.9% to 0.11%, meaning that for every
10,000 views only 9/11 were coming from a priority service. Is this perfect? Of course,
it is not. It is very important to adapt our policies to local and specific issues.
In relation to this, I want to mention one example that in my view is very important
in relation to the development of our policies. During the pandemic, we started to
see, in Europe in particular, real-life attacks on 5G masts and in plants, because
there was this hoax that 5G was one of the reasons why covid was spreading. We took
these developments into consideration in our policies in a matter of days. We adapted
our policies. This was something that was coming from Europe and from The Netherlands.
Of course, this was in conflict with the guidelines from the local authorities. Once
again, we were able to attack this content.

Now, moving to the recommendation, because I want to make sure that I answer your
question. When it comes to recommendation, of course we do not want to recommend content
that is against our policies.

Mevrouw Van Ginneken (D66):

Excuse me, Mr Pancini. I really appreciate that you want to be very specific in your
answer, but I want to focus on the negative effects of the algorithm. You mention
all kinds of seemingly low numbers, but research also shows that in general 80% of
the most arousing, most extreme content is delivered to a small group that is most
willing and likely to act on this content. So, small numbers at first glance may have
a huge impact on people who are maybe likely to storm the Capitol. This recommendation
algorithm has quite a big responsibility. All the mitigating actions you take bypass
the fundamental question: should you not adapt the algorithm itself and take a root
action on that?

De heer Pancini:

Indeed, that is the main point. What does the small number mean? It means that the
way the algorithm works, it is not pushing the users towards the rabbit hole. We strive
to push users to a variety of views. That is why I mentioned the recent analysis from
AlgorithmWatch. I am aware of the study done by Mozilla. I am also aware of the specific
situation where users are already radicalized or where they are searching for content
that confirms their bias. Of course, not because of the recommendation but because
of the way they are interacting with the platform, if they keep on searching and keep
on subscribing for specific channels, they could get the same suggestion. But that
is not the way the algorithm works. The algorithm always goes in the direction of
finding more views on the case of the radicalization. What we need to do as a society
is really take hold of these issues, as we did for example in the context of radicalization
and terrorism a few years ago, by providing additional information near every video.
If a video is working according to the lines of our policies, borderline would not
be recommended for the user to look into this. You want to make sure that near the
video there is a clear indication of the authority's opinion. For example, for a hoax
or conspiracy theories: when it is against our policies, it is taken down. If it is
not against our policies but if the way the content is expressed is borderline, we
do not want to recommend this video and we will use a local expert to identify this
content. If a user is searching for this video and finds the video, around the video
we want to make sure that the user can find more information coming from authoritative
sources.

De voorzitter:

Thank you, Mr Pancini. I would like to give the floor to Mrs Rajkowski.

Mevrouw Rajkowski (VVD):

Thank you, Mr Pancini, for being here today. We invited multiple social media platforms
and YouTube and Facebook/Metaware were the two that said: we are going to come and
going to take our responsibilities. That is great, thank you. I want to talk to you
about facts. Everyone has a feeling or an image of what social media platforms do.
When I look at the facts, I see that in January of this year, according to an article
in The Guardian, there was a letter signed by more than 80 groups of fact checkers
around the world. They said that the video platform is hosting content by groups including
Doctors for the Truth, who spread covid misinformation, and videos supporting fraud
narrative during the US presidential election. You just stated in your introduction
that you are doing a lot when it comes to misinformation. The good thing here is that
your platform allows to do this extensive fact checkers research. I want to ask you
the following. In Europe, we are working on new legislation, the Digital Services
Act and the Digital Markets Act. You are probably well aware of this. What is holding
you back to take this legislation into account and to take your responsibility right
now? Why are you not waiting until this legislation is in force and obliging you to
do so?

De heer Pancini:

Thank you, Mr Chair. That is also an excellent question. This question gives me the
opportunity to speak about the work that we are doing with fact checkers in the context
of the code of practice on misinformation. You are probably familiar with the previous
code of practice on misinformation that we signed on the occasion of the last European
elections, to make sure that we had processes and best practices in place to handle
all this information in the context of the European elections. The aim of this code
for Brussels was to monitor closely. We have been providing at first a bi-weekly,
then a monthly and bi-monthly report to the European Commission, which is publicly
available, about the efforts that we are taking against COVID-19. We believe that
there is room to improve this code of practice. That is why we are actively discussing
how to improve and strengthen the obligations of the code of practice with a very
big group of stakeholders, including fact checkers. Of course, that is going to be
in line with the framework of the DSA. You are correctly suggesting that we are not
waiting for the DSA to tell us how to take hold of important societal issues like
this information.

Mevrouw Rajkowski (VVD):

Thank you. Let us make it concrete. This article is relatively new, from January,
so just a few weeks ago. What has changed since then?

De heer Pancini:

The article is actually an important call for stricter collaboration with the fact
checkers. This is absolutely in line with our interests. We are investigating how
we can work in a more effective way with fact checkers across the world in the context
of the code of practice and also how to ensure that we can help each other and find
positive ways to inform users. I think the letter was an important reminder for us
about how we need to work with fact checkers in a more effective way. We are looking
into this right now. We hope that in a few weeks’ time we can announce that the new
code of practice has been signed.

De voorzitter:

Thank you, Mr Pancini. I will give the floor to Mrs Koekkoek.

Mevrouw Koekkoek (Volt):

I want to ask a question about the importance of the right to information that you
rightfully mentioned in your introduction, especially in the context of the dependence
on Google products. We, as customers, but also in the context of businesses or education,
have seen that there are many different Google services and products. There is also
interoperability between these services and products. Therefore, in practice we are
a society that is quite dependent on how Google products function with each other.
I can see that there is a risk that actually limits the right to information, because
all those customers, but also teachers and school students are dependent on what Google
suggests and on what is offered. How do you reflect on this? Especially on the negative
impact on the right of freedom of information that bigger market players such as yourself
might cause?

De heer Pancini:

It is in the Google DNA – and YouTube is absolutely in line with this – to offer products
that are open and available to everyone and to create a vibrant ecosystem. The main
example is Android. Android is an operating system for mobile phones, which can be
tailored and can be used from a different OEM. It is creating a vibrant ecosystem
of platforms and applications. Just to give you an idea, the main way for users to
access TikTok is through Android. TikTok is a very effective and available competitor
for services like YouTube. That is for sure the direction the openness of the platforms
that we are creating is taking. That said, the call for interoperability is very important.
We are looking into these topics in the context of the DSA and the DMA. When we talk
about interoperability and, for example, transparency, it is always very important
to understand the balance that we need to find between this very important concept
and other equally important concepts like safety, security and privacy. We have to
make sure that interoperability and transparency are not creating situations in which
we put the safety and the data of our users at risk. I am happy to subscribe to everything
you said and to confirm that our view goes in the direction of building open platforms.

De voorzitter:

Mrs Koekkoek.

Mevrouw Koekkoek (Volt):

Maybe a question to specify this. What I hear in your answer is mostly related to
market competition and the choices that we can make as a customer. But what I meant
is that as users, for example teachers or students, we all sign user agreements when
we use products and services. In those product agreements there are certain standards
for privacy and for what can be done with our data. Considering that there are different
services and products but that the operator is the same, the privacy standards in
those agreements are similar. This is what I meant by the market power of those agreements
versus the right to information that we all have. How would that perhaps negatively
conflict with each other or spiral us in a direction that would actually limit our
right to information? Because we are all operating under the same user agreements.

De voorzitter:

Your reaction, Mr Pancini.

De heer Pancini:

That is an excellent question. I think that my colleagues from the Cloud team would
probably be better equipped to answer your question. From a consumer point of view,
there are so many rules and regulations that are in a certain sense helping the platforms
to build their terms and conditions and privacy policies, that from that vantage point
I do not see this conflict. I and my colleagues from the Cloud team will be very happy
to explore this point in more detail with you.

De voorzitter:

Thank you, Mr Pancini. I would like to give the floor to Mr Ceder on behalf of the
Christian Union.

De heer Ceder (ChristenUnie):

Thank you so much for being here, Mr Pancini. I have a question for clarification.
Is it true that the end goal for your platform, for Google and YouTube, is that people
spend as much time as possible on the platform, with the aim of creating advertisement
opportunities and the monetary model? Is that true or do you have another objective?
This relates to my next question.

De heer Pancini:

It is not true. I want to confirm that our goal is twofold. Firstly, we want to make
sure that our partners, the creators, can have a voice and can find an audience. We
also want to create an effective business model with ways to monitor by which creators
can help make it a sustainable business. Very soon, we are going to provide the data
about what this means in The Netherlands. We are very happy with that. On the other
side, we want to make sure that users can have a variety of sources and voices to
entertain themselves, to inform themselves, to learn something. To your specific question:
you said this could be an act of faith that you are asking. No, it is not an act of
faith. What might help to convince you is that if we do not do this in a proper way
– for example if we suggest borderline content, controversial content to our users –
the advertisers that are helping us to build an effective business would be unhappy
and would go away. Therefore, our business would fail.

De voorzitter:

Thank you. Your next question, Mr Ceder.

De heer Ceder (ChristenUnie):

Thank you for answering that question. I have another question related to your answer.
As we previously discussed, the algorithm provides videos that would most likely be
appealing to people. Is that not just because the platform wants people to stay as
long as possible on the platform? If that was not the case, you would not provide
the most appealing videos for people. Could you clarify that point? I hear what you
are saying, but at the same time, the usage on YouTube and the answers that were given
previously do not seem to match. So, just for clarification.

De heer Pancini:

That is an excellent point. That is why, while on one side making sure that users
come to our platform and find the content that they love, at the same time we respect
a quality time for our users. We built a series of tools for the wellbeing of our
users. These tools are for example the possibility to switch off Autoplay, the possibility
to get reminders about the time that you are spending online, or the reminder to take
a break after watching a certain number of videos. It is really not about the quantity
of time that users are spending on the platform, it is about the quality of the time
spent on the platform. This is the kind of virtual circle you want to create. In order
to assist parents to do this effectively, we provide parents with tools that can help
them to make sure that their kids have healthy and positive experiences on our platform.
For example, which content they can watch on YouTube but also how much time the kids
can spend on YouTube. It is a holistic approach which strives to ensure that users
spend quality time on our platform and have a quality experience.

De voorzitter:

Thank you, Mr Pancini. Mrs Van Ginneken.

Mevrouw Van Ginneken (D66):

I have another question about the effects of the recommendation algorithm. Earlier,
you already mentioned a few seemingly low numbers of extreme content that is delivered.
I am still not quite satisfied with the answers I got. We know that the recommendation
algorithm delivers this extreme content to exactly the most receptive and the most
vulnerable users. The very essence of the recommendation algorithm is that it brings
the content to people, who are most likely to engage with it. The Dutch Intelligence
and Security Service warned about the polarizing and radicalizing effect of this mechanism,
because it also brings extreme content to those people, who are most likely to act
on it in a physical space, as we saw in the United States with the storming of the
Capitol. The low numbers you constantly report are, to my taste, somewhat diminishing
the urgency of the problem. It gives me the idea that you are giving up on those people
and the huge negative impact they, because of your recommendation algorithm, can have
on our society. Can you reflect on that?

De heer Pancini:

That is absolutely a very valid point. I would like to mention three additional clarification
points. Firstly, once again it is in our business interest that we do not recommend
borderline content. For the majority of users, borderline content creating engagement
does not bring any value to advertisers and does not create any positive engagement.
So, firstly the business argument. But then I want to be a little more specific. It
is not only a matter of quantity in the numbers I report. It is also a matter of quality.
In order to identify borderline content and specifically content that is not against
our policies but that is controversial, we use local experts that are helping us in
rating the content. When content is identified as borderline, it is not recommended
anymore.

Finally, it obviously is a challenge for us, because we want to find the fine balance
between keeping the platform open to different points of view and making sure that
we do not run the risk to help people to radicalize. How are we trying to achieve
this? With all the tools that I described before. But we also really welcome the support
from institutions. For example, I would like to bring to your attention the recent
decisions that were made by the courts in The Netherlands about two actions that we
took. Two very important speakers, including a politician, were first appealing to
us and then to the relevant courts concerning our decisions. The courts confirmed
that our decisions were right. I do not want to say in a certain sense that we want
to offload these to courts, but I want to tell you that, since sometimes these decisions
are so delicate and important, we of course want the judge and jury to enlighten this.
We welcome the confirmation and we welcome the rule of law, which helps us to do a
good job.

Mevrouw Van Ginneken (D66):

But, referring to the article in The Guardian that my colleague Rajkowski quoted earlier,
the researchers stated that all the current measures that you are taking prove insufficient,
especially in non-English speaking countries. So, there is still a problem to solve
here.

De voorzitter:

Maybe before you start answering, Mr Pancini, Mrs Rajkowski would like to add something
as well.

Mevrouw Rajkowski (VVD):

Yes, thank you. Of course, we understand that YouTube does not have all the knowledge
when it comes to countries about what is right and what is wrong. If a platform behaves
not only like a company, but also like the police and the judge, something is going
wrong. I would like to ask you this specific question. How many times, let us say
in January of this year, have you found something on the platform that is possibly
illegal? How many times did you give a signal to the Dutch police and the Dutch intelligence
institutes?

De heer Pancini:

Thank you so much for these questions. Let us start with the first one. The article
talks about different platforms. By the way, one example in the article we are looking
at is making reference to a video that was linked from Facebook. I think the letter
from the fact checkers is a very important call for improving the collaboration. That
was also how we followed-up with the fact checkers: to look into ways in which we
can work together, especially in the context of the coming code of practice.

On the language side, I confirm that, for example with the attacks on the 5G masts
in The Netherlands, we take into consideration local specificities and local languages,
including the use of local experts to help us identify borderline content. Regarding
your question about how many times, I cannot be so specific, because the data are
not yet available. Of course, they have to be processed. If you go to our transparency
record however, you will find all the information there relating to how many requests
for information we received from law enforcement across the world and how many answers
we gave.

Mevrouw Rajkowski (VVD):

Excuse me for interrupting you, Mr Pancini. I am just looking at the time. Of course,
I could imagine that this would be your answer, when I asked you about the numbers
for January. That was only two weeks ago. I can imagine that you would say that you
do not have the data yet. Let me then ask you the same question about January last
year. I am not asking you how many times intelligence services asked you to deliver
information, but how many times you saw something happen on the platform of which
you were thinking: this is someone from The Netherlands trying to create something
that we do not like, something that is illegal. How many times have you given signals
to the Dutch authorities?

De heer Pancini:

That is a question about delicate information. I think I cannot disclose that in this
public hearing. But I welcome you to get in touch with for example Europol or the
association that is looking into S.E.S.A.M.E. in The Netherlands to hear how we are
collaborating under the rule of law in this regard. Especially the example of S.E.S.A.M.E.
is in my view very important. Every time we find a piece of content on our platform
that is child abuse material, we communicate this content to the international umbrella
organization coordinating action against these horrible events. This association then
refers it to the local authorities for following up on investigations, including European
law enforcements. This happens for high profile crimes. Our partners can confirm that.

De voorzitter:

Thank you, Mr Pancini. That brings us to the end of this public hearing. I would like
to thank you for answering the questions of our Members of Parliament.

We zijn aan het einde gekomen van het tweede deel en daarmee ook aan het einde van
deze hoorzitting van de vaste commissie voor Digitale Zaken over de rol van socialemediaplatforms.
Ik dank de mensen thuis die ons gevolgd hebben. Ik dank de Kamerleden en natuurlijk
onze gasten. Thank you again, Mr. Pancini. Ik wens iedereen een hele plezierige dag
en sluit deze vergadering.

Sluiting 11.45 uur.