Meta

Meta gedagvaard vanwege schadelijke algoritmes

Op 24 oktober 2023 hebben 42 staten uit de VS een procedure aangespannen tegen Meta.1 De aanleiding? Meta hanteert gevaarlijke algoritmes en functionaliteiten die erop zijn gericht om jonge gebruikers verslaafd te maken aan hun platforms.2 Daarnaast heeft Meta herhaaldelijk het publiek misleid over de gevaren van haar social media platforms.3 Het gaat om de schade die vermoedelijk wordt veroorzaakt door het gebruik van bepaalde algoritmes. Opvallend is dat het in deze zaak niet gaat om de vraag of die technologie ontoelaatbaar zou zijn. Er worden vier verwijten gemaakt4: (1) Meta heeft Instagram en Facebook zodanig ontwikkeld dat zij een verdienmodel hebben gemaakt dat erop is gericht om jongeren zo lang mogelijk op hun platforms te houden. (2) Meta heeft schadelijke en manipulatieve producten ontwikkeld en gelanceerd, met het doel om jonge gebruikers dwangmatig en langdurig op hun platforms te houden. (3) Meta heeft stelselmatig misleidend gerapporteerd over lage kans op schade door hun technologie. (4) Meta ontkent, ondanks intern en onafhankelijk onderzoek, de schade die haar technologie kan toebrengen.

Claim

In dit artikel wordt het tweede punt besproken. Dit verwijt houdt kort gezegd in dat Meta functies ontwikkelt en gebruikt om jonge gebruikers langer op hun platforms te houden. Dit, terwijl Meta weet dat jongeren kwetsbaar zijn voor bepaalde vormen van manipulatie. Deze kwetsbaarheden worden uitgebuit via verschillende toepassingen en algoritmes op Instagram en Facebook.5

Dit uitbuiten doet Meta op verschillende manieren. In de eerste plaats hebben Meta-platformen een feed.6 Van origine was een feed chronologisch, maar sinds 2016 is de Instagramfeed niet chronologisch samengesteld maar op basis van interactie. Het algoritme laat eerst de posts met de meeste likes en comments zien. Daarnaast heeft de feed een infinite-scroll-scherm.7 Wanneer je één post bekijkt, zie je al een stukje van de volgende post. De infinite scroll en de populariteitsvolgorde van berichten zijn toepassingen die erop zijn gericht om gebruikers zo lang mogelijk op het platform te houden. Er zijn ook toepassingen die zijn ontwikkeld om gebruikers zo váák mogelijk naar het platform te trekken, bijvoorbeeld pushnotificaties en het publiceren van tijdelijke content, zoals Instaverhalen.8 Het publiceren van deze verdwijnende content speelt in op het fenomeen FOMO (fear of missing out). De claims stellen dat Meta FOMO misbruikt door het gebruikmaken van tijdelijke content, pushnotificaties en livestreams.9

Dit zijn verschillende methodes waarop Meta toepassingen gebruikt om jonge gebruikers naar hun platforms te lokken. Binnen dat platform wordt gebruikgemaakt van een serie algoritmes, zoals het aanbevelingsalgoritme, dat uit de beschikbare content een selectie maakt om gebruikers een toegespitste, individuele ervaring te geven.10 In 2021 berichtte een leidinggevende van Facebook dat dit algoritme ervoor is bedoeld om mensen niet urenlang aan hun telefoon gekluisterd te houden, maar het onderscheid tussen relevante en andere content te vergemakkelijken.11

Volgens de eisers bieden deze aanbevelingsalgoritmen materiaal aan dat problematisch is voor jonge gebruikers, zoals content over eetstoornissen, lichaamsdysmorfie, pestgedrag, gewelddadige beelden of ander schadelijk materiaal.12

Schade

De schade waar deze claim op ziet is met name lichaamsdysmorfie en negatieve zelfbeelden. Deze schade wordt veroorzaakt doordat Meta filters en andere mogelijkheden biedt aan gebruikers, bestemd voor sociale vergelijking en rangschikking. Bovendien worden jonge gebruikers verslaafd gemaakt doordat zij worden ontmoedigd om minder tijd op Instagram of Facebook door te brengen.13

De eisers verwijzen naar een onderzoek van Twenge en Farley waaruit volgt dat uren die worden gespendeerd op social media sterker geassocieerd worden met zelfbeschadiging, depressie en/of negatieve zelfbeelden, dan wanneer dezelfde tijd wordt gespendeerd aan TV-kijken of gamen.14

Conclusie

De aanklacht tegen Meta belicht een nieuwe manier om verantwoordelijkheid neer te leggen bij grote social-media bedrijven. Deze aanklacht is uniek, omdat het niet gaat om privacy, maar mentale gezondheid. De zaak kan verstrekkende gevolgen hebben met betrekking tot nieuwe strategische procedures tegen grote bedrijven.

 

Voetnoten: 

[1] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 1.

[2] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 12-19, 80-104.

[3] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 23-73.

[4] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 6.

[5] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 6.

[6] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 25.

[7] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 25.

[8] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 26.

[9] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 26.

[10] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 30.

[11] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 31.

[12] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 37.

[13] The United States District Court for the Northern District of California, Case 4:23-cv-05448, document 1. p. 37.

[14] Jean Twenge & Eric Farley, Not All Screen Time Is Created Equal: Associations with Mental Health Vary by Activity and Gender, 56 Soc. Psychiatry & Psychiatric Epidemiology 2017 (2021).

 

HVG LawFlynthAKD Dirkzwager
DLA PiperWintertalingA&O ShearmanVan DoorneBaker McKenzieEIFFEL Norton Rose FulbrightNautaDutihlPrivacy Company
Inloggenclose