Selon une plainte déposée par l’État de New York contre TikTok qui vient d’être rendue publique, le réseau social aurait fourni à des milliers de jeunes utilisateurs un outil de sécurité qui ne fonctionnait pas, pour mesurer l’effet de son absence sur leur temps de présence et sur ses revenus publicitaires.

Le bouton avait été pensé pour ceux qui voulaient échapper à des contenus indésirables, voire nocifs. Ce sont pourtant eux qui, selon la plainte, auraient été choisis pour servir de groupe témoin, sans en être informés, au profit d’une mesure de l’audience et des recettes publicitaires.

La plainte a été déposée en 2024 par la procureure générale Letitia James, qui reproche à la plateforme d’avoir conçu son service pour rendre les enfants dépendants et d’avoir trompé les utilisateurs sur sa sécurité. C’est l’une des plus de deux douzaines de plaintes d’États américains visant TikTok.

• Après le commerce, TikTok viserait aussi les transferts d'argent entre utilisateurs

« Algo Refresh » est un outil censé réinitialiser les recommandations de l’utilisateur, pour lui permettre de repartir sur de nouvelles bases lorsqu’on lui propose des contenus qu’il ne veut pas voir. Selon la plainte, TikTok a mené des expériences dites « fantômes » ou placebo : des milliers d’utilisateurs, parmi lesquels des adolescents et des enfants, qui avaient choisi d’activer cette fonction en ont reçu une version non opérante.

Ces utilisateurs auraient cru l’avoir activée, mais leur fil n’aurait pas changé, contrairement à celui des utilisateurs dotés de la version complète.

D’après le texte, la plateforme affirme que la sécurité est une priorité et que son service convient aux enfants et aux adolescents, tout en privant sciemment certains groupes d’outils de sécurité, dont des utilisateurs qui cherchaient précisément à éviter des contenus indésirables ou potentiellement nocifs.

• Santé mentale des jeunes : TikTok doit affronter une nouvelle enquête en France

En interne, une responsable produit du pôle bien-être numérique de TikTok aurait jugé ces tests problématiques, en prévenant que les utilisateurs pourraient les trouver trompeurs. Dans une conversation interne citée par la plainte, elle écrit : « Cette fonction concerne la transparence et le contrôle de l’algorithme. Un groupe placebo est en complet désaccord avec cela. »

L’entreprise aurait pourtant répété ces tests en 2023 sur des milliers d’utilisateurs, en comparant ceux qui n’avaient pas la fonction avec ceux qui l’avaient, pour étudier la durée de leur présence sur la plateforme et l’effet sur les revenus publicitaires. La plainte reproche aussi à TikTok d’avoir présenté « Algo Refresh » comme une réinitialisation de l’algorithme de recommandation, alors qu’il ne s’agirait que d’un changement temporaire.

Un porte-parole de TikTok a répondu que l’entreprise améliore en permanence sa plateforme et que, comme la plupart des sociétés, elle teste régulièrement de nouveaux produits et fonctions pour valider l’expérience et comprendre leur fonctionnement en conditions réelles. Il affirme que les accusations déforment le fonctionnement d’« Algo Refresh ».

Les passages rendus publics évoquent aussi une autre série d’expériences, déjà révélée par Bloomberg, qui est distincte des tests placebo. TikTok aurait sélectionné des utilisateurs au hasard et désactivé sur leurs comptes des protections limitant l’exposition à des contenus nocifs.

Bloomberg a rapporté qu’un adolescent new-yorkais inclus dans ce test s’était suicidé après avoir été exposé à des contenus sur l’automutilation et le suicide.

Selon la plainte, des examens internes montrent qu’il avait vu un « déluge » de contenus de ce type. Aucun lien de causalité entre ce décès et l’expérience n’a été établi en justice.

TikTok fait face à des procédures dans une grande partie du pays.

En septembre, l’entreprise a réglé à l’amiable la première plainte d’un État qui devait aller au procès : elle a accepté de verser jusqu’à 300 millions de dollars à l’Alabama et de modifier le fonctionnement de sa plateforme pour les adolescents de cet État.