Les personnes recherchant sur Facebook des images de la fusillade raciste de samedi à Buffalo, dans l’État de New York, ont peut-être trouvé des messages contenant des images de l’attaque ou des liens vers des sites Web promettant la vidéo complète du tireur. Intercalés entre ces messages, ils peuvent également avoir vu une variété d’annonces.
Le réseau social a parfois diffusé des publicités à côté de messages proposant des extraits de la vidéo, qu’un homme armé a diffusé en direct sur la plateforme vidéo Twitch alors qu’il tuait 10 personnes. Au cours des six derniers jours, des enregistrements de ce flux en direct ont circulé sur Internet, notamment sur Facebook, Twitter et des forums et sites marginaux et extrémistes, malgré les efforts de certaines entreprises pour supprimer le contenu.
Le rythme auquel le flux en direct éphémère d’un homme armé de 18 ans s’est transformé en un enregistrement permanent à prolifération rapide montre les défis auxquels sont confrontées les grandes plateformes technologiques pour surveiller leurs sites à la recherche de contenus violents.
Facebook et sa société mère, Meta, s’appuient sur une combinaison d’intelligence artificielle, de rapports d’utilisateurs et de modérateurs humains pour suivre et supprimer des vidéos de tournage comme celle de Buffalo. Mais dans certains résultats de recherche, Facebook fait apparaître la vidéo violente ou des liens vers des sites Web hébergeant le clip à côté des publicités.
On ne sait pas combien de fois des publicités sont apparues à côté des messages avec les vidéos. Les recherches de termes associés aux images du tournage ont été accompagnées de publicités pour un film d’horreur, des entreprises de vêtements et des services de streaming vidéo lors de tests menés par le New York Times et le Tech Transparency Project, un groupe de surveillance de l’industrie. Dans certains cas, Facebook a recommandé certains termes de recherche sur la vidéo du tireur de Buffalo en notant qu’ils étaient « populaires maintenant » sur la plate-forme.
Lors d’une recherche, la plate-forme a fait apparaître une publicité pour une société de jeux vidéo deux messages sous un extrait du tournage téléchargé sur Facebook qui a été décrit comme « très graphique… .Buffalo Shooter ». Le Times ne divulgue pas les termes ou expressions exacts utilisés pour effectuer une recherche sur Facebook.
Augustine Fou, chercheuse en cybersécurité et en fraude publicitaire, a déclaré que les grandes plateformes technologiques ont la capacité de démonétiser les recherches autour d’événements tragiques. « Techniquement, c’est aussi simple que ça », dit-il. « Si vous choisissez de le faire, une personne pourrait facilement démonétiser ces termes. »
« Notre objectif est d’empêcher les personnes utilisant nos services de voir ce contenu horrible même si les mauvais acteurs sont déterminés à attirer l’attention dessus », a déclaré Andy Stone, un porte-parole de Meta, dans un communiqué. Il n’a pas abordé les publicités Facebook.
Facebook a également la capacité de surveiller les recherches sur sa plateforme. Les recherches de termes tels que « ISIS » et « massacre » conduisent à des avertissements de contenu graphique sur lesquels les utilisateurs doivent cliquer avant de voir les résultats.
Bien que les recherches de termes similaires sur la vidéo Buffalo sur Google n’aient abouti à aucune publicité, M. Fou a déclaré qu’il existait une différence inhérente entre la plateforme de recherche et Facebook. Sur Google, les annonceurs peuvent choisir les mots clés sur lesquels ils souhaitent diffuser leurs annonces, a-t-il déclaré. Facebook, d’autre part, place des publicités dans le fil d’actualités ou les résultats de recherche d’un utilisateur qu’il juge pertinents pour cet utilisateur en fonction des intérêts de Facebook et de l’activité Web.
Michael Aciman, un porte-parole de Google, a déclaré que la société avait désigné la fusillade de Buffalo comme un « événement sensible », ce qui signifie que les annonces ne peuvent pas être diffusées contre les recherches qui y sont liées. « Nous n’autorisons pas la diffusion d’annonces sur des mots clés associés », a-t-il déclaré.
Facebook a été critiqué dans le passé pour des publicités apparaissant à côté de contenus d’extrême droite. Suite à l’émeute du 6 janvier 2021 au Capitole des États-Unis, Nouvelles de BuzzFeed a constaté que la plate-forme faisait apparaître des publicités pour des équipements militaires et des accessoires d’armes à feu à côté de messages sur l’insurrection.
Suite à ce rapport, la société a temporairement annonces interrompues pour les accessoires d’armes à feu et l’équipement militaire jusqu’à l’investiture présidentielle ce mois-là.
