Facebook, montre-nous le désordre

Cet article fait partie de la newsletter On Tech. Voici un recueil de colonnes passées.

Une pile de communications internes nous a donné un aperçu rare et sans fard des auto-examens et des délibérations de Facebook sur la façon dont les gens sont influencés par les conceptions et les décisions des produits de l’entreprise.

Peut-être que le public et Facebook en bénéficieraient si ces aperçus n’étaient pas si rares. Facebook et d’autres puissances d’Internet pourraient nous aider à comprendre le monde en nous montrant un peu plus la réalité désordonnée de la gestion de lieux de rencontre virtuels pour des milliards d’humains.

Quelque chose qui m’a agréablement surpris d’après les rapports sur les documents collectés par Frances Haugen, l’ancienne chef de produit Facebook, c’est à quel point les employés de Facebook semblaient avoir réfléchi et attentif à l’évaluation des applications de l’entreprise et de la manière dont elles façonnent ce que les gens font et comment les communautés et les sociétés se comportent. Facebook, montre-nous cette facette de toi.

Casey Newton, un écrivain technologique, fait ce cas le mois dernier: « Et si Facebook publiait systématiquement ses conclusions et autorisait l’audit de ses données ? Et si l’entreprise rendait considérablement plus facile aux chercheurs qualifiés d’étudier la plate-forme de manière indépendante ? »

Et si d’autres entreprises technologiques faisaient de même ?

Imaginez si Facebook avait expliqué à haute voix les moyens par lesquels il luttait contre la restriction des publications contenant de fausses informations sur la fraude après l’élection présidentielle américaine de 2020 et si cela risquait de faire taire des discussions politiques légitimes.

Et si Facebook avait partagé avec le public ses évaluations privées des moyens de partager facilement de nombreux messages amplifiés de messages haineux ou intimidants ?

Imaginez si les employés de Facebook impliqués dans des changements majeurs de conception de produits pouvaient, comme les juges de la Cour suprême des États-Unis, rédiger des opinions dissidentes expliquant leurs désaccords au public.

Je sais que tout ou partie de cela ressemble à un fantasme. Les organisations ont des raisons légitimes de garder des secrets, notamment pour protéger leurs employés et leurs clients.

Mais Facebook n’est pas une organisation ordinaire. Elle fait partie d’un petit nombre d’entreprises dont les produits contribuent à façonner le comportement des humains et ce que nous croyons.

En savoir plus sur ce que Facebook sait du monde aiderait à améliorer notre compréhension mutuelle et de Facebook. Cela donnerait aux personnes extérieures l’occasion de valider, de contester et d’enrichir les auto-évaluations de Facebook. Et cela pourrait rendre l’entreprise un peu plus digne de confiance et comprise.

Facebook a déclaré qu’il pensait que les rapports sur ses communications internes manquaient de nuance et de contexte. Sa réaction a inclus la répression des délibérations internes pour minimiser les fuites. Et dans mes conversations avec des personnes dans la technologie cette semaine, il y a une crainte que Facebook, YouTube, Twitter et d’autres répondent à des semaines de reportages difficiles sur Facebook en sondant moins les effets de leurs produits, ou en gardant ce qu’ils apprennent sous clé et clé.

Mais une autre façon est d’être plus ouvert et de révéler beaucoup plus. Ce ne serait pas tout à fait inhabituel pour Facebook.

En 2015, la société a rendu public et discuté recherche par ses scientifiques des données qui ont découvert que le réseau social n’a pas aggravé le problème des « bulles de filtre », dans lesquelles les gens ne voient que des informations qui confirment leurs croyances. En 2018, Mark Zuckerberg a publié un long message détaillant l’examen par l’entreprise de la façon dont les utilisateurs de Facebook réagissaient à des contenus salaces ou offensants. La même année, Facebook a dévoilé un plan ambitieux visant à partager d’énormes quantités de publications et d’autres données d’utilisateurs avec des chercheurs externes afin d’étudier des informations nuisibles.

Ces efforts étaient loin d’être parfaits. Notamment, le consortium de recherche indépendant a été poursuivi par données bâclées et les différends sur la préservation de la vie privée des gens. Mais les efforts montrent que Facebook a parfois voulu être plus ouvert.

Nathaniel Persily, professeur à la Stanford Law School qui était auparavant coprésident du consortium de recherche, a récemment projet de texte de loi qui pourraient permettre à des chercheurs indépendants d’accéder à des informations sur le fonctionnement interne des sociétés Internet.

Il m’a dit qu’il considérait le consortium de recherche comme « une tuerie sur l’autoroute vers quelque chose de glorieux », ce qui serait à la fois une transparence volontaire et forcée par les grandes sociétés Internet. Il a fait l’éloge de Twitter, qui a publié la semaine dernière un une analyse de la façon dont ses systèmes informatiques ont, dans certains cas, amplifié les opinions sur la droite politique plus que celles de la gauche.

Les recherches de Twitter étaient incomplètes. La société a déclaré qu’elle ne savait pas pourquoi certains messages circulaient plus que d’autres. Mais Twitter a été honnête sur ce qu’il savait et ce qu’il ne savait pas, et a donné au public et aux chercheurs la possibilité d’approfondir leurs recherches. Cela nous a montré le bordel.

Plus d’informations sur Facebook dans l’opinion du New York Times :

Farhad Manjoo : Les propositions malavisées du Congrès visant à réparer Facebook sont pires qu’aucune législation du tout.

Greg Bensinger : « Facebook a démontré qu’il ne résoudrait pas ses problèmes systémiques tant qu’il n’y serait pas contraint. Maintenant, il semble que seuls les annonceurs peuvent rendre le statu quo non rentable et insoutenable. »

Kara Swisher : Mark Zuckerberg n’est plus le leader adoré et la pierre de touche culturelle de Facebook.

Avant de partir…

Les entreprises technologiques géantes sont toujours douées pour l’argent : Google et Microsoft ont fait $$$$. Twitter se porte bien aussi.
Souhaitez-vous télécharger votre passeport pour regarder YouTube ? Mon collègue David McCabe rapporte que de plus en plus d’entreprises et de pays optent pour des contrôles de l’âge numérique pour essayer de garder les jeunes enfants à l’écart de tout, des jeux vidéo à la pornographie en ligne. Mais il est difficile d’équilibrer les avantages de l’anonymat en ligne tout en assurant la sécurité des enfants.
Amazon essaie de parler à la radio, en quelque sorte : The Verge écrit qu’Amazon est en train de créer une nouvelle application qui laissez n’importe qui créer un spectacle audio en direct et laissez les auditeurs sonner avec leur voix. Est-ce intelligent ou bizarre, ou les deux ?