Embauchée en 2019 par le groupe gérant les réseaux sociaux Facebook, Whats­App et Instagram, pour lutter contre la diffusion de discours de haine et de fausses informations, cette informaticienne explique avoir vainement tenté pendant deux ans de faire évoluer de l’intérieur les pratiques de l’entreprise. En mars 2021, elle a décidé de rendre publics des documents internes, les faisant parvenir au régulateur de la Bourse américaine, la SEC, au Congrès américain, ainsi qu’à des journalistes dans le monde entier.

Au fil des publications par la presse, le grand public a pu apprendre que, pour augmenter le temps passé en ligne par les utilisateurs, Facebook a programmé des algorithmes favorisant la désinformation ou la diffusion de propos dits toxiques, d’après les modérateurs du réseau. Il semblerait que ces algorithmes soient devenus d’une complexité telle qu’ils échapperaient à leurs propres concepteurs, sans que cela trouble outre mesure Facebook. Les documents montrent aussi que le réseau social consacre davantage de ressources à instaurer une modération des propos en Occident, et beaucoup moins dans le reste du monde. Ainsi, en Inde, les discours de haine contre la minorité musulmane ont pu se répandre sans obstacle en 2020. Comme l’a déclaré Frances Haugen devant les parlementaires britanniques à Londres le 25 octobre, « publier du contenu haineux serait le meilleur moyen de croître ».

La publication de l’étude interne dévoilant que Facebook avait tout à fait conscience des dangers de l’application Instagram pour la santé mentale des adolescentes, exposées sans cesse au mythe du corps féminin idéal, est celle qui a eu le plus de retentissement aux États-Unis mêmes, conduisant à l’organisation d’une audition au Congrès.

Pour tenter de sortir son groupe de la tourmente, son dirigeant et fondateur, Mark Zuckerberg, a annoncé le 28 octobre le changement de nom de la société mère Facebook en Meta. Il est bien sûr peu probable que cela suffise à mettre véritablement un terme aux pratiques dénoncées. Rassemblant chaque jour près de deux milliards d’internautes, Facebook est devenu un très puissant outil de communication, servant tout à la fois à des échanges privés, à de très nombreux organismes ou à des associations, à la création de liens sociaux comme à la diffusion d’informations de toute sorte. Mais c’est surtout une entreprise privée comme les autres, ayant pour objectif de faire du profit. De ce point de vue, avec un bénéfice de 9,2 milliards de dollars (7,9 milliards d’euros) au troisième trimestre 2021, en augmentation de 17 % sur un an, son objectif est atteint.

Mais cela est-il nouveau ? Si la technologie est nouvelle, la fonction ne l’est pas. Pendant longtemps, c’est la presse papier aux mains de colosses capitalistes qui a eu le monopole de la diffusion des nouvelles, vraies ou fausses, mais en tout cas orientées vers la défense de l’ordre social dominant. Si les dirigeants de Facebook se montrent dénués de morale et capables de pratiques toxiques, ce n’est pas la technologie qui est à mettre en cause, mais une société où la domination du capital et l’argent-roi peuvent tout pourrir, à commencer par les circuits d’information.