Les fermes à trolls politiques de retour sur Facebook
Des pages Facebook gérées depuis l’Asie et l’Europe de l’Est publient des nouvelles – et de fausses nouvelles – sur la politique américaine, et Meta ne fait rien pour les arrêter.
Cette page Facebook est administrée par cinq comptes autrichiens, un compte kosovar et un compte américain.
Photo : Facebook / News 24h Usa
Un important réseau de quelque 3000 pages inauthentiques subsiste depuis quelques mois sur Facebook, montre une enquête des Décrypteurs. Bien que la plupart des contenus qu’elles publient puissent être qualifiés d’inoffensifs, certaines de ces pages, gérées depuis des pays comme le Vietnam et la Macédoine, visent un auditoire américain en misant sur les guerres culturelles qui fragmentent les États-Unis.
C’est une situation inquiétante en vue des élections présidentielles de novembre et un constat d’échec de la modération de Meta, la société mère de Facebook, selon un observateur de première heure de la désinformation sur les réseaux sociaux.
C’est une histoire qui dure depuis plus d'une décennie, maintenant, sur Facebook, qui semble toujours incapable de repérer efficacement les réseaux inauthentiques pour ensuite les supprimer
, résume le journaliste canadien Craig Silverman. Il avait dévoilé l'existence de fausses nouvelles macédoniennes dans une enquête pour BuzzFeed News (Nouvelle fenêtre) lors de l’élection présidentielle américaine de 2016.
En plus, avec les signaux qui pointent vers le Vietnam et la Macédoine du Nord, il y a là deux endroits du monde que Meta sait depuis longtemps être d’importants centres d'activités inauthentiques
, ajoute M. Silverman, aujourd’hui reporter au média d’enquête indépendant ProPublica.
Les Décrypteurs ont pu trouver les pages du réseau en épiant des comptes Facebook qui ont vraisemblablement été piratés. Ces comptes se sont mis à systématiquement suivre les mêmes 3000 pages depuis le début de l’année.
Celles-ci ont toutes un modus operandi très similaire : elles publient du contenu de mauvaise qualité visant à faire réagir le public, tantôt des nouvelles
à propos de vedettes hollywoodiennes ou sportives, tantôt des photos de jeunes femmes générées par intelligence artificielle (IA) ou d’animaux. Bon nombre de ces pages diffusent également des publicités pour bâtir un auditoire.
Cette page d'actualité musicale fait partie du réseau.
Photo : Facebook / Music Is Life
Ces pages ont tous les attributs de pages inauthentiques. Elles partagent du contenu semblable, voire identique, publient de façon fort probablement automatisée et ont un taux de croissance inorganique. Une page que nous avons trouvée, baptisée Fact Check
, avait par exemple obtenu 126 000 abonnés moins de 24 heures après qu’elle eut été mise en ligne – un exploit pratiquement impossible.
Contactée par les Décrypteurs, la société Meta assure qu’elle investit massivement
dans les technologies de détection de faux comptes. L'utilisation de comportements inauthentiques pour gonfler l'engagement est contraire à nos politiques et nous prendrons des mesures contre toute page que nous pincerons à agir de cette manière
, a assuré une porte-parole de l’entreprise par courriel.
Malgré tout, plus de la moitié des pages politiques que nous avons signalées à Meta étaient toujours en ligne au moment de publier cet article.
Pour tout savoir sur la culture web et la désinformation, abonnez-vous à l'infolettre des Décrypteurs en cliquant ici.
Des fermes de contenus sur la politique américaine
Dans cette jungle de contenus somme toute inoffensifs se trouvent une trentaine de pages cumulant plus de 8,1 millions d’abonnés qui ont toutes les allures de pages Facebook gérées par des Américains. Elles arborent des drapeaux des États-Unis, parlent de nous les Américains
et mettent en avant du contenu qui sert clairement à courtiser un public habitant ce pays.
La plupart de leurs publications font référence à des questions sociopolitiques clivantes aux États-Unis, telles que les droits des personnes LGBTQ+ ou la place de la religion dans l’espace public. Les opinions qu’elles véhiculent sont manifestement du côté du prétendant républicain, Donald Trump.
L’une des pages les plus populaires du réseau, « Jesus is Everything », a cumulé plus de 900 000 abonnés depuis son lancement il y a deux mois.
L'article sous cette publication reprend des propos datant de 2022 dans le but de faire réagir.
Photo : Facebook / Jesus is Everything
Une publication du 9 avril montre une photo de Lia Thomas, nageuse transgenre dont la participation à des compétitions universitaires de natation, aux États-Unis, a suscité des débats souvent houleux. Le message suivant est superposé sur l’image : Dernière heure : "Je suis une femme comme tous les autres membres de l’équipe", Lia Thomas frappe fort.
La publication a attiré plus de 3400 commentaires – très majoritairement négatifs et désobligeants à l’égard de Lia Thomas –, ce qui a augmenté sa portée auprès de l’algorithme de recommandation de Facebook.
Toutefois, lorsqu’on clique sur l’article que la publication nous invite à lire dans les commentaires, on se rend compte que celui-ci rapporte des propos tenus par Lia Thomas en 2022 (Nouvelle fenêtre) et que le reste du texte n’est qu’une description sommaire de l’importance de l’inclusion dans le sport qui semble entièrement écrite par IA.
Plusieurs détecteurs de textes générés par IA, bien que leur fiabilité ne soit pas garantie, arrivent à cette conclusion.
Cet article semble avoir été généré par intelligence artificielle.
Photo : DDNews
Une publication du 30 mars qui a généré plus de 1100 commentaires raconte qu’une succursale de Dairy Queen s’est attiré des problèmes en installant une affiche politiquement incorrecte
, sur laquelle il est notamment inscrit que les employés n’hésiteront pas à prononcer des phrases comme Joyeux Noël
, Joyeuses Pâques
ou que Dieu bénisse l’Amérique
. Or, la nouvelle date en fait de 2017 (Nouvelle fenêtre).
Une autre page à vocation politique que nous avons pu repérer, « We Love US », a seulement attiré environ 10 000 abonnés depuis mars. Deux de ses administrateurs sont basés au Vietnam. La plupart de ses publications suscitent très peu d’engagement, mais certaines sont devenues hyper virales grâce à l’algorithme de recommandation de Facebook.
Cette fausse nouvelle a suscité plus de 55 000 réactions sur Facebook.
Photo : Facebook / We Love US
Une fausse nouvelle qu’elle a publiée le 30 mars a reçu plus de 55 000 réactions. Elle annonçait de façon mensongère que la nageuse Riley Gaines, qui milite contre l’inclusion des femmes trans dans le sport féminin, avait gagné le prix de femme de l’année contre Megan Rapinoe, une joueuse de soccer ouvertement démocrate qui a déjà été publiquement attaquée par Donald Trump (Nouvelle fenêtre). La plupart des 1500 commentaires sur la publication applaudissaient la supposée victoire de Riley Gaines.
La fausse nouvelle en question est une réécriture d’un article du média satirique Dunning-Kruger Times (Nouvelle fenêtre) originalement publié en août 2023 et semble rassembler des informations issues de plusieurs autres sources.
Des échos de l’élection de 2016
En 2016, une enquête de BuzzFeed News (Nouvelle fenêtre) dévoilait que de jeunes Macédoniens étaient à l'origine de plus d’une centaine de sites web de fausses nouvelles pro-Trump qui partageaient leurs articles sur Facebook.
Les textes qu’ils publiaient étaient souvent incendiaires et mensongers : on pouvait par exemple y lire que l’animatrice vedette Oprah Winfrey, qui a publiquement soutenu des politiciens démocrates à plusieurs reprises, souhaitait que tous les Blancs meurent
, ou encore que des preuves voulant que Barack Obama soit né au Kenya avaient émergé.
L’objectif de ces jeunes Macédoniens était de faire de l’argent grâce aux revenus publicitaires et non d’influencer l’opinion publique. C’est peut-être néanmoins ce qui s’est produit : les fausses nouvelles les plus populaires de fermes à trolls macédoniennes concernant les élections de 2016 ont généré ensemble davantage d'engagement sur Facebook que les plus populaires articles électoraux de 19 grands médias américains réunis, selon une analyse de BuzzFeed News (Nouvelle fenêtre).
À lire aussi :
Un scénario semblable s’est déroulé en 2020 : selon un rapport interne de Facebook rédigé par le scientifique de données Jeff Allen (Nouvelle fenêtre), des fermes à trolls gérées depuis le Kosovo et la Macédoine ont réussi à atteindre plus 140 millions d’Américains dans les mois précédant l’élection en publiant du contenu lié à la politique et aux problèmes sociaux.
Les tactiques de base des fermes à trolls ont très peu changé depuis 2016, année où elles ont été découvertes pour la première fois, écrivait Jeff Allen dans son rapport. Ce n’est pas normal. Ce n’est pas sain. [...] Nous avons permis à des acteurs au comportement trompeur d’accumuler d’énormes auditoires pour des raisons largement inconnues.
Quatre ans plus tard, à l’aube d’une autre élection américaine, il semble que ce scénario soit en voie de se reproduire, bien que les méthodes employées soient moins sophistiquées qu’avant. Au lieu de créer du contenu original, les pages recyclent de vraies – et de fausses – nouvelles sur des sujets polarisants qui ont déjà beaucoup fait réagir les gens.
Autre différence observée par Craig Silverman : au lieu de partager directement des liens vers les articles comme le faisaient les fermes à trolls en 2016, les pages les publient maintenant dans les commentaires de publications de photos. C’est une conséquence des actions qu’a posées Meta pour limiter la portée des liens au profit des images et des textes, selon le journaliste.
D'autre part, ce que je trouve intéressant, c'est la nature même des sites web vers lesquels nous renvoient ces pages, ajoute Craig Silverman. Elles utilisent toutes un réseau publicitaire bas de gamme. En 2016, elles étaient inscrites sur des réseaux publicitaires plus lucratifs, comme celui de Google, et le potentiel de revenus était plus grand. Résultat : ces pages parviennent plus difficilement à monétiser leurs contenus.
Le journaliste canadien Craig Silverman en entrevue avec l'équipe des Décrypteurs
Photo : Radio-Canada
Ça n’a toutefois pas éliminé ces acteurs inauthentiques. Ça les a en fait poussés à créer un très grand nombre de pages pour arriver à leurs fins, ce qui inquiète Craig Silverman.
L’opération macédonienne que j’ai découverte en 2016 prenait de moins grandes proportions. Ils essaient maintenant de fonctionner à une échelle beaucoup plus grande parce qu'il faut beaucoup plus de pages et beaucoup plus d’abonnés qu’en 2016 pour obtenir un quelconque niveau de revenus.
Vu la quantité de comptes piratés et inauthentiques utilisés pour développer un si grand réseau de pages, ça me préoccupe vraiment de savoir qu'il n'y a pas de systèmes automatisés capables de les supprimer, dit-il. Je pense qu'une des explications possibles est que Meta, comme d'autres plateformes, a licencié beaucoup de son personnel responsable des systèmes de détection et de modération.
