Pubs douteuses et plagiat : des fermes à clics vietnamiennes polluent votre fil Facebook

Depuis mai, un réseau d’au moins 500 pages Facebook gérées principalement à partir du Vietnam se sert d’articles plagiés et de stratégies de diffusion douteuses pour générer des millions de clics et pour engranger des revenus publicitaires, et ce, en toute impunité, même si ses pratiques enfreignent plusieurs règles de ce réseau social. Qui plus est, son vaste auditoire pourrait être instrumentalisé à des fins politiques, craignent un ancien employé de Meta qui connaît bien les rouages de la plateforme ainsi qu'un expert interrogé par les Décrypteurs.

L’achat de milliers de publicités Facebook se trouve au cœur de ce stratagème. Celles-ci servent à bâtir des auditoires pour ces centaines de pages, qui se spécialisent dans divers champs d’intérêt comme les animaux, la religion, les voitures, le sport, les phénomènes paranormaux et les femmes en bikini. Les pages partagent ensuite des articles entièrement plagiés qui portent sur ces mêmes thèmes dans le but de générer un maximum de clics et de revenus publicitaires. Certains des articles semblent aussi être générés par des robots conversationnels comme ChatGPT.

Si vous aimez les chiens, cliquez sur le pouce ci-dessous, Si vous aimez les voitures de sport, cliquez sur le pouce ci-dessous ou encore Si vous aimez Jésus, cliquez sur le pouce ci-dessous : les publicités se servent toutes de la même formule, en anglais, pour s'attirer un public.

Depuis le mois de mai, nous avons pu observer des dizaines de milliers de publicités actives qui épousent ce style dans la bibliothèque publicitaire de Facebook (Nouvelle fenêtre) sans mentionner que des centaines de nouvelles publicités – et des dizaines de nouvelles pages – continuent d’apparaître chaque jour.

Et elles sont facilement trouvables : il suffit d’effectuer une recherche avec les mots press thumb dans la bibliothèque publicitaire pour obtenir des milliers de résultats.

En mai seulement, 75 des sites web vietnamiens qui composent ce réseau ont généré plus de 9 millions de clics, selon les données de la firme d'analyse SimilarWeb. Et ce n’est qu’un portrait très partiel du réseau qui, dans les faits, pourrait être beaucoup plus vaste.

D’ailleurs, les liens vers ces articles ne sont pas bloqués par Meta au Canada, alors que ceux des médias locaux et étrangers le sont en riposte à la Loi sur les nouvelles en ligne du gouvernement fédéral.

Meta n’a pas répondu à nos demandes d’entrevue et n’a vraisemblablement pris aucune mesure pour remédier à cette situation depuis que nous avons contacté cette firme.

La même stratégie que les fermes à trolls

Lorsque nous avons fait état de cette situation à un ancien employé de l’équipe responsable de l’intégrité chez Meta, il a eu pour première réaction de dresser un parallèle entre ce réseau et les fermes à trolls de l’Europe de l’Est qui ont réussi à atteindre plus de 140 millions d’Américains avant l’élection présidentielle de 2020 (Nouvelle fenêtre) avec du contenu lié à la politique et aux problèmes sociaux.

Avant la campagne de 2020, il s'agissait de pages qui publiaient des liens vers des sites qui reprenaient des nouvelles portant sur des thèmes précis comme la religion ou les chiens. Ce qu’on voit ici est très semblable, témoigne cet ancien membre de l’équipe chargée de détecter le contenu malveillant et les opérations d’influence sur les plateformes de Meta, en plus d’assurer le respect des règles.

Plus le jour de l’élection s'est rapproché, plus ces pages ont été converties en pages pro-Trump ou en pages pro-Biden, poursuit-il.

Le scientifique de données Jeff Allen, un autre ex-employé de l’équipe responsable de l’intégrité chez Meta, avait tiré la sonnette d’alarme à propos de ces fermes à trolls dans un rapport interne rendu public (Nouvelle fenêtre) par la MIT Technology Review en septembre 2021. Il y expliquait notamment que les pages chrétienne et afro-américaine les plus populaires aux États-Unis en 2019 étaient en fait des usines à trolls gérées depuis l’Europe de l’Est.

Ce n’est pas normal. Ce n’est pas sain, écrivait Jeff Allen dans son rapport. Nous avons permis à des acteurs au comportement trompeur d’accumuler d’énormes auditoires pour des raisons largement inconnues.

Dans son document, Jeff Allen déplorait que Facebook n'ait pas réussi à prendre les mesures nécessaires pour empêcher que des acteurs étrangers n'atteignent de vastes auditoires américains avec du contenu politique.

Les tactiques de base des fermes à trolls ont très peu changé depuis 2016, année où elles ont été découvertes pour la première fois, écrivait-il en spécifiant qu’elles parlaient moins de politique qu’auparavant. En gros, nous n'avons pas encore mis en œuvre une solution complète pour réduire leur succès.

Ouvrir en mode plein écran

Une question de priorités

Le rapport précisait que le but de la plupart de ces pages n’était vraisemblablement pas d’influencer l’opinion publique, mais bien de faire de l’argent en exploitant l’intérêt des gens pour la politique.

Les revenus publicitaires tirés d'articles constituaient un moyen pour ces pages de générer des revenus, mais elles pouvaient aussi vendre des biens, par exemple des casquettes à l’effigie d’un politicien. Il n’en demeure pas moins que ces pages auraient tout à fait pu servir à influencer l’opinion publique et que les administrateurs de certaines d’entre elles auraient été en contact avec l’Internet Research Agency (IRA) (Nouvelle fenêtre), la fameuse usine à trolls russe, avançait le rapport sans tirer de conclusions définitives au sujet de leurs objectifs.

Le chercheur déplorait que la plateforme n'ait pas fondamentalement changé la manière dont elle distribuait les contenus sur son fil d’actualité après l’élection présidentielle de 2016. D’après lui, Facebook donnait davantage de visibilité aux contenus qui suscitaient le plus d’interactions sans avoir de système pour s'assurer que les sources étaient crédibles et originales, comme le faisait Google.

L’autre ancien membre de l’équipe responsable de l’intégrité chez Meta à qui nous avons parlé affirme que certaines mesures mises en œuvre après l’élection de 2020 devraient empêcher qu’un tel scénario se répète : si Facebook détecte que des contenus portant sur la politique locale sont produits à l’étranger, il devrait théoriquement limiter leur portée. Toutefois, comme les centaines de pages du réseau vietnamien ne couvrent pas de sujets politiques, elles échappent pour l’instant au regard des équipes de Meta, croit-il.

Je pense que rien n’arrivera à ces pages-là pour l’instant. Il n’y a pas assez de personnel dans l’équipe responsable de l’intégrité pour agir contre ça. Ce n’est pas que les employés s’en foutent : c'est tout simplement qu'il faut prioriser impitoyablement son temps. Or, le contenu sociopolitique est la priorité.

D'après lui, les responsables de ces pages pourraient rencontrer des difficultés s'ils décidaient de pivoter vers du contenu politique en raison de ces nouvelles mesures. Toutefois, rien n’est garanti puisque l’équipe responsable de l’intégrité chez Meta a subi de fortes compressions le printemps dernier (Nouvelle fenêtre).

Les acteurs malveillants finissent par comprendre comment contourner les mesures. Une fois qu’ils se seront adaptés, il n’y aura peut-être personne pour les arrêter, craint l’ancien employé de Meta.

En principe, si ces pages changent de vocation et deviennent politiques, une alarme devrait sonner, dit-il. Mais je ne sais pas si ces systèmes sont encore actifs, efficaces et à jour. Beaucoup de ceux qui les ont mis au point ne travaillent plus pour cette entreprise.

À l’image du Meta d’aujourd’hui, dit un expert

Le directeur du Laboratoire sur l'influence et la communication (Labfluens) de l’UQAM, Camille Alloing, croit lui aussi que l’aspect le plus dangereux de ce réseau de pages et de sites web est qu’il pourrait prendre un virage politique.

Le risque concret, c'est que ces pages soient revendues à des partis politiques, à des militants politiques, à des États, ou même qu'elles soient construites dans ce but, estime-t-il, rappelant que ces scénarios ne sont pas du jamais-vu.

Toujours est-il que ce réseau constitue certainement du spam, soit du contenu répétitif, de faible qualité, publié en masse, qui ne devrait pas pouvoir exister sur Facebook, notent M. Alloing et l’ancien employé de Meta à qui nous avons parlé. Vu les outils de publication utilisés par les gestionnaires de ce réseau, Camille Alloing pense que son fonctionnement est semi-automatisé.

Bien que les pages enfreignent plusieurs des règles de Facebook, Meta gagne à les avoir sur sa plateforme, pense Camille Alloing.

Facebook s'intéresse moins au contenu qu'au fait que le contenu provoque des réactions. Ça crée du clic, ça génère de l'attention et ça fait en sorte que les gens qui interagissent avec les pages sont vus comme des utilisateurs actifs, énumère-t-il. Cela permet de mieux cibler la publicité et ça donne l’impression aux investisseurs que la plateforme est "vivante", sans mentionner que les pages paient Meta pour diffuser leurs milliers d’annonces.

Donc, tout va "bien" – entre guillemets – tant que personne ne s'en plaint. Et ce que j'entends par "personne", c'est ceci : si trop d’annonceurs s’en plaignent ou si un trop grand nombre d'utilisateurs et d’utilisatrices décident de fuir la plateforme parce qu’ils en ont marre, explique Camille Alloing. Cette affaire, ça en dit beaucoup sur l'économie des plateformes et sur l'économie du numérique dans laquelle on est actuellement.