Les voix de journalistes de Radio-Canada clonées par IA pour tromper les internautes

Un faux segment de l’émission 24|60 dans lequel la voix de l’animatrice Anne-Marie Dussault est manipulée par des outils d’intelligence artificielle circule sur Facebook depuis quelques jours. Le but? Convaincre les gens de télécharger une application de jeux de hasard sous le prétexte qu’ils pourront y gagner des millions de dollars.

Au début du segment, quand elle dit le mot "Canada", c'est hallucinant comment c'est sa voix : c'est son intonation, c'est son phrasé. Mais plus ça avance, plus on tombe dans une voix robotique et dans le franchouillard, et plus ça devient grotesque, analyse en entrevue le chroniqueur et conférencier techno François Charron, qui a d’abord rapporté la nouvelle sur son site web (Nouvelle fenêtre). Il s’agit, selon lui, du premier cas de la sorte au Québec.

Dans la vidéo en question, la voix synthétisée d’Anne-Marie Dussault déclare que chaque jour, des centaines de Canadiens gagnent le gros lot dans cette application mobile et qu’au total les gains s’élèvent à plus de cent millions de dollars.

Une fois l’application installée, elle donne l’impression à l’utilisateur qu’il gagne de l’argent en faisant tourner une roue, mais ce n’est que de la frime : le but est simplement de vous diriger vers un site de jeu de hasard non réglementé où les gains sont tout sauf garantis.

Le fait qu’on utilise ma voix et l’image d’une émission crédible d’information pour inciter des gens à s'abonner à un casino, c’est dangereux, et j’espère que les gens qui ont vu cette publicité n’ont pas été piégés, s’est désolée Anne-Marie Dussault, qui s’inquiète également du potentiel des hypertrucages dans un contexte de manipulation politique ou de désinformation.

Après la publication du présent article, deux autres publicités pour cette même application se servant de voix générées à l’aide d’outils d’intelligence artificielle ont été portées à l’attention des Décrypteurs. L’une d’entre elles met en scène le journaliste politique Sébastien Bovet, tandis que l’autre se sert encore d’Anne-Marie Dussault. Celles-ci ont toutefois été publiées sur Instagram et se servent de l’habillage du Téléjournal de Radio-Canada. Toutes deux sont en ligne depuis près d'un mois.

La société mère de Facebook et d'Instagram, Meta, n'a pas donné suite à nos demandes d'entrevue.

Des outils à la portée de tous

Depuis le début de l’année, des outils en ligne offerts pour quelques dollars par mois permettent de cloner n’importe quelle voix à partir d’un extrait audio d’une minute. Les voix artificielles sont ensuite générées à partir de textes écrits, et différents paramètres permettent également de jouer avec les intonations.

Au départ, ces outils permettaient uniquement de générer des voix en anglais, mais des modèles multilingues ont également été lancés ces derniers mois. Aucun d’entre eux, à notre connaissance, ne peut générer des voix avec un accent québécois.

Il faut aller se faire l'œil et l'oreille parce que dans les prochains mois, tout ce qui consiste à prendre l'image ou la voix de quelqu'un et la transformer va s'améliorer à vitesse grand V. On aura la même vidéo, mais avec un labial qui est parfait, des respirations aux bonnes places et sans le franchouillard ou robotique. Comment fera-t-on pour savoir que ce n’est pas un vrai reportage? Ce sera difficile, souligne François Charron.

En parallèle des outils de génération de voix, d’autres logiciels permettent carrément de convertir un enregistrement en une autre voix, ajoutant ainsi une autre couche de réalisme.