Des articles rédigés par ChatGPT truffés d'infos inexactes, des photos et des vidéos fabriquées de toute pièce qui deviennent virales sur les réseaux sociaux, des algorithmes qui se nourrissent de désinformation : l'intelligence artificielle (IA) va-t-elle devenir une poubelle d'informations de mauvaise qualité? « Il y a un réel risque que la culture soit inondée de créations synthétiques et que la prochaine génération d'IA soit formée de ces résidus-là », s'inquiète le chroniqueur Fabien Loszach.
« [Dans une étude publiée en mars dernier], les évaluations [par les pairs] utilisaient certains termes de manière anormalement élevée, des mots comme "méticuleux", "recommandable", "complexe". Qu’est-ce qu’ils ont en commun? Ce sont les mots préférés de ChatGPT. Ça veut dire qu’il y a beaucoup de chercheurs qui ont utilisé ChatGPT pour écrire les évaluations des travaux portant sur l’intelligence artificielle. »
Le chroniqueur se penche sur le cas d’une influenceuse générée par l’IA qui se fait passer pour la nièce de la politicienne française Marine Le Pen sur les réseaux sociaux et sur le cas du magazine Sports Illustrated, « qui s’est fait pogner » à créer des articles prétendument rédigés par des journalistes, alors qu’ils étaient le produit de l’IA.
Il nous en apprend plus sur les théories de l’effondrement du modèle et de l'effondrement des connaissances, qui prédisent toutes deux un appauvrissement des connaissances humaines en raison de l’IA.