Les chercheurs de la société basée en Virginie ont trouvé de "nombreux cas" depuis 2019 dans lesquels des contenus générés par l'IA, tels que des photos de profil fabriquées, ont été utilisés dans des campagnes d'influence en ligne à motivation politique.
Il s'agissait notamment de campagnes menées par des groupes alignés sur les gouvernements de la Russie, de la Chine, de l'Iran, de l'Éthiopie, de l'Indonésie, de Cuba, de l'Argentine, du Mexique, de l'Équateur et du Salvador, indique le rapport.
Ce rapport s'inscrit dans le contexte d'un récent essor des modèles d'IA générative tels que ChatGPT, qui facilitent considérablement la création de fausses vidéos, images, textes et codes informatiques convaincants. Les responsables de la sécurité ont mis en garde contre l'utilisation de ces modèles par les cybercriminels.
Selon les chercheurs de Mandiant, l'IA générative permettrait à des groupes disposant de ressources limitées de produire un contenu de meilleure qualité à grande échelle.
Une campagne d'information liée à l'État chinois et baptisée Dragonbridge, par exemple, s'est développée "de manière exponentielle" sur 30 plateformes sociales et dans 10 langues différentes depuis qu'elle a commencé à cibler les manifestants pro-démocratie à Hong Kong en 2019, a déclaré Sandra Joyce, vice-présidente de Mandiant Intelligence.
Pourtant, l'impact de ces campagnes était limité. "Du point de vue de l'efficacité, il n'y a pas beaucoup de victoires", a-t-elle déclaré. "Elles n'ont pas encore modifié le paysage des menaces.
La Chine a nié les accusations des États-Unis quant à son implication dans de telles campagnes d'influence par le passé.
Mandiant, qui aide les organisations publiques et privées à réagir aux violations numériques, a déclaré qu'elle n'avait pas encore vu l'IA jouer un rôle clé dans les menaces émanant de la Russie, de l'Iran, de la Chine ou de la Corée du Nord.
"Jusqu'à présent, nous n'avons pas vu une seule réponse à un incident où l'IA a joué un rôle", a déclaré M. Joyce. "Elle n'a pas encore été utilisée de manière plus pratique que ce qui pourrait être fait avec les outils normaux que nous avons vus.
Mais elle a ajouté : "Nous pouvons être sûrs que ce problème va s'aggraver avec le temps". (Reportage de Zeba Siddiqui à San Francisco ; Rédaction d'Alexandra Hudson)
