Un groupe de 20 entreprises technologiques a annoncé vendredi qu'il avait convenu de collaborer pour empêcher les contenus trompeurs de l'intelligence artificielle d'interférer avec les élections dans le monde entier cette année.

La croissance rapide de l'intelligence artificielle générative (IA), qui peut créer du texte, des images et des vidéos en quelques secondes en réponse à des invites, a ravivé les craintes que cette nouvelle technologie puisse être utilisée pour influencer des élections majeures cette année, alors que plus de la moitié de la population mondiale est appelée à se rendre aux urnes.

Les signataires de l'accord technologique, qui a été annoncé lors de la conférence de Munich sur la sécurité, comprennent des entreprises qui construisent des modèles d'IA générative utilisés pour créer du contenu, notamment OpenAI, Microsoft et Adobe. Parmi les autres signataires figurent des plateformes de médias sociaux qui devront relever le défi d'empêcher les contenus préjudiciables de pénétrer sur leurs sites, comme Meta Platforms, TikTok et X, anciennement connu sous le nom de Twitter.

L'accord comprend des engagements à collaborer au développement d'outils de détection d'images, de vidéos et de sons trompeurs générés par l'IA, à la création de campagnes de sensibilisation du public pour éduquer les électeurs sur les contenus trompeurs et à la prise de mesures concernant ces contenus sur leurs services.

Les technologies permettant d'identifier les contenus générés par l'IA ou de certifier leur origine pourraient inclure le filigrane ou l'intégration de métadonnées, ont indiqué les entreprises.

L'accord ne précise pas de calendrier pour le respect des engagements ni la manière dont chaque entreprise les mettra en œuvre.

Je pense que l'utilité de cet accord réside dans l'ampleur des entreprises qui y adhèrent, a déclaré Nick Clegg, président des affaires internationales chez Meta Platforms.

C'est très bien si les plateformes individuelles développent de nouvelles politiques de détection, de provenance, d'étiquetage, de filigrane, etc., mais à moins qu'il n'y ait un engagement plus large pour le faire d'une manière interopérable partagée, nous allons être coincés avec un méli-mélo d'engagements différents, a déclaré M. Clegg.

L'IA générative est déjà utilisée pour influencer la politique et même pour convaincre les gens de ne pas voter.

En janvier, un robocall utilisant un faux son du président américain Joe Biden a été diffusé auprès des électeurs du New Hampshire, les incitant à rester chez eux lors des élections primaires présidentielles de l'État.

Malgré la popularité d'outils de génération de texte tels que ChatGPT d'OpenAI, les entreprises technologiques se concentreront sur la prévention des effets néfastes des photos, des vidéos et des sons d'IA, en partie parce que les gens ont tendance à être plus sceptiques à l'égard des textes, a déclaré Dana Rao, responsable de la confiance chez Adobe, dans une interview.

"Il existe un lien émotionnel avec l'audio, la vidéo et les images. "Votre cerveau est câblé pour croire ce type de média.