Le laboratoire d'intelligence artificielle OpenAI forme une nouvelle équipe chargée de créer des processus démocratiques pour définir la manière dont ses logiciels d'intelligence artificielle devraient être régis afin de tenir compte des préjugés et d'autres facteurs, a déclaré la société soutenue par Microsoft dans un billet de blog mardi.

L'équipe "Collective Alignment" est une continuation du travail d'un programme de subvention pour le financement d'expériences de processus démocratiques qui a été annoncé en mai 2023, a déclaré l'entreprise basée à San Francisco. Le programme s'est achevé récemment.

"Alors que nous poursuivons notre mission vers des modèles superintelligents qui pourraient potentiellement être considérés comme des parties intégrantes de notre société [...], il est important de donner aux gens la possibilité de contribuer directement", a déclaré à Reuters Tyna Eloundou, ingénieur de recherche et membre fondateur de la nouvelle équipe d'OpenAI.

Pour s'assurer, par exemple, que seuls les humains peuvent voter, OpenAI pourrait s'associer à Worldcoin, un projet de crypto-monnaie fondé par le PDG d'OpenAI, Sam Altman, qui permet de faire la différence entre les humains et les robots d'intelligence artificielle, a déclaré Teddy Lee, un chef de produit qui est l'autre membre de l'équipe composée de deux personnes.

Teddy Lee a précisé que l'équipe n'avait pas encore prévu d'intégrer Worldcoin.

Depuis le lancement de ChatGPT par OpenAI à la fin de l'année 2022, la technologie d'IA générative capable de produire une prose d'une autorité surprenante à partir de textes a captivé le public, faisant du programme l'une des applications à la croissance la plus rapide de tous les temps.

La capacité de l'IA à créer des images "deepfake" et d'autres informations erronées suscite toutefois des inquiétudes, en particulier à l'approche de la campagne électorale américaine de 2024. Les critiques affirment que les systèmes d'IA tels que ChatGPT sont intrinsèquement biaisés en raison des données utilisées pour façonner leurs opinions, et les utilisateurs ont trouvé des exemples de résultats racistes ou sexistes provenant de logiciels d'IA.

La nouvelle équipe de l'OpenAI cherche activement à recruter un ingénieur de recherche et un chercheur scientifique, a indiqué M. Eloundou. L'équipe travaillera en étroite collaboration avec l'équipe "Human Data" d'OpenAI, qui met en place l'infrastructure nécessaire à la collecte de données humaines sur les modèles d'IA de l'entreprise, ainsi qu'avec d'autres équipes de recherche. (Reportage d'Anna Tong à San Francisco ; Rédaction de Paul Simao)