La législation canadienne visant à encadrer les agents conversationnels (chatbots) basés sur l'intelligence artificielle (IA), présentée cette semaine suite à l'indignation nationale provoquée par une fusillade en milieu scolaire ayant fait neuf morts, suscite des doutes chez les universitaires et les experts juridiques. Ces derniers avertissent que des failles réglementaires et un calendrier de mise en œuvre prolongé pourraient compromettre l'initiative.

La pression publique sur le gouvernement s'est intensifiée après qu'OpenAI a reconnu ne pas avoir signalé à la police les messages inquiétants envoyés sur ChatGPT par le suspect de l'incident de février. Le projet de loi propose la création d'un nouveau régulateur numérique et s'inspire de l'Australie en interdisant l'accès aux réseaux sociaux pour les mineurs de moins de 16 ans.

Cette nouvelle agence exigerait que les agents conversationnels réduisent les risques de recherche de contenus préjudiciables par les utilisateurs et intègrent des mesures d'intervention de crise en cas de discussions portant sur le suicide ou l'automutilation.

Toutefois, la législation essuie des critiques en raison de son manque de précision, de la difficulté d'éliminer les échappatoires tout en préservant la vie privée, et des délais importants prévus pour l'application des mesures.

« S'il s'agit là de l'esquisse d'une loi, j'ai peu d'espoir quant à son utilité concrète », a déclaré Evan Light, professeur agrégé à l'Université de Toronto, spécialisé dans les technologies et la protection de la vie privée.

Il s'est dit choqué par le caractère embryonnaire du projet de loi, ajoutant que les restrictions d'accès à Internet pourraient être facilement contournées via des réseaux privés virtuels (VPN) — qui masquent l'adresse IP des utilisateurs — ou par d'autres moyens techniques.

Le bureau du ministre canadien de l'Identité et de la Culture, Marc Miller, n'a pas immédiatement répondu aux demandes de commentaires sur le sujet.

Lors d'une conférence de presse annonçant le projet de loi mercredi, M. Miller a souligné la nécessité de concilier la protection de la vie privée et la régulation des réseaux sociaux et des agents conversationnels. Il a précisé que la loi proposée ne s'appliquerait pas aux applications de messagerie privée telles que WhatsApp ou Signal. Il a également indiqué que les entreprises respectant les critères fixés par le nouveau régulateur pourraient obtenir une exemption à l'interdiction des réseaux sociaux.

Il a rappelé que le Canada avait été témoin des conséquences tragiques des dérives en ligne, citant la fusillade de Tumbler Ridge, en Colombie-Britannique. Le compte ChatGPT du suspect de 18 ans avait été signalé en interne pour son contenu violent, mais l'information n'avait jamais été transmise aux autorités.

M. Miller a affirmé que l'entreprise avait commis « une erreur humaine flagrante » et que le gouvernement prenait désormais des mesures pour que les réseaux sociaux et les agents conversationnels soient « sûrs dès la conception » (safer by design).

OpenAI n'a pas répondu aux sollicitations. L'entreprise s'était précédemment excusée de ne pas avoir alerté les autorités canadiennes.

Un nombre croissant de gouvernements en Europe, au Brésil et dans plusieurs États américains avancent sur de nouvelles exigences de vérification de l'âge pour les réseaux sociaux, les agents conversationnels et les fournisseurs de contenus pornographiques.

Un porte-parole de Meta a déclaré par courriel que les interdictions de réseaux sociaux sont « contre-productives » et que l'entreprise évalue actuellement les implications du projet de loi.

Un porte-parole de Google, propriétaire de YouTube, a affirmé que l'entreprise s'engageait à collaborer avec le gouvernement pour établir des normes de sécurité plus élevées, afin que les parents puissent choisir des expériences en ligne plus sûres pour leurs enfants. Un porte-parole de TikTok a souligné que la plateforme dispose déjà de plus de 50 paramètres de sécurité et de confidentialité, et que les parents peuvent utiliser le « Mode Connexion Famille » pour gérer l'expérience de leurs adolescents.

Les responsables gouvernementaux ont indiqué que l'adoption de la loi pourrait prendre un an, et qu'il faudrait compter 18 mois supplémentaires pour mettre en place le régulateur numérique une fois le texte voté.

Florian Martin-Bariteau, directeur du Centre de recherche en droit, technologie et société de l'Université d'Ottawa, a prévenu que les enfants parviendraient probablement à contourner l'interdiction des réseaux sociaux et les restrictions sur les agents conversationnels.

Depuis l'entrée en vigueur de l'interdiction en Australie, l'agence de régulation chargée de son application a rapporté qu'un nombre substantiel de mineurs de moins de 16 ans possèdent toujours des comptes.

« Le cadre proposé va les pousser vers des plateformes plus petites et plus risquées », a-t-il déclaré, ajoutant que si les règles pour les grandes plateformes pourraient être appliquées, il serait pratiquement impossible pour le Canada de bloquer les sites plus modestes qui ne s'y conforment pas. « En essayant de protéger les enfants, nous pourrions en réalité les exposer à des risques accrus. »