Berne (awp/ats) - Les algorithmes et l'intelligence artificielle (IA) sont sources de discriminations en Suisse en particulier, s'inquiète AlgorithmWatch CH. L'organisation réclame une réforme juridique afin de mieux protéger les particuliers contre ces dérives.
"La prise de décision automatisée s'immisce de plus en plus dans notre vie quotidienne", constate mardi AlgorithWatch CH dans un communiqué. Elle cite notamment l'analyse des dossiers de candidature, les déclarations d'impôts, les diagnostics médicaux, l'évaluation des risques de récidives de délinquants, autant d'exemples qui illustrent l'influence des "algos" et de l'IA dans les décisions.
Or, "les systèmes basés sur des algorithmes ou ce qu'on appelle l'IA ne sont ni neutres ni objectifs et peuvent refléter des rapports de forces et des injustices sociales", se préoccupe AlgorithmWatch CH.
"En toute impunité"
L'organisation a constaté que sur Facebook, les offres d'emploi étaient affichées "selon des stéréotypes de genre". L'annonce pour la conduite de camions est plutôt affichée aux hommes, celle pour les gardes d'enfants plutôt aux femmes. Elle y voit une discrimination à combattre.
Le problème, estime Estelle Pannatier d'AlgorithmWatch CH, est que "le cadre juridique en Suisse n'est pas suffisant pour faire face aux caractéristiques particulières de la discrimination algorithmique. En Suisse, les algorithmes peuvent discriminer en toute impunité".
Souvent, la discrimination repose sur des variables de substitution (proxy) qui permettent de contourner certaines protections. Ainsi, il est possible par exemple à partir d'un code postal de déduire des hypothèses sur le statut socio-économique ou sur un contexte migratoire, observe l'association. Plusieurs pays européens, comme l'Allemagne ou la France, sont plus avancés face à ces enjeux, relève-t-elle encore.
AlgorithmWatch CH se présente comme "une organisation de recherche et de plaidoyer de la société civile, aspirant à un monde où la technologie en général, et les systèmes algorithmiques en particulier, sont utilisés pour bénéficier aux êtres humains et les protéger".
ats/ol
