Alexandra Parada

Dans le contexte d’utilisation répandue d’outils d’intelligence artificielle (IA) dans divers domaines de notre société, il est important de saisir et de répondre aux enjeux que ces outils soulèvent, notamment en termes de droits fondamentaux. Ma recherche porte sur les enjeux de discrimination liés à l’IA. Depuis plusieurs années, il est démontré que le développement et le déploiement de systèmes d’IA peuvent avoir des effets discriminatoires. Par exemple, plusieurs études ont démontré que des outils de police prédictive étaient particulièrement préjudiciables pour les personnes racisées, renforçant et perpétuant alors la discrimination envers ces dernières. Alors qu’une littérature récente mais également abondante sur le sujet explique comment la discrimination se produit dans ce contexte, notamment à travers la question des biais discriminatoires dans le code et les données, des initiatives éthiques et des projets de régulation ont vu le jour ces dernières années. Toutefois, malgré la connaissance des enjeux de discrimination et de leur gravité, les systèmes d’IA continuent de prendre toujours plus de place, avec les mêmes risques discriminatoires. Cela est dû à une compréhension fragmentée de la discrimination en IA, ignorant le contexte dans lequel l’IA se développe et qui participe grandement à favoriser les inégalités et les cas de discrimination.

Ma recherche vise donc à présenter une conception défragmentée et complète de la discrimination en IA afin de mieux saisir comment y répondre. A cet effet, une typologie de la discrimination en IA est développée, permettant ainsi de comprendre où agir afin de permettre un développement et une utilisation sécuritaire de l’IA. Les projets de régulation de l’IA seront donc analysés de manière critique à la lumière de cette typologie.