Sexisme, racisme… Les algorithmes face aux préjugés

L’intelligence artificielle peut-elle perpétuer les discriminations? C’est une des questions que se sont posés les chercheurs et ingénieurs de la Facebook AI Research, invités lors de la conférence Unexpected sources of inspiration (USI) à Paris, le 25 juin.

Joëlle Pineau, du Facebook AI Research Lab de Montréal, est présidente de l’International Machine Learning Society, une organisation qui encourage la recherche sur l’apprentissage automatique, un champ au cœur du développement de l’intelligence artificielle (IA). A ses yeux, une anecdote illustre le danger de créer des IA modelées sans le vouloir par des préjugés sexistes. «J’étais en stage dans le “flight research laboratory” (Laboratoire de recherche en aviation, NDLR) au Canada, qui étudie l’usage de la parole dans l’aviation. Je devais mettre au point des techniques de traduction et de reconnaissance vocale dans les cockpits d’hélicoptère. Problème, après la phase de tests, une conclusion apparaît : seules des voix d’hommes ont été analysées car ce secteur d’activité est fortement représenté par la gent masculine», se souvient-elle. Unique femme présente pour l’exercice, elle est donc chargée de prendre le contrôle de l’hélicoptère pour faire toute la procédure de reconnaissance vocale. De cette expérience, elle a tiré une conclusion : les biais algorithmiques peuvent être sexistes car les femmes sont moins facilement reconnues dans les données récoltées. 

De même, une IA peut adopter des préjugés racistes. «Il est possible d’obtenir des résultats mauvais si on ne fait pas attention aux données dans lesquelles on entraîne les systèmes», indique Camille Couprie, autre chercheuse du Facebook AI Reserach, basée à Paris. «Prenons l’exemple du sport. Tous les sports ne sont pas pratiqués dans les mêmes pays aux mêmes fréquences. Il arrive qu’un algorithme reconnaisse la couleur de peau des joueurs et en déduise qu’il s’agit d’un sport plus pratiqué dans un pays avec cette couleur de peau. Il est donc nécessaire de diversifier les données pour entraîner des systèmes.» 

Trop peu de femmes dans la "tech" 

La diversité, surtout dans l’intelligence artificielle, est pourtant reconnue par les ingénieurs comme une richesse. Elle permet de faire travailler ensemble des profils différents, issus de milieux sociaux et environnementaux variés. «Cela offre une nouvelle expérience de recherche», fait savoir Joëlle Pineau. Diversifier les équipes c’est aussi diversifier les données et donc améliorer les algorithmes pour qu’ils prennent une meilleure photographie de la société actuelle. Or le secteur de la «tech» souffre d’une sous-représentation des femmes, notamment.

Preuve que certains préjugés sont tenaces, les deux chercheuses, Camille Couprie et Joëlle Pineau ont été sommées durant l’USI de justifier de compétences «féminines particulières». Leur réponse a été cinglante : «Il faut considérer homme et femme à égalité, et puis pour faire des mathématiques, la question se pose encore moins».

Reportage : A la grande conférence F8 de Facebook

Aujourd’hui, il y a un peu moins de 28 % de femmes dans les métiers de l’informatique contre 48 % dans le reste de l’économie, d’après le Rapport d’information de la délégation aux droits des femmes et à l’égalité des chances entre les femmes et les hommes de l’Assemblée nationale (décembre 2015). L’explication tient, selon Yann LeCun, directeur de la recherche en intelligence artificielle de Facebook , aux conditions du développement de l’informatique personnelle, d’abord portée par les jeux vidéos et les ordinateurs personnels. «De nombreux jeunes s’y sont intéressés, et en particulier les garçons. Ils sont devenus logiquement plus compétitifs dans ces domaines-là et ont un peu poussé les femmes en dehors de l’informatique.» 

Des filières informatiques peu prisées des femmes

L’enseignement a aussi sa part de responsabilité dans ce retard. En France, alors que la médecine ou la biologie par exemple s’approchent de la parité, l’informatique ne s’ouvre pas à la mixité. Pourtant, de 1972 à 1985, l’informatique était la deuxième filière comportant le plus de femmes ingénieures au sein des formations techniques, selon une étude de l’OPIIEC intitulée « Attractivité des métiers du numérique et de l’ingénierie pour les publics féminins en France ». 

Joëlle Pineau travaille à Montréal où la problématique se pose dès le secondaire : «J’ai visité des écoles qui disposent de programmes informatiques optionnels. Ce sont des classes de 30 jeunes avec seulement deux filles…» Yann LeCun note qu’à la fin du premier diplôme universitaire, il ne reste que 30 % de femmes. La discipline les attire de plus en plus, mais elles restent minoritaires en proportion. Et ce constat ne s’arrange pas avec l’âge : «Les femmes seniors laissent plus facilement tomber le domaine de la recherche particulièrement en informatique», indique Yann LeCun.

Initier les plus jeunes à l’informatique

Le gouvernement français s’est donc lui aussi lancé dans le défi de l’IA. En 2017, il a mis en place le «plan sectoriel mixité numérique» regroupant divers acteurs publics (ministères de l‘Économie, de l’Éducation nationale, de l’enseignement supérieur et de la recherche notamment) et des représentants du numérique. Quelques mesures s’y inscrivent, avec pour vocation de cueillir les ingénieurs et ingénieures dès le berceau. Parmi elles : des programmes d’initiation au codage par le jeu vidéo destinés aux 8-14 ans ou encore des actions de sensibilisation dans les lycées dans le cadre des journées découvertes en entreprise.

A lire : Facebook dans la tourmente

Du côté de Facebook, quelques solutions sont envisagées. En mai dernier, la société de Mark Zuckerberg a annoncé vouloir renforcer les investissements de Facebook AI Research Paris, développé trois ans plus tôt. Fort de 10 millions d’euros supplémentaires, ce centre de recherche européen doit ainsi s’ouvrir à une plus grande diversité de profils. Résultat, des bourses d’études ont été délivrées à quatre universités françaises : Cergy Pontoise, l’Université Côte d’Azur, Paris 13 Villetaneuse, et Paris Est-Marne La Vallée. «L’idée c’est de prendre directement les gens à la sortie du baccalauréat et en licence», explique Yann LeCun, qui n’hésite pas dans ses collaborations à valoriser des candidatures de femmes.

Par ailleurs, la société américaine a mis au point un système appelé «Fairness Flow» dans le but de débusquer les biais dans les algorithmes qu’elle utilise. A l’origine, l’outil devait accompagner les processus de recrutement. «Nous voulions nous assurer que les recommandations d'emplois n'étaient pas biaisées contre certains groupes par rapport aux autres», racontait Isabel Kloumann lors de la conférence annuelle de Facebook en mai dernier. Désormais, «Fairness Flow» a vocation à veiller sur tous les produits de la multinationale.