Nathalie Fontanet, conseillère d’Etat en charge des Finances à Genève, a prononcé un discours sur le thème de la représentation des femmes dans l’IA à l’occasion de la conférence.
«L’industrie informatique est la plus dynamique en termes de création d’emplois, mais ces nouveaux postes sont principalement exercés par des hommes. A Genève, seuls 19% des professionnels dans l’IA sont des femmes. Ce manque de diversité conduit les algorithmes à produire des biais sexistes. Lorsqu’un groupe n’est pas représenté ou qu’il l’est de façon insuffisante, il y a de fortes chances pour qu’il soit impacté négativement par la technologie. Parce que ses besoins et ses valeurs ne seront pas pris en compte.»
La ministre a rappelé que l’industrie informatique n’a pas toujours été une affaire d’hommes. «Dans les années 1970-1980, l’informatique était le deuxième secteur où la proportion de femme était la plus importante. Mais à l’époque, c’était un domaine qui n’était pas aussi en vue qu’aujourd’hui…»
Pour l’élue, des pistes existent pour inverser la tendance:
la mixité dans les métiers du numérique,
la formation des femmes développeuses,
la sensibilisation des garçons et des filles à ces sujets dès l’enfance
ou encore la promotion des femmes dans les professions dites techniques.
Nathalie Fontanet estime qu’il faudrait également envisager l’enseignement du code à l’école, parce qu’il s’agit d’un nouveau langage qui influence notre représentation du monde. Vincent Defourny a rappelé que seuls 6% des développeurs de logiciels seraient des femmes à travers le monde. Une situation que l’Unesco prend très au sérieux.
L’éthique de l’intelligence artificielle. Les Etats membres de l’Unesco devraient prochainement adopter la recommandation sur l’éthique de l’intelligence artificielle. Ce projet prévoit notamment l’élaboration d’un instrument normatif mondial pour doter l’intelligence artificielle d’une base éthique solide, dans le but de protéger et promouvoir les droits humains et la dignité humaine.
Pour Vincent Defourny, l’égalité des genres dans le domaine de l’intelligence artificielle relève de l’urgence.
«La recommandation de l’UNESCO sera, je l’espère, une boussole morale pour la révolution de l’IA. La sous-représentation des femmes est une bombe à retardement. Selon une étude du MIT Media Lab, la reconnaissance faciale produit des erreurs dans 1% des cas quand les sujet sont des hommes qui ont la peau claire, 19% pour les hommes à peau foncée et près de 35% pour les femmes à peau foncée. Les femmes ont besoin de l’IA, mais l’IA a surtout besoin des femmes.»
Le directeur du bureau de liaison de l’Unesco à Genève estime que l’intelligence artificielle n’est pas un miroir qui nous montre l’étendue de nos préjugés sexistes, mais une véritable loupe, parce qu’elle les accentue. Selon lui, les femmes ne codent pas suffisamment. Isabelle Collet, professeur en science de l’éducation à l’Université de Genève, qui figurait parmi les panélistes, a rappelé combien la sous-représentation des femmes dans les études liées aux professions numériques a des effets négatifs. «C’est l’affaire d’une longue censure sociale dans les domaines techniques. On n’attend pas des femmes qu’elles s’orientent sur cette voie.»
Karen Bhavnani, présidente de Women in Digital Switzerland, estime que les femmes doivent être mieux représentées parmi les créateurs de start-ups. Elles doivent également occuper des places de CEO, pour servir de modèles à d’autres femmes. Le problème, rappelle Vincent Defourny, c’est que même les algorithmes de recrutement peuvent présenter des préjugés sexistes, ce qu’Amazon a reconnu. D’où l’importance d’une approche éthique y compris dans les données qui sont utilisées par les algorithmes. S’il faut bien des guerilla girls dans l’IA, il faut aussi que les technologies déjà en circulation ne continuent pas à prolonger les vieilles constructions sociales sur lesquelles leurs algorithmes sont fondés.
- Réalisé avec le soutien de la Fondation impactIA