Il y a dans l’intelligence artificielle trop de « mâles blancs quadragénaires », a déclaré Emmanuel Macron au Collège de France, le 29 mars dernier. Quelques exemples des conséquences du manque de femmes dans le secteur numérique ? Caroline, 43 ans, n’en peut plus des publicités intempestives du type « Perdez 4 kg de graisse en trois jours » quand elle est sur Facebook. « J’ai demandé à mon conjoint s’il recevait le même genre d’injonction. Eh bien non. Seules les femmes sont sommées de maigrir et vite. Car c’est bien connu, les hommes ne grossissent pas… » Autre expérience qui interloque : quand on lance une simulation de crédit sur Internet, le calcul prend en compte des revenus à dix ans beaucoup plus élevés pour les hommes que pour les femmes, même si celle qui recherche un prêt jouit d’un salaire équivalent. « Ce n’est pas l’algorithme en soi qui est sexiste, pondère Sophie Gallay, de la société Artefact, spécialisée en web-marketing. De facto, l’ensemble des hommes gagne plus que les femmes. L’algorithme ne fait que retranscrire ce qui existe globalement dans la vie, à partir des données fournies et analysées, la « data ».
Les informations – sexe, âge, adresse, etc. – que nous laissons en achetant en ligne constituent une mine d’or pour les marques. Mais si certaines publicités sont perçues comme sexistes, c’est parce que, sur Internet, « il est compliqué de toucher les bonnes personnes, résume Sophie Gallay. Les marques qui s’adressent aux femmes achètent des audiences trop larges, des millions d’internautes où tout le monde est mélangé, la retraitée, la chômeuse fauchée et la manager diplômée bien payée. »
Product manager et co-présidente de Girlz in web, une association du femmes du digital, Marie-Amélie Frère, confime les errances des marques, lorsqu’il s’agit de trouver ses consommatrice sur le web . « Dans mon ancienne boîte, j’avais demandé à ma hiérarchie si on pouvait enlever la case Mademoiselle dans nos formulaires en ligne, cette civilité considérée comme discriminatoire, devant disparaître. Mon chef m’avait répondu non, car « Une célibataire ne consomme pas comme une mère de famille. » Sauf que ce « Mademoiselle » ne signifie pas grand chose , quand on se rappelle qu’un enfant sur deux en France naît hors mariage! »
Mais le sentiment diffus de sexisme sur Internet a d’autres causes. Sur Google, le sexe indiqué « impacte la manière dont les publicités et annonces vous arrivent », décode Nicolas Demassieux, directeur de la recherche d’Orange. Mais si vous n’indiquez pas un sexe, l’algorithme va de toutes façons observer votre comportement, et c’est cela qui va servir de source au choix des publicités ou des offres d’emploi qu’on vous présente. » Pour le meilleur ou pour le pire… En 2015, Des chercheurs de l'université de Carnegie Mellon, à Pittsburgh, ont constitué un groupe d’hommes et un groupe de femmes aux profils identiques. Sur un même type de recherche d’emploi, le groupe masculin a reçu 1852 offres de postes bien rémunérés, contre seulement 318 pour le groupe féminin, soit près de 6 fois moins ! Alors sexiste Google ? « Non. Son algorithme ne fait, par apprentissage, que refléter les comportements des internautes. C’est un fait, les hommes cliquent plus souvent sur les postes à haut profil que les femmes. Même quand elles ont la bonne formation, elles se disent : « Ce n’est pas pour moi, je n’ai pas le niveau … »
De plus, l’intelligence artificielle – la capacité de l’algorithme à réagir en apprenant de nos comportements – se nourrit des réactions et des clichés portés par les internautes. Ainsi en mars 2016, Microsoft a mis Twitter en ébullition avec un « robot », qui se présentait sous la forme d’une membre Twitter virtuelle prénommée Tay. Plus Tay était sollicitée, plus elle devenait intelligente, capable de répondre aux messages comme une vraie personne. Mais beaucoup ont trouvé amusant de lui poster des horreurs et au bout de 24 h, Tay, comme un perroquet, a commencé à proférer des tweets haineux, racistes, antisémites, sexistes, comme «je hais les féministes, elles devraient toutes brûler en enfer». Dans un futur proche, serons-nous sexuellement harcelées par des robots machos ? «Nous ne devons pas avoir peur de l’intelligence artificielle, mais… de nous-même, commente Nicolas Demassieux. Le champ de recherche qui se développe, notamment chez Orange, c’est pouvoir demander à l’IA d’« ’expliquer » ses résultats. Bref, développer sa capacité d’autocritique. »
Nos applis sur smartphone n’échappent pas aux dérives sexistes : « Si l’échantillon grâce auquel l’application a été conçue est seulement formé de gens qui ressemblent à ses concepteurs – par exemple, des ingénieurs dans la trentaine –, l’algorithme va renforcer les stéréotypes déjà présents dans les données », explique Aurélie Jean, numéricienne, cofondatrice du réseau social MixR. Ainsi, Apple a pu concevoir une application de suivi de la santé, Health Kit, qui, dans sa première version, n’avait rien prévu pour que les femmes puissent indiquer la date de leurs dernières règles. Un « détail » dans la vie de la moitié de l’humanité, oublié par des geeks souvent célibataires, qui n’ont jamais acheté une boîte de tampons pour dépanner leur fiancée ?
Pour le psychanalyste Michaël Stora*, observateur des univers numériques (1), il existe bien un rapport entre la personnalité de la plupart des ingénieurs et le sexisme éventuel qui se niche dans leur travail : « Les jeunes accros aux jeux que je soigne se dirigent souvent vers les métiers de programmeur. Ces garçons brillants ont un rapport au monde très pragmatique, qui manque parfois d’empathie. Ils développent une vision du monde rationalisée, à l’image des algorithmes. C’est pour eux une manière d’échapper à la complexité de l’être humain. Il y a parfois chez eux une sorte de nihilisme qui fait froid dans le dos. Dernièrement, j’ai entendu un jeune travaillant dans le numérique dire : “J’ai une idée d’appli : mettre en relation des ventres (des futures mères porteuses) et les gens qui en cherchent.” La plupart de ceux que j’ai suivis ont peur des femmes, et sont très machistes. » Pour éviter que le monde ne soit un jour façonné uniquement par des geeks qui oublieront les femmes, celles-ci doivent cesser de fuir les filières technologiques. Car, robotisation oblige, d’innombrables emplois disparaissent, d’autres émergent, comme « data miner » (savoir exploiter des milliards de données). Si les femmes restent ultra-minoritaires dans la tech, elles se couperont du marché du travail. Et resteront prisonnières des stéréotypes.
Mais les hommes ne dominent pas que dans le code. Dans le digital, ils sont partout. « Moins de 10% des start up innovantes sont dirigées par des femmes, regrette Carole Zisa-Garat, fondatrice de Telegrafik, et membre du Conseil National du Numérique. Et face aux investisseurs, quasi exclusivement des hommes, les femmes, se présentent souvent de manière plus modeste que les hommes. Pas comme la future reine du monde. Elles demandent juste les fonds dont elles pensent avoir besoin. Mais du coup elles peuvent paraître moins ambitieuses. Alors que prenant moins de risques financiers, elles assurent souvent mieux la pérennité de l’entreprise…» Combattre le sexisme dans le digital, c’est aussi féminiser les métiers qui le financent, et l’encadrent…
Des chiffres et des femmes
20 % : C’est le pourcentage de filles formées dans les écoles d’ingénieurs.
28% : C’est la proportion de femmes dans l’économie numérique. Et 13,5 % seulement dans le secteur de l’intelligence artificielle.
10% : C’est la part de start-up innovantes dirigées par des femmes. (Selon Carole Zisa-Garat, fondatrice de Telegrafik et membre du Conseil national du numérique.)
15 000 : C’est le nombre de femmes que Facebook a l’intention de former aux métiers du numérique, en France, en partenariat avec Social Builder, d’ici fin 2019. (Selon Michelle Gilbert, de Facebook Europe du Sud.)
(*) Coauteur, avec Anne Ulpat, d’Hyperconnexion, éd. Larousse.