01Les données reflètent — et amplifient — les déséquilibres
Un modèle d'IA apprend à partir de données issues du monde tel qu'il est. Lorsque les femmes y sont sous-représentées, ou associées à certains rôles, le modèle peut reproduire et accentuer ces associations plutôt que de les corriger.
Source : Notion largement établie en apprentissage automatique (« biais des données »).
02Des stéréotypes dans le langage
Des modèles de langue entraînés sur de grands corpus peuvent associer certains métiers à un genre. Des travaux de recherche ont montré que des représentations vectorielles de mots encodaient ce type de stéréotypes.
Source : Bolukbasi et al., 2016 (représentations de mots et stéréotypes de genre).
03Le recrutement automatisé
En 2018, Amazon a abandonné un outil expérimental de tri de CV après avoir constaté qu'il désavantageait les candidatures associées à des indices féminins. L'information a été rapportée publiquement par l'agence Reuters.
Source : Reuters, 2018 (outil de recrutement expérimental abandonné par Amazon).
04La reconnaissance faciale
L'étude « Gender Shades » (2018) a mesuré des écarts de précision des systèmes commerciaux d'analyse faciale, plus élevés pour les femmes, en particulier à la peau foncée — un signal d'alerte sur l'évaluation des systèmes d'IA.
Source : Joy Buolamwini & Timnit Gebru, « Gender Shades », 2018.
05Les assistants vocaux
Un rapport de l'UNESCO de 2019 a alerté sur le fait que des assistants vocaux dotés par défaut de voix féminines et de réponses serviles pouvaient véhiculer des stéréotypes de genre.
Source : UNESCO, « I'd blush if I could », 2019.
06Pourquoi la diversité des équipes compte
Concevoir, tester et auditer les systèmes d'IA avec des équipes diverses aide à repérer plus tôt des angles morts. La place des femmes dans la recherche et l'ingénierie de l'IA est donc aussi un enjeu de qualité et de fiabilité.
Source : Constat partagé par de nombreux travaux sur l'éthique et la gouvernance de l'IA.