L’intelligence artificielle (IA) est souvent perçue comme une technologie impartiale et juste. Pourtant, divers exemples concrets montrent comment des systèmes automatisés peuvent non seulement reproduire, mais aussi accentuer des biais préexistants, avec des conséquences particulièrement lourdes pour certaines populations. Voici quelques cas emblématiques illustrant ces dérives :
💼 Amazon (2018) : Un recrutement biaisé par un algorithme
En 2018, Amazon a développé un outil de recrutement basé sur l’IA qui a rapidement été critiqué pour son traitement des candidatures féminines dans le secteur technologique. Pourquoi ? L’algorithme avait été formé à partir de données d’embauche majoritairement masculines, ce qui a entraîné une sous-évaluation des parcours féminins, notamment ceux des femmes issues de minorités ou ayant des trajectoires professionnelles non conventionnelles. Cet exemple illustre comment des biais latents peuvent être exacerbés par des systèmes d’IA mal calibrés.
💳 Apple Card (2019) : Discrimination dans l’attribution des crédits
En 2019, Apple Card a été accusée de discrimination fondée sur le genre après que des femmes ont obtenu des plafonds de crédit inférieurs à ceux de leurs partenaires masculins, bien que leurs profils financiers soient similaires ou supérieurs. L'algorithme, entraîné à partir de données historiques, a perpétué des schémas sexistes. Les femmes monoparentales, les travailleuses indépendantes ou celles partageant des comptes bancaires atypiques ont été particulièrement touchées, révélant ainsi comment l’IA peut renforcer des stéréotypes socio-économiques profondément ancrés.
🇳🇱 Pays-Bas (2021) : Fraudes fictives et discrimination raciale
En 2021, un scandale a éclaté aux Pays-Bas : un système d’IA censé détecter les fraudes aux allocations familiales a injustement ciblé des familles issues de l’immigration, les suspectant à tort de fraude. Ce biais, aggravé par le croisement de données ethniques, socio-économiques et familiales, a eu des conséquences dévastatrices pour des milliers de foyers. Le scandale a mis en évidence le potentiel des systèmes automatisés à intensifier les discriminations systémiques.
Intersectionnalité : un enjeu crucial pour l’IA
Ces exemples soulignent un défi essentiel : l’intersectionnalité des biais dans l’IA. Plutôt que de traiter chaque type de discrimination de manière isolée (genre, origine, handicap), l’intersectionnalité permet de comprendre comment ces biais s’entrecroisent et se renforcent mutuellement. Cela complique le développement d’algorithmes équitables, car ces systèmes peinent à analyser ces interactions complexes.
Vers une IA plus inclusive : le projet DIVERSIFAIR
Pour contrer ces dérives, des initiatives se multiplient pour sensibiliser aux biais intersectionnels dans l’IA. Le projet DIVERSIFAIR se distingue par son kit pédagogique novateur, qui propose :
✅ Des modules de formation sur les biais intersectionnels dans les systèmes d’IA.
✅ Des outils pour identifier les risques d’exclusion dès la conception des modèles.
✅ Des stratégies pour intégrer des pratiques inclusives dans les processus d’entreprise.
Développé par des experts multidisciplinaires, ce kit évolue continuellement en fonction des retours des utilisateurs, contribuant ainsi à la création de systèmes plus justes et inclusifs.
Loin d’être une technologie neutre, l’IA agit comme un miroir de nos données, de nos choix et de nos préjugés. Lutter contre ces biais, en particulier ceux liés à l’intersectionnalité, est indispensable pour concevoir des systèmes véritablement équitables.
Auteur
Mayeul BERETTA
Écrire commentaire