Algorithms: Bias, Discrimination and Fairness

Algorithmes: Biais, Discrimination et Équité

Patrice Bertail (), David Bounie (), Stéphan Clémençon () and Patrick Waelbroeck
Additional contact information
Patrice Bertail: MODAL'X - Modélisation aléatoire de Paris X - UPN - Université Paris Nanterre - CNRS - Centre National de la Recherche Scientifique
David Bounie: ECOGE - Economie Gestion - I3 SES - Institut interdisciplinaire de l’innovation de Telecom Paris - Télécom Paris - IMT - Institut Mines-Télécom [Paris] - IP Paris - Institut Polytechnique de Paris - I3 - Institut interdisciplinaire de l’innovation - CNRS - Centre National de la Recherche Scientifique, SES - Département Sciences Economiques et Sociales - Télécom Paris - IMT - Institut Mines-Télécom [Paris] - IP Paris - Institut Polytechnique de Paris
Stéphan Clémençon: S2A - Signal, Statistique et Apprentissage - LTCI - Laboratoire Traitement et Communication de l'Information - IMT - Institut Mines-Télécom [Paris] - Télécom Paris - IMT - Institut Mines-Télécom [Paris] - IP Paris - Institut Polytechnique de Paris, IDS - Département Images, Données, Signal - Télécom ParisTech

Post-Print from HAL

Abstract: Les algorithmes s'immiscent de plus en plus dans notre quotidien à l'image des algorithmes d'aide à la décision (algorithme de recommandation ou de scoring), ou bien des algorithmes autonomes embarqués dans des machines intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ils sont accusés d'être des boites noires et de conduire à des pratiques discriminatoires liées au genre ou à l'origine ethnique. L'objectif de cet article est de décrire les biais liés aux algorithmes et d'esquisser des pistes pour y remédier. Nous nous intéressons en particulier aux résultats des algorithmes en rapport avec des objectifs d'équité, et à leurs conséquences en termes de discrimination. Trois questions motivent cet article : Par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ? Dans une première partie, nous décrivons comment fonctionne un algorithme d'apprentissage statistique. Dans une deuxième partie nous nous intéressons à l'origine de ces biais qui peuvent être de nature cognitive, statistique ou économique. Dans une troisième partie, nous présentons quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Nous concluons l'article en discutant des principaux enjeux de société soulevés par les algorithmes d'apprentissage statistique tels que l'interprétabilité, l'explicabilité, la transparence, et la responsabilité.

Date: 2020
Note: View the original document on HAL open archive server: https://telecom-paris.hal.science/hal-02077745v1
References: Add references at CitEc
Citations:

Published in HR Today, 2020, 58

Downloads: (external link)
https://telecom-paris.hal.science/hal-02077745v1/document (application/pdf)

Related works:
This item may be available elsewhere in EconPapers: Search for items with the same title.

Export reference: BibTeX RIS (EndNote, ProCite, RefMan) HTML/Text

Persistent link: https://EconPapers.repec.org/RePEc:hal:journl:hal-02077745

Access Statistics for this paper

More papers in Post-Print from HAL
Bibliographic data for series maintained by CCSD ().