Le sujet était abordé dans l'éditorial de la lettre de la Chaire n°12 (octobre 2018) ; il a fait depuis l'objet d'une publication complète, en français, disponible au téléchargement.
Les algorithmes s’immiscent de plus en plus dans notre quotidien, à
l’image des algorithmes d’aide à la décision (algorithme de recommandation ou de notation), ou bien des algorithmes autonomes embarqués dans des machines dites intelligentes (véhicules autonomes). Déployés dans de nombreux secteurs et industries pour leur efficacité, leurs résultats sont de plus en plus discutés et contestés. En particulier, ces algorithmes sont accusés d’être des boîtes noires incapables d'expliquer leurs décisions, et conduisant à des pratiques discriminatoires liées au genre ou à l’origine ethnique.
Les chercheurs Patrice Bertail (Université Paris Nanterre), David Bounie, Stephan Clémençon et Patrick Waelbroeck (Télécom Paris) se sont attachés à la rédaction d’un article pour décrire les biais liés aux algorithmes, et esquisser des pistes pour y remédier. Ils se sont en particulier intéressés aux résultats des algorithmes en rapport avec des objectifs d’équité et à leurs conséquences en termes de discrimination.
Trois grandes questions motivent cet article : par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ?
Dans une première partie les auteurs décrivent comment fonctionne un algorithme d’apprentissage statistique. Puis ils s’intéressent à l’origine de ces biais, qui peuvent être de nature cognitive, statistique ou économique. Ils présentent ensuite quelques approches statistiques ou algorithmiques prometteuses qui permettent de corriger les biais. Une discussion sur les principaux enjeux de société soulevés tels que l’interprétabilité, l’explicabilité, la transparence et la responsabilité conclut l’article.
Ce travail a été réalisé avec le soutien financier de la Fondation Abeona. Sous égide de la Fondation de France, la Fondation Abeona a pour objet de soutenir des projets de recherche pluridisciplinaires utilisant les sciences des données et de catalyser la réflexion sur le sujet de l’équité en intelligence artificielle.
Le texte complet de cet article est accessible en téléchargement (PDF, 23 pages).
Patrick Waelbroeck, Professeur d'économie industrielle et d'économétrie à Télécom Paris, co-fondateur de la Chaire Valeurs et Politiques des Informations Personnelles