Understanding and Addressing Fairwashing in Machine Learning

​Fairwashing refers to the risk that an unfair black-box model can be explained by a fairer model through post-hoc explanation manipulation. In this talk, I will first discuss how fairwashing attacks can transfer across black-box models, meaning that other black-box models can perform fairwashing without explicitly using their predictions. This generalization and transferability of fairwashing attacks imply that their detection will be difficult in practice. Finally, I will nonetheless review some possible avenues of research on how to limit the potential for fairwashing.

​Sébastien Gambs is Professor of Computer Science at UQAM and holds the Canada Research Chair in Privacy-preserving and Ethical Analysis of Big Data, where his work focuses on privacy, fairness, and accountability in machine learning.

​Le fairwashing désigne le risque qu'un modèle boîte noire inéquitable soit expliqué au moyen d'un modèle plus équitable par la manipulation d'explications post-hoc. Dans cet exposé, je discuterai d'abord de la manière dont les attaques de fairwashing peuvent se transférer entre modèles boîtes noires, c'est-à-dire que d'autres modèles boîtes noires peuvent effectuer du fairwashing sans utiliser explicitement leurs prédictions. Cette généralisation et cette transférabilité des attaques de fairwashing impliquent que leur détection sera difficile en pratique. Je passerai néanmoins en revue, pour conclure, quelques pistes de recherche permettant d'en limiter le potentiel.

​Sébastien Gambs est professeur d'informatique à l'UQAM et titulaire de la Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives. Ses travaux portent sur la protection de la vie privée, l'équité et la responsabilité dans l'apprentissage automatique.

​Où / Where

​UQAM - Pavillon President-Kennedy
PK-1140 (first floor)

​Contact host or call +1 438-476-8403 if you want help