Local post-hoc interpretability for black-box classifiers
- 6 April 2026
- thesis
- Published by Agence Bibliographique de l'Enseignement Supérieur
Abstract
Interprétabilité locale post-hoc des modèles de classification "boites noires": Cette thèse porte sur le domaine du XAI (explicabilité de l'IA), et plus particulièrement sur le paradigme de l'interprétabilité locale post-hoc, c'est-à-dire la génération d'explications pour une prédiction unique d'un classificateur entraîné. En particulier, nous étudions un contexte totalement agnostique, c'est-à-dire que l'explication est générée sans utiliser aucune connaissance sur le modèle de classification (traité comme une boîte noire) ni les données utilisées pour l'entraîner. Dans cette thèse, nous identifions plusieurs problèmes qui peuvent survenir dans ce contexte et qui peuvent être préjudiciables à l'interprétabilité. Nous nous proposons d'étudier chacune de ces questions et proposons des critères et des approches nouvelles pour les détecter et les caractériser. Les trois questions sur lesquelles nous nous concentrons sont : le risque de générer des explications qui sont hors distribution ; le risque de générer des explications qui ne peuvent être associées à aucune instance d'entraînement ; et le risque de générer des explications qui ne sont pas assez locales. Ces risques sont étudiés à travers deux catégories spécifiques d'approches de l'interprétabilité : les explications contrefactuelles et les modèles de substitution locaux.Keywords
This publication has 66 references indexed in Scilit:
- Unjustified Classification Regions and Counterfactual Explanations in Machine Learning2020
- Black Box Explanation by Learning Image Exemplars in the Latent Feature Space2020
- Transparency: Motivations and Challenges2019
- Detecting Potential Local Adversarial Examples for Human-Interpretable Defense2019
- Open Set Learning with Counterfactual Images2018
- Comparison-Based Inverse Classification for Interpretability in Machine Learning2018
- A Proactive Intelligent Decision Support System for Predicting the Popularity of Online News2015
- Applied Predictive Modeling2013
- Evasion Attacks against Machine Learning at Test Time2013
- Using learner generated examples to introduce new conceptsEducational Studies in Mathematics, 2008