French below
Title: Efficient Approximations of Minimal-Sized Abductive Explanations: Application to Decision Trees and Random Forests.
Abstract: This work focuses on Explainable Artificial Intelligence (XAI), with an emphasis on formal explanations of classification models. As AI systems are increasingly deployed in mission-critical applications, it is essential to make their decisions understandable to human users. In this context, we study the challenge of approximating formal explanations for Boolean classifiers, drawing on concrete applications for decision trees and random forests.
Generating a minimal-sized abductive explanation is a challenging task, as this problem is often NP-hard, even for simple classification models such as decision trees. This complexity makes exact approaches, based on SAT encodings, impractical in resource-constrained environments or for high-dimensional instances.
To overcome these limitations, we formulate the problem of finding a minimal-size abductive explanation for a given instance and a classifier $h$ as a submodular optimization problem. We then propose a greedy solution with approximation guarantees, designed to be more resource-efficient. Our experiments demonstrate that, when the classifier is a decision tree or a random forest, our algorithm offers an efficient alternative to exact approaches based on SAT encoding, especially for difficult instances and in resource-constrained environments.
Bio: Louenas Bounia is a Lecturer at Sorbonne Paris Nord University, member of the LIPN laboratory, and a researcher in the field of Explainable Artificial Intelligence (XAI). In his research, Louenas mainly focuses on formal models of XAI.
Venue: Room #405, Corridor 24-25, 4th Floor (access via Tower 24), LIP6, Sorbonne University, Campus Pierre et Marie Curie, 4 place Jussieu, 75005 Paris
A Zoom connection link will be posted on the LFI seminars page (see below) on the day of the seminar.
More information: https://lfi.lip6.fr/seminaires/
This seminar is organized jointly with the French Chapter of the IEEE Computational Intelligence Society (http://ieee-ci.lip6.fr/)
Titre : Approximations Efficaces des Explications Abductives de Taille Minimale : Application aux Arbres de Décision et aux Forêts Aléatoires.
Résumé : Ce travail se concentre sur l’Intelligence Artificielle Explicable (XAI), en mettant l’accent sur les explications formelles des modèles de classification. Alors que les systèmes d’IA sont de plus en plus déployés dans des applications critiques, il est essentiel de rendre leurs décisions compréhensibles pour les utilisateurs humains. Dans ce contexte, nous étudions le défi de l’approximation des explications formelles pour les classifieurs booléens, en nous appuyant sur des applications concrètes pour les arbres de décision et les forêts aléatoires.
La génération d’une explication abductive de taille minimale est une tâche complexe, car ce problème est souvent NP-difficile, même pour des modèles de classification simples comme les arbres de décision. Cette complexité rend les approches exactes, basées sur des encodages SAT, peu pratiques dans des environnements à ressources matérielles limitées ou pour des instances de grande dimension.
Pour surmonter ces limitations, nous formulons le problème de la recherche d’une explication abductive de taille minimale pour une instance donnée et un classifieur $h$ comme un problème d’optimisation sous-modulaire. Nous proposons ensuite une solution gloutonne accompagnée de garanties d’approximation, conçue pour être plus économe en ressources matérielles. Nos expérimentations démontrent que, lorsque le classifieur est un arbre de décision ou une forêt aléatoire, notre algorithme offre une alternative efficace aux approches exactes basées sur l’encodage SAT, en particulier pour les instances difficiles et dans des environnements à ressources limitées.
Bio : Louenas Bounia est Maître de Conférences à l’Université Sorbonne Paris Nord, membre du laboratoire LIPN, et chercheur dans le domaine de l’Intelligence Artificielle Explicable (XAI). Dans le cadre de ses recherches, Louenas se concentre principalement sur les modèles formels d’XIA.
Lieu du séminaire : salle n°405, couloir 24-25, 4e étage (accès par la tour 24), LIP6, Sorbonne Université, Campus Pierre et Marie Curie, 4 place Jussieu, 75005 Paris
Un lien de connexion Zoom sera affiché sur la page des séminaires LFI (voir ci-dessous) le jour du séminaire.
Plus d'information : https://lfi.lip6.fr/seminaires/
Ce séminaire est organisé conjointement avec le Chapitre Français de l’IEEE Computational Intelligence Society (http://ieee-ci.lip6.fr/)