Invité CNIA
Conférencier invité de CNIA - Gauvain Bourgne
MCF HDR, Sorbonne Université, LIP6
Titre : Ethique computationnelle et Causalité.
Résumé : L’éthique computationnelle est un domaine de l’IA qui s’intéresse à la modélisation des raisonnements éthiques et la conception d’agents artificiels adoptant des comportements respectueux des principes éthiques, en se fondant sur les fondements philosophiques explorés dans le champ de l’éthique normative. La question centrale du raisonnement éthique est la déterminer du Juste : dans un contexte donné, quelles décisions devraient-elles être préférées ou jugées inadmissibles, et sur quelles bases fonder ce jugement. Cette question est abordée par l’éthique normative selon différentes approches, dont les principales sont les approches déontologiques, considérant qu’une action doit être évaluée par rapport à son respect de certaines règles de conduite (définissant une notion de devoir) et les approches conséquentialisme, qui mettent l’accent sur les conséquences réelles de l’action et cherchent à évaluer ce qu’il en ressort afin de maximiser le bien général. Différents modèles ont été proposés pour modéliser ces différents principes dans divers formalismes et il apparaît que pour traiter de ces approches de façon générale, il est nécessaire de s’appuyer sur une notion de causalité. Que ce soit pour déterminer les conséquences d’une action ou prendre en compte des questions de fins et de moyens, la question de la causalité réelle (actual causality) occupe une place importante dans ces considérations. La causalité réelle s’attache à déterminer les causes effectives d’un événement spécifique (par opposition à la causalité générale qui s’intéresse à la découverte de lois causales). La définition précise de ce qui peut être considéré comme une cause fait encore l’objet de débats, opposant des approches contractuelles (B ce serait-il produit si A n’avait pas eu lieu), mises en difficulté par les cas de surdétermination, et des approches par régularité (considérant des ensembles minimaux de faits permettant différer la conséquence) parfois critiquée sur le fait que la causalité ne se réduit pas à la conséquence logique. Nous proposons dans le contexte de prise de décision une approche fondée sur des langages d’action, différenciant états du monde et évènements, qui permet d’éviter certains de ces écueils. Cet exposé présente le cadre ACE (Action-Causalité-Ethique) de modélisation de raisonnements éthiques et se concentre ensuite sur le rôle de la causalité dans ces raisonnements et sur la définition d’une notion de causalité adaptée à nos problématiques sur la base d’un langage d’action suffisamment expressif pour représenter les situations complexes qui interviennent dans les différents exemples et dilemmes mis en avant dans ces domaines.