Description
Date depot: 11 octobre 2021
Titre: Testing real time compliance of artificial intelligent agent actions with ethical rules of conduct
Directeur de thèse:
Jean-Gabriel GANASCIA (LIP6)
Directeur de thèse:
Gauvain BOURGNE (LIP6)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Intelligence artificielle
Resumé: La thèse s'inscrit dans le cadre de l'action de recherche trilatérale (franco-allemande-japonaise) RECOMP qui vise à assurer la conformité des agents intelligents artificiels aux normes juridiques et éthiques. Plus précisément, la recherche proposée est dédiée à l'éthique computationnelle, c'est-à-dire à la modélisation des concepts éthiques et du raisonnement éthique avec des outils d'IA dans le contexte du projet RECOMP. L'objectif pratique sera de concevoir des superviseurs éthiques en temps réel pour les agents artificiels, qui sont des logiciels qui doivent gouverner les agents artificiels, par exemple les véhicules autonomes, les robots ou les agents artificiels de soins de santé, afin de s'assurer qu'ils n'enfreignent pas les règles morales, sauf dans des situations spécifiques où les normes éthiques sont contradictoires. Cela ne signifie pas que les agents qui en résulteraient seraient, à proprement parler, éthiques, ce qui serait ridiculement anthropocentrique, mais qu'un tel superviseur éthique fait en sorte que les comportements des agents se conforment autant que possible aux règles morales de conduite. Le candidat devra assurer la compatibilité de la représentation et du mécanisme qu'il utilisera avec les représentations utilisées par les autres partenaires du projet, qui sont allemands et japonais. Le travail sera effectué dans l'équipe ACASA-LIP6, sur le Campus Pierre et Marie Curie, sous la supervision de Jean-Gabriel Ganascia et Gauvain Bourgne qui sont tous deux professeurs à l'Université de la Sorbonne (Paris - France).
Résumé dans une autre langue: The thesis will take place in the tri-lateral (French-German-Japanese) RECOMP research action that aims at ensuring the artificial intelligent agents compliance with legal and ethical norms. More specifically, the proposed research is dedicated to computational ethics i.e. to model ethical concepts and ethical reasoning with AI tools in the context of the RECOMP project. The practical goal will be to design real time ethical supervisors for artificial agents, which are pieces of software that have to govern artificial agents, e.g. autonomous vehicles, robots or healthcare artificial agents, in order to ensure that they don’t infringe moral rules, except in specific situations where ethical norms are conflicting. This doesn’t mean that the agents that would result be, properly speaking, ethical, which would be ridiculously anthropocentric, but that such an ethical supervisor makes the agents' behaviors to conform as far as possible to moral rules of conducts. The candidate will have to ensure the compatibility of the representation and the mechanism he will use with the representations used by the other partners of the project, which are German and Japanese. The work will be done in ACASA-LIP6 team, on the Pierre and Marie Curie Campus, under the supervision of Jean-Gabriel Ganascia and Gauvain Bourgne who are both Professor at Sorbonne University (Paris – France).
Doctorant.e: Taheri Sojasi Yousef