Description
Date depot: 1 janvier 1900
Titre: Partage de l'autorité et conflits éthiques dans un système homme-robot
Directeur de thèse:
Jean-Gabriel GANASCIA (LIP6)
Directrice de thèse:
Catherine TESSIER (ONERA)
Domaine scientifique: Sciences et technologies de l'information et de la communication
Thématique CNRS : Non defini
Resumé:
{{{Problématique générale}}}
Le contexte de la thèse est celui du couplage d’un opérateur humain avec un engin robotisé doté de fonctions décisionnelles. L’autonomie de l’engin est variable selon l’autorité exercée respectivement par les fonctions décisionnelles et par l’opérateur humain sur les différentes ressources nécessaires à la mission. Ainsi le contrôle d’une ressource pourra, en cours de mission, passer des fonctions décisionnelles du robot à l’opérateur et réciproquement, ce partage de l’autorité présentant des risques de conflits [PTD14] lorsque les deux agents « veulent » simultanément avoir le contrôle d’une même ressource. Des travaux de thèse antérieurs [GTP12, GPPT13, GT13] ont permis de concevoir un protocole expérimental, inspiré du célèbre dilemme du trolley, visant à étudier les conflits d’autorité lorsque le système constitué de l’opérateur et du robot est soumis à des conflits qui relèvent de l’éthique, et qui n’ont donc pas de « bonnes solutions ».
De manière générale, les conflits d’autorité entre l’opérateur et la machine peuvent être dus à la présence de buts divergents des deux agents, ou à une appréciation différente de la situation sur laquelle ils se fondent pour prendre la décision. Dans le cas de conflits qui relèvent de l’éthique, cette appréciation de la situation, ainsi que l’évaluation des conséquences d’une décision, sont cruciales, et ne peuvent se limiter à une simple instanciation de règles.
La thèse a pour objectif d’étudier ce type de conflit d’autorité de manière la fois théorique et expérimentale, d’identifier ses précurseurs, d'étudier sa dynamique et sa gestion au sein du système constitué de l’opérateur humain et du robot.
{{{Programme de la thèse}}}
La thèse a pour objectif d’étudier le conflit d’ordre éthique dans un système constitué d’un opérateur humain et d’un robot considéré comme un conflit d’autorité entre deux agents. Ce conflit sera en particulier étudié lorsque les fonctions décisionnelles du robot sont plus ou moins développées, ou que l’opérateur humain est plus ou moins occupé à une autre tâche (par exemple la supervision simultanée d’un autre robot).
Pour cela il s’agira de :
-# établir un complément à l'état de l'art relatif aux questions éthiques liées aux décisions prises dans le cadre du couplage opérateur - robot (en particulier lorsque celui-ci est armé) ;
-# définir des comportements possibles du robot, en envisageant plusieurs cadres de décision (par exemple, le robot peut-il ou non reprendre l’autorité sur une fonction que contrôle l’opérateur ?)
-# modéliser les conflits d’autorité entre l’opérateur et le robot, en se fondant sur une analogie avec les dilemmes éthiques, en vue de leur explication et de la conception d’aides à leur gestion ;
-# définir les paramètres pertinents à faire varier dans le cadre d’expérimentations avec des volontaires ;
-# définir des métriques pertinentes pour évaluer la performance du couplage entre l’opérateur et le robot face aux conflits que l’opérateur humain peut appréhender comme étant d’ordre éthique ;
-# monter une expérimentation avec des volontaires et des engins robotisés simulés, puis réels, réaliser ces expérimentations et analyser les résultats ;
-# proposer des recommandations quant à la mise en œuvre de robots en interaction avec des opérateurs humains.
Les expérimentations seront réalisées en partenariat avec l’équipe Facteurs Humains de l’ISAE.
Doctorant.e: Berreby Fiona