Liste des articles
ENIT Alumni
Vue 346 fois
30 juin 2022

Réflexions autour de l'éthique du roboticien

Une réflexion naïve et incomplète autour de la question de l'éthique de la recherche scientifique et plus particulièrement pour le roboticien que je suis. 


Récemment, je participais à la première journée "Robotique et Société" organisée par le GDR Robotique. Je ne m'étendrai pas sur les raisons qui m'ont amené à y participer ni sur le déroulé détaillé de la journée en question. Je souhaite juste évoquer un point : parmi les orateurs, Pierre-Brice Wieber (Inria) avait intitulé sa présentation "De l'éthique des robots à celles des roboticiens". Au delà de la présentation instructive et intéressante, c'est le titre qui m'a interpellé et notamment la notion d'"éthique [...] des roboticiens". Comme le rappelait Catherine Tessier (Onera) en introduction de cette journée, le mot éthique, dans son acception française, désigne la réflexion fondamentale, nécessaire et préalable à l'établissement de normes. L'éthique, de ce que j'en comprends, est donc un processus continu de pensée visant à expliciter les consensus mais surtout les dissensus autour d'un sujet donné et ce afin de faire des choix éclairés concernant ce qu'il convient de faire/décider/accepter/autoriser/... à ce sujet.

Du côté des sciences, si les injonctions institutionnelles à l'éthique ne manquent pas (comités opérationnels, financeurs, journaux scientifiques,...), la démarche éthique sincère (i.e. ne relevant pas d'une injonction/obligation extérieure) demeure, de mon point de vue, rarement exprimée à titre individuel. Pourtant, je suppose que chacun.e des acteur.rice.s de la recherche scientifique se pose en permanence des questions sur la pertinence de ses choix scientifiques et techniques au regard de leurs implications potentielles pour le reste du monde. A ce titre, je renvoie à la bande sonore de la conférence donnée au CERN par Alexander Grothendieck en janvier 1972 et intitulée "Allons-nous continuer la recherche scientifique ?". J'ai découvert ce document dans le cadre de l'atelier "SENS" animé par Sophie Quinton en avril au centre Inria de l'Université de Bordeaux. Il relate notamment l'émergence de cette réflexion chez un chercheur emblématique.

Si ce questionnement est, comme je le suppose, une habitude aujourd'hui globalement acquise dans la communauté, je ne comprends pas l'émergence d'un certain nombre de projets de recherche scientifique "en robotique" qui, de manière presque caricaturale, s'appliquent méthodiquement à scier la branche sur laquelle l'humanité est assise. La question qui me taraude est donc la suivante : quels sont les facteurs qui induisent la dilution de la réflexion éthique des chercheur.se.s (et plus spécifiquement des roboticien.ne.s) dans des enjeux prétendument essentiels mais qui, eux-mêmes, passent rarement les fourches caudines de la dite réflexion éthique quand on veut bien se donner la peine de la mener et d'en tirer les conséquences ? La.le lecteur.rice perspicace notera l'aspect purement rhétorique de cette question. Par ailleurs, il est, à ce stade, important de préciser que je ne me positionne ni comme un expert de la démarche éthique ni comme un modèle de vertu ou de connaissance. Ma démarche est naïve et ne prétend pas se substituer à la pléthore de réflexions plus poussées pré-existant à ces quelques lignes. D'une certaine manière, ce texte n'est qu'un exutoire à mes propres contradictions sur ce sujet.

Man cutting the branch he is sitting on © Frits Ahlefeldt

Principes

Au delà des principes déontologiques qui guident implicitement mes actions en tant que chercheur, ma pratique personnelle de l'éthique repose sur quelques principes généraux, certes discutables et antagonistes par certains aspects, mais qui me semblent importants. Je les liste ici avec une tentative d'ordre :

  1. L'être humain est mortel et sa vie n'a pas de but ou de sens a priori. Charge à chacun de trouver la manière la plus épanouissante de mener la sienne, dans les limites imposées par le respect de l'existence et de la différence des autres.
  2. La recherche scientifique est un moyen permettant d'accroître la connaissance et la compréhension de l'univers. A défaut d'un but de la vie a priori, on peut considérer cette activité comme honorable (le choix de ce dernier mot est discutable et j'ai mis du temps à le choisir).
  3. La connaissance et la compréhension n'existent réellement que si elles sont partagées (ou a minima accessibles) par le plus grand nombre. De nouveau, à défaut d'un but de la vie a priori, on peut considérer que contribuer à sa transmission est une activité honorable.
  4. La recherche scientifique peut avoir des applications plus ou moins immédiates mais, l'accroissement de connaissances étant admis comme honorable, la recherche scientifique peut être réalisée sans objectif applicatif. Elle peut aussi être explicitement réalisée dans un but applicatif. Ces applications potentielles, qu'elles constituent un objectif explicite ou qu'elles apparaissent fortuitement au cours de la mise en œuvre de la démarche scientifique, ont des implications sociétales et environnementales plus ou moins importantes et à plus ou moins long terme. Appréhender et comprendre ces implications est une exigence déontologique pour les chercheur.euse.s, indépendamment de leurs natures positives ou négatives.
  5. Le partage des connaissances va de pair avec l'explication au plus grand nombre des implications de la recherche scientifique.
  6. Si un bénéfice applicatif est à tirer d'une activité de recherche scientifique, ce bénéfice ne peut être considéré comme tel que s'il respecte les limites imposées par le respect de l'existence et de la différence des autres. Ces bénéfices doivent par ailleurs et, autant que possible, être universels, i.e. concerner le plus grand nombre et ne pas s'adresser systématiquement à la même et unique frange de l'humanité.

Derrière les "limites imposées par le respect de l'existence et de la différence des autres" et "l'universalité des bénéfices de la recherche scientifique" se dissimulent plusieurs principes moraux qui ne sont pas explicitement l'objet de ces quelques lignes. Je les résumerais comme ceci : la survie de chacun et de tous dans un monde aux ressources finies nécessite un emploi parcimonieux de ces ressources et une coordination solidaire de l'humanité dans son fonctionnement. Dans une conférence récente au centre Inria de l'Université de Bordeaux, Julia de Funès évoquait le fait que la pertinence du collectif présuppose l'existence d'un danger. Je ne suis pas sûr d'adhérer entièrement à ce point de vue mais, si certains doutent encore du danger concernant notre planète, qu'ils ou elles se contentent juste de s'informer auprès de ceux qui sont compétents en la matière.

Constats

Ces principes généraux sont loin de faire l'unanimité. On constate plutôt une incitation institutionnalisée à la productivité : produire plus, plus vite et moins cher. Cette incitation implicite au combat productiviste est ancrée politiquement au plus profond de nos institutions nationales et européennes. Elle constitue même un point de mire qui semble faire consensus mondialement. Pourtant, les rapports du GIEC, auxquels s'ajoutent de nombreux avis d'experts encore capables d'indépendance (je cite ici à titre d'exemple instructif, l'interview d'Aurore Stéphant, ingénieure géologue minier de l'association SystExt, par Thinkerview en janvier 2022 ou plus récemment celle d'Emma Haziza, hydrologue), sont limpides. La trajectoire productiviste est vouée à l'échec. La parcimonie dans l'usage des ressources et la diminution de l'empreinte environnementale de nos modes de vie sont une nécessité. Bien sûr, la parcimonie ne s'oppose fondamentalement pas à l'idée de produire efficacement ce qui doit l'être. Ce n'est malheureusement pas en ce sens qu'est pensée l'efficacité de l'"appareil productif" (au sens général du terme). Ainsi, l'effet immédiat de l'incitation à maximiser la productivité est un fléchage important des budgets privés et publiques de la recherche scientifique vers du "plus" plutôt que du "mieux". On m'opposera ici que les développements scientifiques liés à ce gain de productivité (et très bien illustré dans l'ouvrage vulgarisateur de Jean-Marc Jancovici et Christophe Blain "Le monde sans fin") ont été bénéfiques globalement à l'amélioration de la qualité de vie de l'humanité. Je répondrai que la perception de la dite amélioration est biaisée par une vision "d'occidental moyen" qui tend aisément à oublier que son quotidien n'est pas celui de la majorité des 7 milliards d'humains sur terre et que, cerise amère sur un gâteau acide, ce plus pour les uns implique en l'espèce du pire pour les autres. Je ne remets pas complètement en cause les développements scientifiques et technologiques qui ont conduit à ce plus dont je bénéficie clairement mais bien les motivations profondes qui les ont permises et la répartition inégale de leurs bienfaits. Dit autrement, sous couvert d'un technoptimisme béat, l'injonction innovante conduit à l'émergence de solutions gourmandes à des problèmes mal posés qui enrichissent les uns en oubliant les autres.

Ainsi, les chercheurs, et tout particulièrement en robotique, sont incités à écrire des projets qui "tackle climate change, help to achieve the UN’s Sustainable Development Goals and boost the EU’s competitiveness and growth. [...] create jobs, fully engage the EU’s talent pool, boost economic growth, promote industrial competitiveness and optimise investment impact within a strengthened European Research Area". Sous un vernis de respectabilité écologique, l'oxymore est omniprésente et les objectifs sont clairement annoncés. Nous sommes donc souvent amenés à écrire des projets qui soit embrassent volontairement et de manière convaincue ces injonctions ou alors qui s'imposent un vernis productiviste afin d'avoir une chance de passer le filtre du financeur. La tentation est grande ici de proposer une liste d'exemples récents de projets de recherche scientifique en robotique acceptés au niveau national ou européen et qui illustrent mon propos. Malheureusement, ils sont très nombreux et les exemples trop spécifiques seraient stigmatisants. Ce n'est pas l'objet de ce texte et je pense que, même sans cette liste ,chacun reconnaîtra ses propres contradictions. J'ai par ailleurs hésité à égrener les différents projets qui ont contribué financièrement à ma recherche afin de comparer les intentions annoncées aux financeurs, les intentions réelles et les véritables questions scientifiques sous-jacentes. J'ai pour ma part bien identifié la divergence entre mes principes et ma pratique mais le risque de transformer l'auto-critique en auto-promotion n’étant pas nul, je ne me lance pas ici dans l'exposé du fruit de cet exercice.

So what ?

Finalement, le problème que je soulève est celui de l'absence de longueur de vue et de courage politique. À l'ordre 0, ce n'est pas un problème qui relève de la recherche scientifique. Pourtant, en attendant que nos tutelles s'emparent du sujet et arrête de rejeter la responsabilité de courage politique sur les individus, des leviers multiples existent pour les enseignant.e.s et chercheur.se.s afin d'infléchir cette fuite en avant. Ainsi, comme un miroir à mes principes, je (m'auto-)préconise de :

  • Transmettre la connaissance scientifique et technique au plus grand nombre et dès le plus jeune âge. L'éducation est la solution à de nombreux problèmes et l'appropriation de la méthode scientifique, de l'esprit critique et l'acceptation de la complexité du monde par les plus jeunes est une nécessité.
  • Ne pas faire de la connaissance un objet de propriété. Comme rappelé récemment par Mehdi Khammassi, "La connaissance est un bien commun universel : en avoir ne prive pas les autres, et la transmettre ne dépossède pas celui qui en fait don.". Ainsi, en toute situation de discussion de "propriété intellectuelle" avec des partenaires académiques ou privés, ce principe devrait prévaloir et l'émergence de solutions libres/open-source doit rester une solution privilégiée.
  • Faire de la parcimonie un principe central. Par "parcimonie, j'entends l'usage réfléchi des ressources, la conception de produits (au sens large) utiles (vague sujet), efficaces énergétiquement et surtout, complètement recyclable.
  • Faire de la préservation de l'humain (au travail notamment) et de son écosystème une priorité et non plus un objectif secondaire qu'on essaiera de remplir à compétitivité instantanée constante ou croissante pour faire plaisir aux financeurs.
  • Accepter de ne pas avoir d'application immédiate aux travaux de recherche en cours sans pour autant feindre d'ignorer leurs travers potentiels.

Pour conclure, le meilleur service que nous puissions rendre à la société c'est de nous exprimer sur les sujets que nous maîtrisons plutôt que de laisser la place au vacarme ambiant et à son lot de bêtise ignorante, de surenchères sur la vérité et de mensonges marketing assumés (certain.e.s promoteur.rice.s de la robotique sociale, de la robotique collaborative et de "l'industrie 4.0" se sentiront peut-être visé.e.s ici). En une formule : "Oui au retour de l'autorité du savoir. Non à l'autoritarisme du marché."

Éthiquement votre.

Auteur

Commentaires

2 Commentaires

Pierre-Alexandre IAUCH (TARBES 35)
Il y a 4 mois
Réflexion intéressante sur le savoir et le sacro-saint principe de Propriété intellectuelle qui permet aux "sachant" d'obtenir un avantage indu sur les "non-sachant".
L'éternelle lutte entre droite Vs gauche, liberté Vs fraternité et possédants ou pas... ^^
Vincent PADOIS (TARBES 34)
Il y a 4 mois
Merci pour la lecture et ce commentaire. Je me permets une précision: je n'oppose pas "sachant" et "non-sachant". J'oppose, avec un point de vue idéaliste, une vision de la société où la connaissance constitue un bien commun et à partager à une vision mercantile où la connaissance constitue un enjeu de profits non partagées. Cette vision mercantile s'autorise à privatiser la connaissance mais aussi à l'ignorer, voire à la déformer, quand cela peut permettre d'accroître le profit. C'est à ce moment là qu'il devient important de faire valoir l'autorité du savoir face à l'obscurantisme imposé par le marché.

Vous devez être connecté pour laisser un commentaire. Connectez-vous.