Cas science-fictionnel : L’éducation morale du futur

Délibération du Comité d’éthique éducative, XXIIe siècle: 

Président du comité d’éthique éducative (P) : – Voici le cas qui nous est soumis :

Spécialiste du département recherche et développement (RD) : – Nous souhaiterions faire implanter cette innovation à l’ensemble des enfants. Par la suite, à termes cela voudrait dire que l’ensemble de la population recevrait cet implant. Pour l’instant, nous nous doutons que nous allons recevoir des critiques. Nous souhaiterions l’implanter à titre expérimental aux adolescents et jeunes adultes qui ont reçu le diagnostique de « personnalités anti-sociales ». Comme vous le savez, il s’agit de personnes qui ont un taux de délinquance élevée et d’incarcération en prison.

P : – J’ai une question préalable à vous poser. Sur quelle base a été programmé l’implant de moralité ? Comme vous le savez, et c’est la raison même de ce comité d’éthique, il n’y a pas de consensus concernant la philosophie morale.

RD :- Nous avons une expérience maintenant assez ancienne de développement de programmes moraux à implanter sur des robots. Nous avons effectué de nombreuses études en morale expérimentale¹. Nous leur implantons un programme de base de type déontologique qui respecte les droits fondamentaux. Puis, nous leurs implantons sur les questions qui ne relèvent pas des droits fondamentaux, un programme qui s’appuie sur l’utilitarisme moral.

Militant-e anti-oppression (A-O) : – Déjà, je voudrais revenir sur le cas des personnalités anti-sociales. C’est un diagnostique que nous contestons. En effet, statistiquement, les personnalités anti-sociales sont surtout des hommes et les personnalités borderline des femmes. Pour nous, ces diagnostiques renvoient à des biais de genre sociaux. En outre, je suppose que votre modèle de moralité ne prend pas en compte la « conscience sociale critique » (critical consciousness²).

RD : – Comme vous le savez, les deux principaux courants de la philosophie éthique sont le déontologisme et l’utilitarisme. La principale critique qui est faite à l’utilitarisme est de pouvoir porter atteinte aux droits fondamentaux. C’est pourquoi nous avons eu recours à un utilitarisme limité.

Défenseurice des droits humains (DH) : – Cela pose tout de même des problèmes éthiques. Les personnes ne sont pas des robots. On doit respecter leurs capacités à produire un choix autonome.

RD : – Excusez-moi, mais je ne vois pas quel est l’intérêt d’accepter que les personnes aient des comportements immoraux.

DH : – Déjà, il y a une différence entre le droit et la morale. Un comportement immoral n’est certes pas très appréciable, mais il n’est pas illégal.

RD : – Vous savez que beaucoup de règles juridiques correspondent à des règles morales. En nous assurant du comportement moral des personnes, nous nous assurons de leur comportement éthique.

DH : – Vous avez une vision trop simpliste de ce qu’est la moralité et qui ne correspond pas à l’idée même de comité d’éthique. Si les cas éthique pouvaient être résolus avec des algorithmes, nous n’aurions pas besoin d’un comité d’éthique, un ordinateur suffirait. L’éthique appliquée suppose de pouvoir priorisées des valeurs par rapport à d’autres. Le philosophe Paul Ricoeur avait bien mis en valeur la question des conflits de valeurs possibles y compris dans une philosophie déontologique. C’est pourquoi nous ne pouvons pas nous contenter d’une philosophie générale. La manière de se positionner par rapport à un cas éthique dépend des valeurs de chacun.

RD :- En tant que tenant du déontologisme, vous avez l’air de basculer dans le relativisme et le décisionnisme. De mon point de vue d’utilitariste, il n’y a pas de différences entre la morale et l’éthique. Il suffit d’appliquer aux cas pratiques des calculs utilitaristes. Cela permet de résoudre tous les cas particuliers. Je conviens qu’il peut y avoir des nuances au sein de l’école utilitaristes entre les utilitaristes de la règle ou de l’acte. Mais de manière générale, dans le cadre utilitariste, tout cas pratique peut trouver une solution éthique.

DH : – Le plus important dans le déontologisme, c’est d’être fidèle à ses principes. C’est ce que Weber appelle l’éthique de la conviction.

RD : – Enfin, cela semble plus ressembler à une éthique perfectionniste. Mais, si vous le dites. Je ne suis adepte ni du perfectionnisme éthique, ni du déontologisme.

DH : – De toute façon, nous nous éloignons du fond du problème. Pour moi, je vois dans ce projet d’implant de moralité une atteinte à la dignité de la personne.

Représentant* des métiers de la relation à autrui (MA) : – Le problème, c’est qu’aussi bien le déontologisme que l’utilitarisme reposent sur une conception rationaliste de la morale qui ne laisse pas de place aux émotions. Rien ne prouve que la moralité relève d’une décision appuyées sur des raisons rationnelles. La moralité relève peut-être davantage du sentiment, par exemple de l’empathie.

Président* : – Ce que je retiens pour l’instant de nos échanges, c’est qu’il y a un premier problème philosophique pour la validation de cet implant de moralité, c’est qu’il n’y a pas consensus entre vous pour savoir sur ce qui constitue le jugement moral. Il ne semble pas pouvoir être réductible à un algorithme qui serait reconnu par toustes.

L’autre point, que met en avant l* tenant* du déontologisme, c’est que la dignité de la personne humaine pré-suppose habituellement une capacité à la liberté de choix. Ce que les philosophes traditionnellement appellent le « libre-arbitre ». C’est ce libre-arbitre qui distinguerait les êtres humains d’une machine.

RD : – Si tenté qu’un tel libre-arbitre existe et ne soit pas une illusion. Ce n’est pas du tout conforme à la rationalité scientifique d’admettre un libre-arbitre. Toute action doit avoir une cause.

DH : – Enfin, l’utilitarisme admet des raisons psychiques qui ne sont pas des causes physiques. Vous affirmez que tout être humain tend vers le plaisir. C’est une cause finale et non pas efficiente comme dans les sciences mécaniques.

P : – Peut-on revenir à la question de l’implant de moralité ?

A-O : – L’idée de l’implant de moralité laisse entendre que les personnes aurait : a) soit une déficience biologique en matière de moralité, par exemple, une déficience neuronale b) soit une déficience au niveau de la socialisation. Pour nous, une telle conception conduit une fois de plus à rejeter le problème de la moralité au niveau de l’individu. La plupart des problèmes sociaux, comme délinquance, ont une origine sociale. On ne peut pas les réduire à des questions de morales individuelles. On sait bien qu’il y a une variabilité sociale en matière de délinquence.

RD : – Rien ne prouve effectivement que les individus présentant des « tares » de moralité ne sont pas concentrés plus particulièrement dans certains milieux sociaux. Ce que je dis n’est pas politiquement correct… Mais bon, rien n’empêche de mener des recherches scientifiques sur cette hypothèse pour la valider.

A-O : – Cette théorique pseudo-scientifique était assez répandue au XIXe sous le nom d’atavisme social. Il y a une tendance à chercher des origines biologiques à des phénomènes sociaux. On ferait mieux d’agir sur l’environnement social et l’organisation politique, plutôt que de chercher les problèmes dans la personnalité des individus.

P : – J’ai l’impression que cette proposition d’implant de moralité se heurte à la très grande conception entre nous de la moralité qui constitue un préalable même à l’acceptation de l’idée d’un implant. Vous n’avez pas du tout les mêmes conceptions du jugement moral.

NB: On trouve une situation semblable discutée dans le roman d’Antony Burgess, Orange mécanique, où le protagoniste principal est condamné, suite à des actes de violences extrême, à subir un programme de moralisation. Cela donne lieu dans le roman à une discussion sur la question du libre-arbitre.