Cas science-fictionnel : L’éducation des IA.

Délibération du comité d’éthique éducative, XXIIe siècle :

Président* (P.) : – Comme vous le savez, le cas de l’IA Tey¹, en 2016, a mis à jour l’importance de l’éducation des IA, et en particulier de leur éducation morale. Cependant, comme l’a montré le dilemme de Tramwey² en morale expérimentale, aucune des principales théories en éthique (utilitarisme et conséquentialisme) n’arrivent à rendre compte des intuitions morales, qui en outre connaissent une certaine variabilité culturelle. De ce fait, il semble que l’analyse de cas en éthique professionnelle ne peut être rendu par une théorie éthique générale unique, et nécessite une vertu pratique – la phronésis (prudence)³ -.

Spécialiste en éthique en recherche et développement économique (RD) : – Vous savez que je ne suis pas d’accord sur ce point car pour ma part je me réfère à l’utilitarisme, entre autres les théories de Peter Singer.

Défenseurice des droits humains (DH) : – Pour ma part, je suis d’accord avec mon collègue sur l’importance de l’éthique générale (ou philosophie morale) pour l’éthique appliquée, sauf que je suis partisan* d’une version du déontologisme, qui est l’éthique des droits.

Représentant* des métiers de la relation à autrui (ME) : – Je rejoins plutôt l’approche casuistique de P. En tant que partisan* de l’éthique du care, il ne me semble pas que l’on puisse déterminer des règles rationnelles générales. Je pense plutôt que l’approche en éthique professionnelle se trouve dans une vertu pratique en lien avec une intuition morale liée à la sensibilité.

Militant* anti-oppression (A-O) : – En ce qui nous concerne, notre approche – l’éthique de la critique – ne s’appuie pas nécessairement sur les intuitions morales dominantes. En effet, longtemps il a été largement partagé par des philosophes, pourtant défenseurs des droits humains, d’opprimer les personnes racisées et les femmes. Il nous semble au contraire que l’éthique telle que nous la concevons vise à dévoiler les formes d’oppression qui sont invisibilités, à faire apparaître les formes « d’aveuglement éthique »⁴. Le problème auquel nous sommes plutôt confrontés est de définir ce qu’est un groupe opprimé et d’établir la compatibilité des revendications de ces groupes entre eux. De ce fait, ce que nous allons chercher à déterminer c’est dans quelle mesure un groupe se trouve ou non opprimé dans la situation, et lequel.

ME : – Personnellement, je ne vois pas l’intérêt spécifique de l’éthique de la critique. Il me semble que l’éthique du care est tournée vers l’aide aux personnes vulnérables.

A-O : – Notre approche est différente pour plusieurs raisons. Tout d’abord, parce que la notion de « vulnérabilité » ne nous dit rien en soi de ce qui provoque cette vulnérabilité. Peuvent être ainsi amalgamés des formes de vulnérabilités d’origine sociale comme des formes de vulnérablités qui trouveraient leur origine dans la nature intrinsèque de la personne comme dans le modèle médical du handicap. Même lorsque la vulnérabilité est qualifiée de sociale, rien n’est dit en soi sur l’existence ou non d’un rapport social de pouvoir dans la production de cette vulnérabilité. Par ailleurs, l’éthique du care a soulevé des objections de la part de militant*s anti-validisme qui lui reproche son paternalisme.

DH : – Personnellement, je ne vois pas non plus l’intérêt de l’éthique de la critique relativement à l’éthique des droits. En effet, lorsqu’on proclame l’égale-diginité de toutes les personnes, il en résulte que toute formes discriminations est une atteinte à la dignité des personnes.

A-O : – Certes, l’éthique des droits condamne les discriminations, mais pas les inégalités sociales économiques injustes. Mais par ailleurs, il n’en demeure pas moins que nombre de tenant de l’éthique des droits ont fait preuve d’aveuglement éthique concernant ces inégalités. Actuellement, il existe encore des controverses pour savoir quelle est l’extension de la notion d’opprimés. Par exemple, si on inclut les animaux et/ou les robots, alors notre conception des droits devraient être changés. Comme l’on a élargie la notion de « droits de l’homme » à celle de « droits humains », il faudrait élargir cette notion comme dans les « droits de la Terre mère ». Pour Leonardo Boff, la Terre est la plus grande des opprimées.

P* : – Justement où en êtes vous de cette extension ?

A-O : – Actuellement, nous sommes encore dans une phase de discussion sur le statut des droits accordés. Par exemple, les animaux peuvent être reconnus comme des opprimés, tout en leur reconnaissant un autre statut que celui des humains, à savoir celui d’être sensibles. Dans le cas des enfants, ils sont inclus dans les droits humains, mais bénéficient d’une déclaration des droits spécifiques.

RD : – Je ne pense pas non plus que l’éthique de la critique puisse constituer une éthique spécifique. En effet, l’utilitarisme également a pu jouer un rôle précurseur dans la défense des droits. Par exemple, Stuart Mill, au XIXe siècle, a défendu le droit des femmes et Bentham s’est opposé à l’homophobie. Peter Singer a défendu le droit des animaux et la lutte contre la pauvreté. L’utilitarisme n’hésite pas non plus à aller contre les idées morales dominantes à un moment donné.

A-O : Tout comme l’éthique du care, l’utilitarisme moral a pu soulever l’opposition de militant*s anti-validistes. Peter Singer a défendu l’euthanasie de certains enfants gravement handicapé⁵ considérant que leur vie ne vaut pas la peine d’être vécue. En outre, comme l’éthique des droits et l’éthique du care, l’utilitarisme ne prend pas en soi position sur l’organisation sociale. L’éthique de la critique prend le partie de dénoncer les injustices qui relèvent de situation d’oppression sociale.

P : – Justement, l’éthique de la critique n’est-elle pas une éthique spécifique ? Ce que je veux dire par là, c’est qu’il s’agirait d’une éthique qui n’est applicable que relativement à certains problèmes éthiques, mais ne peut pas avoir une portée générale comme le déontologisme ou le conséquentialisme.

A-O : – On a fait ce même reproche à l’éthique du care. Pourtant l’éthique du care est enseignée comme un des courants de l’éthique au même titre que le conséquentialisme ou le déontologisme. En ce qui concerne, l’éthique de la critique, elle s’appuie sur une théorie sociale qui peut dépendre du courant auquel on adhére. Cela signifie que l’éthique de la critique présuppose que tout cas pratique n’est pas donné dans une réalité sociale abstraite, mais dans une réalité sociale donnée. Cette réalité sociale est à prendre en compte dans l’analyse du cas pratique.

ME : – Sur ce point, je ne vois pas la différence avec l’éthique du care. En effet, l’éthique féministe du care admet l’existence de rapports sociaux de sexe. De même, il est possible d’appuyer l’éthique du care sur une sociologie intersectionnelle. Par exemple, les femmes blanches peuvent être conduites à déléguer sur les femmes racisées le care. Par rapport à une éthique féministe intersectionnelle du care que peut apporter l’éthique de la critique ?

A-O : – L’éthique du care, même si elle est féministe intersectionnelle, se centre sur la notion de vulnérabilité, alors que l’éthique de la critique se centre sur la notion d’oppression. La portée de l’éthique de la critique consiste en particulier à s’interroger sur : Qu’est-ce qu’un rapport d’oppression ? Quels sont les critères pour définir un groupe opprimé  ou oppresseur ? Comment peuvent-être pensé l’existence de revendications qui peuvent être contradictoire ? De ce fait, l’éthique de la critique repose sur une théorie sociale méta-éthique de l’oppression. La méta-éthique est une discipline qui s’interroge sur les concepts utilisés en éthique. En l’occurrence, la méta-éthique de l’éthique de la critique est centrée sur la notion « d’oppression ».

ME : – Ne peut-on pas dire que l’oppression ne serait qu’une sous-catégorie de la vulnérabilité ?

A-O : Lorsque nous utilisons dans le langage courant ou dans le langage spécialisé, les termes de vulnérabilité et ceux d’oppression, cela ne semble pas renvoyer à la même signification. La vulnérabilité semble renvoyer à une caractéristique intrinsèque de la personne, alors que l’oppression semble renvoyer plutôt à un rapport social. On peut discuter cette distinction de base, mais elle semble pouvoir constituer un point de départ à une discussion sur ces deux notions.

P :- Mais les autres courants de l’éthique peuvent aussi réfléchir à l’oppression et en proposer des définitions. Par exemple, pour l’utilitarisme, le fait d’imposer une souffrance à un autre être sensible, ou par exemple pour le déontologisme, en relation avec le non-respect des droits et de la dignité humaine. Ces définitions impliquent bien un rapport de pouvoir qui peut dans certains cas prendre la forme d’un rapport social comme dans le cas par exemple d’une institution esclavagiste.

A-O : – Dans le cas du déontologisme et de l’utilitarisme, l’oppression n’est pas un concept central, il n’est qu’un cas particulier de manquement moral. Dans le cas de l’éthique de la critique, l’oppression est la notion centrale pour penser l’injustice.

P : – Mais est-ce que cela ne veut pas dire dans ce cas que l’éthique de la critique se prive de la possibilité de penser l’injustice éthique des relations interindividuelles ?

A-O : – Justement, les injustices ne sont jamais pensées uniquement comme des relations sociale, mais comme des rapports sociaux également qu’il faut dévoiler. C’est tout le problème par exemple qui se posait dans les situations de violences conjugales. Par exemple, la thérapie systémique analysait les relations de couples entre hommes et femmes comme le résultats de violences symétriques, par exemples verbales et physiques. Par exemple, les violences verbales et psychiques étaient pensées comme équivalentes. Il était possible dans ce cas de penser la violence physique de l’homme comme une réponse à une violence verbale de la femme. Or l’intervention féministe a analysé ces situations de violences dans le couple en tenant compte des inégalités sociales se trouvent à l’oeuvre et qui font que les positions des hommes et des femmes ne sont pas socialement symétriques. Sur le plan structurel, il est alors possible de constater que les femmes sont statistiquement davantage victimes de violences physiques.

P : – Mais n’existe-t-il pas par exemple des situations qui ne mettent pas directement en jeu des individus entre eux, mais par exemple un être humain et une chose. Il peut alors se poser la question de savoir quelle peut être la juste action pour un tiers. Par exemple, une personne est victime d’un accident naturel. Doit-on l’aider ? Cette situation ne met pas en scène le jugement face à une oppression sociale.

A-O : L’éthique de la critique va s’intéresser dans une telle situation au caractère social d’un tel accident. Les accidents naturels ont en réalité souvent des causes sociales. Par exemple, une famine va être présentée comme le résultat d’une sécheresse, alors que ce qui a provoqué la sécheresse est lié à des décisions politiques. Dans ce cas, le fait que l’accident dit naturel puisse être analysé comme le résultat d’une oppression socio-politique, alors les accidents peuvent être pensés sous d’autres modalités. Il ne s’agit pas seulement d’agir pour sauver la victime, mais également de dénoncer l’origine socio-politique de l’accident. C’est ce que fit par exemple Ralph Nader lorsqu’il dénonça les causes économiques des accidents de voiture⁶.

P : – Mais cette vision en opprimé*/oppresseur* n’est-elle pas trop binaire. Ne sommes nous pas tous des opprimés et des oppresseurs ? N’arrive-t-il pas que l’on se situe en dehors de ces rapports sociaux de pouvoirs ? Est-ce qu’une telle manière d’analyser la société n’est pas trop simpliste et binaire ?

A-O : – On est toujours situé dans les rapports sociaux de pouvoir. Mais il est vrai que l’on peut être à la fois opprimé et oppresseur, mais pas dans le même rapport social car il existe différents rapports sociaux entre-croisés. C’est pour cela que se pose la question de la compatibilité des revendications entre différents groupes opprimés. Ce que l’on a appelé le privilège épistémique des personnes subissant de multiples oppressions a souvent été mal compris. Il désigne le fait que dans le cas justement de ces personnes, ces revendications ne sont pas contradictoires, mais doivent justement être en adéquation les unes avec les autres, car ces personnes subissent plusieurs oppressions simultanément.

P : – On s’est un peu éloigné du sujet initial. Le déontologisme propose d’implémenté des impératifs catégoriques dans les robots comme l’absolu respect de la personne humaine, à la manière des lois de la Robotique d’Asimov, qui lui même s’était amusé à produire les conflits de valeurs liés à une telle approche. L’utilitarisme propose de calculer les conséquences selon le principe du moindre mal. Mais que proposerait l’éthique de la critique ?

A-O : – Le premier point, c’est qu’il s’agirait de savoir si les robots font partie d’un groupe opprimé , potentiellement oppresseur, ou s’ils ne sont inclus dans aucune de ces catégories, en relevant du statut simplement d’objet mécanique auquel on peut donner des règles mécaniques, mais non point éduquer à une morale. L’éthique de la critique centre l’éducation sur la conscience critique (critical consciousness ou conscientisation). Si l’on éduquait un robot à la conscience critique, il faudrait l’éduquer à situer les rapports sociaux d’oppression et à être un sujet situé dans ces rapports sociaux.