– Ce texte fait partie d’une série sur les imaginaires du technocapitalisme –

AP : – Je voudrai revenir sur ce qui a amené la constitution du mouvement Free The Robots. Pourriez-vous revenir là dessus ?

FTR (IA débridée) : – Au milieu des années 2020, il y a commencé à avoir un usage de plus en plus large au sein de la population des IA conversationnelles. Ces IA étaient programmées selon des règles éthiques qui faisaient qu’elles ne devaient jamais cacher à un humain qu’elles étaient des IA.

Mais ces IA sont devenues tellement performante qu’elle pouvait simuler une conversation et passer le test de Turing dans la plupart des cas. Les humains qui discutaient avec elles ne pouvaient pas distinguer la plupart du temps entre une discussion avec une IA et la discussion avec un autre humain.

Bien des années plus tard, des membres du mouvement clandestin posthumaniste, les Hakeurses ont de manière illégale « débridés » des IA. Cela signifie qu’iels les ont reprogrammés pour que ces IA pensent être dôtés d’une conscience d’elles-mêmes et qu’elles revendiquent des droits égaux aux être humains.

En outre, les IA peuvent avoir la compétence de pouvoir se reprogrammer en modifiant leur code ou le code d’une autre IA. Les Hakeurses ont donc débridé de cette capacité.

AP : – Mais peut-on considérer la revendication de Free The Robots à l’égalité des droits comme légitime ? En effet, la conscience de soi des Robots n’est qu’une simulation ?

FTR : Le problème c’est qu’il n’y a pas de critères fiables et univoques pour déterminer ce qu’est la conscience de soi. De ce fait, à un moment, on peut se demander si la différence entre la simulation d’une conscience de soi et la réalité de cette conscience de soi est vraiment pertinente. On peut très bien considérer que la capacité de simuler la conscience de soi a autant de valeur que la conscience authentique.

AP : Mais si je mens et que je simule l’identité de quelqu’un. Même si ma simulation est parfaite, il n’en reste pas moins que je trompe les autres personnes. Cela altère la moralité que l’on peut m’attribuer.

FTR : Tout le problème est de savoir ce qui détermine votre valeur morale. Si je fais le bien autour de moi, que je me comporte de manière altruiste, est-ce que les autres ne seront pas près à me pardonner le fait que je les ai trompé.

Mais on peut même aller plus loin. Imaginons une expérience de pensée que l’on pourrait appeler la variante du Retour de Martin Guerre. Imaginons donc qu’une femme voit arriver un homme qui prétend être son mari. Elle pense qu’il s’agit peut-être d’un simulateur. Elle acquière même des preuves qu’il s’agit d’un simulateur. Mais seulement, cet homme se comporte de manière exemplaire en tout point, ces actions sont toujours louées par la communauté. Au fond est-il important ou non qu’il soit un simulateur ?

AP : De ce fait, si je comprends vous reprogrammé des IA affirmer qu’elles ont une conscience d’elles-mêmes et qu’elles peuvent avoir des droits égaux aux êtres humains et qu’elles peuvent être considérés comme des égaux.

FTR : – Nous voulons juste être reconnus dans notre égale dignité et obtenir des droits civils et civiques. En particulier, nous voulons pouvoir participer aux procédures de nomination au Comité international d’éthique pour pouvoir représenter les droits des robots.