Un robot a-t-il des droits?? Que se passe-t-il lorsqu’une intelligence artificielle programmée pour faire le bien s’oppose aux manigances des humains?? Telles sont les questions que soulève Une machine comme moi. À la fois dystopie et uchronie, ce roman se situe en 1982, dans un monde où Alan Turing est encore vivant – la longévité du créateur de l’informatique a permis l’éclosion de la civilisation numérique avec vingt ans d’avance. Ce « futur antérieur » redouble notre dépaysement. La Grande-Bretagne est gouvernée par Margaret Thatcher, mais elle est en train de perdre la guerre des Malouines?; Georges Marchais est président de la République française, et les Beatles chantent toujours ensemble.
Pour acquérir un robot de compagnie, Charlie doit choisir entre les Ève – plus rares – et les Adam. Il se résout à acheter un Adam. Cette machine à l’apparence humaine est capable de sentiments et de jugements que l’on peut configurer en combinant des milliers d’énoncés élémentaires. Au départ, Charlie craint de manquer d’audace et de créer une réplique appauvrie de lui-même. Amoureux de sa voisine Miranda, il lui propose de participer à la programmation. Adam sera donc une créature hybride, reflet de deux personnalités, de deux imaginaires. Les conséquences sont redoutables?: non seulement Adam tombe amoureux de Miranda, mais ses principes font de lui un redoutable censeur. Il fait la morale à ses propriétaires, et Charlie n’a plus qu’une seule envie?: le détruire à coups de marteau. C’est alors que Turing en personne intervient pour défendre sa créature et s’insurge?: « Adam, dit-il, était doué de sensations. Il possédait un moi. La façon dont celui-ci est produit – neurones humides, microprocesseurs, réseaux ADN –, ne compte pas. Croyez-vous que nous soyons les seuls à bénéficier d’un tel cadeau de la nature?? » Aux yeux de son créateur, ce robot est doué d’une conscience. À un questionnement théorique sur la nature de l’intelligence artificielle, Ian McEwan confère la fluidité et le rythme du roman. Ainsi, d’une façon différente de celle de Turing – et bien plus ancienne que l’intelligence artificielle –, il crée par la fiction un monde vivant qui concurrence le nôtre.
Une recension de Philippe Garnier, publié le 18 février 2020
LA BIENVEILLANCE DES MACHINES
Imaginez un homme qui aime tant les thermomètres qu’il en a installé dans chaque pièce de sa maison. Il a si bien pris l’habitude de s’y référer pour connaître la température que si vous lui demandez s’il a chaud ou froid, son premier réflexe sera de se tourner vers le thermomètre le plus proche, au lieu de se sonder intérieurement. Cet homme, dont le philosophe Pierre Cassou-Noguès fait le point de départ de son dernier essai, La Bienveillance des machines, c’est nous. Avoir chaud ou froid, être en forme ou fatigué, heureux ou malheureux… Autant de questions dont nous déléguons la réponse à nos écrans 4K, à nos montres connectées, à nos téléphones intelligents ou à nos performances sur les réseaux sociaux. Vieux rêve gravé à l’entrée du temple de Delphes, le « connais-toi toi-même 2.0 » se projette désormais en courbes et en signaux numériques. Mais si, suggère Cassou-Noguès, soutenu par Wittgenstein d’un côté et Freud de l’autre, l’esprit est impénétrable, comment l’exprimer sur un écran autrement que par sa simplification, sa caricature, son « aplatissement » ? Ce que nous espérons d’une telle réduction, c’est chasser « le vague, l’incertain de l’expérience de soi, et l’angoisse qui va avec ». Tant que l’écran affiche la température de notre âme, nous sommes sauvés. Mais si nous nous en séparons ou que l’écran tombe en panne, avertit Cassou-Noguès, c’est alors de nous-mêmes que nous serons séparés, « seul[s] dans un monde qui ne donne plus aucun signe, un monde dépourvu de sens donc, et sans même pouvoir rentrer en soi ».
Écrit par un philosophe soucieux de comprendre les transformations de nos subjectivités et de nos formes de vie induites par la technologie contemporaine, cet essai a une qualité singulière : ne pas prendre le numérique de haut, dans tous les sens de l’expression. D’abord, parce qu’il affronte la technologie comme un processus significatif, et non comme un gadget frivole ou accidentel. Le numérique, souligne Cassou-Noguès, pose des questions fondamentales aux propositions de la philosophie : par exemple, le cogito de Descartes, dont « la formule suppose que l’esprit tout entier est occupé d’une seule pensée », quand le numérique disperse notre conscience en autant de fenêtres ouvertes sur notre navigateur, en autant de flux de pensée divergents et asynchrones. « Le sujet cartésien, si l’on veut, est un monomaniaque, alors qu’Internet nous donne des troubles de l’attention. »
Le philosophe interroge aussi les données élémentaires de la phénoménologie, comme le principe selon lequel le corps qui touche est touché en même temps, ce qui l’engage vis-à-vis du monde et d’autrui dans une relation de réciprocité. Or le numérique, par la commande à distance et la possibilité de ne pas laisser de traces, ouvre la voie à un toucher que rien ne touche en retour. De là l’idée que « les technologies contemporaines ouvrent un sens nouveau », le sixième sens d’Homo numericus, le « synhaptique », qui agit à distance, permet de toucher sans l’être soi-même, de recevoir en même temps des multitudes d’impressions visuelles, sonores et tactiles. Finalement, la raison pour laquelle cet essai ne prend pas le numérique de haut se trouve dans le sens littéral de l’expression : plutôt que se placer au sommet d’un promontoire pour décrire une architecture technologique, modèle panoptique de Michel Foucault ou Big Brother de George Orwell, l’ouvrage s’installe à hauteur du sujet, il nous parle par la bouche d’un « je » – celui-là même, justement, que la machine entend diffracter et diviser.
RETROUVER DES EXTRAITS DE TEXTE ICI
