Le texte qui suit est une traduction d’une partie de la conclusion d’un article de Michael Levin, biologiste, sur la cognition. Son travail est si révolutionnaire qu’il est difficile à présenter en lui rendant justice. Il étudie la morphogenèse, chez les planaria, des sortes de vers immortels.
L’idée consiste à tenter de comprendre comment, quand un organisme fait repousser un membre sectionné, les cellules font pour s’organiser afin de reconstruire ce qui manque. Comment elles savent qu’il faut se diviser ici et pas là ? Le professeur à découvert qu’il était possible de faire pousser une tête à la place de la queue ou des yeux au mauvais endroit. Mais le plus étonnant que les cellules parviennent à s’organiser d’elles-mêmes pour que l’œil ou la tête soient fonctionnels malgré tout. Elles sont douées une “intelligence autonome”. Cette intelligence est partout dans le vivant en fait, elle opère à tous les niveaux. Michael Levin présente ici un “framework”, qu’il appelle TAME (Technological Approach to Mind Everywhere) pour étudier cette cognition. Je ne résiste pas au plaisir de vous traduire ses réflexions sur les conséquences éthiques de ses travaux ainsi que ses considérations sur la nature de la conscience. Ce n’est pas si long et ça préfigure les problèmes qu’il va falloir résoudre dans le monde de demain, un monde post-humaniste ! J’ai souligné un paragraphe qui me semble particulièrement important.
Conscience
Bien que le framework TAME se concentre sur les propriétés observables de la 3ème personne, elle prend des engagements envers les façons de penser à la conscience. Provisoirement, je suggère que la conscience vient également en degrés et en types (n’est pas binaire) pour les mêmes raisons plaidées pour la continuité de la cognition. Si la conscience est fondamentalement incarnée, la plasticité et la malléabilité progressive des corps suggèrent qu’il s’agit d’une forte exigence pour les partisans des transitions de phase pour spécifier quel type de changement corporel «atomique» (non plus divisible) permet un changement qualitatif dans la conscience de la capacité. Une autre implication de l’apparition est que, bien que «l’incarnation» soit critique pour la conscience, il ne se limite pas aux corps physiques agissant dans l’espace 3D, mais comprend également des systèmes d’action de perception fonctionnant dans toutes sortes d’espaces. Cela implique, contrairement aux intuitions de nombreuses personnes, que les systèmes qui fonctionnent dans des espaces morphogénétiques, transcriptionnels et autres devraient également avoir un certain degré de conscience (si très minimal). Cela suggère à son tour qu’un agent, comme un humain moderne typique, est vraiment un patchwork de nombreuses consciences diverses, dont une seule est généralement capable de signaler verbalement ses états (et, sans surprise, étant donné son accès limité et son auto-frontière , se croit être un unitaire, seul propriétaire du corps).
Qu’est-ce qui est nécessaire à la conscience? La perspective de TAME est fondamentalement celle de la primauté de l’activité dirigée par des objectifs. Ainsi, la conscience accompagne des types spécifiques de processus cognitifs qui exercent de l’énergie vers les objectifs, mais comme décrit ci-dessus, ces processus peuvent prendre des formes très divergentes de notre vision typique centrée sur le cerveau. Contrairement à d’autres vues panpsychistes, TAME ne prétend pas que l’esprit est inévitablement cuit dans la mise en œuvre ou la structure physique. La structure causale et les propriétés cybernétiques du mode de réalisation sont des déterminants clés de la capacité de conscience. Cependant, comme le degré minimal d’autodétermination interne et de direction par objectif est apparemment présent même dans les particules (Feynman, 1942; Georgiev et Georgiev, 2002; Ogborn et al., 2006; Kaila et Annila, 2008; Ramstead et al., 2019; Kuchling et al., 2020a), il peut n’y avoir pas de vrai «0» sur l’échelle de conscience dans l’univers. Bien que l’accrétion simple n’agrandisse pas l’activité dirigée par le nano-goal et l’action indéterminée des particules (par exemple, les roches ne sont pas plus conscientes et probablement moins, que les particules dans des contextes spécifiques), l’organisation biologique l’amplifie, entraînant une augmentation de la sensibilité.
Au-delà de la science fondamentale: éthique à jour
Le framework TAME a également des implications pour l’éthique de plusieurs manières. L’accent actuel pour l’éthique est de savoir si les constructions du génie génétique (par exemple, les organoïdes des cellules neurales) sont suffisamment comme un cerveau humain ou non (Hyun et al., 2020), comme critère d’acceptabilité. De même, les efforts existants pour étendre l’éthique se concentrent sur les produits évolutifs naturels et conventionnels tels que les invertébrés (Mikhalevich et Powell, 2020). TAME suggère que cela est insuffisant, car de nombreuses architectures différentes pour la cognition sont possibles (et seront réalisées) – la similitude des cerveaux humains est trop paroissiale et un marqueur limitant pour les entités qui méritent la protection et d’autres considérations morales. Nous devons développer une nouvelle éthique qui reconnaît la diversité des esprits et des corps possibles, en particulier depuis que les combinaisons de systèmes biologiques, conçus et logiciels sont de plus en plus développés. À quoi ressemble quelque chose et de quoi il est originaire (Levin et al., 2020; Bongard et Levin, 2021) ne seront plus un bon guide lorsque nous sommes confrontés à une myriade de créatures qui ne peuvent pas être confortablement placées dans l’arbre phylogénétique familier de la Terre.
La bio-ingénierie de nouveaux moi augmente notre responsabilité morale. Pour les éons, les humains ont créé et libéré dans les intelligences avancées et autonomes avancées – la grossesse via et la naissance d’autres humains. Cela, comme le dit Daniel Dennett, a été atteint jusqu’à présent via des niveaux élevés de «compétence sans compréhension» (Dennett, 2017); Cependant, nous passons maintenant à une phase dans laquelle nous créons des êtres via la compréhension – avec un contrôle rationnel sur leur structure et leurs capacités cognitives, ce qui apporte une responsabilité supplémentaire. Un nouveau cadre éthique devra être formé sans pouvoir se fier à des notions folkloriques binaires telles que «machine», «robot», «évolué», «conçu», etc., car ces catégories sont désormais considérées comme n’étant pas des catégories naturelles nettes. Au lieu de cela, des approches plus larges (telles que les préoccupations bouddhistes pour tous les êtres sensibles) peuvent être nécessaires pour agir de manière éthique en ce qui concerne les agents qui ont des préférences, des objectifs, des préoccupations et des capacités cognitives dans des formes très inconnues. TAME cherche à percer les biais autour des propriétés contingentes qui stimulent nos estimations de qui ou de ce qui mérite un traitement approprié, pour développer un mécanisme rationnel et empirique pour reconnaître des “ego” (ndt : Selves) autour de nous.
Un autre aspect de l’éthique est la discussion des limites de la technologie. Une grande partie est souvent motivée par un état d’esprit consistant à s’assurer que nous ne faisons pas face aux risques d’utilisations négatives de technologies spécifiques (par exemple, les organismes génétiquement modifiés dans les écosystèmes). Ceci est bien sûr essentiel en ce qui concerne les nouvelles capacités de bio-ingénierie. Cependant, de telles discussions sont souvent unilatérales, encadrées comme si le statu quo était excellent, et notre objectif principal est simplement de ne pas aggraver les choses. Il s’agit d’une erreur fondamentale qui néglige le coût d’opportunité de ne pas exploiter pleinement les technologies qui pourraient stimuler les progrès du contrôle de la biologie. Le statu quo n’est pas parfait – la société est confrontée à de nombreux problèmes, notamment des disparités de qualité de vie à travers le monde, une souffrance incroyable, des besoins médicaux non résolus, un changement climatique, etc. Il faut garder à l’esprit que, avec la nécessité de limiter les conséquences négatives de la recherche scientifique, il existe un impératif moral pour faire progresser les aspects des programmes de recherche qui permettra (par exemple) de craquer du code morphogénétique pour révolutionner la médecine régénérative bien au-delà de ce que L’édition génomique et la biologie des cellules souches peuvent faire seule (Levin, 2011).
L’accent mis sur le risque résulte d’un sentiment que nous ne devrions pas «déconner avec la nature», comme si les structures existantes (de l’ordre anatomique aux écosystèmes) étaient idéales, et nos tentatives de tâtonnements perturberont leur délicat équilibre. Tout en étant très prudent avec de puissantes avancées, il faut également garder à l’esprit que l’équilibre existant (c’est-à-dire les objectifs homéostatiques des systèmes des cellules aux espèces du réseau alimentaire) n’a pas été atteint en optimisant le bonheur ou toute autre qualité proportionnée aux valeurs modernes: Il est le résultat de propriétés de systèmes dynamiques façonnées par les accidents congelés des méandres du processus évolutif et le processus dur de sélection pour la capacité de survie. Nous avons la possibilité d’utiliser la conception rationnelle pour faire mieux que les mécanismes de base de l’évolution.
Surtout, les technologies actuelles nous obligent à faire face à un risque existentiel. La robotique d’essaims, l’Internet des objets, l’IA et les efforts d’ingénierie similaires vont créer de nombreux systèmes complexes et axés sur les objectifs composés de pièces compétentes. Nous n’avons actuellement aucune science mature d’où viennent les objectifs de ces nouveaux moi. TAME nous rappelle qu’il est essentiel de comprendre comment les objectifs des entités composites se produisent et comment ils peuvent être prédits et contrôlés. Pour éviter le scénario Skynet (Bostrom, 2015), il est impératif d’étudier la mise à l’échelle de la cognition dans divers substrats, afin que nous puissions nous assurer que les objectifs de nouveaux êtres puissants et distribués s’alignent avec le nôtre.
Étant donné la capacité des sous-unités humaines à fusionner en structures encore plus grandes (sociales), comment construisons-nous des moi d’ordre supérieur qui favorisent l’épanouissement pour tous? La dynamique du cancer multicellularité (figure 9) suggère que les connexions fonctionnelles étroites qui brouillaient les frontières cognitives entre les sous-unités est un moyen d’augmenter la coopération et la capacité cognitive. Cependant, la simple maximisation de la perte d’identité en collectivité massive est un échec bien connu au niveau social, ce qui entraîne toujours la même dynamique: les objectifs de l’ensemble divergent fortement de ceux des parties, qui deviennent aussi jetables pour le moi social plus large comme les cellules de la peau sont pour nous. Ainsi, l’objectif de ce programme de recherche au-delà de la biologie est la recherche de politiques contraignantes optimales entre les sous-unités, qui optimisent les compromis nécessaires pour maximiser les objectifs individuels et le bien-être (préservant la liberté ou l’autonomisation) tout en récoltant les avantages d’un soi de soi à l’échelle du niveau des groupes et des sociétés entières. Bien que les mécanismes de liaison spécifiques utilisés par l’évolution ne soient pas garantis comme les politiques que nous voulons au niveau social, l’étude de ces éléments est essentielle pour démarrer un programme rigoureux de recherche sur des façons de mise à l’échelle possibles qui pourraient avoir une pertinence sociale. Ces questions ont été précédemment abordées dans le contexte de la dynamique évolutive et de la théorie des jeux (Maynard Smith et Szathmáry, 1995; Michod et Nedelcu, 2003; Van Baalen, 2013), mais peuvent être considérablement élargies en utilisant le cadre apprivoisé.
En fin de compte, d’importantes questions éthiques autour des nouveaux agents constitués de combinaisons de matériel, de logiciels, d’évolution et de composants conçus reviennent toujours à la nature du soi. La cohérence d’un esprit, ainsi que sa capacité à poursuivre l’activité dirigée par objectif, est au cœur de nos notions de responsabilité morale au sens juridique: une diminution de la capacité, et bientôt, une capacité accrue, à faire des choix est un pilier pour les structures sociales. Les vues des mécanistes de cause à effet dans les neurosciences du comportement éroderaient ces notions classiques. Plutôt que de réduire les moi (à 0, dans certaines approches éliminativistes), TAME (Levin, 2022) trouve de nouveaux moi autour de nous. Nous voyons plus d’agence, pas moins, lorsque l’évolution et la biologie cellulaire sont prises au sérieux (Levin et Dennett, 2020). Le moi cognitif n’est pas une illusion; Ce qui est une illusion, c’est qu’il n’y a qu’un seul moi, permanent et privilégié qui doit surgir entièrement ascendant à travers le processus d’escalade évolutif. Notre objectif, aux niveaux biomédical, personnel et social ne devrait pas être de détruire ou de minimiser le soi mais de le reconnaître sous toutes ses formes, de comprendre ses transitions et d’élargir sa capacité cognitive vers le bien-être des autres moi.