Hier, je lisais un Tweet sur l’impact prochain des IA sur la société, comme quoi personne n’est prêt pour la révolution qui arrive. Bien qu’étant 100% d’accord, j’ai tiqué sur le 2ᵉ tweet qui promeut une vision mécaniste du vivant. Vision obsolète et inadaptée à notre époque selon moi.
Nous étions persuadés que notre conscience, nos émotions, étaient un bastion inaccessible à la technologie. Nous allons devoir accepter de n’avoir rien de plus fondamental qu’une machine, étant le résultat de la seule coordination de 30 000 milliards de cellules.
Notre “conscience” ne serait que le produit d’une “machine” sophistiquée. Il se trouve que j’ai écrit un livre sur la thèse inverse, Quantalia, car j’estime que c’est l’enjeu fondamental de notre époque (j’y reviens en fin d’article pour reboucler avec le sujet de l’IA), celui qui gouverne tous les autres. C’est le sujet de ce blog depuis le début, mais il faut du temps pour poser quelques bases. J’en profite pour faire un article rapide et ouvrir un peu ces concepts. J’ai laissé volontairement les controverses philosophiques de côté dans mon livre pour me concentrer sur la thèse centrale, déjà assez complexe en elle-même.
Bien entendu, chacun croit ce qu’il veut, mais une telle affirmation aussi péremptoire (on est sur tweeter, les nuances, c’est compliqué en 280 caractères) mérite une réponse détaillée.
Aujourd’hui cette posture philosophique, très répandue en occident, porte le nom de “physicalisme” **, tout est physique :
Doctrine empiriste selon laquelle le langage des sciences physiques constitue un modèle pour toutes les sciences humaines qui doivent s’en inspirer.
Le Robert
La conscience ne serait donc qu’un mécanisme comme un autre, elle émergerait de la matière comme la vie émerge elle-même de la matière, tout comme l’intelligence. Il n’y a que la matière. Ce qui fait dire à certains que la conscience est une illusion (ça s’appelle l’illusionnisme). C’est la posture dite “rationnelle” de notre époque, en référence à l’animal machine de Descartes. Suite à la révolution scientifique Newtonienne et à l’avènement des “machines” (imprimerie, métier à tisser, machine à vapeur) on expliquait le monde comme une machine très complexe (et même Dieu devenait le “grand horloger”). D’où de nombreuses postures scientifiques comme le déterminisme : il suffit d’avoir des mesures assez précises et on peut prédire le comportement de n’importe quel système. Fin de l’histoire.
Le corps est une machine, on le répare comme une voiture. L’intelligence est une machine. La preuve, on vient de créer une intelligence artificielle, qui vaut bien celle des humains, et c’est une machine (à n’en pas douter). Donc l’intelligence est le produit d’un mécanisme. Donc la conscience est aussi, comme le reste, le produit d’un mécanisme. Nous sommes des machines.
Fin de l’histoire, vraiment ? Non, car un petit village de philosophes et scientifiques résiste à l’envahisseur. On va faire un peu de philo donc, accrochez-vous. On va y aller point par point.
1/ Le vivant mécanique
D’abord la vision mécaniste du vivant lui-même, la vidéo où l’on voit des nano-machines biologiques fabriquer de l’ADN. Ces vidéos, j’adore. Mais elles sont trompeuses. J’ai été trompé. Jusqu’à ce que j’écoute cette vidéo notamment :
C’est en anglais. Résumé de mémoire : non, ça ne se passe pas comme ça, les molécules ça “vibre” tout le temps dans tous les sens, ça sert à plusieurs mécanismes, c’est une “société” bien plus qu’une “machine”.
Résumé chatGPT pour les plus pressés
| La vidéo \”Your Body’s Molecular Machines\” de Veritasium, qui met en scène des animations impressionnantes du processus de division cellulaire, est trompeuse. |
| Les animations donnent l’impression que la cellule n’est rien de plus qu’une horloge moléculaire et que nous ne sommes que des nanomachines. |
| Cependant, cette métaphore de la machine est loin de rendre compte de la véritable nature des protéines et des cellules. |
| Les protéines ont une structure physique très différente de celle des machines, mais elles ont des fonctions spécifiques comme les parties des machines. |
| Les enzymes, un sous-groupe de protéines, ont été pensées pendant de nombreuses années pour n’interagir qu’avec des molécules spécifiques, mais nous savons maintenant que beaucoup de protéines peuvent avoir des fonctions très différentes en fonction de leur emplacement dans la cellule. |
Quand vous regardez des vidéos du vivant, vous voyez bien qu’on est très très loin de la “machine” à base d’engrenages :
La 2ᵉ vidéo, ce sont justement deux neurones en train de “discutailler”. Rien à voir avec les “neurones” artificiels qu’on retrouve dans les IA même si oui, vu de très loin, il y a des ressemblances (je ne rentre pas dans le détail maintenant, peut-être dans un prochain article, la base, c’est le “perceptron” si vous voulez creuser).
2/ Le difficile problème de la conscience
Continuons. Même si le vivant et l’intelligence étaient “mécanique”, (ce qu’ils ne sont pas), est-ce que la conscience, ce serait la même chose ? Eh bien non ! Il ne faut pas confondre la cognition (la pensée) et la conscience (le “machine” qui observe, voire dirige ou influence, la pensée). La conscience, c’est généralement défini comme le fait qu’il y ait “quelqu’un”, un “observateur” du spectacle. On parle de conscience phénoménologique. C’est l’un des problèmes fondamentaux de la philosophie moderne, le “difficile problème de la conscience”, formulé par David Chalmers. Les “mécanistes” ou les “matérialistes” ou les “physicalistes” ont tendance à rejetter ce problème d’un revers de main, comme le fait Daniel Dennet avec un argument du genre : ho, la conscience, c’est comme la température, c’est une propriété macro qui émerge d’un certain type de mouvement de la matière. D’ailleurs, il y a même une théorie scientifique censée mesurer la conscience, l’IIT : integrated information theory, de Tononi, qui propose de calculer le dégrée d’information d’une structure physique. Cette théorie à de nombreux (gros) problèmes.
Revenons à notre problème difficile. L’idée est la suivante : si la conscience est “machine”, comment ça marche au juste. Je prends une voiture, une horloge, avec des pistons, des câbles électriques, des aimants, des valves, des tuyaux, et si je miniaturise suffisamment, à un moment, pouf, la conscience apparaît ? Ou alors est-ce que ça veut dire que ma voiture est consciente aussi ? Est-ce qu’une voiture souffre quand elle a pneu crevé ?
Ne croyez pas que je me moque, c’est ainsi que la question se pose. Une IA n’est qu’une machine à base de puce silicone, de transistors. C’est juste miniaturisé à l’extrême, mais en vrai, ce ne sont que des câbles électriques et des boutons électriques que l’on peut actionner avec de l’électricité (c’est ça qui fait la magie d’un ordinateur et rien d’autre). D’ailleurs, on sait très bien faire l’équivalent d’un ordinateur avec de l’eau et des valves (ça s’appelle une machine de Turing, on peut tout faire avec, y compris des réseaux de neurones, donc des IA et on peut en faire en lego ou avec des engrenages).
On peut prendre le problème à l’envers. Vous êtes d’accord pour dire que les atomes ne sont que de la matière inconsciente ? Donc, si on prend des électrons, des protons, des neutrons et quelques bosons (les particules qui transmettent les forces entre les premiers), rien n’est conscient. Les molécules sont constituées de ces particules, donc elles n’ont pas de conscience non plus. Les molécules complexes du vivant, les protéines, lipides, glucides ne sont que des molécules, constituées d’atomes, donc sans conscience. Nos cellules ne sont que des molécules biologiques assemblées comme des machines, donc sans conscience. Et nos organes aussi. Et alors pourquoi “nous”, et nous seuls, à un moment, “pouf”, la conscience apparaît, juste parce que là, ce tas d’atome particulier qu’on a décidé de nommer le “cerveau”, ben, il est magique, il est conscient…
Voilà, c’est “ça” le difficile problème de la conscience : si la matière est inconsciente, et s’il n’existe que la matière, d’où sort la conscience ? C’est le problème qui occupe bon nombre de scientifiques et philosophes actuellement. Il me faudrait une encyclopédie pour les résumer. Un problème qui est lié, c’est : admettons que la conscience existe alors indépendamment de la matière : comment est-ce que les deux (la matière et la conscience) interagissent, puisqu’on n’a jamais pu “voir” la conscience sous un microscope, et que la matière semble agir par elle-même sans influence de la conscience, parce que nos lois de la physique (celles dont Newton a posé la première pierre) fonctionnent parfaitement sans conscience. Tout le problème est là, et c’est précisément à ça que répond mon livre. La solution, ou du moins la piste la plus sérieuse, selon moi, c’est la théorie quantique de la conscience que je défends.
Croyez-moi, il n’est pas possible de résoudre ce problème en 5 min, il faut bien connaître de nombreux domaines de la science pour commencer à comprendre vraiment l’ampleur de la tâche (les sciences cognitives et la mécanique quantique a minima + pas mal de philo).
3/ Les arguments des mécanistes
Maintenant que le problème est posé correctement, quels sont les arguments avancés par les mécanistes dans notre fil Twitter initial ? Il y en a eu quatre, ce sont un peu toujours les mêmes qui reviennent chez les “scientifiques” qui pensent connaître le sujet. Ce sont des arguments “barrages”, qui servent à refouler les ignorants, mais en vrai, ce sont des arguments très faibles. Examinons-les (je copie colle les réponses faites par ISlovan) :
- Je ne pense pas qu’il y ait de problème difficile de la conscience au sens de Chalmers. En tout cas, des philosophes comme Dennett montrent assez bien en quoi les expériences de pensée de zombie philosophique ou de qualia ne sont en rien concluantes (quand elles ne plaident pas le contraire de ce qu’elles veulent montrer).
- La théorie quantique de la conscience ne repose sur pas grand-chose en l’état. C’est très spéculatif et ça vient souvent de personnes qui ne comprennent pas la mécanique quantique. Enormément de phénomènes de pensée sont déjà expliqués sans faire appel à la mécanique quantique.
- En tout cas, GPT-4 fait des tas de choses en compréhension du langage sans avoir à faire intervenir des phénomènes quantiques.
- Il y a plein de théories spéculatives non consensuelles sur la conscience. Et qui ne sont parfois pas scientifiques au sens de réfutables.
Allons-y un par un. Ça va aller vite puisque j’ai déjà plus ou moins répondu en posant le problème :
1/ Dennet ne répond que par des expériences de pensées lui aussi. C’est le propre de la philosophie. On ne peut pas reprocher à Chalmers ce qu’on accepte pour Dennet. L’image des zombis philosophiques ou des qualias, c’est juste du vocabulaire pour réfléchir au problème. Le problème est bel et bien réel selon moi.
2/ La théorie quantique de la conscience repose sur … beaucoup de choses ignorées par la plupart des scientifiques, car il faut assembler un grand nombre de recherches très récentes pour la comprendre. C’est le but de mon livre, il est donc le premier de ce genre. Normal qu’il ne soit pas au courant. J’ai mentionné dans mes tweets la théorie quantique de la décision, la théorie conceptuelle de la quantique et la biologie quantique. Mon livre parle de bien d’autres choses, mais il n’a pas répondu sur ces points… Il a tout à fait raison de dire qu’en général ces théories viennent de gens qui n’y connaissent rien (tels que Deepak Chopra ou d’autres que je cite dans mon livre). C’est vrai, mais c’est faux aussi puisque les premiers à spéculer sur le lien conscience / quantique sont les créateurs de la mécanique quantique elle-même. Mais … au fil du temps, ce sont les applications pratiques de l’interprétation de Copenhague qui ont pris le dessus et non pas les spéculations métaphysiques.
3/ Oui, GPT-4 démontre une vraie compréhension. Il nous imite très bien. Est-ce que ça prouve que notre cerveau n’est qu’un GPT-4 au rabais ? Non, très très très loin de là. Il y a une grosse différence : notre cerveau consomme 20W, alors que GPT-4, je n’ai pas les chiffres, mais ce sont des milliers ou des millions des Watt (entre 1 et 23 millions d’après mes recherches, mais ça ne veut rien dire car GPT-4 ne fait pas les mêmes choses que nous). Pourquoi c’est important ? Eh bien parce que ça démontre qu’on ignore encore beaucoup de choses. J’avance que les biais de GPT-4 ne sont pas les mêmes que les biais de notre cerveau. C’est quelque chose qui devra être prouvé dans le futur. Mais si j’ai raison sur la conscience, GPT-4 ne reproduira pas nos biais qui ne sont pas de la même nature (bayésienne) que les nôtres. (explication dans le chapitre suivant)
4/ du coup le point 4 est répondu par le point 3. Non seulement il existe des théories réfutables de la conscience (je propose plusieurs réfutations dans mon livre). Il y a un 2ème argument à répliquer : le darwinisme n’est pas réfutable lui non plus et ça n’est pas un argument que les scientifiques brandissent contre la théorie de l’évolution que je sache. Donc pour moi ce point n’est pas valable.
4/ L’explosion combinatoire du réel
Pourquoi ? À cause de l’explosion combinatoire du réel. John Vervaeke en parle, mais je vais profiter d’une autre discussion que j’ai eu en parallèle pour expliquer ce point. GPT-4 est une IA dite “supervisée”, elle n’apprend pas toute seule, c’est nous qui la façonnons. Le problème de l’apprentissage non supervisé, comme le font tous les animaux, est un problème ouvert en science cognitive. Pour vous l’expliquer, je vais devoir vous parler de MarI/O.
Le mieux qu’on sait faire aujourd’hui, ce sont des IA capables d’apprendre à jouer à n’importe quel jeu. Mais le problème qu’on remarque tout de suite, c’est qu’elles ne le font pas d’elle-même. C’est le programmeur qui leur explique leur “fitness” et qui simplifie le monde pour elles. Hors, c’est justement là qu’est toute la difficulté expliquée par John Vervaeke : on leur mâche le travail.
Imaginez que l’IA n’ait que la vidéo du jeu comme input. Comment ferait-elle pour savoir quel est son score ? Comment elle ferait pour deviner que ce sont les pixels du haut qui lui donnent son score ? Même en sachant qu’il existe un score à l’écran, il faudrait qu’elle essaye toutes les combinaisons de pixels possibles (des carrés de toutes les tailles, des cercles, des hexagones, etc…) de toutes les tailles imaginables, et en plus, comment est-ce qu’elle pourrait deviner ce qu’est un “chiffre” et ce qu’il veut dire ? C’est “ça” l’explosion combinatoire du réel, sauf qu’en vrai, pour un animal, c’est beaucoup plus complexe (vraiment beaucoup) que de jouer à Mario.
Selon moi, c’est précisément la limite indépassable des IA et ce qui nous différencie d’elles.
5/ Pourquoi tout ça est important
Admettons, mais qu’est-ce que ça change au juste si la conscience est “mécanique” (on dit aussi “classique” en référence à la physique classique, pré-quantique) ou pas ? Dans le fond, les IA nous rendent des services bien réels non ? Et en plus, on ne va pas retourner dans les bidules religieux des “âmes” sorties de nulle part, de l’homme au sommet de la création “parce que c’est comme ça” et des autres dogmes religieux infondés. Est-ce que les thèses non mécanistes de la conscience ne cacheraient pas un projet religieux, spirituel, un repli face à la modernité, un rejet de la science, une angoisse face à la modernité ?
Tout à fait. C’est vrai que c’est souvent un rejet de la science qui motive ces réactions. Mais, comme j’ai essayé de le démontrer, ce n’est pas QUE ça, il existe une vraie controverse scientifique sur ces questions, et un vrai mouvement de réhabilitation de la spiritualité, du moins d’une “forme” de spiritualité, chez les scientifiques (surtout anglo-saxons) parce que tout simplement, la vision mécaniste ne colle plus avec ce qu’on connaît du monde (et je suis loin d’avoir pu tout expliquer dans cet article).
Alors ça change quoi ?
Déjà dans le médical. Je prépare un livre sur le sujet, donc, je ne vais pouvoir tout expliquer, c’est trop long, mais ce matin, je lisais ceci :
Alors oui, les “thérapies quantiques” c’est du baratin, et c’est du baratin fondé sur les mêmes genres de thèses de conscience quantique que je défends. Mais en face, on oppose quoi ? la médecine “newtonienne”, la médecine “chimique” : on soigne le corps comme si c’était une machine déréglée. Bien que dans certains cas ça puisse fonctionner, c’est en réalité très limité. C’est l’arbre qui cache la forêt. Nous avons besoin de réconcilier (là aussi) la médecine avec une vision holistique du vivant. Je sais, ça sonne “mystique”, et je ne peux pas expliquer ça en 3 lignes, mais la médecine actuelle à de gros soucis. Ce n’est pas moi qui le dit, ce sont les statistiques, les soucis de santé explosent, parce qu’on s’y prend mal, tout simplement, même si l’espérance de vie augmente (et encore pas partout, elle commence à stagner ou à diminuer, certains pays ou classes sociales).
L’autre point important, ce sont justement les IA. Selon moi, nous n’avons pas la sagesse requise pour manipuler des outils pareils. Cette sagesse ne peut venir que d’une spiritualité “scientifique”, bien comprise. En fait, là, les IA actuelles sont “nourries” par nous. Mais nous sommes en train de mettre en place 2 boucles de rétroactions positives : ces IA sont en train de nous enseigner, et de s’enseigner entre-elles. Une boucle de rétroaction positive, en systémique, c’est un processus qui se renforce lui-même et qui crée des instabilités. Nous avons actuellement une micro-boucle de rétroaction négative sous la forme des “comités d’éthique” pour les IA. Elon Musk et d’autres scientifiques ont bien compris tout ça. Ils demandent une pause de 6 mois sur les IA, pour qu’on puisse faire quelque chose à ce sujet. 6 mois, c’est trop peu. Il va falloir encore des années pour “construire” cette spiritualité scientifique dont nous avons besoin. Mon livre, Quantalia, se veut comme un catalyseur dans ce domaine. J’ai pris des risques en rajoutant une seconde partie “métaphysique”, alors que j’aurais pu me limiter à une simple théorie scientifique de la conscience. J’ai pris des risques en ébauchant des “lois de l’esprit”, qui sont selon moi une nécessité pour avancer sur le chemin de la sagesse.
Voila, selon moi, ou nous en sommes. L’écologie est totalement intégrée à cette problématique en plus. Tout est relié : c’est la “loi de l’UN”, tout est UN, tout est lié (mais tout est séparé en même temps, on n’est pas un gros magma indifférencié).
** je suis moi-même un “physicaliste” puisque j’estime que la conscience est un phénomène physique gouverné par les lois de la mécanique quantique… mais en général, physicaliste signifie “matérialiste”, ce à quoi je suis opposé. Les joies de la philo ! lol