Peut-on simuler la conscience ? (suite et fin)
Nous avons vu lors du billet précédant qu’il existe deux possibilités contradictoires concernant la possibilité de simuler la conscience sur un ordinateur :
- soit on peut la simuler de manière parfaite
- soit les propriétés de la conscience tiennent aux propriétés de non calculabilité et d’indéterminisme de la matière (c’est à dire aux imperfections de toute simulation).
Nous n’avons pas tranché entre ces deux possibilités. Pourtant un argument tout bête va nous permettre de le faire.
La première possibilité est incompatible avec le libre arbitre. S’il est possible de simuler la conscience de quelqu’un sur un ordinateur, il est possible de prévoir ses réactions, et donc cette personne n’est pas libre. Or, prouver que notre libre arbitre n’existe pas sur la base de nos propres connaissances est impossible, puisque cela mène à une contradiction.
Imaginons une machine capable de prévoir de manière certaine si je vais décider d’appuyer sur le bouton rouge ou le bouton vert, par exemple en analysant mon cerveau, ou simplement en le simulant.
Si je suis capable d’accéder au résultat de la prédiction, alors je peux décider d’appuyer sur l’autre bouton. Que se passe-t-il alors ?
- Soit la machine change sa prédiction. Dans ce cas le libre arbitre existe, puisque j’ai réussit à modifier la prédiction de la machine par ma volonté.
- Soit la machine conserve sa prédiction initiale et donc se trompe. Dans ce cas la machine n’est pas efficace, et je n’ai pas réussi à prouver que le libre arbitre n’existe pas. A charge de réessayer avec une machine plus efficace...
- Soit la machine conserve sa prédiction et je n’arrive pas à changer d’avis. Dans ce cas là on a réellement prouvé que le libre arbitre n’existait pas.
Bien sûr la troisième possibilité doit être rejetée. On ne peut imaginer que le simple fait d’observer une prédiction de son propre comportement, du type appuyer ou non sur un bouton, puisse aliéner à ce point notre capacité de décision. En conséquence, une machine censée prouver l’existence du libre arbitre sera nécessairement en échec. Il est impossible de prouver (par la prédiction) que le libre arbitre n’existe pas.
On pourra ajouter une possibilité supplémentaire, assez intéressante, comme issue de cette expérience : la machine peut se mettre à osciller, voire à adopter une évolution chaotique, imprévisible. En effet, en ayant accès au résultat de la prédiction, nous formons une boucle de rétroaction avec la machine. Or on sait que les boucles de rétroactions sont à la base des systèmes chaotiques,de la non linéarité et donc de l’imprévisibilité... Nous y reviendrons.
La séparation du sujet et de l’objet
Cette argument peut sembler trop simple pour être honnête, mais il n’en est rien. Il est en fait profond, car il est fondé sur la non-séparation de l’objet d’étude et du sujet de l’étude. Seule une séparation stricte peut permettre de prouver que le libre arbitre n’existe pas, mais une telle séparation idéale n’existe pas, nous sommes tous des sujets autant que les objets des autres sujets. Nous avons un accès conscient à une sommes d’information et nous sommes capables de tenir compte de cette information pour prendre des décisions. Nous ne sommes donc pas des objets comme les autres. Nous sommes capable de comprendre une théorie scientifique, et en conséquence aucune des théories que nous fabriquons ne pourra prouver notre absence de liberté. Il n’est donc pas exclu qu’une entité omnisciente hors du monde puisse savoir que nous ne sommes pas libres, mais cette connaissance nous est inaccessible, sans quoi elle deviendrait contradictoire.
On peut objecter qu’il est possible de placer une machine à la place du sujet qui réagisse de la même façon : en choisissant l’inverse de la prédiction de l’autre machine. Or une machine n’est pas libre, celle-ci est entièrement automatique en l’occurrence, donc notre argument censé prouver notre libre arbitre ne prouve rien du tout. C’est vrai, il ne prouve pas notre libre arbitre mais seulement l’impossibilité de prouver le contraire. Le libre arbitre n’est pas un attribut objectif mais subjectif, et il est évident qu’aucune expérience ne pourra le prouver objectivement. Seul l’introspection peut nous permettre de savoir s’il s’agit de libre arbitre ou non. En l'occurrence, placer une machine capable d’en tromper une autre est une preuve d’ingéniosité de la part du concepteur de cette machine, et le fait est qu’il existera toujours une machine imprévisible pour une autre tant qu’elle a accès aux résultats de l’autre machine.
On pourrait objecter que tant que nous n’avons pas accès au résultat de la machine, nous ne sommes pas libres, et que donc dans la vie quotidienne, nous ne sommes pas vraiment libre. Pour répondre à ceci, remarquons que tout comme nous sommes capable de forger des théories scientifiques, nous sommes capable d’anticiper nos propres réactions avec du recul sur nous même. Nous fonctionnons un peu comme une machine à prédire notre propre comportement... Et c’est peut être là l’essence de notre liberté. Encore une fois on y retrouve une boucle de rétroaction, qu’on sait être susceptible de générer l’imprévisibilité. Il faudrait donc voir dans cette imprévisibilité physique et dans les lois du chaos la source de notre conscience, ou au moins un de ses aspects les plus important. Ceci rejoint les recherches en neurosciences qui montrent l’importance des rétroactions dans la conscience elle même.
Libre arbitre et calculabilité
Pour finir on peut objecter que l’impossibilité pratique de prédiction ne signifie pas l’impossibilité théorique de prouver que le libre arbitre n’existe pas. Quand bien même la réalité physique ne serait pas calculable, il suffit qu’elle soit basée sur des lois déterministes pour que notre libre arbitre n’existe plus.
Ici on retrouve une formulation identique à notre problème précédant :
- soit les lois de la nature nous sont inaccessibles. Alors on ne peut prouver ni notre libre arbitre, ni le contraire.
- soit les lois de la nature nous sont accessibles, et elles sont non déterministes. Alors il est possible que notre libre arbitre existe.
- soit les lois de la nature nous sont accessible, et elles sont déterministes et calculable. Alors il y a contradiction, comme indiqué dans l’argument de la machine à prédire.
- soit les lois de la nature nous sont accessible, et elles sont déterministes mais non calculables.
C’est ce dernier cas qui nous intéresse. En théorie, il permet de montrer que notre libre arbitre n’existe pas, sans pour autant mener à une contradiction. Mais cette solution est pour le moins étrange, car ce qu’elle implique, c’est que notre sensation même d’être libre est conditionnée par l’impossibilité pour nous de calculer les lois de la nature. Un lien causal entre une sensation (illusoire) d’être libre, d’agir volontairement, et l’impossibilité de calculer quelque chose semble pour le moins étrange, du point de vue de l’ontologie. Le moins que l’on puisse dire est qu’un tel lien mériterait d’être explicité si cette solution devait être envisagé.
Mais c’est sans doute vain. En effet, on peut supposer que cette non calculabilité se laisse approximée en un temps de calcul suffisamment long. Donc en théorie, si nous disposions de possibilités de calcul suffisantes, nous pourrions nous approcher aussi près que nous voulons d’une prédiction correcte de nos choix. Alors nous retombons dans le même paradoxe, qui veut qu’en possédant cette prédiction avec un degré de précision donné, il est toujours possible de choisir de faire exactement l’inverse.
En fin de compte, puisqu’il est impossible de montrer l'inexistence du libre arbitre du fait même de notre possibilité de connaître le monde et d’agir en conséquence, alors il n’y a aucune raison de de ne pas accepter cette sensation subjective de libre volonté pour ce qu’elle semble être.
Si l’on accepte ce point de vue, et puisqu’il semble y avoir un lien de nécessité entre l’impossibilité de prévoir notre propre comportement et le libre arbitre, nous devons également accepter l’idée que les fondements de la conscience se situent dans ce qu’il y a d’imprévisible en la matière, c’est à dire dans l’association des propriétés quantiques et des lois du chaos.
- soit on peut la simuler de manière parfaite
- soit les propriétés de la conscience tiennent aux propriétés de non calculabilité et d’indéterminisme de la matière (c’est à dire aux imperfections de toute simulation).
Nous n’avons pas tranché entre ces deux possibilités. Pourtant un argument tout bête va nous permettre de le faire.
La première possibilité est incompatible avec le libre arbitre. S’il est possible de simuler la conscience de quelqu’un sur un ordinateur, il est possible de prévoir ses réactions, et donc cette personne n’est pas libre. Or, prouver que notre libre arbitre n’existe pas sur la base de nos propres connaissances est impossible, puisque cela mène à une contradiction.
Imaginons une machine capable de prévoir de manière certaine si je vais décider d’appuyer sur le bouton rouge ou le bouton vert, par exemple en analysant mon cerveau, ou simplement en le simulant.
Si je suis capable d’accéder au résultat de la prédiction, alors je peux décider d’appuyer sur l’autre bouton. Que se passe-t-il alors ?
- Soit la machine change sa prédiction. Dans ce cas le libre arbitre existe, puisque j’ai réussit à modifier la prédiction de la machine par ma volonté.
- Soit la machine conserve sa prédiction initiale et donc se trompe. Dans ce cas la machine n’est pas efficace, et je n’ai pas réussi à prouver que le libre arbitre n’existe pas. A charge de réessayer avec une machine plus efficace...
- Soit la machine conserve sa prédiction et je n’arrive pas à changer d’avis. Dans ce cas là on a réellement prouvé que le libre arbitre n’existait pas.
Bien sûr la troisième possibilité doit être rejetée. On ne peut imaginer que le simple fait d’observer une prédiction de son propre comportement, du type appuyer ou non sur un bouton, puisse aliéner à ce point notre capacité de décision. En conséquence, une machine censée prouver l’existence du libre arbitre sera nécessairement en échec. Il est impossible de prouver (par la prédiction) que le libre arbitre n’existe pas.
On pourra ajouter une possibilité supplémentaire, assez intéressante, comme issue de cette expérience : la machine peut se mettre à osciller, voire à adopter une évolution chaotique, imprévisible. En effet, en ayant accès au résultat de la prédiction, nous formons une boucle de rétroaction avec la machine. Or on sait que les boucles de rétroactions sont à la base des systèmes chaotiques,de la non linéarité et donc de l’imprévisibilité... Nous y reviendrons.
La séparation du sujet et de l’objet
Cette argument peut sembler trop simple pour être honnête, mais il n’en est rien. Il est en fait profond, car il est fondé sur la non-séparation de l’objet d’étude et du sujet de l’étude. Seule une séparation stricte peut permettre de prouver que le libre arbitre n’existe pas, mais une telle séparation idéale n’existe pas, nous sommes tous des sujets autant que les objets des autres sujets. Nous avons un accès conscient à une sommes d’information et nous sommes capables de tenir compte de cette information pour prendre des décisions. Nous ne sommes donc pas des objets comme les autres. Nous sommes capable de comprendre une théorie scientifique, et en conséquence aucune des théories que nous fabriquons ne pourra prouver notre absence de liberté. Il n’est donc pas exclu qu’une entité omnisciente hors du monde puisse savoir que nous ne sommes pas libres, mais cette connaissance nous est inaccessible, sans quoi elle deviendrait contradictoire.
On peut objecter qu’il est possible de placer une machine à la place du sujet qui réagisse de la même façon : en choisissant l’inverse de la prédiction de l’autre machine. Or une machine n’est pas libre, celle-ci est entièrement automatique en l’occurrence, donc notre argument censé prouver notre libre arbitre ne prouve rien du tout. C’est vrai, il ne prouve pas notre libre arbitre mais seulement l’impossibilité de prouver le contraire. Le libre arbitre n’est pas un attribut objectif mais subjectif, et il est évident qu’aucune expérience ne pourra le prouver objectivement. Seul l’introspection peut nous permettre de savoir s’il s’agit de libre arbitre ou non. En l'occurrence, placer une machine capable d’en tromper une autre est une preuve d’ingéniosité de la part du concepteur de cette machine, et le fait est qu’il existera toujours une machine imprévisible pour une autre tant qu’elle a accès aux résultats de l’autre machine.
On pourrait objecter que tant que nous n’avons pas accès au résultat de la machine, nous ne sommes pas libres, et que donc dans la vie quotidienne, nous ne sommes pas vraiment libre. Pour répondre à ceci, remarquons que tout comme nous sommes capable de forger des théories scientifiques, nous sommes capable d’anticiper nos propres réactions avec du recul sur nous même. Nous fonctionnons un peu comme une machine à prédire notre propre comportement... Et c’est peut être là l’essence de notre liberté. Encore une fois on y retrouve une boucle de rétroaction, qu’on sait être susceptible de générer l’imprévisibilité. Il faudrait donc voir dans cette imprévisibilité physique et dans les lois du chaos la source de notre conscience, ou au moins un de ses aspects les plus important. Ceci rejoint les recherches en neurosciences qui montrent l’importance des rétroactions dans la conscience elle même.
Libre arbitre et calculabilité
Pour finir on peut objecter que l’impossibilité pratique de prédiction ne signifie pas l’impossibilité théorique de prouver que le libre arbitre n’existe pas. Quand bien même la réalité physique ne serait pas calculable, il suffit qu’elle soit basée sur des lois déterministes pour que notre libre arbitre n’existe plus.
Ici on retrouve une formulation identique à notre problème précédant :
- soit les lois de la nature nous sont inaccessibles. Alors on ne peut prouver ni notre libre arbitre, ni le contraire.
- soit les lois de la nature nous sont accessibles, et elles sont non déterministes. Alors il est possible que notre libre arbitre existe.
- soit les lois de la nature nous sont accessible, et elles sont déterministes et calculable. Alors il y a contradiction, comme indiqué dans l’argument de la machine à prédire.
- soit les lois de la nature nous sont accessible, et elles sont déterministes mais non calculables.
C’est ce dernier cas qui nous intéresse. En théorie, il permet de montrer que notre libre arbitre n’existe pas, sans pour autant mener à une contradiction. Mais cette solution est pour le moins étrange, car ce qu’elle implique, c’est que notre sensation même d’être libre est conditionnée par l’impossibilité pour nous de calculer les lois de la nature. Un lien causal entre une sensation (illusoire) d’être libre, d’agir volontairement, et l’impossibilité de calculer quelque chose semble pour le moins étrange, du point de vue de l’ontologie. Le moins que l’on puisse dire est qu’un tel lien mériterait d’être explicité si cette solution devait être envisagé.
Mais c’est sans doute vain. En effet, on peut supposer que cette non calculabilité se laisse approximée en un temps de calcul suffisamment long. Donc en théorie, si nous disposions de possibilités de calcul suffisantes, nous pourrions nous approcher aussi près que nous voulons d’une prédiction correcte de nos choix. Alors nous retombons dans le même paradoxe, qui veut qu’en possédant cette prédiction avec un degré de précision donné, il est toujours possible de choisir de faire exactement l’inverse.
En fin de compte, puisqu’il est impossible de montrer l'inexistence du libre arbitre du fait même de notre possibilité de connaître le monde et d’agir en conséquence, alors il n’y a aucune raison de de ne pas accepter cette sensation subjective de libre volonté pour ce qu’elle semble être.
Si l’on accepte ce point de vue, et puisqu’il semble y avoir un lien de nécessité entre l’impossibilité de prévoir notre propre comportement et le libre arbitre, nous devons également accepter l’idée que les fondements de la conscience se situent dans ce qu’il y a d’imprévisible en la matière, c’est à dire dans l’association des propriétés quantiques et des lois du chaos.
Commentaires
L'idée générale cependant est qu'un système donné ne peut être considéré comme un système déterminé de réponse à des stimuli que si on le considère comme un système fermé auquel nous, le sujet connaissant, sommes extérieur. Mais dès lors qu'on réintroduit le sujet connaissant au sein du système, le déterminisme est mis à mal, parce que le fait même de la connaissance autorise une liberté vis à vis de ce qui est connu. C'est à dire qu'on ne peut véritablement connaître un système qu'à condition qu'il ne soit pas lui même doué de la connaissance que nous en avons. Il ne s'agit donc pas ici de simple stimuli, mais plutôt d'une connaissance accessible au sujet (en l'occurrence, l'expérience de pensée de l'article ne fonctionne que si le sujet *sait* qu'il a affaire à une machine capable de prédire son comportement, par exemple s'il a lui même participé à sa conception).
On pourrait approfondir l'argument en supposant que la machine doit également être capable de prédire les stimuli qui seront donné au sujet. Dans ce cas le sujet peut toujours décider de faire le contraire de ce que prédit la machine.