1.5 Leibniz et son rêve d’un langage mathématique de la pensée

L’une des étapes cruciales de l’histoire de la métaphore de l’esprit comme une machine à calculer consiste à interpréter la pensée comme un phénomène mathématique. Déjà, nous avons vu que la tradition grecque considérait que les mathématiques élèvent la pensée vers la vérité. Chez Descartes, les mathématiques sont une méthode par excellence pour guider son esprit. Mais dans les deux cas, la pensée n’a pas encore un caractère proprement mathématique. Ce pas sera franchi par Gottfried Wilhelm Leibniz. C’est dans son ouvrage classique, La logique de Leibniz, que Louis Couturat a mis en évidence en 1901 les principaux éléments conceptuels d’une métaphore de l’esprit comme machine mathématique au sein d’une œuvre immense mais alors dispersée dans des documents encore inédits. Note 5

Déjà en 1666, alors à peine âgé de vingt ans, Leibniz publie De Arte combinatoria (« De l’art combinatoire ») dans lequel il défend l’idée que la logique doit reposer sur une méthode infaillible de déduction d’idées vraies. Mais Leibniz innove en proposant de s’intéresser à la composition des idées. Selon lui, il propose de décomposer toute idée complexes en un ensemble d’idées plus simples, puis de recommencer jusqu’à atteindre les idées les plus simples, primitives et indémontrables. Il est à la recherche de ce qu’il appelle lui-même un Alphabet général de la pensée humaine, un Alphabet qui recenserait toutes les idées simples qui serviraient de base à la recomposition des idées complexes. Les signes ou les symboles de cet Alphabet universel devaient permettre ensuite de composer les idées comme les lettres permettent de composer des phrases. Leibniz espérait que le nombre d’idées simples soit restreint pour permettre l’apprentissage rapide et naturelle de cette Langue universelle des concepts.

Au moment de concevoir sa première ébauche de ce qu’il appellera sa Caractéristique universelle, Leibniz ne s’intéresse pas encore aux mathématiques. Ce n’est qu’à partir de 1672, pendant un séjour à Paris, qu’il commence l’étude des mathématiques. Cette discipline aura un impact majeur sur la manière dont Leibniz conçoit l’art combinatoire. Le voilà maintenant qu’il conçoit les règles de composition et de déduction de sa langue universelle des concepts comme des règles mathématiques, profitant par le fait même leur universalité et leur rigueur. La clé de son projet de Caractéristique universelle réside maintenant de ce qu’il nomme en latin le calculus ratiocinator, le calcul logique. La composition des idées complexes à partir des idées simples et la déduction des vérités devient une affaire de calcul.

Au fur et à mesure qu’il perfectionnait ses connaissances mathématiques, sa Caractéristique universelle s’étoffait en métaphores mathématisées. Le Calcul logique devait être analogue aux calculs arithmétiques ou algébriques. Cela exige la définition des règles de ce calcul, des règles universelles de composition et de déduction des idées vraies. Leibniz y voyait l’ultime méthode de discussion philosophique, une méthode qui aurait la vérité et l’exactitude des mathématiques :

« il ne sera plus besoin entre deux philosophes de discussions plus longues qu'entre deux mathématiciens, puisqu'il suffira qu'ils saisissent leur plume, qu'ils s'asseyent à leur table de calcul (en faisant appel, s'ils le souhaitent, à un ami) et qu'ils se disent l'un à l'autre : “Calculons!” » ( Couturat 1961, p.98, note 3)

Le projet de la Caractéristique universelle repose aussi sur la nécessité de définir un symbolisme adéquat pour exprimer les idées simples. Je ne saurais trop insister sur l’importance de la notation et du calcul symboliques aux yeux de Leibniz. Il faut comprendre que c’est à partir d’une technique manuelle et concrète d’écriture que Leibniz entend révolutionner la philosophie. La métaphore de la pensée comme Caractéristique universelle procède ainsi du domaine concret de la notation et du calcul au domaine abstrait des idées (et des vérités mathématiques). Couturat remarque d’ailleurs à quel point Leibniz est conscient de l’importance d’une bonne notation.

C’est aussi l’exemple de l’Algèbre que Leibniz cite constamment pour montrer combien un système de signes bien choisis est utile et même indispensable à la pensée déductive : « Une partie du secret de l’Analyse consiste dans la caractéristique, c’est-à-dire dans l’art de bien employer les notes dont on se sert. » [citation de Leibniz] Plus généralement, le développement des Mathématiques et leur fécondité tient, selon Leibniz, à ce qu’elles ont trouvé des symboles commodes dans les chiffres arithmétiques et dans les signes algébriques. Si au contraire la Géométrie est relativement moins avancées, c’est parce qu’elle a manqué jusqu’ici de caractères propres à représenter les figures et les constructions géométriques, et si on ne peut la traiter analytiquement qu’en lui appliquant le nombre et la mesure, c’est parce que les nombres sont les seuls signes maniables et appropriés qu’on possède jusqu’à présent.

Aussi Leibniz va-t-il jusqu’à dire que les progrès qu’il a fait faire en Mathématiques viennent uniquement de ce qu’il a réussi à trouver des symboles propres à représenter les quantités et leurs relations. Et en effet, il n’est pas douteux que son invention la plus célèbre, celle du Calcul infinitésimal, ne procède de sa recherche constante de symbolismes nouveaux et plus généraux, et qu’inversement elle n’ait beaucoup contribué à le confirmer dans son opinion sur l’importance capitale d’une bonne caractéristique pour les sciences déductives. (Couturat 1961, pp.83-84)

On peut sentir dans cette citation à quel point Leibniz accorde de l’importance à la technique d’écriture. Mais le choix d’une bonne technique relève essentiellement de son utilité.

D’une manière générale, Leibniz insistait sans cesse sur l’utilité des schèmes géométriques pour illustrer les spéculations abstraites. Sans doute il ne faut pas raisonner sur la figure, et remplacer la déduction par la simple inspection; il est même bon d’apprendre à raisonner sans aucune figure; mais d’autre part les schèmes (comme les signes en général) sont d’un grand secours à l’entendement, en lui donnant pour appui et pour guide l’imagination. La valeur d’une démonstration ne doit pas dépendre de la figure : mais la figure sert à la rendre sensible par l’analogie de sa construction avec les relations intelligibles dont elle peint l’enchaînement. Ainsi, de même que, par le symbolisme des nombres caractéristiques, Leibniz ramenait en quelque sorte la Logique à l’Arithmétique, il la ramenait à la Géométrie au moyen du schématisme linéaire, où les déductions se traduisait par des constructions, « en menant des lignes ». (Couturat 1961, pp.114-115)

Mais si l’utilité semble à l’honneur ici, il ne faudrait pas en déduire pour autant que Leibniz subordonne la vérité à l’utilité. À ce sujet, Leibniz n’est pas gêné d’employer le terme « analogie », qu’il interprète en son sens grec de « proportion mathématique », pour désigner le rapport entre les signes de sa Caractéristique et les objets du monde matériel ou même du monde intelligible. En effet, quand les nominalistes de son époque affirment que l’arbitraire dans le choix d’une bonne notation interdit à sa Caractéristique d’exprimer une quelconque vérité :

[…] Leibniz répond péremptoirement que, si les signes sont arbitraires, les relations entre ces signes, qui expriment ou constituent les propositions, ne sont nullement arbitraires pour cela, et qu’elles sont vraies ou fausses, suivant qu’elles correspondent ou non aux relations des choses signifiées. Ainsi la vérité consiste dans la connexion des signes, en tant qu’elle répond à la connexion réelle et nécessaire des idées ou des objets, laquelle ne dépend pas de nous; ou pour mieux dire, elle consiste dans cette similitude des relations des signes et des relations des choses, qui constitue une analogie, au sens propre et mathématique du mot, c’est-à-dire une proportion ou égalité des rapports. […] On peut même changer à volonté le système des signes, sans que pour cela la vérité change ni dépende de notre bon plaisir, parce que, quels que soient les symboles choisis, il y aura un arrangement de ces symboles, et un seul, qui sera vrai, c’est-à-dire qui correspondra à l’ordre réel des choses ou des faits. Il y a donc analogie, non seulement entre les signes et les objets, mais entre les divers systèmes de signes, en tant qu’ils expriment la même réalité. (Couturat 1961, pp.104-105)

On comprend ici que Leibniz joue sur tous les tableaux. Il est conscient de l’importance de l’utilité concrète d’une bonne notation, et reconnaît tout autant la vérité des analogies entre symboles et objets ou entre symboles et relations (mathématiques). Il faut bien voir cependant que l’analogie au sens de Leibniz implique un forme mathématique de réalisme philosophique et n’est donc pas compatible avec la notion d’analogie utilisée dans la présente thèse, qui considère, un peu à la manière des nominalistes, que l’on fait une erreur quand on tente de dispenser l’existence d’objets abstraits de toute relation avec le monde concret. C’est l’expérience concrète qui donne un sens au domaine abstrait au moyen de la métaphore. Contrairement à ce que suggère la notion d’analogie de Leibniz, le monde abstrait n’existe pas par lui-même, indépendamment de toute expression concrète.

Nous venons de voir comment Leibniz concevait sa Caractéristique universelle, interprétée ici comme la première expression d’une métaphore de la pensée prise comme un langage mathématique. Mais une surprise nous attend lorsque l’on constate que Leibniz conciliait cette première métaphore avec une seconde qui nous intéresse tout autant.

Il allait plus loin encore, et rêvait de réduire la Logique à la Mécanique. Cela n’a rien d’étonnant, si l’on se rappelle, d’une part, tous les passages où il compare le raisonnement à un mécanisme ou la Caractéristique à une machine, et si l’on considère, d’autre part, qu’il avait inventé dès sa jeunesse une Machine arithmétique [en 1673] pour effectuer les quatre opérations et une Machine algébrique pour résoudre les équations [en 1674]. Il était naturel que, après avoir réduit le raisonnement à un calcul, il voulût le réduire, comme les calculs numériques, à un mécanisme matériel. (Couturat 1961, p.115)

Ainsi Leibniz a-t-il proposé pour la première fois une analogie entre l’esprit et la machine à calculer. Or il faut bien voir que cette analogie de Leibniz brouille de plus en plus la distinction entre le domaine concret et le domaine abstrait. Car si dans sa jeunesse, Leibniz se plaît à construire une machine à calculer bien concrète, bientôt il ne fera plus que n’en donner des esquisses que sur papier. Marc Parmentier, dans son Introduction au livre Naissance du calcul différentiel (Leibniz et Parmentier 1989), se montre surpris par l’intérêt que Leibniz porte aux machines à calculer et à la confusion des genres qu’elle entraîne entre la théorie et la pratique.

En outre Leibniz ne se lassera jamais de concevoir, à l’intérieur même des mathématiques, des machines théoriques, destinées non seulement à épargner les calculs inutiles mais à tenir lieu de démonstrations. En dehors de sa célèbre machine arithmétique, le plus bel exemple en est fourni par l’intégraphe (Note 6), vis-à-vis duquel les jalons traditionnels de la théorie et de la pratique se dissolvent. (Leibniz et Parmentier 1989, p.32)

Bien sûr on parle ici de « machines théoriques », mais cela ne les empêche pas pour autant d’avoir été formulé en utilisant une marche à suivre qui se voulait concrète. Ce ne sont pas les instructions d’une machine complètement abstraite que donne Leibniz, mais bien celle d’une machine qu’il voulait voir construite.

D’après ce que nous venons de voir, la Caractéristique universelle et le Calcul logique sont les premières incarnations de la métaphore de la pensée comme langage mathématique. Plus encore, Leibniz est sans doute le premier à avoir saisi l’ampleur d’un projet philosophique qui consiste à remplacer l’esprit humain par une machine à calculer. Son grand rêve aurait été de concevoir une machine qui aurait pu faire de sa logique un outil concret et mécanique. On saisit tout la dimension visionnaire de son projet qui, à partir d’une comparaison métaphorique entre l’activité abstraite du raisonnement et l’activité concrète du philosophe mathématicien, finira par se réincarner deux siècles plus tard en différentes théories de l’esprit basée sur le fonctionnement des ordinateurs.

Le rêve était grandiose, mais n’a jamais abouti. Leibniz n’a jamais réussi à trouver un symbolisme adéquat pour son langage de la pensée. Et le seul à blâmer ne peut être que Leibniz lui-même. Comme l’explique Parmentier, Leibniz avait la mauvaise habitude de faire les choses à moitié.

Les défauts n’en sautent pas moins aux yeux. Sa procrastination d’abord. Nous le verrons à plusieurs reprises se contenter de jeter sur le papier une intuition, en remettant à plus tard les détails de calcul (mais aussi par voie de conséquences la justification qu’ils peuvent apporter). Sa précipitation, qu’il nomme lui-même sa festination naturelle. Il est fréquent qu’il avance un résultat général sans avoir pris la peine de vérifier sur un nombre suffisant d’exemples. Enfin, les erreurs proprement dites sont nombreuses. (Leibniz et Parmentier 1989, pp.32-33)

Les spécialistes de Leibniz n’en finissent pas de s’étonner qu’un si grand esprit ait pu avoir si peu de rigueur. On s’étonne qu’un esprit aussi inventif ait consacré si peu d’effort à se justifier. Peut-être faut-il même y voir la difficulté de bien concevoir l’innovation immense que pouvait représenter la machine à calculer (et son lien métaphorique avec l’esprit). Pour Leibniz, les traditions scolastiques qui s’occupaient principalement de justifier les connaissances abstraites de son époque n’étaient finalement que des nuisances, des chapes de plomb qui empêchaient l’avancement des connaissances. Passé maître dans ce qu’il appelait lui-même l’art d’inventer (ars inveniendi), Leibniz ne s’embarrassait d’aucune tradition quand venait le temps d’inventer des nouvelles méthodes concrètes de notation et de calcul qui allaient connaître une postérité remarquable dans la tradition analytique du 20e siècle.