1.7 Boole : un autre mathématicien qui voulait devenir philosophe

La prochaine illustre figure de cette courte recension historique est George Boole (1815-1864). Un petit mot sur sa vie nous donnera quelques indices sur sa filiation avec la pensée de Leibniz. Dans sa jeunesse, Boole s’intéresse comme Leibniz aux études classiques et aux langues étrangères. Provenant d’un milieu modeste qui ne lui permet pas l’accès aux écoles supérieures, il est tout de même initié par son père aux mathématiques et à la logique. C’est à l’âge de 17 ans que Boole s’attaque plus sérieusement à l’étude des mathématiques. Étudiant en autodidacte, Boole fait son apprentissage grâce aux livres de mathématiciens français, ce qui lui ouvre la porte de la notation leibnizienne. Sans être nécessairement très au fait du projet de Caractéristique universelle du maître allemand au point de s’y reconnaître, Boole fera tout de même fructifier l’héritage leibnizien, réussissant là où son précurseur avait échoué.

Il faudra attendre 1847 avant que Boole ne publie un premier essai dont le titre traduit est l’Analyse mathématique de la logique (Note 8) . Ce que nous apprend tout d’abord ce titre, c’est que la logique est à l’époque un domaine de connaissance distinct des mathématiques. Il n’y a pas vraiment de commune mesure entre les méthodes de la logique et celles des mathématiques. Ce schisme entre les deux disciplines remonte directement à la fameuse opposition entre Platon et Aristote, dont les enseignements sont d’un côté centrés sur l’étude des mathématiques pythagoriciennes et de l’autre, ceux axés sur l’étude du raisonnement vrai, c’est-à-dire les règles d’argumentation qui concluent uniquement des propositions vraies à partir de prémisses vraies. Les deux écoles avaient des approches souvent opposées, ce qui a eu pour conséquence la séparation des deux disciplines.

La logique de l’époque de Boole était pleine héritière de la tradition aristotélicienne. La forme de référence du raisonnement était le syllogisme, la déduction d’une conclusion à partir de deux propositions toutes composées de deux termes, un sujet et un prédicat. Elle tenait compte aussi de la quantification universelle ou existentielle qui affectait chacun des termes. Il y avait en somme quatre types de propositions logiques dénotées par les lettres A, E, I, O, pour ceux à qui cela rappelle vaguement quelque chose. La déduction s’appuyait sur l’analyse de trois termes ordonnées (majeur, moyen, mineur) selon leur disposition dans les trois propositions. Les efforts de Boole ont conduit à non moins que la réconciliation entre les mathématiques et la logique, il s’agit d’une étape cruciale dans les recherches postérieures sur les fondements des mathématiques dans la logique.

C’est dans le titre original de son livre de 1854 que l’on mesure toute l’ambition de Boole. An Investigation of the Laws of Thought, on Which are Founded the Mathematical Theories of Logic and Probabilities : le titre original est plus explicite que sa contrepartie française : « Les lois de la pensée » (Boole 1992). L’innovation que je retiens de Boole est d’avoir réussi à donner un sens à la traduction notationnelle de propositions logiques en équations algébriques. Il s’agit essentiellement de l’invention d’une application inédite de la notation et du calcul algébriques basée sur une analogie audacieuse qu’il prend lui-même pour telle. Il obtient de cette application de l’algèbre des résultats spectaculaires : les règles quelque peu cryptiques du syllogisme aristotélicien deviennent des règles aussi simples que celles du de calcul algébrique, et le nombre de prémisses n’est plus limité à deux, il peut être théoriquement infini!

Mais aux yeux de Boole, ce que montre sa démarche dans toute sa splendeur, c’est l’existence de lois de la pensée, démontrée l’évidence de ses résultats et la simplicité de sa méthode. Ce sont les lois mathématiques de la logique. Mais la logique étant la science souveraine du raisonnement, Boole pousse l’audace jusqu’à conclure qu’il a découvert les lois de la pensée et de ses synonymes, l’intellect, l’entendement, l’esprit. Boole ouvre ainsi la voie à la réunion de deux types de vérités, les mathématiques et les logiques. Boole ne peut être plus clair sur ses intentions :

Le but de ce traité est d’étudier les lois fondamentales des opérations de l’esprit par lesquelles s’effectue le raisonnement; de les exprimer dans le langage symbolique d’un calcul, puis sur un tel fondement, d’établir la science de la logique et de constituer sa méthode de faire de cette méthode elle-même la base d’une méthode générale que l’on puisse appliquer à la théorie mathématique des Probabilités; et enfin, de dégager des différents éléments de vérité qui seront apparus au cours de ces enquêtes, des conjectures probables concernant la nature et la constitution de l’esprit humain. (Boole 1992, p.21)

Je vais complètement délaisser ici la question de la théorie des probabilités pour éviter l’éparpillement de mon propos. Je plonge plutôt directement dans une courte étude du système algébrique que Boole dans les chapitres 2 et 3. Je vais insister sur les métaphores à l’œuvre tout au long de l’analogie constitutive des lois de la pensée. Cette étude devrait aussi nous éclairer sur les contraintes qui s’appliquent sur les valeurs numériques possible de cette algèbre et qui en font un système binaire.

Tout d’abord, je remarque que la principale métaphore porteuse du projet de Boole est celle qui nous permet de former des groupes de la manière la plus naturelle. C’est pourquoi je la désigne métaphore du groupe, puisqu’elle repose sur l’expérience quotidienne de la constitution et de la dissolution de groupes de gens, d’animaux, de choses. Elle repose essentiellement sur une capacité à reconnaître les ressemblances entre différents objets ou individus. L’usage ordinaire du langage offre un soutien incomparable à cette faculté omniprésente. Les mots nous aident constamment à faire des distinctions ou à instaurer des critères de sélection ou d’appartenance au groupe, selon le sexe ou le genre par exemple.

Lakoff et Johnson ont étudié avec beaucoup d’acuité cette métaphore primaire qu’ils nomment d’après son schéma : « Les catégories sont des contenants ». Elle se retrouve dans Philosophy in the flesh, et d’une manière encore plus pertinente pour mon propos dans le livre de Lakoff et Rafael E. Nuñez Where Mathematics comes from (Lakoff et Núñez 2000). Pour Lakoff, Johnson et Nuñez, l’expérience concrète du contenant est transposée dans l’expérience abstraite des catégories. La métaphore permet de transposer les relations d’inclusion et d’exclusion d’un domaine à l’autre. Je crois pour ma part que l’expérience concrète des groupes d’individus ou d’objets plutôt que des contenants est tout aussi crédible comme domaine concret de la métaphore en jeu ici. Mais que ce soit le groupe ou le contenant, le fait que leur expérience soit concrète mais aussi d’une certaine façon indépendante de nous, ou comme on dit, objective, se répercute dans la conception que nous avons des catégories abstraites. Mais j’ai déjà expliqué ma critique de l’objectivisme, et je n’en reparlerai pas maintenant.

Boole utilise spontanément cette métaphore comme le font la plupart des philosophes de son époque. Mais son usage combiné d’un formalisme mathématique donnera une nouvelle dimension à cette métaphore. Boole généralise donc la notion de groupe ordinaire en notion de classe mathématique. Comme pour un groupe composé par exemple de gens aux cheveux noirs, il est possible de déterminer au moins un critère qui fait que les objets sont regroupés ensemble dans une classe. Ce critère s’exprime souvent le plus simplement dans le langage ordinaire. Prenons l’exemple classique de proposition logique : « Tous les humains sont des mortels ». Le mot humain désigne simplement le groupe ou la classe des humains. Et le quantificateur « tous » nous indique que ce sont tous les individus de la classe qui sont concernés ou sujets au prédicat. Dans notre expérience concrète du groupe, nous pouvons séparer le groupe en sous-groupes ou nous pouvons ajouter une autre groupe pour en constituer un plus grand. Quand il s’agit de séparer le groupe, nous pouvons soit désigner un sous-groupe en introduisant un nouveau critère de sélection (les humains aux cheveux noirs) soit exclure le sous-groupe du groupe de départ (les humains sauf ceux aux cheveux noirs). Nous pouvons aussi constituer un groupe plus grand en réunissant deux groupes (les humains et/ou les chevaux). Le génie de Boole est d’avoir réussi à donner une expression algébrique à ces relations de groupes. Voici comment.

Boole commence par utiliser les variables algébriques pour désigner une classe. La variable devient ainsi l’expression mathématique d’un critère de sélection. Soit x la classe des humains, et y la classe des mortels, l’exemple classique devient : « tous les x sont des y ». Cette manière d’exprimer des relations entre classes était tout à fait admise et courante parmi les philosophes. Ce n’est pas donc là que réside l’innovation de Boole. On la trouve plutôt dans un usage hardi des opérations arithmétiques de base. Tout d’abord, la multiplication permet de combiner deux critères de sélection pour former une classe. « xy » devient ainsi l’expression de la classe des humains qui sont mortels. L’addition « x+y » est l’expression de la réunion des deux classes x et y, la classe des humains et/ou des mortels. La soustraction « x-y » exprime l’exclusion d’une partie de classe x selon un critère de sélection y, dans ce cas-ci la classe des humains excluant les mortels (donc la classe des humains immortels, peu importe qu’elle existe ou non).

L’analogie que propose Boole entre les propositions logiques et leurs « équivalents » algébriques ouvre maintenant la voie à une résolution des syllogismes en termes de résolution d’équations mathématiques, une idée tout à fait remarquable! Je ne m’aventurerai pas très loin sur les possibilités de l’algèbre booléenne, je souhaite seulement expliquer brièvement pourquoi il s’agit d’un système binaire. Tout d’abord, que peut bien signifier en termes logiques l’expression « xx »? La classe des humains qui sont des humains. Il s’agit donc d’une expression redondante, équivalente à l’expression « x ». Boole considère qu’il s’agit d’une identité logique qui se traduit par une égalité mathématique : « xx = x » ou encore, « x² = x ». Mais si nous considérons maintenant les valeurs numériques que peut prendre la variable de cette égalité applicable à toutes les variables, nous réalisons qu’il n’y en a que deux : 0 et 1. Voilà pourquoi l’algèbre booléenne est binaire. Voyons tout de suite leurs impacts dans les calculs et leurs interprétations. « 0x = 0 », on connaît le pouvoir « absorbant » du zéro dans la multiplication. Alors, de quelle classe s’agit-il? Le « 0 » est le critère du néant, de la classe vide, il exprime le Rien, comme le dit Boole lui-même. Qu’ont en commun les humains et le Rien, si ce n’est rien? En ce qui concerne la valeur numérique de l’unité, elle est neutre dans la multiplication : « 1y = y ». La valeur de 1 désigne un critère de sélection de classe qui se combine à toutes les classes en les laissant intacts. Boole désigne ainsi l’Univers (au sens mathématique, et non cosmologique!) Qu’y a-t-il de commun entre les mortels et tous les objets de l’Univers, si ce n’est la classe même des mortels? Voilà donc en quelques mots une explication de la binarité du système booléen.

Nous avons vu que les efforts de Boole repose sur une métaphore primaire selon laquelle les classes (ou les catégories) sont des groupes (ou des contenants). Mais dans ce cas-ci, une autre dimension de la métaphore émerge, propre à ses recherches. Il s’agit de l’analogie (ou métaphore) entre les expressions logiques en langage ordinaire et les expressions mathématiques. Il s’agit d’une analogie qui permet la traduction d’une notation logique à une notation algébrique. Il est intéressant de noter que Boole n’est pas complètement aveugle sur ce point. Il souligne lui-même le processus d’analogie à plusieurs reprises tout au long de son livre, mais l’extrait suivant est dès plus explicites :

Il n’existe pas seulement une étroite analogie entre les opérations de l’esprit dans le raisonnement en général et celle qu’il mène dans cette science particulière qu’est l’algèbre, mais, dans une très large mesure, une équivalence exacte des lois auxquelles obéissent les deux classes d’opérations. (Boole 1992, p.25)

Tout d’abord, l’analogie que suggère Boole est plus ambitieuse que je la présentais, puisqu’il propose carrément l’analogie entre les opérations de l’esprit, et non seulement les propositions logiques, et les opérations algébriques. Plus encore, c’est cette nouvelle dimension mathématique qui confère à ces opérations le titre de « lois de la pensée ». À ses yeux, les principes de son système binaire ont force de lois, ce n’est quand même pas rien! Et comme rien n’arrête Boole, l’analogie se transfigure en une « équivalence exacte » des lois de la pensée et des lois de l’algèbre! C’est à se demander si pour Boole comme pour Platon, les mathématiques ne sont pas une mystique des nombres! C’est donc à partir d’un principe d’analogie que Boole découvre les lois mathématiques de la pensée (Boole 1992, p.404). Mais force est de constater que Boole est aveuglé par ses propres résultats remarquables et ne voit pas qu’il présuppose l’existence d’un principe dont il n’a pas démontré l’existence par ses propres lois de la pensée.

Boole a accompli un exploit considérable avec son algébrisation de la logique. Il devient ainsi le véritable père d’une métaphore qui ne cessera de se répandre dans la culture scientifique et populaire jusqu’à devenir ordinaire, banale, celle qui nous fait comprendre ou interpréter les processus de l’esprit en termes de calculs mathématiques. À noter qu’il n’est pas du tout ici question de machine à calculer, mais simplement de calcul. Boole ne fait aucune mention des machines à calculer dans ses livres. Mais l’amalgame entre la métaphore de Boole et la machine à calculer ne pouvait rester longtemps inexploité, comme le prouve l’article de 1870 de William Stanley Jevons (1835-1882). Jevons, un économiste ayant aussi publié un manuel de logique booléenne qui a longtemps servi de référence pour les Britanniques, a poursuivi en quelque sorte la tâche que s’était donné Boole de convaincre les philosophes de l’intérêt du calcul algébrique des propositions logiques. Son article de 1870, traduit sous le titre de « Réalisation mécanique de l’inférence logique » (Gillot, Boole et al. 1962) présente les principes et les plans sommaires d’une machine qui permet de faire de la déduction par la méthode booléenne. Cette machine ressemble étrangement à un piano, d’où son surnom de piano logique.