La raison artificielle

Résumé : Un phénomène majeur qui transforme aujourd'hui notre quotidien est l'apparition, grâce à l'informatique et à des logiciels qui opèrent des classements, des rapprochements et même des propositions issues de leurs recherches dans les immenses banques de données rendues disponibles sur l'internet, d'une « intelligence artificielle » qui imite et semble même surpasser nos capacités cérébrales. Mais s'agit-il bien d'une véritable « intelligence » ou d'une simple capacité de calcul, fût-elle gigantesque ? En distinguant « intelligence » (propre à l'homme) et « raison » (accessible à l'ordinateur), l'auteur, à la suite de tous ceux qui, comme Pascal, ont su distinguer qualitatif et quantitatif, nous montre comment faire face à ce nouveau « progrès » technique.

Au cours de l'histoire, l'humanité a progressivement accru ses pouvoirs en matière d'énergie mécanique (feu, animaux de trait, vapeur, pétrole et gaz, énergie atomique) ; maintenant, depuis le 7 août 1944, avec l'entrée en service de la calculatrice à séquence automatique d'IBM (ou Mark I), l'humanité dispose d'une énergie mentale supplémentaire, récemment renforcée par une « avancée » sous l'appellation prêtant à confusion, ladite « IA », « Intelligence artificielle ».

Cette confusion (et les conséquences qu'elle induit) provient de l'oubli de la distinction essentielle entre la raison (dianoia, ratio) et l'intelligence (noûs, intellectus). Conformément au sens originel des mots, il vaudrait mieux parler de « raison artificielle » — ce que ChatGPT par exemple admet —, une correction qui pourrait contribuer à résoudre bien des confusions et peut-être même à éviter des catastrophes.

Intelligence et raison

Traditionnellement et historiquement, en effet, la philosophie fait une distinction claire entre la raison et l'intelligence ou l'intellect :

• La raison est la faculté de raisonner ou de calculer (un liber rationis était un livre de comptes).
• L'intelligence est la faculté de comprendre ce calcul ou ce raisonnement.

C'est donc par l'intelligence qu'on connaît : l'esprit fonctionnant comme un miroir (speculum en latin), c'est l'intellect qui voit et perçoit le sens, l'être réel. La raison, en revanche, dans ses manifestations empiriques et logiques, s'intéresse à ce que l'on pourrait appeler le domaine des « faits bruts ». La raison pourra abstraire, conceptualiser et (re)construire, mais c'est l'intelligence qui permettra de comprendre ce qu'elle fait — si tant est que l'acte de compréhension ait lieu.

Il se trouve en effet que l'intellect, dans son acte d'intellection, est parfaitement libre, et qu'aucune autorité, aucune volonté — même la nôtre ! — n'a de pouvoir sur lui : « on ne peut se forcer à comprendre ce que l'on ne comprend pas », comme l'a fait remarquer Simone Weil.

L'intellect a besoin d'intelligibilité comme l'œil a besoin de lumière, et l'intelligibilité est le révélateur de l'être. Cela signifie que l'intelligence permet le « sens de l'être », tout comme l'œil le « sens de la vue » (cf. J. Borella). « L'exercice de cette faculté, écrit Leibniz, se nomme intellection et constitue une perception, distincte de la faculté de penser, mais jointe à elle ^[2]. »

Par opposition à ce que l'on peut appeler l'intuition intellectuelle, qui unit (cognitivement) le connaissant au connu, le raisonnement discursif sépare le sujet et l'objet et décompose l'objet en ses aspects et ses relations conséquentes. La raison en tant que telle est ordonnée ou limitée à la fois à l'objet qu'elle analyse et à la logique qui régit son fonctionnement. Ces limitations, qui font de la raison un outil fantastique propre à l'homme, nous soumettent cependant, à la fois, aux limites de l'expérience sensorielle et de la logique en tant que telle.

L'intellect, en revanche, n'est pas limité, mais ouvert à l'au-delà du physique (le métaphysique) ou du naturel (le surnaturel) et ainsi aux réalités paradoxales ou apparemment contradictoires. Toutefois, et c'est là l'aspect paradoxal de la connaissance, si l'intelligence saisit la réalité des choses, leur intelligibilité, cette connaissance n'est plus totalement impersonnelle, comme peut l'être la raison (si tant est qu'aucune idéologie ne la pollue) ; c'est que, comme l'a dit Aristote, « ce n'est pas l'intellect qui connaît, mais l'homme » (De Anima I, 408b 14-5).

De l'IA à la RA

Il est désormais évident que ce que l'on appelle l'« intelligence artificielle » — ainsi désignée par John McCarthy dans les années 1950 — est en fait mal nommée dans la mesure où cette désignation, beaucoup trop large, suggère par conséquent des notions inapplicables, telles que la « génération » de la conscience, l'autonomie volitive et le comportement affectif.

Si l'IA fait appel à des domaines interdisciplinaires, telles les sciences cognitives, la neurobiologie computationnelle, la logique mathématique, la psychologie artificielle, etc., elle relève néanmoins de l'informatique, c'est-à-dire du monde de la programmation et du calcul, avec une vitesse suffisante pour traiter des données massives et une sophistication suffisante pour permettre une amélioration récursive, au moins sous la forme d'une fonction d'auto-apprentissage.

Reconnaître des visages ou des paroles, gagner des jeux stratégiques, automatiser des voitures, simuler des opérations militaires, organiser des données complexes, etc. : tout cela relève purement de la programmation, du calcul et du raisonnement automatisé. Mais lorsqu'il s'agit de comprendre la parole humaine ou d'interpréter des données complexes — par opposition à reconnaître la parole humaine ou à organiser des données complexes — comme on le prétend souvent, on a manifestement été induit en erreur par le mot « intelligence » (le « I » de « IA »), qui devrait de jure être remplacé par un « R » pour le terme « raison ».

Si l'on renverse la question et que l'on se demande comment transformer un homme vivant en automate, on peut penser qu'il n'y a rien de plus facile : il suffit de le rendre entièrement soumis à toutes les déterminations qui lui parviennent. Il se transforme alors en « automate spirituel » (automaton spirituale, précise Spinoza) comme l'illustre le paradoxe dit de l'âne de Buridan : un âne, en l'occurrence aussi assoiffé qu'affamé, placé à mi-chemin entre une portion d'avoine et un seau d'eau, ne parvient pas à prendre une décision et meurt. Nous avons là un exemple de ce que l'on pourrait appeler, dans le langage courant, un « âne automatique ».

Cette expérience de pensée prouve par une réduction à l'absurde que, pour l'homme, être conditionné n'est pas une privation de liberté, mais qu'au contraire la liberté s'exerce malgré les déterminations. Une machine en revanche — un robot, disons, ou un automate — « mourra » (comme l'âne de Buridan) sous n'importe quelle double contrainte ferme, et ne pourra d'ailleurs jamais être « libre » dans la mesure où toute (ré)action aléatoire imitant la liberté sera due à un ou plusieurs algorithmes programmés.

Comme la raison elle-même, la machine — aussi sophistiquée soit-elle — sera limitée, dans ses capacités, à ses fonctions spécifiques telles que spécifiées par sa logique interne : elle est en effet une « incarnation » (décharnée) de la Raison Artificielle, de la RA par opposition à l'IA, une RA privée donc d'intelligence et faillible sous toute double contrainte.

Du travail de l'homme

Comme l'ont montré de nombreux philosophes, tout outil, fût-ce un marteau ou une voiture, devient un prolongement de la main et, en quelque sorte, un prolongement de l'homme lui-même, par intégration de cet outil ^[3]. On le comprend, mais pourquoi le fait-il ? Il nous semble qu'obtenir plus, ou mieux, en se fatiguant moins, traduit une certaine avidité inhérente à la nature animale, dont les besoins à satisfaire sont souvent impérieux. Les besoins vitaux disposent de limites que l'on découvre assez vite ; par exemple, nul ne voudra ni ne pourra faire cinq vrais repas par jour.

Les besoins non vitaux semblent en revanche indéfinis, dépassant d'ailleurs ce que la terre peut fournir ^[4], cependant que, de son côté, la technoscience, au sens large, n'est pas au bout de propositions pour les assouvir, quitte à créer, au fur et à mesure, de nouvelles avidités. Il faut donc dépasser l'idée d'une « neutralité » de tout nouvel outil, jugé sur les bénéfices quantitatifs offerts.

Une illustration en est offerte dans un texte de Zhuāng Zhōu, certes un peu ancien, car du IVe s. av. J.-C. ! :

Alors qu'il se rendait au Jin après une visite dans le sud de Chu, Zigong vit sur la rive sud de la Han un vieillard qui travaillait dans des plates-bandes. Le vieillard avait creusé des rigoles. Il descendit dans un puits d'où il ramena une cruche pleine d'eau qu'il déversa. Beaucoup d'efforts pour peu de résultats !

Zigong : — Ne désires-tu pas une machine qui irrigue cent plates-bandes par jour, qui donne beaucoup de résultats pour peu d'efforts ?

Le Jardinier (après avoir levé les yeux vers Zigong) : — De quoi s'agit-il ?

Zigong : — D'une machine creusée dans du bois, dont l'arrière est lourd et l'avant léger. Elle tire de l'eau comme tu lèves le bras, à la faire déborder comme la soupe d'un chaudron. Cet instrument s'appelle un chadouf.

Le Jardinier : [...] — J'ai entendu mon maître dire que celui qui use d'artifices travaille avec artifice, que celui qui travaille avec artifice pense avec artifice, que celui qui pense avec artifice perd sa pureté, que celui qui perd sa pureté perd sa tranquillité d'esprit, et que la Voie ne soutient pas qui a perdu sa tranquillité d'esprit. Ce n'est pas que je ne connaisse pas les avantages de cette machine, mais j'aurais honte à l'utiliser ^[5].

Certes, l'usage voudrait que l'on juge ce jardinier de réactionnaire contre tout progrès technique, mais il rappelle surtout que le bénéfice quantitatif n'est pas tout — proposant essentiellement à créer de nouvelles avidités — et qu'il faut aussi considérer que l'outil transforme l'homme qui se l'approprie, ainsi que la société tout entière.

Ces ancestrales réserves sont d'ailleurs restées actuelles et se retrouvent dans des formulations plus récentes :

• Chez Georges Bernanos (1888-1948) dans La France contre les robots (1947) ^[6], la société industrielle et son machinisme réduisant significativement la liberté des citoyens et conduisant à des modes de pensée déviés ;
• Chez Bertrand Russell (1872-1970) dans ses Essais sceptiques ^[7], promouvant également et tout spécialement l'indépendance d'esprit ;
• Chez Bill Joy (1954), mettant en garde contre une fin de l'humanité ^[8] ;
• Ou encore chez Johannes Hoff quant aux conséquences d'un machinisme désormais digitalisé ^[9].

Certains ont cherché au cours de l'histoire à freiner le « progrès technique » : ainsi du moulin à eau empêché par l'empereur Vespasien (9-79 ap. J.-C.), jugeant qu'un appareil économisant de la main-d'œuvre risquait d'appauvrir les citoyens en créant du chômage ; ainsi également des moulins à foulon inventés près de Grenoble au XIe siècle mais, mal accueillis par les artisans, se développant lentement et progressivement à la campagne ; et de même du rouet et du moulin à eau (finalement). D'autres (comme le Parlement anglais) ont tranché en faveur des machines contre le mouvement luddite, qui essayait de les détruire, et nombre de ses membres ont été pendus (1813).

On peut donc le freiner, mais pas l'arrêter. Et il en ira de même avec la puissance mentale fournie par la RA.

Dans tous les cas, ces nouvelles avidités devront être a minima gérées, au mieux maîtrisées par les individus, car les sociétés (libérales à tout le moins) resteront tout aussi impuissantes. C'est que la productivité — un autre mot pour « obtenir plus à moindre effort » — ne sera jamais une variable macro-économique. C'est-à-dire que les entreprises peuvent bien se séparer des salariés rendus inutiles par la productivité, mais les pays ni la terre ne peuvent se séparer de leurs habitants — sauf à faire appel à des régimes de sinistre mémoire.

Ainsi, sans changement depuis au moins Platon, tout se joue — ou pas — dans l'éducation et la gestion des avidités non vitales par les individus (livrés à) eux-mêmes.

En pratique, à simplement converser avec ChatGPT (qui n'est certes pas la RA mise en place pour surveiller les citoyens, déclencher des systèmes de bombardements automatiques, remplacer les chauffeurs par des véhicules automatiques ou les peintres et les romanciers par des peintures ou écritures algorithmées, voire pour accélérer le business médical), on s'aperçoit aisément de ses limites cognitives, de son manque d'intelligence, pouvons-nous dire, et le risque qu'il y aurait si des prises de décision strictement « rationnelles » ou « logiques » lui étaient concédées. C'est pourquoi le physicien Stephen Hawking, Bill Gates et Elon Musk ont averti que « l'intelligence artificielle pourrait mettre fin à l'humanité ».

L'une des fins que l'on peut déjà apercevoir, c'est la pensée unique qui se dessine : un discours moyen pondéré par les poncifs et les clichés des plus-nombreux-disants, relayé et amplifié par les réseaux sociaux et touchant les enfants, au détriment d'un avenir plus ouvert. (12 octobre 2024)

[Image : Couverture du livre "Conversations avec ChatGPT sur l'homme, le monde, Dieu et l'intelligence artificielle" - Bruno Bérard] On trouvera un développement plus complet de ces idées en lisant : Conversations avec ChatGPT sur l'homme, le monde, Dieu et l'intelligence artificielle. « Intelligence ou Raison Artificielle ? » Postface du Pr Johannes Hoff, Paris, L'Harmattan, octobre 2024.