Daniel Andler, mathématicien de formation, s’est tourné, au milieu du chemin de sa vie, vers la philosophie des sciences. Il a participé à la création de la Société de philosophie des sciences, et il a créé le Département d’études cognitives de l’École normale supérieure.
Son livre Intelligence artificielle, intelligence humaine : la double énigme succède à ceux d’Hubert Dreyfus et de Melanie Mitchell que j’ai déjà commentés, c’est d’assez loin une des choses les plus approfondies que j’ai lues sur le sujet. J’avais prévu d’en faire un compte-rendu, mais il embrasse un champ trop large pour mes capacités de synthèse, alors je me contenterai de quelques notations personnelles sur des points qui m’ont particulièrement frappé, en renvoyant le lecteur au texte original, qui mérite vraiment son attention.
Deux énigmes et trois thèses comme point de départ
À l’heure où la popularité de l’intelligence artificielle connaît une recrudescence spectaculaire, stimulée par les résultats effectivement impressionnants de ChatGPT et de quelques autres grands modèles de langage (LLM), son livre Intelligence artificielle, intelligence humaine : la double énigme vient à point nommé pour désigner par des concepts clairs les démarches décrites de façon parfois un peu fumeuse par les innombrables articles de presse consacrés à cet engouement subit. Ou, comme il l’écrit : « Au sens strict, l’IA consiste en un ensemble relativement bien défini d’institutions, de projets et de réalisations d’ordre théorique et technologique [...] Au sens large [elle] inclut l’intelligence artificielle au sens strict mais également tout ce qui contribue au perfectionnement de la “numérisphère”. [...] L’IA [1] dont il est dit, avec raison, qu’elle exerce de puissants effets sur la société doit être comprise au sens large. Mais les idées de l’IA au sens strict y jouent un rôle déterminant et qui ne fait que croître. ». Et, pour désigner un système d’IA donné, ce que le langage courant nomme désormais une IA, il propose « un SAI — système artificiel intelligent ».
Daniel Andler pose comme point de départ de sa démarche trois thèses ; la première soutient que « l’intelligence artificielle est une énigme », en ceci qu’elle vise une cible, égaler l’intelligence humaine, dont elle semble ne jamais se rapprocher, malgré ses progrès constants. « L’intelligence, au sens humain du terme, n’est pas une fonction définie, à l’image d’une fonction mécanique ou biologique, dont on pourrait doter un mécanisme, si complexe qu’il soit. Chaque pas accompli par l’intelligence artificielle semble consister à découvrir que l’intelligence n’est pas là où elle pensait en trouver une trace. »
La deuxième thèse de notre auteur affirme que l’intelligence humaine est, elle aussi, une énigme : « sans qu’elle constitue un mystère, elle résiste à nos tentatives pour la caractériser à l’aide de termes clairs. [...] L’intelligence n’est pas une chose, phénomène, processus, fonction, mais une norme qui s’applique au comportement : elle qualifie le rapport entre un individu et son monde. »
« La troisième thèse est que les deux énigmes sont étroitement liées. [...] L’intelligence humaine continue de dicter l’ordre du jour de l’intelligence artificielle, qui consiste à accomplir, une à une, les tâches qui mobilisent chez nous l’intelligence mais en s’en passant. »
Les deux courants de l’IA
Rappelons que depuis la conférence fondatrice organisée en 1956 au Dartmouth College par John McCarthy la recherche en intelligence artificielle se partage en deux courants principaux (ce résumé ne saurait être attribué à Daniel Andler) :
– L’école de l’intelligence artificielle symbolique considère, pour résumer schématiquement, un système constitué d’une part d’une base de règles logiques, d’autre part une base de connaissances formulées sous forme de réseaux sémantiques. Ce système est capable de résoudre des problèmes ou de répondre à des interrogations au moyen d’un moteur d’inférence qui applique les règles logiques de la base aux connaissances déjà inscrites dans la base et à la nouvelle question qui lui est soumise. Ce courant a dominé la discipline de 1956 au milieu des années 1990, époque des systèmes experts qui ont connu et connaissent encore des succès pour tout ce qui relève du diagnostic médical, de la détection de pannes, etc. Les grands noms sont Herbert Simon et Allen Newell, concepteurs d’un système modestement nommé General Problem Solver.
– Le courant connexionniste reprend les idées que Warren McCulloch et Walter Pitts avaient exprimées dans leur article prophétique de 1943 A logical calculus of the ideas immanent in nervous activity, qui représentait un système cognitif sous la forme d’un réseau de neurones artificiels inspiré de la vision des neurones du cerveau humain qu’avaient à l’époque les neurobiologistes. Frank Rosenblatt réalisa en 1958 un premier système d’apprentissage automatique connexionniste (par connexion de neurones artificiels), le Perceptron, mais ce travail fut dénigré par les tenants de l’école symbolique Marvin Lee Minsky et Seymour Papert. Ce n’est qu’au milieu des années 1990 que le courant connexionniste reprit le dessus. Les systèmes dont on parle beaucoup aujourd’hui, par exemple ChatGPT, sont des réseaux d’apprentissage automatique profonds (c’est-à-dire des réseaux avec de nombreuses couches de neurones).
Un courant semble se dessiner pour introduire de l’intelligence artificielle symbolique dans les réseaux de neurones profonds.
Une idée intelligente de Leibniz
Les tenants de l’intelligence artificielle ont toujours une tendance plus ou moins prononcée à présenter l’intelligence humaine comme la capacité à résoudre des problèmes.
Cela m’a toujours semblé réducteur : s’il n’est pas douteux que savoir résoudre des problèmes compliqués est une marque d’intelligence, poser des problèmes nouveaux en demande au moins autant. Et encore plus, savoir rapprocher deux idées ou deux faits apparemment éloignés pour en déduire une ou plusieurs idées entièrement nouvelles. Ainsi, au tournant du XVIIIe siècle, Gottfried Wilhelm Leibniz reçoit de son correspondant et ami le jésuite Joachim Bouvet, missionnaire en Chine, un diagramme des 64 hexagrammes de Fuxi. Ce diagramme, issu de l’antiquité chinoise, est utilisé par des numérologues et des devins à des fins plus ou moins magiques.
Mais Leibniz imagine que les signes cabalistiques de ce diagramme, qui représentent le Yin et le Yang pour la tradition chinoise (cf. l’article plus détaillé pour des explications), peuvent être interprétés comme les chiffres 0 et 1 d’un système de numération à base 2. Et ce n’est pas tout : 250 ans avant le premier ordinateur, il prédit que cette arithmétique binaire sera propice à l’automatisation du calcul ! Une telle démarche, éloignée de toute tentative de résoudre un problème, fait pour moi de Leibniz un des hommes les plus intelligents du millénaire écoulé (sans omettre ses autres travaux dans des domaines aussi variés que les mathématiques, bien sûr, mais aussi la bibliothéconomie, le droit du travail, la logique, et aussi sa contribution décisive à la montée sur le trône d’Angleterre de l’actuelle famille régnante).
L’intelligence est-elle la capacité à résoudre des problèmes ?
Qu’en pense Daniel Andler ? Voici :
« Ce que je soumets au lecteur, au stade présent, est une métaphore : considérer l’intelligence artificielle comme la projection de l’intelligence humaine sur le plan des problèmes. L’intelligence humaine, projetée sur ce plan, est un ensemble de capacités de résolution de problèmes, ensemble auquel peut se superposer, théoriquement du moins, l’intelligence artificielle, projection de l’ordinateur. »
« Nous allons voir maintenant que l’intelligence peut être caractérisée d’une autre manière, (1) comme ayant une fonction plus large que la résolution de problèmes ; (2) comme s’appliquant à certains systèmes, à savoir, outre les humains, les autres animaux ; (3) comme étant relative à la nature du système considéré, en un sens qui sera précisé, et qui interdit toute comparaison directe entre l’intelligence de systèmes différents. »
Au passage il « sauve » le test du QI :
« Le fameux quotient intellectuel, QI, ne faisant selon les rieurs que mesurer la capacité de passer des “tests d’intelligence”, qui n’ont bien sûr — selon eux — rien à voir avec l’“intelligence véritable”. Ils ont tort : cette capacité est un aspect de l’intelligence ; mais ils ont raison de penser qu’elle ne se confond pas avec l’intelligence. »
Tentative de définition de l’intelligence
En arrivant à la fin du livre, dont les derniers chapitres sont consacrés surtout aux intelligences naturelles, humaine ou animales, il me semble qu’il considère l’intelligence comme la qualité du comportement d’un agent placé dans une certaine situation, éventuellement changeante, à laquelle il s’adapte. Pour cette adaptation l’agent doit éventuellement résoudre certains problèmes, mais pas seulement, il est motivé par un désir ou par un besoin engendrés par ses interactions avec le monde qui l’entoure. Pour satisfaire ce désir ou ce besoin l’agent doit comprendre ce qui se passe dans le monde, recourir au raisonnement causal. « La capacité de raisonner concrètement sur les liens entre causes et effets est apparue à certains chercheurs comme une composante essentielle de l’intelligence. »
Il semble bien que les SIA disponibles ou imaginables soient éloignés de ces capacités : « Rappelons une fois encore que les compétences des SAI sont largement fondées sur l’induction, c’est-à-dire sur leur capacité à prédire l’avenir à partir de l’observation du passé. C’est extraordinairement utile dans nombre de cas, insuffisant dans d’autres, et franchement désastreux dans certains, aussi bien dans la vie ordinaire qu’aux moments décisifs. »
Ce qu’il y a de bien avec Daniel Andler, c’est qu’il réfute pas mal de prétentions des adeptes un peu trop enthousiastes de l’IA (« l’IA prométhéenne »), mais aussi certaines de celles des sceptiques. Pour lui, considérer l’IA comme une entreprise de résolution de multiples problèmes « n’a rien d’infamant, et ne devrait pas être inscrit au débit de l’entreprise historique de l’IA. Dans les premières discussions sur les chances de l’IA, la perspective que l’intelligence artificielle puisse se ramener au traitement algorithmique de cent mille cas particuliers — un couteau suisse à cent mille lames — était présentée comme un désastre : ce ne l’aurait été que pour le programme de recherche d’un Herbert Simon, dont l’hypothèse du système symbolique physique, dans le contexte d’une théorie générale de la rationalité, devait tenir lieu de théorie générale des systèmes intelligents. Ce pouvait aussi le sembler à une époque qui était presque infiniment éloignée des capacités de calcul d’aujourd’hui. On constate aujourd’hui que le changement quantitatif en la matière conduit à un changement qualitatif : on est passé de la théorie aux données, c’est-à-dire aux cas particuliers. [...] Et le deep learning illustre la victoire des cas particuliers sur la théorie : ses modèles tirent leur efficacité de la prise en considération de cas particuliers — les fameuses données — en quantité massive. »
Non-conclusion
Mon intention initiale était de rendre compte de ce livre : ainsi que je l’ai déjà confessé, il est beaucoup trop riche et beaucoup trop dense pour mes capacités de synthèse. J’espère seulement, par ces quelques fragments, vous avoir donné envie de le lire. À l’heure où tout un chacun se croit obligé de donner son point de vue sur l’IA, et moins il sait de quoi il s’agit plus l’avis est tranché, ce livre d’un auteur qui travaille sur le sujet depuis une trentaine d’années pose de bonnes questions, donne des réponses à celles qui en ont, signale celles qui n’en ont pas (du moins pour l’instant). Bref, c’est un livre intelligent que je vous recommande.