L’homme qui pensait que l’intelligence artificielle devait être intelligente
Je m’abonne pour 1€/semaine
Douglas Hofstadter - Null0/Flickr/CC « Tout dépend de ce que vous entendez par “intelligence artificielle”. » Douglas Hofstadter se tient dans une épicerie de Bloomington, dans l’Indiana, il choisit des ingrédients pour...
« Tout dépend de ce que vous entendez par “intelligence artificielle”. »
Douglas Hofstadter se tient dans une épicerie de Bloomington, dans l’Indiana, il choisit des ingrédients pour préparer une salade.
« Si, par intelligence artificielle, on désigne le projet de comprendre l’esprit, ou de créer quelque chose de similaire à l’esprit humain, alors on peut dire – on n’est pas obligé d’aller jusque-là –, mais on peut dire qu’il s’agit d’un des seuls travaux viables dans ce sens. »
Hofstadter prononce ces mots avec une désinvolture assumée, car il ne fait aucun doute pour lui que les projets les plus stimulants dans le domaine de l’intelligence artificielle moderne, ceux que le public considère comme autant de jalons vers un monde inspiré de la science-fiction – tels que Watson, le super-ordinateur d’IBM qui joue au Jeopardy ! , ou Siri, l’assistant vocal de l’iPhone – n’ont en réalité que bien peu à voir avec l’intelligence.
Des programmes informatiques qui pensent
L'intégralité de cette histoire vraie, signée James Somers, inédite en français, est disponible sur Ulyces, notre partenaire.
Ulyces est une maison d'édition numérique qui publie chaque jour des histoires vraies sélectionnées pour leur qualité littéraire et leur exigence journalistique (vous pouvez les acheter à l'unité ou vous abonner).
« L'homme qui rêvait de machines qui pensent » est une histoire traduite de l'anglais par Yvan Pandelé d'après l'article « The Man Who Would Teach Machines to Think », paru dans The Atlantic en octobre 2013.
Si vous aimez les portraits de scientifiques et d'inventeurs hors du commun, découvrez sur Ulyces « Le sculpteur de robot », « L'inconnue Perelman » ou « Comment ressusciter un mammouth ? ».
Depuis trente ans, le plus souvent dans une vieille maison sur le campus de l’université de l’Indiana, lui et ses étudiants de master ont pris les choses en main : ils s’emploient à essayer de comprendre le fonctionnement de notre pensée, en développant des programmes informatiques qui pensent.
L’hypothèse sous-jacente est simple : l’esprit est un logiciel insolite, et le meilleur moyen de déchiffrer un logiciel consiste à le développer soi-même. Les ordinateurs sont assez souples pour modéliser les étranges convolutions de notre pensée, tout en n’obéissant qu’à des instructions précises.
Si cette tentative est couronnée de succès, la victoire sera double : nous serons enfin parvenus à comprendre précisément la mécanique de notre esprit, et nous aurons fabriqué des machines intelligentes.
L’idée qui a changé la vie d’Hofstadter, comme il l’a plusieurs fois expliqué au fil des ans, lui est venue sur la route des vacances, alors qu’il était étudiant en physique des particules. Découragé par la tournure que prenait sa thèse à l’université d’Oregon, il se sentait « profondément désemparé » et avait décidé de plier bagages et de rouler vers l’Est, lors de cet été 1972, à travers les terres au volant de sa voiture – qu’il avait baptisée Quicksilver (« Vif-argent »).
Une preuve mathématique
Toutes les nuits, il installait sa tente à un nouvel emplacement, « parfois dans une forêt, parfois au bord d’un lac », et lisait à la lueur d’une lampe-torche. Il était libre de penser à ce qu’il voulait, et avait choisi d’orienter ses pensées sur la pensée elle-même.
Depuis le moment où, vers 14 ans, il avait découvert que sa petite sœur Molly avait « quelque chose de défectueux dans son cerveau » et ne pouvait accéder au langage (son trouble neurologique, probablement de naissance, n’a jamais été diagnostiqué), Hofstadter avait été pris d’une obsession discrète pour les relations entre l’esprit et la matière. Le père de la psychologie, William James, décrivait en 1890 ce problème comme « la chose la plus mystérieuse du monde » : comment la conscience peut-elle être physique ? Comment quelques livres de gélatine grise peuvent-elles donner naissance à nos pensées et à nos identités propres ?
Errant au volant de sa Mercury 1956, Hofstadter pensa avoir trouvé la réponse – elle résidait, entre tous les endroits possibles, au cœur d’une preuve mathématique. En 1931, le célèbre logicien d’origine autrichienne Kurt Gödel avait montré comment un système mathématique permettait d’établir des vérités non seulement sur les nombres, mais aussi sur le système lui-même. La conscience, pour Hofstadter, émerge à travers le même type de « boucle de rétroaction avec traversées de niveaux ».
Un premier livre et un Pulitzer
Il avait pris une après-midi pour donner forme à son idée dans une lettre adressée à un ami. Au bout de trente pages manuscrites, il avait renoncé à l’envoyer, préférant laisser les idées germer un moment.
Sept ans plus tard, elles avaient moins germé que métastasé, donnant lieu à un livre de 777 pages pesant 1,3 kilogramme intitulé « Gödel, Escher, Bach : Les Brins d’une guirlande éternelle », qui lui vaudrait d’obtenir le prix Pulitzer de l’essai en 1980, à seulement 35 ans et pour un premier ouvrage.
« GEB », comme on surnomma le livre, fit sensation. Son succès fut catalysé par Martin Gardner, célèbre chroniqueur du magazine Scientific American, qui décida, fait pour le moins inhabituel, de dédier l’ensemble de sa rubrique du numéro de juillet 1979 à ce seul ouvrage. Sa critique, dithyrambique, commençait ainsi :
« Tous les dix ans, un auteur inconnu sort un livre dont la profondeur, la clarté, la portée, l’esprit, la beauté et l’originalité sont tels qu’il est reconnu d’emblée comme un événement littéraire majeur. »
John Holland, qui fut le premier Américain titulaire d’un doctorat en informatique (à l’époque sous l’étiquette « sciences de la communication »), se remémore l’événement en ces termes :
« Dans mon entourage, la réaction générale s’apparentait à de l’émerveillement. »
Hofstadter semblait sur le point de laisser une marque indélébile dans la culture contemporaine. « GEB » n’était pas seulement un ouvrage influent, il portait en lui les folles promesses de l’avenir. Les gens le considéraient comme la bible de l’intelligence artificielle, cette discipline naissante à l’intersection de l’informatique, des sciences cognitives, des neurosciences et de la psychologie. La description par Hofstadter de programmes informatiques capables de faire preuve de créativité au lieu de se montrer seulement efficaces, sa feuille de route pour mettre au jour « les structures logicielles secrètes de notre esprit », ont propulsé une génération entière de jeunes étudiants enthousiastes dans le champ de l’IA.
Puis l’IA évolua et Hofstadter, qui n’approuvait pas cette évolution, disparut presque totalement.
Peu d’avancées en matière de défense
L’entrée en scène de « GEB » correspond à un tournant dans l’histoire de l’IA. Au début des années 80, le champ était en déclin : les financements destinés à la recherche fondamentale à long terme étaient en train de fondre, tandis que l’attention se portait vers la conception de systèmes pratiques. La recherche ambitieuse en IA avait acquis une mauvaise réputation. Les promesses candides et irréalistes étaient devenues la norme, à commencer par la conférence de Dartmouth de l’été 1956, événement fondateur de la discipline.
Les organisateurs – au nombre desquels John McCarthy, l’inventeur du terme intelligence artificielle – déclarèrent que « si un groupe de scientifiques choisis avec précaution y travaillait durant tout un été », il réaliserait d’importants progrès en vue de créer des machines capables d’utiliser le langage, de former des concepts, de s’améliorer ou de résoudre des problèmes pour le moment réservés aux humains. McCarthy reconnut plus tard leur échec : « l’IA est plus difficile que nous ne pensions. »
Dans un contexte géopolitique de plus en plus tendu (lié à la guerre du Vietnam), l’un des principaux bailleurs de fond de la recherche en IA, l’Agence pour les projets de recherche avancée (Arpa) du département de la Défense, américain commença à se montrer plus sélective. En 1969, le Congrès vota l’amendement Mansfield, qui restreignait le soutien financier de la Défense aux seuls projets « en relation directe et manifeste avec une opération ou un objectif militaires ».
En 1972, l’Arpa devint la Darpa, avec un D pour « Défense », de façon à refléter ses nouvelles priorités de financement. Au milieu des années 70, l’agence s’interrogeait : quelles avancées concrètes en matière de défense nationale avait-elle obtenu, au prix de dix années et 50 millions de dollars investis dans la recherche préliminaire ?
L’impératif de machines performantes
Au début des années 80, la pression devint suffisante pour que l’IA commence à mûrir – ou muter, selon les points de vue. Née comme une tentative de réponse positive à la fameuse question d’Alan Turing « Les machines peuvent-elles penser ? », elle amorçait sa transformation en une sous-discipline de l’ingénierie logicielle, mue par une logique de recherche appliquée.
De plus en plus, le travail se faisait dans une perspective de court terme, avec des acheteurs potentiels à la clé. Les militaires privilégiaient des projets tels que des systèmes de commandement et de contrôle, un logiciel d’assistance embarqué pour les pilotes de chasse, ou des programmes destinés à identifier automatiquement les éléments stratégiques (routes, ponts, réservoirs, silos) d’une photographie aérienne.
Dans le secteur privé, la mode était aux « systèmes experts », des produits de niche comme des systèmes de sélection de pieux, destinés à aider les architectes à choisir les matériaux pour des fondations, ou le programme d’expertise automatisée du câble, destiné à traiter et synthétiser les rapports de maintenance du réseau téléphonique.
Dans « GEB », Hofstadter défend une conception de l’IA qui se destine moins à résoudre intelligemment les problèmes humains qu’à comprendre l’intelligence humaine – et ce au moment précis où une telle approche, considérée comme peu fructueuse, était en voie d’abandon. Son étoile déclina rapidement. Il s’éloigna progressivement d’un courant majoritaire soumis à l’impératif de fabriquer des machines performantes, sans trop d’égards pour les questions de vraisemblance psychologique.
Prenez Deep Blue, le supercalculateur d’IBM qui a surpassé le grand maître Garry Kasparov aux échecs. Sa victoire est fondée sur la force brute. A son tour de jeu, Deep Blue calcule les éventuelles ripostes de son adversaire à chacun de ses coups potentiels, puis évalue ses propres ripostes, et ainsi de suite sur au moins six niveaux de prévision.
A l’aide d’une fonction d’évaluation efficace, il calcule ensuite un score associé à chaque position, puis choisit de jouer le coup qui conduit au meilleur score. C’est donc la puissance de calcul seule qui a permis à Deep Blue de vaincre les meilleurs joueurs humains de la planète. Il pouvait évaluer jusqu’à 330 millions de positions par seconde avant de prendre une décision, quand Kasparov devait s’en tenir à quelques dizaines.
Pour Hofstadter, une « supercherie »
Mais pour Hofstadter, à quoi bon accomplir une tâche s’il n’y a aucun éclairage à la clef ?
« D’accord, Deep Blue joue très bien aux échecs – et alors ? Cela nous apprend-il quoi que ce soit sur la façon dont nous jouons aux échecs ? Non. Cela nous dit-il comment Kasparov appréhende et analyse une position de jeu ? »
Une variété d’IA, aussi impressionnante soit-elle, qui n’a pas pour ambition de répondre à de telles questions n’est de son point de vue qu’une distraction. Devenu un acteur de la discipline, Hofstadter a presque aussitôt pris ses distances avec elle :
« En tant que chercheur néophyte en IA, il était clair que je ne voulais pas prendre part à cette supercherie. C’était une évidence : faire passer le comportement de programmes fantaisistes pour de l’intelligence alors que ça n’a rien à voir, très peu pour moi. J’ignore pourquoi il n’y a pas plus de gens dans mon cas. »
Une réponse possible réside dans le fait qu’entre le début des années 80 et la fin de la décennie, le marché de l’IA est passé de quelques millions de dollars à plusieurs milliards. Après la victoire de Deep Blue en 1997, la valeur boursière d’IBM a grimpé de 18 milliards de dollars. A mesure que l’IA se transformait en une morne discipline d’ingénierie, ses accomplissements sont allés croissant.
L’âge d’or de l’intelligence artificielle
Aujourd’hui, sur la base de techniques n’ayant rien à voir avec la pensée humaine, l’IA semble connaître une sorte d’âge d’or. Elle a envahi l’industrie lourde, les transports et la finance. On la retrouve derrière beaucoup des fonctions clefs de Google, les recommandations de films de Netflix, Watson, Siri, les drones autonomes, ou encore la voiture auto-pilotée.
« La quête du “vol artificiel” a été couronnée de succès quand les frères Wright et les autres cessèrent d’imiter les oiseaux et commencèrent… à comprendre l’aérodynamique », écrivent Stuart Russell et Peter Norvig dans leur manuel de référence, « Intelligence artificielle ». Les recherches en IA ont commencé à décoller à partir du moment où le modèle humain a été abandonné, et du fait de ce changement de cap. C’est la force de l’analogie : si les avions ne battent pas des ailes, pourquoi les ordinateurs devraient-ils penser ?
L’argument est convaincant. Mais il perd de son acuité quand on considère nos besoins : un Google qui saurait, à l’instar d’un autre être humain, ce que vous avez en tête quand vous formulez une requête. « Quel est la valeur marchande combinée de tous les moteurs de recherche du Web ? » commente Russell, professeur d’informatique à Berkeley :
« Probablement 400 ou 500 milliards de dollars. Des systèmes capables d’extraire toutes ces informations et de les comprendre vaudraient dix fois plus. »
Aller sur la Lune en grimpant à un arbre
C’est donc la question à mille milliards : l’approche qui sous-tend l’IA contemporaine, moins fondée sur l’esprit que sur les données et l’ingénierie de masse, nous conduit-elle à bon port ? Comment mettre au point un moteur de recherche capable de discernement quand on ne sait même pas comment nous comprenons les choses ?
Comme Russell et Norvig le reconnaissent poliment dans le dernier chapitre de leur ouvrage, le tournant pratique de l’IA n’est pas sans évoquer cet homme qui tente d’aller sur la Lune en grimpant à un arbre :
« Jusqu’ici, on peut noter une progression régulière. »
Considérez la difficulté qu’ont toujours les ordinateurs actuels à reconnaître une simple lettre A écrite à la main. Cette tâche est si ardue qu’elle sert de base aux « Captcha » (de l’anglais « completely automated public Turing test to tell computers and humans apart », « test de Turing entièrement automatisé pour différencier les ordinateurs et les humains »), ces applications qui requièrent de déchiffrer du texte déformé et d’en recopier les caractères afin, par exemple, de pouvoir s’inscrire sur un site web.
Pour Hofstadter, il n’y a là rien de surprenant. Savoir ce que tous les A ont en commun, explique-t-il dans un essai de 1982, nécessite de « comprendre la nature fluide des catégories mentales ». Une aptitude qui est au cœur de l’intelligence humaine.
« Connaître, c’est reconnaître », aime-t-il à dire. Pour Hofstadter, l’acte cognitif fondamental consiste à « voir comme » : nous voyons des lignes comme « un A », des bouts de bois comme « une table », une réunion comme « une situation où le roi est nu », un ami qui boude comme « un enfantillage », un style vestimentaire comme « un look de hipster », et ainsi de suite, de manière incessante. C’est cela, comprendre. Mais comment cela fonctionne-t-il ? Depuis trente ans, Hofstadter et ses étudiants essaient de résoudre cette énigme, en construisant des « modèles informatiques des mécanismes fondamentaux de la pensée ».
L’analogie est au cœur de la pensée
« A tous moments, nous faisons face à un nombre infini de situations qui se recoupent et s’entremêlent », écrit Hofstadter dans « L’Analogie, cœur de la pensée » (éd. Odile Jacob, 2013) son dernier ouvrage écrit en collaboration avec Emmanuel Sander [chercheur français en psychologie cognitive, ndt].
C’est notre rôle, en tant qu’organismes vivants, de créer du sens à partir de ce chaos. Nous nous en acquittons lorsque les concepts appropriés nous viennent à l’esprit, ce qui se produit automatiquement et en permanence. Grâce à l’analogie. Dans ce livre orné de A en couverture, Hofstadter soutient que l’analogie est au cœur de la pensée, qu’elle représente l’alpha et l’oméga de notre vie mentale quotidienne.
« Penchez-vous sur vos conversations. Vous serez surpris de constater qu’il s’agit d’un procédé de fabrication d’analogies. »
Quelqu’un mentionne quelque chose, ce qui vous rappelle autre chose ; vous intervenez à votre tour, ce qui évoque autre chose à votre interlocuteur – voilà ce qu’est une conversation. Impossible de faire plus simple. Mais chaque étape, affirme Hofstadter, correspond à une analogie, un saut mental si étonnamment complexe qu’il s’agit d’un vrai miracle computationnel. D’une manière ou d’une autre, notre cerveau est capable de faire abstraction des détails non pertinents pour extraire l’idée générale, « le squelette essentiel » d’un énoncé, et puiser l’histoire ou le commentaire le plus approprié dans son propre répertoire d’idées et d’expériences.
« Faites attention aux phrases innocentes du genre : “Ah oui, il m’est arrivé exactement la même chose !” » écrit Hofstadter. » Sous leurs airs innocents se cache tout le mystère de l’esprit humain. »
Qu’est-ce que penser veut dire ?
Dans les années qui ont suivi la sortie de « GEB », Hofstadter et l’IA ont continué leur route séparément. Aujourd’hui, le nom d’Hofstadter ne se trouve nulle part dans les mille pages du manuel « Intelligence artificielle » de Russel et Norvig. Ses collègues parlent de lui au passé. Les nouveaux admirateurs de « GEB », quand ils découvrent la date de publication du livre, sont surpris d’apprendre que son auteur est toujours en vie.
Bien sûr, pour Hofstadter, l’histoire ressemble plutôt à ça : au moment où tous les chercheurs en IA se sont mis à développer des produits, son équipe et lui se sont attaqués au vrai problème, dans l’ombre – « patiemment, systématiquement, brillamment », ainsi que l’a écrit son ami, le philosophe Daniel Dennett. « Très peu de gens s’intéressent réellement à la façon dont l’intelligence humaine fonctionne », déplore Hofstadter. « C’est la question qui nous intéresse : “Qu’est-ce que penser veut dire ?” Et nous ne nous en laissons pas détourner. »
« Qui sait ? » poursuit-il. « Un jour peut-être, les gens diront : “Hofstadter a déjà dit et fait ce que nous sommes tout juste en train de découvrir.” »
Voilà ce qui ressemble à la tentative de s’auto-réconforter de celui qui a perdu la partie. Mais Hofstadter a le genre de personnalité qui invite à se demander si les meilleures idées en matière d’intelligence artificielle – « l’intelligence artificielle authentique », comme il dit en s’excusant pour l’oxymore – ne seraient pas en train de jaunir dans un carton à Bloomington.
Découvrez la suite de l’histoire (payante) sur Ulyces.
