Il n’y a pas d’ « intelligence artificielle » : parlons d’automates numériques pour rompre avec les idéologies publicitaires! Anne Alombert (Université Paris 8) et Giuseppe Longo (ENS-CNRS) Publié le 11 juillet 2023 dans L’Humanité : https://www.humanite.fr/en-debat/il-n-y-pas-d-intelligence-artificielle-parlons-d-automates- numeriques-pour-rompre-avec-les-ideologies-publicitaires-802627 Depuis le lancement de ChatGPT sur le marché, les débats autour de l’intelligence artificielle n’ont cessé de se multiplier. Il s’agit la plupart du temps de s’interroger sur les avantages et les inconvénients des IA génératives en plein développement, qui permettent de produire toutes sortes de textes ou d’images à la demande, grâce à des calculs probabilistes effectués par des algorithmes sur des quantités massives de données préalablement collectées, stockées et indexées. Il existe de nombreux autres dispositifs issus de la nouvelle IA connexionniste (basée sur les « réseaux de neurones » formels, infiniment plus efficace de l’IA logico-déductive classique), mais peu d’entr’eux ont suscité autant de discussions, alors que ces nouvelles méthodes numériques sont souvent bien plus remarquables, à la fois du point de vue de leur fonctionnement et du point de vue de leurs applications. Tous ces systèmes numériques constituent des dispositifs de calculs, qui, grâce, à l’indexation (humaine) de quantités massives de données et au moyen de certaines opérations mathématiques très spécifiques (ondelettes, renormalisation, méthodes d’optimum, largement empruntées à la physique mathématiques, techniques de filtrage et convolution en cascade, algorithmes de rétro- propagation qui permettent de constituer des invariants à partir des images, des sons, de la langue...), produisent des performances remarquables dans des domaines très différents. On parvient aujourd’hui à « générer » des contenus (textuels ou imagés) ressemblent à des contenus dits « humains » - ce qui n’a en soi rien d’étonnant, puisque ce sont des contenus « humains » qui constituent les données pour l’assemblage statistique. Mais aussi efficientes soient-elles, ces nouvelles machines numériques n’apprennent pas et n’inventent pas : contrairement à ce que le vocable d’ « intelligence artificielle » pourrait laisser penser, elles n’ont rien d’intelligent. L’intelligence, en effet, ne se limite pas à la faculté de calculer : « un chose est le calcul ou le traitement des données (...), autre chose est l'invention », écrivait le philosophe et scientifique Georges Canguilhem. Il soulignait ainsi l’impossibilité de générer du nouveau sur la base des seules probabilités. L’imprédictible n’est pas nécessairement « créatif » : un lancement de dés est imprédictible, mais il n’invente rien. La production de nouveauté suppose la mémoire et les attentes d’un être vivant à qui quelque chose manque : « pas d'invention sans conscience d'un vide logique, sans tension vers un possible, sans risque de se tromper. », écrivait encore Canguilhem.  « Inventer, c'est créer de l'information, perturber des habitudes de pensée, l'état stationnaire d'un savoir » : c’est en s’appropriant un milieu technique et symbolique (la langue, la peinture, la musique, les mathématiques) et en le faisant bifurquer vers de nouveaux horizons qu’un individu ou un groupe peuvent inventer, et c’est en ce sens, toujours psychique et collectif, que l’on peut parler d’intelligence. Pas d’intelligence ni d’invention sans visée ou sans intentionnalité : pas d’intelligence sans mouvement pour (se) dépasser, pour (s’) excéder, pour (se) transformer. Penser, c’est ‘‘imaginer des nouvelles configurations de sens’’, comme quand les humains ont interpolé les étoiles par des lignes en inventant les constellations qui ont donné un sens, mythique, pratique, symbolique, à l’insensé de ces points lumineux. A l’inverse, les machines algorithmiques comme ChatGPT sont conçues pour générer des suites de mots ou des assemblages d’images probables par rapport au passé, c’est-à-dire, pour réitérer à l’identique des « patterns » ou des invariants repérés dans les quantités massives de données : il a fallu introduire de l’aléatoire dans ChatGPT pour que le système génère des contenus à chaque fois différents – cela permet de le faire paraître plus créatif, pour mieux leurrer les utilisateurs. Sans l’ajout de cette fonction supplémentaire, les réponses, déjà très uniformisées, auraient été identiques les unes aux autres, même pour une question longue et complexe, puisqu’elles sont basées sur le calcul de moyennes et, pour la même raison, elles ne peuvent que renforcer les biais dominants. Pourquoi donc parler d’intelligence artificielle pour désigner de tels systèmes ? En 1980 déjà, Canguilhem relevait « l'abus d'expressions non pertinentes telles que "cerveau conscient", "machine consciente", "cerveau artificiel" ou "intelligence artificielle" », qui avaient eu une fonction heuristique dans le champ technoscientifique, mais qui s’étaient depuis convertie en « machine de propagande idéologique ». Même d’après John McCarthy, l’un des pionniers de l’IA, la notion d’intelligence artificielle est problématique, puisqu’elle a été choisie dans l’unique but d’éviter un débat avec la cybernétique. Aujourd’hui, elle se voit déconstruite par de nombreux spécialistes. Parlons donc d’automates computationnels ou d’automates numériques. Prenons un autre exemple, la notion d’« apprentissage profond » (« deep learning »). Cette notion évoque tout d’abord l’apprentissage chez l’animal (et l’homme). Or, le vivant apprend seulement si ce qu’il apprend fait sens pour lui, pour la nourriture, la sexualité, l’affection, le partage dans un groupe... : on peut forcer un animal ou un enfant à apprendre sans sens, par la violence ou la récompense, mais c’est difficile. Apprendre une poésie totalement insensée par coeur est une torture – comme forcer un animal à agir sans que cela ait un sens pour lui, dans un cirque par exemple. On sait aujourd’hui que même les « déformations » du cortex visuel primaire, sont modulées par le sens : même au tout premier niveau de la perception visuelle, le fait de donner un sens ou un nom à ce qui est perçu modifie les traces neuronales du « voir » et rend possible le souvenir. En ce sens, le stockage numérique sur des supports électroniques ne constitue évidemment pas de l’apprentissage, même quand il est « révisable ». En effet, par les méthodes computationnelles précédemment mentionnées, il est possible de modifier le stockage numérique dynamiquement dans le but de cerner les invariants de certains contenus (images, sons, langages) – une performance technique remarquable. Mais il s’agit toujours de stockage, et non d’apprentissage ! On dit aussi que ce stockage numérique est « profond » , en raison de l’idée audacieuse, développée dans les années 80 et 90, qui consiste à mettre les réseaux bi-dimensionnels des neurones formels sur plusieurs couches : on est passé du ‘‘plat’’ des deux dimensions à la ‘‘profondeur’’ des trois dimensions. Il s’agit d’un changement techniquement important, mais la notion d’« apprentissage profond » évoque la profondeur d’une pensée, du Requiem de Mozart… Dans ce contexte, l’expression est abusive et trompeuse. Cessons de parler d’ « apprentissage profond », et appelons les choses par leur nom : il s’agit de stockage numérique révisable ! Cette transformation du langage est loin d’être superficielle : les mots que nous employons façonnent la manière dont nous pensons. Or, si les machines numériques n’ont cessé d’évoluer durant les cinquante dernières années, force est de constater que la machine idéologique, elle, n’a pas beaucoup changé : les acteurs de la Silicon Valley parlent encore d’« esprits numériques » pendant que certains intellectuels se permettent d’affirmer que « ce qui ne peut être calculé ne peut pas être pensé », comme si nous ne pouvions rien imaginer au-delà des prédictions algorithmiques des GAFAM. Parler d’un esprit machinique revient en fait à vouloir mécaniser la pensée, c’est-à- dire, à vouloir réduire les conduites singulières et signifiantes à des comportements programmables, donc contrôlables et remplaçables. En effet, ces métaphores anthropomorphiques, d’apparence innocentes et sympathiques, ont des effets performatifs. Une fois convaincu que son comportement peut être programmé, un individu se laissera d’autant mieux contrôler. Une fois convaincu que ses savoirs peuvent être standardisés, il se laissera d’autant mieux remplacer. Pour envisager les enjeux anthropologiques et politiques du bouleversement technologique actuel, veillons donc à déconstruire la notion d’intelligence artificielle et les analogies entre machines et organismes ou entre cerveaux et ordinateurs qu’elle charrie avec elle. Lesdites intelligences artificielles génératives sont des automates numériques ou computationnels, qui peuvent offrir toutes sortes de possibilités nouvelles dans les sociétés contemporaines, à condition de préserver et d’intensifier nos capacités à désautomatiser – à interpréter, à décider, à imaginer et à inventer. C’est- à-dire, à condition de nous laisser la possibilité d’ouvrir un sens et un avenir partagés, qui ne peuvent être que le fruit de l’intelligence collective et du débat argumenté. Pour en savoir plus : . Anne Alombert, Schizophrénie numérique. La crise de l'esprit à l'ère des nouvelles technologies, Paris, Allia, 2023. . Giuseppe Longo, Le cauchemar de Prométhée : les sciences et leurs limites, Paris, PUF, 2023 (préface de Jean Lassègue et postface d’Alain Supiot).