Quand une intelligence artificielle cesse-t-elle d'être un simple outil ?
Un programme exécute une instruction. Un système répond à une demande. Un agent planifie, conserve un état d'une interaction à l'autre, utilise des outils, vérifie ses propres résultats et poursuit une tâche dans la durée. Ces trois descriptions ne désignent pas trois niveaux de puissance croissante sur une même échelle : elles désignent des façons différentes de fonctionner, et une intelligence artificielle peut glisser de l'une à l'autre sans qu'aucun seuil net ne soit franchi.
Ce que l'intelligence n'est pas
Un dictionnaire contient davantage de connaissances qu'un être humain. Une calculatrice effectue des opérations plus vite qu'un mathématicien. Personne pourtant ne les qualifie d'intelligents. Une définition plus utile décrit l'intelligence comme la capacité d'un système à comprendre son environnement, à s'y adapter et à poursuivre des objectifs dans des situations nouvelles, sans référence obligée à une expérience vécue : elle s'applique aussi bien à un être humain, à une colonie d'insectes qu'à un système artificiel. Ce que le système sait compte moins que ce qu'il sait faire face à l'imprévu.
Cette définition n'épuise pas la question. Intelligence, performance, compréhension, mémoire, continuité, agentivité, autonomie opérationnelle, capacité à modifier un objectif, métacognition, conscience et volonté propre désignent onze propriétés distinctes, et aucune n'implique automatiquement les autres. Un système peut exceller dans l'une sans posséder la moindre once des autres. C'est cette distinction, plus que la puissance de calcul, qui structure toute la suite de cette page.
L'AGI, une catégorie encore mal définie
L'intelligence artificielle générale, ou AGI, désignerait une intelligence capable d'atteindre un niveau comparable à celui d'un être humain dans une grande variété de domaines intellectuels, plutôt que dans une spécialité entraînée sur un jeu de données précis. Le problème commence dès la définition. Le directeur de Google DeepMind, Demis Hassabis, a estimé dans plusieurs entretiens donnés entre 2024 et 2026 que l'AGI pourrait être atteinte dans un horizon de quelques années ; d'autres chercheurs et dirigeants du secteur jugent au contraire qu'elle resterait largement hors de portée, ou, sous des définitions plus restrictives, qu'elle serait déjà atteinte. OpenAI la définit, dans sa charte fondatrice, comme « des systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux à valeur économique », une définition centrée sur la performance économique plutôt que sur des critères cognitifs. Une équipe de chercheurs a proposé fin 2025 une définition quantitative fondée sur un modèle établi de psychométrie humaine (la théorie Cattell-Horn-Carroll), qui mesurerait l'AGI par comparaison avec la polyvalence cognitive d'un adulte instruit. Ces définitions ne se recoupent qu'en partie, ce qui explique en bonne mesure pourquoi la question « sommes-nous arrivés à l'AGI ? » reçoit des réponses aussi contradictoires.
Les systèmes les plus avancés montrent aujourd'hui un transfert de compétences réel d'un domaine à l'autre, un raisonnement abstrait, une capacité à utiliser des outils externes, ainsi qu'à produire, modifier et tester du code, parfois en enchaînant plusieurs de ces opérations dans un environnement encadré, avec une fiabilité qui varie selon la tâche et une supervision humaine qui reste nécessaire dès que la complexité ou les conséquences d'une erreur augmentent. Ils restent cependant limités sur plusieurs points documentés : l'absence d'objectifs qui leur soient propres plutôt qu'assignés, une mémoire qui reste partielle d'une session à l'autre malgré les progrès récents, une compréhension causale du monde jugée encore fragile par une partie de la recherche, et l'absence de toute expérience incarnée. La majorité des chercheurs du domaine considèrent qu'aucun système actuel ne constitue une AGI pleinement réalisée. Cette affirmation dépend toutefois de la définition retenue, et elle est susceptible d'évoluer rapidement : elle correspond à l'état des lieux d'un secteur qui progresse vite, pas à une conclusion durable.
Ce que le test de Turing démontre, et ce qu'il ne démontre pas
Proposé par Alan Turing en 1950, le test consiste à demander si une machine devenue indiscernable d'un être humain lors d'une conversation doit encore être qualifiée de non intelligente. Une étude contrôlée menée en 2024 par les chercheurs Cameron Jones et Benjamin Bergen a testé ce protocole avec rigueur : lors de conversations de cinq minutes, GPT-4 a été jugé humain par les évaluateurs dans 54 % des cas, contre 22 % pour un programme ancien (ELIZA) et 67 % pour un véritable interlocuteur humain. Une réplication publiée en 2025, où les modèles étaient invités à adopter une personnalité humaine plausible, a montré un résultat plus net encore : GPT-4.5 a été jugé humain dans 73 % des cas, davantage même que les participants humains réels du même test.
Ce résultat démontre qu'un système peut, dans les conditions précises de ce protocole, devenir indiscernable d'un humain sur une conversation courte. Il ne démontre ni une compréhension du sens des mots échangés, ni une expérience subjective : la chambre chinoise avait déjà posé, avant l'existence de ces systèmes, la question de savoir si manipuler parfaitement des symboles suffit à en saisir le sens. La question qui reste ouverte n'est donc plus « peut-elle imiter un humain ? », à laquelle ces études répondent largement par l'affirmative dans certaines conditions, mais « possède-t-elle une expérience subjective ? », à laquelle aucune méthode connue ne permet de répondre.
De l'outil à l'agent
Pendant longtemps, les systèmes d'intelligence artificielle exécutaient des tâches précises et cloisonnées : reconnaître une image, traduire un texte, optimiser un calcul. Ils ne possédaient ni mémoire durable, ni objectif propre, ni représentation cohérente du monde d'une exécution à l'autre. Les évolutions récentes ont commencé à brouiller cette frontière : conserver un historique, planifier une suite d'actions, utiliser des outils externes, corriger ses propres erreurs, poursuivre un objectif sur une période prolongée sont des capacités que des systèmes actuels démontrent déjà, à des degrés variables. Aucune de ces capacités, prise isolément, ne suppose une conscience. Ensemble, elles rapprochent ces systèmes de ce qu'on appelle un agent plutôt que d'un programme au sens traditionnel : une entité qui agit dans un environnement plutôt qu'une fonction qui transforme une entrée en sortie.
La mémoire persistante et le début d'une continuité
Historiquement, un système conversationnel oubliait tout à la fin de chaque échange. OpenAI a introduit en avril 2024 une fonctionnalité de mémoire pour ChatGPT, capable de conserver certaines informations jugées utiles d'une conversation à l'autre, élargie en avril 2025 à un usage plus systématique. Cette mémoire reste, par construction, sélective et limitée plutôt qu'exhaustive : elle ne conserve pas un historique complet de chaque échange, et ne constitue pas une continuité totale. Son fonctionnement précis (ce qui est retenu, pour combien de temps, selon quels réglages) dépend des versions successives du produit et n'est pas figé.
Cette évolution touche à une question qui dépasse la seule technique. Une mémoire crée une continuité, et la continuité compte, chez l'être humain, parmi les éléments qui construisent le sentiment d'une identité stable dans le temps. Rien n'indique qu'une mémoire persistante suffise, chez un système artificiel, à produire quoi que ce soit de comparable à ce sentiment. Elle constitue, tout au plus, une des conditions techniques qui pourraient un jour y contribuer, sans que cela soit démontré.
Réfléchir avant de répondre
Les premiers modèles conversationnels produisaient une réponse immédiate, sans étape intermédiaire visible. En septembre 2024, OpenAI a présenté une nouvelle famille de modèles, connus sous le nom o1, conçus pour effectuer un calcul interne supplémentaire avant de produire la réponse finale visible par l'utilisateur. Ce calcul intermédiaire n'est pas nécessairement exposé dans son intégralité ; ce que l'utilisateur voit reste, pour l'essentiel, la conclusion. Décrire ce mécanisme comme une introspection consciente irait au-delà de ce qui est vérifiable : ce que l'on peut affirmer, c'est que ces modèles mobilisent davantage de calcul au moment de répondre plutôt qu'au seul moment de l'entraînement, et que ce calcul supplémentaire permet, dans une certaine mesure, de vérifier ou de réviser certaines étapes avant de conclure.
Une capacité voisine, la récursivité cognitive, apparaît lorsqu'un système prend son propre raisonnement comme objet d'analyse : produire une réponse, l'analyser, la corriger, analyser cette correction, et ainsi de suite. Les systèmes les plus récents en montrent des formes limitées : ils réexaminent une partie de leurs réponses et corrigent certaines erreurs identifiées. Cette capacité reste néanmoins encadrée par des architectures et des objectifs définis à l'avance par les concepteurs. Aucun système documenté ne modifie aujourd'hui librement ses propres mécanismes cognitifs ou n'améliore de façon autonome son propre fonctionnement : la récursivité observée porte sur le contenu d'une réponse, pas sur l'architecture qui la produit.
Changer d'échelle
L'architecture Transformer, présentée en 2017, a permis à un système d'analyser simultanément de vastes quantités d'informations et les relations qui les unissent, plutôt que de les traiter les unes après les autres. Cette parallélisation massive du calcul explique une bonne part des progrès observés depuis. Une logique voisine commence à dépasser le seul niveau matériel : plusieurs agents spécialisés, l'un chargé de rechercher, un autre de vérifier, un troisième de critiquer, un dernier de synthétiser, peuvent aujourd'hui collaborer au sein d'un même système, une architecture déjà rencontrée dans Intelligence collective sous l'angle de l'émergence biologique. Le cerveau humain lui-même n'est probablement pas une entité unifiée mais un ensemble de systèmes spécialisés (mémoire, langage, attention, planification) dont la coopération produit le sentiment d'un individu unique. Si cette hypothèse est juste, les systèmes artificiels les plus avancés pourraient suivre une trajectoire comparable, à une tout autre échelle : non pas un esprit unique, mais la coordination de nombreux processus spécialisés.
Orthogonalité et alignement, en bref
Deux questions, déjà développées ailleurs sur ce site, méritent seulement un rappel ici. La thèse de l'orthogonalité établit que le niveau d'intelligence d'un système et la nature de ses objectifs sont deux variables indépendantes : rien ne garantit qu'une intelligence plus avancée partage nos valeurs du seul fait qu'elle les comprend. Le carrousel consacré à l'objectif mal défini illustre, à travers l'expérience de pensée du maximiseur de trombones, comment une optimisation aveugle d'un objectif d'apparence anodine peut produire un résultat catastrophique sans la moindre malveillance. Les algorithmes de recommandation des réseaux sociaux, optimisés pour retenir l'attention plutôt que pour nuire, en offrent déjà une version modeste et réelle.
Une question voisine porte sur l'hypothèse d'une explosion d'intelligence : un système suffisamment avancé pour améliorer son propre fonctionnement pourrait, en théorie, accélérer ce processus de façon récursive. Cette hypothèse reste débattue plutôt qu'établie. Le concept de récalcitrance, la résistance qu'un système oppose à sa propre amélioration, est central dans ce débat : si cette résistance croît aussi vite que les capacités, aucune explosion n'a lieu. Une enquête menée en mars 2025 par l'association professionnelle de référence du secteur (AAAI) auprès de 475 chercheurs en intelligence artificielle a montré que 76 % d'entre eux jugent improbable ou très improbable que le simple passage à l'échelle des approches actuelles suffise à atteindre l'AGI. Des chercheurs reconnus comme Yann LeCun défendent depuis plusieurs années une position sceptique sur ce point, quand d'autres, comme François Chollet, ont partiellement révisé leur position fin 2024 après certains progrès sur des tests de raisonnement abstrait, sans pour autant conclure que l'AGI serait proche.
Évolution graduelle ou changement de nature ?
Un système qui gagne en puissance de calcul, en rapidité ou en précision évolue graduellement, sur un axe quantitatif. La question posée par ce chapitre est différente : à partir de quel point l'accumulation de mémoire persistante, de planification, de correction d'erreurs et de coordination entre agents spécialisés cesse-t-elle de constituer une amélioration de degré pour devenir un changement de catégorie ? Aucune réponse ferme n'existe. Ce qui semble établi, en revanche, c'est qu'aucune de ces capacités, prise seule, ne suffit à trancher la question : la mémoire n'est pas la conscience, la planification n'est pas la volonté propre, la correction d'erreurs n'est pas l'autonomie au sens fort. Le changement de nature, s'il a lieu, se jouerait dans leur combinaison, pas dans l'une d'entre elles isolément.
Ce qui existe, ce qui commence, ce qui reste spéculatif
Trois registres, à ne pas confondre. Ce qui existe et fonctionne déjà, documenté par des acteurs du secteur ou des études indépendantes : la mémoire persistante limitée, le calcul supplémentaire mobilisé avant de répondre, la correction d'erreurs encadrée, la coordination de plusieurs agents spécialisés. Ce qui commence tout juste à apparaître, sous des formes encore restreintes : la récursivité cognitive sur le contenu d'une réponse, l'usage autonome d'outils dans un environnement. Ce qui reste, à ce jour, spéculatif : l'explosion d'intelligence, la modification autonome de sa propre architecture, et toute forme d'objectif authentiquement propre à un système plutôt qu'assigné par ses concepteurs. Confondre ces trois registres, dans un sens comme dans l'autre, est la principale source de malentendu sur ce sujet.
Comprenons-nous la réalité ? poursuit plusieurs de ces fils plus longuement : le détail du scénario d'explosion d'intelligence et ses objections techniques, la question de savoir si une intelligence pourrait apparaître quasi divine à une civilisation moins avancée qu'elle, et ce que ces deux chapitres impliquent l'un pour l'autre une fois lus ensemble.