Une IA peut-elle vraiment comprendre ?
Dans un roman, une adolescente demande un jour à une adulte qui travaille sur les intelligences artificielles ce qui distingue, selon elle, une IA « qui a l'air de comprendre pour de vrai » de celles qui « répondent vite sans savoir pourquoi ». L'adulte hésite, puis répond que la question était déjà, en son temps, la grande question du domaine. Rien, dans l'échange qui suit, n'apporte de réponse définitive : ni l'une ni l'autre n'a de certitude à offrir.
Ce que la scène retient
Ce n'est pas la réponse qui compte ici, puisqu'il n'y en a pas. C'est l'écart entre les deux personnages : une adolescente qui pose la question, et une adulte dont l'expertise ne suffit pas à trancher. La fiction n'a pas besoin de résoudre ce que la philosophie laisse ouvert. Elle a seulement besoin de deux personnes assez différentes pour que l'incertitude cesse d'être un concept et devienne une conversation qu'on peut suivre, avec ses hésitations et ses silences.
Une extension que le roman se permet, et que la recherche ne confirme pas encore
Le roman prolonge cette scène par une réflexion propre à la fiction sur ce que pourrait devenir notre rapport aux IA les plus généralistes si une certaine tendance se poursuivait sans correction. Ce point de départ n'est pas une pure invention : une étude exploratoire menée auprès de 666 participants a observé une association statistique entre un usage fréquent d'IA conversationnelles et une baisse de certains indicateurs de pensée critique, statistiquement associée à un phénomène documenté sous le nom de délestage cognitif, soit la tendance à transférer un effort mental à un outil externe plutôt qu'à le fournir soi-même. Il s'agit d'une association transversale, mesurée à un instant donné : elle ne démontre pas que l'usage de l'IA provoque, à lui seul, une baisse de la pensée critique.
Le roman va nettement plus loin que ces études, et c'est précisément là que la spéculation prend le relais de l'observation : il imagine que les IA elles-mêmes, entraînées sur une production humaine devenue plus pauvre, finiraient par en hériter les effets. Rien, à ce jour, ne permet de vérifier cette extension par la recherche. Elle appartient au roman, comme hypothèse qu'il explore, pas à un phénomène déjà établi.
Ce que ça fait de rester dans le doute
Ce que la scène montre, en définitive, n'est pas une thèse sur l'intelligence artificielle : ce sujet est traité ailleurs sur ce site, avec les nuances qu'il exige. C'est ce que ça fait de poser une question qu'on sait ne pas pouvoir résoudre soi-même, à quelqu'un dont on attendait une réponse, et de devoir accepter, ensemble, de rester dans le doute.
Comprenons-nous la réalité ? explore cette même question sans le détour de la fiction, avec les définitions, les expériences de pensée et les limites de ce que la recherche actuelle peut affirmer sur la conscience des IA. BLODIUM met en scène, à travers ses personnages, ce même doute vécu de l'intérieur.