Sciences et Avenir : Quel est le message principal de la première encyclique du pape Léon XIV, "Magnifica Humanitas" (« Magnifique humanité »), sur « la protection de la personne humaine à l’ère de l’intelligence artificielle » ?
Mathieu Guillermin : Si je devais n’en retenir qu’un seul, ce serait celui-ci : les technologies ne sont jamais uniquement des outils. Ce ne sont pas des objets que l’on sortirait un jour du placard pour en faire, selon les cas, de bons ou de mauvais usages. Elles constituent, aussi, un milieu dans lequel nous vivons. Les technologies se nourrissent de la culture dont elles émergent, puis transforment cette culture en retour. Nous les forgeons, et elles nous forgent à leur tour ! C’est, à mes yeux, le cœur de cette encyclique : elle nous invite à prendre conscience de la culture dans laquelle nous faisons croître l’intelligence artificielle, mais aussi de celle que l’IA va nourrir en réaction.
Dans le débat mondial sur l’IA, on parle beaucoup de régulation, d’IA de confiance, d’IA au service de l’humain. Mais on ne dit pas toujours ce que cela signifie vraiment. Or l’encyclique de Léon XIV affirme que nous avons la responsabilité de construire la culture dans laquelle l’IA va se développer. C’est un message fort, parce qu’il déplace la discussion. Il ne s’agit pas seulement de corriger les effets négatifs de l’IA après coup, ni de mettre quelques garde-fous autour de technologies déjà lancées. Il faut interroger en amont la vision de l’humain, de l’économie et de la société que ces technologies embarquent.
Mathieu Guillermin est physicien et philosophe des sciences à l'université catholique de Lyon.
"Le péril majeur : ne plus prendre authentiquement en compte les personnes"
Quels dangers ce texte pointe-t-il spécifiquement ?
Il évoque des risques très concrets : concentration des richesses et des pouvoirs, usages militaires de l’IA, contrôle social, etc. Mais le péril majeur est de ne plus prendre authentiquement en compte les personnes ; et de nier leur dignité en les réduisant à des moyens de production, des objets de surveillance ou des profils exploitables. L’IA peut devenir, par ailleurs, un levier de domination très puissant, notamment par l’exploitation des données et la canalisation des désirs et activités des individus. Il y a aussi un risque de désengagement. Il peut être tentant de se dire : la machine fera à ma place, décidera à ma place, orientera à ma place. On se décharge alors de ce qui fait profondément l’humain : la relation, la responsabilité, la participation à la vie collective et à la construction commune de l’avenir.
Le Vatican a-t-il requis l’aide de scientifiques ?
Sur un sujet comme l'IA, le Vatican ne travaille pas en vase clos. Il existe de nombreux points de contact avec le monde académique : des groupes de réflexion, des ouvrages collectifs, des échanges avec des chercheurs de différentes disciplines. Je collabore moi-même avec un centre de recherche sur la culture numérique rattaché au Dicastère pour la culture et l’éducation du Vatican. Ce centre anime des groupes de travail réunissant des enseignants-chercheurs venus de plusieurs horizons. Tout cela produit une connaissance académique, experte, dont le Vatican peut ensuite se nourrir.
L’encyclique n’a certes pas vocation à entrer dans tous les détails techniques de l’IA. Mais lorsqu’elle met en garde, par exemple, contre l’illusion de la machine parfaite, elle montre qu’elle s’appuie sur une compréhension réelle des technologies et de leurs enjeux. Ce type de texte suppose ainsi un travail de fond, nourri par des compétences scientifiques, philosophiques et théologiques, à l’instar d’autres réflexions initiées ces dernières années sur l’écologie ou les manipulations génétiques.
"Le texte ne dit pas que la technologie est mauvaise"
Pourquoi maintenant ? Le contexte actuel sur l’IA est-il si préoccupant ?
Un texte de cette ampleur ne surgit pas du jour au lendemain. Il faut du temps pour qu’une réflexion mûrisse, circule, soit retravaillée par différentes institutions du Vatican, puis prenne la forme d’une encyclique. Mais il est évident que le moment compte. L’IA est devenue en quelques années un sujet mondial, non seulement technologique, mais aussi politique, économique et anthropologique. Elle touche au travail, à la décision, à la connaissance, à la relation, à la manière même dont nous comprenons l’humain ! Le Vatican s’était déjà saisi de ces questions, notamment avec le message du pape François pour la Journée mondiale de la paix en 2024, consacrée à « l’intelligence artificielle et la paix », puis avec le document Antiqua et Nova, en 2025, sur les relations entre l’IA et l’intelligence humaine. Avec Magnifica Humanitas, il y a une volonté de rassembler ces réflexions et de prendre position plus fortement, au moment où l’IA change d’échelle dans la société.
Ce positionnement est-il hostile à la technologie ?
Le texte ne dit pas que la technologie est mauvaise. Il affirme, au contraire, qu’elle relève du "faire" humain et qu’il peut même y avoir un devoir de déployer nos capacités lorsqu’elles peuvent servir le bien commun. Ne pas utiliser une technologie là où elle pourrait réellement aider serait ainsi une manière de mal faire. Mais l’encyclique refuse l’idée que la technologie serait neutre. Déployer une technologie, c’est souvent avoir déjà tranché des questions politiques, économiques et anthropologiques, parfois sans que le débat ait eu lieu. Quelle vision de l’humain cette technologie implique-t-elle ? Quel type de société se trouve favorisé ? Qui gagne en pouvoir ? Qui risque d’être marginalisé ? Le texte n’est, par conséquent, pas technophobe, mais il est exigeant. Il ne s’agit pas seulement d’utiliser correctement l’IA, mais de la développer dans une culture qui respecte la personne, la relation et la participation à la vie collective.
"Il manque une ouverture à la surprise"
Le texte de Léon XIV peut-il être comparé à l’encyclique Rerum Novarum, par laquelle Léon XIII répondait, à la fin du fin 19e siècle, aux bouleversements de la révolution industrielle ?
Le parallèle est inévitable. La révolution industrielle avait profondément transformé le travail, les rapports sociaux, la place des ouvriers dans la société. Avec l’IA, nous sommes, à nouveau, face à un bouleversement social et économique majeur, engendré par les productions scientifiques et technologiques humaines. La différence est que la révolution industrielle touchait d’abord les métiers manuels, alors que l’IA affecte davantage les métiers intellectuels, administratifs, relationnels, une grande partie du tertiaire également. Elle redéfinit très concrètement la manière dont chacun va pouvoir trouver sa place dans la société, et participer, ou non, à la construction de l’avenir.
Le pape fait référence à la tour de Babel. Pourquoi cette allusion ?
L’épisode de la tour de Babel, dans le livre de la Genèse, renvoie à une forme d’autosuffisance conduisant à une forme d’autocondamnation. En somme : nous nous infligeons nous-mêmes certains problèmes. Dans ce récit biblique, l’humanité se pense maîtresse intégrale de son destin, capable de tout contrôler et décider seule de la direction à prendre, en construisant une tour dont le sommet toucherait le ciel. Or c’est la confusion des langues et la dispersion des peuples qui se produit finalement. Pour un croyant, on dira qu’il manquait Dieu à Babel… Mais on peut aussi le formuler autrement : il manque une ouverture à l’écart, à la surprise, à ce qui advient, à ce qui nous interroge, à ce qui nous dépasse.
La Tour de Babel, une peinture de Lucas van Valckenborch (1594). Photo par BRIDGEMAN IMAGES / BRIDGEMAN IMAGES VIA AFP
Dans le cas de l’IA, cette allégorie pointe l’illusion d’un langage unique associé à une forme de pouvoir. Aujourd’hui, le langage des données fonctionne parfois, en effet, comme ce langage unique censé permettre de saisir les personnes et tout ce qui serait important : leurs comportements, leurs besoins, leurs désirs, leurs risques, etc. Les systèmes d’IA produisent des catégories, certes de plus en plus fines, sans pour autant accéder à la singularité d’une personne et de son vécu ! Quand un algorithme prédit si je vais rembourser un prêt, acheter un produit ou réagir à un message, il ne me connaît pas au sens humain du terme. Il me rapproche de groupes mieux découpés que par le passé. Cela peut être utile, car nous avons tous une part d’habitudes et de régularités. Mais l’humain ne se réduit pas à cela. La personne est digne notamment car elle peut faire un pas de côté, changer… Le risque est de mutiler notre compréhension de la personne en la ramenant à un profil prédictible et exploitable.
Un autre épisode biblique est convoqué : la reconstruction de Jérusalem. Quelle est sa signification ?
Cet autre récit, tiré du Livre de Néhémie, s’oppose à Babel. Dans le cadre du retour des Judéens exilés à Babylone, et de la reconstruction de Jérusalem au 5e siècle avant notre ère, le gouverneur Néhémie n’arrive pas avec un grand plan imposé d’en haut. Il consulte, discute, cherche à comprendre ce qui doit être fait localement. Chacun reconstruit une partie des murailles de Jérusalem à partir de sa situation, de sa maison, de son contexte. Cette image entre en résonance avec un principe majeur de la doctrine sociale de l’Église : la subsidiarité. Le bien commun ne consiste pas à imposer une vision unique, mais il ne se réduit pas non plus à l’addition des intérêts individuels. Il suppose un travail collectif, situé, attentif aux réalités locales.
Appliqué à l’IA, cela signifie qu’il ne suffit pas de dire : "Mettons des grands modèles de langage partout, et ils créeront automatiquement de la valeur." Il faut partir des besoins réels : quelle est la situation ? quel est le problème ? quelle valeur ajoutée cherche-t-on ? Peut-être qu’un grand modèle sera utile. Peut-être qu’un petit modèle suffira. Peut-être même qu’il ne faudra pas de technologie du tout. On peut donc résumer le contraste ainsi : Babel, c’est la grande construction de l’outil le plus puissant possible, supposé tout résoudre. Néhémie, c’est une construction plus humble, morceau par morceau, à partir des lieux, des besoins et des finalités. Construire une IA bénéfique demande ainsi ce discernement, à la fois local, patient et collectif.