IA et discernement spirituel

Les réactions à la première encyclique de Léon XIV montrent à quel point le pape a visé juste en proposant son discernement sur cette question tout à fait nouvelle qu’est l’intelligence artificielle pour le XXI^e siècle. Les approbations des côtés les plus divers des milieux dirigeants manifestent ainsi à quel point ils sont dans l’incertitude face à un phénomène qui les dépasse : « Par le passé, c’étaient surtout les États qui guidaient et orientaient l’innovation. Aujourd’hui, en revanche, les principaux moteurs du développement sont des acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’interventions supérieures à celles de nombreux gouvernements. Le pouvoir technologique prend ainsi un visage inédit, essentiellement privé, et donc d’autant plus difficile à cerner, à réguler et à orienter vers le bien commun. »

Un tel constat relève d’une observation objective du phénomène. Mais si l’évêque de Rome estime devoir intervenir à son propos, c’est que ces enjeux ont une ampleur supérieure au simple regard des sociologues, dès lors que c’est le sens même de l’histoire qui est en jeu. Un sens que l’on pourrait définir avec les biblistes et les théologiens comme eschatologique, c’est-à-dire relevant des fins dernières, celles que l’enseignement de l’Écriture permet d’envisager. Ou bien, on en reste à la terrible ironie de Shakespeare, celle « d’une histoire dite par un idiot, pleine de bruit et de fureur et qui ne signifie rien ». Ou bien on en revient, comme le pape, au Premier Testament et à l’opposition de Babel et de Jérusalem, Babel résultat d’un orgueil infini et qui aboutit à la confusion, Jérusalem la ville sainte toujours à reconstruire patiemment. C’est toujours le même dilemme : « C’est pourquoi le premier choix ne se situe pas entre un “oui” ou un “non” à la technologie, mais entre bâtir Babel ou construire Jérusalem : entre un pouvoir qui prétend dominer le Ciel et un peuple qui, en présence de Dieu, se met à travailler de manière unie pour relever les murs de la coexistence fraternelle. »

Ainsi, dès l’introduction de l’encyclique, l’essentiel est-il mis en évidence. Si l’autorité spirituelle se pense en droit d’intervenir sur un tel sujet, c’est que les intérêts supérieurs de l’humanité sont en jeu : « La technologie peut soigner, relier, éduquer, protéger la maison commune ; mais elle peut aussi diviser, rejeter, imposer de nouvelles injustices. En théorie, elle n’est pas en soi une solution aux problèmes de l’humanité, tout comme elle n’est pas en soi un mal, mais concrètement elle n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent. »

Léon XIV entend resituer son analyse de cette réalité nouvelle dans l’ensemble des interventions de ses prédécesseurs, depuis Léon XIII à la fin du XIX^e siècle, envisageant les problèmes engendrés par l’avènement de la société industrielle. Il montre que la doctrine sociale de l’Église n’est pas le fruit d’un projet élaboré derrière un bureau, mais le résultat d’un processus patient, qui a permis de faire ressortir ces principes cardinaux que sont la dignité de la personne, la valeur du travail, la destination universelle des biens, la solidarité et la subsidiarité, la sauvegarde de la Création, la centralité de la paix et de la fraternité. Une bonne partie du texte est donc consacrée au rappel d’un enseignement qui n’a rien perdu de sa pertinence mais se doit d’affronter la réalité inédite qui fait déjà partie de notre quotidien et à laquelle deux chapitres sont consacrés.

Je ne puis ici n’en retenir que quelques lignes directrices, la première concernant ce que le pape appelle « paradigme technocratique », et que son prédécesseur François avait déjà mis en cause dans son encyclique Laudato si’ sur l’écologie : « La tendance à laisser la logique de l’efficacité, du contrôle et du profit régit à elle seule les choix personnels, sociaux et économiques. Il apparaît donc plus clairement que la technique n’est pas un simple instrument et que, lorsqu’elle devient un critère, elle finit par déterminer ce qui compte et ce qui peut être écarté, réduisant la Création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant. » Dernièrement, à propos d’Ernst Jünger, j’avais insisté sur cette dérive technicienne, qui marque la victoire des titans sur les dieux. Mais dans le cas de la révolution en cours, la menace a pris une tournure encore plus redoutable : «  Lorsqu’un pouvoir d’une telle ampleur, écrit le pape, se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, il augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités. »

Sans vouloir offrir une analyse exhaustive du phénomène, Léon XIV se contente d’un discernement sur ses aspects les plus alarmants. Du fait de la vitesse prodigieuse de son déploiement, il risque de nous échapper. D’où la nécessité de bien saisir la différence fondamentale entre l’humain et l’artificiel : « Les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne murissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas la conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. »

Une telle distinction peut paraître évidente, elle n’en est pas moins sous-estimée sous l’effet spectaculaire d’une puissance. Par ailleurs, on peut penser que les risques réels seront diminués ne serait-ce que par ceux qui possèdent les dispositifs techniques. Mais il y a péril à leur laisser la seule responsabilité d’un encadrement éthique : « Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger. »

L’ambition du pape serait, en quelque sorte, de « désarmer l’intelligence artificielle. C’est-à-dire la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. […] Désarmer c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. »

Ce désarmement s’impose d’autant plus que la puissance de la technologie est dans le viseur des idéologues qui entendent dépasser la condition humaine à l’enseigne du transhumanisme et du post-humanisme. Même si les perspectives de l’un et de l’autre demeurent en grande partie spéculatives, elles modifient l’imaginaire collectif au profit de certains choix fondamentaux. La réponse à de telles menaces, avant d’être nécessairement politique ne relèvent-elles pas d’une appréhension de la nature humaine, celle justement que l’éclairage de la Révélation permet d’approfondir. Mais c’est aussi l’ensemble de la culture universelle qui nous permet de mieux comprendre ce qui fait notre grandeur jusqu’au sein de nos faiblesses. Ainsi le pape n’hésite pas à citer La Neuvième symphonie de Beethoven, Guernica, la célèbre toile de Picasso et le film La liste de Schindler.

Ainsi cette encyclique est-elle bien à la gloire de cette magnifique humanité qu’il s’agit de protéger et de faire grandir. Ce n’est pas un mince défi. Le présent nous place face à la situation brutale du monde en guerre. Que peut le pape, comme ses prédécesseurs, face à des empires dont la puissance militaire est encore renforcée et déterminée par l’intelligence artificielle ? L’existence d’une autorité spirituelle est au moins la garantie que demeure la veille sur l’imprescriptible d’une destinée surnaturelle.