L’IA dans les écrits des papes : « Une alliée qui peut nous rendre esclaves »

De Jean-Paul II à François, les trois derniers papes ont évoqué le numérique à plusieurs occasions, considérant ses objets comme des dons de Dieu et des résultats de l’intelligence humaine. À leurs yeux, ils peuvent se mettre aussi bien au service de l’annonce de l’Évangile et de l’humanité, que contre l’un et l’autre.

Les premiers textes de Jean-Paul II mentionnant l’informatique témoignaient de la conscience d’un tournant dans l’histoire, et nommaient les promesses des changements apportés par les progrès techniques. La confiance dans le développement rapide de l’informatique créait, dans les années 1980, l’attente d’une plus grande participation à la connaissance. Elle soutenait la conviction que l’informatique multiplierait les capacités d’invention, les échanges d’idées, et poursuivrait l’ouverture sans frontières sur le monde déjà mise à l’œuvre par la télévision, le télégraphe, le téléphone.

Cette confiance dans l’ingéniosité et le travail de l’Homme est aussi présente dans le principal discours du pape François sur l’intelligence artificielle, prononcé le 2 janvier 2024 : « La science et la technologie manifestent de manière particulière cette qualité fondamentalement relationnelle de l’intelligence humaine : elles sont des produits extraordinaires de son potentiel créatif. »

Un usage moral

Cependant cette confiance ne peut se maintenir que si de bons usages de la machine informatique sont effectués. Si celle-ci est considérée comme une alliée du travail pour les humains, elle peut aussi être ce qui les rend esclaves quand elle est conçue pour les supplanter. Ainsi, la technique et ses instruments dans l’époque informatique posaient déjà la question à nouveaux frais du travail humain, sans évacuer les risques d’asservissement, de substitution, de perte de contrôle, de déshumanisation et de déresponsabilisation.

Cette neutralité des choses du numérique, où le paradigme de l’usage est moral, se lit et s’élargit sous une autre perspective que je nomme spirituelle. Elle affirme que la chose en soi n’est pas le danger, mais que le danger est la fragilité humaine. Ainsi François déclare-t-il : « Le plus grand danger ne réside pas dans les choses, dans les réalités matérielles, dans les organisations, mais dans la manière dont les personnes les utilisent. Le problème, c’est la fragilité humaine, la tendance constante à l’égoïsme de la part de l’homme. » Cette fragilité est associée à la présomption prométhéenne, et porte à reconnaître que les choses affectent et transforment, et donc ne sont pas neutres. Cet orgueil prométhéen est inscrit par le pape François dans les notions de domination et de pouvoir sans limites présentes dans la culture numérique.

Des technologies biaisées

Cependant, le rapport aux technologies ne se réduit pas à l’instrumentalisme et à l’orgueil prométhéen, un autre point de vue prend place dans les discours : la construction sociale, politique et culturelle de la technologie. Déjà Benoît XVI, s’apercevant de la difficulté à maintenir la neutralité, décrivait comment la technologie numérique et ses objets influencent l’humain, dépendent de multiples processus, et imposent des paradigmes culturels.

Dans la même perspective, François affirme sur l’IA : « Nous devons rappeler que la recherche scientifique et les innovations technologiques ne sont ni désincarnées de la réalité ni “neutres”, mais qu’elles sont soumises à des influences culturelles. En tant qu’activités pleinement humaines, les orientations qu’elles prennent reflètent des choix conditionnés par des valeurs personnelles, sociales et culturelles propres à chaque époque. »

Dans les textes du pape François, c’est le paradigme technocratique qui soumet les choses numériques, qui, de ce fait, ne sont pas neutres puisqu’elles créent des cadres de vie. Elles s’inscrivent dans l’héritage de toutes les révolutions industrielles, dans lequel on trouve « la machine à vapeur, le chemin de fer, le télégraphe, l’électricité, l’automobile, l’avion, les industries chimiques, la médecine moderne, l’informatique, et, plus récemment, la révolution digitale, la robotique, les biotechnologies et les nanotechnologies » et, bien sûr, l’intelligence artificielle.

Poison ou remède ?

À mes yeux, nous ne pouvons pas nous satisfaire d’une conception exclusivement pharmacologique de la technologie : poison ou remède. D’autres perspectives sont à parcourir : environnementale et interactive, érotique et ascétique, critique et dialogale.

Interactive, car il est difficile d’établir une coupure nette entre les hommes et les choses. Les choses ne se contentent pas d’être là, face à nous, tel un médium neutre. Il est possible de leur reconnaître une « agentivité » propre. Environnementale car toute technique est porteuse d’ambiances culturelles, sociales, d’intérêts politiques et économiques, d’imaginaires, et exerce une influence sur la perception et la connaissance, l’émotion et les valeurs humaines.

Érotique et dialogale par l’analyse des désirs pluriels des sociétés et des personnes dans l’adhésion à ces technologies. Il semble important de nous rassembler pour dire ce qu’on estime bon en explicitant notre désir éthique. À cette fin, il sera nécessaire d’inclure des voix manquantes dans les processus de conception et de décision : la voix des mineurs, des travailleurs du clic, des SDF, des précaires ou encore des personnes handicapées.