Le pape Francois appelle à un dialogue éthique et inclusif sur l'intelligence artificielle

Ce lundi 27 Mars 2023, le Saint-Père a adressé un message à un groupe d'experts réunis à Rome pour discuter de l'impact social et culturel des technologies numériques, en particulier de l'intelligence artificielle. Il a exprimé sa préoccupation face à l'accroissement des inégalités causées par les technologies numériques et a plaidé pour une approche qui respecte la dignité humaine.


Chers amis !

Bienvenue à vous tous, qui êtes réunis à Rome pour votre rencontre annuelle. Il réunit des experts du monde de la technologie - scientifiques, ingénieurs, chefs d'entreprise, juristes et philosophes - avec des représentants de l'Église - officiers de Curie, théologiens et moralistes -, dans le but de favoriser une plus grande conscience et de considérer l'impact social et culturel des technologies numériques, en particulier de l'intelligence artificielle. J'apprécie beaucoup ce chemin de dialogue, qui, ces dernières années, a permis de partager des contributions et des intuitions et de tirer profit de la sagesse des autres. Votre présence témoigne de votre engagement à garantir une confrontation sérieuse et inclusive au niveau mondial sur l'utilisation responsable de ces technologies, une confrontation ouverte aux valeurs religieuses. Je suis convaincu que le dialogue entre croyants et non-croyants sur les questions fondamentales de l'éthique, de la science et de l'art, et sur la recherche de la signification de la vie, est une voie pour la construction de la paix et pour le développement humain intégral.

La technologie est d’une grande aide pour l’humanité. Pensez aux innombrables progrès dans les domaines de la médecine, de l’ingénierie et des communications (cf. Enc. Laudato si’, 102). Et tandis que nous reconnaissons les bienfaits de la science et de la technique, nous y voyons une preuve de la créativité de l'être humain et aussi de la noblesse de sa vocation à participer de manière responsable à l'action créative de Dieu (cf. ibid., n. 131).

Dans cette perspective, je pense que le développement de l’intelligence artificielle et de l’apprentissage automatique a le potentiel d’apporter une contribution bénéfique à l’avenir de l’humanité, nous ne pouvons l’écarter. Je suis toutefois convaincu que ce potentiel ne sera réalisé que si ceux qui développent les technologies font preuve d'une volonté cohérente d'agir de manière éthique et responsable. À cet égard, l’engagement de nombreuses personnes travaillant dans ces domaines pour garantir que la technologie soit centrée sur l’homme, fondée sur des bases éthiques dans la conception et orientée vers le bien, est encourageant. Je me réjouis qu’un consensus se soit dégagé pour que les processus de développement respectent des valeurs telles que l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité. Je salue également les efforts déployés par les organisations internationales pour réglementer ces technologies, afin qu'elles promeuvent un véritable progrès, c'est-à-dire qu'elles contribuent à un monde meilleur et à une qualité de vie intégralement supérieure (ibid., 194).

Il ne sera pas facile de parvenir à un accord dans ces domaines. En effet, "l'immense croissance technologique n'a pas été accompagnée d'un développement de l'être humain en ce qui concerne la responsabilité, les valeurs et la conscience" (ibid., n. 105). En outre, le monde actuel est caractérisé par une grande diversité de systèmes politiques, de cultures, de traditions, de conceptions philosophiques et éthiques et de croyances religieuses. Les débats sont de plus en plus polarisés et, en l'absence de confiance et d'une vision partagée de ce qui rend la vie digne, les débats publics risquent d'être polémiques et inconcluants.

Seul un dialogue inclusif, dans lequel les gens cherchent ensemble la vérité, peut faire émerger un véritable consensus ; et cela peut se faire si l'on partage la conviction que "dans la réalité même de l'être humain et de la société [...] il y a une série de structures de base qui soutiennent leur développement et leur survie" (Enc. Frères tous, 212). La valeur fondamentale que nous devons reconnaître et promouvoir est celle de la dignité de la personne humaine (cf. ibid., n. 213). Je vous invite donc, dans vos délibérations, à faire de la dignité intrinsèque de chaque homme et de chaque femme le critère-clé dans l'évaluation des technologies émergentes, qui révèlent leur positivité éthique dans la mesure où elles aident à manifester cette dignité et à en accroître l'expression, à tous les niveaux de la vie humaine.

Je suis préoccupé par le fait que les données recueillies jusqu'à présent semblent indiquer que les technologies numériques ont contribué à accroître les inégalités dans le monde. Non seulement les différences de richesse matérielle, qui sont importantes, mais aussi celles d'accès à l'influence politique et sociale. Nous nous posons la question suivante: nos institutions nationales et internationales sont-elles en mesure de tenir les entreprises technologiques responsables de l’impact social et culturel de leurs produits? Y a-t-il un risque que la hausse des inégalités compromette notre sens de la solidarité humaine et sociale? Pourrions-nous perdre notre sens du destin commun ? En réalité, notre objectif est que la croissance de l'innovation scientifique et technologique aille de pair avec une plus grande égalité et une plus grande inclusion sociale (voir message vidéo à la conférence TED de Vancouver, 26 avril 2017).

Ce problème de l'inégalité peut être aggravé par une fausse conception de la méritocratie qui mine la notion de dignité humaine. La reconnaissance et la récompense du mérite et de l'effort humain ont un fondement, mais il y a le risque de concevoir l'avantage économique de quelques-uns comme gagné ou mérité, alors que la pauvreté de tant est considérée, en un sens, comme de leur faute. Cette approche sous-estime les inégalités de départ entre les individus en termes de richesse, d'opportunités éducatives et de liens sociaux, et traite le privilège et l'avantage comme des acquis personnels. Par conséquent - en termes schématiques - si la pauvreté est la faute des pauvres, les riches sont dispensés de faire quelque chose (voir Discours au monde du travail, Gênes, 27 mai 2017).

Le concept de dignité humaine - c'est le centre - nous impose de reconnaître et de respecter le fait que la valeur fondamentale d'une personne ne peut être mesurée par un ensemble de données. Dans les processus décisionnels sociaux et économiques, nous devons être prudents en confiant les jugements à des algorithmes qui traitent des données collectées, souvent de manière subreptice, sur les individus et leurs caractéristiques et comportements passés. Ces données peuvent être contaminées par des préjugés et des préjugés sociaux. D'autant plus que le comportement passé d'un individu ne devrait pas être utilisé pour lui refuser l'opportunité de changer, de grandir et de contribuer à la société. Nous ne pouvons pas permettre que les algorithmes limitent ou conditionnent le respect de la dignité humaine, ni qu'ils excluent la compassion, la miséricorde, le pardon et, surtout, l'ouverture à l'espérance d'un changement de la personne.

Chers amis, je conclurai en réitérant ma conviction que seules des formes de dialogue véritablement inclusives peuvent permettre de discerner avec sagesse comment mettre l’intelligence artificielle et les technologies numériques au service de la famille humaine. L'histoire biblique de la Tour de Babel (cf. Gen 11) a souvent été utilisée pour mettre en garde contre les ambitions excessives de la science et de la technologie. En réalité, l'Écriture nous met en garde contre la fierté de vouloir "toucher le ciel" (v. 4), c'est-à-dire saisir et nous emparer de l'horizon de valeurs qui identifie et garantit notre dignité humaine. Et toujours, quand il y a cela, vous vous retrouvez dans une grave injustice dans la société elle-même. Dans le mythe de la Tour de Babel, faire une brique est difficile : faire la boue, la paille, amasser, puis cuire... Quand une brique tombait était une grande perte, ils se plaignaient beaucoup : "Nous avons perdu une brique". Si un ouvrier tombait, personne ne disait rien. Cela doit nous faire réfléchir : qu'est-ce qui est le plus important ? La brique ou l'homme ou la femme qui travaille ? C'est une distinction qui doit nous faire réfléchir. Et après la Tour de Babel, la création consécutive de langues différentes devient, comme toute intervention de Dieu, une nouvelle possibilité. Elle nous invite à considérer la différence et la diversité comme une richesse, parce que l'uniformité ne laisse pas croître, l'uniformité imposée. Seule une certaine uniformité disciplinaire est bonne - peut-être - mais cet impôt ne vaut pas. Le manque de diversité est un manque de richesse, parce que la diversité nous oblige à apprendre ensemble les uns des autres et à redécouvrir avec humilité le sens authentique et la portée de notre dignité humaine. N'oublions pas que les différences stimulent la créativité, "créent des tensions et dans la résolution d'une tension consiste le progrès de l'humanité" (Enc. Frères tous, 203), quand les tensions se résolvent sur un plan supérieur, qui n'anéantit pas les pôles en tension mais les fait mûrir.

Je vous souhaite bonne chance dans vos dialogues et vous remercie de votre engagement à écouter et à grandir dans la compréhension de la contribution de chacun. Je vous bénis et je vous demande de prier pour moi. Merci.

-------------------------------------------