Le Pape invite à évaluer les effets de l’IA dans le monde du travail

«L'intelligence artificielle a une influence perturbatrice sur l'économie et la société et peut avoir des effets négatifs sur la qualité de la vie, sur les relations entre les personnes et les pays». Tel est le point de vue du Pape qui a reçu en audience, ce samedi 22 juin 2024, les participants à la conférence internationale annuelle de la Fondation Centesimus Annus Pro Pontifice. Pour François, «c'est sur le front de l'innovation technologique que se jouera l'avenir de l'économie et de la civilisation».


Mesdames et Messieurs,

Éminences, Excellences, chers frères et sœurs, bonjour !

Je salue et remercie la Présidente, Madame Anna Maria Tarantola, et je salue tous ceux qui participent à la Conférence Internationale annuelle de la Fondation Centesimus Annus Pro Pontifice. Cette année, le thème est "L'Intelligence Artificielle et le paradigme technocratique : comment promouvoir le bien-être de l'humanité, le soin de la nature et un monde de paix".

C'est un sujet qui mérite une attention particulière, car l'IA influence de manière disruptive l'économie et la société, et peut avoir des impacts négatifs sur la qualité de vie, les relations entre personnes et entre pays, la stabilité internationale et notre maison commune.

Comme vous le savez, j'ai abordé le développement technologique dans l'Encyclique Laudato si' et l'Exhortation apostolique Laudate Deum, ainsi que l'IA dans le Message pour la Journée Mondiale de la Paix de cette année, et, il y a quelques jours, dans mon intervention au G7.

Je suis reconnaissant à Centesimus Annus d'avoir consacré une large place à ce sujet, en impliquant des chercheurs et des experts de différents pays et disciplines, en analysant les opportunités et les risques liés au développement et à l'utilisation de l'IA, avec une approche transversale et surtout en adoptant une perspective anthropocentrique, tout en étant conscient des dangers d'un renforcement du paradigme technocratique.

L'analyse multidisciplinaire est essentielle pour saisir tous les aspects actuels et prospectifs de l'IA, les avantages qu'elle peut apporter en termes de productivité et de croissance, ainsi que les risques qu'elle peut comporter, afin d'identifier les bonnes modalités éthiques de développement, d'utilisation et de gestion.

Dans mon Message pour la dernière Journée de la Paix, j'ai parlé d'"algorethics", soulignant la nécessité absolue d'un développement éthique des algorithmes, où ce sont les valeurs qui orientent les cheminements des nouvelles technologies.

Lors de mon discours au G7, j'ai mis en lumière les aspects critiques de l'Intelligence Artificielle, soulignant qu'elle est et doit rester un outil entre les mains de l'homme. Comme d'autres outils clés au fil des millénaires, cela atteste de la capacité de l'être humain à aller au-delà de lui-même, sa "transcendance", et peut apporter de grandes transformations, positives ou négatives. Dans ce second sens, l'IA pourrait renforcer le paradigme technocratique et la culture du rejet, accroître les disparités entre les nations développées et celles en développement, et déléguer aux machines des décisions essentielles pour la vie humaine. J'ai donc affirmé la nécessité absolue d'un développement et d'une utilisation éthiques de l'IA, invitant la politique à adopter des actions concrètes pour gouverner le processus technologique en cours vers la direction de la fraternité universelle et de la paix.

Dans ce contexte, votre Conférence contribue à renforcer la capacité à saisir les aspects positifs de l'IA, à connaître, atténuer et gouverner les risques, en dialoguant avec le monde scientifique pour définir ensemble les limites à imposer à l'innovation si elle doit nuire à l'humanité.

Stephen Hawking, célèbre cosmologue, physicien et mathématicien, a déclaré : "Le développement complet de l'IA pourrait signifier la fin de la race humaine... Elle évoluerait seule et se réinventerait à un rythme toujours croissant. Les humains, limités par l'évolution biologique lente, ne pourraient pas rivaliser et seraient dépassés" (Interview à la BBC). Est-ce cela que nous voulons ?

La question fondamentale que vous vous êtes posée est celle-ci : à quoi sert l'IA ? Sert-elle à répondre aux besoins de l'humanité, à améliorer le bien-être et le développement intégral des personnes, ou sert-elle à enrichir et à augmenter le pouvoir déjà élevé des géants technologiques malgré les dangers pour l'humanité ? Et c'est là la question fondamentale.

La réponse dépend de nombreux facteurs et il y a plusieurs aspects à explorer. J'aimerais en rappeler certains, comme un stimulant pour vos approfondissements futurs.

Il convient d'approfondir le délicat et stratégique thème de la responsabilité des décisions prises en utilisant l'IA ; cet aspect interpelle diverses branches de la philosophie et du droit, ainsi que des disciplines plus spécifiques.

Il faut identifier les incitations appropriées et une réglementation efficace, d'une part pour stimuler une innovation éthique utile au progrès de l'humanité, et d'autre part pour interdire ou limiter les effets indésirables.

Tout le domaine de l'éducation, de la formation et de la communication devrait entamer un processus coordonné pour accroître la connaissance et la conscience de l'utilisation correcte de l'IA, et transmettre aux nouvelles générations, dès leur enfance, la capacité critique vis-à-vis de cet outil.

Les effets de l'IA sur le monde du travail doivent être évalués attentivement. J'encourage les membres de la Fondation Centesimus Annus et tous ceux qui participent à ses initiatives à jouer un rôle actif dans leurs domaines respectifs, pour favoriser un processus de reconversion professionnelle et l'adoption de mesures facilitant la réaffectation des personnes excédentaires vers d'autres activités.

Les effets sur la sécurité et la confidentialité doivent être soigneusement examinés.

Les effets sur la capacité relationnelle et cognitive des personnes, ainsi que sur leurs comportements, doivent être pris en compte et étudiés. Nous ne pouvons pas accepter que ces capacités soient réduites ou conditionnées par un outil technologique, c'est-à-dire par ceux qui en détiennent la propriété et l'utilisation.

Enfin - mais cette liste n'est pas exhaustive - il convient de rappeler les énormes besoins en énergie nécessaires au développement de l'IA, alors que l'humanité traverse une transition énergétique délicate.

Chers amis, c'est sur le front de l'innovation technologique que se jouera l'avenir de l'économie, de la civilisation et même de l'humanité elle-même. Nous ne devons pas manquer l'occasion de penser et d'agir d'une nouvelle manière, avec notre esprit, notre cœur et nos mains, pour orienter l'innovation vers une configuration centrée sur la primauté de la dignité humaine. Cela ne doit pas faire l'objet de discussion. Une innovation qui favorise le développement, le bien-être et la coexistence pacifique, et qui protège les plus défavorisés. Cela nécessite un cadre normatif, économique et financier limitant le pouvoir monopolistique de quelques-uns et permettant au développement de bénéficier à toute l'humanité.

C'est pourquoi je souhaite que Centesimus Annus continue de s'occuper de ce sujet. Je félicite le lancement de la deuxième recherche commune entre la Fondation et l'Alliance Stratégique des Universités Catholiques de Recherche (SACRU) sur le thème "Intelligence Artificielle et soin de notre maison commune : un focus sur les entreprises, la finance et la communication", coordonnée par Madame Tarantola. Veuillez me tenir informé à ce sujet !

Et je conclus par une provocation : sommes-nous certains de vouloir continuer à appeler "intelligence" ce qui n'est pas intelligence ? C'est une provocation. Réfléchissons-y, et demandons-nous si l'utilisation impropre de ce mot si important, si humain, n'est pas déjà une capitulation devant le pouvoir technocratique.

Je vous bénis tous et je vous souhaite plein succès dans vos activités. Continuez à travailler avec courage, à prendre des risques ! Et je vous demande de prier pour moi, s'il vous plaît. Merci !

--------------------------------------------