Le pape Léon XIV prévient que l'IA doit être « désarmée » et cite Gandalf du LOTR pour faire valoir son point de vue.
0
Suivez-nous
La réaction croissante contre l’IA s’est propagée dans presque tous les domaines de la culture – de l’art et de la musique à l’éducation et à l’avenir du travail. Passez ne serait-ce que quelques minutes à parcourir les réseaux sociaux et vous tomberez probablement sur des vidéos d'étudiants diplômés huant des discours d'ouverture en faveur de l'IA, soulignant à quel point les jeunes générations sont devenues sceptiques quant à l'essor rapide de la technologie.
Alors que l'IA domine désormais les conversations dans la politique, le divertissement et la Silicon Valley, il n'est pas surprenant que le débat ait atteint l'un des dirigeants religieux les plus influents au monde. Dans sa première encyclique, le pape Léon XIV a mis en garde contre les dangers de l’intelligence artificielle et a souligné l’importance de gouverner la technologie de manière responsable avant qu’elle ne remodèle la société au-delà du contrôle humain.
La lettre du Pape comprend plusieurs passages frappants sur l'IA, mais une citation en particulier retiendra instantanément l'attention des fans dévoués du Seigneur des Anneaux. Voir une référence qui semble tout droit sortie de la Terre du Milieu tissée dans un avertissement sérieux concernant l’intelligence artificielle n’est pas quelque chose que beaucoup de gens attendent du Vatican.
Le pape Léon XIV déclare que l'IA doit être « désarmée »
Dans sa longue lettre, le pape Léon XIV souligne à plusieurs reprises l'importance de « préserver la personne humaine à l'ère de l'intelligence artificielle ».
« Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, la responsabilité doit être clairement définie à chaque étape : de ceux qui conçoivent et développent ces systèmes jusqu’à ceux qui les utilisent et s’appuient sur eux pour prendre des décisions concrètes », a écrit le Pape dans une section intitulée « Responsabilité, transparence et gouvernance de l’IA ».
Il a également abordé bon nombre des plus grands débats entourant l’IA aujourd’hui, notamment la rapidité avec laquelle la technologie remodèle la vie quotidienne et concentre le pouvoir entre ceux qui détiennent déjà une influence économique significative.
Dans le même temps, le Pape n’est pas allé jusqu’à appeler à l’abandon total de l’IA. Au lieu de cela, il a soutenu que la technologie devait être soigneusement contrôlée avant qu’elle ne commence à dominer l’humanité elle-même.
« Désarmer ne signifie pas rejeter la technologie, mais l’empêcher de dominer l’humanité », a-t-il écrit. «Cela signifie libérer la technologie du contrôle monopolistique et l’ouvrir à la discussion et au débat, la rendant ainsi conviviale et la restaurant à la pluralité des cultures et des modes de vie humains.»
Le Pape a ajouté que l’IA devrait devenir plus transparente, accessible et gouvernée de manière réfléchie par les développeurs et les entreprises qui construisent ces systèmes.
Une ligne particulièrement puissante de la lettre peut sembler familière aux fans de longue date du Seigneur des Anneaux et du Hobbit. Faisant référence à des mots associés au sorcier Gandalf, le pape a écrit :
« Il ne nous appartient pas de maîtriser toutes les marées du monde, mais de faire ce qui est en nous pour venir en aide aux années où nous sommes, en déracinant le mal dans les champs que nous connaissons, afin que ceux qui vivront après aient une terre propre à cultiver. »
Utilisant cette référence littéraire, le pape a soutenu que la plus grande défense de l'humanité contre la déshumanisation ne viendra pas de la domination technologique, mais de « petits actes de fidélité inébranlables » enracinés dans la compassion et la connexion humaine.
La lettre était suffisamment importante pour susciter les éloges de Chris Olah, qui a fait écho à l'appel du pape à des conversations plus larges sur la gouvernance de l'IA.
« Dans les conversations que nous avons eues chez Anthropic avec des dirigeants de toutes les religions et traditions culturelles, nous avons découvert une conviction commune et profondément ancrée : si cette technologie arrive, elle doit bien se passer – pour notre maison commune et pour les enfants à venir », a déclaré Olah.
Conclusion
Le pape Léon XIV a utilisé sa position élevée pour s'exprimer contre plusieurs sujets préoccupants, tels que la pression du président Donald Trump en faveur de l'expulsion des immigrants et la guerre en Iran.
Il s'est même excusé pour le rôle du Vatican dans la légitimation de l'esclavage et dans son refus de le condamner au cours des siècles qui ont suivi. Le voir également faire connaître sa position sur l’IA et souhaiter une surveillance plus forte de son développement continu est tout aussi fascinant à voir.
