L’encyclique, qui « ne propose pas une analyse de l’IA, car il n’est pas possible d’en donner une définition univoque et complète », se concentre sur la dignité humaine et la responsabilité morale face aux technologies émergentes. Elle s’inscrit dans la lignée de celle de Léon XIII qui a présenté la doctrine sociale de l’Eglise et insistait sur le fait que la recherche du profit ne peut pas être l’alpha et l’oméga d’une société d’hommes.
Le Pape explique deux raisons pour lesquelles l’ouvrage n’est pas technique : toute affirmation sur l’IA risque de devenir rapidement obsolète compte tenu de la vitesse à laquelle ces systèmes évoluent ; nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel !
Aussi, l’encyclique ne tient pas de propos catastrophistes tels qu’ une IA qui conduirait à des licenciements massifs et à un abêtissement généralisé de la population (« n’ayez pas peur »), mais, en s’appuyant sur les travaux de nombreux groupes de travail cités dans le livre, il considère que du bien sortira de cette révolution, pour autant que ce bien ne soit pas accaparé par une infime minorité parce qu’une « grande partie de cette technologie relève du bien commun ». Tentant d’établir des principes humanistes de développement et d’utilisation de l’IA, il ne s’agit pas de bâtir des règlementations contraignantes qui tueraient l’innovation, mais d’introduire une réflexion éthique et morale dans la conception des modèles et l’identification des données d’entrainement. Et le propre de l’éthique selon Ricoeur et Levinas c’est le respect de l’autre en se voyant dans le regard de son vis-à-vis, au-delà des lois et règles.
Quelques chapitres – les 3 et 4 èmes méritent une attention particulière parmi : (1) Évolution de la doctrine sociale de l’Église et son rôle comme «théologie de la communion» dans l’histoire, (2) Fondements et principes de la doctrine sociale, incluant la dignité de la personne, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale, (3 )Analyse des risques liés à l’intelligence artificielle, la concentration des technologies et la nécessité d’un code éthique commun, (4) Préservation de l’humain dans la transformation numérique, valorisation du travail, éducation et liberté face à la marchandisation, (5) Construction d’une «civilisation de l’amour» à l’ère numérique, promotion de la paix, du dialogue et du multilatéralisme .
On rappellera les cinq principes retenus par la doctrine sociale de l’Eglise catholique présentés par ailleurs par des économistes passés et actuels et développés dans les deux premiers chapitres : le principe du bien commun ( développé par Jean Tirole dans son maitre-livre), le principe de la destination universelle des biens ( mentionné par les moralistes du XVIIIème siècle), le principe de subsidiarité (dans la littérature managériale apparaît le terme de «subsidiarité » et la difficulté de sa mise en œuvre dans France-Lanord et Vannier 2014 ; Verrier et Bourgeois 2016, 27) ; le principe de solidarité et le principe de justice sociale.
Afin d’illustrer la pertinence des sujets abordés, citons quelques verbatims illustratifs de l’ouvrage : évitons la prétention d’un langage unique capable de tout traduire en données et en performances, même le mystère de la personne ; confier, dans les faits à un algorithme, le pouvoir de sélectionner qui mérite sans que personne n’assume plus le poids de la décision, revient à lui confier la tâche de redéfinir les limites des possibilités humaines ; la propriété des données doit être réglementée et gérée comme un bien commun ( !) ; les développeurs portent une responsabilité éthique car chaque choix de conception exprime une vision de l’humanité.
Ces craintes et ces recommandations humanistes sont repris par Anthropic qui ne peut pas prévoir si le phénomène de désalignement des IA (lorsqu’une intelligence artificielle poursuit des objectifs contraires aux valeurs humaines ou ne correspondant pas réellement à ce que l’humain lui a demandé, NDLR) sera pleinement résolu un jour.
Anthropic poursuit dans un texte publié par son centre de réflexion, l’Anthropic Institute : «Nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie».
Cette lettre de près de deux cents pages, consacrée à « la protection de la personne humaine à l’ère de l’intelligence artificielle », interpelle bien au-delà des cercles catholiques et « constitue un manifeste politique et humaniste d’une portée inédite.
Dominique Chesneau
