Faut-il remettre l’église au milieu de l’IA ? Ce que l’Encyclique Magnifica Humanitas » pose comme questions à l’humanité.

J’ai lu l’encyclique « Magnifica Humanitas » et je suis très partagé.

Partagé parce que la posture logique de l’Eglise est de se poser en garant de la foi et que toute perspective de perdre le monopole de la spiritualité l’oblige à s’ériger en bouclier de vertu. Or, tous ceux, comme moi qui ne lui reconnaissons aucune légitimité, seraient très vite tentés de balayer d’un revers de clic nombre d’arguments avancés.

Mais ce serait passer a coté d’éléments de lecture universels, qui n’ont rien a voir avec la religion, mais qui remettent au coeur du débat, la position de la condition humaine.

C’est l’hôpital qui se fout de la charité ?

Et c’est là que ce situe le dilemme. L’église et la religion ont été eux-mêmes, à un moment dans l’histoire, dans la position dominante sur laquelle elle tente de mettre en garde :

« C’est pourquoi ceux qui contrôlent les plateformes numériques et les moyens de communication ont une capacité remarquable pour influencer l’imaginaire collectif et présenter comme désirable une certaine vision de la réalité. C’est un pouvoir qui doit être constamment éclairé par la recherche de la vérité et le respect de la dignité humaine, afin que la culture qui se développe sur internet ne devienne pas un instrument de distraction excessive, d’uniformisation et de domination, mais un espace où puissent s’épanouir la liberté intérieure et la pensée critique. » §136 »

Les plus critiques se moqueront en pointant du doigt que « c’est l’hôpital qui se fout de la charité » et ils n’auront pas tord, mais s’écarter de la question et ne pas s’y attarder c’est manquer l’opportunité de se demander alors, « mais qui est légitime ? »

Et de ce point de vue la proposition du pape sonne comme pleine de bon-sens :

§137 : « la vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité »

Et de citer, le législateur, les journalistes « sérieux », les lieux de débats, l’éducation, les universitaires… puis vient même un Méa Culpa étonnant, reconnaissant la honte de l’église sur certains sujets.

La culture de l’immédiateté et l’apathie face à l’effort nécessaire pour vérifier, versus les processus éducatifs qui ont besoin de temps , de confrontation avec la réalité et de cheminement « patient ». C’est évident que ce point est à la fois logique et problématique. Pour faire preuve d’esprit critique il faut pouvoir s’appuyer sur un vécu, être en mesure de confronter son point de vue aux autres. Si nous ne confrontons nos points de vues qu’à des IA généralistes, qui ne sont plus que l’agglomération de tous les points de vues, biaisée par un objectif défini par une seule entité mercantile, comment ne pas y voir une nouvelle sorte d’asservissement ?

Les transhumanistes sont-ils des technos-fascistes ?

D’autres points très intéressants sont abordés, comme la notion d’humain augmenté, comme aiment le présenter les transhumanistes et les post humanistes. Le transhumanisme et le posthumanisme sont des courants qui s’apparentent, partageant une vision centrée sur la technique et le dépassement des limites de la condition humaine. Le transhumanisme propose d’améliorer l’être humain par des technologies telles que la biomédecine et l’ingénierie corporelle, visant à renforcer ses performances. La posture nous renvoie une fois de plus à la condition humaine, soulignant que considérer l’humain comme un simple matériau à optimiser peut entraîner une déshumanisation et des sacrifices inéquitables. La priorité doit rester sur la personne humaine et ses relations, et non sur une simple volonté de perfection technique.

« si l’être humain est traité comme un matériau à perfectionner ou à surpasser, il devient alors plus facile d’accepter que certains soient considérés comme moins utiles, moins désirables, moins dignes. Au nom du progrès, on peut en venir à imaginer des “sacrifices nécessaires” et à faire payer aux plus fragiles le prix d’une prétendue optimisation de l’espèce. » §117

On en revient à des relents historiques durant lesquels, certains humains ne méritaient pas d’e considération, au vu de ceux qui en définissaient la norme (je vais m’arrêterez là avant qu’on me récuse l’atteinte d’un quelconque point Godwin. Mais ça fait quand même écho à ceux que se revendiquent d’une mouvance qualifiée par d’autres de « techno-fascistes ».

A lire en évitant de choisir un camp.

Ce texte ouvre de nombreuses brèches et ne devrait pas laisser indifférent. Il est bourré de postures religieuses auxquelles nombre de lecteurs auront du mal à s’identifier, voire risquent même d’être rebutés. On pourra bien sûr avoir une lecture très critique de ce texte, il regorge de notions que seuls les croyants pourront appréhender, mais ce serait dommage de ne pas lire au-delà de ses convictions.

Tout le monde devrait néanmoins se poser finalement la question centrale soulevée par ce texte : Si on s’accorde à dire que l’IA est une révolution humaine sans précédents, à qui doivent en être confiées les clés ? Un acteur privé ? Un gouvernement ? Une instance existante avec ses biais et ses intérêts propres ? Qu’est-ce que l’humain ? Comment définir le bien commun ? Va-t-on accepter de continuer de privatiser chaque ressource terrestre ? On l’a fait pour la terre, on le fait en partie pour l’eau, peut-être bientôt pour l’air… si l’IA est la somme de toutes les connaissances humaines, qui devrait la contrôler ?

Je n’ai aucune réponse à apporter, j’ai juste un point de vue sur une partie de l’équation que je revendique et que j’ai déjà exprimée à travers le « Manifeste pour la préservation du savoir singulier face aux IA généralistes. » Je reste persuadé qu’il faut que chacun trouve une manière de garder son esprit critique, en évitant de se contenter de la simplification offerte par ces nouveaux relais de pensée.

Si vous voulez interroger ce texte dense, voici un ChatBot « certifié ».

Il est lié à une base de connaissances cloisonnée avec pour seule référence le texte de l’Encyclique disponible intégralement ici. Le ChatBot vous répondra uniquement sur la base du texte et en suivant l’instruction suivante : « Fais des réponses courtes, claires et faciles à lire. Privilégie des réponses de 3 à 6 phrases maximum. Évite les longs blocs de texte. Va droit au point et cite les morceaux de textes qui te servent à répondre. Développe uniquement si l’utilisateur demande plus de détails. Ton objectif est de rendre l’encyclique simple et accessible à explorer, en étant factuel, sans prise de position. »