Un colosse aux yeux azur au sous-sol du Collège des Bernardins
On ne s'attend pas à trouver, dans le sous-sol voûté du Collège des Bernardins, un colosse aux yeux azur qui parle d'intelligence artificielle comme d'un texte sacré à relire. La pièce l'absorbe : la paume de ses mains ouverte, la voix qui accélère quand il évoque les responsabilités. Brendan McGuire n'est pas un gourou tech ni un moraliste de salon ; c'est un prêtre catholique irlandais et un spécialiste de cybersécurité installé dans la Silicon Valley depuis vingt ans.
Le père Brendan McGuire vit dans la Silicon Valley depuis une vingtaine d'années. Il a fait du pont entre deux mondes que tout oppose — la foi et les firmes qui conçoivent nos outils cognitifs.
Quand un prêtre coécrit le code moral d'un modèle
À la fin de 2025, il a coécrit le code moral du modèle Claude à la demande des fondateurs d'Anthropic. Cette phrase résume une bascule : des dirigeants de start‑up sollicitent un prêtre pour traduire en principes ce que leurs architectures algorithmiques devraient être autorisées à faire. McGuire est aussi présenté comme l'un des artisans de la réflexion du Vatican sur l'IA ; son rôle n'est pas théorique, il est opérationnel : poser des bornes quand le procédé technique va trop vite pour la délibération publique.
Un constat brutal : « Nous ne comprenons pas ce que nous avons développé. »
Son bilan tient en une phrase percutante qu'il répète : « Nous ne comprenons pas ce que nous avons développé. » Ce n'est pas une plainte lyrique, mais un signal d'alarme. Pour lui, la vitesse de l'innovation a creusé un fossé : les développeurs écrivent des architectures qui évoluent et se recomposent sans que leurs auteurs puissent en prévoir toutes les conséquences morales, sociales ou politiques.
Le code moral de Claude devait combler un peu de ce vide : fixer des principes — transparence, respect de la dignité humaine, limites sur certains usages — au‑dessus de lignes de code.
Les limites de principes sans freins économiques
Mais il ne croit pas aux panacées. Mettre des principes sur papier, dit‑il, ne suffit pas si les entreprises continuent d'opérer selon des logiques de marché qui récompensent la performance et la vitesse.
L'intervention d'un prêtre dans des ateliers de Silicon Valley illustre une réalité nouvelle : la gouvernance de l'IA ne se réduit plus à des ingénieurs et des juristes, elle appelle des voix éthiques capables de traduire des valeurs en contraintes techniques ou en régulation publique.
Médiateurs éthiques et le compromis proposé par McGuire
La montée de ces médiateurs — religieux, philosophes, spécialistes en sécurité — témoigne d'une demande de sens aussi pressante que celle de sécurité. McGuire propose un compromis brutal mais lucide : si la société ne ralentit pas pour réfléchir et imposer des garde‑fous, ce sont les architectures mêmes de nos outils qui décideront, par défaut, de ce que nous acceptons comme valable.
