Certains pionniers de l’intelligence artificielle (IA) ont exprimé leur crainte de voir une intelligence artificielle générale (AGI) devenir incontrôlable et provoquer une catastrophe existentielle. Geoffrey Everest Hinton, l’un des “pères fondateurs” de l’IA et lauréat du prix Nobel de physique 2024 , a quitté son poste chez Google, estimant que l’humanité avait entre 10 et 20% de chance d’être anéantie par l’AGI dans les trois prochaines décennies.
En attendant, nous pouvons dès aujourd’hui constater des dégâts très concrets de l’IA.
La multiplication des faux contenus “catholiques”
Suite à l’élection du pape Léon XIV, le 8 mai 2025, les faux contenus “catholiques” semblent pousser comme des champignons à l’automne sur Internet.
Il s’agit de FRC : Fake Religious Contents (ou faux contenus religieux en français).
Certaines chaînes youtube publient de faux contenus en lien avec le pape quotidiennement :
- @PrièreRoyale qui sort trois fausses vidéos par jour ;
- @SAPRIERE (tenue par un brésilien utilisant le nom “Sua Oração” et recourant possiblement un VPN pour se connecter depuis des adresses IP françaises) qui sort deux fausses vidéos par jour ;
- @HistoiresdePaix qui sort deux fausses vidéos par jour ;
- @Foivéritable sort une fausse vidéo tous les deux jours (cette chaîne va jusqu’à mettre de fausses photos de prêtres catholiques sur son logo et sa bannière) ;
- @PapeLéonXIVDivinTestament (basée en Colombie) qui sort une vidéo par jour ;
- @PrièreSecrète qui sort une fausse vidéo par jour ;
- @SecretsduPape qui sort une fausse vidéo par jour ;
- @SecretsduVatican qui sort une fausse vidéo par jour ;
- @MomentdePaixYT qui sort une fausse vidéo par jour ;
- @LarmesdeLumière qui sort une fausse vidéo par jour ;
- @MARCHERAVECPADREPIO, un peu moins prolifique que les précédentes ;
- @PopeLeoXivTeachings.
@PapeLéonXIVDivinTestament pousse le vice jusqu’à se présenter comme la “chaîne officielle du Pape Léon XIV”.
@Foivéritable va jusqu’à mettre de fausses photos de prêtres catholiques sur son logo et sa bannière.
Seule @LarmesdeLumière a l’honnêteté de se décrire comme une “chaîne dédiée aux histoires fictives et émouvantes inspirées du Saint-Père, le Pape Léon XIV.” Ils écrivent en description de leurs vidéos : “Cette vidéo est une œuvre de fiction, créée uniquement à des fins de divertissement. Les événements et situations présentés ne se sont pas produits dans la réalité. Bien que des personnes réelles et vivantes soient mentionnées, tout ce qui est raconté est entièrement inventé. Toute ressemblance avec la réalité est une coïncidence ou fait partie de la dramatisation. Ce contenu est narré avec une voix artificielle (IA) à des fins de narration dramatique.”
D’autres chaînes, moins centrées sur le pape, se contentent d’inventer des contenus chrétiens de toute pièce :
- @Lesyeuxdelinfini sort cinq fausses vidéos par jour ;
- @Jesus_et_moi sort trois fausses vidéos (shorts) par jour (se présente comme “une chaîne à but non lucratif” pour les personnes “assoiffées de vérité” et invite les internautes à rejoindre un groupe WhatsApp et un groupe Telegram) ;
- @sagessecatholique sort deux fausses vidéos par jour ;
- @SecretsRoyaumCeleste, basée au Brésil et concentrée sur Sainte Faustine, sort une fausse vidéo par jour ;
- @LeDernierMiracle sort une fausse vidéo par jour sur Saint Carlo Acutis ;
- @LaVoieduChrist-Histoiresdefoie, sort une fausse vidéo tous les deux ou trois jours ;
- @lumièredanslavallée sort une fausse vidéo par jour ;
- @10ShadowsOfThePast qui sort une fausse vidéo par jour (comme des faux témoignages de conversion), ils le disent dans la description de leur chaîne et dans la description de leurs vidéos (every video presents a fictional narrative created for entertainment and biblical reflection), leurs fausses vidéos peuvent être liées celles d’autres chaînes les présentant comme vraies (ex : cette fausse vidéo est reprise ici dans un version légèrement modifiée) ;
- @SécuritédansSesBras ;
- @LaVoieDuCiel-h4 ;
- @devenezstoique (qui malgré son nom et sa description centrés sur le stoïcisme produit beaucoup de contenus chrétiens ; chaîne en français créée aux États-Unis) ;
- @reflexiondivina (chaîne en espagnol créée aux États-Unis).
Autres exemples, circulent sur les réseaux sociaux :
- Des fausses vidéos IA mettant en scène le cardinal Jean-Marc Aveline, archevêque de Marseille et président de la Conférence des évêques de France, en train de vanter les mérites de produits miracles pour retrouver la santé.
- Une fausse vidéo du cardinal mexicain Mgr Carlos Aguiar Retes vantant les mérites d’un remède contre le diabète.
- Une fausse image IA montrant des ecclésiastiques catholiques célébrant une messe noire.
Comment procèdent-ils ?
Tout est réalisé par intelligence artificielle (IA), de manière industrielle. On parle de “fermes de contenus” (content farms).
La rédaction des scripts est probablement automatisée par IA grâce à des prompts bien calibrés (en partant parfois d’un propos/fait existant pour l’enrober). La voix est générée par IA (synthèse vocale). Même la mise en ligne peut-être confiée à l’IA.
En effet, il faut savoir que des outils d’automatisation de workflow, comme Make ou n8n, permettent de connecter plusieurs IA entre elles (copywriting, vidéo, audio, graphisme, publication), afin qu’elles produisent de, manière automatisée, des vidéos, à des intervalles de temps définis.
Ce test nous a pris quelques dizaines de secondes. Nous avons demandé à ChatGPT : Produit un sermon imaginaire, mais réaliste, du pape Léon XIV, sur un sujet clivant en lui donnant une position catholique très traditionnelle.
Voici sa réponse :
Quels sont les résultats ?
Le moins que l’on puisse dire, c’est que, pour l’instant, cela fonctionne très bien !
Lancée le 30 juillet 2025, la chaîne @PapeLéonXIVDivinTestament a gagné 10.000 abonnés dès son premier mois d’existence, et les commentaires des internautes qui n’y voient que du feu sont dithyrambiques envers “le pape”.
@Jesus_et_moi a engrangé plus de 36.000 abonnés, entre mars 2024 et septembre 2025.
@LaVoieduChrist-Histoiresdefoie a engrangé 60.000 abonnés en un an.
@SAPRIERE a engrangé plus de 28.000 abonnés, entre mars et septembre 2025.
@LarmesdeLumière a engrangé plus de 15.000 abonnés, entre avril et décembre 2025.
Sur TikTok, deux vidéos IA du pape, en espagnol, ont respectivement atteint 9,6 millions et 32,9 millions de vues ! Soit nettement plus que les vidéos du pape postées sur son compte Instagram officiel et dont la plus regardée atteint les 6 millions de vues.
Des performances impressionnantes pour un minimum d’effort et aucune véracité.
Si ces chaînes nous donnent à voir la perversité des fraudeurs, leurs dizaines de milliers d’abonnés mettent tout autant en lumière la facilité avec laquelle les utilisateurs peuvent se faire arnaquer en ligne. Ce sont autant de potentielles victimes d’hameçonnage (phishing) ou d’escroquerie sentimentale (brouteur).
Qui est derrière et pour quoi ?
Les personnes à l’origine de ces faux contenus veillent à rester anonymes.
Leur motivation est probablement le gain financier, grâce à la monétisation de leurs vidéos par youtube (affichage de publicités), voire, plus cyniquement, la déstabilisation de l’Église et des fidèles. Sans scrupule, ils n’ont que faire des internautes qui croient leurs vidéos sur paroles. Pourvu qu’ils cliquent et qu’ils partagent.
Le descriptif de certaines (@PapeLéonXIVDivinTestament, @SecretsRoyaumCeleste, @devenezstoique, etc.) fait apparaître qu’ils sont basés sur le continent américain, alors qu’ils ne publient qu’en français. C’est un indice. L’origine géographique et linguistique des fraudeurs n’est pas un frein, puisqu’ils peuvent demander à l’IA de traduire un même script dans les langues de leur choix.
Leur but est de produire un contenu qui donne envie de cliquer et qui flatte les convictions de l’audience cible (un discours souvent moral et traditionnaliste). De cette manière, les faussaires répondent de manière optimale aux critères de l’algorithme de youtube. En engrangeant les “likes”, les commentaires et les abonnements, associé à un bon taux de rétention, ils parviennent à bien référencer leurs contenus et à multiplier les vues (et donc leurs gains).
Jésus : “Depuis le commencement, [le diable] a été un meurtrier. Il ne s’est pas tenu dans la vérité, parce qu’il n’y a pas en lui de vérité. Quand il dit le mensonge, il le tire de lui-même, parce qu’il est menteur et père du mensonge.” (Jn 8, 44)
Comment éviter de se faire piéger ?
Ces chaînes de fausses vidéos présentes des points communs.
En règle générale :
- La bande son originale est écrasée ;
- La voix de substitution est artificielle, réalisée par IA ;
- La description de la chaîne est fantaisiste ;
- Les titres et miniatures sont accrocheurs ;
- Une fréquence de publication anormalement élevée ;
- Et, bien sûr, les soi-disant discours du Saint Père sont inventés de toute pièce.
Par conséquent, le premier réflexe est d’observer les éléments suivants :
- La bande son
- La fréquence de publication
- La description de la chaîne
- Le lieu de création de la chaîne
Et, en cas de doute persistant, vérifier la véracité de l’information sur le site Vatican News et sur le site officiel du Vatican.
Vous pouvez également utiliser :
- l’outil Hiya Protect AI Voice Detection pour détecter les voix générées par l’IA, y compris le clonage de voix ;
- l’outil Hive’s AI-Generated & Deepfake Content Detection pour détecter si une image, une vidéo, un texte ou un audio a été produit par IA ou non ;
- l’outil PicTriev pour détecter en ligne le sosie d’une personne célèbre.
Exemples :
Dans le cas de la chaîne @PapeLéonXIVDivinTestament, nous avons :
- une chaîne créée en Colombie alors qu’elle ne publie que des vidéos en français,
- qui publie au rythme d’une vidéo par jour (incohérent vis-à-vis de la fréquence de prise de parole du pape),
- qui produit uniquement des contenus audio par IA,
- qui se présente comme étant la chaîne officielle du pape.
La description de la chaîne @SAPRIERE, qui ne poste que des contenus catholiques, devrait nous alerter tant elle est loufoque (rédigée par IA afin d’optimiser les mots clés) :
“Bienvenue sur notre chaîne de prière, un espace de lumière, d’amour et de paix ouvert à toutes les religions et croyances. Ici, nous partageons des prières du bien, des messages d’espoir et des méditations spirituelles qui nourrissent l’âme et élèvent le cœur. Peu importe votre foi, notre mission est d’unir les cœurs dans une énergie positive, guidée par l’amour, la bonté et la compassion. Chaque prière vise à apporter la guérison, la protection, la paix intérieure et le bien-être. Rejoignez-nous pour répandre le bien autour de vous et recevoir la lumière divine, chaque jour, à travers la prière.”
De tels indices ne laissent aucune place au doute : il s’agit de faux contenus.
Autres
Autres réseaux sociaux
Le même phénomène est présent sur d’autres réseaux sociaux.
Ainsi sur X (ex-twitter), des comptes @johndaviesclar1 (plus de 6000 abonnés) semblent spécialisés dans la publication de faux contenus catholiques (possiblement générés par IA). Ils sont ensuite retweetés par les utilisateurs du réseau social. @johndaviesclar1 est même suivi par des personnalités catholiques, comme Alexandra Henrion-Caude et Jean-Marc Potdevin, qui semblent ne pas avoir détecté la supercherie.
Autres thématiques
Toutes les chaînes inondant le web de contenus produits par IA ne se concentrent pas à instrumentaliser le pape pour faire cliquer. Elles se multiplient tous azimuts, tels des bactéries proliférant là où elles trouvent un terrain propice.
Ainsi, nous pouvons observer que :
- @La_vraie-pri s’est spécialisé dans les shorts IA essentiellement en lien avec la Vierge Marie ;
- @VoixdesPsaumes produit en masse des shorts IA animant Jésus en train de donner des conseils ;
- @jesushappylife ne fait que des shorts IA de Jésus en train de chanter ;
- @Cristovisión749, une chaîne particulièrement glauque, fait chanter Jésus avec des bébés ; elle a ainsi pu gagner plus de 82.000 abonnés en seulement quatre mois d’existence !
Bref, avec l’IA générative, l’humanité semble avoir la boîte de Pandore de la production automatisée de contenus sans âme.
Perspectives
Le 22 mai 2025, le site Vatican News a averti (ici et ici) que le discours en anglais d’environ 36 minutes posté par la chaîne “Pan African Dreams”, reprise par la chaîne “Nou se Legliz” et d’autres, et intitulé “Le Pape Léon XIV répond au Capitaine Ibrahim Traoré – Un message de vérité, de justice et de réconciliation”, était un faux généré par IA. Les auteurs de ce FRC avaient réutilisé des images de l’audience papale du 12 mai 2025, puis ont demandé à l’IA d’animer ses lèvres pour qu’elles suivent le faux discours (technique de “morphing”).
S’il est encore possible de repérer les contenus produits par IA, les progrès constants réalisés dans ce domaine nous propulsent dans une ère où il deviendra quasiment impossible de différencier le vrai du faux. Les outils IA de synthèses vocales comme ElevenLabs, par exemple, progressent de jour en jour. Des entreprises comme Quantinuum œuvrent à développer une Generative Quantum AI, basée sur des systèmes quantiques (qubits) dont la puissance de calcul est sans commune mesure avec les systèmes informatiques standards. Nous entrons à toute vitesse dans l’ère du mensonge, et donc du doute et de la suspicion généralisés.
Les internautes doivent apprendre à détecter ces faux contenus et à vérifier les informations (et ne comptez pas sur Wikipédia pour cela), car ils ne peuvent pas se reposer sur la modération des plateformes, visiblement dépassées par le phénomène. Il est toutefois possible de signaler ces chaînes à youtube. Pour cela, cliquez sur “Signaler”, puis cochez la case “Spam ou contenu trompeur”.
Le 13 février 2025, la Commission et le Conseil européen des services numériques ont approuvé l’intégration du Code de bonnes pratiques sur la désinformation 2022 (The 2022 Code of Practice on Disinformation) au sein du règlement sur les services numériques (DSA). Celui-ci renforce les mesures visant à réduire les comportements manipulateurs utilisés pour diffuser de la désinformation (par exemple, les faux comptes, l’amplification par des robots, l’usurpation d’identité, les deepfakes malveillants).
Cette situation est d’autant plus frappante que le nouveau pape expliqua, le 10 mai 2025, avoir choisi le nom de Léon XIV pour “plusieurs raisons, principalement parce que le pape Léon XIII, avec l’encyclique historique Rerum novarum, a abordé la question sociale dans le contexte de la première grande révolution industrielle […] Aujourd’hui l’Église offre à tous son héritage de doctrine sociale pour répondre à une autre révolution industrielle et aux développements de l’intelligence artificielle, qui posent de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail.”
Ce constat renforce notre volonté de faire d’Edifiant.fr un sanctuaire pour les âmes en quête de vérité.
Sur Edifiant.fr, nous vous garantissons un contenu de qualité, sourcé et vérifié, réalisé sans IA. Une fois publiées, toutes nos enquêtes sont mises à jour, corrigées et affinées, de manière permanente, au fil des années.
Accédez à nos contenus, en rejoignant gratuitement notre newsletter :
Ressources
En français
- RFI, Un sosie du pape Léon XIV sème le trouble sur les réseaux sociaux arabophones, 23 mai 2025.
- Encyclique Magnifica humanitas du pape Léon XIV, sur l’intelligence artificielle (25 mai 2026).
En anglais