Vatikanens kamp mot ”deepfake”-bilder på påve Leo XIV

Falska AI-genererade videor av påve Leo XIV sprids i sociala medier. Vatikanen anmäler hundratals konton och uppmanar de troende att förlita sig på officiella källor.

Av Hannah Brockhaus, 26. september 2025

Hörde du vad Leo XIV sa om Charlie Kirk eller president Donald Trump? Vad tycker han om ”uppryckandet” eller om det är okej att kremeras?

Dessa är bara några av de ämnen som påven till synes talat utförligt om i videor som dyker upp dagligen i sociala medier. Problemet är att dessa videor inte är äkta – och Vatikanen kämpar för att stoppa spridningen.

Vatikanens kommunikationsteam uppger att man har anmält hundratals konton, främst på YouTube, som publicerar falska AI-genererade videor – så kallade “deepfakes” – av påven Leo sedan början av hans pontifikat. Men det är en uppförsbacke: nya konton, videor och bilder dyker upp nästan lika fort som andra tas ned.

”Vi vittnar en exponentiell ökning av YouTube-kanaler med falska videor, alla lika varandra: vissa använder Leo XIV:s röst, andra hans översättares, åter andra talar i tredje person. Alla använder artificiell intelligens för att få påven att säga sådant han aldrig sagt”, säger Dikasteriet för kommunikation i ett uttalande till CNA.

En sökning på ”Pope Leo” på YouTube ger flertal falska klipp där den helige fadern påstås uttala sig om allt från det trovärdiga – exempelvis reflektioner över eukaristin – till det osannolika, som att han ger besked på sin avgång.

De flesta videor har bara några hundra visningar, men vissa deepfakes har börjat bli virala. En video på 25 minuter som påstår att påven brutit tystnaden om mordet på Charlie Kirk fick över 445 000 visningar under uppladdningens första sju dagar.

Ett av de första falska virala klippen som spreds efter Leos val tycktes visa påven läsa ett uttalande som fördömde kolonialismen och prisade Burkina Fasos tillfällige president, kapten Ibrahim Traoré, som tog makten i en kupp 2022. CNA och den officiella kanalen Vatican News publicerade faktagranskningar för att varna för desinformationen. Det 36 minuter långa klippet, uppladdat kort efter valet i maj, nådde minst en miljon visningar innan YouTube stängde kontot.

Deepfake

Begreppet ”deepfake” myntades för mindre än tio år sedan och avser video, foto eller ljudinspelningar som manipulerats för att få någon att framstå som att ha sagt eller gjort något som de egentligen aldrig sade eller gjorde.

Leo är förstås inte den första påven som förekommer i manipulerade videor. 2015 visade tv-profilen Ellen DeGeneres ett klipp där påven Franciskus drar bort en duk under altarljus. Och 2023 blev en stillbild viral där Franciskus bär en lång vit dunjacka.

Med att tekniken snabbt blir allt bättre är det förståeligt att oskyldiga tittare kan ha svårt att skilja fakta från fiktion.

Påve Leo har själv nyligen noterat ett sådant exempel: I en intervju med journalisten Elise Ann Allen berättade han att en bekant frågade honom oroligt hur han mådde sedan AI-skapade bilder på nätet i juni visat honom ”ramla” i en trappa utanför Peterskyrkan. Bilderna, som även uppmärksammades av faktagranskaren Snopes, var ”så bra att de trodde att det var jag”, sade Leo.

Vatikanens kommunikationsteam varnade för deepfakes i sitt månatliga nyhetsbrev i augusti och uppmanade läsare att anmäla misstänkta inlägg och videor till dikasteriet.

”Dagligen får vårt dikasterium tyvärr en mängd rapporter om falska konton som använder påvens bild och röst på mycket realistiska sätt, i allt högre grad med hjälp av artificiell intelligens – för att få påven att framstå som att säga sådant han aldrig yttrat och varit i situationer som han aldrig befunnit sig i”, står det i nyhetsbrevet.

”Mycket av vår tid går åt till att anmäla, tysta och begära borttagning av dessa konton”, fortsätter meddelandet. ”Med den enorma mängden falskt material är det omöjligt att offentligt bemöta varenda post.”

I uttalandet till CNA framhåller dikasteriet att Vatikanen inte bara anmäler falska konton, utan också ”arbetar för att öka publikens medvetenhet om detta nya fenomen. Vi anser att mediekunskap är avgörande.”

Vatikanen påminner samtidigt om att förlita sig på officiella källor. – såsom Vatikanens egna webbplatser: ”Finns det inte där, är det med största sannolikhet falskt.”

Denna artikel publicerades först av Catholic News Agency (CNA) och har översatts och anpassats av EWTN Sverige.