Har påve Franciskus brutit sitt celibat och gift sig?! Nej. Men bröllopsbilderna – som har fått stor spridning på sociala medier – visar enligt upphovsmannen Micael Grenholm hur artificiell intelligens enkelt kan användas för att lura människor.
– Men det var aldrig min intention, säger han till Dagen.
Artificiell intelligens (AI) har på senare tid blivit ett begrepp på mångas läppar, framför allt för dess förmåga att skapa texter. Men AI kan även generera andra saker, exempelvis trovärdiga röster och bilder. Det sistnämnda är något som Micael Grenholm har testat – med oväntat resultat. Allt började med att han registrerade ett konto på midjourney.com där användare kan skapa konstverk genom att i text beskriva hur bilderna ska se ut. Tanken var att skapa bilder till ett kortspel som Micael Grenholm har utvecklat.
– Jag kan inte rita jättebra och ville därför testa Midjourney, säger han och berättar att han blev helt överväldigad av resultatet.
– Bilderna var fantastiska.
Därefter började Micael Grenholm testa vad som var möjligt att skapa och när en bild på påven i en stor pösig vinterjacka – framtagen av en annan Midjourneyanvändare – började cirkulera på sociala medier i slutet av mars insåg han påvens potential.
– Midjourney har tränats på miljontals bilder och eftersom det finns så många autentiska bilder på påven blir bilder på påven som Midjourney genererar också verklighetstrogna.
Människor började gratulera påven
Genom att be Midjourney skapa bröllopsbilder på påven hoppades Micael Grenholm belysa hur fotorealistisk AI-teknik har blivit. Samtidigt säger han att han ville förmedla subtil kritik av celibatkravet inom Katolska kyrkan på ett humoristiskt sätt.
Bilderna som Midjourney genererade delade han för tre veckor sedan i en Facebookgrupp som heter ”Midjourney AI”. Enligt Micael Grenholm är namnet en viktig detalj i sammanhanget.
– Alla bilderna som delas där är AI-genererade bilder.
Men inte ens ett dygn efter att Micael Grenholm hade delat sina bilder hade de delats av folk utanför gruppen och snart cirkulerade de bland annat i en Facebookgrupp med över 200 000 medlemmar, framför allt i västra Afrika. Där utgick många från att bilderna var autentiska. Många valde också att gratulera påven och konstaterade att detta även öppnade för giftermål bland katolska präster.
– Jag insåg vad som hade hänt när personer i andra Facebookgrupper som jag är med i började dela bilderna där utan att veta att det var jag som hade skapat dem med hjälp av AI.
[ Präst: Hur ska äktenskap mellan människa och AI hanteras? ]
Ville inte göra narr av påven
Efter Micael Grenholms initiativ har hans ursprungliga inlägg i Facebookgruppen ”Midjourney AI” plockats bort. På andra ställen har bilderna fått en varningstext som förklarar att det är falska. Dessutom har Micael Grenholm anklagats för bedrägeri och fått kritik från individer som menar att han inte borde göra narr av påven.
[ Kan de kyrkliga jobben tas över av AI? ]
Till Dagen säger han att det sistnämnda aldrig var meningen. Och bedrägerianklagelserna har han svårt att förstå.
– I Facebookgruppen där jag först delade dem var det självklart att de var AI-genererade. Det enda jag kunde ha gjort annorlunda var kanske att skriva något i själva inlägget om att de var AI-bilder. Problemet uppkom när de fick spridning och tappade den kontexten.
Ångrar du att du skapade bilderna och delade dem?
– Nej. Det är snarare bra om de kan bidra till att folk får upp ögonen för AI och riskerna med det. Det jag gjorde var ganska harmlöst och dessutom lätt att dubbelkolla. Men det visar samtidigt hur lätt det är att använda bilder för att begå bedrägeri. Det visar också att kyrkans ledare behöver stå bakom arbetet för en reglering av AI, svarar Micael Grenholm som samtidigt poängterar att AI-bilder också kan användas på ett positivt sätt av församlingar.
– Det gör det möjligt att skapa större inlevelse i gudstjänst och ungdomsverksamhet, genom predikoillustrationer eller att till och med placera sig själv i bilder med bibliska kläder och miljöer.
Frågan är då vem kvinnan som ser ut att vara påvens nyblivna hustru är? Micael Grenholm förtydligar att det inte är en person.
– Hon finns inte. Det är en person som AI-verktyget har skapat utifrån alla de miljontals bilder på människor som det har tränats på. Men visst ser hon verklig ut. Jag skrev bara att påven hade gift sig och utifrån den informationen skapade Midjourney några bilder.
