Hoppa till huvudinnehåll

Film med deep fake vill provocera åskådaren

torsdag, december 17, 2020

Sommaren 2019 blev Paul Blomgren DoVan, producent på Gothenburg Film Studios, kontaktad av regissör Morgane Dziurla-Petit. Morgane presenterade en idé om ensamhet och isolering, berättad genom Sally, en medelålders kvinna i jakt på kärlek.

Den 3 december sändes en ny omgång av seminarieserien Audiovisual Talks från Studion på Visual Arena, ett nationellt samverkansprojekt arrangerat av Film&TV Lindholmen och Filmkontoret, Göteborgs Stad, i samarbete med AI Sweden, Filmbasen/Film Stockholm, Film i Skåne, FilmCloud/Förvaltningen för kulturutvecklingen - VGR och Visual Arena vid Lindholmen Science Park. I fokus stod kortfilmen Grab Them, som berör frågor om demokrati och etik i förhållande till den AI-teknik som användes i skapandet av filmen.

Panelen bestod av regissören och manusförfattaren Morgane Dziurla-Petit, producent Paul Blomgren DoVan, AI-tekniker John Harrysson samt Carl Heath, specialist inom demokrati och etik. Seminariet modererades av Ebba Josefson Lindqvist från AI Sweden.

Grab Them är en kortfilm som hade premiär på Göteborgs filmfestival våren 2020, och den finns fortfarande att se på SVT Play. Filmen handlar om Sally, en kvinna i övre medelåldern som brottas med ensamhet och jakten på kärlek. 

Tidigare hade deep fake bara använts på plattformar som YouTube, i kortare och mindre format. Grab Them skulle visas på biodukar och krävde därför mer av tekniken. Utmaningen var att utveckla deep fake-tekniken till att hålla den standard som behövdes för att historien skulle få en autentisk trovärdighet och ge den effekt som produktionen ville ha.

Tidigt i processen valde produktionen att använda AI-teknik för att berätta historien om Sally, och inledde därför ett samarbete med AI Sweden, där John Harrysson började utveckla tekniken efter de behov som filmen hade.

Deep fake

Det som kanske väcker störst uppmärksamhet med Grab Them och Sally, är att hon till utseendet liknar en välkänd amerikansk president. Denna slående likhet komplicerar hennes liv, och gör det svårt för henne att hitta någon att dela sin vardag med. 

Deep fake fungerar som ett mjukvaruprogram som kombinerar två olika ansikten och skapar ett nytt. Man pratar om “the destination and the target”, som är begrepp för att skilja på de olika ansikten som tillsammans ska bilda ett nytt, datoranimerat. Programmet tränas att lära sig hur ansiktet som agerar “ the target” ser ut genom fotografier och videos, för att sedan kunna appliceras på ansiktet som är “the destination”, som i detta fallet är skådespelarens. Där kombineras gester och uttryck från skådespelaren med “the target” och slutligen skapar programmet ett nytt, unikt ansikte.

Tekniken startar diskussioner

Det är alltså genom AI-teknik i form av deep fake som produktionen kunnat berätta Sallys historia på det sätt de ville. I processen har man utvecklat tekniken och skapat nya verktyg för filmbranschen att utforska i framtida projekt.

Digitaliseringen har gjort att teknik och filmskapande är tillgängligt för nästan vem som helst. Detta innebär att representationen och fördelningen inom filmvärlden kan få en större plats och ge fler perspektiv chansen att synas. Men det betyder inte alltid att alla använder dessa verktyg med rätt avsikter.

Med nya tekniska möjligheter kommer nya frågor och ställningstaganden att ta hänsyn till. Aspekten om missbruk och propaganda får stor betydelse, när man med AI-teknik kan lura en publik genom att få en person att uttrycka sig hur man vill. Diskussionen berör även frågor om demokrati, etik och moral, likväl som juridiska frågor om lagar och förhållningssätt, vilket är en ständigt pågående debatt. 

Produktionen ville inte lura publiken och skapa fake news eller förmedla något felaktigt. Istället ville man provocera genom att starta en tankeprocess hos åskådaren, och skapa en ökad förståelse genom att ifrågasätta om det som syns är sant eller inte. Målet var inte att servera några svar, utan att problematisera - är den här kvinnan riktig? Ser hon ut så? Är hon verkligen så lik den här mannen? Vad är det som är sant?

Se en kort trailer från seminariet

Läs mer om Audiovisual Talks