- Deepfakes basert på dyplæring har gjort store framskritt de siste årene, og har gjort teknologien tilgjengelig for flere, sier Håkon Hukkelås, deepfake-ekspert og doktorgradsstipendiat ved NTNU, til kode24.
Forrige uke florerte en video av Ukrainas president Volodymyr Zelenskyj på sosiale medier, der han ba ukrainere om å legge fra seg våpnene.
I videoen, som var en deepfake, sa presidenten også at han hadde bestemt seg for å overgi den ukrainske byen Donbass til russerne, at "militæret har sviktet og det viste seg å ikke være så enkelt å være president", skriver VG.
Ifølge avisen har Meta fjernet videoen fra blant annet Facebook og Instagram og har varslet andre sosiale medier.
Etter hvert som teknologien har blitt bedre, har deepfakes blitt en vanlig måte å spre falske nyheter på. Hukkelås tror at utfordringene knyttet til deepfakes bare vil bli større i tiden som kommer, men tror det er lenge til vi kommer til å se deepfakes av personen i gata.
Zao lager imponerende deepfakes lynkjapt
Ikke mulig for ti år siden
Hukkelås definerer deepfakes som "syntetisk generert media", som kan være både lyd, video, bildedata eller tekst.
Ifølge ham har deepfake-teknologien utviklet seg mye de siste ti årene.
- Dersom du skulle laget deepfakes med dagens kvalitet for ti år siden, måtte du brukt dyre metoder, slik som Hollywoods CGI. Vanlige folk hadde ikke tilgang til slik teknologi, sier han.
Ifølge Hukkelås er blir de fleste deepfakes laget ved hjelp av maskin- og dyplæringsmetoder.
- Dette innebærer datamaskinmodeller som har sett en haug med bildedata av hvordan mennesker ser ut og beveger seg, før man så spesifiserer det inn mot individer.
Biden: - Styrk cyberforsvaret umiddelbart!
Vanskelig å få til
- Er det for eksempel mulig for vanlige folk å lage en deepfake av Jonas Gahr Støre som erklærer krig mot Sverige?
- Du kan gjøre ganske mye med det som finnes der ute. Det eksisterer applikasjoner som tar inn en spesifikk video og setter inn en tekst som personen skal si. Så lenge du har en video av hvordan Støre oppfører seg, kan du generere noe som ser ekte ut.
Ifølge Hukkelås avhenger kvaliteten til det endelige resultatet av målet.
- I Zelenskyj-videoen har man bare endret teksten. Kroppen står helt stille. Det er veldig mye som må endres i en video for få det til å bli realistisk. Det er for eksempel forskjell på et negativt og positivt kroppsspråk, sier han.
Oberstløytnant ber deg forberede deg på cyberangrep
Propaganda-trussel
- Utgjør deepfakes en trussel mot samfunnet?
- Teknologien er mye mer realistisk enn det vi så med Zelenskyj-videoen, som er ganske dårlig sammenlignet med dagens standard. Hvorvidt det er en trussel handler om settingen, for eksempel om du bare skroller nedover mobilen og ikke er bevisst på å luke ut deepfakes.
Hukkelås tror at deepfakes vil være en utfordring med tanke på propaganda.
- Det kan få konsekvenser i land med lav tillit. Derimot stoler vi mye på politkerne våre i Norge. Det reduserer kanskje litt sjansen for deepfakes.
Han peker likevel på at det "absolutt er en sjanse" for at slike videoer kan gå viralt og få en effekt.
- Både nyhetsmedier og Zelenskyj var tidlig ute med å spre informasjon om at klippet var en deepfake, som gjør at effekten av klippet reduseres mye. Men det er absolutt mulig å spre mindre nyheter og kontroversielle ideer, sier Hukkelås.
Telenor, Meta, Youtube og EU utestenger russiske statsmedier
Så godt som umulig
Hukkelås tror at teknologiutviklingen de neste fem årene i genering av lyd vil gjøre det lettere å konvertere tekst til tale, og at metodene blir bedre til å endre kroppsspråket slik at det henger sammen med talen.
- Men, det kommer nok ennå til å kreves en del arbeid for å lage en "overbevisende" deepfake, for eksempel ved å finne lik video og lyd til det man ønsker å generere.
Ifølge Hukkelås vil dette fremdeles kreve "god data" av personen man ønsker å generere, for å få en god beskrivelse av talemåte og kroppsspråk.
- Så generering av deepfakes av "personen på gata" vil være så godt som umulig, også de neste årene.
Frykter Ukraina-krigen rammer IT-sikkerheten til norske kommuner
Slik avslører du deepfaken
Ifølge Hukkelås kan du oppdage deepfakes ved å se på om kroppsspråket stemmer overens med hvordan personen snakker.
- Noe annet man ikke tenker så mye på er kvaliteten på videoen. Zelensky-videoen er utrolig uklar og det er lite detaljer i huden. Det kan være et lite tegn på en deepfake.
Han legger til at mange akademikere holder på å lage deteksjonsmekanismer for å gjøre det lettere å oppdage deepfakes automatisk. En løsning er å bruke vannmerking. Når du tar et bilde med et kamera, vil det ofte stå et avtrykk i bildefilen hvilket kamera som har tatt bildet.
- Du kan gjøre det samme med deepfake-modeller som akademikere publiserer på nettet, og markere alle videoene som lages med den modellen, sier Hukkelås.