Deepfake-videoer har fått så høy kvalitet at det kan påvirke oss uten at vi merker det.
Deepfake videoteknologi dukket for alvor opp i 2017. Den gjør det mulig å plassere inn en hvilken som helst person i en video han aldri har deltatt i, og få ham til å si eller gjøre ting han aldri har gjort.
Deepfake-videoer av høy kvalitet har vært forbeholdt profesjonelle med tilgang på det siste i teknologi, men allerede tilbyr apper ansiktsbytte-teknologi som stort sett bare er morsom, men som kan lure deg ihvertfall i noen sekunder. Eksempler på dette er såkalt «hevnporno» skapt av tapere i kjærlighet.
Nye deepfake-videoer av Tom Cruise har fått millioner av visninger på TikTok og delinger på tvers av sosiale medier. Tom Cruise holder en mynt og ser på kameraet. «Jeg skal vise deg magi, det er virkelighet,» sier han og ler på sin karakteristiske måte mens han får mynten til å forsvinne.
Tre videoer har dukket opp på TikTok-kontoen «deeptomcruise». Videoene har utløst advarsler om at deepfake-teknologien utvikler seg raskere enn folk flest skjønner.
Det er uklart hvem som står bak videoene, men videoene ble raskt ansett som de så langt mest alarmerende og naturtro eksempler på den bekymringsfulle retningen teknologien er i ferd med å ta.
Hvis du liker det du ser kan du glede deg til det som kommer i neste omgang!
‘Deepfake’ Tom Cruise
At filmene er publisert av tiktokeren «deeptomcruise» og ikke er laget for å lure seerne eller stille hollywoodstjernen i et dårlig lys, gjør at TikTok ikke ser noen grunn til å ta ned filmene.
Vi vil fjerne digitale forfalskninger som villeder brukerne ved å forvrenge sannheten og/eller forårsake skade på personer eller samfunnet.
TikTok til avisen Times of London
Henry Ajder som forsker på mediemanipulasjon, advarer mot mulighetene som ligger i teknologien, men gitt visse begrensninger er det lite sannsynlig at svært realistiske deepfakes blir alment tilgjengelig med det første.
Rachel Tobac, hacker og administrerende direktør i sikkerhetsselskapet SocialProof, twitret at videoene viser at vi har nådd et stadium der deepfakes nesten umerkelig kan påvirke oss.
For to år siden sa jeg at vi var to år unna uoppdagelige deepfakes. Jeg skulle ønske at spådommen var feil. Vi trenger ASAP at syntetiske medier merkes med egne etiketter.
Rachel Tobac
Deepfakes vil påvirke den offentlige tillit, svekke straffegrunnlaget for kriminelle som avsløres på video, og det vil bli brukt til å manipulere, ydmyke og skade mennesker. Det kan få betydning for verdens sikkerhet – og dét har betydning for oss alle. Tenk på mulighetene dette gir for å demonisere fienden i oppløpet til eller under en krig.
Deepfake er begrep for at en person i bilde eller video blir erstattet med en annen. Deepfake bruker kraftig maskinlæringsteknologi og kunstig intelligens for å manipulere eller generere lyd, bilde og video med høyt potensiale for å fremstille falsk virkelighet.
Undertegnede har ikke funnet noe godt norsk ord for deepfake, men foreslår AI-imitasjon. Kommentarer til det?
Kilde: The Times
