Denne uken ble OpenAIs Sora lansert for alle, etter å ha vært vist frem tidligere i år. Sora gjør det mulig å skape svært realistiske AI-genererte videoer som ofte er umulig å skille fra ekte videoer.
Internett oversvømmes allerede av AI-genererte videoer, og med verktøy som Sora er det grunn til å tro at det kommer til å bli mye mer av det i årene som kommer.
Så hvordan skal vi vite hva som er ekte og hva som ikke er det?
Nå lanserer Meta et verktøy de håper kan hjelpe: Et nytt åpen kildekode-basert (MIT-lisens) verktøy for merking av AI-genererte videoer – Meta Video Seal.
– Selv om AI-verktøy kan bidra til å bringe verden tettere sammen, er det viktig med sikkerhetstiltak for å redusere risikoen for imitasjon, manipulering og andre former for misbruk som kan undergrave fordelene, skriver Meta i lanseringsbloggposten.
Bedre sporbarhet
Meta skriver at de mener vannmerking er et viktig skritt mot å få bedre sporbarhet for innhold og AI-modeller.
– Video Seal legger til et vannmerke (med en valgfritt skjult melding) i videoer som ikke er synlig for det blotte øye, og som senere kan avdekkes for å finne ut hvor videoen kommer fra, skriver selskapet.
Vannmerket skal ikke forsvinne eller bli ødelagt selv om du for eksempel gjør videoen mer uskarp eller beskjærer den. Det skal heller ikke bli ødelagt av komprimeringsalgoritmer som ofte brukes når man deler innhold på nettet.
I tillegg til vannmerker, kan løsningen som nevnt også brukes til å legge inn skjulte meldinger i videoene om for eksempel hvor videoen stammer fra.
Her er et eksempel på hvordan du vannmerker videoer og senere leser av vannmerket igjen:
import torchvision.io
import videoseal
from videoseal.evals.metrics import bit_accuracy
# Load video and normalize to [0, 1]
video_path = "assets/videos/1.mp4"
video = torchvision.io.read_video(video_path, output_format="TCHW")
video = video.float() / 255.0
# Load the model
model = videoseal.load("videoseal")
# Video Watermarking
outputs = model.embed(video, is_video=True) # this will embed a random msg
video_w = outputs["imgs_w"] # the watermarked video
msgs = outputs["msgs"] # the embedded message
# Extract the watermark message
msg_extracted = model.extract_message(imgs_w, aggregation="avg", is_video=True)
# VideoSeal can do Image Watermarking
img = video[0:1] # 1 x C x H x W
outputs = model.embed(img, is_video=False)
img_w = outputs["imgs_w"] # the watermarked image
msg_extracted = model.extract_message(imgs_w, aggregation="avg", is_video=False)Meta har et teknisk dokument som beskriver løsningen her og du finner git-repoet her hvis du vil teste det selv.
Flere løsninger finnes
Det finnes flere andre løsninger på markedet for vannmerking av videoer, skriver TechCrunch.
To eksempler er DeepMinds SynthID-løsning for å vannmerke videoer, samt en løsning Microsoft har bygget for å vannmerke bilder laget med Bing Image Creator and Designer.
I et intervju med TechCrunch sier Pierre Fernandez i Meta at han mener mange av de andre løsningene ikke er gode nok:
– Selv om det finnes andre vannmerkingsverktøy, så er de ikke robuste nok til å motstå videokomprimering, som er veldig vanlig ved deling av innhold via sosiale medier, sier Fernandez.
Han hevder også at de andre løsningene ikke er effektive nok til å kjøre i stor skala, og at de gjerne er basert på løsninger for vannmerking av bilder – noe som ikke er optimalt for videoer.
