Deepfake’i, czyli treści generowane przy użyciu sztucznej inteligencji, stały się jednym z największych wyzwań cyfrowego świata. Według platformy Sumsub, liczba deepfake’ów wzrosła czterokrotnie od 2023 do 2024 roku, a w samym 2024 roku odpowiadały one za 7% wszelkiego rodzaju oszustw, od przejęcia kont, po złożone kampanie inżynierii społecznej.
Jakie rozwiązanie na ten problem proponuje Meta? Oto wszystko, co musisz wiedzieć o nowym narzędziu Video Seal.
Video Seal — Niewidzialny znak wodny dla treści wideo
Meta zaprezentowała niedawno Video Seal — narzędzie do nanoszenia praktycznie niewidocznych znaków wodnych na materiały wideo generowane przez AI. Jak podkreśla Pierre Fernandez, badacz sztucznej inteligencji w Meta, Video Seal został stworzony z myślą o:
- Wykrywaniu treści generowanych przez sztuczną inteligencję.
- Zabezpieczaniu oryginalności materiałów.
Dzięki temu narzędziu, można nie tylko nałożyć znak wodny, ale także dodać ukrytą wiadomość, która może być odkryta później w celu potwierdzenia źródła treści.
Dlaczego Video Seal wyróżnia się na tle innych narzędzi?
Chociaż na rynku istnieje już kilka rozwiązań do znakowania treści, Meta twierdzi, że Video Seal eliminuje wiele słabości konkurencyjnych technologii, takich jak SynthID od DeepMind czy rozwiązania Microsoftu. Fernandez wyjaśnia:
“Większość narzędzi nie jest wystarczająco odporna na kompresję wideo, co jest niezwykle częste w przypadku udostępniania treści w mediach społecznościowych.”
Video Seal został zaprojektowany tak, by był odporny na:
- Kompresję popularnymi algorytmami.
- Podstawowe edycje, takie jak rozmycie czy przycięcie kadru.
Dodatkowo narzędzie jest open source, co oznacza, że może być łatwo zintegrowane z istniejącym oprogramowaniem. To otwiera drzwi dla programistów i badaczy na całym świecie.
Wyzwania i ograniczenia Video Seal
Chociaż Video Seal brzmi jak idealne rozwiązanie, Fernandez przyznaje, że narzędzie nie jest pozbawione wad. Największym wyzwaniem jest kompromis między widocznością znaku wodnego a jego odpornością na manipulacje. Intensywna kompresja czy znaczne edycje mogą sprawić, że znak wodny stanie się trudny do odzyskania.
Dodatkowym problemem jest brak motywacji branży do wdrażania takich technologii, zwłaszcza jeśli już korzystają z własnych, zamkniętych rozwiązań. Aby temu zaradzić, Meta uruchomiła publiczny ranking Meta Omni Seal Bench, który porównuje wydajność różnych metod znakowania treści. Co więcej, firma planuje warsztaty na temat znakowania podczas konferencji ICLR w tym roku.
Czy watermarking stanie się standardem?
Meta ma nadzieję, że watermarking, czyli znakowanie treści, stanie się standardem w branży.
“Chcemy współpracować z przemysłem i społecznością akademicką, aby szybciej rozwijać ten obszar,” podkreśla Fernandez.
Otwarty charakter Video Seal oraz inne inicjatywy Meta mogą przyczynić się do szerszego przyjęcia technologii, co z kolei może pomóc w walce z rosnącym problemem deepfake’ów.
Źródło: TechCrunch
Photo by Dima Solomin on Unsplash
