Próbowaliśmy stworzyć podróbkę Marka Zuckerberga i Alexa Jonesa — i nie udało nam się. Oto, co się stało.

Sprawienie, by wyglądało to tak, jakby ktoś zrobił lub powiedział coś, co nigdy się nie wydarzyło, jest trudniejsze niż się wydaje.

Tego właśnie nauczył się Poynter w ciągu ostatnich kilku tygodni, próbując stworzyć „deepfake” wideo Alexa Jonesa, gospodarza Infowars i częstego teoretyka spiskowego, wygłaszając uwagi, które faktycznie zostały wygłoszone przez dyrektora generalnego Facebooka Marka Zuckerberga. Głębokie podróbki, nazwany na cześć użytkownika Reddit którzy wymyślili tę metodę, są zasadniczo tworzone przez wyodrębnienie dużej liczby klatek z jednego filmu i nałożenie ich na siebie.

Cel: Spraw, aby wyglądało na to, że ktoś robi lub mówi coś, czego nie robi. I to właśnie próbował zrobić Poynter, aby zobaczyć, jak łatwa jest ta technologia w rzeczywistości.

Za pomocą Fałszywa aplikacja , darmowe narzędzie online, które pozwala użytkownikom tworzyć własne deepfake, próbowaliśmy stworzyć szczątkowy film, w którym Zuckerberg opowiada o bezpodstawnych teoriach spiskowych Jonesa. Poniżej znajduje się wideo, stworzone z pomocą niepełnoetatowego twórcy stron internetowych Poyntera, Warrena Fridy'ego.

Najwyraźniej to nie jest dobra wersja czegoś, co amatorskie porno , ludzie na marginesie witryn a nawet partie polityczne stały się niepokojąco biegłe. Podczas gdy twarz Zuckerberga jest rzeczywiście nałożona na Jonesa, FakeApp obejmował całą jego twarz, sprawiając, że wyglądał jak jakiś rozmyty demon bez widocznych oczu. Do tego dochodzi fakt, że dźwięk się nie transponował.

W skrócie: Powinniśmy zachować naszą codzienną pracę.

Żarty na bok, zajęło nam tygodnie, zanim wymyśliliśmy coś, co jest dalekie od nawet znośnego wideo typu deepfake. A to dlatego, że — pomimo częstych doniesień w mediach na temat technologii deepfake — to naprawdę jest naprawdę trudne stworzyć jeden.

„Deepfake wymaga sporo wysiłku ręcznego”, powiedział Matthias Niessner , profesor Uniwersytetu Technicznego w Monachium, którego laboratorium badania deepfakes, w e-mailu do Poyntera. „W pewnym sensie można to uznać za podobne do Photoshopa. To po prostu trochę przereklamowane.

Według doniesień, wzrost liczby deepfake'ów – omówiony podczas dzisiejszego panelu na Światowym Szczycie Weryfikującym Fakty w Rzymie – zmienił się z przerażającego internetu w prawdziwe zagrożenie dla demokracji. Toczący Kamień . Vox napisał że zmanipulowane filmy mogą zmienić nasze wspomnienia, The Verge powiedział tworzenie fałszywych filmów porno wkrótce będzie super łatwe i Przewodowy nawet zakryty startup blockchain, który poświęcił się walce z tym formatem.

W tym samym czasie, niektórzy zgłosili że ogólne deepfake już się skończyły, a „głębokie portrety wideo” są tym, o co wszyscy powinniśmy się martwić.

Tymczasem, po ponad miesiącu prób, ledwo byliśmy w stanie wyprodukować coś, co wyglądało choćby minimalnie realistycznie. Jasne, można to (słusznie) przypisać naszej nieznajomości modeli uczenia maszynowego — inny dziennikarzy odniosły większy sukces — ale chodzi o to, że tworzenie znacznie zmienionego wideo nie jest jeszcze tak łatwe, jak opublikowanie fałszywej wiadomości na Facebooku (i prawdopodobnie nie tak opłacalne).

„Nie sądzę, aby ludzie bez żadnego doświadczenia w głębokim uczeniu mogli stworzyć przekonujące wideo deepfake za pomocą aplikacji deepfake dostępnej online” – powiedział Annalisa Verdoliva , adiunkt na Uniwersytecie Neapolitańskim Federico II, w e-mailu do Poyntera. „Nawet dla ekspertów jest to dość trudne”.

Verdoliva próbowała stworzyć własne wideo z deepfake z zespołem badawczym i powiedziała, że ​​wyszło to słabo, ponieważ nie uzyskali wystarczającej różnorodności obrazów, aby dokładnie wytrenować model, który tworzy deepfake. To kluczowe wyzwanie również dla niedoszłych oszustów, takich jak Poynter.

Oto kroki, które podjęliśmy:

1. Pobraliśmy FakeApp i zainstalowaliśmy go na zdalnym pulpicie Windows (Poynter prawie wyłącznie używa komputerów Mac, z którymi FakeApp nie jest kompatybilny).
2. Pobraliśmy dwa klipy wideo — jeden z Zuckerberg mówiąc o śledztwie w sprawie rosyjskiej ingerencji w amerykańskie wybory w 2016 r., oraz inny Jones mówić o „głębokim państwie” i programie politycznym prezydenta Donalda Trumpa. To daje FakeApp wiele zdjęć twarzy do wyboru.
3. Pozwalamy „sztucznej inteligencji”, która napędza FakeApp znaleźć i przyciąć twarze w każdym filmie, aby stworzyć model uczenia maszynowego, który połączy Jonesa i Zuckerberga, aby wyglądało, że ten pierwszy mówi tak, jak ten drugi. Zajęło to cały weekend, czyli około trzech dni.
4. Wreszcie FakeApp wygenerował wideo. Fridy powiedział, że mógłby trenować model dłużej i przy większej liczbie zdjęć twarzy Zuckerberga, aby uczynić ją dokładniejszą, ale zajęłoby to więcej czasu.

Teraz czas na zabawną część. Oto niektóre z problemów, które napotkaliśmy podczas korzystania z FakeApp:

1. Nie możesz uruchomić FakeApp na macOS firmy Apple — dla nas działało to tylko w systemie Windows.
2. Musisz mieć Karta graficzna oparta na NVIDIA , który jest zasadniczo elementem sprzętowym, który umożliwia przetwarzanie wszystkich obrazów i morfowanie ich razem.
3. Musisz mieć dużo pamięci na swoim komputerze — około 10 GB lub więcej.
4. Natknęliśmy się na problemy ze zgodnością z różnymi wersjami TensorFlow, biblioteki oprogramowania, która umożliwia FakeApp tworzenie własnego modelu uczenia maszynowego.
5. Wyciągnęliśmy dźwięk z oryginalnego filmu, aby spróbować umieścić go w deepfake, ale FakeApp nic z nim nie zrobił.

„FakeApp brzmi nieźle, ale kiedy usiądziesz, by go wypróbować, nie działa w 100 procentach” – powiedziała Fridy. „To nie jest narzędzie po wyjęciu z pudełka”.

Fałszywa aplikacja podobno był pobrane ponad 100 000 razy. Istnieją całe kanały 4chan i Reddit poświęcone tworzeniu deepfake. Ale na razie ta technologia jest w najlepszym razie szczątkowa — nawet dla tych, którzy wiedzą, jak z niej właściwie korzystać.

(Zrzuty ekranu z FakeApp)

Fridy powiedziała, że ​​technologia lubi Adobe After Effects oraz Lirogon , jak również Twarz2Twarz oraz Pixel2Pixel , byłoby prawdopodobnie lepszym rozwiązaniem do tworzenia filmów typu deepfake. S.pa, belgijska partia polityczna, która stworzył deepfake'a Trumpa w zeszłym miesiącu stosowałem After Effects.

Pomimo komplikacji związanych z narzędziami, filmy typu deepfake wciąż są niepokojące — ale nie w najbliższej przyszłości i z kilkoma zastrzeżeniami.

„Jesteśmy dopiero na początku tej technologii i myślę, że wkrótce ulegnie ona poprawie i stanie się łatwa w użyciu dla wszystkich” – powiedział Verdoliva. „W tej chwili rozdzielczość jest nadal zbyt niska, ale będzie to problem w najbliższej przyszłości, ponieważ nastąpił oszałamiający postęp w generowaniu wysokiej jakości syntetycznych twarzy”.

Jednocześnie nieporozumienie i przecenianie wpływu i potencjału deepfake może stanowić większe zagrożenie w krótkim okresie.

„W tej chwili moim największym zmartwieniem jest błędne wyobrażenie wielu z tych podejść” – powiedział Niessner. „Przemysł filmowy od 30 lat tworzy całkiem realistyczne „fałszywe” obrazy. Ale teraz dodanie sztucznej inteligencji jako modnego hasła nagle staje się problemem — mimo że nawet nie działa tak dobrze”.

Deepfake filmy zostaną omówione podczas panelu w Global Fact 5 dzisiaj. Śledź @factchecknet i #GlobalFactV, aby otrzymywać aktualizacje na żywo.