Jednym z najfajniejszych filmów, jakie widziałem w zeszłym roku, jest klip z YouTube'a Połączenia Late Show z Davidem Lettermanem z udziałem aktora i komika Billa Hadera. 

A może… czy to było właściwie Tom Cruise? Czasami trudno to stwierdzić, ponieważ płynnie przełączają się tam iz powrotem.

Więc co dokładnie tu oglądasz? Cóż, ktoś wziął nieedytowany klip z Lettermanem przeprowadzającym wywiad z Haderem, a następnie zamienił twarz Cruise'a za pomocą sztucznej inteligencji.

Film jest znany jako Deepfakelub zmanipulowane media stworzone za pomocą sztucznej inteligencji. 

Deepfake może być tak proste, jak zamiana twarzy jednego aktora na drugiego w klipie z ulubionego filmu. Możesz nawet poprosić osobę podszywającą się o dźwięk do zsynchronizowanych ruchów ust i stworzyć zupełnie nowy moment dla wybranej osoby. Ten deepfake Obamy, wyrażony przez Jordana Peele, jest doskonałym przykładem tego użycia.  

Podczas gdy zmanipulowane media są ostatecznie generowane przez sztuczną inteligencję, stojący za nimi człowiek nadal potrzebuje czasu i cierpliwości, aby stworzyć dobrej jakości deepfake. W przypadku zmienionego klipu Lettermana twórca filmu musiał wziąć oryginalny klip i przesłać go do potężnego komputera w chmurze wraz z mnóstwem różnych nieruchomych obrazów twarzy Toma Cruise'a. 

W tym czasie komputer w istocie bada obraz i wideo. To „uczenie się”, jak najlepiej zamienić twarze Hadera i Cruise'a i wygenerować bezbłędny fragment zmanipulowanego wideo. Czasami sztuczna inteligencja potrzebuje tygodni, aby udoskonalić deepfake. Plus, może być drogi, też. Potrzebujesz komputera z dość potężnymi specyfikacjami lub będziesz musiał wynająć maszynę wirtualną w chmurze, aby wykonać wysokiej jakości tworzenie deepfake. 

Ale to szybko się zmienia. Wielkie firmy technologiczne podążają za trendem i opracowują własne oprogramowanie, aby użytkownicy mogli tworzyć treści typu deepfake. A teraz tworzenie deepfake’ów staje się łatwiejsze.

Wcześniej w tym tygodniu aplikacja mobilna do zamiany twarzy Podwójny kot uruchomiona. Założony przez firmę RefaceAI zajmującą się sztuczną inteligencją, Doublicat jest prawdopodobnie najprostszym narzędziem do manipulacji mediami. Wystarczy pobrać aplikację, zrobić sobie selfie i wybrać jeden z setek GIF-ów przedstawiających popularne sceny z filmów, programów telewizyjnych i Internetu. W ciągu kilku sekund Twój krótki, zapętlony, deepfake GIF jest gotowy do udostępnienia. 

„Przeszliśmy od martwienia się o udostępnianie naszych danych osobowych do martwienia się o udostępnianie naszych osobistych obrazów” — mówi Singer.

GIFy są dość proste i prawdopodobnie wybierane na podstawie tego, który obraz najłatwiej byłoby wyrzucić z aplikacji dokładną zamianę twarzy. Daleko mu do ideału, ale jest niezwykle szybki. A to, co potrafi zrobić nawet z selfie niskiej jakości, jest imponujące. Z czasem technologia stanie się jeszcze lepsza.

Doublicat powiedział Mashable, że „nadejdą aktualizacje umożliwiające użytkownikom przesyłanie własnych GIF-ów, wyszukiwanie GIF-ów w aplikacji i używanie zdjęć z aparatu w telefonie”. 

Doublicat może być najprostszym narzędziem do manipulacji mediami w USA, ale podobne aplikacje istnieją na rynkach międzynarodowych.

"Zao, nowe Cameos Snap, Doublicat — zamiana twarzy staje się towarem dzięki kreatywnym przedsiębiorcom z Chin i Ukrainy” – powiedział Jean-Claude Goldenstein, założyciel i dyrektor generalny CREOpunkt, firma, która pomaga firmom radzić sobie z dezinformacją. Goldenstein zwraca uwagę, że Snapchat ostatnio nabyty AI Factory, firma stojąca za jego Kamea za 166 milionów dolarów. 

TikTok, niezwykle popularna aplikacja wideo należąca do chińskiej firmy Bytedance, podobno już rozwinięty jeszcze uruchomiona aplikacja deepfake.

Ale to nie tylko zabawa i gry.

„Deepfake może zrujnować reputację dosłownie w kilka sekund, więc jeśli osoby publiczne nie zaczną przygotowywać się do tych zagrożeń, zanim uderzą, będą mieli nieprzyjemne przebudzenie, jeśli kiedykolwiek będą mieli nieszczęście znaleźć się w jednym z te filmy”, powiedział dyrektor generalny Marathon Strategies, Phil Singer, Mashable. Firma PR Singera niedawno uruchomiła usługę swoiście radzić sobie z dezinformacją za pomocą deepfake.

Aby zrozumieć obawy stojące za tą pozornie nieszkodliwą technologią, która została wykorzystana do tworzenia zabawnych filmów, należy zrozumieć, w jaki sposób deepfake po raz pierwszy zyskały na znaczeniu.

Pod koniec 2017 roku na Reddicie ukuto termin „deepfake” w odniesieniu do mediów manipulowanych przez sztuczną inteligencję. Najlepszymi przykładami w tamtym czasie były śmieszne filmy związane z Nicolasem Cage'em. Ale potem przejęły się fałszywe filmy erotyczne. Korzystając z technologii deepfake, użytkownicy zaczęli przenosić swoje ulubione hollywoodzkie aktorki i zamieniać je twarzami w filmy dla dorosłych. Reddit przeniósł się do zakaz pornograficzne wykorzystanie deepfake w 2018 roku i rozszerzony jego polityka dotycząca deepfake w zeszłym tygodniu.

W dobie fałszywych wiadomości i dezinformacji, które łatwo rozprzestrzeniają się w Internecie, nie trzeba długo czekać, aby zobaczyć, jak fałszywe filmy pornograficzne mogą zrujnować czyjeś życie. Biorąc pod uwagę fakt, że jesteśmy teraz w roku wyborów prezydenckich, pierwszej od czasu, gdy skoordynowane kampanie dezinformacyjne wpadły w amok w 2016 r., zrozumiesz, dlaczego ludzie martwią się złośliwym wykorzystaniem tej rozwijającej się technologii.

„Przeszliśmy od martwienia się o udostępnianie naszych danych osobowych do martwienia się o udostępnianie naszych osobistych obrazów” — mówi Singer. „Ludzie muszą bardzo rozważnie udostępniać swoje zdjęcia, ponieważ nigdy nie wiadomo, w jaki sposób zostaną wykorzystane”.

„To tylko kwestia czasu, zanim staną się tak wszechobecne, jak którekolwiek z narzędzi mediów społecznościowych, z których obecnie korzystają ludzie” – kontynuował.

Najbardziej niepokojące jest to, że niektóre z największych firm technologicznych na świecie wciąż zastanawiają się, jak zwalczać nikczemne podróbki.

Tylko w tym miesiącu Facebook ogłosił swoją zakaz deepfake. Jednak jeden problem: jak rozpoznać deepfake'a? Jest to problem, którego największa platforma społecznościowa na świecie wciąż nie jest w stanie poprawnie rozwiązać. 

Facebook uruchomił Deepfake Detection Challenge, aby współpracować z naukowcami i naukowcami nad rozwiązaniem tego problemu, ale wciąż nas tam nie ma i prawdopodobnie nigdy nie będziemy tam w stu procentach. 

Według strony Facebooka Deepfake Detection: „Technologie sztucznej inteligencji, które napędzają zmanipulowane media, szybko ewoluują, co sprawia, że ​​deepfake są tak trudne do wykrycia, że ​​czasami nawet ludzie oceniający nie są w stanie wiarygodnie odróżnić”.

„To poważny problem, ponieważ sztuczna inteligencja nie może niezawodnie wykrywać fałszywych wiadomości ani wystarczająco szybko sprawdzać faktów”, wyjaśnia Goldenstein z CREOpoint.

Podczas naszej wymiany Goldenstein wysłał mi następujący cytat: „Kłamstwo słyszy się na całym świecie, zanim prawda zdąży założyć spodnie”.

Co ciekawe, sprawdzając pochodzenie cytatu, odkryłem, że często występują różne wersje cytatu błędnie przypisane przez lata do Winstona Churchilla. 

Gdyby ktoś naprawdę chciał podwoić przekonanie, że Churchill to powiedział, wydaje się, że nie byłoby tak trudno stworzyć deepfake, który „udowadnia”, że to zrobił.