Wyrenderuj sobie konflikt międzynarodowy02.08.2019

Solidny komputer z odpowiednim programem ściągniętym za darmo z internetu. Kilkaset zdjęć, jedno wideo i wolne czterdzieści minut. Oto przepis na materiał wideo z Donaldem Trumpem prezentującym dowody na to, że Rosja ingerowała w ostatnie wybory prezydenckie w USA, przez co wycofuje się z ostatnich rozmów dyplomatycznych z Putinem. Witajcie w rzeczywistości deepfake.

Wbrew pozorom to nie fragment opowiadania Philipa K. Dicka, a rzeczywistość. Jej początków można upatrywać w technologii Looksery, która prężnie rozwijała się w 2014 i 2015 r. za sprawą mediów społecznościowych oraz Kickstartera. Ta pozornie niegroźna i nieskomplikowana aplikacja przetwarzała mimikę twarzy w czasie rzeczywistym do celów rozrywkowych – miała więc podobną funkcję do najróżniejszych filtrów na Instagramie i Facebooku, które znamy dziś. Deepfake to poniekąd spadkobierca tej technologii, jednak w znacznie bardziej zaawansowanej formie. Bazuje na algorytmie sztucznej inteligencji wykorzystującej mechanizmy uczenia maszynowego (tzw. sieci GAN) i dzięki niemu generuje fałszywe zdjęcia lub materiały wideo, które nigdy nie zostały stworzone i nie mają pokrycia w rzeczywistości.

Termin ten, tak jak i technologia, narodziły się wraz ze skandalem, który miał miejsce pod koniec 2017 r. Właśnie w tamtym czasie w serwisie Reddit po raz pierwszy użył tej techniki jeden z internautów, umieszczając twarze celebrytów w filmach pornograficznych. Ofiarami padły m.in.: Emma Watson, Natalie Portman, Michelle Obama, Ivanka Trump, Kate Middleton oraz Gal Gadot. Jako że technologia ta jest powszechnie dostępna, praktycznie każdy może ściągnąć na komputer odpowiedni program, dodać do niego zdjęcia lub materiał wideo i bez większych problemów stworzyć własne fake video. Technologia renderowania hiperralistycznych twarzy to jedno. Ale istnieje też oprogramowanie generujące ścieżkę dźwiękową, dzięki której można w bezbłędny sposób przypisać dowolnemu człowiekowi fikcyjne, niewypowiedziane wcześniej przez niego zdania. Wystarczy wprowadzić do aplikacji odpowiednią liczbę archiwalnych materiałów dźwiękowych i wygenerować bezbłędne ścieżki naśladujące artykulację, ton głosu i akcent danej osoby.

 Spektakularne przykłady

Im więcej fałszywych materiałów ogląda się na YouTubie, tym bardziej można upewnić się w przekonaniu, że technologia ta jest porządnie dopracowana – czasem nie sposób wręcz odróżnić fake’ów od autentycznych materiałów (na marginesie: warto się w tym sprawdzić rozwiązując test).

Mimo ogromnego potencjału, wciąż nie doszło do żadnej większej afery z udziałem deepfake, która zagrażałaby bezpieczeństwu narodowemu, a tym bardziej globalnemu.

 

W szerszy, wychodzący poza ramy skandalu sposób, komputerowe przetwarzanie twarzy objawiło się w 2018 r., kiedy zaczęto wklejać twarz Nicolasa Cage’a w filmy, w których nie grał. Użyto wtedy aplikacji After Effects z pakietu Adobe oraz darmowego FakeApp – tego samego, którego użyli internauci w 2018 r. do wyrenderowania twarzy odmłodzonej Carrie Fisher do sceny w „Łotr 1. Gwiezdne Wojny – historie”. Dla porównania, legendarne studio Industrial Light & Magic odpowiedzialne za właściwe efekty specjalne w filmie wydało kilkaset tysięcy dolarów na stworzenie podobnie wyglądającej księżniczki Lei:

Mimo ogromnego potencjału, wciąż nie doszło do żadnej większej afery z udziałem deepfake, która zagrażałaby bezpieczeństwu narodowemu, a tym bardziej globalnemu. Choć z pewnością technologia ta ma w sobie taki potencjał. Dowodem jest choćby wideo z „udziałem” Marka Zuckerberga, który z zaskakującą szczerością opowiada o tym, jak to jest posiadać najskrytsze dane miliardów ludzi i nimi manipulować.

Dolina Niesamowitości

Niezwykle ciekawy wydaje się być aspekt wpisywania deepfake’ów w kontekst zjawiska Doliny Niesamowitości (ang. Uncanny Valley). Termin ten określa moment, w którym nad wyraz hiperrealistyczny robot, animacja czy inny obiekt są na tyle podobne do człowieka, że aż wywołuje to w obserwatorze nieprzyjemne uczucie, a nawet odrazę.
– Definicja Doliny Niesamowitości zawsze była dość szeroka i nie odnosiła się jedynie do fizycznych robotów, lecz także do botów czy komputerowo renderowanych twarzy. Pewne jest to, że sieci GAN renderują obiekty z taką dokładnością i w tak abstrakcyjny sposób, że może to budzić w ludziach pewnego rodzaju odstręczenie czy poczucie dziwności. Nie tylko w przypadku fizycznych robotów, ale także w przypadku komputerowo renderowanej twarzy, która jest także wyposażona w sieć głosową, można doprowadzić do tego, że ludzie będą obawiali się interakcji – twierdzi Aleksandra Przegalińska, filozofka i pracowniczka naukowa, która w styczniu 2018 r. zaprezentowała swoje badania w publikacji „In The Shades of the Uncanny Valley: An Experimental Study of Human-Chatbot Interaction”.

Sztuczna inteligencja obecna w naszym codziennym życiu

Kogo przeraża wizja algorytmów sztucznej inteligencji, które potrafią niemalże doskonale renderować ludzkie twarze, powinien rozejrzeć się wokół siebie – podobne algorytmy są coraz bardziej powszechne w naszym życiu, przez co zaczynamy się do nich stopniowo przyzwyczajać. Nie powinno więc nas dziwić, że sztuczna inteligencja jest już praktycznie wszędzie – począwszy od wyszukiwarek, którymi posługujemy się na co dzień, przez aplikacje, aż po bezobsługowe sklepy, które powoli stają się coraz popularniejsze na świecie. Przegalińska rozwija tę myśl, mówiąc, że algorytmy AI są w dzisiejszych czasach niezwykle powszechne.

Cicha rewolucja rozgrywa się właśnie na naszych oczach – i to na prawie wszystkich możliwych frontach.

 

– Każdy, kto jest użytkownikiem Netfliksa, ma codzienny kontakt ze sztuczną inteligencją. Funkcjonuje w jej ramach szereg algorytmów, które należą do rodziny tzw. algorytmów klastrujących. Ten klastering odpowiada za rekomendację określonych filmów na podstawie tego, co widzieliśmy my bądź inni ludzie podobni do nas. Pełno jest także rankerów – choćby w takich sklepach internetowych jak Amazon, który ma swój własny spersonalizowany system rekomendacyjny. Banki stosują natomiast do profilowania klientów proste regresje, bardziej zaawansowane sieci neuronowe czy głębokie sieci. Wiele z nas ma w swoich smartfonach także systemy affective computing (mogą zajmować się one metodami i narzędziami rozpoznawania oraz analizą, interpretacją i symulacją stanów emocjonalnych – przyp. red.), które także są przykładem AI. Podobnie jak używane przez pracowników naukowych narzędzia służące do sprawdzania prac pod kątem plagiatów. Przykłady można mnożyć.

Kto dziwi się temu rozwojowi spraw, najwyraźniej przespał rozpoczęcie cichej rewolucji, która rozgrywa się właśnie na naszych oczach – i to na prawie wszystkich możliwych frontach. Dość przypomnieć ostatni wyczyn internetowej ekipy College Humor, która po gorzko przyjętym finałowym sezonie Gry o Tron postanowiła przekazać pisarskie wodze sztucznej inteligencji. Ta na nowo napisała scenariusz finałowego odcinka ósmego sezonu popularnego serialu. Efekt było oczywiście mocno komiczny, choć właśnie na takim zależało lubującej się w absurdalnym humorze stronie. Nie zmienia to jednak faktu, że sztuczna inteligencja staje się coraz bardziej powszechna i funkcjonuje często w dziedzinach, w których byśmy się jej po prostu nie spodziewali.

Wady, zalety i zagrożenia

Pojawienie się deepfake z pewnością rozpoczyna erę kwestionowania rzetelności materiałów wideo oraz odświeżenia definicji rzetelności dziennikarskiej. Technologia ta może bowiem z powodzeniem przyczyniać się do zalewu fake newsami. Nie jest to oczywiście jej jedyne potencjalne nieetyczne zastosowanie. – Zagrożenia są jasne – tego typu sieci mogą wprowadzać ludzi w błąd poprzez generowanie obrazów czy treści wideo, które wyglądają realistycznie, ale ilustrują rzeczy, które nigdy nie miały miejsca. Dobrą informacją jest to, że powstało już AI, które potrafi przykłady deepfake rozpoznawać i ma ono dużą efektywność. Można sobie coś takiego zainstalować, aby nie zostać wprowadzonym w błąd przez fake media – przestrzega Przegalińska. – Na celu są przede wszystkim politycy, ponieważ to właśnie z ich udziałem można znaleźć najwięcej materiałów w internecie, dzięki czemu spreparowanie fake video z ich udziałem jest stosunkowo proste. Przerażające jest jednak to, że do części danych wykorzystywanych w sieciach, z których korzystają algorytmy AI po prostu nie można dotrzeć – dodaje.

Pojawienie się deepfake z pewnością rozpoczyna erę kwestionowania rzetelności materiałów wideo oraz odświeżenia definicji rzetelności dziennikarskiej.

 

Czy jednak są jakieś zalety powszechnego dostępu do algorytmu deepfake? Sieci, które renderują obrazy mogą być bardzo przydatne w takich dziedzinach jak sztuka. Są poznawczo bardzo ciekawe i zarazem inspirujące dla grafików. – Taki walor artystyczny w wymiarze kulturowym może być piękny – wystarczy wspomnieć animację, którą można było oglądać podczas wystawy „Syntetyczny Folklor” Janka Simona z początku tego roku – twierdzi Przegalińska. Skorzystać na tej technologii może także szeroko rozumiana branża rozrywkowa. Kosztowne i pracochłonne dokrętki do filmów, które mają często miejsce po zmianie scenariusza czy koncepcji projektu, mogą wkrótce stać się pieśnią przeszłości. Ben Morris, specjalista od efektów wizualnych w filmie Star Wars: The Last Jedi w wywiadzie dla Inverse przyznał, że już teraz digitalizuje się wizerunki wszystkich głównych aktorów i aktorek w filmie z kosmicznej sagi, ponieważ nigdy nie wiadomo kiedy zajdzie potrzeba ich użycia.

A jeśli mielibyśmy mieć sobie niebawem za złe, że technologia ta rozwinęła się w tak niekontrolowany sposób, pamiętajmy, że byliśmy ostrzegani i to ładnych kilka lat temu. Wystarczy przypomnieć sobie odcinek „The Waldo Moment” z drugiego sezonu Black Mirror. Tytuł jednej z jego recenzji na popularnym portalu IMDb brzmiał: „To może się wydarzyć. A może już się dzieje”. I trudno o bardziej adekwatny komentarz odnośnie tej technologii.