Sprzedać swój głos. Deepfake'i wchodzą do świata komercyjnych współprac17.05.2021

Szef Veritone, Ryan Steelberg, podkreśla, że dzięki ich nowemu produktowi opartemu na działaniu AI znani aktorzy, celebryci i wokaliści będą mogli podejmować zlecenia bez konieczności wizyty w studiu.

Królowa Elżbieta wygłaszająca orędzie bożonarodzeniowe na antenie Channel 4, Mark Zuckerberg ostrzegający przed zagrożeniami płynącymi z rozwoju nowych technologii albo Kit Harrington przepraszający za zakończenie serialu Gra o tron. Co łączy te trzy postaci i sytuacje? Choć nagrania z ich udziałem wyglądały bardzo realistycznie, żadne z nich nie było prawdziwe. Wszystkie powstały dzięki wykorzystaniu nowoczesnej techniki obróbki obrazu znanej jako deepfake, która polega na łączeniu fotografii twarzy ludzkich z pomocą mechaniki sztucznej inteligencji.

Coraz popularniejsze rozwiązanie ma wielu propagatorów dostrzegających tkwiący w nim edukacyjny albo rozrywkowy potencjał, ale jego przeciwnicy zwracają uwagę na to, że może szerzyć dezinformację, populizm i kompromitować znane osobistości. Ze względu na to, że deepfake'i stanowią podstawę wielu memów i przeróbek rozprzestrzeniających się z prędkością światła, coraz trudniej o kontrolę własnego wizerunku, który może być wykorzystany w niewłaściwy sposób.

Niektóre rządy, dostrzegłszy zagrożenie płynące z technologicznych nadużyć, pracują już nad rozwiązaniami prawnymi delegalizującymi ich rozpowszechnianie. W grudniu 2019 roku pisaliśmy na łamach Papaya.Rocks o tym, że Chiny wprowadzają nowe przepisy, w myśl których deepfake'i muszą być każdorazowo oznaczane. Gdy tak się nie stanie, specjalnie wyznaczona administracja może wymierzyć ich autorom surowe kary. Światowe mocarstwo umotywowało swoją decyzję chęcią zadbania o porządek społeczny. 

Choć nowoczesna technologia wzbudza wiele kontrowersji, na rynku coraz częściej pojawiają się start-upy, które chcą skomercjalizować ją do celów niezagrażającym bezpieczeństwu innych. Do takich podmiotów należy amerykańskie Veritone – pomysłodawca platformy Marvel A.I. Serwis ma umożliwić znanym osobom odpłatne użyczanie swoich głosów. Po zebraniu odpowiedniej liczby próbek dźwiękowych, algorytmy oparte na działaniu sztucznej inteligencji wykonają ich żywe imitacje, które będą mogły być wykorzystane w różnych mediach.

– Ludzie chcą podejmować zlecenia głosowe, ale nie mają wystarczająco dużo czasu, żeby przyjść do studia i wyprodukować treści na właściwym poziomie – mówi w rozmowie z portalem „The Verge” Ryan Steelberg, szef Veritone. – Dla internetowych influencerów, sportowców, celebrytów i aktorów to bardzo ważny aspekt budowania marki – dodaje, tłumacząc, że takie osoby są często zapraszane do nagrania spotów radiowych, czytania audiobooków albo dubbingowania postaci w filmach animowanych. – Oczywiście, zakres prac będzie zależał od posiadaczy praw do wizerunku i tego, co uznają za stosowne, ale tak, hipotetycznie mógłbyś mieć Waltera Cronkite'a (zmarły ponad dekadę temu legendarny dziennikarz i prezenter telewizyjny – przyp. red.) ponownie czytającego wieczorne wiadomości – podkreśla.

Amerykanin widzi duże szanse w rozwoju swojego start-upu, oceniając, że rozwój deepfake'ów jest nieunikniony. Wyraźnie wskazuje jednak na główną przeszkodę, przed którą może stanąć przedsiębiorstwo. Steelberg uznaje, że syntetyczna mowa może osłabiać siłę wypowiedzi twarzy reklamy. Atrakcyjność danego produktu opiera się na przekonaniu, że dana gwiazda naprawdę lubi określoną markę płatków śniadaniowych, pasty do zębów albo ubezpieczenia na życie. Co jednak, gdy nie pofatyguje się, żeby sama o niej opowiedzieć, tylko wyręczy ją głosowa imitacja? Szef Veritone nie chce manipulować odbiorcami, tylko każdorazowo informować ich o tym, że ze srebrnego ekranu mówią do nich deepfake'i. Ich jakość ma jednak rekompensować ewentualne poczucie bycia oszukanym. 

Z omówieniem działania technologii, którą Marvel A.I. zamierza wdrożyć na szeroką skalę, można zapoznać się w poniższym filmie.