Google walczy z deepfake'ami za pomocą deepfake'ów25.09.2019
Eksperci poszukują najlepszych metod do wykrywania obrazów produkowanych przez AI. Żeby w tym pomóc, Google opublikowało bazę 3 tys. zmanipulowanych wideo.
Deepfake to technika obróbki obrazu, polegająca na łączeniu obrazów ludzkich twarzy przy użyciu technik sztucznej inteligencji. Wykorzystuje ona także mechanizmy uczenia maszynowego i dzięki temu generuje fałszywe zdjęcia lub materiały wideo, które nigdy nie zostały stworzone i nie mają pokrycia w rzeczywistości. Od kilku lat obserwujemy więc widowiskowe i przerażające przykłady zastosowania tego narzędzia: te raczej niewinne, związane np. z podmienianiem aktorów w popularnych filmach, lub bardziej kontrowersyjne, gdzie naruszana jest prywatność aktorek i aktorów lub wsadzanie całych fikcyjnych kwestii w usta możnych tego świata (słynne już wideo z Markiem Zuckerbergiem). O deepfake'ach pisaliśmy szerzej TU.
Konsekwencje używania tej technologii mogą być opłakane. Problem dotyczy też tego, że sprawców takich cyber wykroczeń nie sposób ująć, bo prawo nie nadąża za zmianami. Najrozsądniejszą metodą wydaje się więc stworzenie sprawnego detektora fałszywych treści wideo.
W tym celu Google wspólnie ze swoim inkubatorem przedsiębiorczości, czyli firmą Jigsaw, stworzył własnie dostępną dla wszystkich bazę danych zawierającą 3 tys. deepfake'owych filmów. Amerykański gigant technologiczny ma nadzieję, że jego posunięcie przyspieszy proces wykrywania zmanipulowanych wideo. Filmiki dostępne w bazie powstały na podstawie gry aktorskiej 28 osób, które wykonują zwykłe czynności, jednocześnie mówiąc i gestykulując. Następnie wykorzystano dostępny publicznie algorytm deepfake, by pozmieniać ich twarze i stworzyć na ich podstawie kolejne fikcyjne osoby.
Przygotowana przez Google baza danych została zaimplementowana do FaceForensics++. To stworzone przez badaczy z Uniwersytetu Technicznego w Monachium i Uniwersytetu w Neapolu oprogramowanie porównawcze, które zbiera zmanipulowane przez sztuczną inteligencję wideo, a następnie wykrywa fałszerstwa. Naukowcy stworzyli już 1000 modeli wykrywających technologię deepfake. W tej chwili baza FaceForensics++ zawiera ponad 1,8 miliona zmanipulowanych obrazów.
W walkę z deepfake'ami ma zaangażować się wkrótce także Facebook. Szefowie portalu społecznościowego ogłosiły niedawno, że pod koniec roku wypuszczą podobną, stworzoną ze zdjęć bazę.
zobacz także
- Fotografia na najwyższym poziomie. Przekrojowa wystawa Helmuta Newtona już wkrótce w Toruniu
Newsy
Fotografia na najwyższym poziomie. Przekrojowa wystawa Helmuta Newtona już wkrótce w Toruniu
- Pusha T zapowiedział album „It’s Almost Dry”. Premiera w najbliższy piątek
Newsy
Pusha T zapowiedział album „It’s Almost Dry”. Premiera w najbliższy piątek
- „New Gen”: Anya Chalotra z „Wiedźmina” i Finn Wolfhard ze „Stranger Things” podłożą głosy w nowej animacji
Newsy
„New Gen”: Anya Chalotra z „Wiedźmina” i Finn Wolfhard ze „Stranger Things” podłożą głosy w nowej animacji
- Jest pierwszy singiel zespołu The Smile – pobocznego projektu członków Radiohead
Newsy
Jest pierwszy singiel zespołu The Smile – pobocznego projektu członków Radiohead
zobacz playlisty
-
05
-
Papaya Young Directors top 15
15
Papaya Young Directors top 15
-
Seria archiwalnych koncertów Metalliki
07
Seria archiwalnych koncertów Metalliki
-
Music Stories PYD 2020
02
Music Stories PYD 2020