Powstała aplikacja generująca cyfrowe sobowtóry użytkownika. Nie wykryje ich system rozpoznawania twarzy27.11.2020

Anonymizer oparty na działaniu sztucznych sieci neuronowych po załadowaniu zdjęcia proponuje dwadzieścia portretów ludzi, którzy przypominają wyglądem użytkownika.

System automatycznego rozpoznawania twarzy, który coraz częściej zastępuje konwencjonalne metody weryfikacji tożsamości, nieustannie znajduje się pod ostrzałem krytyki ekspertów z rozmaitych dziedzin. W dokumencie Zakodowane uprzedzenie, filmie prezentowanym niedawno podczas wirtualnej odsłony MFF Nowe Horyzonty, zwrócono uwagę na pojawiającą się w jego mechanice stronniczość. Okazało się, że program skuteczniej rozpoznaje mężczyzn o białym kolorze skóry, marginalizując osoby innej rasy. James Vincent, dziennikarz portalu technologicznego „The Verge”, zwrócił też uwagę na to, że algorytm jest obecnie nieprzydatny, bo nie uwzględnia faktu noszenia masek przez użytkowników telefonów i laptopów. W dobie reżimu sanitarnego, kiedy zasłanianie nosa i ust staje się chlebem powszednim, problem ten staje się coraz bardziej palący. 

Analizą zwodniczego systemu zajął się też Generated Media. To niewielki start-up, który rokrocznie dostarcza tysiące avatarów generowanych przez sztuczną inteligencję. Wśród klientów firmy znajdują się deweloperzy gier komputerowych tworzących nowe postacie, ale też dziennikarze chcący chronić swoje źródła. Ich najnowsze przedsięwzięcie, czyli aplikację Anonymizer, opisują jako przydatny sposób na zaprezentowanie użyteczności mediów syntetycznych. Najbardziej znanym przykładem narzędzia, które należy do tej grupy, są opisywane już przez nas na łamach Papaya.Rocks deepfake'i. 

– Naszym celem jest reprezentowanie każdej osoby na świecie bez względu na wiek, płeć, pochodzenie etniczne czy cechy etniczne. Generowanie spójnych treści z pomocą sztucznej inteligencji polega na tym, żeby dostarczyć wiele danych, na których mogłyby uczyć się systemy szkoleniowe. Prowadząc studio przez ostatnie dwa lata, nauczyliśmy się, że znalezienie różnorodnych modeli o unikalnych cechach może być trudne. Nie jest to jednak wyzwanie, z którego należy się wycofywać – wspominają w rozmowie z magazynem „The Next Web” przedstawiciele start-upu.

Działanie Anonymizera zostało oparte na mechanice GAN, czyli generatywnych sieci przestawnych. Tworzą one obrazy, zestawiając ze sobą dwie sieci neuronowe. Jedna, czyli generator, tworzy nowe próbki, a dyskryminator bada, czy gotowe avatary wyglądają realnie. Użytkownik wgrywa swoje zdjęcie, a następnie otrzymuje dwadzieścia fotografii zwrotnych, które może wykorzystać w mediach społecznościowych. Nie ryzykuje przez to, że jego wizerunek zostanie zidentyfikowany i wykorzystany w niepożądany sposób. 

Internauci mogą już skorzystać z przeglądarkowej wersji aplikacji. W przyszłości powstanie również jej wersja dostępna do pobrania na urządzenia mobilne.