Microsoft przygotował zaawansowane narzędzie do walki z deepfake'ami 02.09.2020

Według koncernu nowe rozwiązanie ma przeciwdziałać manipulacjom podczas zbliżających się wyborów prezydenckich w Stanach Zjednoczonych. 

Kit Harington jako Jon Snow, który przeprasza za zakończenie serialu Gra o tron, Mark Zuckerberg ostrzegający przed zagrożeniami płynącymi z rozwoju nowych technologii albo belgijska premier Sophie Wilmès szukająca związku pomiędzy wylesianiem a rozwojem pandemii koronawirusa COVID-19. Każdy z tych filmów zdobył ogromną popularność, tysiące udostępnień, komentarzy i polubień w mediach społecznościowych. Problem w tym, że wszystkie były fałszywe – w materiałach wykorzystano opartą na działaniu sztucznej inteligencji technikę deepfake (pisaliśmy o niej w szerszym kontekście TU), która zatacza coraz szersze kręgi w Internecie. Polega ona na łączeniu obrazów w taki sposób, żeby imitowały ludzką twarz, która będzie nieodróżnialna od tej prawdziwej. 

W omawianych powyżej przypadkach użycie deepfake'ów stanowiło część rozrywkowej i artystycznej prowokacji, jednak narzędzie bywa coraz częściej wykorzystywane do dezinformacji, manipulacji lub kompromitacji postaci znanych z życia publicznego. To właśnie dlatego specjaliści od cyberbezpieczeństwa i informatycy w pocie czoła pracują nad technologiami, które skutecznie wyrugują niebezpieczny trend z obiegu.

Jedno z rozwiązań, czyli Microsoft Video Authenticator, zostało właśnie zaprezentowane przez Microsoft. Jak podkreśla Tom Burt, wicedyrektor korporacji, może ono znaleźć szczególne zastosowanie w trakcie kampanii prezydenckiej w Stanach Zjednoczonych. – Nasze działanie ma charakter długofalowy, ale wierzymy, że do listopada wpłynie na przebieg walki politycznej – tłumaczy w rozmowie z agencją prasową Bloomberg. Skuteczność narzędzia polega na tym, że wykrywa te cechy, które są unikalne dla samych deepfake'ów, ale niekoniecznie rozpoznawalne dla ludzkiego oka. To choćby minimalne blaknięcie kolorów, elementy w skali szarości albo sposób, w jaki granice pomiędzy fałszywymi a rzeczywistymi materiałami zlewają się ze sobą. 

Premierze narzędzia Microsoft Video Authenticator, które ma zostać udostępnione agencjom prasowym, organizacjom politycznym lub think-tankom działającym na rzecz fact-checkingu, towarzyszy też inna kwestia. Mogą skorzystać z niego twórcy wideo żeby poświadczyć, że zawartość ich materiałów jest autentyczna. Po wnikliwej weryfikacji otrzymają specjalny certyfikat dostępny także dla odbiorców. 

Ze szczegółowym omówieniem nowego przedsięwzięcia Microsoft można zapoznać się tutaj.