Mick Champayne | Bez twarzy06.07.2019

Dzięki odważnemu, a być może nawet wizjonerskiemu ruchowi, San Francisco zostało pierwszym miastem, które zakazało policji i organizacjom rządowym stosowania technologii rozpoznawania rysów twarzy. Dlaczego podążanie za tym trendem leży w interesie również innych miast i krajów?

Jeśli ktoś mnie naprawdę dobrze zna, to wie o mojej miłości do memów, szczególnie tych zawierających element personalizacji. W zeszłym roku, kiedy Google popisało się wiralową akcją wprowadzenia na rynek aplikacji Arts & Culture, cieszyłam się na możliwość znalezienia mojego sobowtóra wewnątrz znanego dzieła sztuki. Aplikacja używa technologii rozpoznawania obrazu, zbierając sztukę z ponad 1200 muzeów i galerii z całego świata i dopasowując ją do przesłanego selfie. Mimo to ani dla mnie, ani dla nikogo innego z Chicago, funkcja ta nie była dostępna. Po chwili szukania dowiedziałam się, że przyczyną są prawdopodobnie obowiązujące w Illinois przepisy – jedne z najsurowszych w Stanach dotyczące praktykowania biometrii, czyli dziedziny zajmującej się badaniem populacji do której zaliczają się także rozpoznawanie twarzy, odcisków palców, czy wzoru tęczówki.

W maju tego roku San Francisco, jedno z najbardziej przyjaznych technologicznie miast na świecie, trafiło na czołówki gazet. Wszystko przez to, że zostało pierwszym miastem w Stanach, które oficjalnie zakazało policji i lokalnym agencjom rządowym stosowania technologii rozpoznawania rysów twarzy. Taka technologia potrafi wykryć i przeanalizować obraz ludzkiej twarzy i porównać jej cechy z informacjami przechowywanymi w obszernych bazach danych, w efekcie umożliwiając dopasowanie na przykład zdjęcia z prawa jazdy do zdjęcia osoby aresztowanej wcześniej przez policję. Wykrywanie twarzy w czasie rzeczywistym było już z sukcesem stosowane w celu monitorowania i identyfikacji potencjalnych podejrzanych. Używano go w tłumach w takich miejscach jak galerie handlowe, czy podczas protestów i koncertów, a uczestnicy wydarzeń nie wyrazili wcześniejszej zgody na wykorzystywanie informacji na swój temat.

Pomimo radykalnych usprawnień w sferze rozpoznawania rysów twarzy, istnieje wciąż mnóstwo obaw dotyczących jej skuteczności i potencjalnej stronniczości oraz krzywdy, która może zostać wyrządzona poprzez jej stosowanie.

 

 – Wraz z podjęciem tej decyzji, San Francisco zadeklarowało się przeciwko technologii monitorowania cech twarzy twierdząc, że jest ona niezgodna z założeniami demokracji oraz rozpoznając prawo mieszkańców miasta do zabierania głosu w sprawach dotyczących tego typu nadzoru” – powiedział dla BBC News Matt Cagle z American Civil Liberties Union (ACLU) w Północnej Kalifornii.

Wprowadzenie zakazu jest ruchem odważnym, a także, miejmy nadzieję, dokładnie takim, jakiego potrzebujemy aby wreszcie rozpocząć dialog na temat potencjalnych konsekwencji stosowania tej relatywnie nowej technologii. Pomimo radykalnych usprawnień w sferze rozpoznawania rysów twarzy, istnieje wciąż mnóstwo obaw dotyczących jej skuteczności i potencjalnej stronniczości oraz krzywdy, która może zostać wyrządzona poprzez jej stosowanie. Badania już wykazały, że system produkuje wysoki odsetek błędów w przypadku kobiet oraz osób ciemnoskórych, ponieważ bazy danych używane do nauczania algorytmu zawierały w przeważającej większości zdjęcia białych mężczyzn.

W ostatnich latach byliśmy stopniowo przyzwyczajani do traktowania technologii rozpoznawania twarzy z zaufaniem. Używanie jej w celach komercyjnych stało się powszechne.

 

Mówiąc o prawie obywateli do prywatności, autor legislacji, Inspektor Aaron Peskin deklaruje: – Technologia rozpoznawania rysów twarzy jest wyjątkowo niebezpieczna i opresyjna. Inaczej niż w przypadku pozostałych technologii, tu nie ma możliwości skutecznego zastrzeżenia swoich danych, które musiałoby polegać na stałym zasłanianiu twarzy czy zmianie wyglądu. Wprowadzanie jakiejkolwiek technologii bez pełnego zrozumienia jej wszystkich potencjalnych implikacji jest ogromnie ryzykowne i nieodpowiedzialne.

W ostatnich latach byliśmy stopniowo przyzwyczajani do traktowania technologii rozpoznawania twarzy z zaufaniem. Używanie jej w celach komercyjnych stało się powszechne. Poczynając od Facebooka, automatycznie oznaczającego znajomych na naszych zdjęciach, przez filtry na Snapchacie zmieniające nas w urocze pieski, po funkcjonalność wprowadzoną niedawno w iPhone’ach – Face ID – która ułatwia odblokowywanie naszych telefonów. Mimo, że technologia ta reklamowana była jako udogodnienie, powinniśmy być mądrzejsi, a nie po prostu witać ją z otwartymi ramionami.

Dla przykładu, według raportu New York Times, Chiny już teraz używają zaawansowanej technologii rozpoznawania twarzy do śledzenia Ujgurów, swojej muzułmańskiej mniejszości. „Technologia rozpoznawania twarzy, zintegrowana z gwałtownie rozwijającą się chińską siecią monitoringu, celuje wyłącznie w Ujgurów opierając się na ich wyglądzie, a następnie przechowuje informacje dotyczące ich mobilności w celach inwigilacyjnych” – pisał New York Times. Od daty publikacji tego artykułu, technologia ta została z sukcesem zastosowana do wyselekcjonowania Ujgurów i zatrzymania ich w obozach internowania.

Nowe technologie nie przestają rodzić się i ewoluować, a już teraz widzimy jakim problemem staje się dla prawa nadążanie za ich radykalnym rozwojem. Czy obywatele mogą w jakiś sposób zabezpieczyć się na przyszłość i zastrzec swoją prywatności w oczekiwaniu na adaptację organizacji rządowych do nowych technologii?

Nowe technologie nie przestają rodzić się i ewoluować, a już teraz widzimy jakim problemem staje się dla prawa nadążanie za ich radykalnym rozwojem.

 

Według spekulacji pewnego projektanta, sposobem na walkę z monitoringiem może być moda. Adam Henry, artysta i technolog z Berlina, zaprojektował serię wzorzystych tkanin przeznaczonych do skutecznej dezorientacji urządzeń rozpoznających rysy twarzy. Henry stworzył je dla projektu NeuroSpeculative AfroFeminism  autorstwa studia projektowania interakcji Hyphen Labs. Projekt ma na celu zbadanie sposobów, w jakich czarnoskóre kobiety wchodzić będą w interakcje z nadchodzącymi technologiami, eksplorując tym samym zagadnienia czarnej kobiecości, technologii, bezpieczeństwa i widoczności. „Zamiast starać się o anonimowość w kontekście rozpoznawania obrazów poprzez minimalizację współczynnika ufności prawdziwej twarzy, HyperFace oferuje wyższy współczynnik dla pobliskiej fałszywej twarzy, wykorzystując wspólną preferencję algorytmiczną dla części twarzy, która jest najbardziej pewna do rozpoznania”, wyjaśnia Harvey. „Innymi słowy, jeśli komputerowy algorytm oczekuje, że zobaczy twarz, dajmy mu to, o co prosi.”

Na szczęście istnieje szansa, że w pogoni za prywatnością nie zostaniemy zmuszeni do odwoływania się do tak radykalnych środków, jak noszenie specjalnych tkanin. Kolejne miasta i kraje zaczynają zauważać konieczność stosowania odpowiednich regulacji i implementować je zanim będzie za późno. Na przykład Oakland w Kalifornii i Somerville w Massachusetts rozpoczęły prace nad własnymi legislacjami, a ich rozmowy nabierają rozpędu. Przy zwiększającej się świadomości skali technologii rozpoznawania rysów twarzy, opowiadający się za ochroną prywatności widzą rok 2019 jako potencjalny punkt zwrotny. Luke Stark, pracujący dla Microsoft Research Montreal badacz mediów elektronicznych, porównuje technologię rozpoznawania rysów twarzy do plutonu. – By uniknąć społecznej toksyczności i rasowej dyskryminacji, którą wprowadzą, technologie umożliwiające rozpoznawanie rysów twarzy muszą być traktowane adekwatnie do tego, czym naprawdę są: zagrożeniem na poziomie nuklearnym, z którym obnosić należy się ze szczególną ostrożnością – twierdzi Stark.