Brytyjska policja wzywana do zaprzestania używania oprogramowania do identyfikacji twarzy04.07.2019

Spacer po mieście może skończyć się bezprawnym aresztowaniem. Miejskim systemom rozpoznawania twarzy zdarza się wyławiać z tłumu zupełnie niewinne osoby.

Nadużycia tego typu zauważyli badacze z Uniwersytetu w Essex (tu pełen raport), którym przyznano dostęp do miejskich kamer. Uwzględniono nagrania z tych zainstalowanych w sześciu londyńskich dzielnicach, w okresie od czerwca 2018 r. do lutego bieżącego roku. Zdaniem Davida Davisa, członka zarówno brytyjskiego parlamentu, jak i uniwersyteckiego Centrum Praw Człowieka, wykonywana bez zgody analiza wieku, płci czy nawet nastroju jest poważnym zagrożeniem dla demokracji.

Brytyjska policja uzyskała od zarządzających systemem rozpoznawania twarzy listę 44 osób, z których zatrzymała aż 22. Tylko jednak 8 z nich było rzeczywiście poszukiwanych za przestępstwa, a pozostali, choć mający w przeszłości konflikty z prawem, już dawno uregulowali swoje sprawy sądowe. Podobne oprogramowanie wykorzystuje się często w sklepach do analizy zachowań klientów.

Ministerstwo Spraw Wewnętrznych w Wielkiej Brytanii obiecało dołożyć wszelkich starań, by ujednolicić przepisy w sprawie rozpoznawania twarzy, ale to trochę potrwa. Dlatego Davis apeluje, by na razie zawiesić używanie oprogramowania przez policję i prywatne firmy, póki nie zostaną przez rząd ustalone stosowne regulacje. Podkreślił, że „jeśli chcemy zmieniać kształtowane przez stulecia prawa, takie jak np. prawo do zrzeszania się, musimy mieć naprawdę dobre uzasadnienie”.

Skanowanie tłumów pod kątem „potencjalnych” zagrożeń wydaje się technologicznym absurdem. Potwierdzaja to także badania Amerykanów z 2018 r. Sugerują one, że funkcjonalność oprogramowań IBM, Microsoftu czy chińskiej firmy Face++ jest dyskusyjna. Wspomniane programy świetnie radziły sobie na przykład ze zbieraniem informacji na temat białych mężczyzn, ale już ciemnoskóre kobiety padały często ofiarą błędnych założeń na ich temat.

Międzynarodowa organizacja broniąca praw człowieka – Liberty – widzi w miejskim systemie rozpoznawania twarzy jawną dyskryminację i brak poszanowania dla prywatności. Sugerują, że taka natrętna technologia może zmuszać ludzi do zmian ich zachowania.