Antyutopia w praktyce. Kogo inspiruje system oceniania obywateli, który stosuje się w Chinach?29.08.2019

Mimo powszechnego oburzenia na tzw. „social scoring”, w amerykańskich sektorach zaawansowanych technologii i ubezpieczeń nie stroni się od jego używania.

System przyznawania punktów społecznych, który ocenia wiarygodność obywateli w Chinach, może kojarzyć się z jednym z najpopularniejszych odcinków Black Mirror – Nosedive. Do dziś, jak donosi „Bussiness Insider”, to rozwiązanie zablokowało „podejrzanym” Chińczykom ze zbyt niską oceną aż 11 milionów lotów i 4 miliony podróży pociągiem. Nie mogą oni także posyłać swoich dzieci do wyżej ocenianych szkół, zdobyć perspektywicznej pracy, czy rezerwować pokoi w ekskluzywnych hotelach.

Mimo powszechnej niezgody na taki sposób wykorzystywania technologii, podobne praktyki mają miejsce również w USA. Taki system stosują firmy ubezpieczeniowe, choć nie jest on jeszcze tak rozpowszechniony, jak w Chinach. Wszystko przy cichym przyzwoleniu władz: w tym roku agencja rządowa The New York State Department of Financial Services ogłosiła nowe wytyczne wobec udzielania kredytów. W ich myśl firmy ubezpieczeniowe mogą korzystać z prywatnych postów w mediach społecznościowych, aby sprawdzać zdolność kredytową petentów. Szerokiej analizy tego zagadnienia dokonał magazyn „Forbes”. W jego opinii sytuacja, w której algorytmy analizują zdolność kredytową konkretnych osób, może nieść poważne zagrożenie dla swobód obywatelskich. Przede wszystkim użytkownicy nie mają jak się bronić ani odwołać od takich decyzji, które system podejmuje na podstawie nieznanego im klucza interpretacyjnego.

– Jeśli rzuciłeś palenie, ale wciąż masz stare zdjęcia z papierosem albo udostępniasz na Facebooku wpisy sprzed kilku miesięcy czy lat, to w jaki sposób program albo przygnieciony pracą ubezpieczyciel odczyta takie informacje? I jak skontrolujesz to, co udostępniają na twój temat inni? – pisze redaktorka „Forbesa” Jessica Baron, zajmująca się kwestiami etyki w technologii. 

Innym przykładem podejrzanej ingerencji technologii w życie osobiste są firmy rozwijające oprogramowanie do skanowania dowodów tożsamości, które ma zapobiec oszustwom czy wykrywać próby podszywania się pod kogoś, kim nie jesteśmy. Takie programy mogą też działać w szerszym zakresie. Amerykańska firma Patronscan daje np. swoim klientom z sektora usługowego (właścicielom barów, hoteli, restauracji, kasyn, sklepów czy aptek), możliwość sprawdzenia klientów. Chodzi o to, aby wytypować osoby, które wcześniej zostały przyłapane na „przemocy, seksualnych nadużyciach, używaniu narkotyków, kradzieżach i innych niewłaściwych zachowaniach” i mieć na nich oko lub po prostu odmówić im współpracy. W oprogramowaniu jest także funkcja dodawania niechlubnych adnotacji na czyjś temat. W konsekwencji jednorazowy incydent, w postaci wypicia zbyt dużej ilości alkoholu i wszczęcia bójki może spowodować, że awanturnik nie zostanie wpuszczony do innego miejsca: knajpy, hotelu czy przychodni, czyli wszędzie tam, gdzie również działa to oprogramowanie. Funkcjonuje już ono w niektórych lokalach w Wielkiej Brytanii, USA, Kanadzie i Australii. Co ciekawe, ustalanie kryteriów, które definiują „złe” i „dobre” zachowanie zależy wyłącznie od właścicieli i managerów firmy.

Podobne systemy stosowane są przez zrzeszające miliony użytkowników firmy bazujące na tzw. ekonomii współdzielenia. Carsharing czy udostępnianie i rezerwacja mieszkań, a więc modele biznesowe łączące usługodawców z usługobiorcami, to idealne miejsce, gdzie bez końca można zmieniać zasady gry i nie tłumaczyć się z tego. Nieprzychylne oceny, nieporozumienia czy nagłe zmiany polityki firmy skutkują potem banowaniem kont czy blokowaniem niektórych elementów usługi. W konsekwencji może to permanentnie wpłynać na nas jako użytkowników tych wynalazków, zaprojektowanych przecież w celu usprawienia jakości życia.