Technoetyka, czyli dlaczego branża technologiczna potrzebuje własnej przysięgi Hipokratesa19.04.2019

– Obojętnie, gdzie pójdziesz, możesz być pewien, że usłyszysz krytykę Facebooka – to zdanie zasłyszane w festiwalowych kuluarach w dużej mierze mogłoby podsumować motyw przewodni tegorocznego SXSW Interactive, który zakończył się kilka tygodni temu. Corocznie od 1987 r. do Austin w Teksasie zjeżdżają się dziesiątki tysięcy ekspertów, przedstawicieli światowych koncernów technologicznych, wizjonerów i dziennikarzy branżowych. Każdy z nich chce wytropić trendy i tematy debat, którymi przez najbliższy rok – aż do następnej edycji festiwalu – będą żyć start-upowcy, politycy i media.

SXSW Interactive to 10 ścieżek tematycznych – m.in. „entrepreneurship & startups”, „future workplace” czy „health & medtech”. Mają one ułatwić wybór spośród setek wykładów, prezentacji i paneli dyskusyjnych. Odbiór festiwalu i jego tematyka zależy więc od naszej własnej selekcji. Moja w dużej mierze opierała się na kwestiach dotyczących zaufania, odpowiedzialności i etyki. Co może się stać, kiedy nasze dane trafią w niepowołane ręce? Jakie są potencjalne konsekwencje technologicznego hurraoptymizmu, który zakłada, że start-upowcy z Doliny Krzemowej i anioły biznesu są z reguły społecznie odpowiedzialni i mają na uwadze dobro ogółu?

Obecna sytuacja każe niestety patrzeć na przyszłość w krytyczny sposób. Niezmiennie, od kilku(nastu) lat eksperci i użytkownicy apelują o zrównoważony i odpowiedzialny rozwój, podczas gdy technologiczni giganci zbierają dane o użytkownikach bez odgórnej kontroli, a instytucje w imię rozwoju podejmują wątpliwie etycznie decyzje. Te ostatnie to np. manipulacje Ubera, o których mówiła podczas festiwalu autorka książki „UBERLAND: Algorithms and the Future of Work” Alex Rosenblat czy platformy medialne, które tworzą treści reklamowe, a promują je jako redakcyjne).

Google zbiera od nas dane i używa ich do ulepszania swoich autonomicznych samochodów. To, czy jesteśmy robotami, widzi na podstawie ruchów naszych kursorów.

 

Potrzebę debaty na temat etyki i przejrzystości sygnalizował ze sceny Roger McNamee – inwestor z Doliny Krzemowej i wczesny mentor Marka Zuckerberga. W rozmowie z Nicolasem Thompsonem – redaktorem naczelnym amerykańskiego Wired Magazine otwarcie krytykował jednego z najpotężniejszych ludzi na świecie za nieprzejrzystość działań. „Dlaczego wartości odżywcze produktów spożywczych muszą być umieszczone na każdym opakowaniu, a brakuje fundamentalnej przejrzystości, kiedy przekazujemy Facebookowi mnóstwo wrażliwych danych, które mogą być sprzedawane nie wiadomo jakim podmiotom i w jakim celu?” – pytał.

McNamee zaprezentował też problem etyczny dotyczący zbierania i udostępniania danych bez faktycznej kontroli nad tym, kto i w jaki sposób będzie ich używał:

„Nie ma żadnych ograniczeń co do tego, co można zrobić z naszymi danymi. Każdy z nas używa captcha – technologiczni giganci każą nam zaznaczać samochody albo znaki „STOP” na zdjęciach, żeby udowodnić, że nie jesteśmy robotami [...] Ale tak naprawdę, Google używa tych danych do ulepszania swoich autonomicznych samochodów. To, czy jesteśmy robotami, widzi na podstawie ruchów naszych kursorów. Wyobraź sobie, że masz pierwsze symptomy choroby neurologicznej – Parkinsona albo czegoś poważniejszego. Można to przecież rozpoznać na podstawie twoich ruchów kursora. Obecnie, Google nie ma obowiązku poinformowania cię o twoim stanie – wszystko jest podporządkowane prawom rynku, bo wygrywa ten, kto może dać za takie dane najwięcej. W tej sytuacji najwięcej może zaoferować firma ubezpieczeniowa, która wiedząc, że zaczynasz chorować, może zwiększyć twoją składkę, a nawet wypowiedzieć umowę.”

Kwestię „A co jeśli...?” poruszali też Mick Champayne (od niedawna felietonistka Papaya.Rocks) oraz Casey Hudetz. Podczas swojego wystąpienia oboje zastanawiali się nad konsekwencjami społecznymi spekulacji, którymi wypełniony jest serial Black Mirror Charliego Brookera. Etyczne dylematy m.in. z zakresu robotyki, prywatności i rozszerzonej rzeczywistości już dawno opuściły sferę gdybania w sferze sci-fi i dystopijnych pieśni przyszłości. Z większością problemów przedstawionych w Black Mirror mierzymy się już dziś – wystarczy wspomnieć używany z powodzeniem w Chinach system oceny obywateli, którego wizję snuł odcinek Nosedive, roboty polujące na ludzi w Metalhead (niepokojąco podobne z wyglądu urządzenia, które od kilku lat rozwija zespół inżynierów z Boston Dynamics) czy autonomiczne pojazdy rozwożące pizzę w odcinku Crocodile, które planuje wprowadzić jedna z największych na świecie sieci pizzerii.

Kod nie jest neutralny. Czy tworząc dane rozwiązanie, jesteśmy odpowiedzialni za to, w jaki sposób ludzie będą go używać?

 

Zaangażowanie społeczne i wszechobecne pytanie o konsekwencje działań firm, start-upów i instytucji można było też zaobserwować w debacie dotyczącej coraz śmielszych prób ingerowania w kod genetyczny komórek. Podczas panelu dotyczącego nowatorskiej i niezwykle zaawansowanej metody modyfikacji genotypu CRISPR Cas9 częściej niż wątki dotyczące technologicznej natury „naprawiania DNA” powracał wątek etyczny – co może się stać, kiedy takie narzędzie trafi w niepowołane ręce? Jakie są potencjalne konsekwencje zabawy w projektanta genów?

Wykładowcy, paneliści i eksperci, zarówno reprezentujący sektor prywatny, jak publiczny, często podkreślali też potrzebę stworzenia rozwiązań, które mogłyby regulować i nadzorować. „Kod nie jest neutralny. Czy tworząc dane rozwiązanie, jesteśmy odpowiedzialni za to, w jaki sposób ludzie będą go używać?” – pytała Clarissa Peterson, strateżka i autorka promująca przemyślane projektowanie. Apelowała także o stworzenie uniwersalnej przysięgi Hipokratesa, która zainspirowałaby branżę technologiczną do myślenia nie tylko o swoim zysku, ale o potencjalnych szkodach, które mogą zostać wyrządzone innym.

Apele o odpowiedzialność, sygnalizowanie potrzeby debaty i potrzeby patrzenia w przyszłość przez pryzmat dobra ogółu mogą budzić nadzieję. Pytanie, w jaki sposób przełoży się to na fakty – legislację w postaci odgórnych regulacji, ukrócanie praktyk monopolistycznych, promowanie wymogów dotyczących przejrzystości i budowanie zaufania pomiędzy dostarczycielami usług internetowych. Bez konkretnych deklaracji trudno będzie uniknąć dystopijnej rzeczywistości – gdzie pozornie darmowe lub tanie rozwiązania stawiają nas w roli produktów, którymi bez żadnej kontroli dysponują więksi od nas.