Mark H. Lee | Transhumanizm – ściągając swój mózg21.05.2020

Poniższy fragment pochodzi z książki „How to Grow a Robot”: Developing Human-Friendly, Social AI autorstwa Marka H. Lee (The MIT Press, 2020). Został zaadaptowany na potrzeby Papaya.Rocks.

To przykre, że w XXI wieku doszło do wzrostu liczby osób przejawiających postawę antynaukową i oczerniających wiedzę specjalistyczną. Opinie, przekonania, a niekiedy nawet kłamstwa podawane są jako fakty, nawet, gdy brakuje na nie dowodów. Tym samym pomysły rodem z filmów science fiction mogą rozprzestrzeniać się w kulturze popularnej jako możliwe (a nawet prawdopodobne) wydarzenia. Ludzie mówią: „Wszystko jest możliwe, prawda? Dlaczego nie? Kto to wie?" Cóż, w rzeczywistości wiele rzeczy jest niemożliwych – na przykład wytwarzanie energii elektrycznej przez perpetuum mobile. Dlaczego nie? Ponieważ istnieje teoria termodynamiczna, która bardzo jasno wyjaśnia, dlaczego. A kto to wie? Cóż, każdy, kto poświęci chwilę swojego czasu na przyswojenie (lub zapamiętanie) wiedzy naukowej dotyczącej tego pomysłu.

Wiedza specjalistyczna to nie tylko opinia grupy profesjonalistów – to zbiorowe, dokładnie przetestowane dowody, które stanowią najlepszą obecnie dostępną wiedzę.

 

Naukowcy przez lata pracowali nad tymi teoriami, eksperymentowali i gromadzili stosy dowodów. Dziś wiedzą oni, dlaczego niektóre rzeczy są wykonalne, podczas gdy inne będą wymagać kilku lat prób, a pozostałe są trudne i nie warto nawet zaczynać nad nimi pracy. Wiedza specjalistyczna to nie tylko opinia grupy profesjonalistów – to zbiorowe, dokładnie przetestowane dowody, które stanowią najlepszą obecnie dostępną wiedzę. W tej kategorii znajduje się wiele tematów dotyczących robotyki i sztucznej inteligencji, z których część pochodzi od futurologów, a oni powinni znać się na tym lepiej. Można podać jeden przykład takiego zagadnienia: transhumanizm. Jest on oparty na założeniu, że wszystko, co składa się na osobowość – jaźń indywidualna, historia życia, suma doświadczeń – zawarte jest w mózgu. Mózg jest systemem elektrycznym, który można zakodować w formie cyfrowej, dlatego też powinno być możliwe, a przynajmniej tak twierdzą zainteresowani, ściągnięcie pełnej kopii mózgu na komputer cyfrowy, a tym samym uchwycenie w pełni osobowości konkretnej osoby. W pewnym momencie ta „cyfrowa wersja” człowieka może zostać ponownie obudzona w jakiejś symulacji, a wtedy osoba ta „ożyje na nowo”.

Ale spróbujmy przez chwilę wziąć taki scenariusz na logikę. Załóżmy, że skaner może natychmiast zarejestrować pełny stan mózgu. Przechwycone dane cyfrowe są tylko migawką, skumulowanym wynikiem życia poznawczego istniejącym do momentu wykonania skanowania. Jak takich danych używać? Migawka nie może nam pokazać, co stanie się potem.

A teraz załóżmy, że ten cyfrowy „mózg” ma zostać gdzieś przesłany i ponownie uruchomiony. Jak argumentowałem, ludzie i roboty są tak zasadniczo od siebie różne, że nigdy nie będą mogły być całkowicie wymienne. Tak więc jedynym sposobem, w jaki transhumanizm mógłby działać, byłoby umieszczenie cyfrowego mózgu wewnątrz ludzkiego mózgu. Tu leży sedno problemu. Proces ten musiałby być niezwykle szybki, aby ustawić 20 miliardów neuronów korowych w pozycji zarejestrowanej w pobranej migawce. Wymagałoby to jakiejś fantastycznej inwazyjnej technologii, której nawet teoretyczna wykonalność nie została udowodniona. Schemat ustawienia neuronowego różni się pomiędzy osobami, więc jak sobie poradzić z tymi niedopasowaniami obwodów? Wszystko to wydaje się być bardzo odległe; w końcu nawet sam skaner potrzebny do rozpoczęcia całego tego procesu nie jest jeszcze możliwy do zrealizowania. Poza tym, taki proces byłby nieuchronnie tak nieprzyjemny dla odbiorcy, że mam nadzieję, że nigdy nie będzie możliwy.

Współczesna robotyka pokazała, jak ważne jest ciało. Bez ciała bogatego w zmysły, postrzeganie, jakie znamy, jest niemożliwe.

Podobnie jak krionika (zamrażanie ciał w stanie anabiozy), transhumanizm jest atrakcyjnym pomysłem dla tych, którzy chcą stać się nieśmiertelni. Takie pomysły nie są nowe – George Bernard Shaw napisał sztukę na ten temat w 1921 roku (Back to Methuselah) – ale nie są naukowo wiarygodne. Powinno już być jasne, dlaczego transhumanizm po prostu nie działa. Współczesna robotyka pokazała, jak ważne jest ciało. Bez ciała bogatego w zmysły, postrzeganie, jakie znamy, jest niemożliwe (nie wspominając o świadomości). Działanie jest równie niezbędne; jest ono uwikłane w nasze myśli tak samo jak nasze uczucia. Procesu życia, cyklu życia jednostki, nie można oddzielić od wcielonego poznania. Tu tkwi różnica między mózgami biologicznymi a mózgami komputerowymi.

Natychmiastowe zagrożenia

Dziennikarzowi może być trudniej opowiadać [historie] o nadziei niż o strachu.
—Laura Kuenssberg, BBC Radio 4, 27 kwietnia, 2018 

Prawdziwie przerażającym aspektem technologii SI jest szkoda, jaką mogłaby ona wyrządzić, gdyby trafiła w ręce wrogo nastawionych ludzi. Tak jak ścisła współpraca ludzi i maszyn mogłaby przynieść ogromne korzyści i postępy, takie partnerstwo mogłoby też potencjalnie siać ogromne zniszczenia i cierpienie. Pomyślmy o algorytmach, które już działają w internecie zbierając informacje dla portali informacyjnych, kanałów sieci społecznościowych i stron medialnych. Kryteria takiego wyboru wiadomości powinny kłaść nacisk na środki takie jak prawda, dokładność, uczciwość, a także ich priorytet i znaczenie. Coraz częściej widzimy jednak, że to populizm kieruje kryteriami wyboru, być może w większym stopniu niż prawda. Wydaje się, że organizacje prasowe nie są w stanie oprzeć się modnym i popularnym problemom, bez względu na to, jak trywialne, mylące lub obraźliwe one są. W ten sposób rozpowszechniane i ustalane są fake newsy, i tak pojedynczy (błędny) raport może odwrócić ludzi od ratującej życie medycyny prewencyjnej; strach przed potrójną szczepionką MMR (przeciwko odrze, śwince i różyczce) jest tego najlepszym przykładem.

Media społecznościowe, przedsiębiorstwa handlowe i inne organizacje zajmujące się pozyskiwaniem danych osobowych są nie mniej zaangażowane w inżynierię społeczną, ale najwyraźniej prawo albo nie ma do nich zastosowania, albo nie nadrobiło jeszcze zaległości na tym polu.

 

Wiodące platformy mediów społecznościowych odczuły już na sobie skutki skarg, spraw sądowych i wysokich kar prawnych za złe zarządzanie i kontrolę danych osobowych. Zostali oskarżeni o „hakowanie ludzi”, zwane także inżynierią społeczną. Chociaż ostatnio termin ten stosowany jest szczególnie w odniesieniu do przestępstw przeciwko bezpieczeństwu cyfrowemu (nielegalnego pozyskiwania danych od osób), ta wywodząca się z nauk społecznych koncepcja oznacza każdą technikę psychologiczną, która kształtuje populację w kierunku określonych wyników bez jej zgody lub wiedzy. W latach 50. psychologowie przedstawili zjawisko znane jako percepcja podprogowa. Odkryli oni, że jeśli pojedynczy obraz zostanie wyświetlony podczas filmu na ułamek sekundy, świadomy umysł nie zarejestruje go, ale mimo to zostanie on zauważony przez podświadomość i wpłynie na przyszłe zachowanie. Okazało się to tak podstępne i skuteczne, że zostało zakazane lub zdelegalizowane przez większość krajów. Jest to przykład inżynierii społecznej – kontrolowania pragnień, życzeń i preferencji ludzi, których są tego całkowicie nieświadomi i nie mają możliwości ucieczki.

Ale czy to nie dokładnie z tym mamy do czynienia dzisiaj? Media społecznościowe, przedsiębiorstwa handlowe i inne organizacje zajmujące się pozyskiwaniem danych osobowych są nie mniej zaangażowane w inżynierię społeczną, ale najwyraźniej prawo albo nie ma do nich zastosowania, albo nie nadrobiło jeszcze zaległości na tym polu. Na przykład gromadzenie danych dotyczących adresów i kont bankowych osób jest całkiem do przyjęcia, jeżeli używasz ich do celów handlowych, a transakcje są aktywnie realizowane. Ale jeśli te same dane zostaną później wykorzystane do wpływania na wybory klientów dotyczące produktów, które kupują bez ich wiedzy lub zgody, jest to forma podświadomej perswazji. Prawdopodobnie jest gorzej, niż nam się wydaje – lub niż chcemy o tym myśleć!

Jesteśmy szpiegowani bez naszej wiedzy i zgody. W jakim celu można te dane wykorzystywać? Jeśli do zwiększania twoich zysków, kształtowania poglądów politycznych lub zmniejszania wskaźników przestępczości i poprawy jakości życia w państwie, czy to nie w porządku? Dlaczego ma nas to obchodzić?

 

Wszyscy nas w ten sposób szpiegują: śledzą nasze ruchy, rejestrują odwiedzane miejsca i kupowane przez nas produkty, a nasze preferencje oceniają mierząc czas, który spędzamy przy danym produkcie lub wydarzeniu. Jesteśmy szpiegowani bez naszej wiedzy i zgody. W jakim celu można te dane wykorzystywać? Jeśli do zwiększania twoich zysków, kształtowania poglądów politycznych lub zmniejszania wskaźników przestępczości i poprawy jakości życia w państwie, czy to nie w porządku? Dlaczego ma nas to obchodzić? The Age of Surveillance Capitalism (Zuboff, 2019) przedstawia kilka przekonujących argumentów za tym, dlaczego tak naprawdę powinniśmy zacząć się tym przejmować.

Prawdziwe zagrożenie związane z inżynierią społeczną polega na tym, że może stać się ona narzędziem kontroli populacji. Chiny eksperymentują z łączeniem systemu korzyści i nagród z dobrym zachowaniem. Społeczeństwa kapitalistyczne korzystają już z tego rozwiązania w słabszej formie, mianowicie w postaci wskaźników zdolności kredytowej kontrolujących dostęp do hipotek, ale idea nagród i kar związanych z cyfrowo zbieranymi miernikami dobrego obywatelskiego zachowania kojarzy się z przerażającymi ostrzeżeniami George'a Orwella na temat kontroli państwa.

Jedynym sposobem na obejście tego problemu jest albo jakaś forma transparentności, dzięki której użytkownicy będą mogli zobaczyć wszystkie zebrane o sobie informacje, bez względu na miejsce, w którym się znajdują, lub wprowadzenie przepisów, które zabronią organizacjom niewłaściwie wykorzystywać dane populacji, i będą takie zachowania karać. W obydwu przypadkach jest to kwestia dyskrecji. Brak dostępu do danych i potrzeba transparentności to najważniejszy problem. Zatajanie, w jakiejkolwiek formie, jest kluczem do działalności przestępczej. Ponieważ metody te podstępnie wkradają się do mediów informacyjnych i rozrywkowych, mediów społecznościowych i marketingu, musimy szukać lepszych standardów i zasad, które można zastosować w naszym obecnym cyfrowym, skoncentrowanym na danych świecie.

Pamiętajmy jednak, że inżynieria społeczna może być użyta również do osiągania pozytywnych celów. Tak długo, jak wpływ na zachowanie ludzi jest niewielki i łatwy do uniknięcia, zazwyczaj poprzez zapewnienie możliwości wolnego wyboru, możliwe jest wzmocnienie pozytywnych wartości w społeczeństwie.

 

Niestety nie możemy pozostawić rozwiązania tego problemu firmom, bo będą powoływać się na „tajemnicę handlową”. Do egzekwowania norm prawnych potrzebne są organy regulacyjne. Oznacza to, że rządy muszą być aktywnie zaangażowane w sprawę. Co więcej, konieczne jest ustanowienie jednej, globalnej superregulacji, która będzie w stanie poradzić sobie z ogólnoświatową cyfrową technologią. Niektóre kraje mogą nie podejść do tego tematu entuzjastycznie, ale podobnie jak w przypadku innych globalnych problemów, presja grupy powinna pomóc w zachowaniu jedności.

Pamiętajmy jednak, że inżynieria społeczna może być użyta również do osiągania pozytywnych celów. Tak długo, jak wpływ na zachowanie ludzi jest niewielki i łatwy do uniknięcia, zazwyczaj poprzez zapewnienie możliwości wolnego wyboru, możliwe jest wzmocnienie pozytywnych wartości w społeczeństwie. Taka mniejsza wersja inżynierii społecznej, znana jako teoria impulsu („nudge theory”), odniosła wiele sukcesów w zakresie zwiększania liczby deklaracji podatkowych, poprawy odsetek odpowiedzi na prośby o informacje oraz innych przyrostów wydajności dla rządów i firm (Thaler i Sunstein, 2008). Kluczową kwestią jest to, żeby takie działania nie były tajemnicą, żeby ludzie widzieli, co się dzieje, i żeby nadal mogli o sobie decydować.

Po raz kolejny widzimy, że musimy kłaść nacisk na transparentność i prawdomówność – bez żadnych „alternatywnych faktów”, bez „poufnych” źródeł lub procesów. Przysługuje nam ludzkie prawo do wiedzy, bez wymówek o „złożoności cyfrowej”.

[...]

Nie wszystko takie straszne

Nieżyjący już lekarz i statystyk Hans Rosling zasłynął z prezentowania innowacyjnych filmów dokumentalnych na temat zdrowia na świecie, takich jak: Nie panikuj – prawda o populacji i Radość ze statystyki. Rosling wykorzystał wykresy i innowacyjne dynamiczne wyświetlacze, aby z wielkim entuzjazmem pokazać, że świat, wbrew większości opinii, staje się lepszym miejscem. Aby wykazać, że globalny wzrost populacji spowalnia i stabilizuje się, wykorzystał wiarygodne statystyki. Według nich, zgonów spowodowanych katastrofami naturalnymi jest coraz mniej, globalny stan zdrowia ulega znacznej poprawie we wszystkich krajach, a globalny poziom życia jest znacznie wyższy niż przed stu laty. Według Roslinga cechuje nas pewien instynktowny pesymizm; dostrzegamy groźby i zmartwienia bardziej wyraźnie niż pozytywne zdarzenia. Media utwierdzają nas w tym przekonaniu, ponieważ same zmagają się z mało spektakularną tendencją wzrostową. Tytuł wydanej pośmiertnie książki Roslinga, napisanej wraz z synem i synową, jest pociągający: Factfulness: Dlaczego swiat jest lepszy, niż myślimy, czyli jak stereotypy zastąpić realną wiedzą (Rosling, Rönnlund i Rosling, 2018).

Kolejne źródło optymizmu znaleźć można w pracy Stevena Pinkera. Pinker argumentuje, że wskaźniki przemocy i gwałtownych śmierci maleją i we współczesnym życiu stanowią mniejsze zagrożenie niż w przeszłości (Pinker, 2011). Kluczową kwestią jest to, że skala przemocy plemiennej i przypadkowej zmniejsza się, gdy rządy krajowe przejmują kontrolę i zaczynają egzekwować prawo. Niewolnictwo, tortury i starcia plemienne są w takich społeczeństwach znacznie zredukowane, a w idealnym przypadku tylko państwo dopuszcza się wojny lub przemocy. To prowadzi Pinkera do sugestii, że ​​powinniśmy wykorzystać nasze talenty, aby wkroczyć w nową erę oświecenia, w której połączenie rozumu i ludzkich wartości prowadzić będzie do ery postępu i pokoju (Pinker, 2018). 

Te dodające otuchy obserwacje nie są pozbawione problemów, ale odnoszą się do aktualnych obaw i decyzji, które dotyczą nas wszystkich. Wymagają one naszego zaangażowania.