Yuval Noah Harari: Era kolonializmu danych30.09.2020

Znany izraelski historyk i profesor, autor takich bestsellerów, jak Sapiens: od zwierząt do bogów czy 21 lekcji na XXI wiek, był gościem konferencji Masters & Robots organizowanej organizowanej przez Digital University. W swoim wykładzie Human Identity and Technology in the 21st Century (tłum. Tożsamość ludzka i technologia XXI w.) Harari opowiadał m.in. o przyspieszającej rewolucji technologicznej, obcych wpływach, które kształtują kulturę każdego kraju, kryzysie tożsamości, a nawet hakowaniu istot żywych. Poniżej publikujemy transkrypt jego przemówienia.

Każdemu państwu na świecie wydaje się dziś , że boryka się z wyjątkowym dla siebie problemem tożsamości, ale tak naprawdę wszędzie widać tę samą walkę. Obecna sytuacja w Polsce bardzo przypomina to, czego doświadcza np. Izrael, a to, co ma miejsce w Indiach, jest zaskakująco podobne do tego, co dzieje się w Stanach Zjednoczonych. Niemal wszędzie widać przyspieszającą rewolucję technologiczną, która podsyca ten kryzys tożsamości. Rzeczy wokół nas zmieniają się znacznie szybciej niż kiedykolwiek w historii, więc to naturalne, że ludziom coraz trudniej jest odkryć lub dowiedzieć się, kim tak naprawdę są. Wszędzie widać, że ludzie próbują rozwiązać ten kryzys, trzymając się rzekomo „świętej” lokalnej tradycji. Ale często ta lokalna tradycja jest w rzeczywistości zupełnie nową fabrykacją.

Wiele z tego, co ludzie biorą za lokalną tradycję, w rzeczywistości jest po prostu pozostałością obcych wpływów z dawnych czasów.

 

Dla wielu krajów to właśnie Polska jest dobrym tego przykładem. Tradycja nie znajduje się w tym przypadku w przeszłości bezpośredniej, ale raczej w jakiejś źle zdefiniowanej i odległej. To dlatego, że bezpośrednia przeszłość jest odrzucana. Tradycjonaliści w Polsce nie chcą cofać się o 50 lat, kiedy Polską rządzili komuniści, i nie chcą wracać do XIX wieku, kiedy Polska była pod trzema zaborami. I nikt tak naprawdę nie chce wracać do XVII wieku, kiedy nie było elektryczności, nowoczesnej medycyny, a nieliczna elita uciskała i wyzyskiwała masy zwykłych ludzi. Połowa dzieci rodzących się wtedy w Polsce umierała z głodu lub chorób przed osiągnięciem dorosłości. Co więcej, wiele z tego, co ludzie biorą za lokalną tradycję, w rzeczywistości jest po prostu pozostałością obcych wpływów z dawnych czasów. Chrześcijaństwo nie narodziło się w Polsce, to import zagraniczny. Ziemniaki i piłka nożna też nie są polskie – pierwsze pochodzą z Ameryki Południowej, a druga została wymyślona przez Brytyjczyków. Gdyby Polacy zawsze odrzucali obce wpływy i trzymali się stylu życia swoich rodziców, nikt w Polsce nie byłby chrześcijaninem, nie jadłby ziemniaków i nie grałby w piłkę nożną.

W dzisiejszych czasach dużo mówi się o hakowaniu komputerów, smartfonów i kont bankowych, ale naprawdę istotna rzecz, która dzieje się wokół nas, to pojawienie się możliwości hakowania istot ludzkich.

 

Rzeczywiście, jeśli najlepszą rzeczą dla nas, ludzi, jest życie w dokładnie taki sam sposób, jak nasi przodkowie, wszyscy powinniśmy przenieść się do Afryki i nauczyć polować na zebry, ponieważ wszyscy żyjący dziś ludzie pochodzą od afrykańskich zbieraczy. Dlatego trzymanie się tradycji nie jest odpowiedzią na nasze dolegliwości, a przecież w XXI wieku przed ludzkością stoją problemy większe niż kiedykolwiek. Nadal grozi nam unicestwienie przez wojnę nuklearną, zagrożenie to nie zniknęło pod koniec zimnej wojny. Istnieje nowe niebezpieczeństwo załamania ekologicznego, które podważa same podstawy naszej cywilizacji. A być może najbardziej niepokojący będzie rozwój nowych technologii, takich jak sztuczna inteligencja i bioinżynieria, które kwestionują nie tylko przetrwanie ludzkości, ale też samo jej znaczenie. Co stanie się z ludźmi, gdy przeprogramujemy im mózgi? Co stanie się ze światem, kiedy będziemy mogli zostać zhakowani? W dzisiejszych czasach dużo mówi się o hakowaniu komputerów, smartfonów i kont bankowych, ale naprawdę istotna rzecz, która dzieje się wokół nas, to pojawienie się możliwości hakowania istot ludzkich. Za 20 lat możemy znaleźć się w sytuacji, w której zewnętrzny system będzie nas znał lepiej niż my samych siebie.

Kiedy uprawnienia do dokonywania wyborów zostaną przeniesione z człowieka na algorytm, życie ludzkie przestanie być dramatem podejmowania decyzji. I tak naprawdę nie mamy żadnych filozoficznych ani duchowych modeli zrozumienia takiego życia.

 

Co stanie się, gdy sztuczna inteligencja zacznie podejmować lepsze od nas decyzje dotyczące tego, czego powinniśmy się uczyć, gdzie pracować, jakiej muzyki słuchać, a nawet z kim powinniśmy się umówić i kogo poślubić? To naprawdę najbardziej radykalne wyzwanie, z jakim kiedykolwiek spotkała się ludzkość. Ludzie zawsze byli przyzwyczajeni do myślenia o życiu jako o dramacie podejmowania decyzji. Liberałowie i konserwatyści zgadzają się co najmniej w jednym: znaczeniu ludzkiego wyboru. Liberałowie postrzegają ludzi jako autonomicznego agenta, który nieustannie dokonuje wyborów dotyczących świata. Konserwatyści również skupiają się na dramacie podejmowania decyzji, argumentując, tak jak w katolicyzmie, że wieczne zbawienie lub potępienie zależy od tego, jakich dokonamy wyborów. Kiedy jednak uprawnienia do dokonywania wyborów zostaną przeniesione z człowieka na algorytm, życie ludzkie przestanie być dramatem podejmowania decyzji. I tak naprawdę nie mamy żadnych filozoficznych ani duchowych modeli zrozumienia takiego życia.

Aby zdominować kraj w XXI wieku, nie trzeba już wysyłać czołgów. Trzeba tylko pobrać dane.

 

Nowe technologie stwarzają nowe zagrożenie dla wolności nie tylko pojedynczych ludzi, ale także całych narodów. Szczególnie narodów takich jak Polska, które dopiero niedawno wyszły spod obcej kontroli oraz bardzo głębokiego i uzasadnionego lęku przed zagranicznymi wpływami. Ale dziś, w XXI wieku, obca kontrola nie oznacza już wtargnięcia do Warszawy rosyjskich czołgów. Wkraczamy w nową erę imperializmu. Erę kolonializmu danych.

Aby zdominować kraj w XXI wieku, nie trzeba już wysyłać czołgów. Trzeba tylko pobrać dane. Wyobraźmy sobie sytuację za 20 lat, w której ktoś w Moskwie, Pekinie, a może San Francisco ma pełne dane osobowe każdego polityka, każdego burmistrza, każdego dziennikarza, każdego sędziego w Polsce. Każda choroba, którą kiedykolwiek mieli, każdy kontakt seksualny, każdy żart, który opowiadali. Każda łapówka, którą wzięli. Czy w takiej sytuacji Polska nadal byłaby niepodległym krajem? A może byłaby kolonią danych? W obliczu takich wyzwań błędem jest myślenie w kategoriach konfliktu między liberałami i konserwatystami, ponieważ obydwie strony są jednakowo zagrożone. Ani Biblia, ani arcydzieła współczesnej filozofii nie dają nam odpowiedzi na nowe pytania stawiane przez technologie takie jak sztuczna inteligencja i bioinżynieria, ponieważ ludzie, którzy napisali te teksty, nie wiedzieli zbyt wiele o komputerach ani o genetyce. Ja też nie mam odpowiedzi i nie sądzę, żeby ktokolwiek dzisiaj ją miał.

Nie możemy kroczyć zgodnie z XVIII-wiecznymi ideałami filozoficznymi i równocześnie radzić sobie z niewyobrażalnymi wcześniej możliwościami, jakie stwarzają biotechnologia i infotech.

 

Możemy trzymać się idei ludzkiej wolności, ludzkiej sprawczości, ale te ideały tracą swoje znaczenie w obliczu bliźniaczej rewolucji biotechnologii i technologii informacyjnej. Ludzkość stoi na krawędzi filozoficznego bankructwa. Świat, który znamy, został zbudowany na filozoficznych krańcach minionych epok, na wielkich duchowych tradycjach starożytności i nowoczesnych filozofiach, które pojawiły się we wczesnym okresie nowożytnym wraz z ideałami wolności, równości i braterstwa. Ten filozoficzny skarb przyniósł nam ogromne korzyści. Od narodowego samostanowienia po prawa człowieka i LGBT. Ten skarb jest jednak dzisiaj bliski wyczerpania. Nie możemy kroczyć zgodnie z XVIII-wiecznymi ideałami filozoficznymi i równocześnie radzić sobie z niewyobrażalnymi wcześniej możliwościami, jakie stwarzają biotechnologia i infotech. Tym bardziej nie możemy polegać na średniowiecznych tekstach.

Zwykła umowa między filozofami a politykami polega na tym, że filozofowie mają wiele pomysłów, ale politykom brakuje środków do ich realizacji. Filozofowie bombardują więc polityków wszelkiego rodzaju wymyślnymi planami, a zadaniem polityków jest wyjaśnienie, dlaczego nie można ich zrealizować. Teraz jesteśmy w dokładnie odwrotnej sytuacji. Bliźniacza rewolucja w informatyce i biotechnologii daje politykom środki do stworzenia nieba lub piekła. Ale filozofowie, a także poeci, mają problem ze zrozumieniem, jak to nowe niebo i nowe piekło będą wyglądać. Historia nie będzie na nas czekać. Jeśli nie uda nam się wystarczająco szybko sformułować koncepcji nowego nieba, łatwo mogą zwieść nas naiwne utopie. A jeśli nie uda nam się sformułować takich koncepcji i wyobrazić sobie nowego piekła wystarczająco szybko, możemy znaleźć się w nim w sytuacji bez wyjścia. Ja nie mam dla nas odpowiedzi. Mam nadzieję, że pomożecie mi i nam wszystkim w jej znalezieniu.