Ramesh Srinivasan | Kształcąc i chroniąc naszą przyszłość13.12.2019

Czyżby lekarze i inżynierowie byli do siebie bardziej podobni, niż od siebie różni? W 2018 roku w „New York Times” Natasha Singer powiązała ze sobą te profesje, pisząc: „Zawód lekarza stoi jasno określoną etyką: po pierwsze, nie krzywdź. Dolina Krzemowa ma jednak zgoła odmienny etos: najpierw rób, a potem proś o przebaczenie”.

Poniższy fragment pochodzi z książki „Beyond the Valley: How Innovators around the World are Overcoming Inequality and Creating the Technologies of Tomorrow” autorstwa Ramesha Srinivasana  (The MIT Press, 2019). Został zaadaptowany na potrzeby Papaya.Rocks.

Reportaż Singer „Ciemna strona etyki w technologii” skoncentrowany jest wokół najlepszych politechnik w Stanach Zjednoczonych, takich jak MIT, Harvard, Stanford, czy Uniwersytet Nowego Jorku (NYU), próbujących „przenieść moralność z dziedziny medycyny do informatyki”. Singer pisze też o uniwersytetach, w których pojawiła się nowa fala zajęć próbujących nawiązać, tak potrzebny przecież, dialog między społeczną, polityczną i kulturową sferą naszego życia, a projektowaniem i inżynierią. Singer przekonuje, że o takim nowym, „skupionym na człowieku” podejściu do technologii uczyć się nie tyle możemy, a wręcz powinniśmy i to już na etapie edukacji – w szkołach i na uniwersytetach.

iPhone’y, z których korzystamy zazwyczaj tylko przez kilka lat i które znikają z naszych oczu i myśli tak szybko jak tylko pojawi się nowszy model, w rzeczywistości często dopiero zaczynają z nami swój pobyt na Ziemi.

 

W związku z powyższym, nadszedł czas, aby na poważnie rozważyć związek pomiędzy planetą, a technologią – szczególnie biorąc pod uwagę, że w większości przypadków „planowany” czas działania naszych urządzeń stanowi zaledwie ułamek całkowitego czasu spędzanego przez nich na Ziemi. Dla przykładu – iPhone’y, z których korzystamy zazwyczaj tylko przez kilka lat i które znikają z naszych oczu i myśli tak szybko jak tylko pojawi się nowszy model, w rzeczywistości często dopiero zaczynają z nami swój pobyt na Ziemi. Od nas mogą trafiać na wysypiska śmieci i powodować szkody dla środowiska. Mogą też wędrować do innych części naszych miast, krajów lub świata, gdzie zostaną naprawione i przekazane tym, którym brakuje środków na wkupienie się w politykę „planowanego postarzania produktu”—strategii, która uczyniła Apple tak bogatym. Właśnie dlatego regulacje prawne, które pomogłyby zapewnić każdemu „prawo do naprawy”, są obecnie ważnym tematem, o którym dyskutuje się w wielu częściach świata.

Obecnie jednak w Stanach Zjednoczonych takie prawo nie istnieje. Za przykład tym razem niech posłuży historia Erica Lundgrena, przedsiębiorcy z Los Angeles, który ma obsesję na punkcie recyklingu. Według raportu opublikowanego w „Los Angeles Times”, zbudował on z recyklingowanych części samochód elektryczny jeżdżący dalej niż Tesla, a także stworzył zakład recyklingu elektroniki przetwarzający blisko 19 tysięcy ton e-odpadów rocznie. Do swoich klientów zalicza IBM, Motorolę i Sprint. Lundgren pracował pro bono segregując e-odpady zgromadzone w Ghanie i Chinach, przekazywał też recyklingowane telefony komórkowe amerykańskim żołnierzom za granicą.

Lundgren jest ikoną bezinteresowności i poczucia obywatelskiego obowiązku, prawda? Niestety, to nie takie proste. Za swoją działalność rozpowszechniania praktyki recyklingu uznano go za przestępcę i skazano na więzienie. A jednak powinien być bohaterem; za działania dla naszego społeczeństwa i naszego świata, za zmniejszenie wpływu wyrzucanych przez nas urządzeń elektronicznych na środowisko, za utrzymanie zrównoważonego biznesu, który zapewnia wiele miejsc pracy. Lundgren myślał, że może dostarczyć ludziom komputery w przystępniejszych cenach, równocześnie przyczyniając się do rozwoju branży urządzeń cyfrowych. Ale ponieważ działanie na rzecz społeczeństwa potrafi kolidować z biznesowymi interesami wielkich korporacji technologicznych, zasłużył on sobie na potężnego przeciwnika: Microsoft. Co pozwoliło im na zemstę? Fakt, że przekształcając śmieci w funkcjonalną technologię Lundgren instalował system Microsoft Windows na ratowanych przez siebie komputerach. Microsoft współpracował z rządem w celu umieszczenia go w więzieniu na piętnaście miesięcy. Asystent prokuratora w tej sprawie powiedział Lundgrenowi wprost: „Microsoft chce twojej głowy na talerzu, a ja zamierzam mu ją dać”.

Naprawa i recykling urządzeń to tylko jeden z wielu tematów społecznych i środowiskowych, które w tradycyjnym wykształceniu inżynierskim i informatycznym zostały całkowicie pominięte.

 

Działania Lundgrena powinny zostać uznane za wzór zastosowania etyki recyklera – recykluj, ograniczaj, używaj ponownie – dla wspólnego dobra. Jego historia przypomina przytoczony powyżej przykład z Afryki, gdzie naprawa i recykling wynikają z konieczności, nie luksusu. Przedsiębiorcy tacy jak Lundgren mogą przekształcić model „build to die”, dzięki któremu producenci komputerów i telefonów stali się tak bogaci, w inny rodzaj działalności, takiej, która oparta jest na zatrudnianiu ludzi, ochronie środowiska i zapewnianiu konsumentom alternatywy na rynku wtórnym. Działalności, która wpasuje się w obecne na rynku luki zamiast bezpośrednio konkurować o nowe technologie z istniejącym rynkiem konsumenckim.

Naprawa i recykling urządzeń to tylko jeden z wielu tematów społecznych i środowiskowych, które w tradycyjnym wykształceniu inżynierskim i informatycznym zostały całkowicie pominięte. Szkoły i uniwersytety będą musiały otworzyć i zrewidować swoje programy nauczania, tym razem uwzględniając nowe tematy i przedmioty studiów, jeśli chcą kształcić studentów na rzecz przyszłości sprzyjającej społecznej inkluzywności, zrównoważonemu rozwojowi i współpracy.

Wraz z wprowadzaniem nowych technologii w życie oraz wdrażaniem ich na rynek, mogą otworzyć się nowe miejsca pracy dla tych, którzy potrafią tłumaczyć wybrane zagadnienia między dziedzinami technicznymi oraz etycznymi.

 

Inną kwestia jest niefortunne dziedzictwo naszego systemu edukacji, który traktuje nauki inżynieryjne jako dziedzinę odrębną od nauk humanistycznych i społecznych. Dlatego rzadko widujemy kursy, w których nauka pisania kodu lub projektowania oprogramowania suplementowana byłaby materiałami pomagającymi „zrozumieć” miejsca, w których oprogramowanie mogłoby „działać”.

Podejrzewam, że wraz z rozpowszechnieniem trendu łączenia inżynierii z tematami kulturowymi i społecznymi zobaczymy też inżynierów lepiej przystosowanych do myślenia o implikacjach, które projektowane przez nich systemy niosą dla świata. Wraz z wprowadzaniem nowych technologii w życie oraz wdrażaniem ich na rynek, mogą otworzyć się nowe miejsca pracy dla tych, którzy potrafią tłumaczyć wybrane zagadnienia między dziedzinami technicznymi oraz etycznymi. W Stanach Zjednoczonych proces ten dopiero się rozpoczyna: prestiżowe Stowarzyszenie Maszyn Komputerowych wydało niedawno kodeks etyczny, choć nie jest jeszcze pewne, w jaki sposób będzie on interpretowany i nauczany w reszcie świata. Nowo wydana lista zajęć z etyki komputerowej prowadzonych na kilkudziesięciu uniwersytetach na całym świecie ujawnia kolejne tytuły kursów, jak Wyścig i płeć w Dolinie Krzemowej czy Etyka w grach wideo.

Jasne, nasza edukacja ma za zadanie przygotować nas do wejścia na rynek pracy. Ale przede wszystkim powinna ona nauczyć nas bycia osobami kreatywnymi, rozważnymi i zdolnymi do refleksji. Edukacja, która zniechęca do refleksji i krytyki, traktuje ludzi jako narzędzia, a nie podmioty o potrzebach społecznych, etycznych i twórczych. Łączenie różnych dyscyplin w naszych szkołach, na przykład poprzez kombinację nauk ścisłych i sztuki lub inżynierii z naukami społecznymi, nie tylko przygotuje nas do pracy w przyszłości, lecz także wzbogaci nas etycznie i intelektualnie jako ludzi. Edukacja w zakresie nauk ścisłych, technologii, inżynierii i matematyki (Science, Technology, Engineering, and Mathematics; w skrócie “STEM”) nie musi być samodzielna. Myślenie o nauce lub technologii jako czymś oczywistym—jako pewnego rodzaju hermetycznym badaniu „tego, co”—bez szerszego uznania dla głębokiego wpływu, jaki filozofia, etyka, ludzkie zachowanie, polityka i sztuka mają na każdą z tych dziedzin, to podejście nierealistyczne i niemające podstaw w rzeczywistości. 

Toksyczne projektowanie zachęca do niezdrowych zachowań, do działań, które nie stoją w zgodzie z naszym interesem jako istot ludzkich; obnaża nasze słabości i gra pod nasze instynkty, podlegając jednocześnie bliźniaczym siłom kary i nagrody.

 

Mitchell Baker, prezes zarządu fundacji Mozilla, nawiązała ostatnio do tych obaw. Uważa ona, że „celowo budujemy kolejne pokolenie technologów, którzy nie mają nawet ram, wykształcenia ani słownictwa, aby myśleć o związku STEM (…) ze społeczeństwem, ludzkością, czy życiem”. Baker ostrzega, że tak szybko, jak (liczeni w miliardach) użytkownicy zaczną na ślepo podążając za tym, co każą im technologie, wszyscy stracimy zdolność do zadawania fundamentalnych pytań, takich jak „komu to służy?” lub „Jak możemy zastosować tę wiedzę techniczną na inne sposoby?” 

A co z projektowaniem, które często postrzegane jest jedynie jako sposób na upiększenie czegoś lub uczynienie go „użytecznym”? Podchodząc do zagadnienia z tak ograniczonej perspektywy dajemy projektantom całą moc, sobie nie pozostawiając żadnej. A nie jest to jedyny sposób, w jaki możemy myśleć o projektowaniu i inżynierii. Pomimo mitów o „samotnym geniuszu”, które wszyscy lubimy rozpowszechniać, wielcy naukowcy (jak Newton) lub inżynierowie-artyści ze swoim wszechstronnym mózgiem (jak Leonardo da Vinci) nie działali w próżni; ich wiedza techniczna i artystyczna ewoluowała w odpowiedzi na społeczne wizje ich czasów, czasów, które sami pomagali też kształtować. Projektowanie również jest procesem, który mógłby być pomysłowy i spekulacyjny. Na przykład, co jeśli wspieranie autonomii użytkownika zostałoby jedną z fundamentalnych zasad projektowania?

Internetowe systemy rekomendacji nie różnią się to zbytnio od mimowolnego obracania głowy w kierunku wypadku samochodowego na autostradzie, ani od opychania się śmieciowym jedzeniem.

 

Takie wartości – projektowanie jako proces, projektowanie jako komunikacja, a nawet projektowanie jako pokora – mogą być drogowskazami przy tworzeniu technologii na kolejne lata. Tim Wu, prawnik i znany pisarz, użył ostatnio terminu „projekt toksyczny”, aby opisać najpopularniejsze internetowe technologie i serwisy społecznościowe (ze szczególną uwagą poświęconą Facebookowi). Toksyczne projektowanie zachęca do niezdrowych zachowań, do działań, które nie stoją w zgodzie z naszym interesem jako istot ludzkich; toksyczne projektowanie obnaża nasze słabości i gra pod nasze instynkty, podlegając jednocześnie bliźniaczym siłom kary i nagrody. Siły te, które działają w naszych organizmach nieustannie, pochodzą ze sposobu, w jaki funkcjonuje nasz centralny układ nerwowy. Dopamina, adrenalina i inne neuroprzekaźniki, które skłaniają nas do skupienia uwagi lub wywołania reakcji, mogą zostać łatwo “porwane” i wykorzystane do niecnych celów. Toksyczne projektowanie (i toksyczna technologia) działa w ten sam sposób.

Internetowe systemy rekomendacji są oczywistym przykładem problemu: aby utrzymać naszą uwagę mogą one narazić nas na ekstremalne treści, lub zwiększyć nasze uzależnienie od afirmacji, trenując nas tym samym do obsesyjnego logowania na Instagramie czy Facebooku w pogoni za większą liczbą polubień, komentarzy i udosŧępnień. W zasadzie nie różni się to zbytnio od mimowolnego obracania głowy w kierunku wypadku samochodowego na autostradzie, ani od opychania się śmieciowym jedzeniem. Oba zachowania uwalniają dopaminę, ponieważ mózg uważa, że informacje związane z niebezpieczeństwem i jedzeniem są ważne dla naszego przetrwania. Jednak w dłuższej perspektywie takie obsesje, pociągi i uzależnienia mogą wyrządzić nam krzywdę.

Dobry projekt może być również źródłem siły, sposobem na nadanie wartości. Wu argumentuje, że musimy uciec od „fałszywych pętli”, które sprawiają, że nasze wrażenia w sieci są wiecznie niekompletne i napędzają naszą niekończącą się potrzebę sprawdzania wszystkiego „ostatni raz”, bez względu na to, czy przeglądamy nasze kanały na Facebooku, czy klikamy na automatyczną rekomendację YouTube’a. Tymczasem Google śledzi nas w Internecie i wabi nas z powrotem do swojej witryny za pomocą ukierunkowanych reklam tylko po to, żebyśmy zalogowali się do ich dodatkowych produktów i usług. Wu stawia pytanie: czy zamiast tego „media społecznościowe mogą podsuwać tylko te treści, które regularnie sprawdzasz, a potem feed się kończy?”.

Z etyką projektowania wiąże się potencjał cyfrowej piśmienności. Termin ten może wydawać się oczywisty, coś w rodzaju „upewnienia się, że każdy wie, jak korzystać z istniejącej technologii”. W rzeczywistości jest on jednak znacznie subtelniejszy i bardziej istotny. Piśmienność w tradycyjnej definicji to nie tylko umiejętność czytania i pisania—to przede wszystkim zdolność do refleksji, analizy i tworzenia. Chodzi o wzięcie artykułu z gazety lub czasopisma, książki, czy nawet fikcyjnej historii i odzwierciedlenie tego, co za nią stoi: kto ją napisał, jakie były jego założenia, jakiego świata był częścią, jakie inne informacje można odszukać na ten temat. W końcu dzieci, które potrafią wymówić pojedyncze słowa z książki, wciąż nie potrafią czytać, jeśli nie rozumieją przy tym, co postacie robią i dlaczego. Jeszcze trudniejsze i bardziej wartościowe jest rozumienie znaczenia historii—dlaczego ktoś mógłby ją opowiedzieć lub jakie ma ona znaczenie kulturowe.

Nasze doświadczenie z „otwartym wszechświatem informacji”, jakim powinien być internet, zostało zaćmione przez algorytmiczne gogle, które filtrują niemal nieskończone informacje, zwracając rezultat podszywający się pod prawdę lub obiektywną wiedzę.

 

Co z piśmiennością cyfrową? Powinna składać się z wiedzy, jak korzystać z technologii i towarzyszącej umiejętności refleksji nad nią. Ale mieliśmy już okazję przekonać się, o ile łatwiej jest ślepo ufać informacjom, które nas znajdują, niż krytycznie analizować to, co widzimy. Na przykład założenie, że wyniki wyszukiwania Google są neutralne, godne zaufania i zawierają „wszystko, co powinniśmy wiedzieć” stało się popularną strategią obcowania z falą cyfrowych informacji.

Jest to ogromny problem z dwóch powiązanych ze sobą powodów: po pierwsze dlatego, że informacje przesyłane do naszych telefonów, kanałów społecznościowych lub wyników wyszukiwania nie odzwierciedlają żadnej uniwersalnej prawdy; po drugie, przekazywane nam informacje opierają się na takich wyborach obliczeniowych, które wspierają cele prywatnych firm, a nie nasze własne. Innymi słowy, to nie tak, że Google może zwrócić błędną odpowiedź na nasze wyszukiwanie przez pomyłkę; to raczej odpowiedzi są dopasowane do potrzeb korporacji dostarczających nam tych danych. To nie tak, że prawda, społeczeństwo, czy nasze indywidualne preferencje są bezpośrednio atakowane; po prostu nie mają one większego znaczenia. Nasze doświadczenie z „otwartym wszechświatem informacji”, jakim powinien być Internet, zostało zaćmione przez algorytmiczne gogle, które filtrują niemal nieskończone informacje dostępne w Internecie, zwracając rezultat podszywający się pod prawdę lub obiektywną wiedzę.

W naszych szkołach średnich i na uniwersytetach ważne będzie stworzenie podwalin pod cyfrową piśmienność: uwzględnienie, w jaki sposób budowane są poszczególne platformy, jakie są podstawowe pojęcia związane z komputerami (nawet jeśli nie wkraczamy do samego kodu) i realne spojrzenie na to, co dzieje się (a co nie) za kulisami systemu, z którego korzystamy. Cyfrowa piśmienność jest zatem zaledwie portalem do innych umiejętności, które musimy posiąść, aby technologia mogła działać w naszym interesie. Przechodząc przez te wrota, możemy rozwinąć umiejętność posługiwania się algorytmami (rozumienie natury uprzedzeń w systemach sztucznej inteligencji lub sposobu działanie systemu wyszukiwania), umiejętność korzystania z danych (jak / kiedy / gdzie dane są gromadzone, w jaki sposób są agregowane i przechowywane, przez kogo i z jakimi skutkami) oraz znajomość polityki i gospodarki (do kogo należą poszczególne technologie, w jaki sposób kształtowane są one przez różne branże, jak technologie wpływają na życie publiczne i polityczne oraz jaka jest natura relacji między interesami korporacyjnymi a interesami publicznymi/politycznymi).