Bogate elity i wyzyskiwane „kolonie danych” – Yuval Harari

Trzy problemy stanowią egzystencjalne wyzwania dla naszego gatunku: to wojna nuklearna, załamanie ekologiczne i zakłócenia technologiczne. Powinniśmy się na nich skupić.

Teraz wojna nuklearna i zapaść ekologiczna są już znanymi zagrożeniami, więc pozwólcie mi poświęcić trochę czasu na wyjaśnienie mniej znanego zagrożenia, jakie stanowią zakłócenia spowodowane przez technologię.

W Davos tak dużo słyszymy o ogromnych obietnicach technologii – i te obietnice z pewnością są realne. Ale technologia może również zakłócić ludzkie społeczeństwo i sam sens życia ludzkiego na wiele sposobów, począwszy od stworzenia globalnej bezużytecznej klasy po powstanie kolonializmu danych i dyktatur cyfrowych.

 

Technologia może być wysoce destrukcyjna

 

Po pierwsze, mogą pojawić się wstrząsy na poziomie społecznym i gospodarczym.

Automatyzacja wkrótce wyeliminuje miliony miejsc pracy i chociaż z pewnością powstaną nowe miejsca pracy, nie jest jasne, czy ludzie będą w stanie wystarczająco szybko zdobyć niezbędne nowe umiejętności. Załóżmy, że jesteś pięćdziesięcioletnim kierowcą ciężarówki i właśnie straciłeś pracę z powodu samojezdnego pojazdu. Jest nowa praca związana z projektowaniem oprogramowania czy uczeniem inżynierów jogi – ale w jaki sposób pięćdziesięcioletni kierowca ciężarówki może na nowo odkryć siebie jako inżyniera oprogramowania lub nauczyciela jogi? A ludzie będą musieli to robić nie tylko raz, ale i znowu przez całe życie, ponieważ rewolucja automatyzacji nie będzie jednym przełomowym wydarzeniem, po którym rynek pracy ustabilizuje się, do nowej równowagi. Będzie to raczej kaskada coraz większych zakłóceń, ponieważ sztuczna inteligencja jeszcze nawet nie zbliżyła się do pełnego potencjału.

Stare miejsca pracy znikną, pojawią się nowe, ale i nowe miejsca pracy szybko się zmienią i znikną. Podczas gdy w przeszłości człowiek musiał walczyć z wyzyskiem, w XXI wieku naprawdę wielka walka toczy się o własne znaczenie. Być bez znaczenia to gorzej niż być wyzyskiwanym.

Ci, którym się nie uda, stanowić będą nową „bezużyteczną klasę” – ludzi, którzy są bezużyteczni nie z punktu widzenia przyjaciół i rodziny, ale bezużyteczni z punktu widzenia systemu gospodarczego i politycznego. A tę bezużyteczną klasę oddzieli coraz większa przepaść od coraz potężniejszej elity.

Rewolucja sztucznej inteligencji może spowodować bezprecedensową nierówność nie tylko między klasami, ale także między krajami.

W dziewiętnastym wieku kilka krajów, takich jak Wielka Brytania i Japonia, jako pierwsze zindustrializowało się, a następnie podbiły i wykorzystały większość świata. Jeśli nie będziemy ostrożni, to samo stanie się w XXI wieku w przypadku sztucznej inteligencji.

Jesteśmy już w trakcie wyścigu zbrojeń AI, w którym prowadzą Chiny i Stany Zjednoczone, a większość krajów pozostaje daleko w tyle. O ile nie podejmiemy działań w celu rozdzielenia korzyści i mocy sztucznej inteligencji między wszystkich ludzi, sztuczna inteligencja prawdopodobnie przyniesie ogromne bogactwo w kilku centrach zaawansowanych technologii, podczas gdy inne kraje albo zbankrutują, albo staną się koloniami wykorzystanymi do pozyskania danych.

Nie mówimy tutaj o scenariuszu science fiction, w którym roboty zbuntowane są przeciwko ludziom. Mówimy o znacznie bardziej prymitywnej sztucznej inteligencji, która jednak wystarczy, aby zakłócić globalną równowagę.

Pomyśl tylko, co stanie się z gospodarkami rozwijającymi się, gdy produkcja tekstyliów lub samochodów będzie tańsza w Kalifornii niż w Meksyku? A co stanie się z polityką w Twoim kraju za dwadzieścia lat, kiedy ktoś w San Francisco czy Pekinie będzie znał stan zdrowia i całą osobistą historię każdego polityka, każdego sędziego i każdego dziennikarza w twoim kraju, łącznie ze wszystkimi ich seksualnymi eskapadami, wszystkimi ich psychicznymi słabościami i ewentualnymi przekrętami finansowymi? Czy Twój kraj nadal będzie niezależnym krajem, czy też stanie się kolonią danych?

Gdy masz wystarczająco dużo danych, nie musisz wysyłać żołnierzy, aby kontrolować jakiś kraj.

 

Czy w przyszłości będzie cyfrowa dyktatura?

 

Oprócz nierówności innym poważnym zagrożeniem, przed którym stoimy jest powstanie dyktatur cyfrowych, które będą monitorować wszystkich przez cały czas.

Niebezpieczeństwo to można wyrazić w postaci prostego równania, które, jak sądzę, może być definiujące równanie życia w XXI wieku:

B x C x D = AHH!

Co znaczy? Wiedza biologiczna pomnożona przez moc obliczeniową pomnożoną przez dane równa się zdolności do hakowania ludzi. Niebezpieczne równanie.

Jeśli znasz wystarczająco biologię i masz wystarczającą moc obliczeniową i dane, możesz zhakować moje ciało i mózg, moje życie, i możesz mnie zrozumieć lepiej niż ja siebie. Możesz poznać mój typ osobowości, moje poglądy polityczne, moje preferencje seksualne, moje słabości psychiczne, moje najgłębsze lęki i nadzieje. Wiesz o mnie więcej niż ja o sobie. Możesz to zrobić nie tylko mnie, ale każdemu.

System, który rozumie nas lepiej niż my sami siebie rozumiemy, może przewidywać nasze uczucia i decyzje, może manipulować naszymi uczuciami i decyzjami, a ostatecznie może podejmować decyzje za nas.

W przeszłości wiele rządów i tyranów chciało to zrobić, ale nikt nie rozumiał biologii wystarczająco dobrze i nikt nie miał wystarczającej mocy obliczeniowej i danych, aby zhakować miliony ludzi. Ani gestapo, ani KGB nie mogły tego zrobić. Ale już wkrótce przynajmniej niektóre korporacje i rządy będą w stanie systematycznie hakować wszystkich ludzi. My, ludzie, powinniśmy przyzwyczaić się do myśli, że nie jesteśmy już tajemniczymi duszami – jesteśmy teraz zwierzętami, które można hakować. Tym właśnie jesteśmy.

Moc hakowania ludzi może być wykorzystana do dobrych celów – takich jak zapewnienie znacznie lepszej opieki zdrowotnej. Ale jeśli ta władza wpadnie w ręce Stalina XXI wieku, rezultatem będzie najgorszy totalitarny reżim w historii ludzkości. Mamy już wielu kandydatów na stanowisko Stalina XXI wieku.

Wyobraź sobie Koreę Północną za dwadzieścia lat, kiedy wszyscy będą musieli nosić biometryczną bransoletkę, która stale monitoruje ciśnienie krwi, tętno, aktywność mózgu przez 24 godziny na dobę. Słuchasz w radiu przemówienia wielkiego przywódcy i on wie, co tak naprawdę czujesz. Możesz klaskać w dłonie i uśmiechać się, ale jeśli jesteś zły, wiedzą, więc jutro będziesz w gułagu.

A jeśli pozwolimy na pojawienie się takich systemów totalnego nadzoru, nie myśl, że bogaci i potężni w miejscach takich jak Davos będą bezpieczni, po prostu zapytaj Jeffa Bezosa. W stalinowskim ZSRR państwo monitorowało członków elity komunistycznej bardziej niż ktokolwiek inny. To samo będzie dotyczyło przyszłych systemów całkowitego nadzoru. Im wyżej jesteś w hierarchii – tym ściślej będziesz obserwowany.

Czy chcesz, aby Twój dyrektor generalny lub prezes wiedział, co naprawdę o nich myślisz?

Dlatego w interesie wszystkich ludzi, w tym elit, jest zapobieżenie powstaniu takich cyfrowych dyktatur. A w międzyczasie, jeśli otrzymasz podejrzaną wiadomość WhatsApp od jakiegoś Prince’a, nie otwieraj jej.

Jeśli rzeczywiście zapobiegniemy ustanowieniu cyfrowych dyktatur, zdolność hakowania ludzi może nadal podważać samo znaczenie ludzkiej wolności. Ponieważ ludzie będą polegać na sztucznej inteligencji, aby podejmować za nas coraz więcej decyzji, autorytet zmieni się z ludzi na algorytmy i to już się dzieje.

Już dziś miliardy ludzi ufają algorytmowi Facebooka, który powie nam, co nowego, algorytm Google mówi nam, co jest prawdą, Netflix mówi nam, co oglądać, a algorytmy Amazon i Alibaba mówią nam, co kupić.

W niedalekiej przyszłości podobne algorytmy mogą podpowiedzieć nam, gdzie pracować i kogo poślubić, a także zdecydować, czy zatrudnić nas do pracy, czy udzielić nam pożyczki, czy bank centralny powinien podnieść oprocentowanie.

A jeśli zapytasz, dlaczego nie dostałeś pożyczki i dlaczego bank nie podniósł oprocentowania, odpowiedź będzie zawsze taka sama – bo komputer mówi „nie”. A ponieważ ograniczony ludzki mózg nie ma wystarczającej wiedzy biologicznej, mocy obliczeniowej i danych – ludzie po prostu nie będą w stanie zrozumieć decyzji komputera.

Zatem nawet w rzekomo wolnych krajach ludzie prawdopodobnie stracą kontrolę nad własnym życiem, a także stracą zdolność rozumienia polityki publicznej.

Ilu ludzi już teraz rozumie system finansowy? Może jeden procent. Za kilka dziesięcioleci liczba ludzi zdolnych do zrozumienia systemu finansowego wyniesie dokładnie zero.

Teraz my, ludzie, jesteśmy przyzwyczajeni do myślenia o życiu jako dramacie podejmowania decyzji. Jaki będzie sens życia ludzkiego, gdy większość decyzji będzie podejmowana przez algorytmy? Nie mamy nawet filozoficznych modeli, aby zrozumieć takie istnienie.

 

Zwykła umowa między filozofami a politykami polega na tym, że filozofowie mają wiele fantastycznych pomysłów, a politycy w zasadzie wyjaśniają, że brakuje im środków do ich realizacji. Teraz jesteśmy w odwrotnej sytuacji. Stoimy w obliczu filozoficznego bankructwa.

Bliźniacze rewolucje infotechu i biotechnologii dają teraz politykom środki do stworzenia nieba lub piekła, ale filozofowie mają problem z konceptualizacją, jak będzie wyglądać nowe niebo i nowe piekło. A to bardzo niebezpieczna sytuacja.

Jeśli nie uda nam się wystarczająco szybko skonceptualizować nowego nieba, łatwo możemy zostać zwiedzeni przez naiwne utopie. A jeśli nie uda nam się wystarczająco szybko skonceptualizować nowego piekła, możemy znaleźć się tam w pułapce bez wyjścia.

 

Czy filozofia dotrzyma kroku maszynom? 

 

Wreszcie technologia może zakłócić nie tylko naszą gospodarkę, politykę i filozofię, ale także naszą biologię.

W nadchodzących dziesięcioleciach sztuczna inteligencja i biotechnologia dadzą nam boskie zdolności do przebudowy życia, a nawet do tworzenia zupełnie nowych form życia. Po czterech miliardach lat życia organicznego ukształtowanego przez dobór naturalny wkraczamy w nową erę życia nieorganicznego ukształtowanego przez inteligentny projekt.

Nasz inteligentny projekt będzie nową siłą napędową ewolucji życia i używając naszych nowych boskich mocy tworzenia, możemy popełniać błędy na kosmiczną skalę. W szczególności rządy, korporacje i armie najprawdopodobniej wykorzystają technologię do podnoszenia potrzebnych im umiejętności – takich jak inteligencja i dyscyplina – jednocześnie zaniedbując umiejętności innych ludzi – takie jak współczucie, wrażliwość artystyczna i duchowość.

Rezultatem może być rasa ludzi, którzy są bardzo inteligentni i bardzo zdyscyplinowani, ale brakuje im współczucia, wrażliwości artystycznej i głębi duchowej. Oczywiście nie jest to przepowiednia. To tylko możliwości. Technologia nigdy nie jest deterministyczna. A przyszłość nie jest wyryta na kamieniu.

W XX wieku ludzie używali tej samej technologii przemysłowej do budowania bardzo różnych rodzajów społeczeństw: faszystowskich dyktatur, komunistycznych reżimów, liberalnych demokracji. To samo stanie się w XXI wieku.

Sztuczna inteligencja i biotechnologia z pewnością zmienią świat, ale możemy je wykorzystać do stworzenia bardzo różnych rodzajów społeczeństw. A jeśli boisz się niektórych możliwości, o których wspomniałem, nadal możesz coś z tym zrobić. Ale żeby zrobić coś efektywnego, potrzebujemy globalnej współpracy.

Wszystkie trzy egzystencjalne wyzwania, przed którymi stoimy, są globalnymi problemami, które wymagają globalnych rozwiązań.

Kiedy lider mówi coś w stylu „Najpierw mój kraj!” powinniśmy przypomnieć temu przywódcy, że żaden naród nie może sam zapobiec wojnie nuklearnej ani powstrzymać załamania ekologicznego, ani też żaden naród nie może samodzielnie regulować sztucznej inteligencji i bioinżynierii.

Prawie każdy kraj powie: „Hej, nie chcemy opracowywać zabójczych robotów ani modyfikować genetycznie ludzkich dzieci. Jesteśmy dobrymi ludźmi. Ale nie możemy ufać naszym rywalom, że tego nie zrobią. Więc najpierw  sami musimy to zrobić”.

Jeśli pozwolimy, aby taki wyścig zbrojeń rozwinął się w dziedzinach takich jak sztuczna inteligencja i bioinżynieria, nie ma znaczenia, kto wygra wyścig zbrojeń – przegraną zostanie ludzkość. Koniec gry.

Niestety, właśnie wtedy, gdy globalna współpraca jest bardziej potrzebna niż kiedykolwiek wcześniej, niektórzy z najpotężniejszych przywódców i krajów na świecie teraz celowo podważają globalną współpracę. Przywódcy tacy jak prezydent USA (od red. –  były prezydent Donald Trump) mówią nam, że istnieje nieodłączna sprzeczność między nacjonalizmem a globalizmem i że powinniśmy wybrać nacjonalizm i odrzucić globalizm.

Ale to niebezpieczny błąd. Nie ma sprzeczności między nacjonalizmem a globalizmem. Ponieważ nacjonalizm nie polega na nienawiści do obcokrajowców. W nacjonalizmie chodzi o kochanie swoich rodaków. A w XXI wieku, aby chronić bezpieczeństwo i przyszłość swoich rodaków, trzeba współpracować z obcokrajowcami.

 

Globalne rozwiązania problemów globalnych

 

Nacjonalizm i globalizm nie wykluczają się wzajemnie. Tak więc w XXI wieku dobrzy nacjonaliści muszą być także globalistami. Teraz globalizm nie oznacza ustanowienia globalnego rządu, porzucenia wszelkich tradycji narodowych czy otwarcia granicy dla nieograniczonej imigracji. Globalizm oznacza raczej przywiązanie do pewnych globalnych zasad, które nie zaprzeczają wyjątkowości każdego narodu, a jedynie regulują stosunki między narodami.

A dobrym modelem są mistrzostwa świata w piłce nożnej. Mistrzostwa Świata to rywalizacja między narodami, a ludzie często wykazują ogromną lojalność wobec swojej drużyny narodowej. Ale jednocześnie Puchar Świata to także niesamowity pokaz globalnej harmonii. Francja nie może grać w piłkę nożną z Chorwacją, chyba że Francuzi i Chorwaci uzgodnią te same zasady gry. I to jest globalizm w akcji.

Jeśli lubisz mistrzostwa świata – już jesteś globalistą.

Miejmy nadzieję, że narody uzgodnią globalne zasady nie tylko dotyczące piłki nożnej, ale także sposobów zapobiegania załamaniom ekologicznym, regulowania niebezpiecznych technologii i zmniejszania globalnych nierówności. Jak na przykład upewnić się, że sztuczna inteligencja przynosi korzyści meksykańskim pracownikom tekstylnym, a nie tylko amerykańskim inżynierom oprogramowania. Oczywiście będzie to znacznie trudniejsze niż piłka nożna – ale nie niemożliwe.

Już dokonaliśmy niemożliwego. Uciekliśmy już z gwałtownej dżungli, w której my, ludzie, żyliśmy przez całą historię. Prawo dżungli mówiło, że dla każdych dwóch pobliskich krajów istnieje prawdopodobny scenariusz, że w przyszłym roku pójdą ze sobą na wojnę. Zgodnie z tym prawem pokój oznaczał jedynie „chwilową nieobecność wojny”.

Kiedy był „pokój” między – powiedzmy – Atenami i Spartą, czy Francją i Niemcami, oznaczało to, że teraz nie są one w stanie wojny, ale może w przyszłym roku będą. Przez tysiące lat ludzie zakładali, że nie da się uciec od tego prawa. Ale w ciągu ostatnich kilku dziesięcioleci ludzkości udało się dokonać niemożliwego: uciec z dżungli. Zbudowaliśmy oparty na regułach liberalny porządek globalny, który pomimo wielu niedoskonałości stworzył jednak najbogatszą i najbardziej pokojową erę w historii ludzkości.

Zmieniło się samo znaczenie słowa „pokój”.  „Pokój” nie oznacza już tylko chwilowego braku wojny. Pokój oznacza teraz niewiarygodność wojny.

Jest wiele krajów, których po prostu nie można sobie wyobrazić, że będą ze sobą walczyć w przyszłym roku – jak Francja i Niemcy. W niektórych częściach świata wciąż toczą się wojny. Pochodzę z Bliskiego Wschodu, więc uwierz mi, wiem o tym doskonale. Nie powinno to jednak przesłaniać nam ogólnego obrazu globalnego.

 

Przyczyny śmierci w 2016 roku – otyłość, cukrzyca i nie tylko

 

Żyjemy teraz w świecie, w którym wojna zabija mniej ludzi niż samobójstwo, a proch strzelniczy jest znacznie mniej niebezpieczny dla twojego życia niż cukier. Większość krajów – z pewnymi godnymi uwagi wyjątkami, takimi jak Rosja – nawet nie fantazjuje o podboju i aneksji swoich sąsiadów. Dlatego większość krajów może pozwolić sobie na wydawanie około dwóch procent ich PKB na obronność, a jednocześnie dużo, dużo więcej na edukację i opiekę zdrowotną. To nie jest dżungla.

Niestety, tak przyzwyczailiśmy się do tej wspaniałej sytuacji, że traktujemy ją jako coś oczywistego i dlatego stajemy się wyjątkowo nieostrożni. Zamiast robić wszystko, co w naszej mocy, aby wzmocnić kruchy ład światowy, kraje go zaniedbują, a nawet celowo podważają.

Globalny porządek jest teraz jak dom, w którym wszyscy mieszkają i nikt nie naprawia. Może się utrzymać jeszcze przez kilka lat, ale jeśli będziemy tak dalej postępować, upadnie – i znajdziemy się z powrotem w dżungli wszechobecnej wojny.

Zapomnieliśmy, jak to jest, ale uwierz mi jako historykowi – nie chcesz tam wracać. To jest o wiele gorsze niż sobie wyobrażasz.

Tak, nasz gatunek wyewoluował w tej dżungli, w której żył, a nawet prosperował przez tysiące lat, ale jeśli wrócimy tam teraz, z potężnymi nowymi technologiami XXI wieku, nasz gatunek prawdopodobnie sam się unicestwi.

Co zostanie?

Oczywiście, nawet jeśli znikniemy, to nie będzie koniec świata. Coś nas przeżyje. Być może szczury ostatecznie przejmą władzę i odbudują cywilizację. Być może szczury nauczą się na naszych błędach.

Ale mam wielką nadzieję, że możemy polegać na przywódcach, a nie na szczurach.

Yuval Harari, profesor, Wydział Historii, Uniwersytet Hebrajski w Jerozolimie, autor Sapiens: od zwierząt do bogów (2011, wyd. ang. 2014, wyd. pol. 2014 i 2017) i Homo deus: krótka historia jutra (2016, wyd. pol. 2018).

___________________________________________________

 

Artykuł Światowego Forum Ekonomicznego publikowany zgodnie z licencją Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Public License. Davos 2020 rok.

Zdjęcia Światowe Forum Ekonomiczne