Ludzkość na rozdrożu. Superinteligencja może poprawić nasze życie lub je zlikwidować

Jan Wójcik: Czy za sto lat będziemy mogli się spotkać ponownie w tej kawiarni i rozmawiać na temat trafności twoich prognoz?

Grzegorz Lindenberg: Zakładając, że ta kawiarnia będzie istniała…

Czyli resztę warunków przyjmujesz za pewnik?

Ja być może jestem za stary. Może się okazać, że mimo postępów w medycynie, biologii i genetyce, tylko do pewnego momentu można odwracać procesy starzenia i tylko do pewnego stopnia można je spowalniać. I może zamiast przypadających na mnie statystycznie 20 lat przeżyję jeszcze 40. Nie załapię się więc na kolejne odkrycia. Natomiast ty, jeżeli przeżyjesz powiedzmy 60, to doczekasz kolejnych postępów nauki przedłużających życie. I będziesz mógł wpaść do tej kawiarni.

Jesteś optymistą. Książkę też nazwałeś "Ludzkość poprawiona", a ja po jej przeczytaniu mam wrażenie, że mógłbyś ją nazwać "Ludzkość zredukowana" lub nawet "Ludzkość unicestwiona". Piszesz przecież o poważnych zagrożeniach.

Raczej o nowych sytuacjach. Choć niektórzy mogą rzeczywiście patrzeć na to, jak na zagrożenie. Na przykład, że przekształcimy się genetycznie w inny gatunek. A inni widzą to jako szansę. W Stanach Zjednoczonych są tacy, którzy uważają, że to wręcz fantastyczne, że zastąpi nas sztuczna superinteligencja. Tak naprawdę książka mogłaby się nazywać „Ludzkość na rozdrożu”. Są duże szanse na to, że możemy się rozwinąć umysłowo i fizycznie, że możemy podwyższyć bardzo poziom życia dzięki nowym odkryciom w biologii i sztucznej inteligencji. Ale możemy też przestać istnieć. I to są równie realne możliwości.

Uderzający jest opis gry w go. Oto pierwszy komputer wygrywa z mistrzem. Potem następna, nowocześniejsza sztuczna inteligencja wygrywa z tą pierwszą, a człowiek nie jest już zapraszany do rozgrywek.

Nie zaproszono człowieka, bo nie miał już w ogóle szans.

To może później ludzi nie zaprosi się też do innych "rozgrywek". Prognozujesz, że w końcu będą w większości zbyteczni na rynku pracy. Więc jaki będzie sens utrzymywać tych, którym trzeba zapewnić wyżywienie i rozrywkę?

To nie będzie decyzja ludzi, co robić z ludźmi dalej. Nie wierzę w dystopijny świat, w którym istnieje mała grupa, która przejmuje kontrolę nad wszystkim, i która likwiduje pozostałych, aby żyć w niesłychanym bogactwie.

Przecież mówisz o ogromnym rozwarstwieniu. O podziale na technologiczną arystokrację, która ma pracę i dużą grupę, która w zasadzie jest na utrzymaniu państwa.

Logika tego, co się obecnie dzieje, na to by wskazywała. Nie myślę jednak, że resztę ludzkości zlikwiduje się jako niepotrzebną. Uważam, że jesteśmy na poziomie takiego rozwoju, że nikt nie będzie planował takiego ludobójstwa. Nawet to rozwarstwienie się bogactwa, o którym wspominasz, a które widać już dzisiaj, nie ma dla ogólnego dobrobytu znaczenia. Bo postęp będzie tak duży, że jego skutki będą rozszerzać się na wszystkie warstwy. Zniknięcie ludzi i to wszystkich, jest raczej zagrożeniem pochodzącym od sztucznej superinteligencji. Ona nie będzie patrzyła na to, czy ktoś ma pracę czy nie. Będzie traktować nas tak, jak my traktujemy mrówki, budując na przykład drogi.

Superinteligencja nie będzie dla nas groźna, dopóki nie uzyska samoświadomości, poczucia odrębności od nas?

Do pewnego stopnia tak, jeżeli myślimy o podjęciu przez nią świadomej decyzji zniszczenia ludzkości. Natomiast może się zdarzyć, że dasz superinteligencji określony cel i środki jego osiągania, które umożliwią jej przypadkowo likwidację ludzkości. Jeżeli okaże się, że realizacja zadanego celu tego wymaga, to może się tak wydarzyć bez posiadania przez sztuczną superinteligencję czegoś, co my rozumiemy jako świadomość.

Nie wierzę natomiast w stworzenie sztucznej inteligencji, która będzie miała złe zamiary wobec ludzi. Natomiast wyobrażam sobie, że można zaprogramować sztuczną inteligencję tak, że ma za zadanie coraz lepiej poznawać świat. Żeby to robić, musi mieć coraz więcej zasobów, a żeby je zdobyć, zacznie rywalizować o te zasoby z nami. Trochę jakbyś miał koparkę automatyczną. Jeżeli nie zaprogramujesz jej, żeby się zatrzymała kiedy trafi na dom, to kopiąc rozwali go.

Do myślenia o zabezpieczeniu się przed niebezpieczeństwem ze strony sztucznej inteligencji trzeba podejść jak inżynier budujący most. On zakłada zapas wytrzymałości znacznie większy, niż wynika z planowanego obciążenia. Zapas, który prawie na pewno nie okaże się potrzebny. Trzeba przyjąć, że superinteligencja może mieć cechy niekorzystne dla nas znacznie wcześniej, niż się spodziewamy, znacznie wcześniej, niż będzie miała "świadomość". I trzeba myśleć o tym już dzisiaj, bo nawet jeżeli realne niebezpieczeństwo nastąpi za trzydzieści lat, to nie wiemy, jak szybko zdążymy przygotować skuteczne zabezpieczenia.

To czym miałaby być ta superinteligencja?

To sztuczna inteligencja, która przewyższa naszą i może się samodoskonalić, żeby przewyższyć nas setki, tysiące, miliony razy.

A nie przewyższa nas już w czynnościach, takich jak wspomniana gra w go?

Przewyższa nas w pewnych aspektach. Nie przewyższa nas jednak w średniej inteligencji, ponieważ tych aspektów jest bardzo dużo i jak na razie średnio wypada gorzej. Nie potrafi uogólniać. Tak naprawdę nie rozumie świata, umie robić tylko pewne rzeczy. Nie rozumie związków przyczynowo-skutkowych. Na razie sztuczna inteligencja nie wie, co robi, nie wie gdzie jest. Ta, która wygrała w go, nawet nie wie, że wygrała w go. Umie genialnie grać, ale nie wie, że gra, nie wie po co to robi i z kim.

Twoja książka ma dwie perspektywy czasowe. Bliższa zdaje się być bardziej optymistyczna. Ludzkość dostaje niesłychanego kopa, wsparcia technologicznego ze strony sztucznej inteligencji i genetyki. A w miarę rozwoju…

Powstaje społeczeństwo, w którym większość nie ma pracy. Pewno takie, które może przemodelować się genetycznie na różne sposoby. I być może takie, które niknie w cieniu sztucznej inteligencji, jeżeli ona będzie się rozwijać tak, jak się rozwija. I to jest skok jakościowy. Nie wiadomo dobry, czy zły.

To co byś sugerował rodzicom zaniepokojonym o przyszłość swoich dzieci? W jakie kompetencje je wyposażyć? W co inwestować w nauce, skoro nie przeskoczymy w pewnych aspektach sztucznej inteligencji?

Na poziomie szkoły powinno to być to, co zawsze. Jakaś wiedza o różnych aspektach świata. Szkielet, na którym można rozwijać dalszą wiedzę. Bo jak tego szkieletu nie ma, to dalsza wiedza nie ma na czym się osadzić. Nawet jeżeli cała wiedza jest w Google, to jak nie wiesz czego szukać i do czego tego użyć, nie masz z niej pożytku. Druga rzecz, to rozwijanie ciekawości świata. I trzecia - charakter, umiejętność bycia z ludźmi, chęć współpracy z nimi, zainteresowanie drugim człowiekiem.

W jaki sposób zabezpieczyć to, o co martwią się rodzice, czyli powodzenie ich dzieci w dorosłym życiu?
O przyszłość nie ma się co martwić. Nie ma się co martwić, czy dzieci się utrzymają, bo się utrzymają pewnie nic nie robiąc. Martwić należy się o to, czy one będą w stanie sensownie żyć, czy raczej podłączą się do wirtualnej rzeczywistości i będą całymi dniami grały w gry komputerowe. Przygotowywać dzieci nie do udanej kariery zawodowej w danym kierunku, tylko do udanego życia. Korczak bardzo jasno to powiedział i chyba nikt nic mądrzejszego nie wymyślił, że trzeba tak wychować dzieci, żeby im w życiu było dobrze i żeby innym ludziom było dobrze z nimi.

I w tym sensie ludzkość ma niewiarygodną szansę na rozwój intelektualno-duchowy. Za trzydzieści lat ogromna większość ludzkości nie będzie musiała nic robić zawodowo ani niespecjalnie będzie miała coś zawodowo do roboty. Będzie mogła spędzać czas wyłącznie na rzeczach, które są ciekawe i przyjemne. Pytanie, czy ludzie będą potrafili tak żyć.

Jeżeli dzięki genetyce, jak piszesz, nasze życie wydłuży się, czy nie będziemy się strasznie nudzić?

Zależy od ludzi. Ja raczej nie. Są tysiące książek, których nie zdążyłem przeczytać, miliony utworów na Spotify, z których znam jeden promil. W Toskanii byłem kilkanaście razy, a pojechałbym tam jeszcze wiele razy, nie mówiąc o dziesiątkach miejsc, gdzie jeszcze nie byłem. Jest wielu ludzi, których nie poznałem, a chciałbym poznać. Ale może to jest też odpowiedź na twoje pytanie, czego uczyć dzieci? Uczyć, żeby się nie nudziły, nie zabijały czasu, umiały interesująco dla siebie żyć.

Genetyka wydaje się nieść mniejsze ryzyko niż superinteligencja, ale ona może też być niebezpieczna, bo zmian nie da się odwrócić. Czy nie powinna mieć miejsca jakaś dyskusja o etyce?

Zdecydowanie powinna, to jeden z celów tej książki, by w Polsce pobudzić dyskusję. W niektórych krajach unijnych już przygotowuje się ustawodawstwo na tę okoliczność, bo do wyboru cech dzieci, które mają się urodzić, jest już bardzo blisko. Pierwszy etap wyboru pożądanych cech, bez edytowania genów, to wybieranie zarodków, które mają określone cechy. Jest już firma w Kalifornii, która pozwala rodzicom spośród zarodków, które zostały zapłodnione in vitro, wybrać te z określonym kolorem oczu. Te kolory muszą już tam być, nie można jeszcze zmienić genów, jeżeli nie mają takich genów rodzice.

Zmiana genów to następny etap. Ograniczenia są dwa. Jedno polega na tym, że musimy umieć to robić w zarodkach, tak żeby nie uszkodzić zarodka, a przy okazji jego genów. Drugie ograniczenie jest takie, że musimy wiedzieć, które dokładnie geny zmieniać. Większość cech ludzkich jest związana z ilomaś genami. A nie jest tak, że jeden gen to jedna cecha. Do niektórych potrzeba kilkadziesiąt albo kilkaset genów. I może się zdarzyć, że zmieniając gen, żeby osiągnąć pożądane rezultaty w jednym miejscu, będziemy mieć inny rezultat (skutki uboczne) w innej cesze. Geny są słabo poznane, ale będą wkrótce poznane dużo lepiej. Dopiero od sześciu lat mamy tanią i łatwą możliwość ich modyfikowania, włączania i wyłączania.

Jak umiejscowić Polskę w tematach, o których piszesz? Istniejemy tam?

Incydentalnie, ale jako kraj, społeczeństwo, nie istniejemy w żadnej dziedzinie, ani w genetyce, ani w sztucznej inteligencji. Będziemy raczej przedmiotem tych zmian. Po prostu będziemy mieli te możliwości przez nie osiągnięte i będziemy tak samo podatni na skutki zmian gospodarczych, społecznych, cywilizacyjnych z nich wynikających. Natomiast chodzi o to, żebyśmy się włączyli jako społeczeństwo w proces myślenia o przyszłości i kształtowania jej. To możemy jednak zrobić tylko na poziomie Unii Europejskiej, bo jako oddzielny kraj nie mamy takich możliwości.

Mówisz o aspekcie etycznym i społecznym, ale czy jako kraj nie powinniśmy zadbać o udział w tym bogactwie? Ciągle się słyszy jakich to Polska ma świetnych informatyków.

Część tych informatyków albo wyjechała za granicę albo zdalnie pracuje dla firm rozwijających sztuczną inteligencję.

Może chodzi wyłacznie o kapitał i nakłady?

Niekoniecznie. Myślę, że problem, jeżeli chodzi o badania w Polsce, jest znacznie większy i leży gdzie indziej niż w braku kapitału. Być może mamy dobrych informatyków, ale z jakichś powodów mamy marginalną ilość firm od sztucznej inteligencji. Może z braku kapitału, ale chyba nie tylko.

W genetyce, w modyfikacji genów umożliwianych przez system CRISPR-Cas9, która jest prosta dla badaczy, nie potrzeba prawie żadnych nakładów finansowych. Ta metoda niesłychanie zdemokratyzowała badania nad manipulowaniem genami. Kiedyś zajmowało się nimi, powiedzmy, sto laboratoriów na świecie, a teraz robią to tysiące.

Tymczasem nic się nie dzieje, jeżeli chodzi o takie badania u nas. Na coroczną konferencję biotechnologii w Gdańsku do panelu o doświadczeniach z wykorzystaniem technologii CRISPR-cas9 nie zgłosił się nikt, a cały zestaw do badań można zamówić za granicą za kilkadziesiąt dolarów. I nic.

A zmiany będą następować, czy będziemy stać z boku, czy nie. Ja uważam, że lepiej mieć na nie wpływ, a nie tylko się im poddawać.

Grzegorz Lindenberg - _doktor socjologii, menedżer, wydawca i dziennikarz. Był dyrektorem generalnym Agory, gdy powstawała "Gazeta Wyborcza", i tworzył "Super Express". Jest pomysłodawcą dwóch wczesnych firm internetowych: Supermedia i eCard, jednym z założycieli start-upu Webnalist i współautorem kilkakrotnie wznawianej książki "Toskania i Umbria. Przewodnik subiektywny". _