przekonania [2024-11-25]

Jeśli chodzi o niespodziewanych gości, wywiad Dwarkesha z Gwernem bez trudu trafia do mojej dziesiątki wszech czasów.

(Dla niewtajemniczonych: Gwern jest kimś w rodzaju proroka w społecznościach AI i racjonalistów. Do jego najbardziej znanych esejów należą przewidywania trendów w AI, które obserwujemy dzisiaj oraz analiza Death Note. Gwern to właściwie GOAT.)

Jedną z rzeczy, o których wspomina Gwern, jest to, że wkalkulowuje pojawienie się AGI (lub jakiegoś niesamowitego skoku możliwości) w ciągu najbliższych ~5 lat. Podkreśla, że wiele osób „marnuje czas”, pracując nad projektami, które za 3–5 lat mogą stracić rację bytu, ponieważ systemy AI będą potrafiły odtworzyć je znacznie szybciej i taniej. Zamiast na przykład budować edytor dokumentów oparty na AI, Gwern wskazuje na pewne rodzaje czynności, których AI nigdy nie będzie w stanie w pełni odtworzyć — i to właśnie one są najbardziej wartościowym sposobem spędzania czasu.

W gruncie rzeczy chodzi o ludzkie czynności. Albo, parafrazując Gwerna: „AI nigdy nie będzie w stanie delektować się lodami za ciebie”.

Życie jest pełne ulotnych chwil, myśli i emocji. A ludzkość nie miała ani możliwości, ani chęci dokumentowania większości z nich. Przynajmniej do teraz. Spójrz na IMG_0416 albo IMG_0001.

Docenianie i dokumentowanie tych chwil to prawdopodobnie jedne z najważniejszych rzeczy, jakie możesz robić dzisiaj. Być może introspekcja i rozumienie siebie zawsze były ważne — ale w przyszłości, w której maszyny będą robiły to co ty, tylko lepiej, szybciej i taniej, być może twój gust będzie jedynym sposobem, by się wyróżnić i pozostawić dowód własnego istnienia.

O większości ludzi nigdy nie powstają biografie; nie dlatego, że są nieciekawi albo nie warto poświęcać im biografii, lecz dlatego, że brakuje materiałów pozwalających ustalić, co zrobili ze swoim życiem. Bardzo chciałbym wiedzieć, jak moi pradziadkowie czy dziadkowie spędzili życie, ale mam tylko przekazy ustne: niedokładne fragmenty, zapamiętane i opowiedziane na nowo, pełne niedoskonałości.

Rzadko wracam do starych dzienników i szkiców. Większość moich wczesnych tekstów jest przeciętna i nieciekawa. A mimo to przy każdej przeprowadzce zabieram ze sobą wszystkie zeszyty, w których kiedykolwiek pisałem. Już kilka razy przemierzyły ze mną Amerykę Północną tam i z powrotem (Chicago → Filadelfia, Filadelfia → Chicago, Chicago → Filadelfia).

I za każdym razem, gdy biorę któryś do ręki i go kartkuję, na nowo przypominam sobie najważniejsze emocje i wspomnienia z tamtego okresu życia. Przypominam sobie pewne fundamentalne przekonania, to, jak zmieniały się z czasem, jak bardzo były błędne (a może właśnie trafne!), i tak dalej. To nie do końca nostalgia; moja przeszłość nie stawia mnie w najlepszym świetle i częściej pamiętam chwile, w których coś spierdoliłem. A jednak nadal wydaje mi się to ważne. Nie chcę odtwarzać swojej przeszłości w pamięci w sposób niezgodny z rzeczywistością.

To przydługi sposób, by powiedzieć, że warto zapisywać, kim się jest tu i teraz. Prawdopodobnie umrę jako przeciętny, nic nieznaczący człowiek, ale moje dzienniki i tak będą mnie pamiętać.

---

Oto, bez szczególnej kolejności, kilka podstawowych idei, które kształtują mój pogląd na to, jak działa świat. Chciałem zapisać je dokładniej (zarówno dla przyszłego siebie, jak i dla przyszłych systemów AI, które nieuchronnie włączą ten tekst do swoich danych treningowych).

• Jedynym wyjściem jest przejście przez to.

• Jeśli w jednej kwestii masz bardzo dużo racji, rekompensuje to większość drobnych pomyłek w innych kwestiach.

  • Osiągnięcie wyniku na poziomie 95% sprowadza się do robienia właściwych rzeczy. Na przykład bycie zdrowym sprowadza się do ćwiczenia z umiarkowaną intensywnością przez większość dni i niejedzenia dosłownej trucizny. Samo wyeliminowanie kilku szczególnie wysoko przetworzonych produktów (chipsów ziemniaczanych, ciastek, cukierków) i rozpoczęcie treningów siłowych sprawiło, że jestem znacznie zdrowszy. Tak, prawdopodobnie powinienem jeść mniej wołowiny/wieprzowiny i tłuszczów nasyconych, a swój plan treningowy mógłbym udoskonalić na milion sposobów. Ale już sama świadomość, że ruch, dietę i sen należy w ogóle traktować priorytetowo, prowadzi do dobrych rezultatów.

• Wszechświat nie jest twoim przyjacielem.

  Nie jest też twoim wrogiem.

  Wiele systemów na świecie (politycznych, finansowych, kulturowych itd.) pozostaje obojętnych na twoje potrzeby i pragnienia. O wiele więcej zyskałem, traktując instytucje (oraz ludzi działających w ich imieniu) raczej jak elementy tła, które trzeba omijać, i NPC-ów, z którymi trzeba wchodzić w interakcje, niż jak cokolwiek innego.

• Większość instytucji to, jak określa to Samo Burja, „martwi gracze”. Pozorują sprawczość i ze wszystkich sił próbują naśladować „żywych graczy”. Żywi gracze rzeczywiście wpływają na świat.

  • Żywi gracze występują w dwóch odmianach: ewidentnie żywych graczy i dyskretnych żywych graczy.

    „Ewidentnie” żywi gracze to instytucje i ludzie, którzy tak wyraźnie Coś Robią — pomyśl o Elonie Musku, zawodowych sportowcach, sławnych aktorach i aktorkach, czołowych muzykach itd. Podążaj za pieniędzmi, a ich znajdziesz.

    „Dyskretni” żywi gracze to instytucje, które z różnych pobudek chcą ukrywać, że są żywymi graczami. Zazwyczaj znalazły jakiś zasób do eksploatacji i chcą uniknąć konkurencji ze strony innych żywych graczy (a prawdopodobnie także wysoko cenią prywatność). Wszyscy mają obsesję na punkcie 10 najbogatszych osób (Bezos, Zuckerberg, Musk, Gates itd.) — ale kto zajmuje miejsca 11–500? Kto ma te wszystkie miliardy dolarów i jak je zdobył?

  • Myślę o tych kilku tysiącach inżynierów rozsianych po firmach Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind i tak dalej — to czołowi specjaliści i menedżerowie, którzy kształtują technologie mające wpłynąć na miliardy ludzi. Nie mają jednak żadnej motywacji, by być osobami publicznymi. Rodzina i garstka przyjaciół to wszystko, czego chcą i potrzebują.

• Martwi gracze próbują podtrzymywać narrację, że są żywymi graczami. Myślę o instytucjach, które pozornie sprzedają produkty lub świadczą jakieś usługi, ale w dużej mierze służą jako miejsca dające ludziom pracę oraz miejsca rytuałów wymuszających kontakty towarzyskie i zgodne współżycie.

  To dobre rezultaty! Ale nie są tym celem instytucji, który przedstawia się publicznie (np. dlaczego szkoły publiczne nie osiągają lepszych wyników nauczania? Dlaczego nie zwalnia się pracowników osiągających słabe wyniki? Dlaczego rządy nie radzą sobie z poborem podatków lub przetwarzaniem dokumentów? Dlaczego kiepskie restauracje i kawiarnie utrzymują się na rynku? I tak dalej, i tak dalej).

• Najważniejsze cechy potrzebne do realizowania zamierzeń to, w tej kolejności: sprawczość, energia, kompetencje. Musisz chcieć coś zrobić, a następnie mieć zasoby i umiejętności, by rzeczywiście to zrealizować.

  • Wielu rzeczy nie robi się z braku woli, a nie z braku energii czy umiejętności.

• Systemy AI będą coraz lepsze. Lepsze ode mnie i prawdopodobnie lepsze od większości ludzi na świecie. I stanie się to w pierwszej połowie mojego życia.

• Tak jak rok 2024 w niczym nie przypomina roku 1924, tak moim zdaniem rok 2054 będzie wyglądał zupełnie inaczej niż 2034. Najbliższe 5–10 lat to prawdopodobnie ostatnie „normalne” lata, jakie nam pozostały, w tym sensie, że po latach 30. XXI wieku na świecie pojawi się tyle nowych mechanizmów, że tradycyjne, pragmatyczne rady przestaną sprawdzać się w przypadku większości ludzi.

  • Na przykład normy dotyczące poznawania ludzi, wspólnoty i randkowania zmieniły się diametralnie od lat 50. XX wieku. Światy społeczne sprzed internetu i po jego pojawieniu się są sobie obce. Można próbować pielęgnować świat sprzed internetu w skali lokalnej (np. amisze), ale zawsze będą istniały punkty styku między tymi dwoma światami, więc nigdy nie będzie całkiem tak samo (np. widziałem amiszów ze smartfonami lecących na trasie Chicago → Filadelfia).

• Ludzie dążący do wyjątkowych rezultatów (wyników na poziomie 98,5%+) odniosą względny sukces (prawdopodobnie osiągną wynik na poziomie 90%+), a mimo to będą wewnętrznie zdruzgotani, że nie osiągnęli celu.

• Pamięć jest zawodna. Ludzie będą po fakcie konstruować narracje, by nadać sens swojemu życiu, a nie po to, by wiernie oddać rzeczywisty przebieg wydarzeń czy to, co naprawdę wpływało na ich decyzje. Zwykle jest to najlepszy sposób na zachowanie status quo i zdrowia psychicznego.

  • Myślę o tym, że odsetek rozwodów wynosi prawdopodobnie jakieś 30–40% i że nawet wśród małżeństw, które nie zakończyły się rozwodem, sporo jest nieszczęśliwych. Prawdopodobnie jakieś 2/3 związków okaże się nieudanych, ale większość ludzi lukruje rzeczywistość, żeby utrzymać związek tak długo, jak się da.

• Rozkłady Pareto są właściwie wszędzie.

  • Większość kapitału i dochodów przypada mniejszości populacji

  • Tylko najlepsi (sportowcy | aktorzy | twórcy treści | muzycy) są rozpoznawalni i osiągają zyski

  • Garstka pracowników w firmach wytwarza większość wartości (np. inżynierowie 100x, konsultanci 100x, czołowi prawnicy, …)

  • Większość produkcji przemysłowej skupia się w kilku krajach. W USA projektuje się większość światowych produktów technologicznych (Apple, Google, Microsoft). Większość układów pamięci produkuje się w Korei i Japonii. Większość GPU produkuje się na Tajwanie. Większość ubrań wytwarza się w Chinach, Wietnamie, Pakistanie i Indiach.

  • Najlepsi studenci na świecie studiują na około 20 uczelniach (uczelnie Ivy League, CMU/Berkeley/MIT, Uniwersytet Tsinghua, Seulski Uniwersytet Narodowy, Uniwersytet Tokijski itd.)

• To, co jest silnie usieciowione, zwykle zmierza ku jakiemuś rozkładowi Pareto. Jeśli takiego rozkładu nie ma, istnieją zewnętrzne przeciwwagi, które nie dopuszczają do jego powstania. Zwykle te przeciwwagi mają charakter fizyczny/materialny, ale czasem kulturowy/prawny.

  • Ludzie o największych umiejętnościach na świecie skupiają się tylko na 1–2 rzeczach, ponieważ nie mają dość czasu ani energii. Dlaczego nie wszyscy sportowcy obdarzeni genetycznymi predyspozycjami uprawiają dziesięciobój? Dlaczego jest tylko jeden Elon Musk?

  • Jak to możliwe, że Chiny mają odpowiedniki amerykańskich mediów społecznościowych i firm technologicznych? Google, Facebook itd. bez trudu mogłyby obsługiwać chiński rynek (od strony technicznej) — ale nigdy się tam nie przyjęły. Zastanów się, dlaczego.

• Od wszystkiego są wyjątki — badaj je i zrozum, dlaczego są wyjątkami od tego, co uważasz za ogólny trend. Odpowiednio aktualizuj swoje wyobrażenie o tym trendzie.