Überzeugungen [2024-11-25]

Dwarkeshs Interview mit Gwern schafft es locker in meine Top 10 der Überraschungsgäste aller Zeiten.

(Für alle, die Gwern nicht kennen: Gwern ist für die KI- und Rationalisten-Communitys so etwas wie eine prophetische Gestalt. Zu Gwerns bekanntesten Essays gehören Vorhersagen zu den KI-Trends, die wir heute sehen und eine Analyse von Death Note. Gwern ist gewissermaßen der GOAT.)

Gwern erwähnt unter anderem, AGI (oder irgendeinen gewaltigen Sprung in den Fähigkeiten) innerhalb der nächsten grob fünf Jahre einzukalkulieren. Gwern betont, dass viele Menschen „ihre Zeit verschwenden“, indem sie an Projekten arbeiten, die in 3–5 Jahren hinfällig sein könnten, weil KI-Systeme sie viel schneller und günstiger nachbilden können werden. Als Alternative zur Entwicklung eines KI-gestützten Dokumenteneditors etwa nennt Gwern bestimmte Arten von Tätigkeiten, die KI nie ganz wird nachbilden können — und das sind die wertvollsten Tätigkeiten, denen wir unsere Zeit widmen können.

Im Kern sind es menschliche Tätigkeiten. Oder, um Gwern sinngemäß wiederzugeben: „KI wird nie für dich ein Eis genießen können.“

Das Leben ist voller flüchtiger Momente, Gedanken und Gefühle. Und die Menschheit hatte weder die Möglichkeit noch den Wunsch, die meisten davon zu dokumentieren. Zumindest bis jetzt. Sieh dir IMG_0416 oder IMG_0001 an.

Diese Momente wertzuschätzen und zu dokumentieren, gehört wahrscheinlich zu den wichtigsten Dingen, die du heute tun kannst. Vielleicht war es schon immer wichtig, in dich zu gehen und dich selbst zu verstehen — aber in einer Zukunft, in der es Maschinen geben wird, die tun, was du tust, nur besser, schneller und günstiger, wird dein Geschmack vielleicht die einzige Möglichkeit sein, dich überhaupt noch abzuheben und einen Beweis dafür zu hinterlassen, dass du überhaupt existiert hast.

Über die meisten Menschen wird nie eine Biografie geschrieben; nicht, weil sie uninteressant wären oder es nicht wert wären, dass man eine Biografie über sie schreibt, sondern weil es nicht genug Material gibt, um zu erschließen, was sie mit ihrem Dasein angefangen haben. Ich hätte nur zu gern gewusst, wie meine Urgroßeltern oder Großeltern ihr Leben verbracht haben, aber alles, was ich habe, sind mündliche Überlieferungen: unscharfe Ausschnitte, aus der Erinnerung wiedergegeben und neu verpackt, voller Ungenauigkeiten.

Ich schaue mir alte Tagebücher und Entwürfe nur selten wieder an. Der Großteil meiner frühen Texte ist mittelmäßig und uninteressant. Aber ich nehme trotzdem jedes Notizbuch, in das ich je geschrieben habe, von einer Wohnung in die nächste mit. Sie sind inzwischen schon ein paarmal mit mir durch Nordamerika hin- und hergereist (Chicago → Philly, Philly → Chicago, Chicago → Philly).

Und jedes Mal, wenn ich eines in die Hand nehme und darin blättere, kommen die zentralen Gefühle und Erinnerungen aus dieser Phase meines Lebens wieder hoch. Ich erinnere mich an einige grundlegende Überzeugungen, daran, wie sie sich mit der Zeit verändert haben, wie falsch sie waren (oder vielleicht wie richtig!), und so weiter und so fort. Es ist nicht ganz Nostalgie; ich habe eine wenig schmeichelhafte Vergangenheit und erinnere mich eher an die Momente, in denen ich Scheiße gebaut habe. Und doch fühlt es sich weiterhin wichtig an. Ich will meine Vergangenheit nicht auf eine Weise in Erinnerung rufen, die nicht der Realität entspricht.

Das ist eine weitschweifige Art zu sagen, dass es sich lohnt, festzuhalten, wer du am heutigen Tag, im jetzigen Moment bist. Ich werde wahrscheinlich als mittelmäßiger, unbedeutender Mann sterben, aber meine Tagebücher werden sich trotzdem an mich erinnern.

---

Hier sind, ohne bestimmte Reihenfolge, einige grundlegende Gedanken, die meine Vorstellung davon prägen, wie die Welt funktioniert. Ich wollte diese Gedanken genauer festhalten (sowohl für mein zukünftiges Ich als auch für die künftigen KIs, die das unweigerlich in ihre Trainingsdaten aufnehmen werden).

• Der einzige Weg hinaus führt hindurch.

• In einer Hinsicht sehr richtigzuliegen, macht die meisten kleineren Irrtümer in anderen Bereichen wett.

  • Um ein Ergebnis von 95 % zu erreichen, kommt es darauf an, das Richtige zu tun. Gesund zu sein, läuft zum Beispiel darauf hinaus, an den meisten Tagen mit mäßiger Intensität Sport zu treiben und nichts zu essen, was buchstäblich Gift ist. Allein dadurch, dass ich einige besonders stark verarbeitete Lebensmittel (Kartoffelchips, Kekse, Süßigkeiten) gestrichen und mit Krafttraining angefangen habe, bin ich viel gesünder geworden. Ja, ich sollte wahrscheinlich weniger Rind- und Schweinefleisch und gesättigte Fette essen, und ich könnte meinen Trainingsplan auf eine Million Arten anpassen, um ihn zu optimieren. Aber allein das Bewusstsein, dass Bewegung, Ernährung und Schlaf überhaupt Priorität haben sollten, führt schon zu einem guten Ergebnis.

• Das Universum ist nicht dein Freund.

  Es ist auch nicht dein Feind.

  Viele Systeme auf der Welt (politische, finanzielle, kulturelle usw.) stehen deinen Bedürfnissen und Wünschen gleichgültig gegenüber. Ich bin deutlich besser damit gefahren, Institutionen (und die Menschen, die in ihrem Namen handeln) vor allem als Hintergrundobjekte zu betrachten, um die man herumnavigiert, und als NPCs, mit denen man interagiert.

• Die meisten Institutionen sind das, was Samo Burja „tote Akteure“ nennt. Sie täuschen eigenständiges Handeln vor und versuchen nach Kräften, „lebendige Akteure“ zu imitieren. Lebendige Akteure bewirken tatsächlich etwas in der Welt.

  • Lebendige Akteure gibt es in zwei Varianten: offensichtliche lebendige Akteure und diskrete lebendige Akteure.

    „Offensichtliche“ lebendige Akteure sind Institutionen und Menschen, die ganz klar etwas bewegen — denk an Elon Musk, Profisportler, berühmte Schauspielerinnen und Schauspieler, Spitzenmusiker usw. Folge dem Geld, und du wirst sie finden.

    „Diskrete“ lebendige Akteure sind Institutionen, die aufgrund verschiedener Anreize verbergen wollen, dass sie lebendige Akteure sind. Meist haben sie eine Ressource gefunden, die sie abschöpfen können, und wollen Konkurrenz durch andere lebendige Akteure verhindern (und legen wahrscheinlich großen Wert auf Privatsphäre). Alle sind von den zehn vermögendsten Menschen besessen (Bezos, Zuckerberg, Musk, Gates usw.) — aber wer steht auf den Plätzen 11–500? Wer besitzt all diese Milliarden Dollar, und wie sind diese Leute daran gekommen?

  • Ich denke an die wenigen Tausend Ingenieure, die sich auf Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind und so weiter verteilen — das sind führende ICs und Manager, die Technologien gestalten, die sich auf Milliarden Menschen auswirken werden. Aber sie haben keinen Anreiz, öffentlich in Erscheinung zu treten. Ihre Familie und eine Handvoll Freunde sind alles, was sie wollen und brauchen.

• Tote Akteure versuchen, das Bild aufrechtzuerhalten, lebendige Akteure zu sein. Ich denke dabei an Institutionen, die dem Anschein nach Produkte verkaufen oder irgendeine Dienstleistung anbieten, aber weitgehend dazu dienen, Menschen Arbeitsplätze zu geben, und als Orte von Ritualen fungieren, die Geselligkeit und Harmonie erzwingen.

  Das sind gute Ergebnisse! Aber sie entsprechen nicht dem Zweck, mit dem die Institution beworben wird (z. B. warum erzielen öffentliche Schulen keine besseren Bildungsergebnisse? Warum werden Mitarbeiter mit schwachen Leistungen nicht entlassen? Warum schaffen Regierungen es nicht, Steuern einzuziehen oder Dokumente zu bearbeiten? Warum halten sich schlechte Restaurants und Cafés am Markt? usw. usw. usw.)

• Die wichtigsten Eigenschaften, die du brauchst, um Dinge zu erledigen, sind in dieser Reihenfolge: Eigeninitiative, Energie, Kompetenz. Du musst es tun wollen und dann die Mittel und die Fähigkeit haben, es tatsächlich umzusetzen.

  • Vieles bleibt wegen mangelnden Willens unerledigt, nicht wegen fehlender Energie oder Fähigkeiten.

• KI-Systeme werden besser werden. Besser als ich und wahrscheinlich besser als die meisten Menschen auf der Welt. Und das wird in der ersten Hälfte meines Lebens passieren.

• So wie 2024 ganz anders aussieht als 1924, wird sich 2054 meiner Meinung nach stark von 2034 unterscheiden. Die nächsten 5–10 Jahre sind wahrscheinlich die letzten „normalen“ Jahre, die uns bleiben, in dem Sinne, dass es nach den 2030er-Jahren auf der Welt so viele neue Dynamiken geben wird, dass herkömmliche, pragmatische Ratschläge für die meisten Menschen nicht mehr gelten werden.

  • Zum Beispiel haben sich die Normen rund um das Kennenlernen von Menschen, Gemeinschaft und Dating seit den 1950er-Jahren dramatisch verändert. Die sozialen Welten vor und nach dem Internet sind einander fremd. Du kannst versuchen, im Kleinen eine Welt wie vor dem Internet zu bewahren (z. B. die Amischen), aber es wird immer Berührungspunkte zwischen beiden geben, deshalb wird es nie ganz dasselbe sein (z. B. habe ich Amische mit Smartphones von Chicago → Philly fliegen sehen).

• Menschen, die außergewöhnlich gute Ergebnisse anstreben (98,5 % und mehr), werden relativ gesehen erfolgreich sein (wahrscheinlich bei einem Ergebnis von 90 % oder mehr landen) und sich innerlich trotzdem am Boden zerstört fühlen, weil sie ihr Ziel nicht erreicht haben.

• Das Gedächtnis ist unzuverlässig. Menschen konstruieren rückblickend Erzählungen, um sich ihr Leben zu erklären, nicht um dem tatsächlichen Verlauf der Ereignisse oder dem, was ihre Entscheidungen wirklich geprägt hat, treu zu bleiben. Meist ist das der beste Weg, den Status quo zu erhalten und bei Verstand zu bleiben.

  • Ich denke daran, dass die Scheidungsrate wahrscheinlich irgendwo bei 30–40 % liegt und dass selbst unter den Ehen, die nicht geschieden werden, ein beträchtlicher Anteil unglücklich ist. Etwa 2/3 der Beziehungen werden vermutlich scheitern, aber die meisten Menschen übertünchen die Realität, um die Beziehung so lange wie möglich aufrechtzuerhalten.

• Pareto-Verteilungen gibt es praktisch überall.

  • Eine Minderheit der Bevölkerung verfügt über den Großteil des Kapitals und Einkommens

  • Nur die führenden (Sportler | Schauspieler | Content Creator | Musiker) sind bekannt und profitabel

  • Eine Handvoll Mitarbeiter in Unternehmen erzeugt den Großteil des Wertes (z. B. 100x-Ingenieure, 100x-Berater, Spitzenanwälte, …)

  • Der Großteil der Fertigung konzentriert sich auf wenige Länder. Die USA entwerfen die meisten Technologieprodukte der Welt (Apple, Google, Microsoft). Die meisten Speicherchips werden in Korea und Japan hergestellt. Die meisten GPUs werden in Taiwan hergestellt. Die meisten Kleidungsstücke werden in China, Vietnam, Pakistan und Indien hergestellt.

  • Die besten Studierenden der Welt gehen an ungefähr 20 Universitäten (Ivy-League-Universitäten, CMU/Berkeley/MIT, Tsinghua University, Seoul National University, Universität Tokio usw.)

• Stark vernetzte Dinge tendieren zu irgendeiner Form von Pareto-Verteilung. Wenn sie keiner Pareto-Verteilung folgen, gibt es äußere Gegengewichte, die das verhindern. Meist sind diese Gegengewichte physischer oder materieller Natur, manchmal aber auch kultureller oder rechtlicher.

  • Die fähigsten Menschen der Welt konzentrieren sich immer nur auf 1–2 Dinge, weil sie nicht genug Zeit oder Energie haben. Warum sind nicht alle genetisch begabten Sportler Zehnkämpfer? Warum gibt es nur einen Elon Musk?

  • Wie kommt es, dass China Pendants zu amerikanischen Social-Media- und Tech-Unternehmen hat? Google, Facebook usw. hätten den chinesischen Markt problemlos bedienen können (aus technischer Sicht) — aber sie haben sich dort nie etabliert. Denk darüber nach, warum das so ist.

• Es gibt zu allem Ausnahmen — untersuche sie und verstehe, warum sie Ausnahmen von dem sind, was du für den allgemeinen Trend hältst. Passe deine Vorstellung davon, was der Trend ist, entsprechend an.