信じていること [2024-11-25]

DwarkeshによるGwernへのインタビューは、ゲストの意外さという点で、私の歴代トップ10に余裕で入る。

(知らない人のために説明すると、GwernはAIや合理主義者のコミュニティで預言者のような存在だ。特によく知られたエッセイには、今日見られるAIの動向を予測したものや、『DEATH NOTE』の分析がある。Gwernは、いわば史上最高の存在だ。)

Gwernが話していたことの一つは、今後だいたい5年くらいでAGIが実現すること (あるいは何らかの驚異的な能力の飛躍が起きること) を織り込んでいるということだ。多くの人が、3〜5年後には意味をなさなくなるかもしれないプロジェクトに取り組み、「時間を無駄にしている」と強調している。AIシステムが、それらをはるかに速く、安く再現できるようになるからだ。たとえばAI搭載の文書エディターを作るよりも、AIには決して完全には再現できない種類の活動があり、私たちが時間を費やせる活動の中で最も価値が高いのはそうした活動なのだとGwernは言う。

その本質にあるのは、人間ならではの活動だ。Gwernの言葉を言い換えるなら、「AIがあなたの代わりにアイスクリームを味わうことは決してできない」。

人生は、はかない瞬間や思い、感情に満ちている。そして人類には、その大半を記録する能力も意欲もなかった。少なくとも、今までは。IMG_0416や、IMG_0001を見てほしい。

こうした瞬間を味わい、記録することは、今日できることの中で、おそらく最も大切なことの一つだ。内省し、自分を理解することは、きっとずっと大切だったのだろう。だが、自分と同じことを、より上手に、より速く、より安くこなす機械がある未来では、自分の感性だけが、ほかとの違いを示し、そもそも自分が存在したという証を残す唯一の手段になるのかもしれない。

ほとんどの人は、伝記を書いてもらうことがない。面白みがないからでも、伝記を書く価値がないからでもなく、その人生で何をしたのかを推し量るための資料が足りないからだ。私は曽祖父母や祖父母がどんな人生を送ったのかを知りたかったが、手元にあるのは口伝の話だけだ。記憶をたどって語り直された、不正確なところだらけの、解像度の低い断片でしかない。

古い日記や下書きを読み返すことはめったにない。初期に書いたものの大半は平凡で、面白くもない。それでも、これまで書き込んだノートはすべて、引っ越しのたびに持っていく。それらは私と一緒に、北米をもう何度か行き来している (シカゴ → フィラデルフィア、フィラデルフィア → シカゴ、シカゴ → フィラデルフィア)。

そして、そのうちの一冊を手に取ってページをめくるたびに、人生のその時期に抱いていた、核となる感情や記憶がよみがえる。自分の軸となっていた考えや、それが時とともにどう変わったか、どれほど間違っていたか (あるいは、どれほど正しかったか！) などを、次々と思い出す。単なる懐かしさとは少し違う。私の過去は褒められたものではなく、思い出すのも、やらかしたときのことのほうが多い。それでも、やはり大切なことだと感じる。自分の過去を、現実に忠実ではない形で思い出し直したくはない。

長々と書いたが、要するに、今この日、今この時の自分がどんな人間なのかを記録しておく価値はある、ということだ。私はたぶん、平凡で取るに足りない男として死ぬのだろう。それでも、日記は私を覚えていてくれる。

以下は、世界の仕組みについての私の考えの土台となっている、いくつかの基本的な考えだ。順不同で挙げる。これらを、より高い解像度で記録しておきたかった (未来の自分のためにも、そして、いずれ必ずこれを学習データに取り込む未来のAIのためにも)。

抜け出す唯一の道は、通り抜けることだ。
一つの点で大いに正しければ、ほかの点で少しずつ間違っていても、その大半は埋め合わせられる。
- 95%の成果を得るには、正しいことをすればいい。たとえば、健康でいるために必要なのは、ほぼ毎日、適度な強度で運動し、文字どおりの毒を食べないことに尽きる。特に加工度の高い食品 (ポテトチップス、クッキー、キャンディー) をいくつかやめ、筋トレを始めただけで、私はずっと健康になった。確かに、牛肉や豚肉、飽和脂肪の摂取はもっと減らしたほうがいいのだろうし、トレーニングのメニューも、より最適にするための調整はいくらでもできる。だが、そもそも運動、食事、睡眠を優先すべきだと意識しているだけで、よい結果につながる。
宇宙はあなたの味方ではない。

敵でもない。

世界の多くのシステム (政治、金融、文化など) は、あなたの必要や望みに対して、好意的とも敵対的ともいえない。組織 (そして組織を代表して動く人たち) を、避けて進む背景のオブジェクトや、やり取りするNPCに近いものとして扱うほうが、ほかの捉え方よりもうまくいくことがずっと多かった。
ほとんどの組織は、Samo Burjaの言う「死んだプレイヤー」だ。主体性があるふりをして、必死に「生きたプレイヤー」をまねている。生きたプレイヤーは、実際に世界に影響を与えている。
- 生きたプレイヤーには、明らかにそうだと分かるタイプと、目立たないタイプの2種類がいる。
  
  「明らかな」生きたプレイヤーとは、どう見ても何かを成し遂げている組織や人のことだ。イーロン・マスク、プロのアスリート、有名な俳優や女優、トップミュージシャンなどを思い浮かべればいい。お金の流れを追えば、彼らが見つかる。
  
  「目立たない」生きたプレイヤーは、さまざまなインセンティブから、自分たちが生きたプレイヤーであることを隠しておきたい組織だ。たいていは、利益を引き出せる何らかの資源を見つけ、ほかの生きたプレイヤーとの競争を避けたがっている (そして、おそらくプライバシーをとても重視している)。誰もが純資産額の上位10人 (ベゾス、ザッカーバーグ、マスク、ゲイツなど) に夢中だが、11〜500位には誰がいるのだろう？あの何十億ドルもの資産を持っているのは誰で、どうやって手にしたのだろう？
- Nvidia、Anthropic、OpenAI、Facebook、Apple、Google DeepMindなどに散らばる数千人のエンジニアが思い浮かぶ。何十億人もの人々に影響を及ぼす技術を形作っている、トップクラスのICやマネージャーたちだ。しかし、公の場に出る動機はない。彼らが望み、必要とするのは、家族と一握りの友人だけだ。
死んだプレイヤーは、自分たちが生きたプレイヤーだという物語を維持しようとしている。思い浮かぶのは、表向きは製品を売ったり何らかのサービスを提供したりしていても、実際には主に、人に仕事を与える場所や、社交と調和を保たせる儀式の場として機能している組織だ。

こうした結果はいいことだ！ただし、その組織がうたっている目的とは違う (たとえば、なぜ公立学校の教育成果はもっと上がらないのか？なぜ業績の低い従業員は解雇されないのか？なぜ政府は徴税や書類の処理ができないのか？なぜひどいレストランやカフェが営業を続けられるのか？などなど)。
物事を成し遂げるのに必要な、最も重要な資質は、順に主体性、活力、能力だ。まずそれをやりたいと思い、次に実行するための資源と能力を持っていなければならない。
- 多くのことが実現しないのは、活力やスキルが足りないからではなく、意志が足りないからだ。
AIシステムは、これからさらに優秀になる。私よりも、そしておそらく世界の大半の人よりも優秀になる。それは私の生涯の前半に起きる。
2024年が1924年とまるで違うのと同じように、2054年は2034年とは大きく違っていると思う。今後5〜10年は、おそらく私たちに残された最後の「普通の」年月だ。2030年代が終わった後は、世界に新たな力学があまりにも多く生まれ、従来の実践的な助言は大半の人に当てはまらなくなる、という意味で。
- たとえば、人との出会い、コミュニティ、デートをめぐる規範は、1950年代以来、大きく変わってきた。インターネットの登場前と登場後では、人付き合いの世界は互いにまったく異質だ。局所的には、インターネット以前の世界を育もうとすることもできる (たとえばアーミッシュの人々)。だが、両者の接点は必ず残るので、まったく同じにはならない (たとえば私は、シカゴ → フィラデルフィアの飛行機に、スマートフォンを持ったアーミッシュの人々が乗っているのを見た)。
並外れた結果 (98.5%以上の成果) を追い求める人は、相対的には成功しても (おそらく90%以上の成果には届く)、目標を達成できなかったことで、内心では打ちのめされる。
記憶は当てにならない。人は、自分の人生に筋を通すために、後から物語を作り上げる。実際に出来事がどう展開したかや、何に基づいて意思決定したかという現実に忠実であろうとするためではない。たいていは、それが現状と正気を保つための最善の方法なのだ。
- 離婚率はおそらく30〜40%くらいで、離婚していない夫婦の中にも、不幸な夫婦はかなりいるのだと思う。おそらく関係の3分の2ほどはうまくいかなくなるのだろうが、大半の人は、できるだけ長く関係を続けるために現実を取り繕う。
パレート分布は、ほぼどこにでもある。
- 少数の人々が、資本と所得の大半を握っている
- 上位の (アスリート | 俳優 | コンテンツクリエイター | ミュージシャン) だけが注目を集め、利益を上げられる
- 企業では一握りの従業員が価値の大半を生み出す (たとえば100倍エンジニア、100倍コンサルタント、一流の弁護士、…)
- 製造業の大半は、少数の国に集中している。世界のテック製品の大半は米国で設計されている (Apple、Google、Microsoft)。メモリーチップの大半は韓国と日本で生産される。GPUの大半は台湾で生産される。衣類の大半は中国、ベトナム、パキスタン、インドで製造される。
- 世界のトップの学生は、20ほどの大学に進学する (アイビーリーグ、CMU/カリフォルニア大学バークレー校/MIT、清華大学、ソウル大学、東京大学など)
高度にネットワーク化されたものは、何らかのパレート分布に近づく傾向がある。パレート分布になっていないなら、そうなるのを防ぐ外部の拮抗要因がある。たいてい、その拮抗要因は物理的・物質的なものだが、文化的・法的なこともある。
- 世界でも最も優れたスキルを持つ人たちが集中する対象は、常に1〜2個に限られる。時間や活力が足りないからだ。遺伝的な才能に恵まれたアスリートが、みんな十種競技の選手にならないのはなぜだろう？なぜイーロン・マスクは一人しかいないのか？
- なぜ中国には、米国のソーシャルメディア企業やテック企業に相当する企業があるのか？ GoogleやFacebookなどは、エンジニアリングの面では、中国市場にも簡単に対応できたはずだ。それなのに、普及することはなかった。なぜなのか、考えてみてほしい。
何事にも例外はある。例外をよく調べ、自分が一般的な傾向だと考えているものに対して、それらがなぜ例外なのかを理解しよう。それに応じて、傾向についての自分の考えを更新しよう。