신념 [2024-11-25]

Dwarkesh의 Gwern 인터뷰는 내가 역대 가장 놀랐던 깜짝 게스트 출연 톱 10에 거뜬히 든다.

(잘 모르는 사람을 위해 설명하자면, Gwern은 AI와 합리주의 커뮤니티에서 예언자 같은 존재다. 가장 유명한 글로는 오늘날의 AI 동향을 예측한 글과 데스노트 분석 등이 있다. Gwern은 말하자면 GOAT다.)

Gwern이 언급한 것 중 하나는 앞으로 대략 5년쯤 안에 AGI(혹은 어떤 형태로든 엄청난 능력의 도약)가 등장할 것을 이미 계산에 넣고 있다는 점이다. Gwern은 많은 사람이 3~5년 뒤면 무의미해질 수도 있는 프로젝트에 매달리며 “시간을 낭비하고 있다”고 강조한다. AI 시스템이 그런 것들을 훨씬 빠르고 저렴하게 재현할 수 있게 될 것이기 때문이다. 예를 들어 AI 기반 문서 편집기를 만드는 대신 할 만한 활동 중에는 AI가 결코 온전히 재현할 수 없는 것들이 있으며, 거기에 시간을 쓰는 것이 가장 가치 있다고 Gwern은 말한다.

그 본질은 인간으로서 하는 활동이다. Gwern의 말을 바꿔 표현하자면, “AI는 결코 너를 대신해 아이스크림을 즐겨 줄 수 없다.”

삶은 덧없는 순간과 생각, 감정으로 가득하다. 그리고 인류에게는 그 대부분을 기록할 능력도 욕구도 없었다. 적어도 지금까지는 그랬다. IMG_0416이나 IMG_0001을 살펴보자.

이런 순간을 음미하고 기록하는 일은 아마 오늘 할 수 있는 가장 중요한 일에 속할 것이다. 자신을 돌아보고 이해하는 일은 어쩌면 언제나 중요했을 것이다. 하지만 내가 하는 일을 더 잘, 더 빠르게, 더 저렴하게 해내는 기계가 존재할 미래에는, 자신의 취향만이 남들과 자신을 구별하고 애초에 자신이 존재했다는 증거를 남길 유일한 방법일지도 모른다.

대부분의 사람에게는 전기가 쓰이지 않는다. 그들이 재미없는 사람이거나 전기를 쓸 가치가 없어서가 아니라, 그들이 살아 있는 동안 무엇을 했는지 짐작할 자료가 충분하지 않기 때문이다. 내 증조부모나 조부모가 어떻게 살았는지 알 수 있었다면 참 좋았겠지만, 내게 남은 것은 구전뿐이다. 세부가 희미하고, 기억을 거쳐 다시 포장되며, 부정확한 부분이 가득한 단편들이다.

나는 예전 일기와 초고를 좀처럼 다시 읽지 않는다. 초기에 쓴 글은 대부분 평범하고 재미없다. 그래도 지금까지 글을 써 온 노트는 하나도 빠짐없이 이사할 때마다 들고 다닌다. 이제 그 노트들은 나와 함께 북미를 몇 차례 오갔다(시카고 → 필라델피아, 필라델피아 → 시카고, 시카고 → 필라델피아).

그리고 노트 하나를 집어 들고 넘길 때마다 그 시절 내 삶의 핵심을 이루던 감정과 기억이 다시 떠오른다. 당시의 핵심 신념 몇 가지와 그것들이 시간이 흐르며 어떻게 변했는지, 얼마나 틀렸는지(혹은 얼마나 옳았는지!) 등등이 생각난다. 딱히 향수라고 하기는 어렵다. 내 과거는 그리 멋지지 않고, 내가 일을 제대로 말아먹었던 때가 더 많이 기억난다. 그런데도 여전히 중요한 일처럼 느껴진다. 현실에 충실하지 않은 방식으로 내 과거를 다시 떠올리고 싶지는 않다.

길게 말했지만, 결국 지금 이 순간의 자신이 어떤 사람인지 기록해 두는 일은 가치가 있다는 뜻이다. 나는 아마 평범하고 별 볼 일 없는 남자로 죽겠지만, 그래도 내 일기들은 나를 기억해 줄 것이다.

---

특별한 순서 없이, 내가 세상의 작동 방식을 이해하는 데 바탕이 되는 기본적인 생각 몇 가지를 적어 본다. 이 생각들을 더 정밀하게 기록해 두고 싶었다(미래의 나를 위해서도, 필연적으로 이 글을 학습 데이터에 포함할 미래의 AI들을 위해서도).

• 빠져나가는 유일한 길은 끝까지 헤쳐 나가는 것이다.

• 한 가지 면에서 아주 옳으면, 다른 여러 면에서 조금씩 틀리는 것은 대부분 만회된다.

  • 95% 수준의 결과를 얻는 데 필요한 것은 올바른 일을 하는 것이다. 예를 들어 건강해지는 일의 핵심은 대부분의 날에 중간 강도로 운동하고 말 그대로 독을 먹지 않는 데 있다. 특히 가공도가 높은 음식 몇 가지(감자칩, 쿠키, 사탕)를 끊고 웨이트 트레이닝을 시작한 것만으로도 나는 훨씬 건강해졌다. 물론 소고기와 돼지고기, 포화지방을 덜 먹는 게 좋을 것이고, 운동 루틴도 더 최적화하려면 백만 가지 방법으로 손볼 수 있을 것이다. 하지만 운동, 식사, 수면을 애초에 우선시해야 한다는 점을 아는 것만으로도 좋은 결과를 얻게 된다.

• 우주는 당신의 친구가 아니다.

  적도 아니다.

  세상의 많은 시스템(정치, 금융, 문화 등)은 당신의 필요와 욕구를 그다지 신경 쓰지 않는다. 나는 조직(그리고 조직을 대신해 일하는 사람들)을 다른 어떤 존재로 보기보다, 피해 다녀야 할 배경 속 사물이나 상호작용할 NPC에 가깝게 대했을 때 훨씬 더 많은 성과를 얻었다.

• 대부분의 조직은 Samo Burja가 말하는 “죽은 플레이어”다. 이들은 주도성을 흉내 내며 “살아 있는 플레이어”를 모방하려고 애쓴다. 살아 있는 플레이어는 실제로 세상에 영향을 미친다.

  • 살아 있는 플레이어에는 두 부류가 있다. 눈에 띄는 살아 있는 플레이어와, 조용히 움직이는 살아 있는 플레이어다.

    ”눈에 띄는” 살아 있는 플레이어는 실제로 뭔가를 하고 있다는 것이 너무나 분명한 조직과 사람들이다. 일론 머스크, 프로 운동선수, 유명 배우, 최정상급 음악가 등을 떠올려 보자. 돈의 흐름을 따라가면 이들을 찾게 된다.

    ”조용히 움직이는” 살아 있는 플레이어는 여러 유인 때문에 자신들이 살아 있는 플레이어라는 사실을 감추고 싶어 하는 조직이다. 대개 이들은 가치를 추출할 수 있는 자원을 발견했고, 다른 살아 있는 플레이어와의 경쟁을 막고 싶어 한다(아마 사생활도 매우 중시할 것이다). 모두가 순자산 상위 10명(베이조스, 저커버그, 머스크, 게이츠 등)에게만 집착하지만, 11~500위에는 누가 있을까? 그 수십억 달러를 가진 사람들은 누구이며, 어떻게 그 돈을 얻었을까?

  • Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind 등에 흩어져 있는 수천 명의 엔지니어가 떠오른다. 이들은 수십억 명에게 영향을 미칠 기술을 만들어 가는 최상위급 실무자(IC)와 관리자들이다. 하지만 대중에게 자신을 드러낼 유인이 없다. 이들이 원하고 필요로 하는 사람은 가족과 소수의 친구뿐이다.

• 죽은 플레이어는 자신들이 살아 있는 플레이어라는 서사를 유지하려 한다. 겉으로는 제품을 팔거나 서비스를 제공하지만, 실상은 주로 사람들에게 일자리를 주는 곳이자 사교와 화합을 강제하는 의례의 장소로 기능하는 조직들이 떠오른다.

  이것들도 좋은 결과다! 하지만 조직이 내세우는 목적은 아니다(예를 들어, 공립학교의 교육 성과는 왜 더 좋지 않을까? 성과가 저조한 직원은 왜 해고되지 않을까? 정부는 왜 세금을 걷거나 서류를 처리하는 데 실패할까? 별로인 식당과 카페는 왜 계속 영업할 수 있을까? 등등).

• 일을 해내는 데 필요한 가장 중요한 자질은 순서대로 주도성, 에너지, 역량이다. 그 일을 하고 싶어 해야 하고, 그다음에는 실제로 실행할 자원과 능력이 있어야 한다.

  • 많은 일은 에너지나 기술이 부족해서가 아니라 의지가 부족해서 이루어지지 않는다.

• AI 시스템은 더 뛰어나질 것이다. 나보다, 그리고 아마 전 세계 대부분의 사람보다 뛰어나질 것이다. 그리고 이 일은 내 생애의 전반부에 일어날 것이다.

• 2024년이 1924년과 전혀 다른 것처럼, 2054년은 2034년과 아주 다를 것이라고 생각한다. 앞으로 5~10년은 아마 우리에게 남은 마지막 “평범한” 시기일 것이다. 2030년대 이후에는 세상이 수많은 새로운 방식으로 작동하게 되어, 전통적이고 실용적인 조언이 대부분의 사람에게 통하지 않을 것이라는 의미에서다.

  • 예를 들어 사람들과의 만남, 공동체, 연애를 둘러싼 규범은 1950년대 이후 극적으로 변했다. 인터넷 이전과 이후의 사회는 서로에게 낯선 세계다. 특정 지역에서 인터넷 이전의 세상을 가꿔 보려 할 수는 있다(예: 아미시 사람들). 하지만 두 세계가 맞닿는 지점은 언제나 생길 테니, 완전히 같을 수는 없다(예를 들어, 나는 스마트폰을 들고 시카고 → 필라델피아 항공편을 타는 아미시 사람들을 본 적이 있다).

• 극단적으로 뛰어난 성과(98.5% 이상의 결과)를 좇는 사람들은 상대적인 의미에서는 성공하겠지만(아마 90% 이상의 결과에 도달할 것이다), 목표를 이루지 못했다는 사실에 속으로는 여전히 처참하게 무너질 것이다.

• 기억은 틀릴 수 있다. 사람들은 자기 삶을 납득하기 위해 사후적으로 이야기를 구성한다. 사건이 실제로 어떻게 펼쳐졌는지, 자신이 무엇을 근거로 결정을 내렸는지를 사실대로 반영하기 위해서가 아니다. 대개는 이것이 현 상태와 제정신을 유지하는 가장 좋은 방법이다.

  • 이혼율이 아마 30~40%쯤 되고, 이혼하지 않은 부부 중에서도 행복하지 않은 경우가 상당하다는 생각을 한다. 관계의 약 2/3는 아마 실패로 끝나겠지만, 대부분의 사람은 가능한 한 오랫동안 관계를 유지하려고 현실을 덮어 둔다.

• 파레토 분포는 거의 어디에나 있다.

  • 인구의 소수가 자본과 소득의 대부분을 차지한다

  • (운동선수 | 배우 | 콘텐츠 제작자 | 음악가) 중 최상위권만이 주목받고 수익을 낸다

  • 기업에서는 소수의 직원이 가치의 대부분을 만들어 낸다(예: 100x 엔지니어, 100x 컨설턴트, 최상위 변호사, …)

  • 제조업의 대부분은 몇몇 국가에 집중되어 있다. 세계 기술 제품의 대부분은 미국에서 설계한다(Apple, Google, Microsoft). 메모리 칩은 대부분 한국과 일본에서 생산한다. GPU는 대부분 대만에서 생산한다. 옷은 대부분 중국, 베트남, 파키스탄, 인도에서 제조한다.

  • 세계의 최상위 학생들은 20개 정도의 대학에 진학한다(아이비리그, CMU/버클리/MIT, 칭화대학교, 서울대학교, 도쿄대학교 등)

• 네트워크로 긴밀하게 연결된 것들은 어떤 형태로든 파레토 분포를 따르는 경향이 있다. 파레토 분포를 따르지 않는다면, 그렇게 되지 못하도록 외부에서 균형을 잡아 주는 힘이 있는 것이다. 대개 이런 힘은 물리적·물질적인 요인이지만, 때로는 문화나 법률이 그 역할을 한다.

  • 세계에서 가장 뛰어난 사람들도 시간이나 에너지가 충분하지 않아 결국 1~2가지에만 집중한다. 유전적으로 타고난 운동선수들이 왜 모두 10종 경기 선수가 되지는 않을까? 왜 일론 머스크는 한 명뿐일까?

  • 중국에는 어떻게 미국의 소셜 미디어와 기술 기업에 대응하는 기업들이 생겼을까? Google, Facebook 등은 중국 시장에도 쉽게 서비스를 제공할 수 있었을 것이다(엔지니어링 측면에서). 하지만 받아들여지지 않았다. 왜 그랬을지 생각해 보자.

• 모든 것에는 예외가 있다. 예외를 살펴보고, 자신이 일반적인 경향이라고 생각하는 것에서 왜 벗어나는지 이해하자. 그에 맞춰 경향에 대한 생각을 수정하자.