Интервью Дваркеша с Гверном легко входит в мой топ-10 самых неожиданных гостевых появлений за всё время.
(Для тех, кто не в курсе: Гверн — своего рода пророк в сообществах ИИ и рационалистов. Среди его самых известных эссе — предсказания тенденций в ИИ, которые мы наблюдаем сегодня и анализ «Тетради смерти». Гверн, пожалуй, лучший из лучших.)
Среди прочего Гверн говорит, что уже закладывает в свои расчёты появление AGI (или какой-нибудь невероятный скачок возможностей) в ближайшие ~5 лет. Он подчёркивает, что многие «тратят время впустую», работая над проектами, которые через 3–5 лет могут потерять смысл, поскольку ИИ-системы смогут воспроизвести их намного быстрее и дешевле. Гверн говорит, что вместо создания, например, редактора документов с ИИ стоит обратить внимание на занятия, которые ИИ никогда не сможет в полной мере воспроизвести, — именно им мы можем посвятить своё время с наибольшей пользой.
По сути, речь о человеческих занятиях. Или, перефразируя Гверна: «ИИ никогда не сможет насладиться мороженым за вас».
Жизнь полна мимолётных мгновений, мыслей и эмоций. И у человечества не было ни возможности, ни желания документировать большинство из них. По крайней мере, до сих пор. Взять хотя бы IMG_0416 или IMG_0001.
Ценить и запечатлевать эти мгновения — наверное, одни из самых важных занятий, которым вы можете посвятить время сегодня. Возможно, заниматься самоанализом и понимать себя всегда было важно — но в будущем, где машины будут делать то же, что и вы, только лучше, быстрее и дешевле, ваш вкус, пожалуй, станет единственным способом выделиться и оставить доказательство того, что вы вообще существовали.
О большинстве людей никогда не пишут биографий — не потому, что они неинтересны или не заслуживают биографии, а потому, что недостаточно материала, чтобы понять, как они прожили свою жизнь. Мне очень хотелось бы знать, как жили мои прадедушки и прабабушки или дедушки и бабушки, но всё, что у меня есть, — устные рассказы: размытые фрагменты, сохранённые в памяти и пересказанные на новый лад, полные неточностей.
Я редко возвращаюсь к старым дневникам и черновикам. Большинство моих ранних текстов посредственны и неинтересны. Но я всё равно перевожу с собой из квартиры в квартиру все блокноты, в которых когда-либо писал. Они уже несколько раз пересекали со мной Северную Америку туда и обратно (Чикаго → Филадельфия, Филадельфия → Чикаго, Чикаго → Филадельфия).
И каждый раз, когда я беру один из них и листаю, ко мне возвращаются главные эмоции и воспоминания того периода моей жизни. Я вспоминаю какие-то базовые убеждения, то, как они менялись со временем, насколько они были ошибочны (а может, верны!), и так далее. Это не совсем ностальгия: моё прошлое не выставляет меня в лучшем свете, и чаще я вспоминаю моменты, когда всё просрал. И всё же это по-прежнему кажется важным. Я не хочу заново вспоминать своё прошлое так, чтобы эти воспоминания расходились с реальностью.
Так многословно я пытаюсь сказать, что полезно фиксировать, кто вы здесь и сейчас. Я, скорее всего, умру посредственным, незначительным человеком, но мои дневники всё равно сохранят память обо мне.
Вот несколько основных идей, которые определяют моё представление о том, как устроен мир, — без какого-либо особого порядка. Мне хотелось зафиксировать их более точно (и для себя в будущем, и для будущих ИИ, которые неизбежно включат этот текст в свои обучающие данные).
-
Единственный выход — пройти через это.
-
Если в чём-то одном вы очень правы, это компенсирует большинство мелких ошибок в остальном.
- Чтобы получить результат на 95%, нужно делать правильные вещи. Например, быть здоровым — значит заниматься с умеренной интенсивностью почти каждый день и не есть откровенную отраву. Просто отказавшись от некоторых продуктов особенно глубокой переработки (чипсов, печенья, конфет) и начав заниматься с весами, я стал гораздо здоровее. Да, мне, наверное, стоит есть меньше говядины, свинины и насыщенных жиров, а программу тренировок можно улучшать миллионом способов. Но уже само понимание того, что физической активности, питанию и сну вообще нужно уделять первостепенное внимание, приводит к хорошему результату.
-
Вселенная вам не друг.
Но и не враг.
Многие системы в мире (политические, финансовые, культурные и так далее) безразличны к вашим потребностям и желаниям. Мне гораздо больше пользы принесло восприятие институтов (и людей, действующих от их имени) скорее как фоновых объектов, которые нужно обходить, и NPC, с которыми нужно взаимодействовать, чем как чего-либо ещё.
-
Большинство институтов — то, что Само Бурья называет «мёртвыми игроками». Они изображают агентность и изо всех сил стараются подражать «живым игрокам». Живые игроки действительно влияют на мир.
-
Живые игроки бывают двух видов: явные живые игроки и незаметные живые игроки.
«Явные» живые игроки — это институты и люди, которые совершенно очевидно что-то Делают: Илон Маск, профессиональные спортсмены, известные актёры и актрисы, ведущие музыканты и так далее. Идите по следу денег — и найдёте их.
«Незаметные» живые игроки — это институты, которые по разным причинам заинтересованы в том, чтобы скрывать, что они живые игроки. Обычно они нашли какой-то ресурс, который можно добывать, и хотят избежать конкуренции с другими живыми игроками (и, вероятно, высоко ценят приватность). Все одержимы десяткой богатейших людей (Безосом, Цукербергом, Маском, Гейтсом и другими) — но кто занимает места 11–500? У кого все эти миллиарды долларов и как эти люди их получили?
-
Я думаю о нескольких тысячах инженеров, работающих в Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind и так далее, — это ведущие технические специалисты и руководители, которые формируют технологии, способные повлиять на миллиарды людей. Но у них нет стимула становиться публичными фигурами. Семья и несколько друзей — вот всё, чего они хотят и что им нужно.
-
-
Мёртвые игроки пытаются поддерживать представление о себе как о живых игроках. Я думаю об институтах, которые вроде бы продают товары или оказывают какие-то услуги, но по большей части служат местами, где людям дают работу, и местами для ритуалов, обеспечивающих общение и согласие.
Это хорошие результаты! Но не заявленная цель института (например, почему государственные школы не добиваются лучших образовательных результатов? почему не увольняют сотрудников с низкой результативностью? почему государствам не удаётся собирать налоги или обрабатывать документы? почему плохие рестораны и кафе продолжают работать? и так далее, и так далее, и так далее)
-
Самые важные качества, необходимые, чтобы доводить дела до конца, в порядке важности: агентность, энергия, компетентность. Сначала нужно хотеть это сделать, а затем — иметь ресурсы и способности, чтобы действительно осуществить задуманное.
- Многое остаётся несделанным из-за нехватки воли, а не энергии или навыков.
-
ИИ-системы будут становиться лучше. Лучше меня и, вероятно, лучше большинства людей в мире. И это произойдёт в первой половине моей жизни.
-
Точно так же, как 2024 год совсем не похож на 1924-й, я думаю, что 2054 год будет сильно отличаться от 2034-го. Следующие 5–10 лет, вероятно, последние «нормальные» годы, которые у нас остались, в том смысле, что после 2030-х в мире появится столько новых процессов, что традиционные практические советы перестанут работать для большинства людей.
- Например, нормы, по которым люди знакомятся, объединяются в сообщества и ходят на свидания, радикально изменились с 1950-х годов. Социальные миры до и после интернета чужды друг другу. Можно попытаться локально выстроить доинтернетный мир (например, как амиши), но между этими двумя мирами всегда будут точки соприкосновения, так что полного сходства никогда не будет (например, я видел амишей со смартфонами на рейсе Чикаго → Филадельфия).
-
Люди, которые гонятся за исключительными результатами (98,5%+), добьются относительного успеха (вероятно, получат результат на 90%+), но всё равно будут чувствовать себя опустошёнными из-за того, что не достигли своей цели.
-
Память ненадёжна. Люди задним числом выстраивают истории, чтобы объяснить себе свою жизнь, а не точно отразить то, как события происходили на самом деле или что в действительности определяло их решения. Обычно это лучший способ сохранить статус-кво и психическое равновесие.
- Я думаю о том, что доля браков, заканчивающихся разводом, вероятно, составляет около 30–40%, а среди тех, что не заканчиваются разводом, тоже немало несчастливых. Примерно 2/3 отношений, вероятно, не сложатся, но большинство людей закрывают глаза на реальность, чтобы сохранять отношения как можно дольше.
-
Распределения Парето встречаются практически повсюду.
-
Меньшинство населения владеет большей частью капитала и получает большую часть доходов
-
Только лучшие (спортсмены | актёры | создатели контента | музыканты) становятся известными и получают прибыль
-
Небольшая группа сотрудников компаний создаёт большую часть ценности (например, инженеры с продуктивностью 100x, консультанты с продуктивностью 100x, ведущие юристы, …)
-
Большая часть производства сосредоточена в нескольких странах. В США разрабатывают большую часть технологических продуктов мира (Apple, Google, Microsoft). Большинство чипов памяти производят в Корее и Японии. Большинство GPU производят на Тайване. Большую часть одежды производят в Китае, Вьетнаме, Пакистане и Индии.
-
Лучшие студенты мира поступают примерно в 20 университетов (университеты Лиги плюща, CMU/Беркли/MIT, Университет Цинхуа, Сеульский национальный университет, Токийский университет и так далее)
-
-
В сильно взаимосвязанных системах обычно возникает то или иное распределение Парето. Если его нет, значит, этому препятствуют внешние противовесы. Как правило, эти противовесы физические или материальные, но иногда — культурные или правовые.
-
Самые умелые люди в мире сосредотачиваются лишь на 1–2 занятиях, потому что им не хватает времени или энергии. Почему не все генетически одарённые спортсмены занимаются десятиборьем? Почему Илон Маск всего один?
-
Откуда в Китае аналоги американских социальных сетей и технологических компаний? Google, Facebook и другие вполне могли бы обслуживать китайский рынок (с инженерной точки зрения), но так и не получили там распространения. Подумайте почему.
-
-
У всего есть исключения — изучайте их и разбирайтесь, почему они выбиваются из того, что вы считаете общей тенденцией. Соответственно пересматривайте своё представление об этой тенденции.