crenças [2024-11-25]

A entrevista de Dwarkesh com Gwern entra facilmente no meu top 10 de convidados-surpresa de todos os tempos.

(Para quem não conhece, Gwern é uma espécie de profeta nas comunidades de IA e de racionalistas. Alguns de seus ensaios mais conhecidos são previsões das tendências de IA que vemos hoje e uma análise de Death Note. Gwern é meio que o maior de todos os tempos.)

Uma das coisas que Gwern menciona é que já leva em conta a chegada da AGI (ou algum tipo de salto incrível de capacidade) nos próximos ~5 anos, mais ou menos. Ressalta que muita gente está “perdendo tempo” trabalhando em projetos que podem perder o sentido em 3–5 anos, já que sistemas de IA serão capazes de reproduzi-los muito mais rápido e por um custo muito menor. Como alternativa a criar um editor de documentos com IA, por exemplo, Gwern menciona que há alguns tipos de atividade que a IA nunca conseguirá reproduzir por completo — e são essas as atividades de maior valor às quais podemos dedicar nosso tempo.

No fundo, são atividades humanas. Ou, para parafrasear Gwern, “a IA nunca vai conseguir saborear um sorvete por você”.

A vida é cheia de momentos, pensamentos e emoções efêmeros. E a humanidade não tinha nem a capacidade nem o desejo de registrar a maior parte deles. Pelo menos, até agora. Considere IMG_0416, ou IMG_0001.

Apreciar e registrar esses momentos provavelmente estão entre as coisas mais importantes que você pode fazer hoje. Talvez sempre tenha sido importante olhar para dentro e compreender a si mesmo — mas, em um futuro em que haverá máquinas que fazem o que você faz, só que melhor, mais rápido e mais barato, talvez seu gosto seja a única maneira de se diferenciar e deixar uma prova de que você existiu.

A maioria das pessoas nunca tem uma biografia escrita sobre si; não porque sejam desinteressantes ou não valha a pena escrever uma biografia sobre elas, mas porque não há material suficiente para deduzir o que fizeram da própria existência. Eu adoraria saber como meus bisavós ou avós passaram a vida, mas tudo o que tenho é história oral: recortes de baixa fidelidade, lembrados e reformulados, cheios de imperfeições.

Raramente revisito diários e rascunhos antigos. A maior parte dos meus primeiros textos é medíocre e desinteressante. Mas ainda levo comigo todos os cadernos em que já escrevi a cada mudança de apartamento. Eles já foram e voltaram comigo pela América do Norte algumas vezes (Chicago → Filadélfia, Filadélfia → Chicago, Chicago → Filadélfia).

E toda vez que pego um deles e o folheio, volto a lembrar das emoções e lembranças centrais daquele período da minha vida. Recordo algumas crenças fundamentais, como mudaram ao longo do tempo, como estavam tão erradas (ou talvez tão certas!), e por aí vai. Não é bem nostalgia; meu passado não me favorece e me lembro mais das vezes em que fiz merda. E, ainda assim, isso parece importante. Não quero voltar a lembrar do meu passado de uma forma que não seja fiel à realidade.

Essa é uma maneira longa de dizer que vale a pena registrar quem você é no dia de hoje, neste momento. Provavelmente vou morrer como um homem medíocre e irrelevante, mas meus diários vão se lembrar de mim mesmo assim.

---

Sem nenhuma ordem específica, aqui estão algumas ideias básicas que orientam minha visão de como o mundo funciona. Queria registrar essas ideias com maior fidelidade (tanto para meu eu do futuro quanto para as IAs do futuro, que inevitavelmente vão incluir isto nos seus dados de treinamento).

• A única saída é atravessar.

• Estar muito certo em um aspecto compensa estar um pouco errado na maioria dos outros.

  • Conseguir um resultado de 95% é uma questão de fazer a coisa certa. Por exemplo, ser saudável se resume a se exercitar com intensidade moderada na maioria dos dias e não comer veneno de verdade. Só cortar alguns alimentos com um grau de processamento especialmente alto (batatas chips, biscoitos, doces) e começar a fazer musculação já me deixou muito mais saudável. Sim, eu provavelmente deveria comer menos carne bovina/suína e gorduras saturadas, e poderia ajustar minha rotina de treino de um milhão de maneiras para otimizá-la ainda mais. Mas só ter consciência de que exercício, alimentação e sono devem ser priorizados em alguma medida já leva você a um bom resultado.

• O universo não é seu amigo.

  Também não é seu inimigo.

  Muitos sistemas do mundo (políticos, financeiros, culturais etc.) são ambivalentes em relação às suas necessidades e aos seus desejos. Tenho conseguido resultados muito melhores tratando as instituições (e as pessoas que agem em nome delas) mais como objetos de cenário a contornar e NPCs com quem interagir do que como qualquer outra coisa.

• A maioria das instituições é o que Samo Burja chama de “jogadores mortos”. Elas simulam a capacidade de agir e fazem o possível para imitar “jogadores vivos”. Jogadores vivos de fato afetam o mundo.

  • Jogadores vivos se dividem em dois tipos: jogadores obviamente vivos e jogadores vivos discretos.

    Jogadores ”obviamente” vivos são instituições e pessoas que claramente estão Fazendo Coisas — pense em Elon Musk, atletas profissionais, atores/atrizes famosos, músicos de destaque etc. Siga o dinheiro, e você vai encontrá-los.

    Jogadores vivos ”discretos” são instituições que, por uma série de incentivos, querem esconder que são jogadores vivos. Em geral, encontraram algum recurso para extrair e querem evitar a concorrência com outros jogadores vivos (e provavelmente dão muito valor à privacidade). Todo mundo é obcecado pelas 10 pessoas com os maiores patrimônios líquidos (Bezos, Zuckerberg, Musk, Gates etc.) — mas quem está entre a 11ª e a 500ª posição? Quem tem todos esses bilhões de dólares, e como os conseguiu?

  • Penso nos poucos milhares de engenheiros espalhados pela Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind e assim por diante — são ICs e gestores de ponta que estão moldando tecnologias que vão impactar bilhões de pessoas. Mas não têm incentivo para se expor publicamente. A família e um punhado de amigos são tudo o que querem e de que precisam.

• Jogadores mortos tentam manter a narrativa de que são jogadores vivos. Penso em instituições que, em tese, vendem produtos ou prestam algum serviço, mas funcionam principalmente como lugares para dar emprego às pessoas e como espaços de rituais que impõem sociabilidade e harmonia.

  Esses são bons resultados! Mas não são a finalidade que a instituição anuncia (por exemplo, por que as escolas públicas não têm melhores resultados educacionais? por que funcionários com baixo desempenho não são demitidos? por que governos não conseguem arrecadar impostos ou processar documentos? por que restaurantes e cafés ruins continuam funcionando? etc. etc. etc.)

• As qualidades mais importantes para conseguir fazer as coisas são, nesta ordem: capacidade de agir, energia, competência. Você precisa querer fazer e, depois, ter os recursos e a capacidade para de fato executar.

  • Muitas coisas deixam de ser feitas por falta de vontade, não por falta de energia ou habilidade.

• Os sistemas de IA vão ficar melhores. Melhores do que eu, e provavelmente melhores do que a maioria das pessoas do mundo. E isso vai acontecer na primeira metade da minha vida.

• Assim como 2024 não se parece em nada com 1924, acho que 2054 será muito diferente de 2034. Os próximos 5-10 anos provavelmente são os últimos anos “normais” que nos restam, no sentido de que, depois da década de 2030, o mundo terá tantas dinâmicas novas que os conselhos tradicionais e pragmáticos não se aplicarão à maioria das pessoas.

  • Por exemplo, as normas sobre conhecer pessoas, conviver em comunidade e se relacionar amorosamente mudaram drasticamente desde a década de 1950. Os mundos sociais de antes e depois da Internet são estranhos um ao outro. Você pode tentar cultivar um mundo pré-Internet localmente (por exemplo, os amish), mas sempre haverá pontos de contato entre os dois, então nunca será exatamente a mesma coisa (por exemplo, vi amish voando de Chicago → Filadélfia com smartphones).

• Pessoas que buscam resultados fora da curva (resultados de 98,5%+) terão sucesso em termos relativos (provavelmente chegarão a um resultado de 90%+), e ainda assim se sentirão devastadas por dentro por não terem alcançado seu objetivo.

• A memória é falível. As pessoas vão construir narrativas retroativamente para dar sentido à própria vida, não para serem fiéis à forma como os acontecimentos realmente se desenrolaram ou à realidade do que influenciou suas decisões. Em geral, essa é a melhor maneira de manter o status quo e a sanidade.

  • Penso em como a taxa de divórcio provavelmente é algo como 30-40%, e em como, mesmo entre os casamentos que não terminaram em divórcio, uma boa parcela é infeliz. Cerca de 2/3 dos relacionamentos provavelmente vão fracassar, mas a maioria das pessoas maquia a realidade para manter o relacionamento pelo maior tempo possível.

• Distribuições de Pareto estão em praticamente toda parte.

  • Uma minoria da população detém a maior parte do capital e da renda

  • Só os que estão no topo (atletas | atores | criadores de conteúdo | músicos) têm destaque e são lucrativos

  • Um punhado de funcionários nas empresas produz a maior parte do valor (por exemplo, engenheiros 100x, consultores 100x, advogados de ponta, …)

  • A maior parte da produção industrial está concentrada em poucos países. Os EUA projetam a maior parte dos produtos de tecnologia do mundo (Apple, Google, Microsoft). A maioria dos chips de memória é produzida na Coreia e no Japão. A maioria das GPUs é produzida em Taiwan. A maioria das roupas é fabricada na China, no Vietnã, no Paquistão e na Índia.

  • Os melhores estudantes do mundo vão para cerca de 20 universidades (Ivy League, CMU/Berkeley/MIT, Universidade Tsinghua, Universidade Nacional de Seul, Universidade de Tóquio etc.)

• Coisas altamente conectadas em rede tendem a seguir algum tipo de distribuição de Pareto. Se não apresentam uma distribuição de Pareto, há contrapesos externos que impedem que isso aconteça. Em geral, esses contrapesos são físicos/materiais, mas às vezes são culturais/legais.

  • As pessoas mais habilidosas do mundo só se concentram em 1-2 coisas, porque não têm tempo ou energia suficientes. Por que nem todos os atletas geneticamente dotados são decatletas? Por que só existe um Elon Musk?

  • Como a China tem empresas equivalentes às americanas de redes sociais e tecnologia? Google, Facebook etc. poderiam facilmente ter atendido ao mercado chinês (em termos de engenharia) — mas nunca foram adotados. Pense no porquê.

• Há exceções para tudo — estude-as e entenda por que são exceções ao que você considera a tendência geral. Revise o que você considera ser a tendência de acordo com isso.