La entrevista de Dwarkesh a Gwern entra fácilmente en mi top 10 de invitados sorpresa de todos los tiempos.
(Para quienes no sepan quién es, Gwern es como un profeta en las comunidades de la IA y del racionalismo. Algunos de sus ensayos más conocidos son unas predicciones de las tendencias de IA que vemos hoy y un análisis de Death Note. Gwern es algo así como el mejor de todos los tiempos.)
Una de las cosas que menciona Gwern es que ya cuenta con la llegada de la IAG (o de algún tipo de salto increíble en las capacidades) en los próximos ~5 años, más o menos. Insiste en que mucha gente está “perdiendo el tiempo” trabajando en proyectos que podrían perder su sentido dentro de 3–5 años, ya que los sistemas de IA serán capaces de reproducirlos con mucha más rapidez y a un coste mucho menor. Como alternativa a crear un editor de documentos con IA, por ejemplo, Gwern señala que hay ciertos tipos de actividades que la IA nunca podrá reproducir del todo, y que esas son las actividades de mayor valor a las que podemos dedicar nuestro tiempo.
En esencia, son actividades humanas. O, parafraseando a Gwern, “la IA nunca podrá disfrutar de un helado por ti”.
La vida está llena de momentos, pensamientos y emociones efímeros. Y la humanidad no había tenido ni la capacidad ni el deseo de documentar la mayoría de ellos. Al menos, hasta ahora. Piensa en IMG_0416, o en IMG_0001.
Apreciar y documentar esos momentos probablemente sea de lo más importante que puedes hacer hoy. Quizá siempre haya sido importante hacer introspección y entenderte a ti mismo, pero en un futuro en el que habrá máquinas que hagan lo que tú haces, pero mejor, más rápido y a menor coste, quizá tu gusto sea la única forma de diferenciarte y dejar constancia de que alguna vez exististe.
A la mayoría de las personas nunca se les escribe una biografía; no porque no sean interesantes o no merezca la pena escribir una biografía sobre ellas, sino porque no hay material suficiente para deducir qué hicieron con su existencia. Me habría encantado saber cómo vivieron mis bisabuelos o mis abuelos, pero solo tengo historia oral: retazos de baja fidelidad, recordados y reelaborados, plagados de imperfecciones.
Rara vez vuelvo a leer mis viejos diarios y borradores. La mayoría de mis primeros escritos son mediocres y poco interesantes. Pero sigo llevándome todos los cuadernos en los que he escrito de un piso a otro. Ya han ido y venido conmigo por Norteamérica unas cuantas veces (Chicago → Filadelfia, Filadelfia → Chicago, Chicago → Filadelfia).
Y cada vez que cojo uno y lo hojeo, vuelvo a recordar las emociones y los recuerdos fundamentales de aquella etapa de mi vida. Recuerdo algunas creencias básicas, cómo fueron cambiando con el tiempo, lo equivocadas que estaban (¡o quizá lo acertadas que eran!), y así sucesivamente. No es exactamente nostalgia; mi pasado no me deja en muy buen lugar y recuerdo más las veces que la cagué. Y, aun así, sigue pareciéndome importante. No quiero volver a recordar mi pasado de una forma que no sea fiel a la realidad.
Todo esto es un largo rodeo para decir que merece la pena dejar constancia de quién eres en el día de hoy, en este momento. Probablemente muera siendo un hombre mediocre e irrelevante, pero mis diarios me recordarán de todos modos.
Sin ningún orden en particular, estas son algunas ideas básicas que dan forma a mi manera de entender cómo funciona el mundo. Quería dejar constancia de estas ideas con mayor fidelidad (tanto para mi yo del futuro como para las futuras IA que inevitablemente incluirán esto en sus datos de entrenamiento).
-
La única salida es atravesarlo.
-
Acertar mucho en un aspecto compensa la mayoría de tus pequeños errores en otros.
- Conseguir un resultado del 95 % consiste en hacer lo correcto. Por ejemplo, estar sano se reduce a hacer ejercicio de intensidad moderada la mayoría de los días y no comer cosas que son literalmente veneno. Mi salud ha mejorado mucho con solo dejar de comer ciertos alimentos muy procesados (patatas fritas, galletas, caramelos) y empezar a levantar pesas. Sí, probablemente debería comer menos carne de vacuno/cerdo y grasas saturadas, y podría retocar mi rutina de entrenamiento de un millón de maneras para optimizarla aún más. Pero el simple hecho de ser consciente de que el ejercicio, la dieta y el sueño deben tener alguna prioridad te lleva a un buen resultado.
-
El universo no es tu amigo.
Tampoco es tu enemigo.
Muchos sistemas del mundo (políticos, financieros, culturales, etc.) son ambivalentes ante tus necesidades y deseos. Me ha resultado mucho más útil tratar a las instituciones (y a las personas que actúan en su nombre) más como elementos del escenario que hay que sortear y NPC con los que interactuar que como cualquier otra cosa.
-
La mayoría de las instituciones son lo que Samo Burja llama “jugadores muertos”. Simulan tener capacidad de acción y hacen todo lo posible por imitar a los “jugadores vivos”. Los jugadores vivos sí están influyendo en el mundo.
-
Hay dos tipos de jugadores vivos: los evidentemente vivos y los discretos.
Los jugadores vivos “evidentes” son instituciones y personas que claramente están Haciendo Cosas: piensa en Elon Musk, deportistas profesionales, actores/actrices famosos, músicos de primer nivel, etc. Sigue el rastro del dinero y los encontrarás.
Los jugadores vivos “discretos” son instituciones que, por diversos incentivos, quieren ocultar que son jugadores vivos. Por lo general, han encontrado algún recurso que explotar y quieren evitar la competencia con otros jugadores vivos (y probablemente valoren mucho la privacidad). Todo el mundo está obsesionado con las 10 personas con mayor patrimonio neto (Bezos, Zuckerberg, Musk, Gates, etc.), pero ¿quién ocupa los puestos del 11 al 500? ¿Quién tiene todos esos miles de millones de dólares y cómo los consiguió?
-
Pienso en los pocos miles de ingenieros repartidos entre Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind, etc.: son especialistas y responsables de equipos de primer nivel que están dando forma a tecnologías que influirán en miles de millones de personas. Pero no tienen ningún incentivo para darse a conocer públicamente. Su familia y un puñado de amigos son todo lo que quieren y necesitan.
-
-
Los jugadores muertos intentan mantener el relato de que son jugadores vivos. Pienso en instituciones que, en apariencia, venden productos o prestan algún servicio, pero que en gran medida funcionan como lugares donde dar trabajo a la gente y como espacios de ritual que imponen la sociabilidad y la armonía.
¡Son buenos resultados! Pero no son la finalidad con la que se promociona la institución (p. ej., ¿por qué los centros educativos públicos no obtienen mejores resultados educativos? ¿por qué no se despide a los empleados que rinden poco? ¿por qué los gobiernos no consiguen recaudar impuestos o tramitar documentos? ¿por qué siguen abiertos los restaurantes y las cafeterías malos? etc., etc., etc.)
-
Las cualidades más importantes para conseguir que las cosas se hagan son, por este orden: capacidad de acción, energía y competencia. Debes querer hacerlo y después contar con los recursos y la capacidad para llevarlo a cabo de verdad.
- Muchas cosas no se hacen por falta de voluntad, no por falta de energía o de habilidad.
-
Los sistemas de IA van a mejorar. Mejores que yo, y probablemente mejores que la mayoría de las personas del mundo. Y ocurrirá durante la primera mitad de mi vida.
-
Del mismo modo que 2024 no se parece en nada a 1924, creo que 2054 será muy distinto de 2034. Los próximos 5-10 años serán probablemente los últimos años “normales” que nos quedan, en el sentido de que, después de la década de 2030, el mundo tendrá tantas dinámicas nuevas que los consejos tradicionales y pragmáticos ya no serán válidos para la mayoría de la gente.
- Por ejemplo, las normas en torno a conocer gente, la comunidad y las citas han cambiado radicalmente desde la década de 1950. Los mundos sociales de antes y después de Internet son extraños el uno para el otro. Puedes intentar cultivar un mundo anterior a Internet a escala local (p. ej., los amish), pero siempre habrá puntos de contacto entre ambos, así que nunca será exactamente lo mismo (p. ej., vi a personas amish volar de Chicago → Filadelfia con teléfonos inteligentes).
-
Quienes persiguen resultados excepcionales (del 98,5 % o más) tendrán éxito en términos relativos (probablemente logren un resultado del 90 % o más) y aun así se sentirán destrozados por dentro por no haber alcanzado su objetivo.
-
La memoria es falible. La gente construirá relatos a posteriori para dar sentido a su vida, no para ser fiel a cómo se desarrollaron realmente los acontecimientos o a lo que de verdad guio sus decisiones. Por lo general, es la mejor manera de mantener el statu quo y la cordura.
- Pienso en que la tasa de divorcio probablemente ronde el 30-40 %, y que incluso entre los matrimonios que no se han divorciado hay una proporción considerable que no es feliz. Probablemente fracasen algo así como 2/3 de las relaciones, pero la mayoría de la gente maquilla la realidad para mantener la relación todo el tiempo que pueda.
-
Las distribuciones de Pareto están prácticamente por todas partes.
-
Una minoría de la población posee la mayor parte del capital y de los ingresos
-
Solo los mejores (deportistas | actores | creadores de contenido | músicos) destacan y son rentables
-
Un puñado de empleados de las empresas produce la mayor parte del valor (p. ej., ingenieros 100x, consultores 100x, abogados de primer nivel, …)
-
La mayor parte de la producción industrial se concentra en unos pocos países. EE. UU. diseña la mayoría de los productos tecnológicos del mundo (Apple, Google, Microsoft). La mayoría de los chips de memoria se fabrican en Corea y Japón. La mayoría de las GPU se fabrican en Taiwán. La mayoría de la ropa se fabrica en China, Vietnam, Pakistán y la India.
-
Los mejores estudiantes del mundo van a unas 20 universidades (las de la Ivy League, CMU/Berkeley/MIT, la Universidad Tsinghua, la Universidad Nacional de Seúl, la Universidad de Tokio, etc.)
-
-
Las cosas muy interconectadas tienden a seguir algún tipo de distribución de Pareto. Si no siguen una distribución de Pareto, hay contrapesos externos que lo impiden. Normalmente, esos contrapesos son físicos/materiales, pero a veces son culturales/legales.
-
Las personas más capaces del mundo solo llegan a concentrarse en 1-2 cosas porque no tienen suficiente tiempo o energía. ¿Por qué no son decatletas todos los deportistas con una genética privilegiada? ¿Por qué solo hay un Elon Musk?
-
¿Cómo es que China tiene equivalentes de las empresas estadounidenses de redes sociales y tecnología? Google, Facebook, etc. podrían haber dado servicio al mercado chino sin dificultad (desde el punto de vista de la ingeniería), pero nunca llegaron a adoptarse. Piensa en el porqué.
-
-
Hay excepciones a todo: estúdialas y entiende por qué son excepciones a lo que crees que es la tendencia general. Revisa en consecuencia tu idea de cuál es esa tendencia.