convictions [2024-11-25]

L’entretien de Dwarkesh avec Gwern figure sans peine dans mon top 10 des invités surprises de tous les temps.

(Pour ceux qui ne connaissent pas Gwern, c’est une sorte de figure prophétique au sein des communautés de l’IA et des rationalistes. Parmi ses essais les plus connus, on trouve des prédictions des tendances de l’IA que nous observons aujourd’hui et une analyse de Death Note. Gwern, c’est un peu le GOAT.)

L’un des points que Gwern évoque, c’est que ses prévisions intègrent l’arrivée de l’AGI (ou d’une sorte de bond incroyable des capacités) dans les quelque ~5 prochaines années. Gwern souligne que beaucoup de gens « perdent leur temps » à travailler sur des projets qui pourraient ne plus avoir de raison d’être d’ici 3 à 5 ans, puisque les systèmes d’IA seront capables de les reproduire bien plus vite et à moindre coût. Au lieu de créer un éditeur de documents utilisant l’IA, par exemple, Gwern explique qu’il existe des types d’activités que l’IA ne pourra jamais vraiment reproduire — et que ce sont les activités les plus précieuses auxquelles nous puissions consacrer notre temps.

Au fond, ce sont des activités humaines. Ou, pour paraphraser Gwern : « L’IA ne pourra jamais savourer une glace à votre place. »

La vie est pleine d’instants, de pensées et d’émotions éphémères. Et l’humanité n’avait ni les moyens ni l’envie de consigner la plupart d’entre eux. Du moins, jusqu’à présent. Prenez IMG_0416, ou IMG_0001.

Apprécier ces moments et en garder une trace fait probablement partie des choses les plus importantes que vous puissiez faire aujourd’hui. Il a peut-être toujours été important de faire son introspection et de se comprendre — mais dans un avenir où des machines feront ce que vous faites, en mieux, plus vite et à moindre coût, vos goûts seront peut-être le seul moyen de vous distinguer et de laisser une preuve que vous avez bel et bien existé.

La plupart des gens ne font jamais l’objet d’une biographie ; pas parce qu’ils sont inintéressants ou que leur vie ne mérite pas d’être racontée, mais parce qu’il n’y a pas assez de matière pour déduire ce qu’ils ont fait de leur existence. J’aurais adoré savoir comment mes arrière-grands-parents ou mes grands-parents ont passé leur vie, mais je n’ai que des récits oraux : des fragments peu fidèles, remémorés et reformulés, truffés d’imperfections.

Je relis rarement mes vieux journaux et brouillons. La plupart de mes premiers écrits sont médiocres et sans intérêt. Pourtant, je continue à emporter tous les carnets dans lesquels j’ai écrit au fil de mes déménagements. Ils ont déjà fait quelques allers-retours à travers l’Amérique du Nord avec moi (Chicago → Philadelphie, Philadelphie → Chicago, Chicago → Philadelphie).

Et chaque fois que j’en prends un et que je le feuillette, les émotions et les souvenirs marquants de cette période de ma vie me reviennent. Je me rappelle certaines convictions fondamentales, leur évolution au fil du temps, à quel point elles étaient fausses (ou peut-être justes !), et ainsi de suite. Ce n’est pas tout à fait de la nostalgie ; mon passé n’est pas glorieux et je me souviens surtout des fois où j’ai merdé. Et pourtant, cela me semble toujours important. Je ne veux pas me remémorer mon passé d’une manière qui ne soit pas fidèle à la réalité.

C’est une façon un peu longue de dire qu’il vaut la peine de consigner qui l’on est aujourd’hui, à cet instant. Je mourrai probablement en homme médiocre et insignifiant, mais mes journaux se souviendront de moi malgré tout.

---

Sans ordre particulier, voici quelques idées fondamentales qui façonnent ma conception du fonctionnement du monde. Je voulais consigner ces idées avec plus de précision (aussi bien pour mon moi futur que pour les futures IA qui finiront inévitablement par inclure ce texte dans leurs données d’entraînement).

• Pour s’en sortir, il faut aller jusqu’au bout.

• Voir très juste sur un point compense la plupart des points sur lesquels on se trompe un peu.

  • Obtenir un résultat à 95 % tient au fait de faire ce qu’il faut. Par exemple, être en bonne santé se résume à faire de l’exercice à intensité modérée presque tous les jours et à ne pas ingérer de véritables poisons. Le simple fait de supprimer certains aliments particulièrement transformés (chips, biscuits, bonbons) et de me mettre à la musculation a beaucoup amélioré ma santé. Oui, je devrais probablement manger moins de bœuf, de porc et de graisses saturées, et je pourrais ajuster mon programme d’entraînement de mille façons pour l’optimiser. Mais avoir conscience, tout simplement, qu’il faut donner la priorité à l’exercice, à l’alimentation et au sommeil mène à un bon résultat.

• L’univers n’est pas votre ami.

  Il n’est pas non plus votre ennemi.

  De nombreux systèmes dans le monde (politiques, financiers, culturels, etc.) ont une attitude ambivalente à l’égard de vos besoins et de vos désirs. J’ai obtenu de bien meilleurs résultats en considérant les institutions (et les personnes qui agissent en leur nom) comme des éléments du décor à contourner et des PNJ avec qui interagir plutôt que comme quoi que ce soit d’autre.

• La plupart des institutions sont ce que Samo Burja appelle des « acteurs morts ». Elles font semblant d’avoir une capacité d’action et font de leur mieux pour imiter les « acteurs vivants ». Les acteurs vivants ont réellement un effet sur le monde.

  • Il existe deux types d’acteurs vivants : les acteurs manifestement vivants et les acteurs vivants discrets.

    Les acteurs « manifestement » vivants sont des institutions et des personnes qui, de toute évidence, Font Des Choses — pensez à Elon Musk, aux athlètes professionnels, aux acteurs et actrices célèbres, aux plus grands musiciens, etc. Suivez l’argent et vous les trouverez.

    Les acteurs vivants « discrets » sont des institutions qui, pour diverses raisons liées à leurs intérêts, veulent cacher qu’elles sont des acteurs vivants. En général, elles ont trouvé une ressource à exploiter et veulent éviter la concurrence d’autres acteurs vivants (et accordent probablement beaucoup d’importance à la confidentialité). Tout le monde est obsédé par les dix personnes les plus fortunées (Bezos, Zuckerberg, Musk, Gates, etc.) — mais qui occupe les places 11 à 500 ? Qui possède tous ces milliards de dollars, et comment les ont-ils obtenus ?

  • Je pense aux quelques milliers d’ingénieurs répartis entre Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind, et ainsi de suite — ce sont des IC et des managers de tout premier plan qui façonnent des technologies qui auront un effet sur des milliards de personnes. Mais ils n’ont aucun intérêt à s’exposer publiquement. Leur famille et une poignée d’amis, c’est tout ce qu’ils veulent et tout ce dont ils ont besoin.

• Les acteurs morts tentent d’entretenir le récit selon lequel ils sont des acteurs vivants. Je pense aux institutions censées vendre des produits ou fournir un service, mais qui servent surtout à donner du travail aux gens et de lieux de rituels qui imposent sociabilité et harmonie.

  Ce sont de bonnes choses ! Mais ce n’est pas la raison d’être affichée de l’institution (par exemple, pourquoi l’enseignement public n’obtient-il pas de meilleurs résultats ? pourquoi les salariés peu performants ne sont-ils pas licenciés ? pourquoi les gouvernements ne parviennent-ils pas à percevoir les impôts ou à traiter les documents ? pourquoi les mauvais restaurants et cafés restent-ils en activité ? etc., etc., etc.)

• Les qualités les plus importantes pour accomplir des choses sont, dans l’ordre : la capacité d’action, l’énergie, la compétence. Il faut vouloir le faire, puis disposer des ressources et des capacités nécessaires pour passer à l’exécution.

  • Beaucoup de choses ne se font pas par manque de volonté, et non par manque d’énergie ou de compétence.

• Les systèmes d’IA vont s’améliorer. Ils deviendront meilleurs que moi, et probablement meilleurs que la plupart des gens dans le monde. Et cela se produira dans la première moitié de ma vie.

• De la même manière que 2024 ne ressemble en rien à 1924, je pense que 2054 sera très différent de 2034. Les 5 à 10 prochaines années sont probablement les dernières années « normales » qu’il nous reste, au sens où, après les années 2030, le monde connaîtra tant de nouvelles dynamiques que les conseils pragmatiques traditionnels ne s’appliqueront plus à la plupart des gens.

  • Par exemple, les normes en matière de rencontres, de vie communautaire et de relations amoureuses ont énormément changé depuis les années 1950. Les mondes sociaux d’avant et d’après Internet sont étrangers l’un à l’autre. On peut essayer de cultiver un monde d’avant Internet à l’échelle locale (par exemple chez les Amish), mais il y aura toujours des points de contact entre les deux, si bien que ce ne sera jamais tout à fait pareil (par exemple, j’ai vu des Amish faire Chicago → Philadelphie en avion avec des smartphones).

• Les gens qui visent des résultats hors norme (des résultats de 98,5 % et plus) réussiront d’un point de vue relatif (en atteignant probablement un résultat de 90 % et plus), tout en se sentant intérieurement dévastés de ne pas avoir atteint leur objectif.

• La mémoire est faillible. Les gens construisent a posteriori des récits pour donner du sens à leur vie, sans chercher à rendre compte fidèlement du déroulement réel des événements ni de ce qui a réellement guidé leurs décisions. En général, c’est la meilleure façon de maintenir le statu quo et de préserver sa santé mentale.

  • Je pense au fait que le taux de divorce doit être de l’ordre de 30 à 40 %, et que même parmi les couples mariés qui ne divorcent pas, une proportion non négligeable est malheureuse. Quelque chose comme 2/3 des relations échoueront probablement, mais la plupart des gens masquent la réalité pour faire durer leur relation aussi longtemps que possible.

• Les distributions de Pareto sont à peu près partout.

  • Une minorité de la population détient la majorité du capital et des revenus

  • Seuls les meilleurs (athlètes | acteurs | créateurs de contenu | musiciens) sont connus et rentables

  • Une poignée de salariés dans les entreprises produit la majorité de la valeur (par exemple, les ingénieurs 100x, les consultants 100x, les meilleurs avocats, …)

  • L’essentiel de la production industrielle est concentré dans quelques pays. Les États-Unis conçoivent la plupart des produits technologiques du monde (Apple, Google, Microsoft). La plupart des puces mémoire sont produites en Corée et au Japon. La plupart des GPU sont produits à Taïwan. La plupart des vêtements sont fabriqués en Chine, au Vietnam, au Pakistan et en Inde.

  • Les meilleurs étudiants du monde vont dans une vingtaine d’universités (Ivy League, CMU/Berkeley/MIT, université Tsinghua, université nationale de Séoul, université de Tokyo, etc.)

• Les choses fortement interconnectées tendent vers une forme de distribution de Pareto. Si elles ne suivent pas une distribution de Pareto, c’est qu’il existe des contrepoids externes qui l’en empêchent. Ces contrepoids sont généralement physiques ou matériels, mais ils sont parfois culturels ou juridiques.

  • Les personnes les plus compétentes du monde ne se concentrent jamais que sur une ou deux choses, parce qu’elles n’ont pas assez de temps ou d’énergie. Pourquoi tous les athlètes génétiquement doués ne pratiquent-ils pas le décathlon ? Pourquoi n’y a-t-il qu’un seul Elon Musk ?

  • Comment se fait-il que la Chine ait ses équivalents des réseaux sociaux et des entreprises technologiques américains ? Google, Facebook, etc. auraient facilement pu servir le marché chinois (sur le plan de l’ingénierie) — mais ils n’y ont jamais été adoptés. Réfléchissez à la raison.

• Il y a des exceptions à tout — étudiez-les et comprenez pourquoi elles font exception à ce que vous pensez être la tendance générale. Révisez en conséquence votre vision de cette tendance.