convinzioni [2024-11-25]

L'intervista di Dwarkesh a Gwern si guadagna facilmente un posto nella mia top 10 degli ospiti a sorpresa di tutti i tempi.

(Per chi non conoscesse Gwern, è una sorta di profeta nelle comunità dell'IA e del razionalismo. Tra i suoi saggi più noti ci sono previsioni sulle tendenze dell'IA che osserviamo oggi e un'analisi di Death Note. Gwern è un po' il migliore di sempre.)

Una delle cose che Gwern menziona è che nelle sue valutazioni tiene già conto dell'arrivo dell'AGI (o di un qualche incredibile salto di capacità) nei prossimi ~5 anni o giù di lì. Sottolinea che molte persone stanno “sprecando il proprio tempo” lavorando a progetti che potrebbero diventare irrilevanti tra 3–5 anni, dato che i sistemi di IA saranno in grado di riprodurli molto più velocemente e a costi molto inferiori. Invece di sviluppare un editor di documenti basato sull'IA, per esempio, Gwern menziona alcuni tipi di attività che l'IA non sarà mai in grado di riprodurre del tutto — e sono queste le attività di maggior valore a cui possiamo dedicare il nostro tempo.

In sostanza, sono attività umane. O, per parafrasare Gwern, “l'IA non potrà mai gustarsi un gelato al posto tuo”.

La vita è piena di momenti, pensieri ed emozioni effimeri. E l'umanità non aveva né la capacità né il desiderio di documentarne la maggior parte. Almeno fino a oggi. Pensa a IMG_0416, o a IMG_0001.

Apprezzare e documentare questi momenti sono probabilmente tra le cose più importanti che puoi fare oggi. Forse è sempre stato importante guardarsi dentro e capire sé stessi — ma in un futuro in cui ci saranno macchine che faranno quello che fai tu, ma meglio, più velocemente e a costi inferiori, forse il tuo gusto sarà l'unico modo per distinguerti e lasciare una prova del fatto stesso che sei esistito.

Alla maggior parte delle persone non viene mai dedicata una biografia; non perché siano poco interessanti o non meritino che se ne scriva una, ma perché non c'è abbastanza materiale per ricostruire che cosa abbiano fatto della loro esistenza. Mi sarebbe piaciuto moltissimo sapere come i miei bisnonni o i miei nonni abbiano trascorso la loro vita, ma ho solo racconti tramandati a voce: frammenti a bassa fedeltà, ricordati e rielaborati, pieni di imperfezioni.

Raramente torno a leggere vecchi diari e bozze. La maggior parte delle cose che scrivevo agli inizi è mediocre e poco interessante. Ma continuo a portarmi dietro, da un appartamento all'altro, ogni quaderno su cui abbia mai scritto. Ormai hanno fatto con me avanti e indietro per il Nord America un po' di volte (Chicago → Philly, Philly → Chicago, Chicago → Philly).

E ogni volta che ne prendo uno e lo sfoglio mi tornano in mente le emozioni e i ricordi fondamentali di quel periodo della mia vita. Ricordo alcune convinzioni di fondo, come siano cambiate nel tempo, quanto fossero sbagliate (o magari giuste!), e così via. Non è proprio nostalgia; il mio passato non mi fa fare una gran figura e ricordo soprattutto le volte in cui ho fatto cazzate. Eppure continua a sembrarmi importante. Non voglio rievocare il mio passato in un modo che non sia fedele alla realtà.

È un modo prolisso per dire che vale la pena documentare chi sei oggi, in questo momento. Probabilmente morirò da uomo mediocre e irrilevante, ma i miei diari conserveranno comunque il mio ricordo.

---

Senza un ordine particolare, ecco alcune idee di fondo che orientano il mio modo di pensare a come funziona il mondo. Volevo documentare queste idee con maggiore fedeltà (sia per il me del futuro, sia per le IA del futuro che inevitabilmente includeranno tutto questo nei loro dati di addestramento).

• L'unico modo per uscirne è passarci attraverso.

• Essere molto nel giusto su un aspetto compensa la maggior parte degli aspetti su cui sei un po' in errore.

  • Ottenere un risultato del 95% dipende dal fare la cosa giusta. Per esempio, essere in salute si riduce a fare esercizio fisico a intensità moderata quasi tutti i giorni e a non mangiare letteralmente veleno. Il solo fatto di eliminare alcuni alimenti particolarmente lavorati a livello industriale (patatine, biscotti, caramelle) e di iniziare a sollevare pesi mi ha reso molto più sano. Sì, probabilmente dovrei mangiare meno carne bovina e suina e meno grassi saturi, e potrei modificare il mio programma di allenamento in un milione di modi per renderlo più ottimale. Ma essere consapevole che esercizio fisico, alimentazione e sonno debbano avere una qualche priorità ti porta a un buon risultato.

• L'universo non è tuo amico.

  E non è nemmeno tuo nemico.

  Molti sistemi nel mondo (politici, finanziari, culturali, ecc.) hanno un atteggiamento ambivalente verso i tuoi bisogni e desideri. Mi è stato molto più utile trattare le istituzioni (e le persone che operano per loro conto) come elementi dello sfondo da aggirare e NPC con cui interagire che come qualsiasi altra cosa.

• La maggior parte delle istituzioni rientra tra quelli che Samo Burja chiama “giocatori morti”. Simulano la capacità di agire e fanno del loro meglio per imitare i “giocatori vivi”. I giocatori vivi incidono davvero sul mondo.

  • Ci sono due tipi di giocatori vivi: quelli palesemente vivi e quelli discreti.

    I giocatori “palesemente” vivi sono istituzioni e persone che, con tutta evidenza, Fanno Cose — pensa a Elon Musk, agli atleti professionisti, agli attori e alle attrici famosi, ai migliori musicisti, ecc. Segui i soldi e li troverai.

    I giocatori vivi “discreti” sono istituzioni che, per una serie di incentivi, vogliono tenere nascosto il fatto di essere giocatori vivi. In genere hanno trovato una risorsa da sfruttare e vogliono evitare la concorrenza di altri giocatori vivi (e probabilmente attribuiscono grande valore alla privacy). Tutti sono ossessionati dai 10 individui con il patrimonio netto più alto (Bezos, Zuckerberg, Musk, Gates, ecc.) — ma chi c'è tra l'11º e il 500º posto? Chi possiede tutti quei miliardi di dollari, e come li ha ottenuti?

  • Penso alle poche migliaia di ingegneri sparsi tra Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind e così via — sono IC e manager di altissimo livello che stanno plasmando tecnologie che avranno un impatto su miliardi di persone. Ma non hanno alcun incentivo a esporsi pubblicamente. La famiglia e una manciata di amici sono tutto ciò che vogliono e di cui hanno bisogno.

• I giocatori morti cercano di mantenere la narrazione secondo cui sarebbero giocatori vivi. Penso alle istituzioni che apparentemente vendono prodotti o forniscono qualche servizio, ma che funzionano soprattutto come luoghi che danno lavoro alle persone e in cui i rituali impongono socialità e armonia.

  Sono risultati positivi! Ma non sono lo scopo pubblicizzato dell'istituzione (ad esempio, perché le scuole pubbliche non ottengono risultati educativi migliori? Perché i dipendenti con prestazioni scarse non vengono licenziati? Perché i governi non riescono a riscuotere le tasse o a sbrigare le pratiche? Perché ristoranti e caffè scadenti restano in attività? Eccetera, eccetera, eccetera).

• Le qualità più importanti che ti servono per portare a termine le cose sono, nell'ordine: capacità di agire, energia, competenza. Devi volerlo fare, e poi avere le risorse e le capacità per metterlo davvero in pratica.

  • Molte cose non vengono fatte per mancanza di volontà, non per mancanza di energia o abilità.

• I sistemi di IA miglioreranno. Diventeranno migliori di me, e probabilmente della maggior parte delle persone al mondo. E succederà nella prima metà della mia vita.

• Così come il 2024 non assomiglia per niente al 1924, penso che il 2054 sarà molto diverso dal 2034. I prossimi 5-10 anni sono probabilmente gli ultimi anni “normali” che ci restano, nel senso che dopo gli anni Trenta il mondo avrà così tante nuove dinamiche che i consigli tradizionali e pragmatici non saranno più validi per la maggior parte delle persone.

  • Per esempio, le norme su come conoscere persone, vivere in comunità e cercare un partner sono cambiate radicalmente dagli anni Cinquanta. I mondi sociali prima e dopo Internet sono estranei l'uno all'altro. Puoi provare a coltivare un mondo precedente a Internet su scala locale (ad esempio, gli amish), ma ci saranno sempre punti di contatto tra i due, quindi non sarà mai proprio la stessa cosa (ad esempio, ho visto degli amish volare da Chicago → Philly con degli smartphone).

• Chi insegue risultati fuori dal comune (98,5%+) avrà successo in termini relativi (probabilmente otterrà un risultato del 90%+), e si sentirà comunque interiormente devastato per non aver raggiunto il proprio obiettivo.

• La memoria è fallibile. Le persone costruiscono a posteriori narrazioni per dare un senso alla propria vita, non per essere fedeli a come si sono effettivamente svolti gli eventi o a ciò che ha davvero orientato le loro decisioni. Di solito è il modo migliore per mantenere lo status quo e la sanità mentale.

  • Penso al fatto che il tasso di divorzi sia probabilmente intorno al 30-40%, e che anche tra i matrimoni che non finiscono con un divorzio ci sia una buona quota di matrimoni infelici. Probabilmente falliranno qualcosa come 2/3 delle relazioni, ma la maggior parte delle persone maschera la realtà per far durare la relazione il più a lungo possibile.

• Le distribuzioni di Pareto sono praticamente ovunque.

  • Una minoranza della popolazione possiede la maggior parte del capitale e del reddito

  • Solo i migliori (atleti | attori | creatori di contenuti | musicisti) si distinguono e sono redditizi

  • Un pugno di dipendenti nelle aziende produce la maggior parte del valore (ad esempio, ingegneri 100x, consulenti 100x, i migliori avvocati, …)

  • La maggior parte della produzione manifatturiera è concentrata in pochi paesi. Gli Stati Uniti progettano la maggior parte dei prodotti tecnologici del mondo (Apple, Google, Microsoft). La maggior parte dei chip di memoria viene prodotta in Corea e Giappone. La maggior parte delle GPU viene prodotta a Taiwan. La maggior parte dei vestiti viene fabbricata in Cina, Vietnam, Pakistan e India.

  • Gli studenti migliori al mondo frequentano una ventina di università (Ivy League, CMU/Berkeley/MIT, Tsinghua University, Seoul National University, Tokyo University, ecc.)

• Le cose fortemente interconnesse tendono a una qualche forma di distribuzione di Pareto. Se non hanno una distribuzione di Pareto, ci sono contrappesi esterni che impediscono che si formi. In genere questi contrappesi sono fisici/materiali, ma a volte sono culturali/legali.

  • Le persone più capaci al mondo si concentrano soltanto su 1-2 cose perché non hanno abbastanza tempo o energia. Perché gli atleti geneticamente dotati non sono tutti decatleti? Perché c'è un solo Elon Musk?

  • Com'è possibile che la Cina abbia equivalenti dei social media e delle aziende tecnologiche americane? Google, Facebook, ecc. avrebbero potuto facilmente servire il mercato cinese (dal punto di vista ingegneristico) — ma non sono mai stati adottati. Rifletti sul perché.

• Ci sono eccezioni a tutto — studiale e cerca di capire perché fanno eccezione a quella che ritieni essere la tendenza generale. Aggiorna di conseguenza la tua idea di quale sia la tendenza.