inandıklarım [2024-11-25]

Dwarkesh’in Gwern ile yaptığı röportaj benim için tüm zamanların en büyük 10 konuk sürprizi arasına rahatlıkla girer.

(Bilmeyenler için Gwern, yapay zekâ ve Rasyonalist topluluklarında bir peygamber gibi görülüyor. En bilinen denemelerinden bazıları, bugün gördüğümüz yapay zekâ eğilimlerine dair öngörüleri ve bir Death Note analizi. Gwern bir bakıma gelmiş geçmiş en iyisi.)

Gwern’in bahsettiği şeylerden biri, önümüzdeki aşağı yukarı 5 yıl içinde AGI’ye (ya da yeteneklerde inanılmaz bir sıçramaya) ulaşılacağını hesaba kattığı. Yapay zekâ sistemleri çok daha hızlı ve ucuza yeniden üretebileceği için, 3–5 yıl içinde anlamını yitirebilecek projeler üzerinde çalışan birçok insanın “zamanını boşa harcadığını” vurguluyor. Örneğin yapay zekâ destekli bir belge düzenleyici geliştirmek yerine, yapay zekânın hiçbir zaman tam olarak yeniden üretemeyeceği bazı faaliyetler olduğundan bahsediyor — zamanımızı ayırabileceğimiz en değerli faaliyetler de bunlar.

Özünde bunlar insana özgü faaliyetler. Ya da Gwern’in sözlerini biraz değiştirerek söylersek, “Yapay zekâ senin yerine dondurmanın tadını asla çıkaramayacak.”

Hayat gelip geçici anlarla, düşüncelerle ve duygularla dolu. İnsanlığın da bunların çoğunu kayda geçirmeye ne imkânı ne de isteği vardı. En azından şimdiye kadar. IMG_0416 ya da IMG_0001 örneklerini düşün.

Bu anların değerini bilmek ve onları kayda geçirmek, muhtemelen bugün yapabileceğin en önemli şeylerden bazıları. İçine dönüp kendini anlamak belki de her zaman önemliydi — ama senin yaptığını daha iyi, daha hızlı ve daha ucuza yapan makinelerin olacağı bir gelecekte, kendini farklı kılmanın ve en başta var olduğuna dair kanıt bırakmanın tek yolu belki de zevklerin olacak.

Çoğu insanın biyografisi hiç yazılmaz; ilginç olmadıkları ya da haklarında biyografi yazmaya değmediği için değil, hayatlarını ne yaparak geçirdiklerini çıkaracak kadar malzeme olmadığı için. Büyük büyükannelerimle büyük büyükbabalarımın ya da büyükanne ve büyükbabalarımın hayatlarını nasıl geçirdiklerini bilmeyi çok isterdim, ama elimde yalnızca sözlü tarih var: hatırlanıp yeniden şekillendirilmiş, kusurlarla dolu, ayrıntıları eksik kesitler.

Eski günlüklerime ve taslaklarıma nadiren geri dönerim. İlk yazılarımın çoğu vasat ve ilgi çekici değil. Ama yine de evden eve taşınırken, içine bir şeyler yazdığım her defteri yanımda götürürüm. Şimdiye kadar benimle birlikte Kuzey Amerika’da birkaç kez gidip geldiler (Chicago → Philly, Philly → Chicago, Chicago → Philly).

Ve ne zaman birini elime alıp sayfalarını karıştırsam, hayatımın o dönemindeki temel duyguları ve anıları yeniden hatırlarım. Bazı temel inançlarımı, zamanla nasıl değiştiklerini, ne kadar yanlış olduklarını (ya da belki ne kadar doğru olduklarını!) ve daha neler neler hatırlarım. Bu tam olarak nostalji değil; geçmişim pek parlak değil ve daha çok işleri bok ettiğim zamanları hatırlıyorum. Yine de hâlâ önemli geliyor. Geçmişimi, gerçeğe sadık olmayan herhangi bir biçimde yeniden hatırlamak istemiyorum.

Bütün bunlar, bugün, şu anda kim olduğunu kayda geçirmenin değerli olduğunu söylemenin uzun bir yolu. Muhtemelen vasat, önemsiz bir adam olarak öleceğim ama günlüklerim beni yine de hatırlayacak.

---

Özel bir sıralama gözetmeden, dünyanın nasıl işlediğine dair düşünceme temel oluşturan bazı fikirler şöyle. Bu fikirleri daha ayrıntılı ve aslına sadık biçimde kayda geçirmek istedim (hem gelecekteki kendim hem de bunu kaçınılmaz olarak eğitim verilerine dahil edecek gelecekteki yapay zekâlar için).

• Tek çıkış yolu, içinden geçmek.

• Bir konuda çok haklı olmak, diğer konulardaki küçük yanılgılarının çoğunu telafi eder.

  • %95’lik bir sonuca ulaşmak, doğru şeyi yapmakla ilgilidir. Örneğin sağlıklı olmak, çoğu gün orta yoğunlukta egzersiz yapmaya ve bildiğin zehir yememeye dayanır. Özellikle çok işlenmiş bazı gıdaları (patates cipsi, kurabiye, şekerleme) bırakmak ve ağırlık çalışmaya başlamak bile beni çok daha sağlıklı yaptı. Evet, muhtemelen daha az sığır/domuz eti ve doymuş yağ tüketmeliyim, antrenman programımı da daha iyi hâle getirmek için milyon farklı şekilde değiştirebilirim. Ama egzersize, beslenmeye ve uykuya öncelik vermek gerektiğinin farkında olmak bile seni iyi bir sonuca götürür.

• Evren senin dostun değil.

  Düşmanın da değil.

  Dünyadaki birçok sistem (siyasi, finansal, kültürel vb.) ihtiyaçlarına ve isteklerine karşı kayıtsızdır. Kurumları (ve bu kurumlar adına hareket eden insanları) başka herhangi bir şeyden çok, etrafından dolanılacak arka plan nesneleri ve etkileşime girilecek NPC’ler gibi görmek bana çok daha fazla fayda sağladı.

• Çoğu kurum, Samo Burja’nın “ölü oyuncular” dediği şeylerdir. İnisiyatif alıyormuş gibi yapıyor ve “canlı oyuncuları” taklit etmek için ellerinden geleni yapıyorlar. Canlı oyuncular ise dünyayı gerçekten etkiliyor.

  • Canlı oyuncuların iki türü var: bariz canlı oyuncular ve göz önünde olmayan canlı oyuncular.

    ”Bariz” canlı oyuncular, Bir Şeyler Yaptığı apaçık ortada olan kurumlar ve insanlardır — Elon Musk’ı, profesyonel sporcuları, ünlü oyuncuları, en iyi müzisyenleri vb. düşün. Paranın izini sür, onları bulursun.

    ”Göz önünde olmayan” canlı oyuncular, farklı çıkarlar gereği canlı oyuncu olduklarını gizlemek isteyen kurumlardır. Genellikle yararlanabilecekleri bir kaynak bulmuşlardır ve diğer canlı oyuncuların rekabetini engellemek isterler (muhtemelen gizliliğe de büyük önem veriyorlardır). Herkes net serveti en yüksek 10 kişiye (Bezos, Zuckerberg, Musk, Gates vb.) kafayı takmış durumda — peki 11-500. sıralarda kimler var? O milyarlarca dolar kimde ve bu parayı nasıl elde ettiler?

  • Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind ve benzeri şirketlere dağılmış birkaç bin mühendisi düşünüyorum — bunlar, milyarlarca insanı etkileyecek teknolojileri şekillendiren üst düzey IC’ler ve yöneticiler. Ama göz önünde olmak için bir motivasyonları yok. Tüm istedikleri ve ihtiyaç duydukları, aileleri ve bir avuç arkadaşları.

• Ölü oyuncular, canlı oyuncu oldukları anlatısını sürdürmeye çalışıyor. Görünüşte ürün satan veya bir hizmet sunan, ama büyük ölçüde insanlara iş sağlama ve sosyalliği ve uyumu pekiştiren ritüellere mekân olma işlevi gören kurumları düşünüyorum.

  Bunlar iyi sonuçlar! Ama kurumun kendini tanıtırken öne sürdüğü amaç bunlar değil (ör. devlet okulları neden daha iyi eğitim sonuçları elde edemiyor? düşük performanslı çalışanlar neden işten çıkarılmıyor? hükûmetler neden vergi toplayamıyor ya da belgeleri işleme koyamıyor? kötü restoranlar ve kafeler neden faaliyetlerini sürdürüyor? vb. vb. vb.)

• Bir şeyleri gerçekleştirmek için ihtiyaç duyduğun en önemli nitelikler, sırasıyla: inisiyatif alma, enerji, yetkinlik. Bir şeyi yapmayı istemeli, sonra da onu gerçekten hayata geçirecek kaynaklara ve beceriye sahip olmalısın.

  • Birçok şey, enerji veya beceri eksikliğinden değil, irade eksikliğinden dolayı yapılmıyor.

• Yapay zekâ sistemleri daha iyi hâle gelecek. Benden, muhtemelen de dünya üzerindeki çoğu insandan daha iyi. Ve bu, ömrümün ilk yarısında gerçekleşecek.

• 2024’ün 1924’e hiç benzememesi gibi, 2054’ün de 2034’ten çok farklı olacağını düşünüyorum. Önümüzdeki 5-10 yıl, muhtemelen elimizde kalan son “normal” yıllar; çünkü 2030’lardan sonra dünyada o kadar çok yeni dinamik olacak ki geleneksel, pratik tavsiyeler çoğu insan için geçerli olmayacak.

  • Örneğin insanlarla tanışma, topluluk yaşamı ve flört etme konusundaki normlar 1950’lerden bu yana kökten değişti. İnternet öncesinin ve sonrasının sosyal dünyaları birbirine yabancı. Yerel ölçekte İnternet öncesi bir dünya kurup yaşatmayı deneyebilirsin (ör. Amişler), ama bu ikisi arasında her zaman temas noktaları olacağı için hiçbir zaman tam olarak aynı olmayacak (ör. Chicago → Philly uçuşunda akıllı telefonlarıyla seyahat eden Amişler gördüm).

• Sıra dışı sonuçların (%98,5+ düzeyindeki sonuçlar) peşinden koşan insanlar, göreli olarak başarılı olacak (muhtemelen %90+ düzeyinde bir sonuca ulaşacak), ama hedeflerine ulaşamadıkları için yine de içten içe yıkılmış hissedecekler.

• Hafıza kusursuz değildir. İnsanlar hayatlarına anlam vermek için geriye dönük anlatılar kurar; olayların gerçekte nasıl geliştiğine ya da kararlarını gerçekte neyin şekillendirdiğine sadık kalmak için değil. Genellikle statükoyu ve akıl sağlığını korumanın en iyi yolu budur.

  • Boşanma oranının muhtemelen %30-40 civarında olduğunu, boşanmayla sonuçlanmamış evlilikler arasında bile mutsuz olanların azımsanmayacak bir paya sahip olduğunu düşünüyorum. İlişkilerin muhtemelen 2/3’ü başarısız olacak, ama çoğu insan ilişkiyi elinden geldiğince uzun süre sürdürmek için gerçeklerin üstünü örtüyor.

• Pareto dağılımları hemen hemen her yerde.

  • Nüfusun azınlığı, sermayenin ve gelirin çoğunluğuna sahip

  • Yalnızca en tepedeki (sporcular | oyuncular | içerik üreticileri | müzisyenler) öne çıkar ve para kazanır

  • Şirketlerdeki bir avuç çalışan, değerin çoğunu üretir (ör. 100x mühendisler, 100x danışmanlar, en iyi avukatlar, …)

  • İmalatın büyük bölümü birkaç ülkede yoğunlaşmış durumda. Dünyadaki teknoloji ürünlerinin çoğunu ABD tasarlıyor (Apple, Google, Microsoft). Bellek çiplerinin çoğu Kore ve Japonya’da üretiliyor. GPU’ların çoğu Tayvan’da üretiliyor. Giysilerin çoğu Çin, Vietnam, Pakistan ve Hindistan’da üretiliyor.

  • Dünyanın en iyi öğrencileri yaklaşık 20 üniversiteye gidiyor (Ivy League üniversiteleri, CMU/Berkeley/MIT, Tsinghua Üniversitesi, Seul Ulusal Üniversitesi, Tokyo Üniversitesi vb.)

• Yoğun bağlantı ağlarına sahip şeyler, bir tür Pareto dağılımına yönelme eğilimindedir. Pareto dağılımı göstermiyorlarsa, bunu engelleyen dış dengeleyici etkenler vardır. Bu dengeleyici etkenler genellikle fiziksel/maddi olur, ama bazen kültürel/hukuki de olabilir.

  • Dünyanın en yetenekli insanları, yeterli zamanları veya enerjileri olmadığı için yalnızca 1-2 şeye odaklanır. Genetik açıdan avantajlı olan tüm sporcular neden dekatloncu değil? Neden yalnızca bir Elon Musk var?

  • Çin’de Amerikan sosyal medya ve teknoloji şirketlerinin muadilleri nasıl var olabiliyor? Google, Facebook vb. Çin pazarına (mühendislik açısından) rahatlıkla hizmet verebilirdi — ama hiçbir zaman benimsenmediler. Bunun nedenini düşün.

• Her şeyin istisnaları vardır — onları incele ve genel eğilim olduğunu düşündüğün şeyin neden istisnaları olduklarını anla. Eğilimin ne olduğuna dair düşünceni buna göre güncelle.