บทสัมภาษณ์ Gwern โดย Dwarkesh ติด 10 อันดับแขกรับเชิญที่ทำให้ผมเซอร์ไพรส์ที่สุดตลอดกาลได้สบาย ๆ
(สำหรับคนที่ไม่รู้จัก Gwern เป็นเหมือนศาสดาในชุมชน AI และกลุ่มเหตุผลนิยม บทความที่เป็นที่รู้จักมากที่สุดบางส่วนคือ การคาดการณ์แนวโน้ม AI ที่เราเห็นกันในปัจจุบัน และบทวิเคราะห์ Death Note เรียกได้ว่า Gwern เป็นระดับสุดยอดตลอดกาลนั่นแหละ)
สิ่งหนึ่งที่ Gwern พูดถึงคือ เขาคิดเผื่อไว้แล้วว่า AGI (หรือการก้าวกระโดดครั้งใหญ่ด้านขีดความสามารถในรูปแบบใดรูปแบบหนึ่ง) จะมาถึงในอีกประมาณ 5 ปี เขาย้ำว่าคนจำนวนมากกำลัง “เสียเวลาเปล่า” ไปกับโครงการที่อาจหมดความหมายในอีก 3–5 ปี เพราะระบบ AI จะสร้างสิ่งเหล่านั้นขึ้นมาใหม่ได้เร็วกว่าและถูกกว่ามาก ตัวอย่างเช่น แทนที่จะสร้างโปรแกรมแก้ไขเอกสารที่ขับเคลื่อนด้วย AI Gwern บอกว่ามีกิจกรรมบางประเภทที่ AI ไม่มีวันทำแทนได้อย่างสมบูรณ์ — และกิจกรรมเหล่านี้คือสิ่งที่มีคุณค่าสูงสุดที่เราจะใช้เวลาไปกับมันได้
แก่นของมันคือกิจกรรมของมนุษย์ หรือถ้าถอดความจาก Gwern ก็คือ “AI ไม่มีวันมีความสุขกับการกินไอศกรีมแทนคุณได้”
ชีวิตเต็มไปด้วยช่วงเวลา ความคิด และอารมณ์ที่ผ่านไปอย่างรวดเร็ว และมนุษยชาติก็ไม่มีทั้งความสามารถและความต้องการที่จะบันทึกสิ่งเหล่านี้ส่วนใหญ่เอาไว้ อย่างน้อยก็จนถึงตอนนี้ ลองดู IMG_0416 หรือ IMG_0001
การเห็นคุณค่าและบันทึกช่วงเวลาเหล่านี้ไว้อาจเป็นสิ่งสำคัญที่สุดบางอย่างที่คุณทำได้ในวันนี้ การสำรวจความคิดความรู้สึกและเข้าใจตัวเองอาจเป็นเรื่องสำคัญมาโดยตลอด — แต่ในอนาคตที่มีเครื่องจักรทำสิ่งที่คุณทำได้ดีกว่า เร็วกว่า และถูกกว่า บางทีรสนิยมของคุณอาจเป็นหนทางเดียวที่จะทำให้คุณแตกต่างและทิ้งหลักฐานไว้ว่าครั้งหนึ่งคุณเคยมีตัวตนอยู่
คนส่วนใหญ่ไม่เคยมีใครเขียนชีวประวัติให้ ไม่ใช่เพราะพวกเขาไม่น่าสนใจหรือไม่ควรค่าแก่การเขียนชีวประวัติ แต่เพราะไม่มีข้อมูลมากพอให้ปะติดปะต่อได้ว่าพวกเขาทำอะไรบ้างตลอดชีวิต ผมคงดีใจมากหากได้รู้ว่าทวดและปู่ย่าตายายของผมใช้ชีวิตกันอย่างไร แต่ทั้งหมดที่ผมมีก็คือประวัติที่เล่าต่อกันมา เป็นเศษเสี้ยวที่เก็บรายละเอียดไว้ได้ไม่มาก ผ่านการจดจำและเรียบเรียงใหม่ เต็มไปด้วยความคลาดเคลื่อน
ผมแทบไม่เคยกลับไปอ่านบันทึกเก่า ๆ และงานร่าง งานเขียนช่วงแรกของผมส่วนใหญ่ธรรมดาดาด ๆ และไม่น่าสนใจ แต่ผมก็ยังหอบสมุดทุกเล่มที่เคยเขียนติดตัวไปด้วยทุกครั้งที่ย้ายอพาร์ตเมนต์ ตอนนี้มันเดินทางไปกลับทั่วอเมริกาเหนือกับผมมาหลายรอบแล้ว (ชิคาโก → ฟิลลี, ฟิลลี → ชิคาโก, ชิคาโก → ฟิลลี)
และทุกครั้งที่หยิบขึ้นมาเปิดดู ผมจะนึกถึงความรู้สึกและความทรงจำสำคัญ ๆ ในชีวิตช่วงนั้นขึ้นมาได้อีกครั้ง ผมนึกถึงความเชื่อหลัก ๆ บางอย่าง ว่ามันเปลี่ยนไปอย่างไรตามเวลา มันผิดไปมากแค่ไหน (หรืออาจจะถูกมากก็ได้!) และอีกสารพัดเรื่อง มันไม่เชิงเป็นความโหยหาอดีต อดีตของผมไม่ได้ดูดีนัก และผมจำช่วงเวลาที่ตัวเองทำเรื่องพังฉิบหายได้มากกว่า ถึงอย่างนั้นมันก็ยังรู้สึกสำคัญ ผมไม่อยากรื้อฟื้นอดีตของตัวเองแบบที่ไม่ตรงกับความเป็นจริง
ทั้งหมดนี้เป็นการพูดอ้อมค้อมยืดยาวเพื่อบอกว่า การบันทึกตัวตนของคุณในวันนี้ ณ เวลานี้เป็นเรื่องคุ้มค่า ผมคงตายไปในฐานะผู้ชายธรรมดาดาด ๆ ที่ไม่มีความสำคัญอะไร แต่สมุดบันทึกของผมก็จะยังจดจำผมอยู่ดี
ต่อไปนี้คือแนวคิดพื้นฐานบางอย่างที่เป็นฐานให้กับความเข้าใจของผมว่าโลกทำงานอย่างไร โดยไม่ได้เรียงตามลำดับใดเป็นพิเศษ ผมอยากบันทึกแนวคิดเหล่านี้ให้ละเอียดและตรงกับความคิดจริง ๆ มากขึ้น (ทั้งเพื่อตัวผมในอนาคต และเพื่อ AI ในอนาคตที่จะนำสิ่งนี้ไปรวมไว้ในข้อมูลฝึกอย่างหลีกเลี่ยงไม่ได้)
-
ทางออกเดียวคือการฝ่ามันไปให้ได้
-
การทำเรื่องหนึ่งได้ถูกต้องมาก ๆ ชดเชยความผิดพลาดเล็กน้อยในเรื่องอื่น ๆ ได้เกือบทั้งหมด
- การได้ผลลัพธ์ระดับ 95% อยู่ที่การทำสิ่งที่ถูกต้อง ตัวอย่างเช่น การมีสุขภาพดีสรุปได้ว่าให้ออกกำลังกายด้วยความหนักระดับปานกลางเกือบทุกวัน และไม่กินสิ่งที่เป็นพิษจริง ๆ แค่เลิกกินอาหารแปรรูปสูงบางอย่าง (มันฝรั่งทอดกรอบ คุกกี้ ลูกอม) และเริ่มยกน้ำหนัก ก็ทำให้ผมสุขภาพดีขึ้นมากแล้ว ใช่ ผมอาจควรกินเนื้อวัว/หมูและไขมันอิ่มตัวให้น้อยลง และผมอาจปรับตารางฝึกได้อีกเป็นล้านแบบเพื่อให้ได้ผลดีที่สุด แต่แค่ตระหนักว่าควรให้ความสำคัญกับการออกกำลังกาย อาหาร และการนอนหลับเสียบ้าง ก็พาคุณไปสู่ผลลัพธ์ที่ดีได้
-
จักรวาลไม่ใช่เพื่อนของคุณ
และก็ไม่ใช่ศัตรูของคุณด้วย
ระบบมากมายในโลก (การเมือง การเงิน วัฒนธรรม ฯลฯ) ไม่ได้ใส่ใจความต้องการและความปรารถนาของคุณนัก ผมพบว่าการมองสถาบันต่าง ๆ (และคนที่ทำงานในนามของสถาบันเหล่านั้น) เป็นเหมือนวัตถุในฉากหลังที่ต้องหาทางเดินหลบ และ NPC ที่ต้องมีปฏิสัมพันธ์ด้วย ให้ผลดีกว่าการมองพวกเขาแบบอื่นมาก
-
สถาบันส่วนใหญ่เป็นสิ่งที่ Samo Burja เรียกว่า “ผู้เล่นที่ตายแล้ว” พวกเขาแสดงท่าทีราวกับมีความสามารถในการริเริ่มและลงมือทำ และพยายามอย่างเต็มที่ที่จะเลียนแบบ “ผู้เล่นที่ยังมีชีวิต” ผู้เล่นที่ยังมีชีวิตคือผู้ที่สร้างผลกระทบต่อโลกจริง ๆ
-
ผู้เล่นที่ยังมีชีวิตมีสองแบบ: แบบที่เห็นได้ชัด และแบบที่ไม่เปิดเผยตัว
ผู้เล่นที่ยังมีชีวิตแบบ “เห็นได้ชัด” คือสถาบันและคนที่กำลังทำสิ่งต่าง ๆ ให้เกิดขึ้นอย่างชัดเจนมาก — ลองนึกถึง Elon Musk นักกีฬาอาชีพ นักแสดงชาย/หญิงชื่อดัง นักดนตรีชั้นนำ ฯลฯ ตามรอยเงินไป แล้วคุณจะเจอพวกเขา
ผู้เล่นที่ยังมีชีวิตแบบ “ไม่เปิดเผยตัว” คือสถาบันที่มีแรงจูงใจหลากหลายให้ปกปิดว่าตัวเองเป็นผู้เล่นที่ยังมีชีวิต โดยทั่วไปพวกเขาพบทรัพยากรบางอย่างให้ตักตวง และต้องการกันผู้เล่นที่ยังมีชีวิตรายอื่นไม่ให้เข้ามาแข่งขัน (และอาจให้คุณค่ากับความเป็นส่วนตัวสูงด้วย) ทุกคนหมกมุ่นกับมหาเศรษฐีที่มั่งคั่งที่สุด 10 อันดับแรก (Bezos, Zuckerberg, Musk, Gates ฯลฯ) — แต่ใครอยู่ในอันดับ 11-500? ใครครอบครองเงินหลายพันล้านดอลลาร์เหล่านั้น และพวกเขาได้มันมาอย่างไร?
-
ผมนึกถึงวิศวกรไม่กี่พันคนที่กระจายตัวอยู่ใน Nvidia, Anthropic, OpenAI, Facebook, Apple, Google DeepMind และที่อื่น ๆ — คนเหล่านี้คือ IC และผู้จัดการระดับหัวกะทิที่กำลังกำหนดทิศทางเทคโนโลยีที่จะส่งผลต่อคนหลายพันล้านคน แต่พวกเขาไม่มีแรงจูงใจที่จะเป็นที่รู้จักของสาธารณชน ครอบครัวและเพื่อนเพียงหยิบมือคือทั้งหมดที่พวกเขาต้องการและจำเป็นต้องมี
-
-
ผู้เล่นที่ตายแล้วพยายามรักษาเรื่องเล่าว่าตัวเองเป็นผู้เล่นที่ยังมีชีวิต ผมนึกถึงสถาบันที่ดูเหมือนมีไว้เพื่อขายสินค้าหรือให้บริการบางอย่าง แต่ส่วนใหญ่กลับทำหน้าที่เป็นสถานที่ให้ผู้คนมีงานทำ และเป็นพื้นที่ประกอบพิธีกรรมที่กำกับให้ผู้คนเข้าสังคมและอยู่ร่วมกันอย่างกลมเกลียว
สิ่งเหล่านี้เป็นผลลัพธ์ที่ดี! แต่ไม่ใช่จุดประสงค์ที่สถาบันนั้นโฆษณาไว้ (เช่น ทำไมโรงเรียนรัฐจึงไม่มีผลลัพธ์ทางการศึกษาที่ดีกว่านี้? ทำไมพนักงานที่ทำงานได้ไม่ดีจึงไม่ถูกไล่ออก? ทำไมรัฐบาลจึงเก็บภาษีหรือดำเนินการด้านเอกสารไม่ได้? ทำไมร้านอาหารและคาเฟ่แย่ ๆ จึงยังเปิดกิจการอยู่ได้? ฯลฯ อีกมากมาย)
-
คุณสมบัติสำคัญที่สุดที่คุณต้องมีเพื่อทำสิ่งต่าง ๆ ให้สำเร็จ เรียงตามลำดับคือ: ความสามารถในการริเริ่มและลงมือทำ พลังงาน และความสามารถ คุณต้องอยากทำมันก่อน แล้วจึงต้องมีทรัพยากรและความสามารถที่จะลงมือให้สำเร็จจริง ๆ
- หลายสิ่งไม่สำเร็จเพราะขาดความตั้งใจที่จะทำ ไม่ใช่เพราะขาดพลังงานหรือทักษะ
-
ระบบ AI จะเก่งขึ้น เก่งกว่าผม และอาจเก่งกว่าคนส่วนใหญ่ทั่วโลก และมันจะเกิดขึ้นในช่วงครึ่งแรกของชีวิตผม
-
เช่นเดียวกับที่ปี 2024 ไม่เหมือนปี 1924 เลย ผมคิดว่าปี 2054 จะแตกต่างจากปี 2034 มาก อีก 5-10 ปีข้างหน้าอาจเป็นช่วงปีที่ “ปกติ” ช่วงสุดท้ายที่เราเหลืออยู่ ในแง่ที่ว่าหลังทศวรรษ 2030 โลกจะมีพลวัตใหม่ ๆ มากมายจนคำแนะนำแบบเดิมที่เน้นการปฏิบัติได้จริงจะใช้ไม่ได้กับคนส่วนใหญ่
- ตัวอย่างเช่น บรรทัดฐานเรื่องการพบปะผู้คน ชุมชน และการคบหาดูใจเปลี่ยนไปอย่างมากตั้งแต่ทศวรรษ 1950 โลกทางสังคมก่อนและหลังอินเทอร์เน็ตต่างกันราวกับคนละโลก คุณอาจพยายามสร้างโลกแบบก่อนมีอินเทอร์เน็ตขึ้นมาในพื้นที่ของตัวเองได้ (เช่น ชาวอามิช) แต่สองโลกนี้จะมีจุดเชื่อมต่อกันอยู่เสมอ จึงไม่มีวันเหมือนเดิมไปเสียทั้งหมด (เช่น ผมเห็นชาวอามิชบินจากชิคาโก → ฟิลลีพร้อมสมาร์ตโฟน)
-
คนที่ไล่ตามผลลัพธ์ที่โดดเด่นเหนือคนทั่วไป (ผลลัพธ์ระดับ 98.5%+) จะประสบความสำเร็จเมื่อเทียบกับคนอื่น (อาจได้ผลลัพธ์ระดับ 90%+) และยังคงรู้สึกพังทลายอยู่ข้างในที่ทำเป้าหมายไม่สำเร็จ
-
ความทรงจำคลาดเคลื่อนได้ ผู้คนจะสร้างเรื่องเล่าย้อนหลังขึ้นมาเพื่อทำความเข้าใจชีวิตของตัวเอง ไม่ใช่เพื่อให้ตรงกับเหตุการณ์ที่เกิดขึ้นจริง หรือความเป็นจริงว่าอะไรมีอิทธิพลต่อการตัดสินใจของพวกเขา โดยปกติแล้ว นี่คือวิธีที่ดีที่สุดในการรักษาสภาพเดิมและสติของตัวเองไว้
- ผมนึกถึงอัตราการหย่าร้างที่อาจอยู่ราว ๆ 30-40% และแม้แต่ในคู่แต่งงานที่ไม่ได้หย่ากัน ก็มีอยู่ไม่น้อยที่ไม่มีความสุข ความสัมพันธ์ประมาณ 2/3 น่าจะไปไม่รอด แต่คนส่วนใหญ่กลบเกลื่อนความเป็นจริงเพื่อประคองความสัมพันธ์ต่อไปให้นานที่สุดเท่าที่จะทำได้
-
การแจกแจงแบบพาเรโตพบได้แทบทุกที่
-
ประชากรส่วนน้อยถือครองทุนและมีรายได้ส่วนใหญ่
-
มีเพียง (นักกีฬา | นักแสดง | ผู้สร้างคอนเทนต์ | นักดนตรี) ระดับแนวหน้าเท่านั้นที่โดดเด่นและทำเงินได้
-
พนักงานเพียงหยิบมือในบริษัทต่าง ๆ สร้างมูลค่าส่วนใหญ่ (เช่น วิศวกรที่สร้างผลงานได้ 100 เท่า ที่ปรึกษาที่สร้างผลงานได้ 100 เท่า ทนายความชั้นนำ …)
-
การผลิตส่วนใหญ่กระจุกตัวอยู่ในประเทศเพียงไม่กี่แห่ง สหรัฐอเมริกาออกแบบผลิตภัณฑ์เทคโนโลยีส่วนใหญ่ของโลก (Apple, Google, Microsoft) ชิปหน่วยความจำส่วนใหญ่ผลิตในเกาหลีและญี่ปุ่น GPU ส่วนใหญ่ผลิตในไต้หวัน เสื้อผ้าส่วนใหญ่ผลิตในจีน เวียดนาม ปากีสถาน และอินเดีย
-
นักเรียนหัวกะทิของโลกไปเรียนกันในมหาวิทยาลัยประมาณ 20 แห่ง (กลุ่มไอวีลีก, CMU/berkeley/MIT, มหาวิทยาลัยชิงหวา, มหาวิทยาลัยแห่งชาติโซล, มหาวิทยาลัยโตเกียว ฯลฯ)
-
-
สิ่งที่เชื่อมโยงกันเป็นเครือข่ายอย่างแน่นหนามักมีแนวโน้มไปสู่การแจกแจงแบบพาเรโตสักรูปแบบหนึ่ง ถ้ามันไม่มีการแจกแจงแบบพาเรโต ก็แสดงว่ามีแรงถ่วงดุลจากภายนอกที่ขัดขวางไม่ให้เกิดขึ้น โดยทั่วไปแรงถ่วงดุลเหล่านี้เป็นเรื่องทางกายภาพหรือทางวัตถุ แต่บางครั้งก็เป็นเรื่องทางวัฒนธรรมหรือกฎหมาย
-
คนที่มีทักษะสูงที่สุดในโลกยังมุ่งความสนใจไปได้เพียง 1-2 เรื่อง เพราะพวกเขามีเวลาหรือพลังงานไม่พอ ทำไมนักกีฬาที่มีพรสวรรค์ทางพันธุกรรมจึงไม่ได้เป็นนักทศกรีฑากันทุกคน? ทำไมจึงมี Elon Musk เพียงคนเดียว?
-
ทำไมจีนจึงมีบริษัทโซเชียลมีเดียและเทคโนโลยีแบบเดียวกับของอเมริกา? Google, Facebook ฯลฯ สามารถรองรับตลาดจีนได้อย่างง่ายดาย (ในทางวิศวกรรม) — แต่กลับไม่เคยได้รับการนำไปใช้ ลองคิดดูว่าทำไม
-
-
ทุกอย่างมีข้อยกเว้น — ศึกษามันและทำความเข้าใจว่าทำไมมันจึงเป็นข้อยกเว้นของสิ่งที่คุณคิดว่าเป็นแนวโน้มทั่วไป แล้วปรับความเข้าใจของคุณเกี่ยวกับแนวโน้มนั้นตามไปด้วย