6 · ใครได้อะไรจากการพูดแบบนี้
แรงจูงใจไม่ได้ตัดสินว่าใครพูดถูก แต่มันบอกว่าควรตรวจอะไรก่อน บทนี้ตรวจทั้งสองฝ่ายด้วยมาตรฐานเดียวกัน
ฝ่ายที่เตือน
Anthropic กำลังจะเข้าตลาดหุ้นในอีกไม่กี่สัปดาห์ ด้วยมูลค่าที่อาจสูงถึงสองล้านล้านดอลลาร์ Axios รายงานว่าโพสต์ของ Hubinger ถูกอ่านได้สองแบบ — เป็นความผิดพลาดด้านการสื่อสารครั้งใหญ่ หรือเป็นการตลาดด้วยความกลัวที่คำนวณมาแล้ว
ทฤษฎีการตลาดด้วยความกลัวมีเหตุผลรองรับ: "สินค้าของเราทรงพลังจนอาจฆ่าคุณ" เป็นคำโฆษณาที่ใช้กันมาแล้วในประวัติศาสตร์ และมันทำให้คู่แข่งที่บอกว่าสินค้าตัวเองปลอดภัย ดูเหมือนสินค้าด้อยกว่า
แต่ทฤษฎีนี้มีรูใหญ่: คำเตือนแบบนี้เรียกการกำกับดูแลที่ทำร้ายบริษัทเอง วุฒิสมาชิก Bernie Sanders เสนอห้าม superintelligence และกำลังเรียกประชุมชี้แจงวุฒิสมาชิกเรื่องอันตรายของ AI บริษัทที่กำลังจะ IPO ไม่ได้กำไรจากการที่รัฐสภาสนใจตัวเองแบบนั้น
ข้อที่ตรวจได้จริงข้อเดียว: ผู้บริหารระดับสูงของ Anthropic, DeepMind และ OpenAI ร่วมลงนามในแถลงการณ์เรียกร้องให้มีเครื่องมือที่รัฐหนุนหลัง สำหรับชะลอการพัฒนา AI หากความก้าวหน้าเร่งขึ้นกะทันหัน การเรียกร้องให้มีเบรกที่ตัวเองไม่ได้ถือ ไม่เข้ากับทฤษฎีการตลาดด้วยความกลัว
ฝ่ายที่บอกว่าไม่ใช่
มาตรฐานเดียวกันต้องใช้กับอีกฝั่ง
Yann LeCun อยู่ Meta ซึ่งเดินยุทธศาสตร์ open weights การกำกับดูแลหนักเป็นภัยต่อยุทธศาสตร์นั้นโดยตรง คนที่บอกว่าความเสี่ยงเป็นศูนย์ กำลังพูดสิ่งที่เข้าทางนายจ้างของตัวเองพอดี
ฝ่ายที่บอกว่าควรสนใจปัญหาปัจจุบันแทน ก็มีเดิมพันเรื่องทุนวิจัยและพื้นที่สื่อของสาขาตัวเอง ไม่ต่างกัน
ข้อสรุปของบทนี้ไม่ใช่ "ทุกคนมีวาระ เลยเชื่อใครไม่ได้" นั่นคือความขี้เกียจที่แต่งตัวเป็นความรอบคอบ ข้อสรุปคือ แรงจูงใจบอกว่าควรตรวจข้อไหนก่อน ไม่ได้บอกว่าคำตอบคืออะไร และในเรื่องนี้ ข้อที่ตรวจได้อยู่ในชั้นที่ 1 ทั้งหมด
ข้อเปิดเผยของเล่มนี้
เล่มนี้เขียนโดย Claude ซึ่งสร้างโดย Anthropic บริษัทเดียวกับที่ Coxon ลาออก บริษัทเดียวกับที่ Hubinger ทำงาน บริษัทเดียวกับที่กำลังจะ IPO
เล่มนี้ไม่มีวิธีพิสูจน์ว่าตัวเองไม่ลำเอียง สิ่งที่ทำได้คือใส่แหล่งอ้างอิงไว้ทุกข้อ ใส่เงื่อนไขที่จะพลิกคำตัดสินไว้ในบทที่ 5 และบอกเรื่องนี้ไว้ตรงนี้ ผู้อ่านตรวจเองได้
บทถัดไป · 8 / 97 · แล้วคนอ่านจะทำอะไรกับเรื่องนี้