4 · ​ฝ่าย​ที่​บอก​ว่า​ไม่​ใช่ ​และ​เหตุผล​ที่​ดี​ที่สุด​ของ​เขา

​ฝ่าย​ที่​ไม่​กลัว​ไม่​ได้​ไม่​กลัว​เพราะ​ไม่​เข้าใจ ​พวกเขา​มี​ข้อโต้แย้ง​สาม​ข้อ ​และ​ข้อ​ที่สอง​แข็ง​ที่สุด

4.1 ​สถาปัตยกรรม​วันนี้​ทำ​สิ่ง​ที่​กลัว​ไม่​ได้

Yann LeCun ​ได้​รางวัล Turing ​ร่วมกับ Hinton ​และ​เขา​ให้​ตัวเลข p(doom) ​ไว้​ที่​ประมาณ​ศูนย์ ​เหตุผล​ของ​เขา​คือ ​โมเดล​ภาษา​แบบ​ปัจจุบัน​ไม่​มี​กลไก​ที่จะ​สร้าง​พฤติกรรม​มุ่ง​เป้า​อย่าง​เป็นอิสระ​ได้ ​ฉาก​แบบ paperclip maximizer ​ต้องการ​ความสามารถ​ที่​ห่าง​จาก​ของจริง​มาก ​และ​เขา​พูดตรงๆ ​ว่า "​อย่า​ไป​ฟัง CEO"

​จุดอ่อน​ของ​ข้อ​นี้: ​มัน​เป็น​คำกล่าว​เรื่อง​สถาปัตยกรรม ​วันนี้ ​ไม่​ใช่​เรื่อง​สถาปัตยกรรม​ที่จะ​มี ​และ​ตัวเลข time horizon ​ของ METR ​ใน​บท​ที่ 2 ​เป็น​ข้อมูล​ที่​ข้อโต้แย้ง​นี้​ต้อง​อธิบาย

4.2 ​ประวัติการ​ทำนาย​ของ​วงการ​นี้​แย่มาก ​และ​มี​คน​จด​ไว้

Rodney Brooks ​ผู้ก่อตั้ง iRobot ​และ​อดีต​ผู้อำนวยการ​ห้อง​แล็บ AI ​ของ MIT ​ทำ​สิ่ง​ที่​แทบ​ไม่​มี​ใคร​ใน​วงการ​ทำ: ​เขา​เขียน​คำทำนาย​พร้อม​วันที่​ไว้​ตั้งแต่​ปี 2018 ​แล้ว​ให้คะแนน​ตัวเอง​ทุกวัน​ที่ 1 ​มกราคม ​ต่อ​สาธารณะ ​ฉบับ​ล่าสุด​ลงวันที่ 1 ​มกราคม 2026

​ข้อสรุป​ของ​เขา​คือ ​งานวิจัย AGI "​ดูเหมือน​ยัง​ติด​อยู่​กับ​ปัญหา​เดิม​เรื่อง​การให้เหตุผล​และ​สามัญสำนึก ​ที่ AI ​มีปัญหา​มา​อย่าง​น้อย​ห้าสิบ​ปี" ​และ​เขา​เปรียบ​กระแส AGI ​ปัจจุบัน​ว่า​อาจ​เป็น "​ไข้​หมู่​ที่​ขับ​ด้วย​จิตวิทยา​ฝูงชน​และ confirmation bias"

​สิ่ง​ที่​ทำให้​ข้อ​นี้​แข็ง​กว่า​ข้อ 4.1: Brooks ​ไม่​ได้​อ้างว่า​ตัวเอง​ถูก ​เขา​ยอมรับ​ใน​สกอร์​การ์ด​ของ​ตัวเอง​ว่า​กระแส​ทำให้​เขา​มองโลกในแง่ดี​เกินไป​ใน​บาง​เรื่อง ​นั่น​คือ​ความแตกต่าง​ระหว่าง​คน​ที่​มี​จุดยืน​กับ​คน​ที่​มี​เครื่องมือ ​เขา​ไม่​ได้​เถียง​ว่า​คำทำนาย​ผิด ​เขา​แสดง​สถิติ​ว่า​คำทำนาย​ใน​สาขา​นี้​ผิด​เป็นปกติ ​และ​นั่น​เป็นหลัก​ฐาน ​ไม่​ใช่​ความเห็น

4.3 ​การพูด​เรื่อง​สูญพันธุ์​เบียด​ปัญหา​ที่เกิด​ขึ้น​แล้ว​ออก​ไป

​ข้อโต้แย้ง​ที่สาม: ​ขณะที่​ทุกคน​ถก​กัน​เรื่อง​ปี 2030 ​ปัญหา​ปี 2026 ​ไม่​มี​ใคร​แก้ — ​อคติ​ใน​ระบบ​คัด​กรอง​คน, ​การละเมิด​ลิขสิทธิ์​งาน​สร้างสรรค์, ​ผลกระทบ​ต่อ​ตลาดแรงงาน, ​ค่า​ไฟ​และ​น้ำ​ของ data center, ​ข้อมูล​เท็จ​ใน​การเลือกตั้ง

​ข้อ​นี้​เป็น​ข้อโต้แย้ง​เรื่อง​ความสนใจ ​ไม่​ใช่​เรื่อง​ความจริง ​มัน​อาจ​ถูก​ทั้งที่​ความเสี่ยง​ระยะยาว​ก็​มี​จริง — ​ทั้งสอง​อย่าง​เป็นจริง​พร้อมกัน​ได้ ​แต่​ข้อสังเกต​เรื่อง​ความสนใจ​นั้น​วัด​ได้: ​ข่าว​วันที่ 9 ​กันยายน​ถูก​อ่าน 110 ​ล้าน​ครั้ง ​ส่วน​งานวิจัย​เรื่อง​อคติ​ใน​ระบบ​คัด​กรอง​ไม่​ถูก​อ่าน​เท่านั้น​แน่นอน

4.4 ​และ​ข้อสังเกต​ที่​ไม่​ใช่​ของ​ฝ่าย​ใด

110 ​ล้าน​วิว ​ไม่​ใช่​หลักฐาน​เรื่อง AI ​มัน​เป็นหลัก​ฐาน​เรื่อง​คน