1 · ​เกิด​อะไร​ขึ้น​เมื่อ​วันที่ 9 ​กันยายน 2026

​วันที่ 9 ​กันยายน 2026 ​ข้อความ​ลาออก​ของ​นักวิจัย​คน​หนึ่ง​บน X ​ถูก​อ่าน​เกิน 110 ​ล้าน​ครั้ง​ภายใน​วัน​เดียว ​และ​ทำให้​คำ​ว่า p(doom) ​หลุด​ออกจาก​วงใน​ของ​อุตสาหกรรม AI ​ไป​อยู่​ใน​ข่าว​ช่อง​หลัก

​คน​ที่​โพสต์​ชื่อ Jacob Coxon ​เขา​เป็น​นักวิจัย​ที่ Anthropic ​และ​เคย​อยู่ OpenAI ​มา​ก่อน ​ข้อความ​ของ​เขา​กล่าวหา​บริษัท AI ​แถวหน้า​ว่า​กำลัง "gambling with our lives" — ​เดิมพัน​ด้วย​ชีวิต​พวกเรา ​เขา​เขียน​ว่า Anthropic ​เชื่อ​ว่า​ตัวเอง​เป็น​แล็บ​เดียว​ที่​รับผิดชอบ ​จึง​ต้อง​แข่ง​ไป​ให้​ถึง​ก่อน ​ส่วน OpenAI ​นั้น "​ยัง​ไม่​ได้​ซึมซับ​เดิมพัน​ระดับ​อารยธรรม" ​และ​ประโยค​ที่​ทำให้​เรื่อง​นี้​ระเบิด ​คือ​เขา​บอก​ว่า​สถานการณ์ "​อาจ​หลุด​จาก​การควบคุม" ​ได้​ภายใน​สิ้นปี​หน้า

​ข่าว​นี้​ยังอยู่​ใน​วงจำกัด​จนกระทั่ง​อีก​คนพูด

Evan Hubinger ​หัวหน้า​ทีม Alignment Science ​ของ Anthropic ​โพสต์​สนับสนุน​ใน​วันเดียวกัน ​ประโยค​ของ​เขา​คือ "we really do earnestly believe AI could kill all humans" — ​พวกเรา​เชื่อ​อย่าง​จริงจัง​จริงๆ ​ว่า AI ​ฆ่า​มนุษย์​ทั้งหมด​ได้ ​แล้ว​เขา​ใส่​ตัวเลข​ต่อท้าย: ​ใน​ความเห็น​ของ​เขา ​โอกาส​ที่​มนุษย์​จะ​สูญพันธุ์​ภายใน​สิบ​ปี​ข้างหน้า​อยู่​ที่ "​มากกว่า 10%" ​และ Anthropic ​ยัง​ไม่​มีแผน​ว่า​จะ​ควบคุม superintelligence ​อย่างไร

​วันเดียวกัน​นั้น Paul Christiano ​อดีต​หัวหน้า​ฝ่าย alignment ​ของ OpenAI ​เข้า​รับ​ตำแหน่ง​ใน​บอร์ด​และ​คณะกรรมการ​ความปลอดภัย​ของ OpenAI ​และ​เขียน​ว่า "​ถ้า​เรา​สร้าง superintelligence ​โดย​ไม่​มี alignment ​ที่​แข็งแรง​กว่า​นี้ ​ผม​คาด​ว่า​เรา​จะ​เสียการ​ควบคุม​มัน​ไป​อย่าง​ถาวร ​ถ้า​เกิดขึ้น​จริง ​คน​ส่วนใหญ่​อาจ​ตาย"

​สาม​คน​นี้​ไม่​ใช่​นักข่าว ​ไม่​ใช่​นัก​เคลื่อนไหว ​และ​ไม่​ใช่​คนนอก ​ทั้ง​สาม​คน​ได้เงิน​เดือน​จาก​การสร้าง​สิ่ง​ที่​พวกเขา​เตือน

​กล่อง​ข้าง — Gemini ​สรุป​ข่าว​นี้​ผิดที่​ชื่อ ​และ​นั่น​สำคัญ​กว่า​ที่​คิด

​ต้นทาง​ของ​เล่ม​นี้​คือ ICE ​ถาม Gemini ​เรื่อง​คลิป​ข่าว ​แล้ว​ได้​คำตอบ​ที่​มีชื่อ​คน​ผิด​สอง​ที่

Gemini ​เขียน​ว่า​นักวิจัย​ชื่อ Jacob Hilton "​หรือ​ที่​ใน​ข่าว​เรียก​ว่า Jacob Coxon" — ​ข้อ​นี้​กลับหัว​กลับ​หาง Jacob Coxon ​คือ​ชื่อ​ที่​ถูก ​ส่วน Jacob Hilton ​เป็น​คนละ​คน ​เป็น​นักวิจัย​จริง​ที่ Alignment Research Center ​และ​ไม่​เกี่ยวกับ​ข่าว​นี้ Gemini ​ไม่​ได้​แค่​สะกด​ผิด ​แต่​สร้างตัว​ตน​ปลอม​ขึ้น​มา​ให้​คน​คน​หนึ่ง

Gemini ​เขียน​อีก​ชื่อว่า Avan Hillbinger ​ชื่อจริง​คือ Evan Hubinger

​บทเรียน​ไม่​ใช่ "AI ​ผิดพลาด​ได้" ​ทุกคน​รู้อยู่​แล้ว ​บทเรียน​คือ ​บทสรุป​ที่​สะกด​ชื่อ​คน​ผิด ​คือ​บทสรุป​ที่​ไม่​ได้​อ่าน​ต้นฉบับ ​ชื่อ​คน​เป็น​สิ่ง​เดียว​ใน​ข่าว​ที่​คัดลอก​มาตรงๆ ​ได้​โดย​ไม่ต้อง​ตีความ ​ถ้า​ตรงนั้น​ยัง​พลาด ​ส่วน​ที่​ต้อง​ตีความ​ก็​ไม่​มีเหตุผล​ให้​เชื่อ ​นี่​คือ​เครื่องมือ​ตรวจสอบ​ที่​ใช้ได้​กับ​ทุก​บทสรุป​จาก AI ​ทุก​ตัว ​รวมทั้ง​เล่ม​นี้