‹

บทที่ 9 — จิตที่ปรับเทียบแล้ว

​บท​ที่ 9 — ​จิต​ที่​ปรับ​เทียบ​แล้ว

​คน​ที่​เหนือกว่า​โฮ​ล์มส์​จริง ๆ ​จะ​เป็นตัว​ละคร​ที่​ห่วย​แตก​ใน​นิยาย​สืบสวน ​พวกเขา​อ่าน​อนาคต​แม่น​กว่า​หน่วย​ข่าวกรอง ​วินิจฉัย​ดีกว่า​ผู้เชี่ยวชาญ​เก๋า​เกม ​แต่​ไม่​มี​ลีลา ​ไม่​ส่งมอบ​เสียง​ฟ้าผ่า ​พวกเขา​ไม่​แน่ใจ​อย่าง​เห็นได้ชัด ​แทบจะ​ออกตัว​ขอโทษ ​แก้ไข​ตลอด ​กั๊ก​ตลอด ​พึมพำ​เรื่อง​ความน่าจะเป็น​ตลอด ​พวกเขา​คือ​นัก​ให้เหตุผล​ที่​ไร้​ดราม่า​ที่สุด​เท่าที่​นึกออก ​และ​พวกเขา​ชนะ ​บท​ปิด​ของ​การชุบชีวิต​นี้​ว่าด้วย​เหตุผล​ที่​ความไร้​ดราม่า ​คือ ​วิธีการ ​ทำไม​ความถ่อมตน ​ใน​บรรดา​คุณธรรม​ไร้​สีสัน​ทั้งหมด ​จึง​กลายเป็น​พลัง​วิเศษ​ที่​ดอยล์​ควร​มอบให้​นักสืบ​ของ​เขา​แต่​ไม่​เคย​ให้

​สูตร​ที่​ทำ​ผู้เชี่ยวชาญ​ขายหน้า

​จุดเริ่ม​คือ​ปี 1954 ​กับ​หนังสือ​เล่ม​บาง​แต่​ทำลายล้าง​ของ​นักจิตวิทยา ​พอล ​มีล ​ชื่อ Clinical versus Statistical Prediction ​มีล​ถาม​คำถาม​ที่​ทำ​ทั้ง​วิชาชีพ​ขนลุก ​เวลา​จะ​พยากรณ์​อะไร​เกี่ยวกับ​คน ​ผู้ป่วย​คน​นี้​จะ​กำเริบ​ไหม ​นักโทษ​คน​นี้​จะ​ทำผิด​ซ้ำ​ไหม ​นักเรียน​คน​นี้​จะ​สำเร็จ​ไหม ​ใคร​ทำได้​ดีกว่า​กัน ​ผู้เชี่ยวชาญ​เก๋า​เกม​ที่​ชั่ง​ภาพรวม​อัน​รุ่มรวย​ด้วย​สัญชาตญาณ​ที่​ฝึก​มา ​หรือ​สูตร​สถิติ​หยาบ ๆ ​ที่​แค่​บวก​ตัวเลข​ไม่​กี่​ตัว

​สูตร​ชนะ ​ผล​นี้​ถูก​ทำซ้ำ​ตลอด​ครึ่ง​ศตวรรษ​ถัดมา​ใน​งานวิจัย​แล้ว​งานวิจัย​เล่า ​และ​ไม่​ใช่​ชนะ​นิดหน่อย ​กฎ​กลไก​ที่​มี​ตัวแปร​ถ่วง​น้ำหนัก​ไม่​กี่​ตัว ​แบบ​ที่​เขียน​ลง​การ์ด​ใบ​เดียว​ได้ ​เสมอ​หรือ​ชนะ​ผู้เชี่ยวชาญ​มนุษย์​ผู้​มั่นใจ​อย่าง​สม่ำเสมอ ​รวมถึง​ผู้เชี่ยวชาญ​ที่​ฝึก​มา​หลาย​ปี​และ​เข้าถึง​ข้อมูล​มากกว่า​มาก ​มีล​พบ​ว่า​ผล​นี้​ทนทาน​และ​ถูก​เมิน​สม่ำเสมอ​เสีย​จน​เขา​เรียก​มัน​อย่าง​อ่อนล้า​ว่า​เป็น​ข้อ​ค้นพบ​หนึ่งเดียว​ใน​จิตวิทยา​ทั้งมวล​ที่​หลักฐาน​เอียง​ข้าง​ที่สุด​และ​การต่อต้าน​ดุเดือด​ที่สุด ​ความได้เปรียบ​ของ​ผู้เชี่ยวชาญ ​ประสบการณ์​ทั้งหมด ​สัญชาตญาณ​ทั้งหมด ​ภาพรวม​ทั้ง​ก้อน ​ส่วนใหญ่​กลายเป็น ​ความรู้สึก ​ว่า​แม่น ​มากกว่า​ข้อเท็จจริง​ว่า​แม่น ​สูตร​ชนะ​เพราะ​มัน​ภูมิคุ้มกัน​ต่อ​อารมณ์ ​ต่อ​ความเหนื่อย​ล้า ​ต่อ​เคส​ดราม่า​ล่าสุด ​ต่อ​แรง​ดึง​ของ​เรื่องเล่า​เห็นภาพ​ชัด ​มัน​ใช้​น้ำหนัก​เดิม​ทุกครั้ง ​ความสม่ำเสมอ​น่าเบื่อ​ชนะ​ความยอดเยี่ยม​ที่​ไม่​สม่ำเสมอ

​ข้อ​นี้​พลิก​แฟนตาซี​โฮ​ล์มส์​ทั่วถึง​ทุก​จุด ​โฮ​ล์มส์ ​คือ ​ผู้เชี่ยวชาญ​คลินิก​ใน​เวอร์ชัน​โรแมนติก​ที่สุด ​ชาย​ผู้​กวาดตา​ทั้ง​ฉาก​ใน​พริบตา​แล้ว​ชี้ขาด ​การ์ด​ของ​มีล​คือ​ทุกอย่าง​ที่​โฮ​ล์มส์​ดูแคลน ​กลไก ​ไร้​จินตนาการ ​ลดทอน ​และ​การ์ด​แม่น​กว่า ​วิธี​คิด​ที่​เหมือน​โฮ​ล์มส์​ที่สุด​คือ​หนึ่ง​ใน​วิธี​ที่เชื่อถือได้​น้อยที่สุด ​วัด​ได้ ​ยา​แก้​คือ​ความถ่อมตน​แบบ​สูตร​น่าเบื่อ​เป๊ะ ๆ ​ที่​ไม่​มี​ใคร​เขียน​นิยาย​ผจญภัย​ถึง

​ลิง​ชิมแปนซี​กับ​ใบ​ให้คะแนน

​ใน​ยุค​เรา ​นัก​รัฐศาสตร์ ​ฟิลิป เท็ต​ล็อก ​ทำ​กับ ​นักวิเคราะห์​การเมือง ​แบบ​ที่​มีล​ทำ​กับ​แพทย์​คลินิก ​ตลอด​สอง​ทศวรรษ เท็ต​ล็อก​เก็บ​คำพยากรณ์​รูปธรรม​นับ​หมื่น​จาก​ผู้เชี่ยวชาญ​หลาย​ร้อย​คน ​บรรดา​หัว​พูด​มั่นใจ​ที่​บอก​เรา​ว่า​จะ​เกิด​อะไร​ใน​โลก ​แล้ว​ทำ​สิ่ง​เดียว​ที่​ไม่​มี​ใคร​เคย​ทำ​กับ​นักวิเคราะห์ ​เขา ​นับ​แต้ม ​เขา​รอ​ดู​ว่า​ใคร​ถูก

​ผล​ตีพิมพ์​ปี 2005 ​และ​เป็น​ฝักบัว​น้ำเย็น​ที่​สะดุ้ง​ที่สุด​ใน​สังคมศาสตร์ ​ผู้เชี่ยวชาญ​โดยเฉลี่ย​พยากรณ์​อนาคต​ได้ดี​พอ ๆ ​กับ ​ใน​วลี​จิก​กัด​อัน​โด่งดัง​ของเท็ต​ล็อก "​ลิง​ชิมแปนซี​ปา​ลูกดอก" ​แย่​กว่า​นั้น ​ผู้เชี่ยวชาญ​ที่​ชื่อเสียง​โด่งดัง​ที่สุด ​ออก​ทีวี​บ่อย​ที่สุด ​ท่าที​มั่นใจ​ที่สุด ​กลับ ​แม่น​น้อยกว่า ​เพื่อนร่วมงาน​ที่​ไม่​มี​ใคร​รู้จัก ​ชื่อเสียง​และ​ความมั่นใจ​สัมพันธ์ ​ทาง​ลบ ​กับ​การถูก ​ตลาด​ให้รางวัล​ลักษณะ​ที่​ผิด​พอดี ​นักวิเคราะห์​แบบ​โฮ​ล์มส์ ​ยั่วยวน​และ​มั่นใจ ​เป็น​ไกด์​สู่​ความจริง​ที่​แย่​กว่า​คน​กั๊ก​ที่​ไม่​มี​ใคร​เชิญ​ออกอากาศ ​ขอ​ความแฟร์​หนึ่ง​ข้อ ​วลี "​ลิง​ชิมแปนซี" ​คือ​การถอดความ​ที่​จำ​ง่าย​ของ​ข้อ​ค้นพบ​ของเท็ต​ล็อก​เอง ​ไม่​ใช่​การทดลอง​จริง ​ข้อ​ค้นพบ​ใต้​มุก​นั้น​หนักแน่น​และ​ยืนยง

เท็ต​ล็อก​ไม่​หยุด​ที่​การรื้อ​ถอน ​และ​ตรงนี้​การชุบชีวิต​เสร็จ​สมบูรณ์ ​ใน​ทัวร์นาเมนต์​พยากรณ์​ขนาด​มหึมา​ที่​จัด​ให้​ชุมชน​ข่าวกรอง​สหรัฐฯ ​เขา​กับ​เพื่อนร่วมงาน​ออก​ตามหา​คน​ที่​พยากรณ์​เหตุการณ์​โลก​ได้​จริง ​และ​พวกเขา​เจอ ​อาสาสมัคร​ธรรมดา​กลุ่ม​หนึ่ง ​ซึ่ง​โครงการ​ตั้งชื่อ​ว่า ​ซูเปอร์​ฟอร์​แค​สเตอร์ (superforecasters) ​พยากรณ์​เหตุการณ์​ภูมิรัฐศาสตร์​ได้ดี​จน​มี​รายงาน​ว่า​เอาชนะ​นักวิเคราะห์​ข่าวกรอง​มืออาชีพ​ที่​เข้าถึง​ข้อมูล​ลับ ​คนธรรมดา ​คน​ขาย​อุปกรณ์​ประปา​ที่​เกษียณ​แล้ว ​เภสัชกร ​ครู​สอน​เต้น ​เอาชนะ​นักวิเคราะห์​ของ CIA ​เอง ​บน​ข้อมูล​เปิด ​จาก​โต๊ะ​ครัว​ที่​บ้าน ​ชนะ​มืออาชีพ​ไป​เท่าไร​ยัง​เถียง​กัน​อยู่ ​และ​ผม​จะ​ไม่​ขาย​เวอร์ชัน​ที่​สั่นคลอน​ที่สุด​ของ​ตัวเลข​ให้​คุณ ​ว่า​พวกเขา​ชนะ ​ไม่​มี​ใคร​เถียง​จริงจัง

​ซูเปอร์​ฟอร์​แค​สเตอร์​ทำ​อะไร​จริง ๆ

​นี่​คือ​หมัดฮุก​ที่​ทั้ง​เล่ม​เดิน​มุ่ง​มาหา ​และ​มัน​แทบ​เป็นการ​ดูหมิ่น​เชอร์​ล็อก ​โฮ​ล์มส์ ​ซูเปอร์​ฟอร์​แค​สเตอร์​ไม่​มีพรสวรรค์​พิเศษ ​ไอ​คิว​ของ​พวกเขา​เหนือ​ค่าเฉลี่ย​แต่​ไม่​โดดเด่น ​ไม่​มี​ข้อมูล​ลับ ​ไม่​มี​สัญชาตญาณ​วาบ ​ไม่​มี​อัจฉริยะ ​สิ่ง​ที่​พวกเขา​มี​คือ ​วิธีการ ​และ​วิธีการ​นั้น​ตรงข้าม​จุดต่อ​จุด​กับ​ทุกอย่าง​ที่​โฮ​ล์มส์​ทำ

​พวกเขา​เริ่ม​ที่ ​อัตรา​พื้นฐาน ​สถิติ​มุมมอง​ภายนอก​น่าเบื่อ​ที่​โฮ​ล์มส์​ข้าม​เสมอ ​ก่อน​ถาม​อะไร​เจาะจง​เกี่ยวกับ​สถานการณ์ ​พวกเขา​ถาม​ว่า​เรื่อง​แบบนี้​เกิด​บ่อย​แค่​ไหน​โดยทั่วไป ​แล้ว​ปักหลัก​ตรงนั้น ​พวกเขา​แตก​คำถาม​ใหญ่​เป็น​ชิ้น​เล็ก​ที่​ตอบ​ได้ ​พวกเขา​กำหนด ​ความน่าจะเป็น​แบบ​ละเอียด ​ไม่​ใช่ "​น่าจะ" ​หรือ "​เป็นไปไม่ได้" ​แต่​หกสิบ​สอง​เปอร์เซ็นต์ ​เจ็ดสิบ​แปด​เปอร์เซ็นต์ ​แล้ว​ข้อสำคัญ​คือ ​ขยับตัว​เลข​พวก​นั้น​ทีละ​นิด​เมื่อ​หลักฐาน​ใหม่​หยด​เข้ามา ​แบบ​ที่เบ​ส์​กำหนด ​ขึ้น​นิด ​ลง​หน่อย ​ไม่​เคย​กระโดด​แบบ​โฮ​ล์มส์​จาก​ความไม่รู้​สู่​ความแน่นอน ​พวกเขา​ทำงาน​เป็น ​ทีม ​ตามล่า​เพื่อน​ร่วม​ทีม​ที่จะ​บอก​ว่า​พวกเขา​คิดผิด​อย่าง​จริงจัง ​นั่น​คือ​การเพาะปลูก​หลักฐาน​หักล้าง​ที่​บท​ที่ 4 ​แสดงว่า​จิต​เรา​หนี​โดยสัญชาตญาณ ​เหนืออื่นใด ​พวกเขา​มี​สิ่ง​ที่เท็ต​ล็อก​เรียก "​เบตา​ถาวร (perpetual beta)" ​ความเต็มใจ​ไม่​หยุดนิ่ง​ที่จะ​แก้ไข ​ปฏิบัติ​ต่อ​ทุก​ความเชื่อ​เป็น​ฉบับร่าง ​เป็น​คน​ที่​ยัง​ไม่​เสร็จ​อย่าง​ถาวร​และ​สบายใจ เท็ต​ล็อก​พบ​ว่า​ลักษณะ​นี้ ​พันธะ​ต่อ​การ ​อัปเดต ​ทำนาย​ทักษะ​พยากรณ์​ได้​ทรงพลัง​ราว​สาม​เท่า​ของ​สติปัญญา​ดิบ

​ซูเปอร์​ฟอร์​แค​สเตอร์​คน​หนึ่ง​ถูก​บรรยาย​ว่า​เป็น "​นักเบ​ส์​ที่​ไม่​ใช้​ทฤษฎีบทเบ​ส์" ​ชาย​ผู้​ซึมซับ ​จิตวิญญาณ ​ของ​เครื่องยนต์​ซื่อสัตย์ ​การจัด​สัดส่วน​ความเชื่อ​ต่อ​หลักฐาน​อย่าง​ต่อเนื่อง ​จน​ไม่ต้อง​ใช้​สมการ​อีก ​นั่น​คือ​ศาสตร์​ของ​การอนุมาน​ตัวจริง ​สิ่ง​ที่​โฮ​ล์มส์​เป็นได้​แค่​ข่าวลือ​ของ​มัน ​ไม่​ใช่​อัจฉริยะ​เย็นชา​ที่ประกาศ​ความแน่นอน ​แต่​เป็น​มือสมัครเล่น​ถ่อมตน​ที่​พึมพำ​ความน่าจะเป็น​และ​เปลี่ยนใจ​อย่าง​ร่าเริง ​และ​นับ​แต้ม ​เพื่อให้​ความแม่นยำ ​วัด​ได้ ​เป็นครั้งแรก ​แทนที่จะ​แค่​ถูก​ชื่นชม

​การวัด​คือ​การหักออก​จากเบ​เกอร์สต​รีท​ขั้น​เด็ดขาด​สุดท้าย ​ซูเปอร์​ฟอร์​แค​สเตอร์​อยู่​และ​ตาย​ด้วย ​คะแนนไบร​เออร์ (Brier score) ​บัญชี​วิ่ง​ว่าความ​น่าจะเป็น​ที่​พวกเขา​ระบุ​ตรง​กับ​ความจริง​ดี​แค่​ไหน ​มัน​ลงโทษ​ทั้งคน​ขี้ข​ลาด​ที่​กั๊ก​ทุกอย่าง​ไว้​ที่​ห้าสิบ​เปอร์เซ็นต์​และ​คนโง่​ที่​พูด​เก้า​สิบ​แล้ว​ผิด ​ทุก​การพยากรณ์​คือ​เช็ค​ที่​ความจริง​มา​ขึ้น​เงิน​ในที่สุด ​โฮ​ล์มส์​ใน​หกสิบ​เรื่อง​ไม่​เคย​โชว์​อัตรา​ความผิดพลาด​สักครั้ง ​เพราะ​คนเขียน​จัด​ให้​มัน​เป็น​ศูนย์ ​ความถ่อมตน​ของ​ซูเปอร์​ฟอร์​แค​สเตอร์​ไม่​ใช่​ความเจียมตัว​เพื่อ​ความเจียมตัว ​มัน​คือ​ความรู้​ส่วนตัว​โดยตรง​ว่า​ตัวเอง​ผิด​บ่อย​แค่​ไหน ​ความรู้​เกี่ยวกับ​ตัวเอง​ชิ้น​เดียว​ที่​โฮ​ล์มส์​ถูก​ห้าม​โดยธรรมชาติ ​และ​เป็น​ชิ้น​ที่​ทำให้​การอนุมาน​จริง​เชื่อถือได้

​ขนาดที่​ซื่อสัตย์​ของ​ปาฏิหาริย์

​ผม​จะ​ไม่​ก่อ​บาป​หลัก​ของ​หนังสือ​เล่ม​นี้​เอง​ด้วย​การขาย​ฮีโร่​พวก​นี้​เกิน​จริง ​ซูเปอร์​ฟอร์​แค​สเตอร์​เชื่อถือได้ ​โดยรวม ​ตลอด​คำถาม​หลาย​ร้อย​ข้อ ​ไม่​ใช่​ผู้​หยั่งรู้​ใน​ข้อ​ใด​ข้อ​หนึ่ง ​ใน​คำถาม​หนึ่ง ๆ ​กลุ่ม​สุ่ม​อาจ​ชนะ​พวกเขา ​ความได้เปรียบ​ของ​พวกเขา​เป็นจริง​แต่​เป็น​เชิง​สถิติ ​เป็นเรื่อง​ของ​การถูก​บ่อย​กว่า​ใน​ระยะยาว ​ไม่​ใช่​การไม่​เคย​ผิด ​ข้อแม้​นั้น​ไม่​ใช่​จุดอ่อน​ของ​วิธีการ ​มัน ​คือ ​วิธีการ ​ซูเปอร์​ฟอร์​แค​สเตอร์​รู้เรื่อง​นี้​เกี่ยวกับ​ตัวเอง​เป๊ะ ​รู้​ขนาด​และ​ขีดจำกัด​ความเชื่อถือได้​ของ​ตัวเอง ​และ​การรู้จัก​ตัวเอง​นั้น​คือ​ความต่าง​ทั้งหมด​ระหว่าง​ศาสตร์​กับ​พิธี​ทรง​เจ้า ​โฮ​ล์มส์​เสนอ​ความแน่นอน​ให้​คุณ​และ​บอก​ไม่​ได้​ว่า​มัน​พลาด​บ่อย​แค่​ไหน ​ซูเปอร์​ฟอร์​แค​สเตอร์​เสนอ​ความน่าจะเป็น​ที่​ปรับ​เทียบ​แล้ว​และ​บอก​คุณ​ได้​ถึง​ทศนิยม​ว่า​ควร​เชื่อ​มัน​แค่​ไหน ​อัน​หนึ่ง​คือ​กล ​อีก​อัน​คือ​วิทยาศาสตร์ ​มี​แค่​อัน​เดียว​ที่​ปลอดภัย​พอ​จะ​สร้าง​ห้อง​พิจารณาคดี ​โรงพยาบาล ​หรือ​ชีวิต​ขึ้น​รอบ​มัน

​การชุบชีวิต​เสร็จ​สมบูรณ์ ​เรา​มี​เครื่องยนต์ (เบ​ส์) ​มี​การอ่าน​ร่องรอย (​นิติวิทยาศาสตร์​ที่​นับ​ความผิดพลาด​ของ​ตัวเอง) ​มี​การอ่าน​คน​ที่แท้​จริง (​แพตเทิร์น​ของ​เขา ​ไม่​ใช่​ใบหน้า) ​มี​เครื่องจักร​ที่​ทำ​ทั้งหมด​เป็น​อุตสาหกรรม ​และ​มีระเบียบ​วินัย​มนุษย์ ​ความถ่อมตน​ที่​ปรับ​เทียบ​แล้ว ​ที่​ทำให้​ทุกอย่าง​ซื่อสัตย์ ​ที่​เหลือ​คือ​คำถาม​ที่​ปฏิบัติ​ได้​จริง​ที่สุด​และ​ส่วนตัว​ที่สุด ​เมื่อ​รู้​ทั้งหมด​นี้​แล้ว ​คุณ ​ควร​คิด​อย่างไร ​คนธรรมดา​ที่​มี​สมอง​ขี้​ตกใจ​เมา​แพตเทิร์น​ธรรมดา ​เรียน​สิ่ง​นี้​ได้​ไหม ​ไม่​ใช่​เป็น​เชอร์​ล็อก ​โฮ​ล์มส์ ​แต่​เป็น​อะไร​ที่​หา​ยาก​และ​มีประโยชน์​กว่า ​นักสืบ​ซื่อสัตย์​แห่ง​ชีวิต​ตัวเอง ​นั่น​คือ​ภาค​สาม


บทถัดไป · 40 / 49ภาคสาม — การลงมือ
Size
Page
Font

The Science of Deduction — What Sherlock Holmes Faked, and How Science Is Finally Building It for Real

❦
1THE SCIENCE OF DEDUCTION2How to Read This Book3PART I — THE AUTOPSY4Overture: The Man Who Was Never Wrong5[ANNOTATED OUTLINE — chapters draft into the sections below]6Chapter 1 — "Deduction" Is a Lie7Chapter 2 — The Rigged Universe8Chapter 3 — The Cheap Séance9Chapter 4 — The Brain That Wants to Believe10PART II — THE RESURRECTION11Chapter 5 — The Engine He Lacked12Chapter 6 — Reading Real Traces13Chapter 7 — The Tell Is Real — Just Not Where You Look14Chapter 8 — Machine Abduction15Chapter 9 — The Calibrated Mind16PART III — THE PRACTICE17Chapter 10 — A Real Method18Chapter 11 — The Ethics of the Reading Eye19Chapter 12 — The Resurrection Complete20Epilogue — The Game, For Real21Appendices22Appendix A — Bayes in One Page23Appendix B — A Bestiary of Biases24Appendix C — The Junk-Science Watchlist25Appendix D — Further Reading26ศาสตร์ของการอนุมาน27วิธีอ่านหนังสือเล่มนี้28ภาคหนึ่ง — การชันสูตร29บทเปิด: ชายผู้ไม่เคยผิด30บทที่ 1 — "การนิรนัย" คือคำโกหก31บทที่ 2 — จักรวาลที่ถูกล็อกผล32บทที่ 3 — พิธีทรงเจ้าราคาถูก33บทที่ 4 — สมองที่อยากจะเชื่อ34ภาคสอง — การชุบชีวิต35บทที่ 5 — เครื่องยนต์ที่เขาไม่มี36บทที่ 6 — อ่านร่องรอยของจริง37บทที่ 7 — ตัวส่อมีจริง แค่ไม่ได้อยู่ตรงที่คุณมอง38บทที่ 8 — เครื่องจักรลักพา39บทที่ 9 — จิตที่ปรับเทียบแล้ว40ภาคสาม — การลงมือ41บทที่ 10 — วิธีจริง42บทที่ 11 — จริยธรรมของดวงตาที่อ่านคน43บทที่ 12 — การชุบชีวิตเสร็จสมบูรณ์44บทส่งท้าย — เกม ของจริง45ภาคผนวก46ภาคผนวก ก — เบส์ในหน้าเดียว47ภาคผนวก ข — สารบบสัตว์ร้ายแห่งอคติ48ภาคผนวก ค — บัญชีเฝ้าระวังวิทยาศาสตร์เก๊49ภาคผนวก ง — อ่านต่อ