บทที่ 8 — เครื่องจักรลักพา
ตอนนี้มีเชอร์ล็อก โฮล์มส์ สำหรับมนุษย์ทุกคนที่ยังมีชีวิต มันไม่เคยหลับ และมันทำงานให้ใครก็ตามที่จ่ายเงิน
มันไม่ได้อยู่ที่ 221B เบเกอร์สตรีท มันอยู่ในฟาร์มเซิร์ฟเวอร์ และมันทำท่าไม้ตายของโฮล์มส์เป๊ะ เบาะแสเข้า คำอธิบายที่ดีที่สุดออก พันล้านครั้งต่อวินาที ในสเกลที่คงทำเอาหัวใจเย็นเยียบของยอดนักสืบวูบไป มันอ่านร่องรอยของคุณแล้วเดาความลับ: คุณจะซื้ออะไร คุณจะจ่ายคืนเงินกู้ไหม ก้อนเนื้อร้ายหรือไม่ คุณกำลังจะก่ออาชญากรรมหรือเปล่า การเรียนรู้ของเครื่อง (machine learning) เมื่อลอกคณิตศาสตร์ออก คือ การลักพาระดับอุตสาหกรรม การอนุมานไปสู่คำอธิบายที่ดีที่สุด ที่ถูกทำให้เป็นเครื่องจักรและผลิตจำนวนมาก และเพราะมันคือการจุติที่บริสุทธิ์ที่สุดของวิธีโฮล์มส์เท่าที่เคยสร้างมา มันจึงจุติจุดบกพร่องถึงตายของโฮล์มส์ด้วยความซื่อสัตย์ครบถ้วน: มันมั่นใจอย่างสง่างามและอย่างหายนะ และมันไม่มีคนเขียนคอยกันไม่ให้มันผิด
วิธีการ ที่ถูกทำเป็นเครื่องจักร
ทวนรูปของการลักพาจากบทที่ 1: การสังเกตน่าประหลาด แล้วกระโดดไปสู่สมมติฐานที่อธิบายมันได้ดีที่สุด ทีนี้ดูว่าระบบการเรียนรู้ของเครื่องทำงานยังไง มันถูกโชว์กองตัวอย่างมหาศาล ภาพติดป้าย "เนื้องอก" หรือ "ไม่ใช่เนื้องอก" ผู้กู้ติดป้าย "จ่ายคืน" หรือ "เบี้ยว" แล้วมันเรียนรู้แพตเทิร์นที่อธิบายป้ายพวกนั้นได้ดีที่สุด พอถูกโชว์เคสใหม่ มันกระโดดไปสู่คำอธิบายที่น่าจะเป็นที่สุด: เงานี้อธิบายได้ดีที่สุดด้วยเนื้องอก; ผู้สมัครคนนี้อธิบายได้ดีที่สุดด้วย "จะเบี้ยว" นั่นไม่ใช่คำอุปมาของการลักพา มันคือการลักพา ที่ประหารด้วยเลขคณิต เบาะแสเข้า คำอธิบายที่ดีที่สุดออก
กลไกเชิงลึกใช้ชื่อของบาทหลวงจากบทที่ 5 ด้วยซ้ำ นักวิทยาการคอมพิวเตอร์ จูเดีย เพิร์ล สร้าง AI สมัยใหม่ส่วนใหญ่บน โครงข่ายแบบเบส์ (Bayesian networks) ใยความน่าจะเป็นที่อัปเดตความเชื่อข้ามเบาะแสหลายชิ้นตามที่ทฤษฎีบทเบส์กำหนดเป๊ะ เครื่องยนต์ซื่อสัตย์ที่รันในสเกลอุตสาหกรรม ระบบวินิจฉัยโรคที่ให้เหตุผลจากอาการสู่โรค กำลังทำสิ่งที่โฮล์มส์เพียงแสดงใบ้เหนือศพ อย่างเป็นทางการและถูกต้อง เป็นครั้งแรกในประวัติศาสตร์ การให้เหตุผลของยอดนักสืบมีอยู่ในฐานะสิ่งที่จริง ตรวจสอบได้ สร้างได้ ความฝันเป็นจริง คุณดาวน์โหลดมันได้
ตรงนี้ พอดีตอนที่คุณพร้อมจะฉลอง คือที่ที่เครื่องจักรเผยว่ามันสืบทอดไม่ใช่แค่อัจฉริยภาพของโฮล์มส์แต่รวมถึงโรคของเขา และสืบทอดมาในรูปที่อันตรายกว่าเรื่องสั้นยุควิกตอเรียมาก ความผิดพลาดของเครื่องจักรมาพร้อมกุญแจมือ
พยากรณ์ที่ฟอกอคติให้ขาว
คำเตือนที่คมที่สุดมาจากเพิร์ลเอง เขายืนกรานข้อแยกที่เครื่องส่วนใหญ่ทำไม่ได้ นั่นคือความต่างระหว่าง สหสัมพันธ์ (correlation) กับ เหตุภาพ (causation) ระบบการเรียนรู้ของเครื่องเห็นสองสิ่งเกิดคู่กันแล้วกระโดดไปหาคำอธิบาย แต่มันบอกเองไม่ได้ว่า A ทำให้เกิด B, B ทำให้เกิด A หรือทั้งคู่เกิดจาก C ที่ซ่อนอยู่ มันอ่านเงาบนกำแพงโดยไม่รู้ว่านั่นคือเงา ผลคือมันทำซ้ำทุกอคติที่ถักอยู่ในโลกที่ผลิตข้อมูลให้มันอย่างซื่อสัตย์ แล้วยื่นอคตินั้นคืนมาในชุดกาวน์ขาวของคณิตศาสตร์ ฟอกจนดูเป็นภววิสัย "ขยะเข้า ขยะออก" คือวลีเก่าของโปรแกรมเมอร์ เวอร์ชันสมัยใหม่โหดกว่านั้น เพราะขยะออกมาแบบ ขัดเงาแล้ว มีคะแนนความน่าจะเป็นติดมา เถียงด้วยยาก และจิตเราถูกจูนไว้แล้วให้เชื่อตัวเลขมั่นใจของเครื่องเหนือความสงสัยของตัวเอง ปรากฏการณ์นี้มีชื่อว่า อคติเชื่อระบบอัตโนมัติ (automation bias)
สนามที่มันเกิดคือสนามเดิมพันสูงที่สุดที่มี ห้องพิจารณาคดีทั่วอเมริกาใช้อัลกอริทึมให้คะแนนจำเลยว่ามีแนวโน้มก่ออาชญากรรมซ้ำแค่ไหน และผู้พิพากษาปรึกษาคะแนนนั้นตอนตัดสินประกันตัวและกำหนดโทษ เครื่องมือหนึ่งชื่อ COMPAS ปี 2016 สำนักข่าวสืบสวน ProPublica วิเคราะห์ผลของมันแล้วรายงานว่ามันเหยียดเชื้อชาติ ในบรรดาจำเลยที่ ไม่ ได้ก่อซ้ำ จำเลยผิวดำถูกตีธงว่าเสี่ยงสูงผิด ๆ มากกว่าจำเลยผิวขาวมาก สัญญาณเตือนปลอมของเครื่องตกใส่เชื้อชาติหนึ่งเกินสัดส่วน บริษัทผู้สร้าง COMPAS ยิงกลับด้วยสถิติของตัวเอง คะแนนถูก ปรับเทียบ (calibrated) เท่ากันข้ามเชื้อชาติ คะแนนหนึ่งแปลว่าอัตราก่อซ้ำจริงเท่ากันไม่ว่าจำเลยผิวดำหรือขาว ตามมาตรวัดนั้น เครื่องมือยุติธรรม
ทั้งคู่ถูก และนั่นคือส่วนที่พลิกข่าวให้กลายเป็นบางอย่างใกล้โศกนาฏกรรมทางคณิตศาสตร์ นักวิทยาการคอมพิวเตอร์สามคนพิสูจน์ในไม่ช้าว่า ทำไม ทั้งคู่จึงถูก และทำไมข้อโต้แย้งจึงไม่มีวันยุติ ยกเว้นในกรณีพิเศษ เป็นไปไม่ได้ทางคณิตศาสตร์ที่ระบบพยากรณ์จะสนองความยุติธรรมสองแบบพร้อมกัน เมื่ออัตราพื้นฐานต่างกัน คุณจะมีอัตราเตือนปลอมเท่ากันข้ามกลุ่ม และ การปรับเทียบเท่ากันข้ามกลุ่มพร้อมกันไม่ได้ เกณฑ์ความยุติธรรมไม่ได้แค่ประนีประนอมยาก มันขัดกันเองอย่างพิสูจน์ได้ ไม่มีอัลกอริทึมใด ฉลาดแค่ไหนก็ตาม ที่ "ยุติธรรม" ในทุกแบบที่เราเรียกร้องโดยสัญชาตญาณ เพราะข้อเรียกร้องพวกนั้นขัดกันเอง ความฝันของโฮล์มส์เรื่องเครื่องจักรเหตุผลที่เป็นภววิสัยสมบูรณ์จึงเกยตื้น ไม่ใช่ที่วิศวกรรมห่วย แต่ที่ทฤษฎีบท เครื่องเป็นกลางไม่ได้ เพราะความเป็นกลางเมื่อนิยามอย่างเคร่งครัดไม่มีอยู่จริง ต้องมีใครสักคนเลือกว่าจะสละความยุติธรรมแบบไหน และคนคนนั้นกำลังตัดสินใจเชิงศีลธรรมขณะแสร้งว่ากำลังตัดสินใจเชิงเทคนิค
แปดสิบคนในคูน้ำมีชื่ออีกครั้ง
เมื่อเครื่องผิดโต้ง ๆ ไม่ใช่ลำเอียงแบบแนบเนียน ผลกรรมก็เลิกเป็นเชิงอรรถ เช้าวันหนึ่งเดือนมกราคม 2020 ตำรวจไปถึงบ้านชายชื่อ โรเบิร์ต วิลเลียมส์ แล้วจับเขาต่อหน้าภรรยาและลูกสาวเล็กสองคน ฐานลักทรัพย์ที่เขาไม่ได้ทำ ระบบจดจำใบหน้าจับคู่รูปใบขับขี่ของเขากับภาพวงจรปิดหยาบ ๆ ของหัวขโมยตัวจริง การเดาของอัลกอริทึม การลักพามั่นใจของเครื่อง ถูกปฏิบัติราวกับข้อเท็จจริง วิลเลียมส์ซึ่งเป็นคนผิวดำใช้เวลาราวสามสิบชั่วโมงในห้องขัง ก่อนที่สิ่งชัดเจนจะปฏิเสธไม่ได้อีก เขาหน้าไม่เหมือนชายในภาพเลย เชื่อกันว่านี่คือกรณีจับผิดตัวจากการจับคู่ใบหน้าครั้งแรกที่มีบันทึกในสหรัฐฯ และไม่ใช่ครั้งสุดท้าย อีกหลายคน ส่วนใหญ่ท่วมท้นเป็นคนอเมริกันผิวดำ ถูกจับผิดตัวตั้งแต่นั้นด้วยคำบอกของเทคโนโลยีประเภทเดียวกัน งานวิจัยแล้วงานวิจัยเล่าแสดงว่าเทคโนโลยีนี้แม่นยำน้อยลงชัดเจนกับใบหน้าผิวเข้ม
ลานจอดรถนั้นคือทั้งเล่มบีบอัดลงในฉากเดียว ระบบทำการอนุมานแบบโฮล์มส์ ใบหน้านี้อธิบายได้ดีที่สุดว่าเป็นใบหน้านั้น แล้วส่งมอบด้วยความมั่นใจแบนราบแบบที่โฮล์มส์มีเสมอ แต่ไม่มีอาเธอร์ โคนัน ดอยล์ ยืนอยู่หลังเครื่องคอยรับประกันว่าเดาถูก มีแต่ชายในกุญแจมือต่อหน้าลูกสาว นี่คือความสยองที่ภาคหนึ่งสัญญาไว้เป๊ะ การลักพาคือการกระโดดที่ให้ผลแต่ไม่ปลอดภัย ทำให้การกระโดดเป็นอุตสาหกรรมโดยไม่ทำให้ความถ่อมตนเป็นอุตสาหกรรมด้วย สร้างความมั่นใจของเชอร์ล็อก โฮล์มส์ แต่ไม่สร้างเสียงกระซิบซื่อสัตย์คำเดียวของเขาว่า "นอร์เบอรี" แล้วคุณจะได้เครื่องจักรที่จับคนบริสุทธิ์ในสเกลอุตสาหกรรม และออกใบความผิดพลาดแต่ละครั้งพร้อมคะแนนความน่าจะเป็นแนบมา
คำวินิจฉัยต่อนักสืบกลไก
เครื่องจักรไม่ใช่ตัวร้ายของบทนี้ และไม่ใช่พระเอก มันคือกระจก มันแสดงว่าวิธีของโฮล์มส์สร้างได้จริง การอนุมานไปสู่คำอธิบายที่ดีที่สุด เมื่อรันบนข้อมูลมากพอด้วยเลขคณิตมากพอ คือหนึ่งในพลังทรงอานุภาพที่สุดที่เคยประกอบขึ้น มันรักษาโรค จับฆาตกร อ่านร่องรอยของโลกในสเกลที่โลการ์ดฝันไม่ถึง ในการเคลื่อนไหวเดียวกัน มันแสดงว่าวิธีนี้เมื่อหย่าจากความถ่อมตนสืบทอดทุกจุดบกพร่องของภาคหนึ่งแล้วขยายสู่สเกลอุตสาหกรรม ตาบอดอัตราพื้นฐาน ยืนยันอคติที่มีอยู่ ความมั่นใจยั่วยวนที่วิ่งแซงความแม่นยำ เครื่องจักรคือเชอร์ล็อก โฮล์มส์ ที่ปุ่มความมั่นใจถูกเชื่อมติดไว้ที่สุดและคนเขียนถูกถอดออก สร้างขึ้นมาได้ก็น่าตื่นเต้น และเมื่อขาดส่วนผสมที่หายไป มันก็อันตราย
ส่วนผสมที่หายไปไม่ใช่ข้อมูลมากขึ้นหรือชิปเร็วขึ้น มันคือสิ่งที่ทุกบทของการชุบชีวิตวนเวียนอยู่รอบ ๆ ความถ่อมตนที่ปรับเทียบแล้ว ระเบียบวินัยของการรู้เป๊ะว่าตัวเองถูกบ่อยแค่ไหน พูดออกมา และกำข้อสรุปด้วยแรงที่ได้สัดส่วนกับหลักฐาน ไม่ใช่กับความมั่นใจ มนุษย์บางคนสร้างระเบียบวินัยนี้ขึ้นมาเป๊ะ ๆ โดยไม่มีเครื่องจักรเลย และเอาชนะทั้งอัลกอริทึมและอัจฉริยะอย่างเงียบ ๆ พวกเขาคือทายาทแท้จริงของศาสตร์ที่โฮล์มส์เพียงฝันถึง และเป็นคนที่เหมือนโฮล์มส์น้อยที่สุดเท่าที่คุณจะได้พบ เราไปหาพวกเขาตอนนี้
บทถัดไป · 39 / 49บทที่ 9 — จิตที่ปรับเทียบแล้ว