3 · นิวรอนที่วาดบนกระดาษ
สิ่งที่ McCulloch กับ Pitts วาดขึ้นในปี 1943 เป็นภาพวาดของกฎ ไม่ใช่ภาพวาดของเซลล์
และนั่นคือทั้งเหตุผลที่มันใช้ได้ และเหตุผลที่มันเรียนรู้ไม่ได้อยู่สิบห้าปี
ย้อนไปดูโลกตอนนั้นก่อน ปี 1943 ยังไม่มีคอมพิวเตอร์แบบที่เราเข้าใจกัน สิ่งที่มีคือคำถามที่ค้างมานานว่าความคิดเกิดขึ้นได้อย่างไรในก้อนเนื้อ นักประสาทวิทยารู้แล้วว่าสมองประกอบด้วยเซลล์ที่เรียกว่านิวรอน รู้ว่ามันส่งสัญญาณไฟฟ้าหากัน แต่ระหว่าง "เซลล์ส่งไฟฟ้า" กับ "คนคิดเลขได้" มีช่องว่างที่ไม่มีใครข้าม
Warren McCulloch เป็นหมอกับนักประสาทวิทยา Walter Pitts เป็นเด็กหนุ่มที่ไม่เคยเรียนจบอะไรเลยและเก่งตรรกศาสตร์อย่างที่คนรอบตัวอธิบายไม่ถูก ทั้งสองเขียนบทความชื่อ A Logical Calculus of the Ideas Immanent in Nervous Activity ลงใน Bulletin of Mathematical Biophysics และสิ่งที่พวกเขาทำคือการลอกแบบที่บทที่แล้วพูดถึง
พวกเขาทิ้งเกือบทุกอย่างเกี่ยวกับเซลล์จริง
นิวรอนจริงมีสารเคมีสิบกว่าชนิด มีเยื่อหุ้มที่ปล่อยไอออนเข้าออก มีรูปร่างแตกแขนงที่ไม่ซ้ำกันสักเซลล์ มีจังหวะการยิงที่เข้ารหัสข้อมูลด้วยความถี่ มีเซลล์พี่เลี้ยงคอยดูแลรอบ ๆ ทั้งหมดนั้นคือชั้นที่พวกเขาไม่เอา
สิ่งที่เอามาคือประโยคเดียว: รับสัญญาณเข้ามาหลายทาง รวมกันได้ถึงเกณฑ์ก็ส่งต่อ ไม่ถึงก็เงียบ
เท่านั้นจริง ๆ เปิดหรือปิด หนึ่งหรือศูนย์ ไม่มีกลาง
และสิ่งที่พวกเขาพิสูจน์ต่อจากนั้นคือส่วนที่ทำให้บทความนี้ยังถูกอ้างถึงอยู่จนทุกวันนี้ — ถ้าเอาของง่าย ๆ แบบนั้นมาต่อกันเป็นโครงข่าย มันทำงานตรรกะได้ทุกอย่างที่คอมพิวเตอร์ทำได้ "และ" "หรือ" "ไม่" ต่อกันเป็นชั้น ๆ ได้ทั้งหมด ความคิดไม่ต้องการสารเคมีวิเศษอะไรเลย มันต้องการแค่ของที่ตัดสินใจเปิดปิดได้ ต่อกันเยอะ ๆ
นั่นคือการลอกที่ถูกชั้น เหมือนที่ Wright ลอกแรงยกไม่ใช่ขน
แต่มันมีปัญหาข้อหนึ่งที่ใหญ่มาก และใช้เวลาอีกสิบห้าปีกว่าจะมีคนแก้
โครงข่ายของ McCulloch กับ Pitts ไม่เรียนรู้ คนเป็นคนตั้งค่าว่าสัญญาณไหนสำคัญแค่ไหน ตั้งเกณฑ์ว่าเท่าไรถึงจะยิง ทุกอย่างถูกตั้งด้วยมือ มันเป็นวงจรที่ฉลาดแต่ตายตัว เหมือนนาฬิกา สวยงามและไม่เคยเปลี่ยนใจ
ของที่ขาดไปไม่ใช่จำนวนนิวรอน มันคือปุ่มปรับ
Donald Hebb นักจิตวิทยาชาวแคนาดา เขียนสิ่งที่กลายเป็นคำตอบไว้ในหนังสือ The Organization of Behavior ปี 1949 ข้อเสนอของเขาคือเวลาเซลล์สองตัวทำงานพร้อมกันบ่อย ๆ การเชื่อมต่อระหว่างมันจะแข็งแรงขึ้น เส้นทางที่ใช้บ่อยจะเด่นขึ้น เส้นทางที่ไม่ใช้จะจางไป — เหมือนทางเดินในสนามหญ้าที่ชัดขึ้นเพราะคนเดินซ้ำ
ตรงนี้ต้องพูดให้ชัดหนึ่งข้อ ประโยคติดหูที่ว่า "เซลล์ที่ยิงพร้อมกัน เชื่อมต่อกัน" ไม่ใช่คำที่ Hebb เขียน มันเป็นคำสรุปที่มีคนตั้งขึ้นทีหลังราวปี 1992 และมันสรุปกระชับกว่าที่เขาเขียนจริงพอสมควร
Frank Rosenblatt เอาความคิดของ Hebb มาใส่ในเครื่องจริงในปี 1958 เขาเรียกมันว่า perceptron และแต่ละเส้นเชื่อมมีตัวเลขกำกับอยู่ตัวหนึ่ง เรียกว่า weight หรือน้ำหนัก ถ้าน้ำหนักสูง สัญญาณจากเส้นนั้นสำคัญมาก ถ้าต่ำ สำคัญน้อย ถ้าติดลบ สัญญาณนั้นคัดค้าน
วิธีสอนมันตรงไปตรงมาจนน่าประหลาดใจ — ให้มันทาย ถ้าทายถูก ไม่ต้องทำอะไร ถ้าทายผิด ขยับน้ำหนักของเส้นที่พาไปผิดลงนิดหนึ่ง แล้วให้ทายใหม่ ทำแบบนี้ซ้ำหลายพันรอบ น้ำหนักจะค่อย ๆ เข้าที่เอง
Mark I Perceptron ที่ Cornell Aeronautical Laboratory ต่อกับกล้องความละเอียด 400 จุด และแยกรูปสามเหลี่ยมกับสี่เหลี่ยมได้โดยไม่มีใครบอกมันว่าสามเหลี่ยมหน้าตายังไง มันหาเองจากตัวอย่าง นี่คือครั้งแรกที่เครื่องจักรเรียนรู้จากข้อมูลแทนที่จะทำตามคำสั่ง
แล้วในปี 1969 Marvin Minsky กับ Seymour Papert ตีพิมพ์หนังสือชื่อ Perceptrons ซึ่งพิสูจน์ด้วยคณิตศาสตร์ว่า perceptron ชั้นเดียวทำโจทย์ข้อหนึ่งไม่ได้ และโจทย์ข้อนั้นเล็กมาก
มันคือ "อย่างใดอย่างหนึ่ง แต่ไม่ใช่ทั้งสอง" — XOR
อยู่ในสวิตช์ไฟหัวบันไดบ้านคุณ
หนังสือเล่มนั้นบอกด้วยว่าถ้าเอา perceptron มาซ้อนกันหลายชั้น ข้อจำกัดนี้จะหายไป ซึ่งเป็นความจริง แต่ตอนนั้นไม่มีใครรู้วิธีสอนของที่ซ้อนกันหลายชั้น เงินวิจัยหดหาย คนย้ายสาขา ช่วงนั้นถูกเรียกในภายหลังว่าฤดูหนาวของ AI ครั้งแรก
และสิ่งที่ขวางอยู่จริง ๆ ไม่ใช่ XOR มันคือคำถามที่บทต่อไปทั้งบทพูดถึง
ลองเอง: ไปที่บันไดบ้านหรือทางเดินที่มีสวิตช์ไฟสองตัว ตัวหนึ่งข้างบน ตัวหนึ่งข้างล่าง ลองสังเกตว่าไฟติดเมื่อไร — สวิตช์ทั้งสองตัวอยู่คนละท่ากัน ไฟติด อยู่ท่าเดียวกัน ไฟดับ ไม่มีสวิตช์ตัวไหนเป็น "ตัวเปิด" เลยสักตัว ความหมายของแต่ละตัวขึ้นกับอีกตัวเสมอ นั่นคือ XOR และนั่นคือเหตุผลที่กฎแบบ "ให้น้ำหนักสวิตช์แต่ละตัวแล้วบวกกัน" อธิบายมันไม่ได้ ไม่ว่าจะเลือกน้ำหนักเก่งแค่ไหน
บทนี้จะผิดเมื่อ: พบว่าคำว่า "cells that fire together wire together" ปรากฏในงานเขียนของ Hebb เอง หรือพบว่า Mark I Perceptron ถูกตั้งค่าน้ำหนักเริ่มต้นด้วยมือในลักษณะที่ทำให้การแยกรูปไม่ใช่การเรียนรู้จากตัวอย่างจริง
บทถัดไป · 5 / 1404 Whose Fault