บทสรุปในหกบรรทัด
ส่วนเผื่อทางวิศวกรรมทำงานได้เพราะสิ่งที่มันกันไม่มีเจตนา แรงลม ความล้าของโลหะ และคลื่นสึนามิ ไม่ได้อ่านแบบก่อสร้างแล้วเลือกจุดที่อ่อนที่สุด
ความมั่นคงปลอดภัยจึงไม่ใช่ความปลอดภัยที่ตัวเลขสูงขึ้น มันเป็นวิชาคนละวิชา เพราะฝ่ายตรงข้ามอ่าน เรียนรู้ และย้ายไปหาสิ่งที่ยังไม่ได้เผื่อ
ที่ส่วนเผื่อพังในโลกที่ไม่มีศัตรู มันพังเพราะถูกคำนวณบนแกนที่ผิด สะพานที่รับแรงลมได้ถูกบิด เครื่องบินที่รับแรงดันได้ถูกล้า และเตาปฏิกรณ์ที่ผ่านการทดสอบถูกทำลายด้วยการทดสอบนั้นเอง
ที่มันพังในโลกที่มีศัตรู มันพังเพราะความลับถูกเข้าใจผิดว่าเป็นความแข็งแรง ตั้งแต่กุญแจปี 1851 ถึงห่วงโซ่อุปทานซอฟต์แวร์ปี 2024 รูปแบบเดียวกันซ้ำอยู่ — ระบบที่ปลอดภัยเฉพาะตอนที่ไม่มีใครรู้ว่ามันทำงานอย่างไร คือระบบที่ยังไม่ถูกอ่าน
การป้องกันที่มีตัวเลขรองรับจริงมีน้อยกว่าที่วงการพูดถึงมาก และบางอย่างที่ซื้อกันทั่วโลกวัดแล้วแทบไม่ขยับอะไร ขณะที่การเปลี่ยนภาษาโปรแกรมลดช่องโหว่จากสามในสี่เหลือหนึ่งในสี่ภายในห้าปี
และ AI agent คือระบบแรกที่เครื่องมือของผู้ใช้เองกลายเป็นช่องทางที่ปรับตัวได้ ข้อความที่ agent อ่านระหว่างทำงานพกคำสั่งมาได้ เส้นแบ่งระหว่างข้อมูลกับคำสั่ง ซึ่งการป้องกันเกือบทุกอย่างในเล่มนี้ยืนอยู่บนมัน จึงหยุดทำงานโดยโครงสร้าง ไม่ใช่เพราะใครตั้งค่าผิด
ท่าที่เอาไปใช้ได้: ก่อนเพิ่มส่วนเผื่อให้อะไรก็ตาม ถามข้อเดียวว่าสิ่งที่กำลังกันมีเจตนาหรือไม่ ถ้าไม่มี ตัวเลขที่สูงขึ้นช่วยได้จริง ถ้ามี ตัวเลขที่สูงขึ้นเพียงบอกฝ่ายตรงข้ามว่าควรเดินอ้อมทางไหน
จะพลิกคำตัดสินของเล่มนี้ได้เมื่อ: มีใครแสดงระบบที่กันฝ่ายตรงข้ามที่ปรับตัวได้สำเร็จ ด้วยการเพิ่มส่วนเผื่อบนแกนเดิมเพียงอย่างเดียว โดยไม่เปลี่ยนสิ่งที่ระบบนั้นถือว่าเชื่อถือได้ หลักฐานชิ้นนั้นล้มเส้นแบ่งที่เล่มนี้ลากไว้ทั้งเส้น
สิ่งที่ควรจับตาต่อจากนี้: ไม่ใช่ช่องโหว่ชิ้นถัดไป แต่คือสองตัวเลข — สัดส่วนของช่องโหว่ที่มาจากความไม่ปลอดภัยของหน่วยความจำในระบบที่เปลี่ยนภาษาแล้ว และผลการทดสอบ prompt injection จากทีมที่ไม่ได้ทำงานให้บริษัทที่ขาย agent
จบเล่มHow Much Margin Is Enough — A compendium of safety and securityกลับหน้าหนังสือ