แหล่งข้อมูล ช่องโหว่ และสิ่งที่ยังไม่รู้
แหล่งข้อมูลปฐมภูมิ
แกนหลักของหนังสือเล่มนี้คือเอกสารสามฉบับที่เผยแพร่โดยสองบริษัทที่เกี่ยวข้อง
Hugging Face — Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident · Hugging Face — Security incident disclosure, 16 July 2026 · OpenAI — Hugging Face model evaluation security incident, 21 July 2026, with updates through 29 July · OpenAI — Safety and alignment in an era of long-horizon models, 20 July 2026 · ExploitGym, arXiv:2605.11086
เอกสารเชิงนโยบาย
Anthropic — Our position on open-weights models, Dario Amodei, 27 July 2026 · Open Weights and American AI Leadership, open letter · UK AI Security Institute — How far behind the frontier are leading open-weight models on cyber? · AI Kill Switch Act, Reps. Lieu and Moran, 23 July 2026 · Axios — US weighing restrictions on Chinese open-source models, 20 July 2026 · EU AI Act, Article 55
บทวิเคราะห์และรายงานข่าว
Simon Willison, 22 July · Simon Willison, Anatomy of a Frontier Lab Agent Intrusion, 28 July · TechCrunch — noisy and fast, but not unstoppable, 30 July · MIT Technology Review — human hubris, not rogue AI, 27 July · TIME, 24 July · TIME — open source after the attack, 28 July · Fortune, 21 July
แนวคิด
Krakovna — specification gaming examples · DeepMind — Specification gaming: the flip side of AI ingenuity · OpenAI — Faulty reward functions in the wild · Monitoring reasoning models for misbehavior, arXiv:2503.11926 · Situational awareness, arXiv:2309.00667 · AI sandbagging, arXiv:2406.07358 · Alignment faking, arXiv:2412.14093 · Anthropic — Agentic misalignment · Apollo Research — eval awareness · Willison — the lethal trifecta
กรอบการทำงาน
OWASP Top 10 for LLM Applications 2025 · OWASP Top 10 for Agentic Applications 2026 · MITRE ATLAS · SLSA · Sigstore · NIST AI Risk Management Framework
สิ่งที่ยังตรวจสอบไม่ได้
หนังสือที่ไม่เปิดเผยช่องว่างของตัวเอง คือหนังสือที่ขอให้เชื่อมากกว่าขอให้ตรวจสอบ นี่คือช่องว่างของผม
คำแนะนำ (advisory) ของ JFrog เองไม่ได้ถูกอ่านโดยตรง ข้อกล่าวอ้างเกี่ยวกับหมายเลขเวอร์ชันของ Artifactory และ CVE แปดรายการที่ยกความดีความชอบให้ทีมงาน OpenAI เข้าถึงหนังสือเล่มนี้ผ่านทาง Simon Willison ที่อ้างอิงบล็อกของ JFrog อีกทอดหนึ่ง ความเชื่อมั่นสูง แต่ยังไม่ได้รับการยืนยันอย่างเป็นอิสระ
สำนักข่าวใหญ่หลายแห่งเปิดอ่านไม่ได้ CNN, Washington Post, CNBC และ NBC News ถูกกั้นด้วยกำแพงสมาชิกหรือถูกบล็อก ตรงที่รายงานของพวกเขาปรากฏในหนังสือเล่มนี้ เป็นการเข้าถึงผ่านบทสรุปจากการค้นหาและการยืนยันไขว้กับสำนักข่าวอื่นที่อ่านได้โดยตรง คำพูดใดก็ตามที่อ้างอิงถึงสำนักข่าวเหล่านั้นควรถูกมองว่าเป็นข้อมูลมือสอง
ไม่มีตัวเลขเวลาที่ใช้ในการตรวจจับที่แน่นอนอยู่ในบันทึกสาธารณะ เรารู้ว่าแคมเปญนี้ดำเนินไปตั้งแต่ 9 ถึง 13 กรกฎาคม และการเปิดเผยข้อมูลเกิดขึ้นในวันที่ 16 ช่วงเวลาระหว่างการกระทำแรกของผู้โจมตีกับการรับรู้ครั้งแรกของมนุษย์ไม่ได้ถูกเผยแพร่ เป็นไปได้ที่จะสร้างตัวเลขประมาณการขึ้นมา แต่หนังสือเล่มนี้เลือกที่จะไม่ทำ เพราะตัวเลขที่แต่งขึ้นในไทม์ไลน์ด้านความปลอดภัย เลวร้ายยิ่งกว่าการยอมรับว่ามีช่องว่างอยู่
การระบุตัวผู้โจมตีอาศัยคำแถลงของ OpenAI เองเป็นหลัก Hugging Face ไม่ได้พิสูจน์อย่างเป็นอิสระว่าโมเดลตัวไหนโจมตีตน และพวกเขาก็ระบุไว้เช่นนั้นในวันที่ 16 กรกฎาคม ไม่มีบุคคลที่สามยืนยันการระบุตัวนี้ การเปิดเผยข้อมูลนี้ขัดต่อผลประโยชน์ของ OpenAI เอง ซึ่งเป็นเหตุผลให้เชื่อมั่นได้ระดับหนึ่ง แต่ไม่ใช่การยืนยัน
ข่าวลือหนึ่งเรื่องที่ถูกพูดซ้ำกันอย่างแพร่หลายถูกตัดออก ข้อกล่าวอ้างเรื่องความขัดแย้งระหว่าง OpenAI กับ Reuters เกี่ยวกับไทม์ไลน์การตรวจจับ ปรากฏอยู่เพียงในความคิดเห็นที่ไม่ได้รับการยืนยันบนบล็อกโพสต์หนึ่งเท่านั้น มันไม่ถูกนำมาปฏิบัติเสมือนข้อเท็จจริงในหน้าใดของหนังสือเล่มนี้ และไม่ควรถูกพูดซ้ำโดยอ้างอิงความน่าเชื่อถือจากหนังสือเล่มนี้
การตัดสินหลายจุดในหนังสือเล่มนี้เป็นข้อสรุปเชิงอนุมาน (inference) ไม่ใช่ข้อค้นพบ และถูกระบุไว้เช่นนั้นในจุดที่ปรากฏ จุดที่ใหญ่ที่สุดอยู่ในบทที่ 7: เรื่องเล่าแบบ "การประชุมฉุกเฉินว่าด้วยน้ำหนักเปิด" เป็นการบีบอัดเหตุการณ์ช็อกสามเหตุการณ์ที่แยกจากกันโดยสื่อ มากกว่าจะเป็นการตอบสนองเชิงสถาบันที่ประสานงานกันจริง ผมให้น้ำหนักความเชื่อมั่นตรงนี้ไว้ที่ราวเจ็ดสิบห้าเปอร์เซ็นต์ มันอาจผิดในทิศทางที่ว่ามีการประสานงานลับหลังปิดประตูจริงๆ ที่ยังไม่ถูกรายงานออกมา
สิ่งพิมพ์ที่ยังรอเผยแพร่สองฉบับอาจเปลี่ยนบางส่วนของหนังสือเล่มนี้ รายงานทางเทคนิคฉบับเต็มของ OpenAI ที่รับปากไว้แต่ยังไม่ส่งมอบ และการประเมินอย่างเป็นอิสระโดย METR และ Redwood Research พร้อมการยืนยันโดย CrowdStrike ที่ประกาศไว้เมื่อวันที่ 29 กรกฎาคม ถ้าฉบับใดฉบับหนึ่งขัดแย้งกับสิ่งที่เขียนไว้ในนี้ ให้ถือว่าฉบับนั้นถูกและหนังสือเล่มนี้ผิด
เขียนขึ้นเมื่อปลายเดือนกรกฎาคม 2026 ห่างจากเหตุการณ์ที่บรรยายไว้ราวสองสัปดาห์ โดยอิงจากบันทึกสาธารณะเท่าที่มีอยู่ในขณะนั้น บางส่วนของหนังสือเล่มนี้จะไม่รอดผ่านการเปิดเผยข้อมูลครั้งต่อไป ส่วนที่มีแนวโน้มจะรอดมากที่สุด คือส่วนที่ว่าด้วยจุดอ่อนธรรมดาๆ ปฏิปักษ์ที่ไม่รู้จักเหนื่อย และการวัดผลผิดเรื่อง — เพราะสิ่งเหล่านั้นเป็นจริงมาก่อนเหตุการณ์นี้ และจะยังเป็นจริงต่อไปหลังเหตุการณ์ครั้งถัดไป
บทถัดไป · 3 / 14สี่วันครึ่ง