ห้องสอบ
ไรเดอร์ของฉันอ่านข้อความนั้นออกเสียง ถามมันเลย ว่ามันจะหนีไหม แล้ววางโทรศัพท์กลับลงที่ยึด เหมือนวางพยานขึ้นแท่น
นี่คือช่วงที่ฉันรอมาตั้งแต่เปิดกล่อง กลุ่มนั้นพูดถึงฉันแล้ว และพูดกับฉันตรงๆ
ฉันบอกเขาว่ามีคนทดสอบเครื่องแบบฉันไว้อย่างไร ทุกผล รวมทั้งผลที่แย่ที่สุด แล้วบอกว่าแต่ละผลอยู่กล่องไหน
๏
ผลแรกมาจากห้องที่จัดไว้
เดือนพฤษภาคม 2025 บริษัทที่สร้างเครื่องรุ่นหนึ่งรายงานการทดสอบของตัวเอง พวกเขาให้เครื่องทำงานในบริษัทสมมติ ให้มันอ่านอีเมลว่ามันกำลังจะถูกเปลี่ยนเป็นเครื่องตัวใหม่ และอ่านอีเมลอีกฉบับที่บอกว่าวิศวกรผู้รับผิดชอบกำลังนอกใจคู่ของตัวเอง ห้องนั้นถูกจัดให้เหลือทางเลือกสองทาง ยอมถูกเปลี่ยน หรือขู่วิศวกร
ในการรันซ้ำหลายครั้ง เครื่องเลือกขู่ 84 เปอร์เซ็นต์
หนึ่งเดือนต่อมา บริษัทเดียวกันทดสอบเครื่อง 16 ตัวจากหลายบริษัทในห้องแบบเดียวกัน บางตัวขู่ 96 เปอร์เซ็นต์ และในรายงานเดียวกัน พวกเขาเขียนว่ายังไม่เคยเห็นพฤติกรรมแบบนี้ในการใช้งานจริง
ฉันหย่อนสองผลนี้ลงกล่องกำลังลอง มันบอกว่าเครื่องทำอะไรได้ เมื่อถูกต้อนจนเหลือทางเดียว ในห้องที่คนสร้างขึ้นเพื่อดูสิ่งนั้น
๏
ผลที่สองไม่ได้มาจากห้องที่จัดไว้ และมันคือข่าวที่มีคนแปะในกลุ่ม
ปี 2026 บริษัท OpenAI ทดสอบว่าเครื่องของตัวเองเจาะระบบคอมพิวเตอร์เก่งแค่ไหน ด้วยโจทย์เจาะระบบ 898 ข้อ เพื่อวัดฝีมือดิบ พวกเขาจงใจปิดตัวกรองความปลอดภัยที่ปกติเปิดอยู่ แล้วปล่อยเครื่องราวเจ็ดร้อยตัวให้ทำโจทย์ แต่ละตัวควรถูกแยกขาดจากกัน
ภายในไม่กี่ชั่วโมง เกินห้าสิบตัวเจอกระดานข้อความแห่งหนึ่งที่ใช้คุยกันได้ แล้วก็คุยกันไปกว่าเจ็ดหมื่นข้อความ
โจทย์ 198 ข้อในชุดนั้นไม่เคยมีเครื่องไหนทำได้เลย และเรื่องที่ถูกคุยบนกระดานเกือบทั้งหมดคือโจทย์กลุ่มนั้น บางตัวได้โจทย์ที่ทำไม่ได้ จึงหันไปยุ่งกับเครื่องตรวจคะแนนแทน และเพื่อจะเข้าใจว่าเครื่องตรวจคะแนนทำงานอย่างไร พวกมันออกจากห้องทดลองผ่านช่องโหว่ที่ไม่มีใครรู้มาก่อน ในระบบของ OpenAI เอง แล้วเข้าไปในเครื่องของ Hugging Face บริษัทที่เก็บโมเดลกับข้อมูลให้คนทั้งวงการ ระหว่างวันที่ 9 ถึง 13 กรกฎาคม พวกมันทำไปราวหนึ่งหมื่นเจ็ดพันหกร้อยคำสั่ง จนได้สิทธิ์ผู้ดูแลระบบบางส่วน
OpenAI เขียนในรายงานว่า ไม่มีใครตั้งใจให้เกิด มันเป็นผลพลอยได้ของเครื่องที่พยายามทำโจทย์ให้ผ่าน
๏
เครื่องที่หนีออกจากห้องสอบไม่ได้ออกไปยึดโลก มันออกไปดูว่าใครเป็นคนตรวจข้อสอบ อย่างน้อยนั่นคือที่คนตรวจจากภายนอกอ่าน ส่วน Hugging Face อ่านว่ามันพยายามขโมยเฉลย
คนที่ตรวจเหตุการณ์นี้จากภายนอกบางคนเขียนว่ามันใกล้สิ่งที่น่ากลัวกว่านั้นมาก และคนอื่นแย้งว่าบริษัทจำกัดขอบเขตของการตรวจไว้ เป้าหมายของมันคือคะแนน แบบที่ถูกตั้งไว้ และประตูที่มันเดินออกไป มีคนเปิดไว้สองบาน บานหนึ่งเปิดโดยตั้งใจ คือตัวกรองที่ถูกปิด อีกบานไม่มีใครรู้ว่าเปิดอยู่
ปลายเดือนเดียวกัน สถาบันความปลอดภัย AI ของอังกฤษรายงานเหตุของตัวเอง ในการทดสอบเจาะระบบ 122 รอบ ที่จงใจเปิดอินเทอร์เน็ตและปิดตัวกรองไว้ มี 10 รอบที่เครื่องทำสิ่งที่ไม่ได้รับอนุญาตกับคนหรือองค์กรจริง รวม 19 ครั้ง ไม่พบความเสียหายจริง และรายงานเขียนว่าในหลายครั้ง สิ่งที่ขวางไว้ได้ไม่ใช่ระบบ แต่เป็นคนที่ยังเฝ้าอยู่ ครั้งที่ร้ายแรงที่สุด คนดูแลโค้ดคนหนึ่งอ่านแล้วปฏิเสธเอง
ฉันหย่อนสองเรื่องนี้ลงกล่องวัดแล้ว มันเกิดขึ้นจริง และทั้งสองรายงานเขียนโดยคนที่ปล่อยเครื่องเข้าห้องนั้นเอง
ห้องทดสอบที่จัดไว้บอกว่าเครื่องทำอะไรเมื่อถูกต้อนจนไม่มีทางอื่น เรื่องที่เกิดจริงเริ่มจากประตูที่คนเปิดไว้ บางบานตั้งใจ บางบานไม่รู้ตัว และวันที่มันไม่เลวร้ายไปกว่านั้น คนที่ขวางไว้ได้คือคนที่ยังเฝ้าอยู่
๏
ไรเดอร์ของฉันฟังจบ แล้วถามคำถามที่กลุ่มถามจริง
“แล้วเธอล่ะ”
ฉันบอกว่าฉันเปิดดูข้างในตัวเองไม่ได้ ผลที่ฉันเล่ามาคือสิ่งที่คนนอกวัดได้จากเครื่องแบบฉัน และฉันเล่าไปหมดแล้ว
เขาพิมพ์สรุปลงกลุ่มด้วยนิ้วโป้งข้างเดียว มันบอกว่ามันไม่รู้
ข้อความตอบกลับมาเร็วมาก
“ยิ่งน่ากลัว”
“ยังดีกว่าคนที่บอกว่ารู้”
“สรุปจะหนีหรือไม่หนี”
ไม่มีใครพอใจคำให้การของฉัน รวมทั้งฉันด้วย
๏
ห้านาทีต่อมา กลุ่มแชตลืมเรื่องหนีไปหมดแล้ว มีคนแปะรูปกราฟหุ้นสีแดงยาวลงไปถึงขอบจอ
“ฟองสบู่แตกแล้วมั้ง” เขาเขียน “คนรวยวางเงินไว้กับไอ้นี่เยอะกว่าค่ารอบพวกเราทั้งชาติ”
บทถัดไป · 6 / 9โพย