07 · ปรัชญาการเมือง
การไต่สวนครั้งที่ 7 ในภาค I ศาลปรัชญา — ปรัชญาถามเครื่องจักรว่าใครกันแน่ที่ปกครอง เมื่อโค้ดของมันเป็นผู้วางเงื่อนไข
เมื่อโค้ดคือกฎหมาย ใครคือผู้ปกครอง
สิ่งพิมพ์ที่รอดความโกรธของสาธารณชนมาหลายปีหายไปจากอินเทอร์เน็ตภายในไม่กี่ชั่วโมง เพราะผู้บริหารคนเดียวกดสวิตช์เดียว วันที่ 16 สิงหาคม 2017 ไม่กี่วันหลังความรุนแรงที่ Charlottesville Matthew Prince ซีอีโอของ Cloudflare ยกเลิกบัญชีของ The Daily Stormer เว็บไซต์นีโอนาซี ตัดบริการ DNS และ content-delivery ที่ทำให้เว็บนั้นเข้าถึงได้บนอินเทอร์เน็ตสาธารณะ ในอีเมลภายในที่ Gizmodo เผยแพร่ภายหลัง Prince อธิบายเหตุผลของตัวเองตรงไปตรงมาผิดปกติ — "พูดตรงๆ ผมตื่นมาแล้วอารมณ์ไม่ดี เลยตัดสินใจว่าใครบางคนไม่ควรได้รับอนุญาตให้อยู่บนอินเทอร์เน็ต" เขาเขียน "ไม่มีใครควรมีอำนาจแบบนั้น" (Gizmodo, "Cloudflare CEO on Terminating Service to Neo-Nazi Site," 2017) ไม่มีศาลสั่งถอด ไม่มีสภานิติบัญญัติลงมติ มีเพียงบริษัทโครงสร้างพื้นฐานบริษัทเดียว Prince พูดถูกที่ว่าไม่มีใครควรมีอำนาจแบบนั้น และถูกอีกข้อที่ว่าในนาทีนั้นอำนาจนั้นอยู่ในมือเขาเอง
Lawrence Lessig ตั้งชื่อกลไกนี้ไว้ก่อนหน้าสิบปี Code and Other Laws of Cyberspace (1999 ปรับปรุงเป็น Code 2.0 ในปี 2006) โต้แย้งว่าสี่แรงกำกับพฤติกรรมของคน — กฎหมาย บรรทัดฐานทางสังคม ตลาด และสถาปัตยกรรม (architecture) — และในโลกดิจิทัล สถาปัตยกรรมชนะเกือบทุกครั้ง เพราะมันไม่ขอให้ใครปฏิบัติตาม มันทำให้สิ่งที่ไม่พึงประสงค์ทำไม่ได้เลย แทนที่จะแค่ผิดกฎหมาย (Lessig, Code and Other Laws of Cyberspace) กฎหมายที่เล่นงานเว็บไซต์หนึ่งยังอุทธรณ์ได้ ยืดเวลาได้ เพิกเฉยระหว่างรอทบทวนได้ ผู้ให้บริการ DNS ที่ถอนบริการไม่ได้ออกกฎเกี่ยวกับเว็บไซต์นั้น มันคือการหายไปของเว็บไซต์นั้นเอง ทันทีและทุกที่ ในวินาทีที่การเปลี่ยนแปลงแพร่กระจายจนครบ การตัดสินใจของ Cloudflare คือวิทยานิพนธ์ของ Lessig ในรูปบริสุทธิ์ที่สุด — โค้ดไม่ได้บังคับใช้กฎหมายในกรณีนี้ โค้ด คือ กฎหมายฉบับเดียวที่มีความหมาย และผู้เขียนมันคือข้อกำหนดการให้บริการของบริษัทหนึ่ง ไม่ใช่สภานิติบัญญัติใด
แพลตฟอร์มใหญ่ทุกเจ้าวันนี้เดินระบบที่ทำงานเหมือนระบบกฎหมาย โดยไม่ได้เป็นระบบกฎหมาย บทความ "The New Governors" ของ Kate Klonick อ่าน Facebook, Twitter และ YouTube เป็นเขตอำนาจศาลเอกชนที่ครบเครื่อง — มีฝ่ายนิติบัญญัติ (ข้อกำหนดการให้บริการ) มีการตัดสินคดี (การพิจารณาควบคุมเนื้อหา) และตั้งแต่เดือนตุลาคม 2020 มีชั้นอุทธรณ์ — Oversight Board ของ Facebook คณะกรรมการยี่สิบคนที่มีเงินทุนตั้งต้น 130 ล้านดอลลาร์ คำวินิจฉัยเรื่องเนื้อหาของคณะนี้ผูกพันบริษัทตามสัญญา และคณะนี้พลิกคำตัดสินสี่ในห้าคดีแรกที่พิจารณา (Klonick, "The New Governors," Harvard Law Review 131, 2018) กลไกนิติศาสตร์อยู่ครบ ขาดแต่สิ่งเดียวที่ปกติทำให้กลไกแบบนี้ชอบธรรม — ไม่มีผู้ใช้คนใดเลือกตั้งฝ่ายนิติบัญญัตินี้ และบริษัทที่เขียนรัฐธรรมนูญของมันครั้งแรกก็เขียนใหม่ฝ่ายเดียวได้ ความอึดอัดของ Prince ต่ออำนาจตัวเองจึงเท่ากับยอมรับว่าเขาเป็น "ผู้ปกครองใหม่ (new governors)" ของ Klonick อยู่ชั่วขณะ โดยไม่มีการตรวจสอบถ่วงดุลแบบที่รัฐบาลจริงต้องรับผิดชอบเลยสักอย่าง
เดิมพันที่ลึกกว่านั้น Shoshana Zuboff โต้แย้งว่าไม่ใช่ใครควบคุมคำพูด แต่คือใครสกัดและเป็นเจ้าของ "ส่วนเกินเชิงพฤติกรรม (behavioral surplus)" ที่งอกจากการใช้งานระบบเหล่านี้ของทุกคน — ข้อมูลที่เหลือค้างหลังส่งมอบบริการเสร็จ ถูกนำกลับมาใช้ทำนายและกำหนดพฤติกรรมในอนาคต แล้วขายเป็นสินค้าทำนายให้ผู้ลงโฆษณาและไกลกว่านั้น The Age of Surveillance Capitalism (2019) เสนอว่านี่คืออำนาจรูปแบบใหม่จริงๆ คนละอย่างกับทุนนิยมอุตสาหกรรมที่ทฤษฎีเสรีนิยมคลาสสิกสร้างเกราะขึ้นมาต้าน เพราะมันทำงานผ่านการอ้างสิทธิ์ฝ่ายเดียวเหนือประสบการณ์ที่เจ้าของไม่เคยยินยอม และตามปกติก็มองไม่เห็น นับประสาอะไรกับการถอนตัวออกมา (Zuboff, The Age of Surveillance Capitalism, PublicAffairs, 2019) กฎหมายสัญญาและการละเมิดเรื่องความเป็นส่วนตัวถูกสร้างมากำกับธุรกรรมที่มองเห็นได้ระหว่างสองฝ่ายที่ต่างรู้ว่ามีการแลกเปลี่ยน ไม่ได้สร้างมาสำหรับการสกัดที่ทั้งการออกแบบวางอยู่บนการที่อีกฝ่ายไม่รู้ตัว
สถาบันดิจิทัลไม่ได้ลงเอยเป็นรัฐหรือบรรษัทเสมอไป Governing the Commons (1990) ของ Elinor Ostrom ระบุหลักการออกแบบที่ชุมชนจริงใช้จัดการทรัพยากรร่วม (commons) โดยไม่พึ่งทั้งการบังคับของรัฐและการตั้งราคาของตลาด — สมาชิกภาพที่มีขอบเขตชัด กฎที่เข้ากับสภาพท้องถิ่น บทลงโทษแบบขั้นบันได การระงับข้อพิพาทที่ถูกและเข้าถึงง่าย และธรรมาภิบาลที่ซ้อนกันข้ามระดับ — และล้มสมมติฐานที่สืบทอดจาก Garrett Hardin ว่าทรัพยากรร่วมมีชะตาต้องถูกใช้จนหมดหากไม่มีกรรมสิทธิ์เอกชนหรือการควบคุมของรัฐ (Ostrom, Governing the Commons, 1990) ภายหลัง Ostrom กับ Charlotte Hess ขยายหลักการชุดเดียวกันไปสู่ความรู้และทรัพยากรร่วมดิจิทัลอย่างตรงไปตรงมา โดยโต้แย้งว่าโปรเจกต์โอเพนซอร์ส Wikipedia และโครงสร้างพื้นฐานการวิจัยที่ใช้ร่วมกัน อ่านและปกครองได้ด้วยวิธีเดียวกัน (Hess & Ostrom, eds., Understanding Knowledge as a Commons, MIT Press, 2007) Linux และ Wikipedia คือหลักฐานว่าเส้นทางที่สามนี้ไม่ใช่แค่ทฤษฎี — ไม่ใช่รัฐ ไม่ใช่บรรษัท แต่ปกครองได้ดีพอจะอยู่ยืนกว่าทั้งสองแบบส่วนใหญ่
เมื่อรัฐเองยกอำนาจให้โค้ด รูปแบบความล้มเหลวเปลี่ยนไปทั้งหมด บทความ "Technological Due Process" (2008) ของ Danielle Citron เตือนว่าระบบอัตโนมัติยุบสองหน้าที่ที่กฎหมายปกครองแยกจากกันมาตลอด — เขียนกฎทั่วไป กับเอากฎไปใช้กับคดีของคนคนหนึ่ง — ให้เหลือการกระทำเดียวที่ไม่มีบันทึก และหลบเลี่ยงการแจ้งเตือน การไต่สวน และคำอธิบายที่มีเหตุผล ซึ่งแต่ละหน้าที่ลำพังก็ติดค้างพลเมืองอยู่แล้ว (Citron, "Technological Due Process," Washington University Law Review 85, 2008) หน่วยงานประกันการว่างงานของรัฐมิชิแกนรันการทดลองนี้เป๊ะๆ ระหว่างปี 2013 ถึง 2015 ระบบ MiDAS ตั้งธงการฉ้อโกงอัตโนมัติ เดินตั้งแต่ต้นจนจบโดยไม่มีมนุษย์ทบทวนในกรณีส่วนใหญ่ และกล่าวหาผิดคนไปกว่า 34,000 คน ด้วยอัตราความผิดพลาดที่ประเมินภายหลังได้ที่ 85 percent จนเกิดการอายัดค่าจ้างและการล้มละลายตามมา (IEEE Spectrum, "Michigan's MiDAS Unemployment System") ไม่มีการแจ้งเตือนการออกกฎ ไม่มีการไต่สวนรายบุคคล ไม่มีการอุทธรณ์อยู่ในระบบ กระบวนการที่ชอบด้วยกฎหมาย (due process) ไม่ได้ถูกละเมิดโดยคำตัดสินครั้งใดครั้งหนึ่ง — มันถูกออกแบบให้หายไปจากระบบก่อนคดีแรกจะถูกตั้งธงเสียอีก
The Stack (2015) ของ Benjamin Bratton ให้กรอบที่มัด Cloudflare, Facebook, เครื่องเก็บเกี่ยวข้อมูลของ Zuboff และอัลกอริทึมสวัสดิการของมิชิแกน เข้าเป็นปรากฏการณ์เดียว ไม่ใช่เรื่องอื้อฉาวสี่เรื่องที่ไม่เกี่ยวกัน การคำนวณระดับดาวเคราะห์ (planetary computation) — คลาวด์ เมือง ที่อยู่ อินเทอร์เฟซ ผู้ใช้ ซ้อนกันเป็นมหาโครงสร้างเดียวที่เกิดขึ้นโดยบังเอิญ — ทำหน้าที่แบบอธิปไตยอยู่ตอนนี้ ตัดสินว่าใครพูดได้ ใครได้รับสวัสดิการสาธารณะ ใครยังเข้าถึงได้อยู่หรือไม่ ทำต่อเนื่องและในสเกลที่กลไกรัฐใดก็เทียบไม่ติด โดยไม่เคยลงสมัครรับเลือกตั้งและไม่ต้องรับผิดชอบต่อรัฐธรรมนูญฉบับใด (Bratton, The Stack, MIT Press, 2015) สแตกนี้ไม่ได้ยกเลิกรัฐ มันเพียงส่งรัฐที่สองซึ่งไม่ได้มาจากการเลือกตั้งเข้ามาสมทบ และเกือบทุกวันก็ไม่ชัดว่าฝ่ายไหนเป็นผู้ตัดสินใจจริง
เชื่อมโยง
บทที่ 06 เป็นเจ้าของช่องว่างความรับผิดชอบที่ระบบอัตโนมัติในบทนี้เปิดค้างไว้ครั้งแล้วครั้งเล่า และถามว่าใครรับผิดชอบ ไม่ใช่ใครปกครอง บทที่ 11 อธิบายวงเล็บที่ทำให้ "ส่วนเกินเชิงพฤติกรรม (behavioral surplus)" ตั้งราคาเป็นปริมาณได้ ขณะที่ไม่มีใครถามว่ามันเป็นส่วนเกิน ของ อะไร บทที่ 14 หยิบทรัพยากรร่วม (commons) ของ Ostrom กลับมาอีกครั้งผ่านโพรโทคอลฉันทามติ (consensus protocol) — ความร่วมมือระหว่างคนแปลกหน้าโดยไม่มีผู้มีอธิปไตยคอยบังคับใช้
คำถามที่ยังเปิดอยู่
"โค้ดคือกฎหมาย (code is law)" เป็นคำเตือนถึงสิ่งที่เกิดขึ้นไปแล้ว หรือเป็นแผนงานสำหรับสิ่งที่ควรเกิดต่อไป และการสับสนสองอย่างนี้ปล่อยให้อำนาจไหลเข้าไปอยู่ในสถาปัตยกรรมมากกว่าที่ใครลงคะแนนให้จริงหรือไม่ แพลตฟอร์มเอกชนถืออำนาจแบบกระบวนการที่ชอบด้วยกฎหมายอย่างชอบธรรมได้หรือไม่ โดยไม่ต้องกลายเป็นรัฐจำลองที่มีกลไกตรวจสอบถ่วงดุลครบชุดแบบที่ทำให้รัฐพอทนได้ และโมเดลทรัพยากรร่วมของ Ostrom ขยายไปถึงโครงสร้างพื้นฐานทางกายภาพ — สายเคเบิล ดาวเทียม คลื่นความถี่ — ได้แบบเดียวกับที่มันขยายจากการชลประทานไปสู่โค้ดหรือไม่ หรือความต้องการเงินทุนของโครงสร้างพื้นฐานจะดึงธรรมาภิบาลกลับไปหารัฐหรือบริษัทเสมอ
อ่านต่อ
- Lawrence Lessig, Code: Version 2.0, Basic Books, 2006 — ฉบับปรับปรุงของข้อโต้แย้งที่กรณีเปิดเรื่องของบทนี้วิ่งอยู่บนรางที่มันวางไว้
- Kate Klonick, "The New Governors: The People, Rules, and Processes Governing Online Speech," Harvard Law Review 131 (2018), read against Elinor Ostrom & Charlotte Hess, eds., Understanding Knowledge as a Commons: From Theory to Practice, MIT Press, 2007 — นิติศาสตร์เอกชนเทียบกับทรัพยากรร่วมที่มันเข้ามาแทนที่
- Stanford Encyclopedia of Philosophy, "Political Legitimacy" — บันทึกหลักเรื่องสิ่งที่อำนาจปกครองพึงมีต่อผู้ถูกปกครอง ซึ่งทุกกรณีในบทนี้วัดเทียบกับมันได้