(CHAPTER FIVE: THE CULTURE OF POWER AND THE CIVILIZATION OF LOVE)

182. หลังจากที่เราได้พิจารณาไปแล้วว่า AI กำลังเข้ามาเปลี่ยนแปลงแง่มุมต่างๆ ของชีวิตและสังคมอย่างไร โดยเฉพาะผลกระทบร้ายแรงที่มีต่อศักดิ์ศรีความเป็นมนุษย์ บัดนี้ เราต้องหันมาสนใจประเด็นที่น่าสลดใจยิ่งกว่า นั่นคือเรื่องของสงคราม ในที่นี้ คำถามไม่ได้อยู่แค่เรื่องประสิทธิภาพของเครื่องมือใหม่ๆ เท่านั้น แต่ยังรวมถึงความเสี่ยงที่เทคโนโลยี—เมื่อถูกตัดขาดจากจริยธรรมและความรับผิดชอบ—จะทำให้การตัดสินใจเกี่ยวกับความเป็นความตายกลายเป็นเรื่องที่รวดเร็วและไร้ความรู้สึกมากขึ้น และจะนำเสนอการใช้กำลังทหารในฐานะทางเลือกที่ทำได้ทันทีและเป็นไปได้ ในโลกที่พึ่งพาอาศัยกันมากขึ้นเรื่อยๆ สันติภาพไม่ใช่เพียงแค่ประเด็นหนึ่งในหลายๆ ประเด็น แต่เป็นเงื่อนไขที่ขาดไม่ได้สำหรับประโยชน์ส่วนรวมระดับสากล และเป็นบททดสอบวุฒิภาวะทางศีลธรรมของชนชาติต่างๆ โดยเฉพาะอย่างยิ่งของผู้ที่แบกรับความรับผิดชอบในการปกครอง

183. การปฏิวัติดิจิทัลกำลังเปลี่ยนแปลงธรรมชาติของความขัดแย้ง ควบคู่ไปกับการทำสงครามตามแบบแผน (conventional warfare) เรายังเห็นรูปแบบลูกผสม (hybrid forms) เช่น การโจมตีทางไซเบอร์ การบิดเบือนข้อมูล การรณรงค์เพื่อสร้างอิทธิพล และการใช้ระบบอัตโนมัติในการตัดสินใจเชิงกลยุทธ์ AI ทำหน้าที่เป็นตัวเร่งปฏิกิริยาในกระบวนการเหล่านี้ โดยเฉพาะอย่างยิ่งในบริบทที่เทคโนโลยีหลายอย่างมีความกำกวมอยู่ในตัว ผลที่ตามมาก็คือ สิ่งที่มนุษย์สร้างขึ้นเพื่อการป้องกัน สามารถถูกนำไปปรับเปลี่ยนจุดประสงค์เพื่อการโจมตีได้อย่างรวดเร็ว และเส้นแบ่งบางๆ ระหว่างการปกป้องกับการรุกรานก็เลือนรางลง แม้ว่า AI จะสามารถเพิ่มขีดความสามารถในการป้องกันและคุ้มครองพลเรือนได้ แต่มันก็สามารถลดเพดานสำหรับการตัดสินใจใช้กำลังทหาร เป็นเกราะกำบังผู้คนจากความรับผิดชอบ และบ่มเพาะวัฒนธรรมที่ลดทอนศัตรูให้กลายเป็นเพียงตัวเลขทางสถิติ และลดทอนเหยื่อให้กลายเป็นแค่ "ความเสียหายข้างเคียง" (collateral damage) เมื่อเผชิญกับการเปลี่ยนแปลงเหล่านี้ เราต้องรำลึกถึงหลักการของหลักคำสอนทางสังคม — ศักดิ์ศรีของบุคคล ประโยชน์ส่วนรวม จุดหมายสากลของทรัพย์สิน การเสริมหน้าฐานะ ความเป็นน้ำหนึ่งใจเดียวกัน และความยุติธรรม — เพราะหลักการเหล่านี้คือเกณฑ์สำหรับตัดสินว่า เทคโนโลยีต่างๆ กำลังรับใช้มนุษยชาติอย่างแท้จริง หรือกำลังกดขี่มนุษยชาติอยู่ ดังนั้น เราจึงควรพิจารณาหลักการเหล่านี้เป็นแนวทางสำหรับการตัดสินใจของเรา

184. ดังนั้น ในบทนี้ ข้าพเจ้าจะเปรียบเทียบแนวทางที่ขัดแย้งกันสองแนวทาง ซึ่งข้าพเจ้าได้หยิบยกขึ้นมากล่าวถึงแล้วผ่านภาพสะท้อนจากพระคัมภีร์ในบทนำ ในด้านหนึ่ง มีความเย้ายวนใจที่จะสร้างหอคอยบาเบล โดยพึ่งพาอำนาจและความเย่อหยิ่ง ในอีกด้านหนึ่ง เราต้องการความอดทนเพื่อบูรณะเยรูซาเล็มขึ้นมา "ทีละชิ้นๆ" ดังเช่นในสมัยของเนหะมีย์ โดยการปกป้องมนุษยชาติและประโยชน์ส่วนรวม

185. หากเราตรวจสอบพลวัตระดับโลก เราจะสามารถมองเห็นการแพร่กระจายของวัฒนธรรมแห่งอำนาจที่โดดเด่นด้วยการแบ่งขั้วและความรุนแรงได้อย่างชัดเจนยิ่งขึ้น เราสามารถมองเห็นหอคอยบาเบลยุคใหม่ได้ ไม่เพียงแค่ในกระบวนทัศน์ทางเทคโนโลยีที่แผ่ขยายไปทั่วโลกเท่านั้น แต่ยังรวมถึงในการปะทะกันทางไกลระหว่างจักรวรรดินิยมที่ต่อต้านกัน ระหว่างมหาอำนาจที่ปรารถนาจะรักษาความเป็นใหญ่ของตน กับกลุ่มที่ทะเยอทะยานจะยึดครองความเป็นใหญ่นั้น ซึ่งส่งผลให้เกิดความขัดแย้งในระดับท้องถิ่นมากมาย ยิ่งไปกว่านั้น ดูเหมือนว่าจะไม่มีขีดจำกัดสำหรับการแข่งขัน — ซึ่งถูกผลักดันโดยความทะเยอทะยานที่ลดทอนความเป็นมนุษย์ — ในการพัฒนาเทคโนโลยีที่ทรงพลังยิ่งขึ้นเรื่อยๆ หรือในการรักษาอำนาจควบคุมเทคโนโลยีเหล่านั้น ทว่า ท่ามกลางวงจรอุบาทว์ที่ดิ่งลงเหวนี้ เรายังคงมองเห็นมนุษยชาติส่วนใหญ่ที่กำลังดิ้นรนเพื่อรักษาความเป็นมนุษย์ และทำงานเพื่อสร้างนครศักดิ์สิทธิ์แห่งการอยู่ร่วมกันและสันติภาพ บ่อยครั้งเกินไป ที่พวกเรากลายเป็นผู้สร้างที่ไม่รู้ตัวและเป็นสถาปนิกที่งุ่มง่ามของนครแห่งนี้ เรามีความสามารถในการแสดงท่าทีที่เอื้อเฟื้อ แต่กลับขาดวิสัยทัศน์โดยรวม โครงการก่อสร้างนี้ดำเนินไปอย่างเชื่องช้ากว่า มองเห็นได้น้อยกว่า และงดงามน้อยกว่า และมันกำลังรอคอยความเข้าใจที่ดีขึ้นและการประสานงานที่มากขึ้น เพื่อที่มันจะสามารถกลายมาเป็นความรับผิดชอบที่ชัดเจนและมีสติของทุกชุมชน ตั้งแต่ระดับครอบครัวไปจนถึงระดับรัฐ และความสัมพันธ์ระหว่างประชาชาติ เราเรียกโอกาสแห่งความมุ่งมั่นนี้ สถานที่ก่อสร้างแห่งความหวังนี้ว่า "อารยธรรมแห่งความรัก" (the civilization of love)

อารยธรรมแห่งความรักในยุคดิจิทัล
(The civilization of love in the digital age)

186. เมื่อสมเด็จพระสันตะปาปาเปาโลที่ 6 ทรงบัญญัติวลี "อารยธรรมแห่งความรัก" ขึ้นมา โลกกำลังตกอยู่ท่ามกลางสงครามเย็น การแข่งขันสะสมอาวุธ และความไม่มั่นคงทางเศรษฐกิจอย่างรุนแรง ในบริบทนั้น พระศาสนจักรได้เสนอเส้นทางที่เป็นทางเลือก นอกเหนือจากการต่อต้านทางอุดมการณ์ระหว่างระบบต่างๆ และวาดภาพระเบียบสังคมที่ความยุติธรรมและความรักถักทอประสานกัน และความรักกลายมาเป็นหลักการชี้นำชีวิตทางเศรษฐกิจ การเมือง และวัฒนธรรม ทุกวันนี้ เราต้องรื้อฟื้นวิสัยทัศน์นี้ขึ้นมาอย่างแน่วแน่ เพราะอารยธรรมแห่งความรักไม่ใช่ดินแดนในอุดมคติที่ไร้เดียงสา (naïve utopia) แต่เป็นโครงการที่เรียกร้องความพยายาม ซึ่งประกอบด้วยการแปลงความรักให้กลายเป็นโครงสร้างแห่งความยุติธรรม การมอบรูปแบบเชิงสถาบันให้แก่ความเป็นพี่น้องกัน และการมองผู้อื่น — ไม่ว่าจะเป็นปัจเจกบุคคลหรือชนชาติ — ในฐานะพันธมิตรที่จำเป็นสำหรับการสร้างประโยชน์ส่วนรวม ดังที่สมณสาส์น Fratelli Tutti ได้เตือนใจเรา มีเพียงความรักทางสังคม (social love) เช่นนี้เท่านั้นที่สามารถกลายเป็นวัฒนธรรมและบรรทัดฐาน และด้วยเหตุนี้จึงสามารถนำมาซึ่งระเบียบระหว่างประเทศที่มั่นคง โดยเปลี่ยนการอยู่ร่วมกันที่เต็มไปด้วยอาวุธ ให้กลายเป็นชุมชนที่มีอนาคตร่วมกัน

187. การหยั่งรู้นี้พิสูจน์ให้เห็นแล้วว่ามีความสำคัญยิ่งขึ้นไปอีกในบริบทปัจจุบันของการเปลี่ยนผ่านสู่ดิจิทัล เครือข่ายดิจิทัล เศรษฐกิจยุคโลกาภิวัตน์ และการพัฒนาของ AI สร้างสายสัมพันธ์ที่แน่นแฟ้นยิ่งขึ้นเรื่อยๆ โดยเชื่อมโยง — แบบเรียลไทม์ — การตัดสินใจที่เกิดขึ้นในสถานที่หนึ่ง เข้ากับผลกระทบที่มันสร้างขึ้นในอีกสถานที่หนึ่ง ในแง่นี้ คำกล่าวของสภาสังคายนาวาติกันครั้งที่สองเกี่ยวกับการพึ่งพาอาศัยกันที่เพิ่มขึ้นระหว่างชนชาติต่างๆ ยังคงทันยุคทันสมัย เพราะประโยชน์ส่วนรวมกำลังขยายมิติให้ครอบคลุมความเป็นสากลมากขึ้นเรื่อยๆ พร้อมด้วยสิทธิและหน้าที่ที่เกี่ยวข้องกับครอบครัวมนุษย์ทั้งหมด ดังนั้น โครงการสำหรับอารยธรรมแห่งความรัก จึงต้องรับภารกิจในการเปลี่ยนแปลงการพึ่งพาอาศัยกันที่ถูกยัดเยียดนี้ ให้กลายเป็นความเป็นน้ำหนึ่งใจเดียวกันที่เราปรารถนาและเลือกเอง นี่คือหลักการชี้นำสำหรับกระบวนการทางเทคโนโลยี: การที่ปัญญาประดิษฐ์ทำให้เรามีประสิทธิภาพหรือเชื่อมต่อกันมากขึ้นนั้นยังไม่เพียงพอ; แต่มันต้องรับใช้การสร้างครอบครัวมนุษย์ที่เป็นสากลด้วย พร้อมด้วยสิทธิและหน้าที่ที่ใช้ร่วมกัน ที่ซึ่งความใกล้ชิดทางดิจิทัลกลายเป็นโอกาสที่แท้จริงสำหรับการพบปะและการดูแลซึ่งกันและกัน

วัฒนธรรมแห่งอำนาจ
(The culture of power)

188. ในยุคสมัยของเรา วัฒนธรรมแห่งอำนาจกำลังหยั่งรากลึก ซึ่งความพร้อมของทรัพยากรและความสามารถในการครอบงำ มักจะเป็นตัวกำหนดวาระและเกณฑ์สำหรับการตัดสินใจ ด้วยวิธีนี้ สังคมจึงผลักไสประโยชน์ส่วนรวมของมนุษยชาติให้ไปอยู่เบื้องหลัง และลดทอนโศกนาฏกรรมที่เป็นรูปธรรมของชนชาติที่อยู่ในภาวะสงครามให้กลายเป็นเพียงข้อพิจารณารองเมื่อเทียบกับผลประโยชน์เชิงกลยุทธ์ วัฒนธรรมแห่งอำนาจนี้แทรกซึมเข้าสู่สังคม เปลี่ยนแปลงความสัมพันธ์และพฤติกรรม และเติบโตขึ้นโดยการทำให้สงครามกลายเป็นเรื่องปกติ การแสวงหาอำนาจทางการทหารที่ยิ่งใหญ่กว่าเดิม การฉวยโอกาสจากวิกฤตของระบบพหุภาคี (multilateralism) และการเติมเชื้อไฟให้กับสัจนิยมจอมปลอม (false realism) ที่ยืนกรานว่าเราไม่มีทางเลือกอื่น

การทำให้สงครามกลายเป็นเรื่องปกติ
(The normalization of war)

189. ในปี ค.ศ. 1965 พระดำรัสของสมเด็จพระสันตะปาปาเปาโลที่ 6 ดังก้องอย่างทรงพลัง ณ สมัชชาใหญ่แห่งสหประชาชาติ: "ต้องไม่มีสงครามอีกต่อไป ต้องไม่มีสงครามอีกต่อไป!" เราต้องยอมรับว่า แม้จะมีความปรารถนาและคำประกาศเพื่อสันติภาพ แต่ช่วงหกสิบปีที่ผ่านมาก็ยังคงเต็มไปด้วยความขัดแย้งที่โหดร้ายอย่างน่าตกใจ ซึ่งบ่อยครั้งส่งผลกระทบต่อพลเรือนในวงกว้าง นำไปสู่การเสียชีวิตของเหยื่อผู้บริสุทธิ์ การพลัดถิ่นครั้งใหญ่ การบ่อนทำลายความมั่นคงทางสังคม และทิ้งบาดแผลที่ยาวนาน อย่างไรก็ตาม ในวาทกรรมสาธารณะ มีความเชื่อมั่นอย่างกว้างขวางว่า สงครามควรเป็นเพียงทางเลือกสุดท้ายเท่านั้น ซึ่งต้องอยู่ภายใต้ขีดจำกัดทางจริยธรรมและกฎหมายที่เข้มงวด และต้องมุ่งเน้นไปที่วิสัยทัศน์ทางการเมืองเพื่อสันติภาพเสมอ หลังจากพัฒนาการในช่วงหลังสงครามโลกครั้งที่หนึ่ง จุดเปลี่ยนสำคัญก็เกิดขึ้นหลังสงครามโลกครั้งที่สอง: ประชาคมโลกได้ทำให้สันติภาพกลายมาเป็นศูนย์กลางของระเบียบระหว่างประเทศ ดังที่ปรากฏหลักฐานชัดเจนในกฎบัตรสหประชาชาติ ซึ่งมีความตั้งใจที่จะ "ช่วยอนุชนรุ่นหลังให้พ้นจากภัยพิบัติแห่งสงคราม" ในทำนองเดียวกัน รัฐธรรมนูญของหลายประเทศก็จำกัดการใช้กำลังทหารไว้เฉพาะในสถานการณ์ที่รุนแรงและมีขอบเขตจำกัดอย่างเคร่งครัด แม้แต่ในช่วงสงครามเย็น แม้จะมีความขัดแย้งร้ายแรงเกิดขึ้น แต่สังคมก็ยังคงตระหนักว่า เราต้องหลีกเลี่ยงสงครามโลกครั้งใหม่ให้ได้ไม่ว่าจะต้องแลกด้วยอะไรก็ตาม

190. ทว่า ทุกวันนี้ เรากำลังเป็นประจักษ์พยานถึงการเปลี่ยนกระบวนทัศน์ (paradigm shift) อย่างแท้จริงในวาทกรรมสาธารณะและในการตัดสินใจเกี่ยวกับการสั่งสมอาวุธขึ้นใหม่ พร้อมกับการฟื้นคืนชีพอย่างน่าตกใจของสงครามในฐานะเครื่องมือของการเมืองระหว่างประเทศ ในขณะที่หลักการทางจริยธรรมที่เคยจำกัดการใช้สงครามกำลังถูกกัดกร่อน ความขัดแย้งระดับภูมิภาคที่ยืดเยื้อ ความตึงเครียดที่ทวีความรุนแรงขึ้น และการข่มขู่ซึ่งกันและกัน กำลังกลายเป็นเรื่องปกติ และรูปแบบของความขัดแย้งที่ถูกขับเคลื่อนโดยความปรารถนาที่จะขยายอาณาเขต ซึ่งเราเคยคิดว่าเอาชนะได้แล้ว ก็กำลังปรากฏขึ้นอีกครั้ง ความคิดเห็นของสาธารณชนกำลังค่อยๆ ถูกหล่อหลอมและวางเงื่อนไขโดยเรื่องเล่าของสื่อที่แบ่งขั้ว ซึ่งบ่อยครั้งมักถูกขยายให้ใหญ่ขึ้นด้วยอัลกอริทึมที่ให้ความสำคัญกับความขัดแย้งและการเผชิญหน้า

191. เรายังกำลังเป็นประจักษ์พยานถึงการสูญเสียความทรงจำทางประวัติศาสตร์ที่น่าสะเทือนใจ เนื่องจากเรื่องราวจากปากคำของผู้ที่อยู่ในเหตุการณ์จริงของเหตุการณ์ฆ่าล้างเผ่าพันธุ์ (Holocaust) และสงครามโลกทั้งสองครั้งกำลังเลือนหายไป สิ่งนี้นำไปสู่การเขียนประวัติศาสตร์ใหม่แบบเลือกปฏิบัติหรือบิดเบือน ในบริบทที่ข่าวปลอมและการบิดเบือนเรื่องเล่าเข้าไปบดบังบทเรียนที่เราเคยเรียนรู้ หากปราศจากความทรงจำที่มีชีวิตเกี่ยวกับความน่าสะพรึงกลัวของสงคราม การตัดสินใจทางการเมืองย่อมเสี่ยงที่จะตั้งอยู่บนพื้นฐานของอำนาจเพียงอย่างเดียว โดยปราศจากการพิจารณาถึงผลกระทบระยะยาว

192. จากทั้งหมดนี้ มิติของสื่อและดิจิทัลกำลังเพิ่มองค์ประกอบใหม่ๆ ที่มีบทบาทชี้ขาด เครือข่ายการสื่อสาร สภาพแวดล้อมของข้อมูลที่แตกกระจาย และอัลกอริทึมที่ให้รางวัลแก่ความขัดแย้ง สามารถขยายการแบ่งขั้วและความขุ่นเคือง เพิ่มการโฆษณาชวนเชื่อ และทำให้การแยกแยะร่วมกันเป็นเรื่องยากยิ่งขึ้น ดังนั้น มนุษย์ไม่ได้เพียงแค่ต่อสู้ในสงครามเท่านั้น แต่ยังถูกวางเงื่อนไขทางวัฒนธรรมผ่านเรื่องเล่าที่ถูกทำให้เรียบง่าย กรอบความคิดแบบมิตรหรือศัตรู การบิดเบือนข้อมูล และความหวาดกลัว เมื่อความทรงจำทางประวัติศาสตร์จางหายไป และหลักการทางจริยธรรมที่ปกป้องพลเรือนและผู้ที่เปราะบางที่สุดอ่อนแอลง การหาข้ออ้างว่าความรุนแรงเป็นสิ่งจำเป็น หลีกเลี่ยงไม่ได้ หรือแม้กระทั่งถูก "ทำให้สะอาด" (sanitized) แล้ว ก็กลายเป็นเรื่องง่ายขึ้น ในบริบทเช่นนี้นี่เอง ที่มนุษยชาติกำลังดำดิ่งลงสู่วัฒนธรรมแห่งอำนาจที่รุนแรง ที่ซึ่งสันติภาพไม่ปรากฏเป็นความรับผิดชอบที่เราต้องแบกรับอีกต่อไป แต่กลายเป็นเพียงช่วงเวลาพักรบอันเปราะบางระหว่างความขัดแย้ง วันนี้ ยิ่งกว่าเวลาใดๆ โดยไม่กระทบต่อสิทธิในการป้องกันตนเองในความหมายที่เข้มงวดที่สุด เป็นสิ่งสำคัญที่จะต้องยืนยันอีกครั้งว่า ทฤษฎี "สงครามที่เป็นธรรม" (just war theory) ซึ่งบ่อยครั้งเกินไปที่ถูกนำมาใช้เพื่อสร้างความชอบธรรมให้แก่สงครามทุกรูปแบบ บัดนี้ได้กลายเป็นสิ่งที่ล้าสมัยไปแล้ว มนุษยชาติครอบครองเครื่องมือที่มีประสิทธิภาพและมีความสามารถมากกว่าในการส่งเสริมชีวิตมนุษย์และแก้ไขความขัดแย้ง เช่น การเสวนา การทูต และการให้อภัย การใช้กำลัง ความรุนแรง และอาวุธ สะท้อนให้เห็นถึงความยากจนทางความสัมพันธ์ ซึ่งมักนำมาซึ่งผลลัพธ์ที่หายนะต่อพลเรือนเสมอ

อำนาจที่ไร้ขีดจำกัด
(Force without limits)

193. การเติบโตของกลุ่มอุตสาหกรรมทางทหาร (military-industrial complex) ได้กลายมาเป็นลักษณะเด่นของภูมิทัศน์ทางการเมืองในปัจจุบัน และกลายมาเป็นภาคส่วนหลักในระบบเศรษฐกิจของหลายประเทศ ความเชื่อมโยงอย่างใกล้ชิดระหว่างผลประโยชน์ทางเศรษฐกิจ กลไกทางทหาร และการตัดสินใจทางการเมือง ก่อให้เกิด "ประเทศที่ติดอาวุธ" (armed nation) ที่ซึ่งสงครามปรากฏเป็นส่วนขยายที่เป็นธรรมชาติของการเมือง และตลาดอาวุธกลายมาเป็นพลังขับเคลื่อนอิสระที่อยู่เบื้องหลังการตัดสินใจทางทหาร เราไม่อาจเพิกเฉยต่อผลประโยชน์ทางเศรษฐกิจมหาศาลที่อยู่เบื้องหลังสงครามได้ อุตสาหกรรมอาวุธ และประเทศที่จัดหาอาวุธ ต่างกอบโกยผลกำไรจากตลาดที่เติบโตได้ดีก็เพราะมีความขัดแย้ง ในแง่นี้ ยังมีผลประโยชน์ทางการเงินที่คอยเติมเชื้อไฟแห่งความตึงเครียดในภูมิภาคต่างๆ ของโลกด้วย

194. คลังแสงทางทหารกำลังได้รับความสนใจอีกครั้ง ในอดีต การตระหนักถึงภัยคุกคามจากอาวุธที่สามารถทำลายล้างมนุษยชาติทั้งหมด ได้ส่งเสริมเส้นทางที่นำไปสู่การผ่อนคลายความตึงเครียด (détente) และการเจรจาเพื่อปลดอาวุธ น่าเสียดายที่แนวทางนี้ถูกทอดทิ้งไว้เบื้องหลัง และวิวัฒนาการของคลังอาวุธนิวเคลียร์ — รวมถึงโอกาสในการนำมาใช้ในเชิง "ยุทธวิธี" (tactical) — ทำให้การใช้อาวุธเหล่านี้ดูเหมือนจะไม่ใช่เรื่องที่เป็นไปไม่ได้อีกต่อไป ในบริบทนี้ สนธิสัญญาห้ามอาวุธนิวเคลียร์ (Treaty on the Prohibition of Nuclear Weapons) ซึ่งมีผลบังคับใช้ในปี ค.ศ. 2021 ด้วยการสนับสนุนจากกว่า 70 ประเทศ ถือเป็นก้าวที่สำคัญ อย่างไรก็ตาม มันเสี่ยงที่จะเป็นเพียงแค่สัญลักษณ์เท่านั้น เนื่องจากมหาอำนาจนิวเคลียร์รายใหญ่ไม่ได้เห็นชอบด้วย สิ่งนี้นำไปสู่ความเชื่อที่แพร่หลายแต่ผิดพลาดที่ว่า การป้องปรามด้วยอาวุธนิวเคลียร์คือเงื่อนไขที่ขาดไม่ได้สำหรับความมั่นคง สิ่งนี้ยังส่งผลให้เกิดการแข่งขันสะสมอาวุธครั้งใหม่ ซึ่งยากต่อการควบคุม และดำเนินควบคู่ไปกับการค่อยๆ รื้อถอนข้อตกลงในการลดอาวุธนิวเคลียร์ ตลอดจนการพัฒนาอาวุธที่ "ย่อส่วน" ลง (miniaturized) ซึ่งทำให้การใช้อาวุธเหล่านี้ดูเหมือนจะเป็นทางเลือกที่เป็นไปได้มากขึ้น

195. ตรรกะเดียวกันนี้ถูกนำมาใช้กับสงครามตามแบบแผน กำลังทหาร ความคิดริเริ่มทางการทูตที่อ่อนแอ และความซับซ้อนของผลประโยชน์ที่เดิมพันอยู่ มีส่วนทำให้ความขัดแย้งมีแนวโน้มที่จะยืดเยื้อยาวนาน ซึ่งแลกมาด้วยต้นทุนทางมนุษยชาติและสิ่งแวดล้อมที่สูงลิ่ว การเริ่มสงครามนั้นง่ายกว่าการยุติมันมาก และถึงกระนั้น การถกเถียงเกี่ยวกับการป้องกันความขัดแย้งกลับยังคงถูกผลักไปอยู่ชายขอบอย่างน่าสลดใจ

196. สถานการณ์ยิ่งไร้เสถียรภาพมากขึ้นจากการปรากฏตัวของผู้ปฏิบัติการติดอาวุธกลุ่มใหม่ๆ เช่น กลุ่มนักรบญิฮาด (jihadist groups) กองกำลังติดอาวุธเอกชน (private militias) และเครือข่ายอาชญากร ซึ่งเป็นสัญญาณบ่งบอกถึงจุดจบของการที่รัฐผูกขาดการใช้กำลังทหาร บ่อยครั้งที่กลุ่มเหล่านี้หลอมรวมแรงจูงใจทางอุดมการณ์ที่คลุมเครือเข้ากับผลประโยชน์ทางเศรษฐกิจที่เป็นรูปธรรม โดยเปลี่ยนสงครามให้กลายเป็น "วิถีชีวิต" สำหรับคนหนุ่มสาวและเด็กทั้งเจเนอเรชัน ในที่นี้ เป้าหมายไม่ใช่ชัยชนะที่เด็ดขาดอีกต่อไป แต่เป็นการทำให้ความขัดแย้งคงอยู่ตลอดไปในฐานะแหล่งที่มาของอำนาจและรายได้

อาวุธและปัญญาประดิษฐ์
(Weapons and artificial intelligence)

197. สถานการณ์ที่กล่าวมาข้างต้น เชื่อมโยงกับการพัฒนาระบบอาวุธอย่างไม่หยุดยั้ง โดยเฉพาะระบบที่เกี่ยวข้องกับ AI เมื่อเร็วๆ นี้ สันตะสำนักได้ตั้งข้อสังเกตว่า ความง่ายดายที่เพิ่มขึ้นในการนำระบบอาวุธอัตโนมัติ (autonomous weapons systems) มาใช้ ทำให้สงคราม "เป็นไปได้" มากขึ้นและอยู่ภายใต้การควบคุมของมนุษย์น้อยลง สิ่งนี้ละเมิดหลักการที่ว่า รัฐควรใช้กำลังติดอาวุธเป็นเพียงทางเลือกสุดท้ายในกรณีของการป้องกันตนเองอย่างชอบธรรมเท่านั้น ด้วยเหตุนี้ สังคมจึงต้องนำการพัฒนาและการใช้ AI ในการทำสงครามมาอยู่ภายใต้ข้อจำกัดทางจริยธรรมที่เข้มงวดที่สุด เพื่อรับประกันความเคารพต่อศักดิ์ศรีความเป็นมนุษย์และความศักดิ์สิทธิ์ของชีวิต และเพื่อหลีกเลี่ยงการแข่งขันในการพัฒนาอาวุธดังกล่าว

198. บางครั้งมีการพูดถึง "ตัวแทนทางศีลธรรมเทียม" (artificial moral agents) ราวกับว่าเครื่องจักรสามารถแยกแยะความแตกต่างระหว่างความถูกและความผิดได้อย่างสม่ำเสมอมากกว่ามนุษย์ ทว่า เราไม่อาจลดทอนการตัดสินใจทางศีลธรรมให้กลายเป็นเพียงการคำนวณได้ เพราะมันเกี่ยวข้องกับมโนธรรม ความรับผิดชอบส่วนบุคคล และการรับรู้ว่าผู้อื่นคือบุคคล ดังนั้น จึงไม่อนุญาตให้เรามอบหมายการตัดสินใจที่อันตรายถึงชีวิตหรือการตัดสินใจที่ไม่อาจย้อนกลับได้ ให้กับระบบปัญญาประดิษฐ์ ไม่มีอัลกอริทึมใดที่จะทำให้สงครามกลายเป็นสิ่งที่ยอมรับได้ทางศีลธรรม AI ไม่ได้ขจัดความไร้มนุษยธรรมที่ฝังอยู่ในความขัดแย้งออกไป; แท้จริงแล้ว มันทำได้เพียงทำให้ความขัดแย้งเกิดขึ้นเร็วขึ้นและไร้ความรู้สึกมากขึ้น ลดเพดานสำหรับการหันไปใช้ความรุนแรง เปลี่ยนการป้องกันให้กลายเป็นการคาดการณ์ภัยคุกคาม และด้วยเหตุนี้จึงลดทอนเหยื่อให้กลายเป็นเพียงข้อมูล ด้วยวิธีนี้ มันจะทำให้เราคุ้นเคยกับความคิดที่ว่า ความรุนแรงเป็นสิ่งหลีกเลี่ยงไม่ได้และต้องการเพียงแค่การปรับให้มีประสิทธิภาพสูงสุดเท่านั้น สิ่งนี้ไม่ได้ลดทอนความสำคัญของการปลูกฝังคุณค่าและวิจารณญาณที่ถูกต้องลงไปในระบบปัญญาประดิษฐ์ที่เราสร้างขึ้นให้มากที่สุดเท่าที่จะทำได้ เพื่อให้ระบบเหล่านั้นสามารถมีส่วนร่วมในระบบนิเวศทางศีลธรรม ซึ่งมนุษย์สามารถรับฟังมโนธรรมของตนเองได้ดีขึ้น และยังช่วยให้แบบจำลอง AI สามารถกำหนดขอบเขตที่เหมาะสมได้

199. การเพียงแค่อ้างถึงจริยธรรมแบบกว้างๆ นั้นไม่เพียงพอ เราต้องกำหนดเกณฑ์ที่เป็นรูปธรรมสำหรับการแยกแยะ เกณฑ์ประการแรกเกี่ยวข้องกับความรับผิดชอบส่วนบุคคล เมื่อใดที่การตัดสินใจโจมตีกลายเป็นกระบวนการอัตโนมัติหรือคลุมเครือ เมื่อนั้นความเสี่ยงในการหลบเลี่ยงความรับผิดชอบก็จะเพิ่มสูงขึ้น ด้วยเหตุนี้ สังคมจึงต้องสามารถระบุและตรวจสอบห่วงโซ่แห่งความรับผิดชอบได้; ผู้ที่ออกแบบ ฝึกฝน อนุมัติ และนำเทคโนโลยีมาใช้ จะต้องรับผิดชอบต่อการตัดสินใจของตน เกณฑ์ประการที่สองเกี่ยวข้องกับกรอบเวลาทางศีลธรรมในการตัดสินใจ แม้ว่า AI จะมีแนวโน้มในการเร่งกระบวนการตัดสินใจให้เร็วขึ้น แต่ความเร็วและประสิทธิภาพจะต้องไม่เป็นแรงจูงใจสูงสุดสำหรับการตัดสินใจที่ไม่อาจย้อนกลับได้ในบริบทของสงคราม เกณฑ์ประการที่สามคือการระบุและคุ้มครองพลเรือน เทคโนโลยีใดๆ ก็ตามที่อำนวยความสะดวกในการโจมตีโดยไม่ต้องมองเห็นใบหน้าของมนุษย์ ย่อมลดทอนเพดานทางศีลธรรมของความขัดแย้ง การเลือกเป้าหมายและการใช้กำลังทหารจะต้องไม่สับสนระหว่างผู้ทำการรบกับผู้ที่ไม่ได้ทำการรบ และต้องไม่เพิกเฉยต่อผลกระทบที่มีต่อประชากรที่ไร้ทางสู้

200. เกณฑ์เหล่านี้ก่อให้เกิดข้อกำหนดบางประการที่ไม่อาจต่อรองได้ ประการแรก ระบบทั้งหมดที่ใช้ในสถานการณ์สงครามต้องรับประกันความเป็นไปได้ในการติดตามและสร้างกระบวนการตัดสินใจขึ้นมาใหม่ เพื่อไม่ให้ความรับผิดชอบและการกล่าวโทษถูกผลักไปที่ "เครื่องจักร" ประการที่สอง มนุษย์ไม่สามารถมอบหมายการตัดสินใจใช้กำลังที่อันตรายถึงชีวิตให้กับกระบวนการที่คลุมเครือหรืออัตโนมัติได้ แต่มันต้องอยู่ภายใต้การควบคุมของมนุษย์ที่มีประสิทธิภาพ มีความตระหนักรู้ในตนเอง และมีความรับผิดชอบ ประการสุดท้าย สังคมมีความจำเป็นอย่างยิ่งที่จะต้องกำหนดกรอบการทำงานร่วมกัน — รวมถึงในระดับระหว่างประเทศด้วย — เพื่อยับยั้งการแข่งขันสะสมอาวุธทางเทคโนโลยี และรับประกันการคุ้มครองที่แข็งแกร่งสำหรับพลเรือนและโครงสร้างพื้นฐานที่จำเป็นต่อการอยู่รอดของพวกเขา