ความรับผิดชอบ ความโปร่งใส และการกำกับดูแล AI
(Responsibility, transparency and the governance of AI)

102. การใช้งาน AI ไม่ใช่เรื่องของเทคนิคล้วนๆ เมื่อใดก็ตามที่มันก้าวเข้าสู่กระบวนการที่ส่งผลกระทบต่อชีวิตผู้คน เมื่อนั้นมันย่อมสัมผัสกับเรื่องของสิทธิ โอกาส สถานภาพ และเสรีภาพ เรากำลังเสี่ยงที่จะมอบหมายการตัดสินใจที่สำคัญและละเอียดอ่อน — เช่น เรื่องการจ้างงาน สินเชื่อ การเข้าถึงบริการสาธารณะ หรือแม้แต่ชื่อเสียงของบุคคล — ให้กับระบบอัตโนมัติอย่างเต็มรูปแบบ ทั้งที่ระบบเหล่านี้ไม่รู้จัก "ความเห็นอกเห็นใจ ความเมตตา การให้อภัย และที่สำคัญที่สุดคือ ความหวังที่ว่าผู้คนสามารถเปลี่ยนแปลงตนเองได้" ดังนั้น ระบบเหล่านี้จึงสามารถก่อให้เกิดการกีดกันรูปแบบใหม่ได้ มีการนำ AI ไปใช้งานในทางที่ก่อให้เกิดอันตรายอย่างชัดเจน เช่น การบิดเบือนข้อมูลหรือการละเมิดความเป็นส่วนตัว ทว่า มันยังมีอันตรายที่แนบเนียนกว่านั้นซ่อนอยู่ เพราะเมื่อระบบ AI นำเสนอตัวเองว่ามีความเป็นกลางและปราศจากอคติ ท้ายที่สุดแล้ว พวกมันกลับกลายเป็นเครื่องสะท้อนและตอกย้ำภาพจำเหมารวม (stereotypes) หรืออคติทางอุดมการณ์ของผู้ออกแบบและนักพัฒนาของมันเอง

103. แท้จริงแล้ว การมอบอำนาจในทางปฏิบัติให้แก่อัลกอริทึมเพื่อคัดเลือกว่าใครคู่ควรหรือไม่คู่ควร โดยไม่มีมนุษย์คนใดต้องรับผิดชอบต่อคำตัดสินนั้น คือการส่งมอบภารกิจในการกำหนดขอบเขตความเป็นไปได้ของมนุษย์ให้แก่เครื่องจักร ในกระบวนการนี้ สังคมยังสูญเสียความรับผิดชอบทางการเมืองไปด้วย ไม่ใช่แค่สูญเสียความเห็นอกเห็นใจต่อผู้ที่ถูกกีดกัน ซึ่งอันที่จริงแล้ว ระบบก็สามารถจำลองขึ้นมาได้เช่นกัน การกีดกันผู้เปราะบางถูกเคลือบไว้ด้วยภาพลักษณ์ของความเป็นกลางและความเป็นปรนัย ซึ่งทำให้การลุกขึ้นมาคัดค้านกลายเป็นเรื่องยาก ด้วยวิธีนี้ สังคมจึงปล่อยให้ความอยุติธรรมผ่านไปโดยไม่มีใครสังเกตเห็น และความเห็นอกเห็นใจ ความเมตตา และการให้อภัย — ซึ่งไม่ควรเข้าใจว่าเป็นเพียงเปลือกนอก แต่เป็นการกระทำทางการเมืองที่แท้จริง — ก็ค่อยๆ เลือนหายไปจากสายตา

104. จากสิ่งนี้ นำไปสู่ผลลัพธ์ที่เรียบง่ายแต่ทรงพลัง: เราไม่อาจมองว่า AI มีความเป็นกลางทางศีลธรรม ในความเป็นจริง เครื่องมือทางเทคนิคทุกชนิดต่างรวบรวมทางเลือกและลำดับความสำคัญของมนุษย์เอาไว้ ผ่านสิ่งที่มันเลือกที่จะวัดผล สิ่งที่มันเพิกเฉย และสิ่งที่มันปรับให้เหมาะสมที่สุด ตลอดจนวิธีที่มันใช้จัดหมวดหมู่ผู้คนและสถานการณ์ต่างๆ หากมีคนออกแบบหรือใช้ระบบใดระบบหนึ่งในลักษณะที่ปฏิบัติต่อชีวิตบางชีวิตว่ามีคุณค่าน้อยกว่า หรือกีดกันพวกเขาออกไปโดยไม่ให้โอกาสในการอุทธรณ์ ระบบนั้นก็ไม่ใช่แค่เครื่องมือที่ "เราต้องใช้ให้ดี" อีกต่อไป เนื่องจากมันได้นำเอาเกณฑ์ที่ขัดแย้งกับศักดิ์ศรีที่ไม่อาจพรากไปได้ของบุคคลมนุษย์เข้ามาใช้เรียบร้อยแล้ว ด้วยเหตุนี้ การแยกแยะทางจริยธรรมจึงไม่อาจจำกัดอยู่แค่การตั้งคำถามว่า เรากำลังใช้ระบบเพื่อจุดประสงค์ที่ดีหรือเลว แต่ต้องตรวจสอบด้วยว่า มีคนออกแบบระบบนั้นมาอย่างไร และข้อมูลรวมถึงแบบจำลองที่คอยชี้นำระบบนั้น ได้แฝงวิสัยทัศน์เกี่ยวกับบุคคลมนุษย์และสังคมแบบใดเอาไว้

105. เพื่อให้ AI เคารพศักดิ์ศรีความเป็นมนุษย์และรับใช้ประโยชน์ส่วนรวมอย่างแท้จริง เราต้องกำหนดความรับผิดชอบอย่างชัดเจนในทุกขั้นตอน: ตั้งแต่ผู้ที่ออกแบบและพัฒนาระบบเหล่านี้ ไปจนถึงผู้ที่ใช้งานและผู้ที่พึ่งพาระบบเหล่านี้ในการตัดสินใจที่เป็นรูปธรรม อย่างไรก็ตาม ในหลายกรณี กระบวนการภายในที่นำไปสู่ผลลัพธ์ของ AI ยังคงคลุมเครือ ซึ่งทำให้การระบุความรับผิดชอบและการแก้ไขข้อผิดพลาดทำได้ยากยิ่งขึ้น นี่คือจุดที่ความรับผิดชอบแบบตรวจสอบได้ (accountability) กลายเป็นสิ่งสำคัญสูงสุด: สังคมต้องมีความเป็นไปได้ที่จะระบุว่าใครจะต้อง "ชี้แจง" ต่อการตัดสินใจ ใครต้องอธิบายเหตุผล ใครต้องตรวจสอบ และเมื่อจำเป็น ใครต้องท้าทายคำตัดสินนั้น และใครต้องรับผิดชอบเยียวยาความเสียหายใดๆ ที่เกิดขึ้น

106. การเรียกร้องให้เกิดความรอบคอบ การประเมินอย่างเข้มงวด และแม้แต่การชะลอความเร็วในการนำ AI มาใช้ในบางครั้ง ไม่ได้หมายความว่าเรากำลังต่อต้านความก้าวหน้า; ในทางกลับกัน สิ่งนี้คือการแสดงออกถึงความใส่ใจอย่างรับผิดชอบที่มีต่อครอบครัวมนุษย์ ความต้องการนี้ยิ่งทวีความเร่งด่วนมากขึ้น เมื่อพิจารณาจากความไม่สมดุลที่เกิดขึ้นบ่อยครั้งระหว่างความเร็วของการเติบโตทางเทคโนโลยี กับการพัฒนาที่เชื่องช้ากว่าของความตระหนักรู้ บรรทัดฐาน มาตรการคุ้มครอง และสถาบันที่สามารถควบคุมผลกระทบของมันได้ การเพียงแค่อ้างถึงจริยธรรมในเชิงนามธรรมนั้นไม่เพียงพอ; แต่เราต้องการกรอบทางกฎหมายที่แข็งแกร่ง การตรวจสอบโดยอิสระ ผู้ใช้ที่ได้รับข้อมูลครบถ้วน และระบบการเมืองที่ไม่ละทิ้งความรับผิดชอบของตน มิฉะนั้น การเปลี่ยนแปลงจะถูกควบคุมโดยกรอบความคิดทางเทคโนโลยีเพียงอย่างเดียว และจะถูกนำเสนอว่าเป็นสิ่งจำเป็นและหลีกเลี่ยงไม่ได้ ซึ่งท้ายที่สุดแล้ว มันจะยัดเยียดกฎเกณฑ์ที่ถูกสร้างขึ้นโดยผู้ที่ควบคุมข้อมูล โครงสร้างพื้นฐาน และพลังการประมวลผล

107. เราไม่อาจพอใจอยู่เพียงแค่การเรียกร้องให้มีการสร้างศีลธรรมให้แก่เครื่องจักร — หรือที่เรียกว่าการ "ปรับตำแหน่ง" (alignment) ของ AI ให้เข้ากับคุณค่าของมนุษย์ — โดยปราศจากความกล้าหาญที่จะยืนกรานในเงื่อนไขที่สำคัญยิ่งกว่า: นั่นคือ สังคมต้องมีความเป็นไปได้ที่จะถกเถียงกันอย่างเปิดเผยเกี่ยวกับกรอบทางจริยธรรมที่เกี่ยวข้อง และนำกรอบเหล่านั้นมาอยู่ภายใต้มาตรฐานความยุติธรรมทางสังคมที่ใช้ร่วมกัน มิฉะนั้น ผู้ที่ควบคุม AI ก็จะยัดเยียดวิสัยทัศน์ทางศีลธรรมของตนเอง ซึ่งจะกลายมาเป็นโครงสร้างพื้นฐานที่มองไม่เห็นของระบบเหล่านี้ การมี AI ที่มีศีลธรรมมากขึ้นนั้นยังไม่เพียงพอ หากศีลธรรมนั้นถูกกำหนดโดยคนเพียงไม่กี่คน สิ่งที่เราต้องการคือ การมีส่วนร่วมทางการเมืองที่แข็งขันมากขึ้น ซึ่งมีความสามารถในการชะลอสิ่งต่างๆ ลงเมื่อทุกสิ่งกำลังเร่งความเร็ว และสามารถปกป้องโอกาสให้ชุมชนต่างๆ ยังคงสามารถเข้าไปมีส่วนร่วมและตั้งคำถามได้

108. อันที่จริง เช่นเดียวกับการเปลี่ยนแปลงทางเทคโนโลยีครั้งใหญ่ทุกครั้ง AI มีแนวโน้มที่จะขยายอำนาจของผู้ที่มีทรัพยากรทางเศรษฐกิจ ความเชี่ยวชาญ และการเข้าถึงข้อมูลอยู่แล้ว เมื่อพิจารณาจากหลักการของประโยชน์ส่วนรวมและจุดหมายสากลของทรัพย์สิน สิ่งนี้ก่อให้เกิดความกังวลอย่างร้ายแรง เนื่องจากกลุ่มคนกลุ่มเล็กๆ แต่มีอิทธิพลสูง สามารถกำหนดทิศทางข้อมูลและรูปแบบการบริโภค สามารถแทรกแซงกระบวนการทางประชาธิปไตย และสามารถควบคุมพลวัตทางเศรษฐกิจให้เอื้อประโยชน์ต่อตนเอง ซึ่งเป็นการบ่อนทำลายความยุติธรรมทางสังคมและความเป็นน้ำหนึ่งใจเดียวกันระหว่างชนชาติต่างๆ ด้วยเหตุนี้ จึงเป็นเรื่องสำคัญอย่างยิ่งที่การใช้งาน AI โดยเฉพาะอย่างยิ่งเมื่อเกี่ยวข้องกับสินค้าสาธารณะและสิทธิขั้นพื้นฐาน จะต้องได้รับการชี้นำโดยเกณฑ์ที่ชัดเจนและการตรวจสอบที่มีประสิทธิภาพ ซึ่งตั้งอยู่บนรากฐานของการมีส่วนร่วมและหลักการเสริมหน้าฐานะ ชุมชนและองค์กรตัวกลางต้องไม่ถูกลดบทบาทลงเป็นเพียงผู้รับการตัดสินใจที่เกิดขึ้นในที่อื่นอย่างเฉื่อยชา; พวกเขาต้องสามารถมีส่วนร่วมในการแยกแยะและตรวจสอบ นอกจากนี้ เราไม่อาจปล่อยให้การเป็นเจ้าของข้อมูลตกอยู่ในมือของภาคเอกชนเพียงอย่างเดียว แต่รัฐต้องเข้ามาควบคุมอย่างเหมาะสม ข้อมูลคือผลผลิตจากผู้มีส่วนร่วมจำนวนมาก และเราไม่ควรปฏิบัติต่อข้อมูลราวกับว่ามันเป็นสิ่งที่เราสามารถนำไปขายทิ้ง หรือฝากฝังไว้กับคนเพียงไม่กี่คนได้ เรามีความจำเป็นต้องใช้ความคิดสร้างสรรค์เพื่อจัดการข้อมูลในฐานะทรัพยากรส่วนรวมหรือทรัพยากรที่ใช้ร่วมกัน ด้วยจิตวิญญาณแห่งการมีส่วนร่วม ดังที่สมเด็จพระสันตะปาปายอห์น ปอล ที่ 2 ได้ทรงเสนอแนะไว้แล้วเกี่ยวกับเรื่องทรัพย์สินส่วนรวม

109. หลักการของหลักคำสอนทางสังคมมอบกรอบแนวคิดสำหรับการทำความเข้าใจความเป็นจริงใหม่นี้ ในโลกที่ข้อมูล ทรัพยากรการคำนวณ และอิทธิพลด้านกฎระเบียบยังคงตกอยู่ในมือของคนเพียงไม่กี่คน การพูดถึงประโยชน์ส่วนรวมหมายถึง การเปิดโปงรูปแบบใหม่ของความไม่สมดุลทางญาณวิทยา เศรษฐกิจ และการเมือง และหมายถึงการระบุตัวตนของการผูกขาดรูปแบบใหม่ของ AI การพูดถึงจุดหมายสากลของทรัพย์สินหมายถึง การค้นหาวิธีการรับประกันว่าทุกคนจะสามารถเข้าถึงเทคโนโลยีและการศึกษาที่จำเป็นเพื่อการใช้งานสิ่งเหล่านั้น การพูดถึงหลักการเสริมหน้าฐานะเรียกร้องให้เราปกป้องความสามารถของชุมชนในการตัดสินใจเลือกและแก้ไขข้อผิดพลาด แทนที่จะจำกัดบทบาทของพวกเขาไว้เพียงแค่การตรวจสอบหลังจากที่คนอื่นกำหนดมาตรฐานไว้แล้ว การพูดถึงความเป็นน้ำหนึ่งใจเดียวกันบีบบังคับให้เราตระหนักถึงคนงานที่ถูกซ่อนเร้น ซึ่งมักถูกเอารัดเอาเปรียบ เพื่อทำหน้าที่ค้ำจุนระบบอัลกอริทึม การพูดถึงความยุติธรรมเรียกร้องให้เราตั้งคำถามเกี่ยวกับการกระจายอำนาจระดับโลก ซึ่งเป็นตัวตัดสินว่าในความเป็นจริงแล้ว ใครคือผู้ที่สามารถฝึกฝนแบบจำลองเหล่านี้ และใครเป็นเพียงแค่ผู้ที่ต้องยอมรับมัน ในทำนองเดียวกัน มันหมายถึงการตระหนักว่าความยุติธรรมทางสังคมไม่ใช่เพียงเป้าหมายที่เราต้องคอยปกป้องหลังจากที่เทคโนโลยีถูกนำมาใช้งานแล้วเท่านั้น แต่มันคือเงื่อนไขสำคัญที่จะต้องเข้ามามีส่วนในการออกแบบเทคโนโลยีเหล่านั้นตั้งแต่จุดเริ่มต้น

110. ประการสุดท้าย ข้าพเจ้าต้องการใช้สำนวน "การปลดอาวุธ" (to disarm) ซึ่งเป็นสำนวนที่โดนใจข้าพเจ้า การปลดอาวุธ AI หมายถึง การปลดปล่อยมันจากกรอบความคิดของการแข่งขันที่ "ติดอาวุธ" ซึ่งปัจจุบันไม่ได้จำกัดอยู่เพียงแค่ในบริบททางทหารเท่านั้น แต่ยังเป็นปรากฏการณ์ทางเศรษฐกิจและการรับรู้ด้วย สิ่งนี้นำไปสู่การแข่งขันเพื่อสร้างอัลกอริทึมที่ทรงพลังยิ่งขึ้นและชุดข้อมูลที่ใหญ่ขึ้น ซึ่งถูกผลักดันโดยความปรารถนาที่จะครอบงำทางภูมิรัฐศาสตร์หรือเชิงพาณิชย์ การปลดอาวุธหมายถึง การทำลายความน่าเชื่อถือของสมมติฐานที่ว่า อำนาจทางเทคนิคจะมอบสิทธิในการปกครองให้โดยอัตโนมัติ การปลดอาวุธไม่ได้หมายถึงการปฏิเสธเทคโนโลยี แต่หมายถึงการป้องกันไม่ให้มันเข้ามาครอบงำมนุษยชาติ มันหมายถึงการปลดปล่อยเทคโนโลยีจากการควบคุมแบบผูกขาด และเปิดกว้างให้มีการอภิปรายและถกเถียง ซึ่งจะทำให้เทคโนโลยีเป็นมิตรกับมนุษย์ และคืนมันกลับสู่ความหลากหลายของวัฒนธรรมและวิถีชีวิตของมนุษย์ ภารกิจของเราในวันนี้ไม่ได้มีแค่เรื่องจริยธรรมหรือเทคนิคเท่านั้น แต่มันเป็นภารกิจเชิงนิเวศวิทยาในความหมายที่ลึกซึ้งที่สุด เพราะมันเกี่ยวข้องกับมิติใหม่ของบ้านร่วมกันของเรา AI ได้กลายมาเป็นสภาพแวดล้อมที่เราจมดิ่งอยู่ภายใน และเป็นพลังที่เราต้องเข้าไปเกี่ยวข้อง ด้วยเหตุนี้ การเพียงแค่ออกกฎระเบียบเพื่อควบคุมมันจึงไม่เพียงพอ; เราต้องปลดอาวุธมัน ทำให้มันเปิดรับ และทำให้ทุกคนเข้าถึงได้

111. ข้าพเจ้าปรารถนาที่จะส่งคำวิงวอนพิเศษไปยังผู้ที่พัฒนาปัญญาประดิษฐ์ ในความหมายหนึ่ง นวัตกรรมทางเทคโนโลยีสามารถเป็นตัวแทนของการที่มนุษย์เข้าไปมีส่วนร่วมในการทรงสร้างอันศักดิ์สิทธิ์ของพระเจ้า ดังนั้น นักพัฒนาจึงแบกรับความรับผิดชอบทางจริยธรรมและจิตวิญญาณอย่างลึกซึ้ง เพราะการตัดสินใจออกแบบแต่ละครั้งย่อมสะท้อนถึงวิสัยทัศน์ที่พวกเขามีต่อมนุษยชาติ เช่นเดียวกับที่ผู้สร้างสรรค์งานศิลปะหรืองานวรรณกรรมต้องคำนึงถึงคุณค่าที่ผลงานของตนสื่อสารออกมา นักพัฒนาก็ได้รับเสียงเรียกให้ฝังคุณค่าต่างๆ ลงในโครงการของตนด้วยความจริงจังที่เหมาะสม: ด้วยความโปร่งใส ด้วยความรับผิดชอบต่อชุมชนที่ได้รับผลกระทบ และด้วยความเอาใจใส่อย่างรอบคอบเพื่อให้มั่นใจว่าสิ่งที่พวกเขากำลังบ่มเพาะอยู่นั้น คือความดีงามที่แท้จริง

สิ่งที่มนุษยชาติไม่อาจสูญเสียไป
(What must not be lost)

112. หลังจากที่เราได้พิจารณาประเด็นความรับผิดชอบและการกำกับดูแล AI ไปแล้ว ตอนนี้เราต้องกลับมาสู่คำถามหลักของเรา: การปกป้องความเป็นมนุษย์ของเราหมายความว่าอย่างไร? ความเสี่ยงไม่ได้ขยายขอบเขตไปไกลกว่าแค่การนำเทคโนโลยีบางอย่างไปใช้ในทางที่ผิดเท่านั้น สิ่งที่ร้ายแรงกว่านั้นคือ กระบวนทัศน์ทางเทคโนโลยีที่แผ่ขยายไปทั่วและครอบงำชีวิตเรา ซึ่งถูกขยายให้รุนแรงขึ้นโดยการปฏิวัติดิจิทัลและ AI กำลังคุกคามที่จะทำให้วิสัยทัศน์ที่ต่อต้านความเป็นมนุษย์กลายเป็นเรื่องปกติ ในวิสัยทัศน์ดังกล่าว สังคมมองว่าความสมบูรณ์ของชีวิตมีค่าเท่ากับการมีมากขึ้น การลดความอ่อนแอ การกำจัดความไม่แน่นอน และการควบคุมเบ็ดเสร็จ เมื่อประสิทธิภาพกลายมาเป็นมาตรวัดคุณค่าสูงสุด มนุษย์จะถูกล่อลวงให้มองตนเองว่าเป็นเพียงโครงการที่ต้องพัฒนาให้ดีที่สุด แทนที่จะมองว่าตนคือบุคคลที่พระเจ้าทรงเรียกให้มาสร้างความสัมพันธ์และเป็นหนึ่งเดียวกัน

113. ในความเป็นจริง การยกเอามิติใดมิติหนึ่งของการดำรงอยู่ของมนุษย์ขึ้นมาเป็นสิ่งสมบูรณ์สูงสุด ถือเป็นความผิดพลาดเสมอ แท้จริงแล้ว ความยุ่งเหยิงไม่ได้เกิดขึ้นจากความขาดแคลนเท่านั้น; แม้แต่การเติบโตที่ปราศจากการควบคุมก็สามารถทำให้เกิดความยากจนได้เช่นกัน ในระบบนิเวศ ความสมดุลจะพังทลายลงเมื่อสิ่งมีชีวิตสายพันธุ์หนึ่งขยายตัวโดยไปเบียดเบียนสายพันธุ์อื่น; ในชีวิตมนุษย์ สิ่งที่คล้ายกันก็เกิดขึ้นเมื่อความสามารถด้านใดด้านหนึ่งอ้างตนว่าเป็นมาตรวัดของทุกสิ่ง ดังนั้น เมื่อสติปัญญาถูกยกให้เป็นสิ่งสมบูรณ์สูงสุด มันย่อมไปบดบังมิติที่สำคัญอื่นๆ ของชีวิต เช่น ความรักผูกพัน ความตั้งใจ ความมุ่งมั่น และความสัมพันธ์ ในทำนองเดียวกัน หากสังคมปล่อยให้อำนาจทางเทคนิคปราศจากความสมดุล อำนาจนั้นไม่ได้ทำให้เรามีความสามารถมากขึ้น; แต่มันทำให้เราโดดเดี่ยวมากขึ้น และทำให้เราเสี่ยงต่อการถูกครอบงำและถูกกีดกันมากขึ้น จุดวิกฤตินี้ไม่ได้หมายความว่าเรากำลังต่อต้านสติปัญญา แต่มันทำหน้าที่เป็นเครื่องเตือนใจว่า เมื่อใดก็ตามที่สติปัญญาหันมาหมกมุ่นอยู่กับตนเอง เมื่อนั้นมันย่อมสูญเสียจุดประสงค์ที่แท้จริง ซึ่งก็คือการรับใช้ชีวิตและบุคคลมนุษย์ไป

114. สังคมไม่ได้วัดคุณภาพของอารยธรรมจากพลังของเครื่องมือที่อารยธรรมนั้นมี แต่วัดจากความใส่ใจดูแลที่อารยธรรมนั้นสามารถมอบให้ได้ และวัดจากความสามารถในการรับรู้ว่าผู้อื่นคือบุคคลที่มีตัวตน ไม่ใช่เป็นเพียงแค่หน้าที่การทำงาน ความสามารถในการดูแลซึ่งกันและกันคือมิติพื้นฐานของความเป็นมนุษย์ของเรา ซึ่งเราเรียนรู้และเชี่ยวชาญผ่านประสบการณ์ที่ใช้ชีวิตจริง การอ่านนิทานให้เด็กฟัง การอยู่เป็นเพื่อนผู้สูงอายุ และการจัดบ้านให้ต้อนรับผู้มาเยือน ล้วนเป็นท่าทีเรียบง่ายที่มักหยั่งรากอยู่ในชีวิตครอบครัว สิ่งเหล่านี้สอนให้เราเห็นคุณค่าของการดูแลเอาใจใส่ในระดับสังคม และฝึกฝนเราให้รับรู้ว่าผู้อื่นคือบุคคลที่คู่ควรแก่ความสนใจ เทคโนโลยีสามารถเข้ามาสนับสนุนการดูแลซึ่งกันและกันระหว่างผู้คนได้เช่นกัน ตัวอย่างเช่น การมอบเครื่องมือที่ช่วยให้เราคาดการณ์และจัดระเบียบสิ่งต่างๆ โดยไม่ทำลายเสรีภาพและวิจารณญาณของมนุษย์ เพราะท้ายที่สุดแล้ว มนุษย์คือประธานแห่งความสัมพันธ์ และต้องเป็นผู้รับผิดชอบต่อการตัดสินใจของตนเอง

เรื่องเล่าที่แฝงอยู่: ลัทธิทรานส์ฮิวแมน (Transhumanism) และ ลัทธิโพสต์ฮิวแมน (Posthumanism)
(Underlying narratives: transhumanism and posthumanism)

115. เพื่อพยายามสาดส่องแสงสว่างให้เห็นถึงสมมติฐานทางวัฒนธรรมที่ตามติดมากับการปฏิวัติดิจิทัลที่กำลังดำเนินอยู่ ข้าพเจ้าต้องการหันความสนใจของพวกเราไปยังกระแสความคิดบางกระแส ซึ่งตีความความก้าวหน้าว่าเป็นการก้าวข้ามสภาพความเป็นมนุษย์ และกระแสเหล่านี้มักถูกจัดกลุ่มรวมกันภายใต้ชื่อ ลัทธิทรานส์ฮิวแมน (transhumanism) และ ลัทธิโพสต์ฮิวแมน (posthumanism) มุมมองเหล่านี้ก่อตัวเป็นฉากหลังทางอุดมการณ์ที่ปรากฏอยู่ในศูนย์กลางอำนาจทางเทคโนโลยีบางแห่ง และเข้าไปยึดครองจินตนาการส่วนรวมในรูปแบบที่ถูกทำให้เข้าใจง่าย โดยเฉพาะในสื่อและบนโซเชียลเน็ตเวิร์ก พวกเขามักจะส่งเสริมความกระตือรือร้นต่อเทคโนโลยีใหม่ๆ ผ่านวิสัยทัศน์แห่งอนาคตที่พูดถึง "มนุษย์ที่ถูกยกระดับประสิทธิภาพ" (enhanced human being) หรือ "ลูกผสมระหว่างมนุษย์กับเครื่องจักร" (human-machine hybrid)

116. ทรานส์ฮิวแมนและโพสต์ฮิวแมนครอบคลุมกระแสความคิดและความรู้สึกที่หลากหลาย ซึ่งทำให้การนิยามพวกมันให้ชัดเจนเป็นหนึ่งเดียวนั้นทำได้ยาก เราสามารถเปรียบกระแสเหล่านี้ได้กับหมู่เกาะของ "เกาะ" ทางความคิด ที่แม้มันจะแยกจากกัน แต่มันก็เชื่อมต่อกันด้วย "ทะเล" แห่งสมมติฐานเดียวกัน นั่นคือ การให้บทบาทสำคัญกับเทคโนโลยี และความทะเยอทะยานที่จะก้าวข้ามขีดจำกัดของสภาพความเป็นมนุษย์ โดยทั่วไป ทรานส์ฮิวแมนวาดภาพการยกระดับมนุษย์ผ่านเทคโนโลยีต่างๆ — เช่น ชีวการแพทย์ วิศวกรรมร่างกาย อุปกรณ์ และอัลกอริทึม — โดยมีจุดมุ่งหมายเพื่อเพิ่มประสิทธิภาพและความสามารถ โพสต์ฮิวแมน โดยเฉพาะในรูปแบบที่รุนแรงกว่า ก้าวไปไกลกว่านั้น: มันท้าทายแนวคิดที่ให้มนุษย์เป็นศูนย์กลาง (anthropocentrism) และวาดภาพการผสมผสานระหว่างมนุษย์ เครื่องจักร และสิ่งแวดล้อม แม้กระทั่งคาดการณ์ถึงขีดจำกัดที่มนุษยชาติจะก้าวข้ามตนเองไปสู่วิวัฒนาการขั้นใหม่ แม้ว่าแนวคิดเหล่านี้จะยังคงเป็นเพียงการเก็งกำไรเป็นส่วนใหญ่ แต่มันกลับได้รับความสำคัญจากการเข้าไปปรับเปลี่ยนจินตนาการส่วนรวม และส่งผลกระทบต่อการตัดสินใจทางสังคม เศรษฐกิจ และการเมือง

117. จากมุมมองของหลักคำสอนทางสังคมของพระศาสนจักร ประเด็นสำคัญไม่ใช่เรื่องของการใช้เทคโนโลยี แต่คือวิสัยทัศน์ที่แฝงอยู่เบื้องหลังเทคโนโลยีนั้น หากเราปฏิบัติต่อบุคคลมนุษย์ราวกับว่าพวกเขาเป็นสิ่งที่ต้องถูกทำให้สมบูรณ์แบบหรือต้องถูกก้าวข้ามไป มันจะทำให้เรายอมรับได้ง่ายขึ้นว่า ชีวิตบางชีวิตมีประโยชน์น้อยกว่า เป็นที่ต้องการน้อยกว่า หรือมีคุณค่าน้อยกว่า ในนามของความก้าวหน้า สังคมอาจเริ่มอ้างความชอบธรรมให้กับ "การเสียสละที่จำเป็น" โดยผลักภาระไปให้ผู้ที่เปราะบางที่สุด เพื่อแลกกับสิ่งที่พวกเขาคิดว่าเป็นการปรับปรุงเผ่าพันธุ์ให้ดีที่สุด ในประเด็นนี้ คำเตือนของสมเด็จพระสันตะปาปาเปาโลที่ 6 ที่ข้าพเจ้ากล่าวถึงก่อนหน้านี้ ยังคงแสดงให้เห็นถึงวิสัยทัศน์อันกว้างไกลของพระองค์: แท้จริงแล้ว ความก้าวหน้าทางวิทยาศาสตร์และเทคโนโลยี เมื่อใดที่มันถูกตัดขาดจากความก้าวหน้าทางศีลธรรมและสังคม ในท้ายที่สุด มันจะหันกลับมาทำร้ายมนุษยชาติเสียเอง ด้วยเหตุนี้ เราต้องแยกแยะให้ชัดเจน การบูรณาการเทคโนโลยีเข้ากับวิสัยทัศน์ที่เน้นมนุษย์และเน้นความสัมพันธ์เป็นศูนย์กลางนั้นเป็นเรื่องหนึ่ง; แต่การปล่อยให้วิสัยทัศน์ที่ลดทอนคุณค่าขีดจำกัดของมนุษย์ และสัญญาว่าจะมอบ "ความรอดพ้น" ในรูปแบบทางเทคนิคล้วนๆ มาเป็นผู้คอยชี้นำนั้นเป็นอีกเรื่องหนึ่ง