หุ่นยนต์สังหาร

ความเร็วของนวัตกรรม มักสวนทางกับความเชื่องช้าของกฎหมายเสมอ วันนี้ช่องว่างดังกล่าว กำลังขยายกว้างจนน่ากลัว เมื่อโลกเผชิญกับการก้าวกระโดดของ “ปัญญาประดิษฐ์” (AI) คำเตือนล่าสุดจาก “อันโตนิโอ กูเตอร์เรส” เลขาธิการองค์การสหประชาชาติ (UN) ในการประชุม Global Dialogue on AI Governance ที่นครเจนีวา เป็นการส่งสัญญาณเตือนภัย ขั้นสูงสุดว่า มนุษยชาติกำลังปล่อยให้เกิด “การทดลองกับสังคม” โดยไม่มีแผนรองรับใด ๆ เทคโนโลยี ที่เคยเป็นเพียงผู้ช่วยฉลาด ๆ ได้กลายสภาพเป็นระบบที่ตัดสินใจได้ด้วยตัวเองไปแล้ว ความน่ากังวลประการแรกคือสิ่งที่กูเตอร์เรสเรียกว่า ยุคของ Vibe Coding หรือการสั่งการ ให้ AI สร้างโปรแกรมขึ้นมาผ่านภาษาธรรมชาติ แทนการเขียนโค้ดแบบเดิม ปรากฏการณ์นี้ทลายกำแพงเทคโนโลยีลงอย่างสิ้นเชิง ทำให้ใครก็สามารถสร้างเครื่องมือดิจิทัลได้ แต่ทว่าความสะดวกสบายนั้นกลับซ่อนพิษร้ายของการแพร่กระจายข้อมูลเท็จ เมื่อเส้นแบ่งระหว่างความจริงกับสิ่งจำลองเลือนรางลง สังคมเริ่มสูญเสียภูมิต้านทานการคัดกรอง ผู้คนเลือกที่จะเชื่อผลลัพธ์จากหน้าจอในทันที โดยไม่ได้ตรวจสอบความถูกต้องของข้อมูลเหล่านั้นเลย ประเด็นถัดมาที่เปรียบเสมือนระเบิดเวลา คือ “ผลกระทบต่อกลุ่มเปราะบางอย่างเด็กและเยาวชน” เลขาฯ ยูเอ็นได้เปรียบเทียบไว้อย่างน่าสนใจว่า ยาและของเล่นทุกชนิดบนโลกนี้ต่างต้องผ่าน การตรวจสอบมาตรฐานความปลอดภัยอย่างเข้มงวดก่อนจะถึงมือเด็กเพื่อป้องกันอันตรายทางกายภาพ แต่ในทางกลับกัน AI ซึ่งส่งผลกระทบต่อจิตใจ พัฒนาการ คลื่นความคิดและการเรียนรู้ของเด็ก กลับถูกปล่อยให้แทรกซึมเข้ามาอยู่ในชีวิตประจำวันอย่างไร้ราวกั้นความปลอดภัย เด็ก ๆ ใช้ AI ในการตอบคำถามส่วนตัว เป็นเพื่อนคุยยามเหงา หรือแม้แต่เป็นที่พึ่งพาทางอารมณ์ เพื่อแก้ปัญหานี้ ยูเอ็นจึงได้เสนอแนวคิด AI Child Safety Pledge หรือ คำมั่นความปลอดภัยสำหรับเด็ก ซึ่งจะเป็นกรอบข้อบังคับให้บริษัทเทคโนโลยีต้องพิสูจน์ให้ได้ว่า ระบบของตนปลอดภัยจากการแสวงหา ประโยชน์ทางเพศ มีระบบตรวจจับสัญญาณความทุกข์ใจและสามารถส่งต่อเด็กไปยังผู้เชี่ยวชาญที่เป็นมนุษย์ เพราะมนุษยชาติไม่ควรยอมรับให้เด็กคนใดต้องกลายเป็นหนูทดลองของเทคโนโลยีไร้การควบคุม นอกจากนี้ปัญหาความเหลื่อมล้ำระดับโลกยังอาจทวีความรุนแรงขึ้นจนกลายสภาพเป็น “ความเหลื่อมล้ำด้าน AI” เนื่องจากอำนาจในการพัฒนาและทรัพยากรคอมพิวเตอร์ระดับสูงกระจุกตัวอยู่เพียงไม่กี่บริษัทและไม่กี่ประเทศ ทางออกที่ยูเอ็นนำเสนอคือการจัดตั้ง “กองทุน AI ระดับโลก : Global Fund for AI) เพื่อกระจายทรัพยากรสนับสนุนประเทศกำลังพัฒนาให้มีโอกาสสร้างบุคลากรและเข้าถึงขุมพลังในการประมวลผลข้อมูล ขณะเดียวกันด้านสิ่งแวดล้อมเป็นสิ่งที่จะมองข้ามไม่ได้ เพราะศูนย์ข้อมูล (Data Center) ทั่วโลก กำลังสูบกินพลังงานมหาศาล และปล่อยก๊าซเรือนกระจกเพิ่มขึ้น จึงมีข้อเรียกร้องให้บริษัทเทคโนโลยี เปิดเผยตัวเลขผลกระทบทางสิ่งแวดล้อม และเร่งเปลี่ยนมาใช้พลังงานหมุนเวียน 100% ภายในปี 2030 ประเด็นท้าทายศีลธรรมขั้นสูงสุดของมนุษย์ย่อมหนีไม่พ้น “การนำ AI ไปใช้ในทางทหาร”โดยเฉพาะระบบอาวุธอัตโนมัติ (Autonomous Weapons) หรือที่กูเตอร์เรสเรียกว่า “หุ่นยนต์สังหาร” เครื่องจักรเหล่านี้สามารถค้นหา คัดเลือกเป้าหมายและลั่นไกสังหารชีวิตมนุษย์ได้ โดยไม่ต้องผ่านการอนุมัติหรือมีจิตสำนึกของมนุษย์ควบคุมอยู่เลย ถือเป็นการละเมิดหลักมนุษยธรรมอย่างร้ายแรง การเรียกร้องให้มีกฎหมายสากลเพื่อ “แบน” อาวุธประเภทนี้อย่างเด็ดขาด จึงเป็นสิ่งที่ไม่สามารถรอช้าได้อีกต่อไป การประชุมที่เจนีวา ถือเป็นจุดเริ่มต้นของการรวมตัวระดับรัฐบาลเพื่อร่างกติกาโลก แม้ว่ายังไม่มีสถานะเป็นสนธิสัญญาที่มีผลผูกพันทางกฎหมาย แต่อย่างน้อยนับเป็นการปักหมุดหมายครั้งสำคัญ ความท้าทายหลังจากนี้คือการเปลี่ยน “คำเตือน” ให้กลายเป็น “กลไกบังคับใช้จริง” อย่างทันท่วงที