อีลอน มัสก์และผู้นำและผู้เชี่ยวชาญกว่า 100 คนปัญญาประดิษฐ์(AI) ได้รวมตัวกันเรียกร้องให้สหประชาชาติให้คำมั่นที่จะสั่งห้ามเทคโนโลยีหุ่นยนต์นักฆ่าโดยเด็ดขาด
หนึ่งจดหมายเปิดผนึกลงนามโดย Musk, Mustafa Suleyman จาก Google Deepmind และผู้เชี่ยวชาญด้าน AI และหุ่นยนต์อีก 114 คน เรียกร้องให้สหประชาชาติป้องกัน "การปฏิวัติครั้งที่สามในการทำสงคราม" ด้วยการห้ามการพัฒนาทั้งหมดระบบอาวุธอัตโนมัติร้ายแรง-
จดหมายเปิดผนึกที่เผยแพร่ให้ตรงกับการประชุม AI ที่ใหญ่ที่สุดในโลก –อิจซีไอ 2017ซึ่งจะจัดขึ้นที่เมืองเมลเบิร์น ประเทศออสเตรเลียในสัปดาห์นี้ เป็นการเตือนถึงอนาคตอันใกล้นี้ที่เครื่องจักรอิสระจะสามารถเลือกและโจมตีเป้าหมายของตนเองได้ รวมถึงมนุษย์ผู้บริสุทธิ์ นอกเหนือจากนักรบของศัตรู
“เมื่อพัฒนาแล้ว พวกเขาจะอนุญาตให้มีการสู้รบกันในขนาดที่ใหญ่โตกว่าที่เคยเป็นมา และในเวลาที่รวดเร็วเกินกว่าที่มนุษย์จะเข้าใจได้”สมาคมเขียน-
“สิ่งเหล่านี้อาจเป็นอาวุธแห่งความหวาดกลัว อาวุธที่เผด็จการและผู้ก่อการร้ายใช้กับประชากรผู้บริสุทธิ์ และอาวุธที่ถูกแฮ็กเพื่อแสดงพฤติกรรมที่ไม่พึงประสงค์”
นี่ไม่ใช่ครั้งแรกที่ Musk และผู้มีทัศนคติต่อโลกของเขามีรวมตัวกันเพื่อดึงดูดความสนใจต่อภัยคุกคามจากอาวุธอัตโนมัติที่มีต่อมนุษยชาติ
หัวหน้า SpaceX และ Teslaยังอยู่เบื้องหลัง OpenAI อีกด้วยซึ่งเป็นองค์กรไม่แสวงผลกำไรที่อุทิศให้กับการพัฒนาการวิจัย AI อย่างมีจริยธรรม
แม้จะมีความกังวลจากผู้เชี่ยวชาญด้าน AI ก็ตามความล่าช้าอย่างต่อเนื่องในการพัฒนาการห้ามที่มีประสิทธิภาพการต่อต้านอาวุธอัตโนมัติทำให้บางคนกลัวอันตรายอาจจะอยู่นอกเหนือระเบียบก็ได้โดยเฉพาะอย่างยิ่งเมื่อระบบ AI กำลังพัฒนาอย่างรวดเร็ว
“เรามีเวลาไม่นานที่จะดำเนินการ” จดหมายเปิดผนึกอ่าน- “เมื่อกล่องแพนโดร่าถูกเปิดออก มันจะปิดได้ยาก”
"การปฏิวัติครั้งที่สาม" ที่นักรณรงค์อ้างถึงวางตำแหน่งหุ่นยนต์นักฆ่าในฐานะผู้สืบทอดทางเทคโนโลยีต่อการพัฒนาทางประวัติศาสตร์ของดินปืนและอาวุธนิวเคลียร์ ซึ่งเป็นนวัตกรรมที่ไม่ได้ปรับปรุงโลกที่เราอาศัยอยู่อย่างแน่นอน
ในขณะที่จดหมายฉบับใหม่ไม่ใช่กรณีแรกที่ผู้เชี่ยวชาญได้ใช้ประโยชน์จาก IJCAIเพื่อชี้แจงว่านี่เป็นครั้งแรกที่ตัวแทนของบริษัท AI และหุ่นยนต์จาก 26 ประเทศได้แสดงจุดยืนร่วมกันในประเด็นนี้ โดยร่วมเป็นนักวิจัยอิสระ ได้แก่สตีเฟน ฮอว์คิงโนม ชอมสกี และสตีฟ วอซเนียก ผู้ร่วมก่อตั้ง Apple
“จำนวนบริษัทและบุคคลที่มีชื่อเสียงที่ได้ลงนามในจดหมายฉบับนี้ ตอกย้ำคำเตือนของเราว่านี่ไม่ใช่สถานการณ์สมมติ แต่เป็นข้อกังวลที่แท้จริงและเร่งด่วนมากซึ่งจำเป็นต้องดำเนินการทันที”Ryan Gariepy ผู้ก่อตั้ง Clearpath Robotics กล่าว-
"เราไม่ควรละสายตาจากข้อเท็จจริงที่ว่า ระบบอาวุธอัตโนมัติกำลังอยู่ในจุดสูงสุดของการพัฒนา ซึ่งต่างจากการปรากฏตัวของ AI อื่นๆ ที่ยังคงอยู่ในขอบเขตของนิยายวิทยาศาสตร์"
ประเด็นสุดท้ายคือประเด็นที่ควรเน้น แม้ว่าฝันร้ายขั้นสูงสุดของระบบอาวุธอัตโนมัติอาจเป็นอนาคตที่เต็มไปด้วย T-800 เช่นเดียวกับที่อยู่ด้านบนสุดของหน้านี้ แต่ความจริงก็คือเครื่องจักรสังหารที่ใช้ AI นั้นมีอยู่แล้ว
ความสามารถอัตโนมัติหรือกึ่งอิสระกำลังถูกสร้างขึ้นในอาวุธเช่นซัมซุง SGR-A1ปืนยาม, theบีเออี ซิสเต็มส์ ทารานิสโดรน และนักล่าทะเลของ DARPAเรือดำน้ำ
กล่าวอีกนัยหนึ่ง เมล็ดพันธุ์ทางเทคโนโลยีของหุ่นยนต์นักฆ่าแห่งอนาคตนั้นมีอยู่แล้วทั้งทางบก ทางทะเล และทางอากาศ และกฎหมายที่มีประสิทธิภาพในการควบคุมเครื่องจักรอันตรายเหล่านี้ (และอุตสาหกรรมที่มุ่งสร้างพวกมันอย่างนรก) ยังไม่ได้ถูกเขียนลงไป .
ไม่มีเวลาเหมือนปัจจุบัน
“เทคโนโลยีเกือบทุกประเภทสามารถใช้ได้ทั้งในแง่ดีและไม่ดี และปัญญาประดิษฐ์ก็ไม่ต่างกัน”Toby Walsh นักวิจัยด้าน AI กล่าวจาก UNSW ของออสเตรเลีย หนึ่งในผู้จัดงาน IJCAI 2017
“มันสามารถช่วยจัดการกับปัญหาเร่งด่วนมากมายที่สังคมกำลังเผชิญอยู่ในปัจจุบัน… อย่างไรก็ตาม เทคโนโลยีเดียวกันนี้สามารถนำไปใช้กับอาวุธอัตโนมัติเพื่อสร้างอุตสาหกรรมสงครามได้ เราจำเป็นต้องตัดสินใจในวันนี้โดยเลือกอนาคตที่เราต้องการ”
วิทยาศาสตร์ UNSWเป็นผู้สนับสนุนของ ScienceAlert ค้นหาข้อมูลเพิ่มเติมเกี่ยวกับพวกเขาการวิจัยชั้นนำของโลก-
