ผู้จัดการและผู้เชี่ยวชาญจากภาคปัญญาประดิษฐ์เรียกร้องในจดหมายเปิดผนึกถึงการใช้เวลาหกเดือนในการวิจัย เหตุผล: "ความเสี่ยงที่ลึกซึ้งสำหรับสังคมและมนุษยชาติ" ที่ระบบเหล่านี้จะก่อให้เกิด
เร็วเกินไปอันตรายเกินไปสำหรับมนุษยชาติ: นี่เป็นจดหมายที่ไม่คาดคิดที่ตีพิมพ์เพื่อพูดน้อยที่สุดในวันพุธที่ 29 มีนาคมนี้ลงนามโดยผู้คนหลายพันคนรวมถึงผู้นำเทคโนโลยีโลกและปัญญาประดิษฐ์(ia) เป็นElon Muskและผู้เชี่ยวชาญภาค ทุกคนเรียกร้องให้มีการชำระหนี้หกเดือนซึ่งเป็นการพักเพื่อมนุษยชาติเพื่อขอให้ศูนย์วิจัยโลกทั้งหมดหยุดทำงานในระบบขั้นสูงเหล่านี้ทันที -เราขอให้ห้องปฏิบัติการปัญญาประดิษฐ์ทั้งหมดขัดจังหวะทันทีเป็นระยะเวลาอย่างน้อยหกเดือนการก่อตัวของระบบปัญญาประดิษฐ์ที่ทรงพลังมากกว่า GPT-4"พวกเขาเขียนในคำนำ
-ระบบ AI ที่ทรงพลังควรได้รับการพัฒนาเมื่อเรามั่นใจว่าผลกระทบของพวกเขาจะเป็นบวกและความเสี่ยงของพวกเขาจะสามารถจัดการได้"พวกเขาเพิ่มในจดหมายฉบับนี้จัดพิมพ์โดยองค์กรที่ไม่แสวงหาผลกำไรในอนาคตของสถาบันชีวิต วันพุธที่ 29 มีนาคมนี้ในช่วงบ่ายคน 1123 คนได้ลงนามรวมถึงตัวเลขจากเทคโนโลยีและ AI เช่นเจ้านายของ Tesla และ Twitter Elon Musk ผู้ร่วมก่อตั้งของ Apple Steve Wozniak นักวิจัยจาก Deepmind Gary Marcus คนเหล่านี้ถามว่าโปรโตคอลด้านความปลอดภัยจริยธรรมและโปร่งใสได้รับการพัฒนาดำเนินการและตรวจสอบโดยผู้เชี่ยวชาญอิสระก่อนที่การพัฒนาจะกลับมาทำงานต่อ
"เราควรทำให้งานทั้งหมดเป็นไปโดยอัตโนมัติรวมถึงงานที่ให้รางวัลหรือไม่" -
ในบรรดาความเสี่ยงที่เรียกว่าตัวอักษรในน้ำเสียงเตือนภัยนั้นเน้นว่า "เพื่อสูญเสียการควบคุมอารยธรรมของเรา- CES «เมื่อเดือนที่แล้ว IA Laboratories (มี) ถูกขังอยู่ในการแข่งขันที่ไม่สามารถควบคุมได้เพื่อพัฒนาและปรับใช้ความคิดดิจิทัลที่ทรงพลังกว่าและไม่มีใคร - แม้แต่ผู้สร้างของพวกเขา - สามารถเข้าใจทำนายหรือควบคุมความน่าเชื่อถือ"เขียนผู้เขียน พวกเขาเชิญกลุ่มวิจัยทั้งหมดที่ทำงานในมือทำงานในมือกับหน่วยงานกำกับดูแล
จดหมายฉบับนี้ยังต้องพูดถึงผลกระทบที่เป็นรูปธรรมที่ AI สามารถมีต่อ บริษัท ของเราด้วยสงสัยว่า: "เราต้องปล่อยให้เครื่องจักรการโฆษณาชวนเชื่อของเราและช่องข้อมูลโกหกหรือไม่? เราควรทำให้งานทั้งหมดเป็นไปโดยอัตโนมัติรวมถึงผู้ที่ให้รางวัล»เช่นเดียวกับคนที่ทำให้เรารู้สึกถึงความสำเร็จ? พอที่จะสะท้อนคำถามง่ายๆถามเมื่อหลายสัปดาห์ก่อนโดย Susie Alegre ผู้เขียนชาวอังกฤษผู้ประสบภัยจากการลอกเลียนแบบ: "ทำไมไม่ใช้ AI เพียงเพื่อแทนที่สิ่งที่เราไม่ชอบทำ?-
อ่านเพิ่มเติม: CHATGPT: จำนวนงานที่น่ากลัวที่ถูกคุกคามโดย AI ตาม Goldman Sachs
จดหมายจะตามด้วยเอฟเฟกต์หรือไม่?
-จดหมายไม่สมบูรณ์แบบ แต่จิตใจถูกต้อง: เราต้องชะลอตัวลงจนกว่าเราจะเข้าใจความแตกต่างดีขึ้น(จาก AI) ศาสตราจารย์แกรี่มาร์คัสหนึ่งในผู้ลงนามในจดหมายถึงเพื่อนร่วมงานของเราสำนักข่าวรอยเตอร์วันพุธนี้ 29 มีนาคม จดหมายฉบับนี้จะตามด้วยเอฟเฟกต์หรือไม่? ปัจจุบัน บริษัท จะมีส่วนร่วมในการแข่งขัน AI ที่แท้จริงจะเสี่ยงต่อการถูกเกินในช่วงหยุดหกเดือนนี้หรือไม่? จดหมายในกรณีใด ๆ กำหนดให้หยุดพักนี้ "สาธารณะและตรวจสอบได้- และถ้า "การหยุดพักดังกล่าวไม่สามารถเกิดขึ้นได้อย่างรวดเร็วรัฐบาลจะต้องเข้าไปแทรกแซงและสร้างการชำระหนี้»มันเขียนไว้หรือไม่
อ่านเพิ่มเติม: AI ถูกสงสัยว่ามีการผลักคนฆ่าตัวตาย
ตัวอักษรจะถูกเพิ่มเข้าไปในการโทรอื่น ๆ อีกมากมายในช่วงเวลาที่ไร้ประโยชน์ไปยังการวัดเพื่อการสะท้อนและการควบคุมของระบบเหล่านี้ วันพุธนี้ตำรวจตำรวจสากลได้เตือนถึงการใช้ CHATGPT ที่อาจไม่เหมาะสมในความพยายามในการฟิชชิ่งการบิดเบือนและอาชญากรรมไซเบอร์ การโทรทั้งหมดเหล่านี้ทั้งหมดอาจทำให้ตำแหน่งปัจจุบันของ บริษัท ส่วนใหญ่ทำงานในภาค AI ซึ่งเป็นตำแหน่งที่อธิบายโดยVergeเช่น "จัดส่งทันทีและแก้ไขในภายหลัง"คนนั้นสามารถแปลได้"เราเริ่มตอนนี้และเราจะซ่อมแซม (ถ้าจำเป็นในภายหลัง)- ปัญหา: กับ ai, this "ซ่อมแซมอาจเป็นไปไม่ได้
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
แหล่งที่มา : จดหมายเปิดผนึกถึงจาก Future of Life Institute