ปัญญาประดิษฐ์คุกคามต่อการสูญพันธุ์ของมนุษยชาติ สิ่งนี้ระบุไว้ในจดหมายที่ลงนามโดยผู้เชี่ยวชาญด้าน AI มากกว่า 350 คน รวมถึงผู้นำของ OpenAI, Google Deepmind และ Anthropic แทนที่จะระงับชั่วคราว พวกเขาสนับสนุนมาตรการบรรเทาผลกระทบ เช่น กฎระเบียบ...
ปัญญาประดิษฐ์ยังคงสร้างความกังวลในหมู่ผู้เชี่ยวชาญอย่างต่อเนื่อง วันอังคารที่ 30 พฤษภาคม 2566 นี้ศูนย์ความปลอดภัยเอไอซึ่งเป็นองค์กรไม่แสวงผลกำไรในสหรัฐฯ ได้เผยแพร่จดหมายเรียกร้องให้มีมาตรการเพื่อลดความเสี่ยงที่เกิดจาก AI
AI ลำดับความสำคัญ
ตามที่องค์กรได้นำเสนอเทคโนโลยีนี้ก“เสี่ยงสูญพันธุ์”เพื่อมนุษยชาติ โดยพฤตินัย ศูนย์ AI เห็นว่าจำเป็นต้องทำ AI“ลำดับความสำคัญระดับโลกควบคู่ไปกับความเสี่ยงอื่นๆ ทั่วทั้งสังคม เช่น การระบาดใหญ่และสงครามนิวเคลียร์”- การคาดการณ์ถึงโรคหรือความขัดแย้งทางปรมาณู AI มีแนวโน้มที่จะยุติเผ่าพันธุ์มนุษย์
“อาจเป็นเรื่องยากที่จะแสดงความกังวลเกี่ยวกับความเสี่ยงที่ร้ายแรงที่สุดของ AI ขั้นสูง”, ศูนย์ความปลอดภัย AI กล่าว โดยเน้นย้ำถึงคำแถลงที่มีจุดมุ่งหมายเพื่อ“เอาชนะอุปสรรคนี้และเปิดเสวนา”-
จดหมายดังกล่าวได้รับการลงนามโดยบุคคลสำคัญในอุตสาหกรรมหลายราย เริ่มต้นด้วยSam Altman ซีอีโอและผู้ร่วมก่อตั้ง OpenAIการเริ่มต้นเบื้องหลังสิ่งจำเป็นChatGPTและเดมิส ฮาสซาบิส หัวหน้าของ Deepmind ซึ่งเป็นบริษัทในเครือด้าน AI ของ Google มาพูดถึง Dario Amodei หัวหน้าของบริษัท Anthropic ซึ่งเป็นบริษัทที่พัฒนาด้วยแชทบอทของคลอดด์เช่นเดียวกับ Geoffrey Hinton และ Yoshua Bengio นักวิจัยสองคนถือเป็นเจ้าพ่อของ AI ยุคใหม่ ต้องขอบคุณการทำงานเกี่ยวกับการเรียนรู้เชิงลึกและโครงข่ายประสาทเทียม
โดยรวมแล้วผู้บริหาร นักวิจัย และวิศวกรที่เชี่ยวชาญด้าน AI มากกว่า 350 คนได้ลงนามในข่าวประชาสัมพันธ์ ถามคำถามโดยนิวยอร์กไทม์สDan Hendrycks กรรมการบริหารของ Center for AI Safety เชื่อว่าจดหมายดังกล่าวช่วยให้ผู้เชี่ยวชาญและผู้นำบางคนสามารถแสดงข้อกังวลต่อสาธารณะได้ แถลงการณ์โดยสรุปมุ่งหมายที่จะรวบรวมผู้คนให้มากที่สุดเท่าที่จะเป็นไปได้
-มีความเข้าใจผิดที่พบบ่อยมาก แม้แต่ในชุมชน AI ก็มีเพียงไม่กี่คนเท่านั้น”ผู้ถึงวาระ-(หมายเหตุบรรณาธิการ: บุคคลที่กังวลมากเกินไปเกี่ยวกับการสิ้นสุดของมนุษยชาติ)-มีอาการวิตกกังวล Dan Hendrycks อธิบาย
อ่านเพิ่มเติม:AI สามารถจัดการคุณได้ การศึกษานี้พิสูจน์ให้เห็นแล้ว
การเลื่อนการชำระหนี้กับกฎระเบียบ
นี่ไม่ใช่ความคิดริเริ่มแรกที่นำผู้เชี่ยวชาญที่กังวลเกี่ยวกับปัญญาประดิษฐ์มารวมตัวกัน ในเดือนมีนาคม ผู้คนหลายพันคนรวมถึงบุคคลสำคัญในโลกเทคโนโลยีเช่นอีลอน มัสก์ หรือ สตีฟ วอซเนียก, เรียกร้องให้การเลื่อนการชำระหนี้ในจดหมายเปิดผนึก- สิ่งนี้ขอให้ศูนย์วิจัยทั้งหมดในโลกระงับการวิจัยที่เกี่ยวข้อง“ระบบปัญญาประดิษฐ์ที่ทรงพลังกว่า GPT-4”ซึ่งเป็นโมเดลภาษาล่าสุดเบื้องหลัง ChatGPT
ในระดับปานกลางจดหมายที่เผยแพร่โดยศูนย์ความปลอดภัย AI ขอร้องให้มากกว่านี้มาตรการบรรเทาผลกระทบ- เท แซม อัลท์แมนวิวัฒนาการของ AI ยังเกี่ยวข้องกับกฎระเบียบด้วย- ต่อหน้าวุฒิสภาสหรัฐอเมริกา เขาพูดถึงการจัดตั้งหน่วยงานรัฐบาลกลางที่อุทิศตนเพื่อการกำกับดูแล AI โดยสิ้นเชิง ซึ่งจะรับผิดชอบในการออกใบอนุญาตให้กับบริษัทที่พัฒนาโมเดลภาษา อัลท์แมนยังได้พูดคุยกับโจ ไบเดน ประธานาธิบดีแห่งสหรัฐอเมริกา
ต่อมาหัวหน้าของ OpenAI บินไปยุโรปเพื่อหารือกับรัฐบาล ขณะที่อยู่ในฝรั่งเศส ผู้อำนวยการ OpenAI ได้พบกับ Emmanuel Macron เมื่อสัปดาห์ที่แล้ว เมื่อเผชิญหน้ากับประธานาธิบดีฝรั่งเศส แซม อัลท์มันปกป้องแนวทางที่เหมาะสมยิ่งซึ่งลดความเสี่ยงโดยไม่ขัดขวางนวัตกรรม
ดังที่ผู้ประกอบการชาวอเมริกันชี้ให้เห็นว่า AI สามารถส่งผลดีต่อมนุษยชาติได้ มิเรอร์แซม อัลท์แมนบิล เกตส์ ผู้ร่วมก่อตั้งบริษัทไมโครซอฟต์ผู้โด่งดังเชื่อว่าปัญญาประดิษฐ์“สามารถนำมาใช้ให้เกิดประโยชน์ได้”โดยเฉพาะการต่อสู้กับภาวะโลกร้อน ลดความไม่เท่าเทียมกัน และปรับปรุงการศึกษาของประชากรด้อยโอกาสที่สุด
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : ศูนย์ความปลอดภัยเอไอ
