Openai มีแผนที่จะป้องกันสติปัญญาประดิษฐ์จากการนำไปสู่การหายตัวไปของมนุษยชาติ การเริ่มต้นทำให้ CHATGPT ตั้งค่าทีมใหม่ของนักวิจัยที่ได้รับการคัดเลือก วิศวกรเหล่านี้จะพัฒนา AI …รับผิดชอบในการหาวิธีในการควบคุม AI
ในช่วงไม่กี่เดือนที่ผ่านมา Openai มีหลายครั้งที่แสดงความกังวลเกี่ยวกับวิวัฒนาการของปัญญาประดิษฐ์- ในขณะที่ปรับปรุง CHATGPT และรูปแบบภาษาศาสตร์พื้นฐานการเริ่มต้นได้มีทวีคูณคำเตือนและคำเตือนโดยเฉพาะอย่างยิ่งเกี่ยวกับเจ้าหน้าที่
Sam Altman, CEO และผู้ร่วมก่อตั้ง บริษัท อเมริกันโดยเฉพาะอย่างยิ่งที่ AI ทำได้"ทำความเสียหายมาก"ถ้าสิ่งต่าง ๆ ผิดต่อหน้าวุฒิสภาสหรัฐอเมริกาอัลท์แมนจึงขอร้องให้ดำเนินการตามกรอบการกำกับดูแลรอบ AI ผู้ประกอบการแนะนำการสร้างหน่วยงานด้านกฎระเบียบที่อุทิศให้กับแบบจำลองภาษาโดยเร็วที่สุด
ทีมใหม่ที่ทุ่มเทให้กับผู้กำกับ
เสมอโดยมีจุดประสงค์ในการเรียนรู้เทคโนโลยีนี้ Openai มาเพื่อประกาศการจัดตั้งทีมใหม่ตั้งใจที่จะเชี่ยวชาญและดูแล AI- ทีมประกอบด้วย"นักวิจัยและวิศวกรระดับสูงในการเรียนรู้อัตโนมัติ"จะมุ่งเน้นไปที่การถือกำเนิดของ« Superintelligence »-
มันเป็นปัญญาประดิษฐ์ยังคงอยู่ในขั้นตอนสมมุติความสามารถในการเหนือกว่าจิตใจมนุษย์ Openai อธิบาย เทคโนโลยีนี้สามารถช่วยมนุษยชาติ"เพื่อแก้ปัญหาที่สำคัญที่สุดในโลก"- น่าเสียดายที่มันยังมีความเสี่ยงที่นำไปสู่การสูญพันธุ์ของมนุษย์ ใน Mirror of Openai, Google Deepmind และมานุษยวิทยา บริษัท ที่พัฒนาChatbot Claudeกลัวว่า AI นำไปสู่อารยธรรมสู่การสูญเสีย ทั้งสาม บริษัท มีนอกจากนี้ลงนามในจดหมายเปิดผนึกถึง, enjoining ตัดสินใจ -ผู้ทำตามมาตรการบรรเทาผลกระทบแทนที่จะกำหนดให้มีการประกาศพักชำระหนี้ในการวิจัย
เพื่อหลีกเลี่ยงการหายตัวไปของมนุษยชาติหลังจากการเกิดขึ้นของ AI Openai กล่าวว่ามันเหนือสิ่งอื่นใดที่จำเป็น"ความก้าวหน้าทางวิทยาศาสตร์และเทคนิคใหม่"- มันเป็นเรื่องเร่งด่วนที่ Optai คิดว่า Superintelligence สามารถทำได้ดูแสงสว่างของวันในช่วงทศวรรษ-
อาจารย์ AI ... ขอบคุณ AI
ทีมจะทำงานได้อย่างชัดเจน"ความละเอียดของปัญหาการจัดตำแหน่งของผู้กำกับ"- เห็นได้ชัดว่าวิศวกรจะหาวิธีเพื่อให้แน่ใจว่า AI เมื่อมาถึงขั้นตอนการวิวัฒนาการขั้นสูงตามมา"ความตั้งใจของมนุษย์"แทนที่จะเป็นระยะทางจากมัน การเริ่มต้นต้องการค้นหาวิธีการของรักษาปัญญาประดิษฐ์ภายใต้การควบคุมแม้จะเกินกว่าสมองมนุษย์
ปัจจุบัน AI ได้รับการฝึกฝนอย่างแข็งขันโดยมนุษย์ เป็นวิศวกรและผู้ดูแลที่ดูแลCHATGPT (มีอยู่บน iOS และ Android ที่นี่)และคนอื่น ๆ เพื่อหลีกเลี่ยงการละเมิด ระบบนี้จะไม่เผชิญกับแบบจำลองที่ฉลาดกว่าผู้สร้าง
เพื่อแก้ปัญหาที่มีหนามนี้การเริ่มต้นพัฒนา"นักวิจัยการจัดตำแหน่งอัตโนมัติ"- เบื้องหลังชื่อ sibylline นี้มีระบบ AI ซึ่งจะดูเฉพาะในปัญหาการจัดตำแหน่งดังกล่าวข้างต้น ในความเป็นจริง Openai จะขอให้ปัญญาประดิษฐ์หาทางออก ... เพื่อควบคุม AI:
"เป้าหมายของเราคือการสร้างระบบ AI ที่จัดเรียงอย่างเพียงพอ(หมายเหตุบรรณาธิการ: เกี่ยวกับค่าของมนุษยชาติ)ที่สามารถช่วยเราแก้ปัญหาการจัดตำแหน่งอื่น ๆ ทั้งหมด”-
บนเว็บไซต์ บริษัท อธิบายว่ากระบวนการนี้"สามารถทำการวิจัยล่วงหน้าเกี่ยวกับการจัดตำแหน่งได้เร็วขึ้นและดีกว่ามนุษย์"- เพื่อพัฒนาระบบแรกนี้ที่อุทิศให้กับปัญหาการจัดตำแหน่ง OpenAI จะรับสมัคร"นักวิจัยใหม่และวิศวกรพิเศษ"-
ในแง่ดี บริษัท มีจุดมุ่งหมาย"แก้ไขความท้าทายทางเทคนิคหลักของการจัดตำแหน่งของผู้กำกับในสี่ปี"- แผนงานสำหรับความคืบหน้าในช่องมองภาพของทีมจะถูกวางออนไลน์ในอนาคตอันใกล้
🔴อย่าพลาดข่าว 01NET ใด ๆ ติดตามเราที่Google NewsETWhatsapp-
แหล่งที่มา : Openai
