OpenAI มีแผนที่จะป้องกันไม่ให้ปัญญาประดิษฐ์นำไปสู่การสูญพันธุ์ของมนุษยชาติ สตาร์ทอัพที่อยู่เบื้องหลัง ChatGPT ได้จัดตั้งทีมนักวิจัยที่ได้รับการคัดเลือกขึ้นมาใหม่ วิศวกรเหล่านี้จะพัฒนา AI... ที่รับผิดชอบในการหาวิธีควบคุม AI
ในช่วงไม่กี่เดือนที่ผ่านมา OpenAI ได้แสดงความกังวลเกี่ยวกับวิวัฒนาการของปัญญาประดิษฐ์- ในขณะที่ปรับปรุง ChatGPT และโมเดลภาษาพื้นฐาน สตาร์ทอัพก็มีคำเตือนและคำเตือนที่เพิ่มขึ้นโดยเฉพาะต่อเจ้าหน้าที่
Sam Altman ซีอีโอและผู้ร่วมก่อตั้งบริษัทอเมริกัน ประเมินได้อย่างโดดเด่นที่ AI ทำได้“สร้างความเสียหายมากมาย”หากมีสิ่งผิดปกติเกิดขึ้นต่อหน้าวุฒิสภาสหรัฐอเมริกา อัลท์แมน ดังนั้นสนับสนุนให้มีการจัดทำกรอบการกำกับดูแลรอบเอไอ ผู้รับเหมาแนะนำการจัดตั้งหน่วยงานกำกับดูแลที่ทุ่มเทให้กับโมเดลภาษาทั้งหมดโดยเร็วที่สุด
ทีมใหม่ที่ทุ่มเทให้กับความฉลาดระดับสูง
ด้วยจุดมุ่งหมายในการเรียนรู้เทคโนโลยีนี้อยู่เสมอ OpenAI จึงมาเพื่อประกาศการสถาปนาทีมใหม่ที่ตั้งใจจะควบคุมและดูแล AI- โดยทีมงานประกอบด้วย“นักวิจัยและวิศวกรระดับสูงด้านการเรียนรู้ของเครื่อง”จะเน้นไปที่การมาถึงของ« สติปัญญาขั้นสูง »-
นี่เป็นปัญญาประดิษฐ์ที่ยังอยู่ในขั้นสมมุติฐาน และมีความสามารถในการเอาชนะจิตใจมนุษย์ได้ OpenAI อธิบาย เทคโนโลยีนี้สามารถช่วยเหลือมนุษยชาติได้“เพื่อแก้ปัญหาสำคัญที่สุดของโลกมากมาย”- น่าเสียดายที่มันยังเสี่ยงต่อการสูญพันธุ์ของมนุษย์ด้วย สะท้อน OpenAI, Google Deepmind และ Anthropic ซึ่งเป็นบริษัทที่พัฒนาแชทบอทของคลอดด์กลัวว่า AI จะนำพาอารยธรรมให้ล่มสลาย ทั้ง 3 บริษัทก็มีลงนามในจดหมายเปิดผนึกโดยเรียกร้องให้ผู้มีอำนาจตัดสินใจออกมาตรการบรรเทาผลกระทบ แทนที่จะกำหนดระยะเวลาการวิจัยไว้ชั่วคราว
เพื่อหลีกเลี่ยงการสูญหายของมนุษยชาติหลังจากการเกิดขึ้นของ AI OpenAI ยืนยันว่าเหนือสิ่งอื่นใดจำเป็น“ความก้าวหน้าทางวิทยาศาสตร์และเทคนิคใหม่”- ทั้งหมดนี้เป็นเรื่องเร่งด่วนมากขึ้นเพราะ OpenAI เชื่อว่าระบบอัจฉริยะขั้นสูงสามารถทำได้มองเห็นแสงสว่างแห่งวันในรอบทศวรรษ-
การเรียนรู้ AI… ต้องขอบคุณ AI
ทีมงานจะทำงานต่อไปอย่างเป็นรูปธรรม“แก้ปัญหาการวางแนวเหนือปัญญา”- เห็นได้ชัดว่าวิศวกรจะมองหาวิธีเพื่อให้แน่ใจว่า AI จะตามมาเมื่อถึงขั้นวิวัฒนาการขั้นสูง“ความตั้งใจของมนุษย์”แทนที่จะตีตัวออกห่างจากมัน สตาร์ทอัพต้องการหาทางควบคุมปัญญาประดิษฐ์ให้อยู่ภายใต้การควบคุมแม้จะเกินสมองมนุษย์ก็ตาม
ปัจจุบัน AI ถูกควบคุมโดยมนุษย์อย่างแข็งขัน เป็นวิศวกรและผู้ดูแลที่ดูแลChatGPT (ใช้งานได้บน iOS และ Android ที่นี่)และอื่นๆ เพื่อหลีกเลี่ยงการละเมิด ระบบนี้จะไม่ทนกับโมเดลที่ฉลาดกว่าผู้สร้าง
เพื่อแก้ปัญหายุ่งยากนี้ สตาร์ทอัพจึงกำลังพัฒนาก“ตัวค้นหาการจัดตำแหน่งอัตโนมัติ”- เบื้องหลังชื่อที่เป็นความลับนี้ เราพบระบบ AI ซึ่งจะมุ่งเน้นไปที่ปัญหาการจัดตำแหน่งตามที่กล่าวไว้ข้างต้นโดยเฉพาะ ในความเป็นจริง OpenAI จะขอให้ปัญญาประดิษฐ์ค้นหาวิธีแก้ปัญหา... เพื่อควบคุม AI:
“เป้าหมายของเราคือการสร้างระบบ AI ที่สอดคล้องกันอย่างเพียงพอ(หมายเหตุบรรณาธิการ: เกี่ยวกับคุณค่าของมนุษยชาติ)ที่สามารถช่วยเราแก้ไขปัญหาการจัดตำแหน่งอื่นๆ ทั้งหมดได้ »-
ในเว็บไซต์ของบริษัท บริษัท อธิบายว่ากระบวนการนี้“สามารถพัฒนาการวิจัยการจัดตำแหน่งได้เร็วและดีกว่ามนุษย์”- เพื่อที่จะพัฒนาระบบแรกนี้โดยเฉพาะสำหรับปัญหาการจัดตำแหน่ง OpenAI จะรับสมัคร“นักวิจัยและวิศวกรหน้าใหม่ที่โดดเด่น”-
ในแง่ดี บริษัท มีเป้าหมายที่จะ“แก้ปัญหาความท้าทายทางเทคนิคหลักของการจัดตำแหน่งหน่วยข่าวกรองระดับสูงในสี่ปี”- แผนงานความคืบหน้าของทีมจะโพสต์ทางออนไลน์ในอนาคตอันใกล้นี้
🔴 เพื่อไม่ให้พลาดข่าวสารจาก 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : OpenAI
