แนวทางปัจจุบัน(AI) ไม่น่าจะสร้างแบบจำลองที่สามารถจับคู่ความฉลาดของมนุษย์ได้จากการสำรวจล่าสุดของผู้เชี่ยวชาญในอุตสาหกรรม
จากนักวิจัย 475 AI ที่สอบถามสำหรับการสำรวจ 76% กล่าวว่าการปรับขนาดของแบบจำลองภาษาขนาดใหญ่ (LLMs) นั้น "ไม่น่าเป็นไปได้" หรือ "ไม่น่าจะเกิดขึ้นได้"(AGI) เหตุการณ์สำคัญที่ระบบการเรียนรู้ของเครื่องสามารถเรียนรู้ได้อย่างมีประสิทธิภาพหรือดีกว่ามนุษย์
นี่คือการเลิกจ้างที่สำคัญของการคาดการณ์ของอุตสาหกรรมเทคโนโลยีว่าเนื่องจาก AI Boom ที่เกิดขึ้นในปี 2565 ได้ยืนยันว่าโมเดล AI ที่ทันสมัยในปัจจุบันต้องการข้อมูลฮาร์ดแวร์พลังงานและเงินมากขึ้นเพื่อความฉลาดของมนุษย์
ตอนนี้เมื่อรุ่นล่าสุดเผยแพร่ปรากฏ ถึง ซบเซานักวิจัยส่วนใหญ่สำรวจโดยสมาคมเพื่อความก้าวหน้าของปัญญาประดิษฐ์เชื่อว่า บริษัท เทคโนโลยีมาถึงจุดจบ - และเงินจะไม่นำพวกเขาออกไป
"ฉันคิดว่ามันชัดเจนตั้งแต่ไม่นานหลังจากการเปิดตัว GPT-4 กำไรจากการปรับขนาดเพิ่มขึ้นและมีราคาแพง"สจวร์ตรัสเซลนักวิทยาศาสตร์คอมพิวเตอร์ที่มหาวิทยาลัยแห่งแคลิฟอร์เนียเบิร์กลีย์ผู้ช่วยจัดระเบียบรายงานบอกกับวิทยาศาสตร์การแสดงสด "[บริษัท AI] ลงทุนมากเกินไปแล้วและไม่สามารถยอมรับได้ว่าพวกเขาทำผิดพลาด [และ] ออกจากตลาดเป็นเวลาหลายปีเมื่อพวกเขาต้องชำระคืนนักลงทุนที่มีเงินหลายพันล้านดอลลาร์ดังนั้นสิ่งที่พวกเขาสามารถทำได้คือเพิ่มขึ้นเป็นสองเท่า"
ผลตอบแทนที่ลดลง
การปรับปรุง LLMS ที่น่าตกใจในช่วงไม่กี่ปีที่ผ่านมาเป็นส่วนหนึ่งของสถาปัตยกรรมหม้อแปลงพื้นฐาน นี่คือสถาปัตยกรรมการเรียนรู้อย่างลึกซึ้งซึ่งสร้างขึ้นครั้งแรกในปี 2560 โดยนักวิทยาศาสตร์ของ Google ที่เติบโตและเรียนรู้โดยการดูดซับข้อมูลการฝึกอบรมจากการป้อนข้อมูลของมนุษย์
สิ่งนี้ช่วยให้แบบจำลองสามารถสร้างรูปแบบความน่าจะเป็นจากเครือข่ายประสาทของพวกเขา (คอลเลกชันของอัลกอริทึมการเรียนรู้ของเครื่องที่จัดขึ้นเพื่อเลียนแบบวิธีที่สมองของมนุษย์เรียนรู้) โดยให้อาหารพวกเขาไปข้างหน้า
ที่เกี่ยวข้อง:
แต่การปรับขนาดของแบบจำลองเหล่านี้อย่างต่อเนื่องนั้นต้องใช้ปริมาณเงินและพลังงานที่น่าดึงดูดใจ อุตสาหกรรม AI ที่เกิดขึ้น$ 56 พันล้านในการร่วมทุนทั่วโลกในปี 2024 เพียงอย่างเดียวโดยส่วนใหญ่จะเข้าสู่การสร้างคอมเพล็กซ์ศูนย์ข้อมูลขนาดใหญ่การปล่อยคาร์บอนที่มีเพิ่มขึ้นสามเท่าตั้งแต่ปี 2561-
การคาดการณ์ยังแสดงข้อมูลที่มนุษย์สร้างขึ้นอย่าง จำกัด ที่จำเป็นสำหรับการเติบโตต่อไป- เมื่อสิ่งนี้เกิดขึ้นทางเลือกอื่นคือการเริ่มเก็บเกี่ยวข้อมูลส่วนตัวจากผู้ใช้หรือเพื่อป้อนข้อมูล "สังเคราะห์" ที่สร้างขึ้นใหม่ในรูปแบบที่ AIจากข้อผิดพลาดที่สร้างขึ้นหลังจากพวกเขากลืนอินพุตของตัวเอง
แต่ข้อ จำกัด ของโมเดลปัจจุบันไม่เพียงเพราะพวกเขาหิวทรัพยากรผู้เชี่ยวชาญด้านการสำรวจกล่าว แต่เป็นเพราะข้อ จำกัด พื้นฐานในสถาปัตยกรรมของพวกเขา
“ ฉันคิดว่าปัญหาพื้นฐานของวิธีการในปัจจุบันคือพวกเขาทั้งหมดเกี่ยวข้องกับการฝึกอบรมวงจรฟีดไปข้างหน้าขนาดใหญ่” รัสเซลกล่าว "วงจรมีข้อ จำกัด พื้นฐานเป็นวิธีการแสดงแนวคิดนี่หมายความว่าวงจรจะต้องมีขนาดใหญ่มากที่จะเป็นตัวแทนของแนวคิดดังกล่าวแม้ประมาณ - เป็นหลักในฐานะตารางการค้นหาที่ได้รับการยกย่อง - ซึ่งนำไปสู่ข้อกำหนดของข้อมูลที่กว้างใหญ่เอาชนะได้ง่ายโปรแกรม "Superhuman" Go "
อนาคตของการพัฒนา AI
คอขวดทั้งหมดเหล่านี้นำเสนอความท้าทายที่สำคัญให้กับ บริษัท ที่ทำงานเพื่อเพิ่มประสิทธิภาพของ AI ทำให้เกิดคะแนนในการประเมินผลถึง ที่ราบสูงและโมเดล GPT-5 ที่มีข่าวลือของ Openai จะไม่ปรากฏขึ้นผู้ตอบแบบสำรวจบางคนกล่าว
สมมติฐานที่ว่าการปรับปรุงสามารถทำได้โดยการปรับขนาดนั้นก็ถูกตัดทอนในปีนี้โดย บริษัท จีน Deepseek ซึ่งตรงกับประสิทธิภาพของโมเดลราคาแพงของ Silicon Valley ของ Silicon Valley- ด้วยเหตุผลเหล่านี้ 79% ของผู้ตอบแบบสำรวจกล่าวว่าการรับรู้ถึงความสามารถของ AI ไม่ตรงกับความเป็นจริง
“ มีผู้เชี่ยวชาญหลายคนที่คิดว่านี่เป็นฟอง” รัสเซลกล่าว "โดยเฉพาะอย่างยิ่งเมื่อมีการมอบโมเดลประสิทธิภาพสูงพอสมควรฟรี"
แต่นั่นไม่ได้หมายความว่าความคืบหน้าใน AI นั้นตายไปแล้ว โมเดลการใช้เหตุผล - โมเดลพิเศษที่อุทิศเวลามากขึ้นและการคำนวณพลังในการค้นหา - ได้รับการแสดงเพื่อผลิตการตอบสนองที่แม่นยำยิ่งขึ้นกว่ารุ่นก่อนดั้งเดิมของพวกเขา
การจับคู่ของโมเดลเหล่านี้กับระบบการเรียนรู้ของเครื่องจักรอื่น ๆ โดยเฉพาะอย่างยิ่งหลังจากที่พวกเขากลั่นลงไปในเครื่องชั่งพิเศษเป็นเส้นทางที่น่าตื่นเต้นไปข้างหน้าตามผู้ตอบแบบสอบถาม และความสำเร็จของ Deepseekในวิธีการออกแบบระบบ AI ผู้เชี่ยวชาญยังชี้ไปที่การเขียนโปรแกรมความน่าจะเป็นที่มีศักยภาพในการสร้าง AGI ใกล้กว่ารุ่นวงจรปัจจุบัน
"อุตสาหกรรมกำลังวางเดิมพันครั้งใหญ่ว่าจะมีแอพพลิเคชั่นที่มีมูลค่าสูงของ Generative AI"Thomas Dietterichศาสตราจารย์กิตติคุณวิทยาศาสตร์คอมพิวเตอร์ที่มหาวิทยาลัยโอเรกอนสเตตซึ่งมีส่วนร่วมในรายงานกล่าวกับวิทยาศาสตร์การใช้ชีวิต "ในอดีตความก้าวหน้าทางเทคโนโลยีที่ยิ่งใหญ่ต้องใช้เวลา 10 ถึง 20 ปีในการแสดงผลตอบแทนที่ยิ่งใหญ่"
“ บ่อยครั้งที่ บริษัท ชุดแรกล้มเหลวดังนั้นฉันจะไม่แปลกใจที่เห็นการเริ่มต้นของ Genai หลายครั้งในปัจจุบันล้มเหลว” เขากล่าวเสริม “ แต่ดูเหมือนว่าบางคนจะประสบความสำเร็จอย่างดุเดือดฉันหวังว่าฉันจะรู้ว่าคนไหน”
