ด้วยการกำหนดมาตรฐานการคำนวณจุดลอยตัวอย่างเป็นทางการบน 8 บิต แทนที่จะเป็น 16 หรือแม้แต่ 32 ทั้งสามกลุ่มของ ARM, Intel และ AMD จะเร่งการฝึกอบรม AI เนื่องจากความจำเป็นในการคำนวณและหน่วยความจำที่ลดลง วงดนตรีจึงลดผลกระทบทางการเงินและเศรษฐกิจของการดำเนินงานเหล่านี้
การฝึกอบรม AI ใช้เวลาและค่าใช้จ่ายมากขึ้นเรื่อยๆ ในแง่ของเวลาของเครื่องจักรและปริมาณพลังงาน เพื่อแก้ไขปัญหานี้ ARM, Intel และ Nvidia ยักษ์ใหญ่ได้ตกลงร่วมกันเกี่ยวกับมาตรฐานการคำนวณทศนิยม 8 บิต FP8 ในการเผยแพร่ร่วมกัน ทั้งสามบริษัทยังทำให้มาตรฐาน FP8 ของตนเป็นแบบฟรีอีกด้วย ห่างไกลจากความใจบุญสุนทานอย่างแท้จริง มันค่อนข้างสมเหตุสมผล: พวกเขาขายชิป (โดยตรงหรือโดยอ้อม) เพื่อทำการคำนวณเหล่านี้
บางทีอาจขัดกับสัญชาตญาณสำหรับผู้ที่วัดพลังของคอนโซลด้วยจำนวนบิต (8 บิตสำหรับ NES, 16 บิตสำหรับ SuperNes ฯลฯ) ในการคำนวณ AI การเพิ่มบิตที่มีความแม่นยำไม่จำเป็นต้องเป็นยาครอบจักรวาล ตามที่นักวิจัยจากทั้งสามบริษัท การคำนวณ FP8 คือ “สื่อแห่งความสุข» ระหว่างคุณภาพของผลลัพธ์กับพลังการประมวลผลที่ต้องการ เจ้าหน้าที่ของ Nvidia อธิบายว่า FP8 เสนอ “ความแม่นยำที่เทียบเคียงได้» เป็นการคำนวณแบบ 16 บิตในงานคอมพิวเตอร์วิทัศน์หรือระบบสร้างภาพ (เช่น Dall-E) ในขณะที่ปล่อยให้เร่งความเร็ว”สำคัญ» ของการคำนวณเหล่านี้
ความนิยมในการคำนวณ FP8 เหนืองานที่เกี่ยวข้องกับรูปภาพนั้นเป็นเรื่องที่ห่างไกลจากความคาดหมาย ซึ่งได้บรรลุข้อตกลงที่เป็นเอกฉันท์ในอุตสาหกรรมแล้ว ตัวอย่างเช่น Qualcomm สนับสนุนการใช้ FP8 ในการทดสอบการวัดประสิทธิภาพอยู่แล้ว ก็เถียงเหมือนกันว่าความแม่นยำระดับนี้ก็คือ”เพียงพอ-
ในระดับเทคนิค การลดความแม่นยำในการคำนวณหมายถึงการเร่งดำเนินการงานให้เร็วขึ้น การเร่งความเร็วที่ให้ข้อดีอีกประการหนึ่งโดยการฟื้นตัว: การจำกัดเวลา/จำนวนการใช้งานโปรเซสเซอร์ (CPU, GPU, AI) อย่างไรก็ตาม การปรับปรุงและความซับซ้อนของโมเดลการฝึกอบรม เช่น GPT-3 ได้ผลักดันค่าใช้จ่ายทางการเงินและพลังงานให้สูงขึ้น บางครั้งวิศวกรและนักวิจัยใช้เงินหลายแสนหรือหลายล้านยูโรหรือดอลลาร์เพื่อฝึก AI การฝึกอบรมที่เราได้รับประโยชน์จากทุกวัน: การจดจำฉากหรือวัตถุของกล้องของคุณ ฯลฯ
หากมาตรฐานของ FP8 ใช้งานได้ ก็อย่าเพิ่งพอใจไปเสียหมด สิ่งนี้จะจำกัด "ความเสียหาย" และทำให้เกิดความก้าวหน้าอย่างมากทั้งในด้านซอฟต์แวร์และฮาร์ดแวร์ (ชิปที่ได้รับการปรับปรุงและมีประสิทธิภาพเพิ่มมากขึ้น) แต่สิ่งนี้ยังจะลดราคาเริ่มต้นและส่งเสริมการคำนวณประเภทนี้ในอุตสาหกรรมต่างๆ มากขึ้น
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : TechCrunch.com
