Nvidia ต้องการจัดเตรียมมินิพีซีที่เชี่ยวชาญและทรงพลังมากให้กับนักวิจัยและนักศึกษาด้าน AI... และมีราคาแพงมากเช่นกัน
เอ็นวิเดียเป็นหลักสำคัญที่ช่วยให้เทคโนโลยี generative AI เจริญเติบโตได้ อุตสาหกรรมส่วนใหญ่อาศัยความสามารถของ GPU และเซิร์ฟเวอร์ของ Nvidia และบริษัทไม่ต้องการหยุดอยู่แค่นั้น ในความเป็นจริงจะทำการตลาดมินิพีซีสำหรับนักวิจัยนักวิทยาศาสตร์ข้อมูลและสำหรับนักเรียน “ซูเปอร์คอมพิวเตอร์ AI” นี้จะช่วยให้พวกเขาทำงานกับโมเดลภาษาขนาดใหญ่ (LLM) ได้มากถึง 2 แสนล้านพารามิเตอร์
โมเดลภาษาหลักบนเดสก์ท็อป
พารามิเตอร์ของโมเดลภาษาขนาดใหญ่คือองค์ประกอบที่ช่วยให้ LLM สามารถคาดเดาหรือสร้างข้อความได้ พารามิเตอร์คือตัวเลขที่โมเดลใช้เพื่อกำหนดการเชื่อมต่อภายในระหว่างส่วนประกอบต่างๆ ของโครงข่ายประสาทเทียม พูดง่ายๆ ก็คือเหมือนกับว่าแต่ละพารามิเตอร์เป็นไม้บรรทัดหรือน้ำหนักเล็กๆ ที่ช่วยให้โมเดลเข้าใจความสัมพันธ์ระหว่างคำ แนวคิด หรือแนวคิด
เพื่อให้เกิดแนวคิด Llama เวอร์ชัน 3.1 ซึ่งเป็น LLM ที่ดีที่สุดของ Meta มีพารามิเตอร์ 405 พันล้านพารามิเตอร์ พอจะกล่าวได้ว่าด้วย "โปรเจ็กต์ Digits" นี้ Nvidia กำลังนำเสนอเครื่องที่มีความสามารถสูงอยู่แล้ว โดยเฉพาะอย่างยิ่งเนื่องจากมีความเป็นไปได้ที่จะเชื่อมต่อสองเครื่องเพื่อเรียกใช้พารามิเตอร์ 405 พันล้านอันในความเป็นจริง ผู้ใช้จะสามารถสร้างต้นแบบและทดสอบโมเดลภายในเครื่องได้
หัวใจของคอมพิวเตอร์เครื่องนี้คือ GB10 Superchip ซึ่งเป็นระบบบนชิป (SoC) ที่ใช้สถาปัตยกรรม Grace Blackwell ซึ่งสามารถส่งมอบประสิทธิภาพ AI สูงถึง 1 petaflop ชิปนี้รวม GPU ที่มีคอร์ CUDA เจเนอเรชั่นถัดไปและคอร์ Tensor รุ่นที่ห้า ซึ่งเชื่อมต่อกับ Grace CPU (คอร์สถาปัตยกรรม Arm ที่มีประสิทธิภาพ 20 คอร์) ด้วยความช่วยเหลือของระบบเชื่อมต่อระหว่างกัน NVLink-C2C MediaTek ช่วยพัฒนาเอ็นจิ้นใหม่นี้
และเพื่อเป็นเชื้อเพลิงให้กับทุกสิ่งไม่จำเป็นต้องมีเครื่องปฏิกรณ์นิวเคลียร์บริเวณใกล้เคียง: ปลั๊กไฟมาตรฐานธรรมดาก็เพียงพอแล้ว มินิพีซีแต่ละเครื่องมีหน่วยความจำรวม 128 GB และที่เก็บข้อมูล SSD สูงสุด 4 TB ทั้งหมดนี้อยู่ในดีไซน์ที่ชวนให้นึกถึง Mac mini
Project Digits จะวางจำหน่ายในเดือนพฤษภาคม โดยราคาเริ่มต้นที่ 3,000 ดอลลาร์ AI ต้องใช้เงิน!
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : เอ็นวิเดีย
