สำหรับ ChatGPT นั้น Microsoft ทุ่มเงินหลายล้านดอลลาร์... กับ Nvidia GPU

หากคุณไม่ได้ถูกขังอยู่ในถ้ำ คุณจะไม่สามารถหลบหนีจากข่าวสึนามิรอบ ๆ OpenAI และ ChatGPT อันล้ำค่าของมันได้ เอไอสามารถตอบคำถามได้-การเขียนการบ้าน (หรือบทเรียน)เพื่อจำลองแนววรรณกรรม... และทำบางอย่างด้วยความน่ากลัว- แต่ความจริงก็คือเครื่องมือของ ChatGPT และ OpenAI นั้นเป็นข้อมูลแผ่นดินไหวที่เปิดเผยต่อสาธารณชนถึงอนาคตอันทรงพลังของ AI อย่างไรก็ตาม AI ไม่ได้ออกมาจากหมวกของวิศวกรและนักวิจัย แน่นอนว่านางแบบคิด แต่เหนือสิ่งอื่นใด พวกเขาต้องได้รับการฝึกฝน การดำเนินการที่ใช้ทรัพยากรจำนวนมาก: เวลา พลังงาน และอุปกรณ์ที่ทันสมัย เนื่องจากในการฝึกอบรมและดำเนินการ ChatGPT นั้น OpenAI และนักการเงินอย่าง Microsoft จึงไม่เปลืองค่าใช้จ่าย ตามที่ Scott Guthrie รองประธานของMicrosoft รับผิดชอบด้านคลาวด์และ AIโดยบริษัทใช้เงินหลายร้อยล้านดอลลาร์ในโครงการนี้ โดยเฉพาะชิปที่ทำหน้าที่คำนวณ

หัวใจของเทคโนโลยี OpenAI คือคลาวด์ Azure ของ Microsoft และเครื่องหลายพันเครื่องที่เรียกว่า "ND H100 v5" ภายใต้ชื่อทางเทคนิคนี้มีโมดูลฮาร์ดแวร์ที่ทรงพลังอยู่ เซิร์ฟเวอร์ที่ติดตั้งโปรเซสเซอร์ Intel Xeon Scalable 4^จรุ่น (เรียกว่า “แซฟไฟร์ ราปิดส์) โปรเซสเซอร์ที่จัดการความกระตือรือร้นของ "ม้า" ที่รับผิดชอบในการคำนวณส่วนใหญ่ ได้แก่ Nvidia GPU ไม่ใช่ GeForce ตัวเก่าที่ดีของคุณหรือแม้แต่ซุปเปอร์ RTX 4090- ไม่ใช่ ชิปเหล่านี้เป็นชิประดับมืออาชีพที่เรียกว่า H100 ที่ได้รับการปรับแต่งเป็นพิเศษสำหรับงานที่เกี่ยวข้องกับ AI หาก Microsoft ไม่แจ้งจำนวนหรือลักษณะของซีพียูของ Intel (ตัว "s" บ่งบอกว่ามีอย่างน้อยสองตัว) เราจะรู้ว่าแต่ละเซิร์ฟเวอร์รวม Nvidia H100 ไว้ไม่น้อยกว่าแปดตัว (ที่ 30,000 เหรียญสหรัฐต่อการ์ด บิลจะต้องสูงลิ่วอย่างแน่นอน) ). นั่นคือ ทรานซิสเตอร์ 640 พันล้านตัว (80 พันล้านต่อ GPU) ที่เชื่อมต่อถึงกันด้วยเทคโนโลยี NVSwitch และ NVlink เพื่อแบ่งเวลาในการคำนวณได้สูงสุดถึงเก้าเท่า เมื่อเทียบกับ A100 GPU ปี 2020 หรือวิธีแปลงการคำนวณหลายเดือนภายในไม่กี่สัปดาห์ และเหนือสิ่งอื่นใด นำเงินมาให้มากที่สุดเท่าที่จะเป็นไปได้สำหรับ Nvidia ซึ่งแย่งส่วนแบ่งมูลค่ามหาศาลของซุปเปอร์แมชชีนเหล่านี้

เพราะพลังของเซิร์ฟเวอร์เหล่านี้เป็นข้อได้เปรียบสองเท่าของ Nvidia นอกเหนือจากความสำเร็จในแง่ของพลังดิบของ GPU ซึ่งขายเป็นแพ็กแปดตัวสำหรับแต่ละแร็คเซิร์ฟเวอร์! – บริษัทที่มีโลโก้สีเขียวได้รับเลือกให้เชื่อมต่อเซิร์ฟเวอร์ร่วมกับชิป Quantum-2 InfiniBand เพราะในการประมวลผลแบบเข้มข้น พลังงานดิบยังไม่เพียงพอ คุณต้องรู้วิธีกระจายงานให้ดี

Nvidia ครองอำนาจด้านคอมพิวเตอร์…และระบบเครือข่าย

หาก AMD ภูมิใจที่มี GPU ที่ทรงพลังกว่า Nvidia– ซึ่งเห็นได้ชัดว่าตรงกันข้าม – พลังนี้เป็นเพียงข้อมูลเดียวในบรรดาข้อมูลอื่นๆ อีกมากมาย เว้นแต่คุณจะมีซูเปอร์คอมพิวเตอร์ที่บ้านเพื่อใช้วัดประสิทธิภาพระดับมืออาชีพ ซึ่งเราไม่มี! – คุณต้องดูขอบเขตทั้งหมดของชิปเหล่านี้เพื่อดูอาวุธร้ายแรงของโซลูชันการประมวลผล: เครือข่าย เครือข่ายซึ่งเป็นคอขวดที่แท้จริงในการเพิ่มประสิทธิภาพการประมวลผลของซูเปอร์คอมพิวเตอร์ซึ่งมีหน่วยความจำ

อ่านเพิ่มเติม:ซูเปอร์คอมพิวเตอร์แนวหน้า: AMD เป็นหัวใจของคอมพิวเตอร์ที่ทรงพลังที่สุดในโลก(พฤษภาคม 2565)

Nvidia เล่นได้ดีมาก หากบริษัทยังคงพัฒนาชิปที่มีประสิทธิภาพมากขึ้นเรื่อยๆ อย่างไม่ลดละ ในปี 2023 ก็ยังมีข้อได้เปรียบที่ชัดเจนในโลกของ GPUการเล่นเกมและผู้เชี่ยวชาญ ในปี 2020 บริษัทได้ซื้อบริษัทที่ไม่รู้จักต่อสาธารณชนทั่วไป: Mellanox ผู้เชี่ยวชาญด้านเครือข่ายที่ Nvidia ซึมซับและผลิตภัณฑ์ของตน "ต่อยอด" เข้ากับ GPU ระดับมืออาชีพ ขายทั้งชิปซุปเปอร์เน็ตเวิร์กแต่ยังสวิตช์(ซึ่งเผยแพร่ข้อมูล) และซอฟต์แวร์ Nvidia ได้ปรับแต่ง GPU และอุปกรณ์เครือข่ายให้ทำงานได้ดีที่สุดเมื่อทำงานร่วมกัน

ดังนั้นโซลูชัน Quantum-2 InfiniBand ของ Nvidia จึงสามารถส่งข้อมูล 400 Gbit ต่อเซิร์ฟเวอร์ - การเปลี่ยนแปลงจากเราเตอร์ 1 Gbit ในกล่องของคุณ! และเหนือสิ่งอื่นใด อุปกรณ์เครือข่ายและซอฟต์แวร์สามารถกระจายการคำนวณอย่างชาญฉลาดไปยัง GPU หลายพันตัวที่กระจายอยู่บนเซิร์ฟเวอร์นับพันเครื่อง “ความฉลาด” ที่จำเป็นสำหรับคำขอนับล้านที่บริการต่างๆ ไม่เพียงแต่ของ ChatGPT เท่านั้น แต่ยังรวมถึง Bing ด้วยด้วยในตอนนี้ ดังนั้น ครั้งต่อไปที่คุณใช้ ChatGPT คุณจะจินตนาการถึงพลังการประมวลผลที่ล้นหลามและความเร็วการถ่ายโอนที่แข่งขันได้ ซึ่งจะถูกปลดปล่อยออกมาเพื่อคำนวณและส่งมอบผลลัพธ์ภายในเสี้ยววินาที ทั้งหมดนี้เพื่อแต่งเพลงเชิดชูปลวกสไตล์ NTM!

🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-

แหล่งที่มา : บลูมเบิร์ก