GH200 DGX的LLM剪裁,例如Chatgpt,是一個怪物,其關鍵組件-CPU,GPU和網絡芯片是由NVIDIA設計的,並且有望為Generative AI帶來巨大的功能。
權力和能源效率的怪物:這是NVIDIA在台北的Computex宣布的第一個超級計算機所承諾的。一台稱為DGX GH200的機器,它有望達到SO所謂的Exascale Power,僅佔X86中競爭機器的能源消耗的一小部分...並且以無與倫比的承諾速度。這台機器是Nvidia的創始人兼首席執行官,由Nvidia的創始人兼首席執行官大張旗鼓地表現出來,這台機器是Nvidia的具體化。

在GPU上計算領域的Archi-Leader,Nvidia是處理器側的矮人。如果加利福尼亞人在CPU方面具有良好的專業知識,我們主要通過其Tegra處理器知道它。 SOC已經在Windows 8 PC或著名的Nintendo Switch中相遇。但是,NVIDIA為數據中心開發的芯片,此處的超級計算器具有完全不同的功率。稱為Grace Hopper Superchip的主要芯片實際上是二人組。一方面,“恩典”芯片,一個CPU 72核心Neoverse V2,在他面前是H100“ Hopper” GPU。兩者利用96 GB的超快速HBM3(GPU)和512 GB的LPDDR5X(CPU)。

以CPU,GPU和RAM結合使用的GH200卡中的256張,您會發現自己擁有如此眾多的GPU,18,432 CPU ARM和144個共享DDR5。該集合形成了GH200 DGX的強度,因為Nvidia已成為高速網絡的擁護者。
一個很棒的計算器,可作為單個GPU

自2019年收購Mellanox以來(在鼻子和英特爾鬍鬚中也想購買以色列旗艦店),Nvidia擁有用於超級計算器的袖子超強網絡產品。在沒有太多細節的情況下,這些256張GH200卡結合了CPU,GPU和回憶錄由專門的網絡芯片(稱為Bluefield-3和Connectx-7網絡適配器)控制和互連。一方面,CPU和GPU在非常高的速度之間使用稱為NVLINK-C2C的技術(是的,有很多名稱和縮寫!),這使他們可以以900 GB/s的價格交換數據(是的,您可以正確閱讀)。但最重要的是,其他網絡芯片允許在不損失的情況下交換數據,再次以非常高的速度交換。
還閱讀: NVIDIA揭開了其第一個手臂處理器的Grace,為人工智能剪裁(Avril 2021)
在舞台上,詹森黃(Jensen Huang)解釋說,他的毛病有很多力量(邏輯,他在那裡要出售)。實際上,其中一個非常例外:整個超級計算器被試用為單個加速器。當您知道信息的分佈和網絡節點的各種扼殺瓶的分佈是全面利用跳蚤的原始力量的主要製動器時,這是一項壯舉。在這裡,開發人員與特殊無關的好處是:沒有代碼改編以有效分發它。該巨人已編程並用作單個GPU。並部署了令人恐懼的力量。

如果我們知道品牌總是在安排它們的績效指標上進行交流(我們稱之為«櫻桃採摘»用英語說話的行話),一些Nvidia圖令人頭暈。這款256 Grace Hopper Superchips Monster發出了1個Exaflops的計算能力,結果在某些用途中,其功能高244倍,而不是等效設備。魔鬼是詳細的,我們必須詳細說明這些“某些用途”是什麼。
AI的野獸切割
DGX GH200有足夠的果汁來進行許多計算«變形金剛»,最重要的是AI執行的國王,尤其是大型語言模型。這些著名的LLM,其中最著名的已經是必不可少的chatgpt。在這一領域,它的心臟數量很大,並且能夠管理巨大的心臟水池從記憶中,面對競爭,這似乎是至關重要的……在這一領域。為了能夠將其與英特爾或AMD提供的內容進行比較,機器在其他領域(例如科學計算)的行為還有待觀察。
Nvidia已經在GPU領域的“經典”技術和科學任務領域已經超級主導了,該任務已經將其產品賣給了鏟子,現在似乎在生成AIS的世界中似乎很孤單。儘管該領域的所有工業家都已經將自己扔到了GPU上,但GH200 DGX似乎在派對之前就擁有武器來埋葬比賽(在該地區)。 Google Cloud,Meta和Microsoft將成為該超級計算器的第一批客戶,然後將其出售給他人。 NVIDIA的老闆甚至宣布,該公司將要收購自己的孩子,以繼續改善他。隨著時間的流逝,它變得更加強大。
NVIDIA掌握了一切及其價值爆炸

GH200 DGX具有令人印象深刻的,NVIDIA掌握了所有重要組成部分。即CPU,GPU和網絡處理器。儘管英特爾幾乎沒有到達專業GPU(與Ponte Vecchio)的市場,而AMD暫時將其解決方案強加於Nvidia,但具有Green Logo的品牌為其超級計算器設計了所有鏈條鏈接。對於沒有許可證X86的公司而言,這是一筆小的報仇,直到現在,才能與英特爾和AMD作鬥爭(在Power Architecture再次發光的某些應用中,IBM)。
它的40噸嬰兒,帶有240公里的光纖電纜,甚至2,112毫米的球迷應在今年重返服務。而且,如果結果存在並且IA浪潮正在加強(但是如何押注相反),那麼現在重量超過100億美元的股票市場的公司可能會繼續爆炸。因為,誰知道,加入非常精選的公司俱樂部,超過2億。對於一家通過向PC播放器出售3D圖形卡來取得最初成功的公司來說還不錯!
🔴不要錯過任何01net新聞,請關注我們Google新聞等WhatsApp。