英偉達是生成式人工智慧技術蓬勃發展的關鍵。該行業的很大一部分依賴 Nvidia 的 GPU 和伺服器的功能。該公司並不想就此止步。事實上，它將銷售一款供研究人員使用的迷你電腦，數據科學家以及對學生；這台「AI 超級電腦」將允許他們使用大型語言模型 (LLM)，參數高達 2000 億個。
桌面上的主要語言模型
大型語言模型的參數是允許法學碩士進行預測或產生文本的元素。參數是模型用來定義神經網路不同組件之間的內部連接的數字。簡而言之，每個參數就好像一個小尺子或權重，可以幫助模型理解單字、概念或想法之間的關係。
舉個例子，Llama（Meta 最好的 LLM）的 3.1 版本擁有 4050 億個參數。可以這麼說，透過這個“數位專案”，Nvidia 提供了一台已經非常強大的機器，特別是因為實際上可以連接其中兩個來運行 4050 億個參數。用戶將能夠在本地創建原型並測試模型。
這款電腦的核心是 GB10 Superchip，這是一種基於 Grace Blackwell 架構的系統單晶片 (SoC)，能夠提供高達 1 petaflop 的 AI 效能。該晶片結合了包含下一代 CUDA 核心和第五代 Tensor 核心的 GPU，並藉助 NVLink-C2C 互連繫統連接到 Grace CPU（20 個高效的 Arm 架構核心）。聯發科幫助開發了這款新引擎。
為了給這一切提供燃料，不需要核反應爐附近：一個簡單的標準電源插座就夠了。每台迷你 PC 均包含 128 GB 統一記憶體和高達 4 TB 的 SSD 儲存。一切的設計都讓人想起 Mac mini。
Project Digits 將於 5 月上市，起價為 3,000 美元。人工智慧要花錢！
來源 ： 英偉達
