要知道什麼:
- 與前代產品相比,Google 的 Trillium 晶片的訓練速度提高了 4 倍,推理效能提高了 3 倍。
- 該晶片的 HBM 容量增加了一倍,能源效率提高了 67%。
- Trillium 每個 Pod 最多可容納 256 個晶片,非常適合大規模 AI 訓練任務。
隨著第六代張量處理單元(TPU)Trillium的推出,Google似乎將在人工智慧晶片競賽中取得不錯的突破。這款新晶片,谷歌說,代表著人工智慧運算能力的重大飛躍,因為訓練速度提升 4 倍,推理表現提升 3 倍與其前身相比。它可以將谷歌定位為嚴肅的挑戰英偉達在人工智慧硬體市場的主導地位。
根據谷歌首席執行官桑達爾·皮查伊, 這過去六年機器學習算力需求增加了一百萬倍。 Trillium 晶片的設計就是為了滿足這種不斷增長的需求,提供近乎效能提升五倍與前身相比,能源效率顯著提高。
到 2023 年,全球生成式 AI 晶片組市場價值將達到 372.6 億美元,老牌企業和創新新創公司之間的競爭非常激烈。雖然英偉達目前在人工智慧資料中心晶片領域佔據約 80% 的市場份額,但谷歌透過其雲端運算平台租用其客製化晶片的策略方法可能有助於其佔領剩餘市場的更大份額。
Trillium 的發佈時機尤其重要,因為它與 Google 計劃將 Nvidia 的 H200 Tensor Core GPU 整合到其基礎設施中的計劃不謀而合。這種雙策略方法顯示了Google致力於提供嚴肅的人工智慧運算解決方案,同時開發自己有競爭力的硬體。