大型科技公司的人工智慧資料中心成本
這最初發佈在我們的沃羅諾伊應用程式。免費下載該應用程式iOS系統或者安卓並從各種值得信賴的來源發現令人難以置信的數據驅動圖表。
大型科技公司積極進取投資數十億美元人工智慧資料中心,以滿足高階人工智慧工作負載所需的運算能力和基礎設施不斷增長的需求。
該圖直觀地顯示了 2024 年 1 月至 8 月 Microsoft、Google、Meta 和 Amazon 的 AI 資本支出總額和資料中心營運成本。
人工智慧資本支出是對長期人工智慧資產和基礎設施的一次性或不頻繁投資。
資料中心營運成本是日常運作和維護人工智慧資料中心的持續費用
數據來自 New Street Research摩根大通截至 2024 年 8 月更新。營運成本包括現金營運費用、軟體、折舊和電力。
訓練人工智慧模型正在消耗成本
下面,我們顯示了微軟、Google、Meta 和亞馬遜的人工智慧資本支出總額和資料中心營運成本。
公司 | GPU 和其他晶片 | 其他人工智慧支出 | 資本支出總額 | 培訓與研發 | 推理 | 總營運成本 |
---|---|---|---|---|---|---|
微軟 | 200億美元 | 200億美元 | 400億美元 | 30億美元 | 30億美元 | 60億美元 |
元 | 110億美元 | 120億美元 | 230億美元 | 20億美元 | 20億美元 | 40億美元 |
140億美元 | 150億美元 | 290億美元 | 30億美元 | 10億美元 | 40億美元 | |
亞馬遜 | 80億美元 | 80億美元 | 160億美元 | 20億美元 | 10億美元 | 30億美元 |
目前,微軟在人工智慧資料中心總成本方面處於領先地位,截至 2024 年 8 月,其資本支出和營運成本總計為 460 億美元。
目前,亞馬遜擁有最多的資料中心數量,達到 300 個,其次是亞馬遜,約 215 個。
9月,微軟和貝萊德透過全球人工智慧基礎設施投資合作夥伴關係宣布了一項1000億美元的計畫(蓋伊普)開發以人工智慧為中心的資料中心和支援它們的能源基礎設施。
值得注意的是,谷歌和亞馬遜目前訓練模型的費用是最終用戶運行模型的費用的兩倍多(推斷)。
主要人工智慧模型的訓練成本為,因為它需要大量的資料集、複雜的運算和大量的運算資源,通常涉及強大的 GPU 和大量的能源消耗。
然而,隨著人工智慧模型部署的頻率和規模不斷增長,推理的累積成本可能會超過這些初始訓練成本,這已經是這種情況OpenAI 的 ChatGPT。
了解有關 Voronoi 應用程式的更多信息
要了解有關美國資料中心分佈的更多信息,請查看此形象的這顯示了資料中心消耗的美國各州電力的百分比。