我們負責一台運行高通 ARM 晶片 Snapdragon X Elite 的 PC。我們的測試重點在於人工智慧的使用，雖然在處理速度方面有真正的優勢，但並不要求精度。高通仍然認為這種類型的使用對於減輕雲端的負擔是有用的。
高通多年來一直在準備其個人電腦革命。該公司以其統治智慧型手機世界的 Snapdragon 晶片而聞名，多年來一直致力於開發專用於 PC 的新 CPU 架構，並利用來自新創公司 Nuvia 的 Rachat。
2023 年 10 月，在 Snapdragon 高峰會上，高通終於公佈了其工作成果：第一個使用這種新架構的晶片是 Snapdragon X Elite。在倫敦的演示中，我們終於能夠快速嘗試一些與人工智慧相關的用途。
所謂的「設備上」人工智慧有很大的優點，但也有很多缺點
如果根據對晶片進行的第一個基準測試高通，與競爭對手不相上下， 直到仍然可以與Apple的M3競爭，我們對它的AI處理能力還一無所知。我們能夠在由高通優化並運行 Windows 11 的機器上測試兩種用途。
要求在 PC 上進行兩項練習，均直接在裝置上進行且不使用雲端：
- 使用 Open AI 的 Whisper 回應書面請求；
- 從 Meta 的 Llama 2 建立影像。
首先觀察，PC 對請求的回應非常快速。如果您已經使用過文字或圖像生成人工智慧，儘管它們可能非常快，但它們通常需要大量的等待時間來回應我們的請求。我們觀察到生成影像的處理時間有時令人印象深刻，約為一秒。
話雖如此，結果並不總是很有說服力。事實上，所使用的模型是為了不依賴雲端而專門化的，遠不如我們現在習慣的模式強大和能力強。例如，我們詢問有關購買智慧型手機的建議，答案可以說很簡潔。然後我們請他論證他的觀點聊天機器人不明白並向我們重複了同樣的答案。
同樣，我們要求他為我們寫一篇有關 Galaxy S24 的文章，令人驚訝的是，他將三星最新的智慧型手機與筆記型電腦混淆了。
在圖像方面，結果更有說服力，因為聊天機器人似乎已經理解了我們的請求。話雖這麼說，效果圖的品質與我們習慣的 Dall-E 和其他中途旅程的品質相差甚遠。
底線：ARM 及其許可證
Snapdragon 的核心高通面臨的挑戰是最終提供能夠與共享筆記型電腦 CPU 和 GPU 市場的英特爾、AMD 和 Nvidia 競爭的基於 ARM 的 PC。
獨創性在於，Snapdragon X Elite或多或少類似於SoC（智慧型手機晶片），因此整合了NPU（專門用於AI處理的處理器）。它比 Snapdragon 8 Gen 3 更強大，但卻是高通智慧型手機上功能最強大的晶片。據高通稱，Snapdragon
AI的價值直接在裝置上計算
為什麼這很重要？甚至最後銀河 S24 Ultra三星迄今為止最強大的智慧型手機在使用任何 Galaxy AI 功能時都需要一點處理時間。這部分歸因於晶片的處理時間，也歸因於雲的使用。因此，強大的 NPU 不僅可以節省時間，而且可以減少對雲端的依賴。
目前，為了吸引客戶，三星、Google或 OpenAI 等公司不對基於雲端的人工智慧功能收費，但僅僅因為它們對用戶免費並不意味著它們不會向企業支付任何費用。恰恰相反。大眾越習慣使用人工智慧，這種成本就越大。“高效的 NPU 將減輕基於雲端的人工智慧的大量計算工作量””，高通歐洲公司高級技術總監 George Tsirtsis 解釋道。“雲端將生成式人工智慧用於所有用途最終將讓每個人都感到疲憊不堪”他懇求，以證明他的技術的興趣。
本文是高通組織的倫敦新聞發布會的一部分。
