Vultr簡介 Cloud GPU 搭載 NVIDIA A16

本參考指南提供有關 Vultr 的信息 Cloud GPU 支持 NVIDIA A16 GPU。 Vultr 是第一家提供 NVIDIA A16 GPU 的雲計算提供商，並使用創新的虛擬化以實惠的價格提供部分 GPU。這產生了提供虛擬桌面的創新產品 Windows y Linux 連接高性能 NVIDIA GPU 時延遲低。

烏爾特爾 Cloud GPU、虛擬桌面基礎設施 (VDI) 現在已成為企業實用且可行的解決方案，其近乎本機的性能與之前以低延遲和丟幀而聞名的聲譽相去甚遠。禿鷹 Cloud NVIDIA A16 GPU 實例使用 NVIDIA Virtual PC (vPC) 軟件來加速桌面應用程序，使其成為虛擬桌面、轉碼等的完美基礎架構。無論您是在尋找功能強大的虛擬工作站還是圖形密集程度較低的解決方案，Vultr Cloud NVIDIA A16 驅動的 GPU 可以滿足您的需求。

NVIDIA A16 GPU 是 NVIDIA A40 GPU 的更小、更具成本效益的版本，專為轉發系統中的虛擬桌面基礎設施 (VDI)、虛擬應用程序 (VApp) 和無頭應用程序而設計。該 GPU 針對計算、工作站和 VDI 工作負載進行了優化。本指南提供了有關如何使用這些 GPU 來滿足您的特定需求的詳細信息。

每張 A16 卡都有四個獨立的 GPU 核心。當您實施單 GPU A16 計劃時，Vultr 會分配其中一個核心，它將在您的雲服務器上顯示為 GPU。如果您購買 4 GPU 計劃，您將收到相當於一張完整的 NVIDIA A16 卡，它將顯示為四個獨立的 GPU。重要的是要注意，所有四個任務可能不存在於同一張卡上，並且可能以各種組合分配給不同的卡。為了 example，一半的作業可以存在於一張卡上，除了一個以外的所有作業可以存在於另一張卡上，或者全部存在於同一張卡上。如果您需要一張完整的 NVIDIA A16 卡，並且在一張卡上具有所有四種映射，您應該考慮購買裸機計劃。

RTX 虛擬工作站 (vWS)

NVIDIA RTX 虛擬工作站 (vWS) 是一種軟件解決方案，支持 GPU 加速的虛擬桌面和應用程序以及高性能、專業級圖形。它可以通過網絡連接在任何地方的任何設備上遠程訪問強大的圖形處理功能。借助 NVIDIA RTX vWS，用戶可以在雲數據中心、本地服務器或工作站等虛擬化環境中運行資源密集型應用程序，例如 3D 設計、視頻編輯和科學模擬。該解決方案利用 NVIDIA RTX 平台（包括 Turing 架構和 RT 核心）來提供實時光線追踪和 AI 加速工作流程，以實現高端圖形和性能。 NVIDIA RTX vWS 還兼容多種操作系統，使其成為企業和組織的多功能解決方案。

Vultr A16 GPU 已獲得 RTX Enterprise 和 NVIDIA RTX vWS 驅動程序的完全許可。

vGPU配置文件

vGPU 配置文件是分配給虛擬機的虛擬 GPU 資源。配置文件確定分配給虛擬機的 GPU 幀緩衝區量，選擇該配置文件是為了提高 VDI 環境的成本、可擴展性、穩定性和性能。 vGPU 配置文件分為不同的系列，每個系列都針對特定類別的工作負載進行了優化，並具有固定數量的幀緩衝區、支持的顯示器和最大分辨率。您可以在以下位置了解有關 A16 vGPU 配置文件的更多信息 NVIDIA RTX 虛擬工作站規模調整指南。

Vultr A16 GPU 採用 Q 配置文件實現，該配置文件針對需要 NVIDIA RTX Enterprise 驅動程序性能和功能的創意和技術專業人士進行了優化。

虛擬桌面基礎架構 (VDI)

Vultr 承認 VDI Microsoft Windows 和許多分佈 Linux 與 Gnome、KDE 和 XFCE 一起使用。

當你實施 Microsoft Windows，驅動程序已安裝在您的 Cloud 服務器 GPU。
一 Linux，必須執行 nvidia-xconfig 設置桌面後。他 nvidia-xconfig tool 是一個用於配置 NVIDIA 顯卡的自動化工具。該命令必須自行執行以配置所有必要的設置。一般情況下不需要修改工具的配置。在特定的高級場景中可能需要進行修改，例如在無頭模式下使用流應用程序。然而，這些修改超出了典型 VDI 使用範圍。

開始

在開始之前，您必須安裝適當的客戶端並擁有云 GPU 的 IP 地址、用戶名和密碼。

他們是 最初的 Cloud 對 GPU 的訪問必須使用兩種協議之一來完成，具體取決於您選擇的操作系統。連接 VNC 或 RDP 後，您可以安裝您選擇的 VDI 解決方案，例如 Parsec、Teradici、XRPA 或其他。

用戶的 Microsoft Windows 必須使用遠程桌面協議 (RDP)，這是由 Microsoft 為另一台計算機提供圖形界面。用戶的 Microsoft Windows 他們必須安裝 RDP 客戶端，例如內置的遠程桌面連接工具，才能使用 RDP 連接到雲中的 GPU。然後，用戶需要雲 GPU 的 IP 地址或主機名以及用戶名和密碼才能訪問 GPU。 RDP 客戶端打開後，輸入 IP 地址和憑據以連接到雲中的 GPU。
用戶的 Linux 他們必須使用虛擬網絡計算（VNC），這是一種開源遠程桌面協議，可為另一台計算機提供圖形界面。要連接到 Linux Cloud GPU使用VNC，必須安裝VNC客戶端，IP地址 Cloud GPU、用戶名和密碼。 VNC 客戶端打開後，輸入 IP 地址和憑據，它將連接到 Cloud 圖形處理器。

注意：您不能將 Vultr Web 控制台與 Vultr 一起使用 Cloud 圖形處理器。

NVIDIA 驅動程序

默認情況下，Vultr 會在您的計算機上安裝 NVIDIA vGPU Enterprise 驅動程序 Cloud 服務器 GPU。

NVIDIA Enterprise 驅動程序專為企業環境而設計，提供標準消費類驅動程序中未包含的特性和功能。這些特性和功能旨在為企業級應用程序和系統提供增強的穩定性、性能和支持。

適用於 A16 GPU 的 NVIDIA Enterprise 驅動程序具有多項優勢，包括：

經認證的兼容性：驅動程序經過認證和測試，可與各種業務應用程序配合使用，確保兼容性並降低因使用未經測試或未經驗證的驅動程序而出現問題的風險。
提高穩定性：對驅動程序進行了優化，以提供更穩定的體驗，重點是減少崩潰、系統崩潰和其他與穩定性相關的問題。
提高性能：控制器為一系列企業級應用程序提供增強的性能，包括數據中心和科學計算以及機器學習和人工智能工作負載。
高級功能– 這些驅動程序提供 GPU Direct for Video 等高級功能，可實現高質量視頻處理，並增強對虛擬化環境（包括 NVIDIA GRID 和 NVIDIA vGPU）的支持。
專門的業務支持：驅動程序獲得 NVIDIA 的專門支持，確保企業客戶能夠獲得解決可能出現的任何問題所需的資源和專業知識。

簡而言之，您的 NVIDIA Enterprise Vultr 驅動程序已安裝在 Cloud 該 GPU 為 NVIDIA GPU（包括 A16）提供了更穩定、性能更高且功能豐富的體驗。

手動安裝

在某些情況下，您可能想要安裝自己的 GPU 驅動程序。 Vultr編譯內核 Linux 定制為支持 NVIDIA Enterprise 驅動程序，因此重新安裝驅動程序時請按照以下步驟操作。

一些步驟託管在 GitHub 上以避免代碼格式問題。

之前的要求

首先，安裝必備包：

對於基於 CentOS RHEL：

$ yum install -y epel-release

$ yum group install "Development Tools" -y

$ yum install -y wget cmake pkg-config libglvnd-devel mesa-libGL-devel zlib kernel-headers kernel-devel

Ubuntu：

$ apt-get update && apt-get install -y vim man wget unzip curl gnupg2 ca-certificates lsb-release apache2-utils 

ethtool wget build-essential zlib1g cmake pkg-config libglvnd-dev libegl1 libopenblas-dev liblapack-dev 

linux-headers-generic

分佈基於 Debian 那些不是 Ubuntu：

$ apt-get update && apt-get install -y vim man wget unzip curl gnupg2 ca-certificates lsb-release apache2-utils 

ethtool wget build-essential zlib1g cmake pkg-config libglvnd-dev libegl1 libopenblas-dev liblapack-dev 

linux-headers-amd64

通過運行以下命令禁用 Nouveau 驅動程序： https://github.com/vultr/vultr-docs/blob/main/article-assets/7720/Nouveau/disable-nouveau.sh
通過運行以下命令安裝許可證配置文件： https://github.com/vultr/vultr-docs/blob/main/article-assets/7720/gridd-config/install-license.sh
編輯 /etc/nvidia/gridd.conf 您在上一步中創建的。
```
$ nano /etc/nvidia/gridd.conf
```
替換任何實例 {{MACHERE}} 的 MAC 地址 Cloud GPU主網絡接口。

現在先決條件已完成，請選擇以下兩種安裝方法之一：基於存儲庫的安裝或手動安裝。

基於存儲庫的安裝（首選方法）

完成先決條件部分後，您可以使用這些命令安裝驅動程序。

安裝 Vultr 存儲庫。

安裝驅動程序。

對於基於 CentOS RHEL：

$ yum install -y vultr-nvidia-client-drivers

對於基於 Debian：

$ apt-get update

$ apt-get install -y vultr-nvidia-client-drivers

手動安裝（非首選方法）

完成先決條件部分後，您可以使用這些命令手動安裝驅動程序。

$ mkdir -p /opt/nvidia/drivers/

$ wget https://169.254.169.254/latest/nvidia_linux_driver_url -O /opt/nvidia/drivers/nvidia_manual_driver.run

$ chmod +x /opt/nvidia/drivers/nvidia_manual_driver.run

$ /opt/nvidia/drivers/nvidia_manual_driver.run --ui=none --no-questions

常見問題

A16 是否使用多實例 GPU (MIG) 或時間切片？

Vultr 對 A16 GPU 使用時間條帶化。

我部署了一個 Cloud GPU有四個A16，但它們位於不同的物理卡上。

如果您購買 4 GPU 計劃，您將收到相當於一張完整的 NVIDIA A16 卡，它將顯示為四個獨立的 GPU。重要的是要注意，所有四個任務可能不存在於同一張卡上，並且可能以各種組合分配給不同的卡。例如，一半的作業可以存在於一張卡上，除了一個以外的所有作業可以存在於另一張卡上，或者全部存在於同一張卡上。

如果您需要一張完整的 NVIDIA A16 卡，並且在一張卡上具有所有四種映射，您應該考慮購買裸機計劃。