Amazon EC2 G5g 執行個體採用 AWS Graviton2 處理器技術，並配備 NVIDIA T4G Tensor Core GPU，可在 Amazon EC2 中針對 Android 遊戲串流等圖形工作負載提供最佳價格效能比。這些執行個體是主要雲端中首個具有 GPU 加速功能的 Arm 型執行個體。
透過 G5g 執行個體，遊戲串流客戶可以在 Arm 型執行個體上原生執行 Android 遊戲、編碼呈現的圖形，並透過網路將遊戲串流至行動裝置。這有助於節省開發人力 (因為不需要交叉編譯或模擬)，且每小時每個串流的成本可降低 30%。
G5g 執行個體也是一個具有成本效益的機器學習推論平台。它們非常適合用來部署需要存取 NVIDIA GPU 及其相關 AI 程式庫的深度學習應用程式。
優勢
適用於 Android 遊戲串流的最佳價格效能
透過 G5g 執行個體，遊戲串流客戶可以在 Arm 型執行個體上原生執行 Android 遊戲、編碼呈現的圖形，並透過網路將遊戲串流至行動裝置，而無需交叉編譯或模擬。這有助於簡化開發工作並加快上市時程，且每小時每個串流的成本可降低 30%。
具成本效益的機器學習推論
G5g 執行個體採用 AWS Graviton2 處理器，並配備 NVIDIA T4G Tensor Core GPU，以提供符合成本效益的機器學習推論。這有助於降低在生產環境中執行深度學習模型的基礎架構成本，並且讓開發人員和企業能夠在其應用程式中更廣泛地部署深度學習功能。
安全性增強和資源效率最大化
G5g 執行個體採用 AWS Graviton2 處理器，且建置於 AWS Nitro System 上。與第一代 AWS Graviton 相比，AWS Graviton2 處理器具備永遠啟用的 256 位元 DRAM 加密，和快 50% 的每個核心加密效能。AWS Nitro System 結合專用硬體和輕量型虛擬化管理程序，幾乎能將主機硬體所有的運算與記憶體資源提供給您的執行個體使用，以提升整體效能與安全性。預設情形下，G5g 執行個體還支援 EBS 儲存磁碟區加密。
廣泛軟體支援
採用 64 位元 Arm 架構的 AWS Graviton 處理器獲得數個熱門 Linux 作業系統的支援，包括 Red Hat Enterprise Linux、SUSE 和 Ubuntu。AWS 和獨立軟體開發廠商 (ISV) 提供的許多用於安全、監控和管理、容器以及 CI/CD 的熱門應用程式和服務也支援 AWS Graviton2 型執行個體。
功能
採用 AWS Graviton2 處理器
AWS Graviton2 處理器的基礎為 64 位元的 Arm Neoverse 核心及 AWS 設計的自訂晶片，可提供最佳化效能和成本。與第一代 AWS Graviton 處理器相比，AWS Graviton2 處理器提供 7 倍效能、4 倍的運算核心數、5 倍的記憶體速度，以及 2 倍的快取容量。
配備 NVIDIA T4G Tensor Core GPU
與 AWS Graviton2 處理器搭配運作時，NVIDIA T4G GPU 可提供增強的圖形和遊戲效能。透過 RT 核心支援 NVIDIA RTX 技術，可實現即時光線追蹤轉譯，提供具有物理準確性的陰影、反射和折射的逼真物件與環境。
建立在 AWS Nitro System 上
AWS Nitro System是一個豐富的建構區塊集合，可將許多傳統的虛擬化功能轉移到專用的硬體和軟體，以提供高效能、高可用性和高安全性，而且還能降低虛擬化的額外負荷。
客戶
「視訊遊戲社群中的語音聊天對於社會化和互動參與至關重要，但蔓延的毒性造成玩家受到傷害，並產生紛爭。Modulate 利用機器學習主動偵測即時語音對話中的騷擾和其他傷害，為玩家創造更安全和包容的場所。Amazon EC2 G5g 執行個體是 Modulate 提供符合成本效益的即時語音仲裁技術的核心能力，並且讓我們的機器學習推論成本下降了 70%。」
Modulate 的技術長兼共同創辦人 Carter Huffman
「ADAS、自動駕駛和資訊娛樂等車用軟體定義功能的內嵌軟體開發正面臨挑戰。 由於需要交叉編譯和重新驗證硬體平台之間的軟體堆疊，開發環境與邊緣之間的差異會拖慢創新和上市時程。藉由採用在 Amazon EC2 G5g 執行個體上執行的 SOAFEE 架構 (該執行個體採用 Arm 型 Graviton2 CPU 和 Nvidia T4G Tensor Core GPU)，汽車開發人員有信心能在汽車和雲端之間取得緊密的一致性 (或環境等位)。」
Automotive Partnerships - North America, Arm 副總裁 John Heinlein
「Canonical 在 AWS Marketplace 上推出了 Anbox Cloud Appliance，為開發人員提供了簡單的方法，可在雲端中建立原型、開發和執行 Android。Anbox Cloud 現在支援 Amazon EC2 G5g 執行個體，並提供可與 Android 軟體堆疊緊密搭配運作的完整解決方案，以虛擬化行動應用程式 (包括遊戲)，並將其安全地大規模串流至行動裝置。透過 Anbox Cloud 和 G5g 執行個體，客戶可在 720p 和 30 fps 的數據下串流高達 55 個工作階段，且成本比同類 x86 型 GPU 執行個體低 20%。」
Anbox - Canonical 工程經理 Simon Fels
「為行動裝置開發軟體的挑戰在於實體裝置不會擴展，但模擬器不提供相同的效能或精確性。Corellium 建立 Arm 型裝置的虛擬模型，並在雲端中以 ARM 型伺服器加以執行。透過 Amazon EC2 G5g 執行個體，行動開發人員得以利用 Corellium 軟體建立 ARM 原生虛擬 Android 裝置，其中結合了實際裝置的保真度和效能與雲端的便利性和規模。」
Corellium 技術長 Chris Wade
「Genymobile 以實惠的價格提供 Genymotion，這是一種 Android 即服務解決方案。隨著 Amazon EC2 G5g 執行個體的發行，我們能夠為開發人員提供具有硬體加速的 Arm 原生環境，進而支援 GPU 加速的轉譯和視訊編碼。G5g 上的 Genymotion 是我們迄今為止最快，最精準的 Android 影像。最重要的是，低資源耗用量的實作使我們能夠在單一 G5g 伺服器上執行超過 60 個虛擬裝置執行個體！」
Genymobile 產品經理 Jean-Charles Leneveu
「Tier IV 是 Autoware 的領先開發商，這是全球第一個用於自動駕駛的開放原始碼軟體。作為 CI/CD 迴圈的一部分，我們之前僅限於對車內 ROScube 硬體評估 Yolo4 機器學習模型的效能。這限制了可以同時執行的模擬數量。由於 G5g 執行個體採用 Arm 型 Graviton2 處理器和 GPU，因此我們能夠利用這些執行個體來擴展 CI/CD 管道，同時執行更多模擬反覆運作，並在雲端與內嵌系統之間達到前所未有的平衡性」
Tier IV 工程總監 Eiji Sekiya
「在 WePlay，我們的目標是建立雲端原生、去中心化且可識別角色的虛擬世界。我們是雲端遊戲平台，但不僅僅是雲端遊戲平台。我們利用雲端遊戲技術，為所有行動遊戲玩家帶來無與倫比的社交體驗。我們遇到的最大挑戰，是 Arm 型 apk 檔案與現今可用的 x86 型 GPU 執行個體的相容性。將 Arm 型檔案轉換為 x86 並在 x86 執行個體上執行，不僅成本更高，而且無效。透過 g5g 執行個體，我們可以在沒有轉譯層的情況下原生執行 Android 遊戲。與 g4dn 相比，成本降低了 30%。」
Ready Player One Tech 執行長 Adrian Wang
產品詳細資訊
| 執行個體名稱 | NVIDIA T4G Tensor Core GPU | GPU 記憶體 (GB) | vCPU | 記憶體 (GB) | EBS 頻寬 (Gbps) | 網路頻寬 (Gbps) | 隨需 (價格/小時)* | 1 年 ISP 按小時計價 (Linux) | 3 年 ISP 按小時計價 (Linux) |
| g5g.xlarge | 1 | 16 | 4 | 8 | 最多 3.5 | 最多 10 | 0.42 | 0.252 | 0.168 |
| g5g.2xlarge | 1 | 16 | 8 | 16 | 最多 3.5 | 最多 10 | 0.556 | 0.334 | 0.222 |
| g5g.4xlarge | 1 | 16 | 16 | 32 | 最多 3.5 | 最多 10 | 0.828 | 0.497 | 0.331 |
| g5g.8xlarge | 1 | 16 | 32 | 64 | 9 | 12 | 1.372 | 0.823 | 0.549 |
| g5g.16xlarge | 2 | 32 | 64 | 128 | 19 | 25 | 2.744 | 1.646 | 1.098 |
| g5g.metal | 2 | 32 | 64 | 128 | 19 | 25 | 2.744 | 1.646 | 1.098 |
資源
資料表
影片
開始使用 G5g 執行個體
使用 AWS 預先建置的 AMI
使用 Amazon Deep Learning AMI，可以快速啟動已預先安裝常用深度學習架構和介面 (例如 TensorFlow 和 PyTorch) 的 Amazon EC2 執行個體，以執行複雜的自訂 AI 模型、試驗新的演算法，或學習新的技能和技術。若要進一步了解，請參閱 Amazon Deep Learning AMI 產品頁面。
利用來自 NVIDIA NGC 型錄的 NVIDIA AI
AWS Marketplace 上的 NVIDIA Deep Learning AMI 已預先設定了所有必要的 NVIDIA 驅動程式、程式庫和相依性，以便從 NVIDIA 的 GPU 最佳化軟體中樞 NGC 型錄執行啟用 ARM 的軟體。進一步了解如何在 AWS 上使用 NVIDIA 的 NGC 型錄。
以 NVIDIA 驅動程式建置您的自訂 AMI
對於在深度學習、資料科學和高效能運算 (HPC) 中常見的高度密集運算工作負載，NVIDIA Data Center 驅動程式能帶來最佳效能。 若要了解如何在執行個體上安裝這些驅動程式，請按一下這裡。
