อินสแตนซ์ Amazon EC2 G5

อินสแตนซ์ G5 มอบประสิทธิภาพด้านกราฟิกที่สูงขึ้นสูงสุด 3 เท่า และคุ้มค่าคุ้มราคากว่าอินสแตนซ์ G4dn ถึง 40% และมีแกนประมวลผล Ray Tracing มากกว่าอินสแตนซ์ EC2 ที่ใช้ GPU อื่น ๆ มีหน่วยความจำ 24 GB ต่อ GPU และรองรับเทคโนโลยี NVIDIA RTX ทำให้เหมาะอย่างยิ่งสำหรับการเรนเดอร์ฉากที่สมจริงได้เร็วยิ่งขึ้น ใช้งานเวิร์คสเตชันเสมือนที่ทรงพลัง และรองรับแอปพลิเคชันที่เน้นกราฟิกสูงที่มีความเสถียรสูงกว่า

อินสแตนซ์ G5 มอบประสิทธิภาพที่สูงขึ้นถึง 3 เท่า และมีความคุ้มค่าคุ้มราคาสูงขึ้นถึง 40% สำหรับการอนุมานของแมชชีนเลิร์นนิงเมื่อเปรียบเทียบกับอินสแตนซ์ G4dn โดยเป็นโซลูชันที่มีประสิทธิภาพสูงและคุ้มค่าคุ้มราคาสำหรับลูกค้าที่ต้องการใช้ไลบรารี NVIDIA เช่น TensorRT, CUDA และ cuDNN เพื่อรันแอปพลิเคชัน ML

อินสแตนซ์ G5 มีค่าใช้จ่ายในการฝึกต่ำกว่าอินสแตนซ์ Amazon EC2 P3 ถึง 15% นอกจากนี้ยังมอบประสิทธิภาพที่สูงขึ้นถึง 3.3 เท่าสำหรับการฝึก ML เมื่อเทียบกับอินสแตนซ์ G4dn อีกด้วย ด้วยเหตุนี้จึงทำให้เป็นโซลูชันที่คุ้มค่าคุ้มราคาสำหรับการฝึกฝนโมเดลแมชชีนเลิร์นนิงแบบโหนดเดียวที่มีความซับซ้อนปานกลางสำหรับการประมวลผลภาษาธรรมชาติ คอมพิวเตอร์วิชชัน และกรณีการใช้งานกลไกตัวแนะนำ

อินสแตนซ์ G5 ใช้ AWS Nitro System ที่ประกอบไปด้วยฮาร์ดแวร์เฉพาะและไฮเปอร์ไวเซอร์ที่ไม่เปลืองทรัพยากร ซึ่งจะส่งมอบทรัพยากรการประมวลผลและหน่วยความจำทุกประเภทของฮาร์ดแวร์โฮสต์ไปยังอินสแตนซ์ของคุณเพื่อประสิทธิภาพและความปลอดภัยในภาพรวมที่ดียิ่งขึ้น เมื่อใช้อินสแตนซ์ G5 ระบบ Nitro จะจัดเตรียม GPU ในโหมดส่งผ่าน ซึ่งให้ประสิทธิภาพที่เทียบเท่ากับ Bare Metal

อินสแตนซ์ G5 เป็นอินสแตนซ์แรกในระบบคลาวด์ที่มี NVIDIA A10G Tensor Core GPU ที่มอบประสิทธิภาพสูงสำหรับแอปพลิเคชันที่เน้นกราฟิกสูงและแมชชีนเลิร์นนิง แต่ละอินสแตนซ์มี GPU A10G Tensor Core สูงสุด 8 ตัวที่มาพร้อมกับคอร์ Ray Tracing 80 คอร์และหน่วยความจำ 24 GB ต่อ GPU นอกจากนี้พวกเขายังนำเสนอ NVIDIA Tensor Core รุ่นที่สามจำนวน 320 ตัว ซึ่งมี TOPS สูงสุดถึง 250 TOPS ส่งผลให้เวิร์กโหลด ML มีประสิทธิภาพสูง

อินสแตนซ์ G5 มีไดรเวอร์ NVIDIA RTX Enterprise และเกมให้กับลูกค้าโดยไม่มีค่าใช้จ่ายเพิ่มเติม สามารถใช้ไดรเวอร์ NVIDIA RTX Enterprise เพื่อมอบเวิร์กสเตชันแบบเสมือนคุณภาพสูงสำหรับเวิร์กโหลดที่เน้นกราฟิกสูงได้อย่างหลากหลาย ไดรเวอร์เกม NVIDIA มอบกราฟิกที่เหนือชั้นและการสนับสนุนการประมวลผลสำหรับการพัฒนาเกม นอกจากนี้อินสแตนซ์ G5 ยังรองรับไลบรารี CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 และ OpenGL 4.5 อีกด้วย

อินสแตนซ์ G5 มาพร้อมกับอัตราการโอนถ่ายข้อมูลเครือข่ายสูงสุด 100 Gbps ทำให้สามารถรองรับความต้องการสำหรับการอนุมานของแมชชีนเลิร์นนิงที่มีเวลาแฝงต่ำและแอปพลิเคชันที่เน้นกราฟิกสูงได้ หน่วยความจำ 24 GB ต่อ GPU พร้อมด้วยการรองรับพื้นที่จัดเก็บ NVMe SSD ภายในสูงสุด 7.6 TB ช่วยให้สามารถจัดเก็บข้อมูลโมเดลและชุดข้อมูลขนาดใหญ่ในเครื่องสำหรับการฝึกและการอนุมานของแมชชีนเลิร์นนิงที่มีประสิทธิภาพสูง นอกจากนี้อินสแตนซ์ G5 ยังสามารถจัดเก็บไฟล์วิดีโอขนาดใหญ่ไว้ในเครื่องได้อีกด้วย ส่งผลให้มีประสิทธิภาพกราฟิกเพิ่มขึ้น และความสามารถในการเรนเดอร์ไฟล์วิดีโอที่ใหญ่และซับซ้อนยิ่งขึ้นได้

อินสแตนซ์ G5 สร้างขึ้นบน AWS Nitro System ซึ่งเป็นคอลเลกชันบล็อกการสร้างที่ครบถ้วนซึ่งถ่ายโอนฟังก์ชันการจำลองระบบเสมือนแบบดั้งเดิมจำนวนมากไปยังฮาร์ดแวร์และซอฟต์แวร์เฉพาะเพื่อมอบประสิทธิภาพสูง ความพร้อมใช้งานสูง และความปลอดภัยสูง ในขณะที่ลดค่าโสหุ้ยในการจำลองระบบเสมือน