Phiên bản G6e của Amazon EC2 hiện được cung cấp ở khu vực Seoul
Kể từ hôm nay, phiên bản G6e của Amazon EC2, sử dụng GPU NVIDIA L40S Tensor Core sẽ được cung cấp ở khu vực Châu Á Thái Bình Dương (Seoul). Các phiên bản G6e có thể được sử dụng cho nhiều trường hợp sử dụng công nghệ máy học và dịch vụ điện toán không gian khác nhau.
Khách hàng có thể sử dụng phiên bản G6e để triển khai các mô hình ngôn ngữ lớn (LLM) với các tham số lên đến 13B và mô hình khuếch tán để tạo hình ảnh, video và âm thanh. Ngoài ra, các phiên bản G6e sẽ khai phá khả năng của khách hàng để tạo ra các mô phỏng 3D và bản sao kỹ thuật số lớn hơn, chân thực hơn cho khối lượng công việc điện toán không gian. Phiên bản G6e được trang bị lên đến 8 GPU NVIDIA L40S Tensor Core với bộ nhớ 48 GB cho mỗi GPU và bộ xử lý AMD EPYC thế hệ thứ ba. Phiên bản G6e cũng hỗ trợ lên đến 192 vCPU, băng thông mạng lên đến 400 Gbps, bộ nhớ hệ thống lên đến 1,536 TB và dung lượng lưu trữ SSD NVMe cục bộ lên đến 7,6 TB. Nhà phát triển có thể chạy khối lượng công việc suy luận AI trên phiên bản G6e bằng AMI học sâu của AWS, Bộ chứa học sâu của AWS hoặc các dịch vụ được quản lý như Dịch vụ Kubernetes linh hoạt Amazon (Amazon EKS), Lô AWS và Amazon SageMaker.
Phiên bản Amazon EC2 G6e hiện được cung cấp ở các khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia, Ohio), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Tokyo, Seoul) và Châu Âu (Frankfurt, Tây Ban Nha, Stockholm). Khách hàng có thể mua phiên bản G6e dưới dạng Phiên bản theo nhu cầu, Phiên bản đặt trước, Phiên bản dùng ngay hoặc như một phần của Gói tiết kiệm.
Để bắt đầu, hãy truy cập Bảng điều khiển quản lý AWS, Giao diện dòng lệnh (CLI) AWS và SDK AWS. Để tìm hiểu thêm, hãy truy cập trang phiên bản G6e.