AWS Deep Learning AMI
在預先設定的環境中快速建置可擴展、安全的深度學習應用程式
擴展
將分散式機器學習 (ML) 訓練擴展到數千個加速執行個體,同時無縫部署生產推論模型。
開發
使用最新的驅動程式、框架、程式庫和工具,在加速器 (包括 AWS Trainium、AWS Inferentia 和 NVIDIA GPU) 上進行開發。
降低風險
定期修補自訂和穩定的機器映像,以解決安全性漏洞,從而降低風險。
AWS 在 Gartner Magic Quadrant 中名列領導者
Gartner 將 AWS 評為雲端 AI 開發人員服務 Magic Quadrant 的領導者。
使用案例
自動駕駛汽車開發
大規模開發進階 ML 模型,並使用數百萬個支援的虛擬測試來驗證模型,以安全地部署自動駕駛汽車 (AV) 技術。
自然語言處理
加快安裝及設定 AWS 執行個體的速度,並透過最新的架構和程式庫加速進行試驗和評估,包括 Hugging Face 轉換器。
醫療保健資料分析
使用進階分析、ML 和深度學習功能,從不同的原始醫療保健資料中識別趨勢並進行預測。
加速的模型訓練
DLAMI 透過預先設定的驅動程式、Intel Math Kernel Library (MKL)、Python 套件和 Anaconda 平台,提供最新的 NVIDIA GPU 加速。
客戶成功案例
Toyota Research Institute
「在 Toyota Research Institute (TRI),我們透過自動駕駛、能源與材料、以人為中心的人工智慧、人車互動駕駛、大型行為模型及機器人技術的進展,探索提升人類生活品質的方法。機器學習是我們多數研究工作的核心。AWS Deep Learning AMI 在加速我們的研究方面扮演了關鍵角色。它們讓我們的團隊能夠在 EC2 上快速啟動並擴展高效能的機器學習環境,配備預先設定好的 NVIDIA 與 CUDA 驅動程式,開箱即可無縫運作。這種穩定性與易用性大幅降低了我們的營運成本,讓研究人員與資料科學家能夠專注於工作本身所面臨的挑戰,而不是管理基礎架構。透過簡化我們的機器學習工具,AWS DLAMIs 使我們能專注於真正重要的事,實現技術突破,並發掘能帶來『為所有人創造幸福』的新產品與服務機會。AWS Deep Learning AMI 的效率與可靠性,已使其成為 TRI 工具箱中不可或缺的一部分。」
Satya Kotari,TRI 技術主管
Cimpress
Cimpress 長期投資並建立以客戶為尊、富於企業家精神、大規模的印刷定製業務。Cimpress 讓客戶可以輕鬆且實惠地為其客戶、組織或親人留下深刻印象。無論是擴大企業品牌影響的推廣材料,還是慶祝誕生的宣傳材料,Cimpress 都能兼顧客戶的個人化需求與實物產品的實際影響力。
「Cimpress 使用 AWS Deep Learning AMI 迅速設定和部署我們的機器學習環境。DLAMI 降低了我們的營運開銷,而我們可以專注於訓練和部署我們的深度學習模型,用於電腦視覺和生成式 AI 的核心工作,從而使我們的產品更快上市。」
Cimpress 首席軟體工程師 Ajay Joshi
Flip AI
Flip AI 是首個 GenAI 原生可觀測性平台,不僅與資料和平台無關,還了解所有可觀測性模式 (包括指標、事件、日誌和追蹤),並在幾秒鐘內產生預測性分析和事件根本原因分析。
「在 Flip AI,我們已針對 DevOps 訓練自己的 LLM,以對生產事件進行偵錯,進而協助企業達到最高水準的客戶體驗。這項訓練需要可輕鬆自訂的高效能設定。使用 DLAMI,我們無需使用 CUDA 驅動程式或 Pytorch 相關優化來進行戰鬥。它真是表現優異。改善 GPU 使用率百分比意味著我們能夠更高效地訓練模型,並且在推論期間只需消耗幾十毫秒。」
Flip AI 技術長 Sunil Mallya
Torc Robotics
Torc Robotics 是全球卡車產業龍頭與先驅 Daimler Truck AG 的獨立子公司,專注於以 4 級自動駕駛 8 級重型卡車革新長途貨運產業
「AWS Deep Learning AMI 在加速我們於 Torc 開發業界領先的先進駕駛輔助系統方面,扮演了關鍵角色。DLAMIs 讓我們能夠在 AWS EC2 執行個體上快速設定與部署機器學習環境,這對我們的研發工作至關重要。預先打包的 NVIDIA 和 CUDA 驅動程式開箱即可順暢運作,提供穩定且可靠的平台,大幅降低我們的營運成本。透過簡化我們的機器學習基礎架構管理,AWS DLAMIs 使我們能將資源專注於更快速地將產品推向市場。AWS Deep Learning AMI 的效率與可靠性,已使其成為推動 Torc 在自動駕駛汽車領域核心任務中不可或缺的工具。」
Jason Fox,Torc 開發者平台資深工程經理
運作方式
AWS Deep Learning AMI (DLAMI) 為 ML 從業人員和研究人員提供精選且安全的架構、相依項和工具集合,以加速 Amazon EC2 上的深度學習。Amazon Machine Image (AMI) 專為 Amazon Linux 和 Ubuntu 而設計,同時已預先設定 TensorFlow、PyTorch、NVIDIA CUDA 驅動程式和程式庫、Intel MKL、Elastic Fabric Adapter (EFA) 和 AWS OFI NCCL 外掛程式,讓您能夠快速部署並大規模執行這些架構和工具。
re:Invent 會議
AWS re:Invent 2023 – AWS Deep Learning AMI 和 PyTorch 上的大型模型訓練Pinterest – AIM326