AWS Deep Learning AMI
Bangun aplikasi deep learning yang aman dan terukur dengan cepat di lingkungan yang telah dikonfigurasi sebelumnya
Lakukan penskalaan
Skalakan pelatihan machine learning (ML) terdistribusi ke ribuan instans yang dipercepat dan deploy model untuk inferensi dengan lancar.
Kembangkan
Kembangkan pada akselerator—termasuk AWS Trainium, AWS Inferentia, dan GPU NVIDIA—dengan driver, kerangka kerja, pustaka, dan alat terbaru.
Kurangi risiko
Kurangi risiko dengan citra mesin yang disesuaikan dan stabil yang di-patch secara teratur untuk mengatasi kerentanan keamanan.
AWS adalah Pemimpin di Gartner Magic Quadrant
Gartner menobatkan AWS sebagai Pemimpin dalam Magic Quadrant untuk Layanan Developer AI Cloud.
Kasus Penggunaan
Pengembangan kendaraan otonom
Kembangkan model ML lanjutan dalam skala besar untuk mengembangkan teknologi kendaraan otonom (AV) secara aman dengan memvalidasi model menggunakan jutaan pengujian virtual yang didukung.
Pemrosesan bahasa alami
Percepat instalasi dan konfigurasi instans AWS, serta percepat eksperimen dan evaluasi menggunakan kerangka kerja dan pustaka terbaru, termasuk Hugging Face Transformers.
Analisis data layanan kesehatan
Gunakan analitik, ML, dan kemampuan deep learning lanjutan untuk mengidentifikasi tren dan membuat prediksi dari data kondisi mentah yang berbeda.
Pelatihan model yang dipercepat
DLAMI menyertakan percepatan GPU NVIDIA terbaru melalui driver yang telah dikonfigurasi sebelumnya, seperti Intel Math Kernel Library (MKL), paket Python, dan Platform Anaconda.
Kesuksesan pelanggan
Toyota Research Institute
"Di Toyota Research Institute (TRI), kami meneliti berbagai cara untuk meningkatkan kualitas hidup manusia melalui kemajuan di bidang mengemudi otomatis, energi dan bahan, kecerdasan buatan yang berpusat pada manusia, pengemudian interaktif manusia, model perilaku berskala besar, serta robotika. Machine learning memegang peranan penting dalam sebagian besar pekerjaan kami. AWS Deep Learning AMI berperan penting dalam mempercepat penelitian kami. Mereka memungkinkan tim kami meluncurkan dan menskalakan lingkungan ML beperforma tinggi dengan cepat di EC2, dengan driver NVIDIA dan CUDA yang telah dikonfigurasi sebelumnya yang bekerja dengan lancar tanpa pengaturan tambahan. Stabilitas dan kemudahan penggunaan ini secara signifikan mengurangi biaya tambahan operasional kami sehingga peneliti dan ilmuwan data dapat fokus pada tantangan yang menjadi bagian dalam pekerjaan mereka, bukan pada pengelolaan infrastruktur. Dengan menyederhanakan perangkat ML kami, AWS DLAMI memungkinkan kami untuk fokus pada hal yang benar-benar penting - menciptakan terobosan teknis dan membuka peluang bagi produk dan layanan baru yang dapat menghadirkan "kebahagiaan bagi semua". Efisiensi dan keandalan AWS Deep Learning AMI telah menjadi bagian tak terpisahkan dari toolkit kami di TRI."
Satya Kotari, Technical Lead, TRI.
Cimpress
Cimpress berinvestasi dan membangun bisnis kustomisasi massal bidang percetakan dengan semangat kewirausahaan yang berfokus pada pelanggan untuk jangka panjang. Cimpress memudahkan pelanggan untuk memberikan kesan yang tidak terlupakan kepada pelanggan, organisasi, atau orang yang mereka cintai dengan biaya yang terjangkau. Baik itu materi promosi yang akan memperkuat merek bisnis maupun pengumuman kelahiran anak, Cimpress menggabungkan keinginan pelanggan atas personalisasi individu dengan dampak nyata dari produk fisik.
"Cimpress menggunakan AWS Deep Learning AMI untuk menyiapkan dan melakukan deployment lingkungan machine learning kami dengan cepat. DLAMI mengurangi overhead operasional dan dapat membuat produk kami masuk ke pasar secara lebih cepat dengan berfokus pada pekerjaan inti pelatihan serta deployment model deep learning untuk penglihatan komputer dan AI generatif.”
Ajay Joshi, Principal Software Engineer – Cimpress
Flip AI
Flip AI adalah platform observabilitas native GenAI pertama yang kompatibel dengan berbagai data dan platform, yang memahami semua modalitas observabilitas - termasuk metrik, peristiwa, log, dan jejak - dan menghasilkan Analisis Akar Penyebab prediktif dan insiden dalam hitungan detik.
"Di Flip AI, Kami telah melatih LLM kami sendiri untuk DevOps dengan melakukan debug insiden produksi guna membantu korporasi mencapai tingkat pengalaman pelanggan tertinggi. Pelatihan ini membutuhkan pengaturan performa tinggi yang mudah disesuaikan. Dengan DLAMI, kita tidak perlu bersaing dengan driver CUDA atau optimisasi terkait Pytorch. Dan ini berjalan baik. Meningkatkan persentase pemanfaatan GPU berarti kami dapat melatih model kami dengan lebih efisien, dan mengurangi 10 detik dari milidetik pada inferensi.”
Sunil Mallya, CTO – Flip AI
Torc Robotics
Torc Robotics adalah anak perusahaan independen dari Daimler Truck AG, pemimpin global dan pelopor di bidang truk, yang berfokus pada upaya merevolusi angkutan barang jarak jauh dengan truk otonom kelas 8 tingkat 4
"AWS Deep Learning AMI telah berperan penting dalam mempercepat pengembangan Sistem Bantuan Pengemudi Tingkat Lanjut terkemuka di industri di Torc. DLAMI memungkinkan kami menyiapkan dan melakukan deployment lingkungan machine learning dengan cepat pada instans AWS EC2, yang sangat penting untuk upaya penelitian dan pengembangan kami. Driver NVIDIA dan CUDA bawaan siap pakai dapat langsung digunakan tanpa perlu pengaturan tambahan, sehingga menyediakan platform yang stabil dan andal yang secara signifikan mengurangi beban operasional kami. Dengan menyederhanakan pengelolaan infrastruktur ML kami, AWS DLAMI memungkinkan kami untuk memfokuskan sumber daya kami agar produk kami dapat diluncurkan ke pasar lebih cepat. Efisiensi dan keandalan AWS Deep Learning AMI telah menjadikannya alat yang sangat diperlukan dalam menggerakkan misi inti Torc di bidang kendaraan otonom.”
Jason Fox, Torc Senior Engineering Manager, Developer Platform
Cara kerjanya
AWS Deep Learning AMI (DLAMI) menyediakan rangkaian kerangka kerja, dependensi, serta alat yang dikurasi dan aman untuk mempercepat deep learning di Amazon EC2 bagi para praktisi dan peneliti ML. Dibangun untuk Amazon Linux dan Ubuntu, Amazon Machine Image (AMI) telah dikonfigurasi sebelumnya dengan TensorFlow, PyTorch, driver dan pustaka NVIDIA CUDA, Intel MKL, Elastic Fabric Adapter (EFA), dan plugin AWS OFI NCCL, sehingga memungkinkan Anda melakukan deployment serta menjalankan kerangka kerja dan alat dengan cepat dalam skala besar.
Sesi re:Invent
AWS re:Invent 2023 - Pelatihan model besar pada AWS Deep Learning AMI & PyTorch, menampilkan Pinterest -AIM326