NVIDIA GPU タイムスライシングが Bottlerocket で利用可能になり、AI/ML ワークロード効率が向上

投稿日: 2024年10月23日

本日、AWS は、セキュリティ、フットプリントの最小化、安全な更新に重点を置いた、コンテナホスティング専用の Linux ベースのオペレーティングシステムである Bottlerocket での NVIDIA GPU タイムスライシングサポートの導入を発表しました。この新機能は、コンテナ上で実行される人工知能/機械学習 (AI/ML) ワークロードのより効率的な GPU リソース共有を可能にすることで、マルチテナントやリソースに制約のある環境での GPU 使用率を最大化するという課題に対処します。

Bottlerocket がタイムスライシングをサポートすることにより、GPU の処理時間をより小さな間隔、つまり「スライス」に分割することで、複数のタスクが 1 基の GPU に同時にアクセスできるようになります。これにより、Bottlerocket のお客様は複数の AI/ML モデルを 1 基の GPU で実行できるようになり、GPU の使用率が向上し、ワークロードをより効果的にスケーリングできるようになります。

Bottlerocket の GPU タイムスライシングは、すべての商用リージョンと AWS GovCloud (米国) リージョンで利用できます。Bottlerocket の GPU タイムスライス機能の詳細については、Bottlerocket の開発者向けウェブサイトをご覧ください。