Amazon Web Services ブログ

Category: Amazon EC2

AWS Trainium を活用した日本語大規模言語モデルの分散学習と AWS Inferentia2 上での推論環境構築

生成 AI の進化を支える大規模言語モデルの開発及び運用に掛かるコスト、計算機リソースの確保は多くの企業が抱える大きな課題です。AWS では機械学習 (ML) アクセラレーターチップ AWS Trainium、AWS Inferentia2 を自社開発し、これらの課題解決に取り組んでいます。(Anthropic では AWS Trainium、Inferentia の活用を表明しています)
本ブログでは、前半で、AWS Trainium 搭載 Amazon EC2 Trn1 インスタンスを活用した日本語大規模言語モデルの開発事例、大規模分散学習の課題及び実現方法について解説します。
ブログ後半では、公開された日本語大規模モデルを Inferentia2 搭載 Amazon EC2 Inf2 インスタンス上で推論実行する方法について、手順を追って解説します。

VMware 仮想マシンを AWS Application Migration Service レプリケーションエージェントを利用して Amazon EC2 に移行する

AWS Application Migration Service (MGN) を利用して VMware 仮想マシンを Amazon EC2 に移行する手順を順を追って説明します。この移行ソリューションは、VMware Cloud on AWS およびオンプレミス VMware 仮想環境のどちらに対しても有効です。今回は継続的なデータレプリケーションを行い、切り替えの所要時間を短縮するエージェントベースでのレプリケーション手法を選択しています。さらに、移行した VM から VMware Tools などの独自アプリケーションを削除するための起動後スクリプトの適用方法も示します。

Amazon FSx for NetApp ONTAP を使用した Windows サーバーにおけるストレージ管理

ワークロードをクラウドへ移行するユーザーは、移行に伴うアプリケーションコードの変更や新しいデータ管理手法の習得を回避したいと考えています。
理想としては、従来のオンプレミス環境と変わらない機能と管理ができるクラウドサービスを求めています。
運用と管理のスキルを再学習することなく、クラウドへの移行とデプロイを加速することを目標としています。

Amazon CodeWhisperer を使用してクラウドの知識を深める

Amazon CodeWhisperer は人工知能 (AI) を活用した革新的な生産性ツールで、開発者の生産性を向上させ、クラウドの学習を加速できます。Amazon CodeWhisperer は機械学習 (ML) を利用して、統合開発環境 (IDE) でインテリジェントなコード提案を行います。

AWS Weekly Roundup – Bedrock での Claude 3 Sonnet サポート、新しいインスタンスなど – 2024 年 3 月 11 日

3月4日週の金曜日は国際女性デー (IWD) でした。本題に入る前に、テクニカルリーダーとしての地位に昇りつめ […]