Amazon SageMaker 模型监控器

快速且经济高效地训练机器学习模型

什么是 Amazon SageMaker Model Training？

Amazon SageMaker Model Training 可减少大规模训练和调整机器学习 (ML) 模型的时间和成本，而无需管理基础架构。您可以利用目前可用的性能最高的机器学习计算基础架构，SageMaker 可自动扩展或缩减基础架构，从一个 GPU 扩展到数千个 GPU。由于您只需按实际用量付费，因此您可以更有效地管理训练成本。为了更快地训练深度学习模型，SageMaker 可帮助您实时选择和优化数据集。SageMaker 分布式训练库可自动在 AWS GPU 实例之间拆分大型模型和训练数据集，或者您也可以使用第三方库，例如 DeepSpeed、Horovod 或 Megatron。通过自动监控和修复训练集群，在不中断的情况下对基础模型（FM）进行数周甚至数月的训练。

经济高效培训的优势

用于大规模且具有经济高效的培训的托管基础设施

Amazon SageMaker 提供广泛的 GPU 和 CPU 以及诸如 AWS Trainium 和 AWS Inferentia 之类的 AWS 加速器，以实现大规模模型训练。您可以自动向上或向下扩展基础设施，从一个 GPU 扩展到数千个 GPU。SageMaker HyperPod 专为大规模分布式训练而设计，可让您更快地训练基础模型（FM）。

高性能分布式训练

只需几行代码，您就可以将数据并行或模型并行添加到训练脚本中。SageMaker 通过在 AWS GPU 实例中自动拆分模型和训练数据集，可以更快地执行分布式训练。

内置工具可实现最高精度和最低成本

SageMaker 可以通过调整数千种算法参数组合来自动调整您的模型，从而得出最准确的预测。使用调试和分析工具快速纠正性能问题并优化训练性能。

用于交互和监控的内置工具

SageMaker 支持高效的 ML 实验，帮助您更轻松地跟踪 ML 模型迭代。通过可视化模型架构来识别和修复整合问题，提高模型训练性能。

大规模训练模型

完全托管的训练作业

Amazon SageMaker 训练作业为大型分布式 FM 训练提供了完全托管的用户体验，消除了基础设施管理方面无差别的繁重工作。SageMaker 训练作业会自动启动一个有弹性的分布式训练集群，监控基础设施并自动从故障中恢复，以确保顺畅的训练体验。训练完成后，SageMaker 将关闭集群，您需要按净训练时间付费。此外，借助 SageMaker 训练作业，您可以灵活地选择最适合单个工作负载的正确实例类型（例如，在 P5 集群上预训练 LLM 或在 p4d 实例上微调开源 LLM），以进一步优化您的训练预算。此外，它还为具有不同技术专业知识水平和不同工作负载类型的 ML 团队提供一致的用户体验。

了解详情

Amazon SageMaker HyperPod

Amazon SageMaker HyperPod 是一种专用基础设施，可有效管理计算集群以扩展基础模型（FM）开发。它支持先进的模型训练技术、基础设施控制、性能优化和增强的模型可观测性。SageMaker HyperPod 预先配置了 Amazon SageMaker 分布式训练库，使您能够在 AWS 集群实例之间自动拆分模型和训练数据集，以帮助有效利用集群的计算和网络基础设施。它通过自动检测、诊断和恢复硬件故障来实现更具弹性的环境，使您能够连续数月不间断地训练 FM，从而将训练时间缩短多达 40%。

了解详情