亚马逊AWS官方博客

Category: Amazon SageMaker

Laya 非自回归决策服务:本地验证与 Amazon SageMaker AI 部署实践

Laya multilingual checkpoint 可以在 Apple Silicon Mac 上运行,也可以通过 Linux 自定义推理容器部署到 Amazon SageMaker AI ml.m5.xlarge 实时端点。它与 Jev 属于同一类 typed-decision 模型,但提供 Apache 2.0 开放权重,可以在企业自己的 AWS 账户中托管。本文给出 FastAPI 封装、容器适配、启动时间、推理结果和 Amazon CloudWatch 指标。
完整代码位于 koljahuang/laya-local,包含本地 FastAPI 服务、SageMaker 自定义容器和部署验证记录。

在 Amazon SageMaker HyperPod 上推出无检查点和弹性训练

今天,我们宣布在 Amazon SageMaker HyperPod 中推出两项全新的 AI 模型训练功能:无检查点训练 和 弹性训练。前者通过启用点对点状态恢复,减少了对传统基于检查点的恢复方式的依赖;后者则使 AI 工作负载能够基于资源可用性自动扩展。