跳到正文
AWS Machine Learning Blog· Dmitry Soldatkin·· 2 小时前精选AI 评分67

Amazon SageMaker AI 推出跨区域推理路由

Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI

AI 导读

Amazon SageMaker AI 推出跨区域推理路由,通过 inference router 为多区域、多账号的端点和推理组件提供统一调用入口。路由器优先使用本区域资源,在本地目标无法可靠服务时转移新请求,并在恢复后逐步回流;该功能已在大多数商业 AWS 区域正式可用,不收取额外费用,模型部署与 SageMaker AI 端点配置保持不变。

推荐理由

提供从路由决策到跨账号授权、流量上限和监控指标的完整落地路径,便于读者评估并接入跨区域推理容灾。

来源:AWS Machine Learning Blog · aws.amazon.com