AWS Machine Learning Blog· Dmitry Soldatkin·· 2 小时前精选AI 评分67
Amazon SageMaker AI 推出跨区域推理路由
Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI
AI 导读
Amazon SageMaker AI 推出跨区域推理路由,通过 inference router 为多区域、多账号的端点和推理组件提供统一调用入口。路由器优先使用本区域资源,在本地目标无法可靠服务时转移新请求,并在恢复后逐步回流;该功能已在大多数商业 AWS 区域正式可用,不收取额外费用,模型部署与 SageMaker AI 端点配置保持不变。
推荐理由
提供从路由决策到跨账号授权、流量上限和监控指标的完整落地路径,便于读者评估并接入跨区域推理容灾。
来源:AWS Machine Learning Blog · aws.amazon.com