AWS介绍EKS GPU显存切分实践
热点事件持续更新
AWS介绍EKS GPU显存切分实践
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AWS发布教程,介绍如何在Amazon EKS上构建自定义Amazon Linux 2023镜像并配置NVIDIA Run:ai GPU Fractioning,使多个Pod共享一块NVIDIA GPU。实践在G5/A10G环境中验证,两个8 GiB内存合约可在同一GPU上成功分配6 GiB,9 GiB请求则因超出合约被拒绝。 该方案要求预先配置GPU容量,未验证GPU切分感知的自动扩缩容;部署会创建EKS控制面、NAT网关、实例、卷和AMI快照等计费资源。分片守护进程需要特权容器、宿主机PID访问及NRI/MPS挂载,AWS建议仅限受信任管理员配置。
AI 根据报道生成 · 1 小时前更新
最新进展11月20日 00:13
在 Amazon EKS 上配置 NVIDIA Run:ai GPU Fractioning 的实践报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- AWS Machine Learning Blog精选在 Amazon EKS 上配置 NVIDIA Run:ai GPU Fractioning 的实践
该教程演示如何在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning,让多个 Pod 共享一块 NVIDIA GPU。实践以 G5/A10G 环境验证了两个 8 GiB 内存合约在同一块 GPU 上运行并成功分配 6 GiB,同时确认 9 GiB 分配会因超出合约被拒绝,并提供自定义 AL2023 镜像、调度组件和监控指标的配置与清理步骤。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。