跳到正文
热点事件持续更新

AWS介绍EKS GPU显存切分实践

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS发布教程,介绍如何在Amazon EKS上构建自定义Amazon Linux 2023镜像并配置NVIDIA Run:ai GPU Fractioning,使多个Pod共享一块NVIDIA GPU。实践在G5/A10G环境中验证,两个8 GiB内存合约可在同一GPU上成功分配6 GiB,9 GiB请求则因超出合约被拒绝。 该方案要求预先配置GPU容量,未验证GPU切分感知的自动扩缩容;部署会创建EKS控制面、NAT网关、实例、卷和AMI快照等计费资源。分片守护进程需要特权容器、宿主机PID访问及NRI/MPS挂载,AWS建议仅限受信任管理员配置。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AWS Machine Learning Blog精选
    在 Amazon EKS 上配置 NVIDIA Run:ai GPU Fractioning 的实践

    该教程演示如何在 Amazon EKS 上使用 NVIDIA Run:ai GPU Fractioning,让多个 Pod 共享一块 NVIDIA GPU。实践以 G5/A10G 环境验证了两个 8 GiB 内存合约在同一块 GPU 上运行并成功分配 6 GiB,同时确认 9 GiB 分配会因超出合约被拒绝,并提供自定义 AL2023 镜像、调度组件和监控指标的配置与清理步骤。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。