SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题
SGLang 与 Cloudflare 联合披露 PD 分离服务中的跨请求 KVCache 暴露问题,并提交了修复,避免已中止请求的异步写入落入其他请求的缓存。
推荐理由:文章拆解跨请求 KVCache 污染的竞态机制,并给出延迟释放、准入修复、完整性校验与升级路径,便于 PD 部署者评估风险并处置。
内容类型
AI 圈的商业大事:融资并购、人事变动、合作与竞争、政策与市场变化。
82 条精选近 30 天 81 条共收录 374 条
SGLang 与 Cloudflare 联合披露 PD 分离服务中的跨请求 KVCache 暴露问题,并提交了修复,避免已中止请求的异步写入落入其他请求的缓存。
推荐理由:文章拆解跨请求 KVCache 污染的竞态机制,并给出延迟释放、准入修复、完整性校验与升级路径,便于 PD 部署者评估风险并处置。
Mistral 在慕尼黑开设德国中心,组建 Physics AI 和 Industrial AI 专业研究团队及应用工程团队,并与 BMW、Siemens Energy 开展合作。Mistral 计划到 2030 年建设 1 gigawatt 欧洲算力capacity,同时与 TUM 合作研究基于风洞数据的实时汽车空气动力学预测。
推荐理由:Munich 研究中心及欧洲算力建设计划交代了 Mistral 进入德国工业 AI 市场的组织布局与基础设施投入。