跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

127 条精选近 30 天 120 条共收录 324 条

更新

精选归档 · 第 6 页

11月1日周日第 101–120 条
  1. AIHOT82

    Alphabet、Meta、微软、亚马逊和甲骨文承诺投入超3万亿美元建设AI基础设施

    Alphabet、Meta、微软、亚马逊和甲骨文承诺未来数年投入超过3万亿美元建设AI基础设施。五家公司披露的租赁付款承诺合计1.3万亿美元,其他采购承诺合计1.9万亿美元;其中Alphabet承诺规模最大,超过1万亿美元,Meta超过8,000亿美元。相关投入部分流向尚未生效的数据中心租约,部分企业已出现自由现金流由正转负的情况。

    推荐理由:汇总五家科技巨头的投资规模、承诺结构与现金流变化,为观察AI基础设施投入强度提供数据参照。

10月31日周六
  1. AWS Machine Learning Blog67

    MoEngage 如何用 AgentCore Gateway 将 400 多个 API 转换为智能体工具

    MoEngage 使用 Amazon Bedrock AgentCore Gateway,将约 400 个私有 REST API 操作转换为权限隔离的 MCP 智能体工具。该方案覆盖 7 个 AWS Regions,并通过 Cedar 策略、服务端身份注入和语义搜索控制工具可见范围,新 API 接入从数天缩短至数小时,预计节省约 6 个月平台工程投入。

    推荐理由:MoEngage 公开了以中心化网关、权限策略和语义搜索管理大规模智能体工具的架构,便于读者参考私有 API 接入方案。

  2. AWS Machine Learning Blog72

    使用 Amazon Bedrock AgentCore runtime 实时预览编码智能体生成的应用

    Amazon Bedrock AgentCore runtime 教程演示了如何通过 Session endpoints 和本地端点,在浏览器中实时查看编码智能体持续修改的 Vite 网站。

    推荐理由:文章通过可运行的 Vite 示例,拆解如何配置端口、认证和本地代理,让编码智能体生成的应用在浏览器中实时预览。

10月30日周五
  1. NVIDIA Blog61

    NVIDIA Omniverse 如何利用前沿 AI 智能体构建仿真应用

    NVIDIA Omniverse 展示了开发者如何利用 GPT-6 Astra 等前沿 AI 模型构建物理仿真应用。开发者通过自然语言指导智能体生成或修改 OpenUSD 场景、连接 Omniverse 库,并验证机器人拆装、建筑重建、燃气轮机分析和传感器输出。

    推荐理由:文章通过机器人拆装、数字孪生、传感器验证和仓储仿真等项目,展示了 AI 智能体接入 Omniverse 工作流的具体方式。

10月29日周四
  1. Mistral AI82

    Mistral Large 4(Le Chonk)发布开放权重

    Mistral AI 发布 Mistral Large 4(Le Chonk)开放权重,这是一款 1-trillion-parameter 原生多模态模型,重点增强编码与防御性网络安全能力。

    推荐理由:文章汇总模型在编码、终端任务和网络安全评测中的数据,并给出推理模式与部署入口,便于比较实际能力边界。

  2. AIHOT77

    Google三季度搜索增速不及预期,AI搜索变现引发投资者担忧

    Google三季度搜索收入增长约12%,低于分析师预期的15%,AI搜索查询增长较快但变现水平较低引发投资者担忧。Google Services收入增长11%至$96.3 billion,搜索及其他广告收入增至$63.4 billion;Google Cloud收入同比增长103%至$30.7 billion。

    推荐理由:财报数据呈现了AI搜索增长与变现之间的矛盾,可用于评估Google核心业务面临的压力。

  3. AIHOT79

    Factory 发布 Droid 1.0,以程序化工具调用构建企业级 Agent harness

    Factory 发布 Droid 1.0,将程序化工具调用设为默认模式,以单次模型请求运行数百次工具调用。在相同任务和模型上,Droid 的资源效率较模型原生 harness 最高提升 20%;在 Terminal-Bench 4 中,使用 GPT-6.1 Sol 时比 Codex 高 3.5 分且成本低 12%。

    推荐理由:公开了程序化工具调用在成本、上下文与执行可靠性上的改造方法,并以跨模型评测和真实任务数据说明其收益。

  4. AIHOT78

    GitHub Universe 2026 发布 GitHub Copilot app 与 Copilot Fusion 等智能体产品

    GitHub 在 GitHub Universe 2026 发布 GitHub Copilot app、Copilot Fusion、Copilot projects 和会话连续性等智能体产品,覆盖跨项目协作、多模型编排、并行任务与云端持续执行。

    推荐理由:文章集中展示了 GitHub 如何把智能体、多模型编排和云端工作流整合进软件交付,并说明相关功能与基础设施的落地方式。

10月28日周三
  1. AIHOT80

    LangChain 开源自研设计智能体 Content Studio 的 harness

    LangChain 开源了自研设计智能体 Content Studio 的 harness,包含沙箱电脑、48 个技能、wiki、记忆、异步子智能体和 Slack 交互,可通过 Managed Deep Agents 部署。

    推荐理由:文章完整拆解了设计智能体的技能、媒体工具、异步子智能体与记忆机制,为构建可扩展的智能体设计工作流提供了可复用方案。

10月27日周二
  1. NVIDIA Blog62

    NVIDIA 与 C-BRAIN 用 AI 加速阿尔茨海默病研究

    C-BRAIN 与 NVIDIA 合作,利用 AI 工具和加速计算整合分散的阿尔茨海默病研究数据,帮助科学家更快开展分析与验证。该联盟采用集中式与联邦式结合的架构,已构建开源智能体科研工具 OpenScientist 和 InsightEngine,案例显示单次分析可在数分钟内完成,费用低于 $10。

    推荐理由:文章梳理暗数据、联邦架构与两项开源智能体工具如何进入阿尔茨海默病研究流程,提供了可参考的实践路径。

  2. AIHOT79

    Runway 发布 App Studio,支持无代码构建创意应用

    Runway 发布 App Studio,用户可用自然语言在 Runway 内构建生成图像、视频和音频的自定义创意应用,无需编写代码。现有 Agent session 或 Workflow 可一键转为带简单界面的应用,并通过团队共享或公开链接分发。

    推荐理由:Runway 将创意工作流封装成可共享应用,并给出从自然语言构建、团队定制到企业权限管理的完整路径。

10月26日周一
  1. AIHOT82

    SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题

    SGLang 与 Cloudflare 联合披露 PD 分离服务中的跨请求 KVCache 暴露问题,并提交了修复,避免已中止请求的异步写入落入其他请求的缓存。

    推荐理由:文章拆解跨请求 KVCache 污染的竞态机制,并给出延迟释放、准入修复、完整性校验与升级路径,便于 PD 部署者评估风险并处置。

10月24日周六
  1. Google Research66

    Google Research 介绍基础模型在结核病筛查中的应用

    Google Research 介绍 MedGemma、MedSigLIP 和 HeAR 在结核病筛查及分诊中的研究与部署进展。Nexus AI 的胸片工具已在 6 个国家的约 40 家医疗机构使用,超过 90 名临床医生评估了 25,000 多张胸片,将出报告时间从数周缩短到 45 秒以内。

    推荐理由:文章梳理了从胸片算法、临床验证到开源模型和本地部署的完整路径,并提供医疗资源不足地区的实际应用数据。

10月23日周五
  1. Microsoft Research70

    Flint-interactive 用语义事件构建交互式数据可视化

    Microsoft Research 推出 Flint-interactive,通过 Flint 编译器将用户操作转换为语义事件,并用高层更新操作驱动图表响应。开发者可在聊天、Canvas 和编程 API 中创建交互式图表、数据故事与仪表板,还可连接表格、文本和其他组件。

    推荐理由:Flint-interactive 将复杂图表交互抽象为语义事件和高层更新操作,为理解其可靠性与接入方式提供了具体路径。

10月20日周二
  1. Mistral AI81

    Mistral AI 发布 Voxtral 3 语音模型与实时语音智能体 SDK

    Mistral AI 发布 Voxtral 3 语音模型家族与实时语音智能体 SDK,支持 50+ 语言的转写、对话推理和语音生成。Voxtral Small Transcribe 3 提供多语言转写、说话人分离和上下文偏置,Voxtral Mini TTS 3 支持 35+ 语言、50+ 方言及声音克隆,实时智能体可结合推理、工具调用和语音生成处理多步任务。

    推荐理由:原文给出转写、实时语音生成与智能体 SDK 的能力、基准和定价,便于评估语音智能体落地时的效果与成本。