跳到正文
AI 资讯
11月17日周二
  1. AWS Machine Learning Blog55

    Novo Nordisk 用 Amazon Bedrock AgentCore 构建制造流程文档智能助手

    Novo Nordisk 与 AWS 构建并部署了基于 Amazon Bedrock AgentCore 的制造流程智能助手,通过 GraphRAG、混合搜索和先澄清后检索回答复杂流程问题。系统管理约四百万份文档,仅对已接入领域索引全文,并返回基于已批准文档及版本的引用答案。主体专家原本需要数小时或数天完成的任务被缩短至数分钟,同时会在材料缺失或存在歧义时明确提示复核。

  2. AWS Machine Learning Blog71

    Amazon Bedrock 为开放权重模型新增显式提示词缓存

    Amazon Bedrock 的开放权重模型现支持显式提示词缓存,可通过缓存断点精确标记需复用的提示词前缀。开发者可使用 Chat Completions API 配置隐式或显式模式,并从响应中的缓存读写字段观察使用量;文章还演示了 OpenCode 编码智能体会话中的隐式缓存应用。

    推荐理由:文章对比了隐式与显式缓存的控制方式,并提供 Python 和 OpenCode 示例,便于开发者评估缓存命中与成本节省。

  3. AWS Machine Learning Blog65

    Amazon Bedrock Managed Knowledge Base 用检索指令定制各租户答案

    Amazon Bedrock Managed Knowledge Base 支持通过检索指令为每个租户定制回答风格、格式、检索策略和答案策略。指令包含 persona、answerFormat、retrievalGuidance、answerPolicy 四个字段,可版本化并在请求中固定,Planning 跟踪事件会记录实际应用的指令版本。

    推荐理由:教程给出了多租户检索指令的创建、版本发布、隔离与审计方法,可迁移到共享知识库的分租户问答场景。

  4. AWS Machine Learning Blog68

    使用 Amazon Bedrock Managed Knowledge Base 的表格搜索解答表格问题

    Amazon Bedrock Managed Knowledge Base 支持通过智能体检索回答 CSV、XLSX 和 XLS 表格中的问题。文章演示了创建知识库与数据源、调用 AgenticRetrieveStream、读取代码执行轨迹及引用结果,并说明表格搜索的适用边界与文件大小限制。

    推荐理由:文章通过财务数据示例演示表格搜索如何结合表格计算与文档事实,并提供知识库创建、调用和追踪流程。

  5. NVIDIA Blog65

    NVIDIA Vera Rubin 在 MLPerf 训练与端点评测中取得领先性能

    NVIDIA Vera Rubin 平台首次亮相 MLPerf 评测,并在训练、后训练和智能体推理基准中取得领先性能。平台通过了 MLPerf Training v6.1 的全部项目,Vera Rubin NVL72 单 GPU 性能最高达到 GB300 NVL72 的 2 倍,扩展至 1,024 块 GPU 时效率约 97%,训练时间由 16 分钟缩短至约 4 分钟。

    推荐理由:原文汇总了 Vera Rubin 在训练、扩展效率与智能体推理上的基准表现,便于横向比较其性能和能效。

11月14日周六
  1. AWS Machine Learning Blog73

    在 Amazon Bedrock 上使用 NVIDIA NeMo Switchyard 为编码智能体路由模型

    AWS 演示如何使用 LiteLLM 与 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适模型。教程涵盖 Stage 与 Random 路由策略、AWS CDK 部署、网关测试,以及按通过测试的任务成本对比路由组和单模型基线。

    推荐理由:教程给出模型路由配置、AWS 部署和任务成本评测流程,并以通过测试的任务成本比较路由与单模型基线。

  2. AWS Machine Learning Blog47

    GS Caltex 如何用 Amazon SageMaker Canvas 和 Amazon SageMaker Pipelines 实现生产级 MLOps(第一部分)

    GS Caltex 将 SageMaker Canvas 中无代码构建并验证的模型接入 SageMaker Pipelines,复用预处理流程与已验证模型部署到生产工作流。ML 工程师可在几小时内完成模型部署,而此前约需一周;系统每 30 分钟运行一次批量推理,减少持续运行端点的需求并降低推理成本。

  3. AWS Machine Learning Blog72

    Amazon Bedrock AgentCore Runtime V2 快速会话启动的架构模式

    AWS 介绍 Amazon Bedrock AgentCore Runtime V2 的快速会话启动架构,通过环境快照与恢复替代逐会话初始化。文中说明 V2 的构建和调用流程、CloudWatch 延迟指标拆分、build hook 配置,以及预热会话、实现约 2 秒启动和亚秒级响应的方法。

    推荐理由:文章提供了会话启动的分段测量方法、四种优化模式及代码示例,可直接迁移到智能体运行时性能优化。

  4. Google Research78

    Google 开放 Antigravity /teamwork 与 /boost 多智能体工具

    Google 开放 Antigravity 的 /teamwork、/boost 等智能体工具,并与 Gemini 4 Argon、Gemini 4 Carbon 和 Gemini 4 Hydrogen 配合用于研究、形式化验证、编码和系统优化。

    推荐理由:文章同时给出多智能体工作流的设计机制、研究案例与性能数据,便于评估其对研究和工程流程的实际影响。

  5. AWS Machine Learning Blog70

    Amazon SageMaker HyperPod Data Capture 构建模型改进闭环教程

    Amazon SageMaker HyperPod Data Capture 可在三个独立层级记录生产推理输入和输出,并将数据写入 Amazon S3。文章以家电支持路由器为例,演示通过 Amazon Athena 发现新产品分类盲点、使用 SQL 策略生成标注数据,以及利用 HyperPod training operator 完成 LoRA 微调和并行部署。

    推荐理由:文章以完整案例串联生产数据捕获、Athena 分析、SQL 标注、LoRA 微调和并行部署,提供了可复用的模型改进闭环。

11月13日周五
  1. Hugging Face Blog74

    llama.cpp 与 ggml 发布 v1.0.0 库版本

    llama.cpp 项目发布 llama.cpp v1.0.0 和 ggml v1.0.0 库版本,并为主要破坏性变更启用明确的 MAJOR 版本升级规则。新版本覆盖 Linux、macOS、Windows、Android 和 iOS 等分发渠道。llama.cpp 目前支持 150 多种架构变体及主流推测解码方法,ggml 则通过可动态加载的后端适配多种硬件。

    推荐理由:项目明确了公开 API 与 ABI 的主版本升级边界,为下游依赖和多平台集成的兼容性管理提供了清晰依据。

  2. GitHub Blog · AI & ML72

    GitHub Copilot 智能体技能实践指南

    GitHub Blog 介绍了构建可跨智能体复用技能的方法,涵盖任务定义、技能编排、项目配置、权限边界和人工审批。实践以 Proof Agent 与 Data Forge 为例,将技能分别打包为 Claude Code、Cursor 和 GitHub Copilot 所需格式,并通过 CI 检查验证各客户端的安装与执行设置。

    推荐理由:文章用 Proof Agent 和 Data Forge 展示如何拆分、配置及校验可跨智能体复用的技能,提供了可迁移的工程实践。

  3. AWS Machine Learning Blog76

    Natera 如何用 Amazon Bedrock AgentCore 构建实验室运维智能体系统 SWARM

    Natera 介绍如何基于 Amazon Bedrock AgentCore 构建实验室运维智能体系统 SWARM,用自动化诊断承接 Jira 工单,并保留工程师实时交互排障流程。

    推荐理由:文章拆解了 SWARM 的知识库、双运行时、技能库与持续评测架构,并给出安全、集成和文档处理细节,可迁移到同类运维智能体建设。

  4. AWS Machine Learning Blog62

    Amazon Bedrock 推理请求的四种成本控制选择

    Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 会影响推理成本,但具体影响取决于模型与工作负载。文章通过测试展示各类设置的计费差异、模型支持情况和适用场景,并建议结合响应元数据、CloudWatch 日志、调用记录与账单数据逐项验证。

    推荐理由:文章通过对照测试说明缓存时长、服务层级、推理强度和输出上限如何影响 Bedrock 成本,并给出逐项验证与应用校准方法。

  5. AWS Machine Learning Blog69

    Amazon Bedrock AgentCore runtime 发布新一代更新,提升启动速度并扩展隔离会话能力

    Amazon Bedrock AgentCore runtime 发布新一代更新,会话启动速度最高提升 15x,计算能力扩展至 4x,资源运行效率最高提升 68%,同时保持 Firecracker MicroVM 硬件隔离。新版本支持最高 8 vCPUs、32 GB 内存和 10 GB 容器镜像,会话可在 2 秒内启动,并可动态挂载和保存数据以延伸信任边界。

    推荐理由:围绕隔离、启动速度与用量计费展开的更新,并给出客户实测数据,便于评估智能体规模化运行的基础设施取舍。

  6. AWS Machine Learning Blog50

    Amazon Bedrock 如何优化任务成本并证明 AI 智能体 ROI

    Amazon Bedrock 成本优化框架以“每次任务成本”衡量 AI 智能体支出,并用人工基线和五维评分卡验证 ROI。框架归纳 tokenizer 效率、输出冗长度、智能体循环效率与推理开销四类隐性成本,通过缓存、路由和输出约束降本。示例中,标价高 2x 的 Model B 单任务成本 $0.00145,比 Model A 的 $0.0042 低 65%。

11月12日周四
  1. AWS Machine Learning Blog73

    AWS 介绍用 Agent DLC 将 AI 智能体从原型推进到生产

    AWS 提出 Agent DLC,通过一个生命周期、内外两个循环和明确的 gold standard,评估 AI 智能体的每次变更并决定是否发布。该框架覆盖 Define、Build、Evaluate、Release、Observe 和 Feed Back 六个环节,以及五个质量维度和三级验收标准。

    推荐理由:文章把智能体生产化拆为评估、诊断、改进与发布环节,并以指标对照说明单一总分无法暴露信息覆盖和责任约束问题。

  2. AWS Machine Learning Blog70

    AWS 使用 A2A 构建可组合、可互操作的多智能体系统

    AWS 演示如何使用 A2A 在两个独立账户中连接基于 LangChain 和 Strands Agents 构建的智能体。示例通过 Agent Card 发现技能,以双向 OAuth 认证实现跨边界协作,并由 3 个 Jupyter notebook 完成部署和端到端测试。

    推荐理由:教程完整拆解了跨框架、跨账户多智能体架构,并提供代码、部署步骤与信任边界测试。

  3. AWS Machine Learning Blog70

    Amazon Bedrock AgentCore 推出 Web Search API

    Amazon Bedrock AgentCore 推出 Web Search API,开发者可通过 AWS SDK 或 AWS CLI 以单次 API 调用获取由 Amazon 运营的网页索引结果。

    推荐理由:该 API 提供直接调用方式、过滤与配额说明及框架接入示例,便于开发者评估如何将实时网页检索纳入应用和智能体工作流。

  4. AWS Machine Learning Blog74

    在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    Amazon SageMaker HyperPod 团队介绍如何通过梯度检查、环形重放审计和权重指纹比较,检测分布式训练中的静默数据损坏。检测到异常后,可将可疑 rank 映射到节点,隔离并更换故障节点,再从告警窗口之前的检查点恢复训练。方案已在配备 32 张 NVIDIA H100 GPU 的 PyTorch DDP 集群上测试,确定性审计每 100 步的实测开销为 10.1%。

    推荐理由:文章给出三项训练循环检查及故障定位、隔离和节点替换流程,并提供实测开销与注入故障结果。