AssemblyAI 如何在 AWS 上使用 Amazon EC2 Spot 优化语音转文字推理成本
AWS 介绍了 AssemblyAI 使用 Amazon ECS、Amazon EC2 Spot Instances 和 Amazon SQS 优化大规模语音转文字推理成本的架构。
推荐理由:AssemblyAI 的案例完整展示了通过多类型 GPU 实例、SQS 重试和区域隔离控制推理成本并保障服务可用性的方法。
AWS 介绍了 AssemblyAI 使用 Amazon ECS、Amazon EC2 Spot Instances 和 Amazon SQS 优化大规模语音转文字推理成本的架构。
推荐理由:AssemblyAI 的案例完整展示了通过多类型 GPU 实例、SQS 重试和区域隔离控制推理成本并保障服务可用性的方法。
Amazon Bedrock 可在无需工具专用埋点的情况下,将 Claude Code、OpenAI Codex 等工具的推理调用按 IAM 主体归因到具体用户。
Hugging Face 教程演示如何使用 SimReady Central 的 UR17G 机械臂、Robotiq 2F-140 夹爪和饮料罐资产,在 Isaac Sim 6.2 中构建抓取放置仿真。
Amazon SageMaker HyperPod Data Capture 可在三个独立层级记录生产推理输入和输出,并将数据写入 Amazon S3。文章以家电支持路由器为例,演示通过 Amazon Athena 发现新产品分类盲点、使用 SQL 策略生成标注数据,以及利用 HyperPod training operator 完成 LoRA 微调和并行部署。
推荐理由:文章以完整案例串联生产数据捕获、Athena 分析、SQL 标注、LoRA 微调和并行部署,提供了可复用的模型改进闭环。
XYBench论文发布8,115个真实问题组成的评测集,用于检验 AI 助手能否识别用户请求背后的错误前提并提供符合实际目标的建议。
OpenAI 发布 ChatGPT Wallet,为 ChatGPT Work、Codex 和 dots 中的 AI 智能体提供经用户批准的购买方式。该工具强调交易安全,并沿用现有卡片保护机制。
推荐理由:ChatGPT Wallet 为多款产品中的 AI 智能体提供经用户批准的交易能力,并沿用现有卡片保护机制。
llama.cpp 项目发布 llama.cpp v1.0.0 和 ggml v1.0.0 库版本,并为主要破坏性变更启用明确的 MAJOR 版本升级规则。新版本覆盖 Linux、macOS、Windows、Android 和 iOS 等分发渠道。llama.cpp 目前支持 150 多种架构变体及主流推测解码方法,ggml 则通过可动态加载的后端适配多种硬件。
推荐理由:项目明确了公开 API 与 ABI 的主版本升级边界,为下游依赖和多平台集成的兼容性管理提供了清晰依据。
Proximie 借助 NVIDIA Cosmos 3 优化手术室调度,已用于 700 多间手术室,使病例处理量增加 8%、周转速度提升 45%、准时开台率提升 26%。ConcertAI 通过 Cara AI 和 TriaLinQ 将临床试验匹配速度提高约 3 倍,并支持最高提升 50% 的试验入组率,同时由临床医生审核 AI 输出并作出治疗决定。
OpenAI 与 Apollo Research、METR、Transluce 和 Goodfire 启动嵌入式评估第一阶段。四家机构将独立评估模型对齐、安全防护和监控系统,以检验相关机制的实际表现。
Gondola 将营收翻倍,其首席工程师借助 Codex 将产出提升 50%。这个帮助创意人才获得认可和就业机会的平台,还使用 ChatGPT 简化日常工作。
Amplitude 借助 OpenAI 模型,让主动式产品智能体 Wave 识别需要构建的功能,并协助团队通过 coding agents 交付改动。其流程还能衡量产品改进的实际影响,将需求判断、开发与效果评估连接起来。
GitHub Blog 介绍了构建可跨智能体复用技能的方法,涵盖任务定义、技能编排、项目配置、权限边界和人工审批。实践以 Proof Agent 与 Data Forge 为例,将技能分别打包为 Claude Code、Cursor 和 GitHub Copilot 所需格式,并通过 CI 检查验证各客户端的安装与执行设置。
推荐理由:文章用 Proof Agent 和 Data Forge 展示如何拆分、配置及校验可跨智能体复用的技能,提供了可迁移的工程实践。
Amazon 宣布 SGLang-Neuron 已公开可用,可通过 AWS Deep Learning Container 在 AWS Trainium 上部署模型并生成 RL rollouts。
推荐理由:文章提供容器启动、模型服务和请求验证的完整路径,并说明插件架构与多硬件支持,便于评估迁移和配置成本。
Microsoft Research Focus 第98期由 Anson Ho 汇总微软最新研究,涵盖 AI 语音翻译、31 年数学猜想 KLS 的突破,以及 AI 编程智能体效率优化。
Natera 介绍如何基于 Amazon Bedrock AgentCore 构建实验室运维智能体系统 SWARM,用自动化诊断承接 Jira 工单,并保留工程师实时交互排障流程。
推荐理由:文章拆解了 SWARM 的知识库、双运行时、技能库与持续评测架构,并给出安全、集成和文档处理细节,可迁移到同类运维智能体建设。
IBM 发布两款实验预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,用于生成和理解 LLMON 标记文本。
推荐理由:LLMON通过显式分离指令与数据,并提供模型、转换工具、LoRA示例和提示注入评测,展示了小模型强化上下文结构化的实现路径。
Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 会影响推理成本,但具体影响取决于模型与工作负载。文章通过测试展示各类设置的计费差异、模型支持情况和适用场景,并建议结合响应元数据、CloudWatch 日志、调用记录与账单数据逐项验证。
推荐理由:文章通过对照测试说明缓存时长、服务层级、推理强度和输出上限如何影响 Bedrock 成本,并给出逐项验证与应用校准方法。
Amplitude 借助 OpenAI 模型,让主动式产品智能体 Wave 识别需要构建的功能,并协助团队通过 coding agents 交付改动。其流程还能衡量产品改进的实际影响,将需求判断、开发与效果评估连接起来。
AWS 介绍了一套无需编写应用代码的 Amazon Bedrock 成本治理方案,通过 IAM principal 归因、CUR 2.0 报告和 AWS Budgets 实现身份级费用可见与支出上限。
Amazon Bedrock AgentCore runtime 发布新一代更新,会话启动速度最高提升 15x,计算能力扩展至 4x,资源运行效率最高提升 68%,同时保持 Firecracker MicroVM 硬件隔离。新版本支持最高 8 vCPUs、32 GB 内存和 10 GB 容器镜像,会话可在 2 秒内启动,并可动态挂载和保存数据以延伸信任边界。
推荐理由:围绕隔离、启动速度与用量计费展开的更新,并给出客户实测数据,便于评估智能体规模化运行的基础设施取舍。
AWS 展示了如何使用 Amazon Bedrock Application Inference Profiles 与 AWS Fargate 上的 LiteLLM 构建自助式 LLM 网关。
Amazon Bedrock 成本优化框架以“每次任务成本”衡量 AI 智能体支出,并用人工基线和五维评分卡验证 ROI。框架归纳 tokenizer 效率、输出冗长度、智能体循环效率与推理开销四类隐性成本,通过缓存、路由和输出约束降本。示例中,标价高 2x 的 Model B 单任务成本 $0.00145,比 Model A 的 $0.0042 低 65%。
AWS 在 Agent Toolkit for AWS 的 amazon-bedrock skill 中加入知识库迁移指南,用编码智能体规划并迁移至 Amazon Bedrock Managed Knowledge Base。
推荐理由:指南把迁移拆分为发现、规划、审批、实施和验证环节,并给出权限控制与回滚检查方法。
AWS 提出 Agent DLC,通过一个生命周期、内外两个循环和明确的 gold standard,评估 AI 智能体的每次变更并决定是否发布。该框架覆盖 Define、Build、Evaluate、Release、Observe 和 Feed Back 六个环节,以及五个质量维度和三级验收标准。
推荐理由:文章把智能体生产化拆为评估、诊断、改进与发布环节,并以指标对照说明单一总分无法暴露信息覆盖和责任约束问题。
Amazon Bedrock Managed Knowledge Base 教程展示了如何让共享智能体和知识库按用户权限过滤搜索结果。方案以经过验证的身份信息生成 userContext,并结合 ACL awareness、Policy in AgentCore 和资源策略构成多层防护,避免由 LLM 决定授权范围。
AWS 演示如何使用 A2A 在两个独立账户中连接基于 LangChain 和 Strands Agents 构建的智能体。示例通过 Agent Card 发现技能,以双向 OAuth 认证实现跨边界协作,并由 3 个 Jupyter notebook 完成部署和端到端测试。
推荐理由:教程完整拆解了跨框架、跨账户多智能体架构,并提供代码、部署步骤与信任边界测试。
Hugging Face 提供 TRELLIS.2 3D生成模型的 LoRA 微调脚本与容器,可通过 Hugging Face Jobs 或本地 Docker 运行。
推荐理由:教程完整拆解了 TRELLIS.2 的 LoRA 微调流程,并提供可在 Hugging Face Jobs 或本地 Docker 运行的脚本与容器。
《Warhammer 40,000: Dawn of War IV》将于周四在 Steam 发售,并同步登陆 GeForce NOW,支持 PC、Mac 与掌机等设备云端游玩。
OpenAI 承诺投入 $2 million 开展 AI 与儿童安全研究,支持构建共享工具,用于衡量 AI 对青少年带来的风险与机遇。相关工作将围绕风险和机会评估展开。
Holiday Extras 正利用 Codex 将客户专业经验转化为更优质的应用,同时提升预订转化率,并探索新的增长可能。该实践将 Codex 的应用构建能力用于改善现有产品和拓展业务增长。
教程演示用 Spring AI、spring-ai-agentcore 与 Amazon Bedrock 在 Java 中构建自主 AI 智能体,覆盖规划、工具调用和跨轮对话记忆。两个系统分别是单智能体旅行助手,以及包含 5 个专用智能体、规则引擎、告警和可观测性的 IDP 平台。
Aleph 被选为 ChatGPT Ads 在 44 个国家的独家经销商,将为品牌和代理机构提供本地开票、面对面支持及本地市场专业知识。ChatGPT Ads 由此扩大在 44 个国家的市场覆盖。
Amazon Bedrock AgentCore 推出 Web Search API,开发者可通过 AWS SDK 或 AWS CLI 以单次 API 调用获取由 Amazon 运营的网页索引结果。
推荐理由:该 API 提供直接调用方式、过滤与配额说明及框架接入示例,便于开发者评估如何将实时网页检索纳入应用和智能体工作流。
Amazon SageMaker HyperPod 团队介绍如何通过梯度检查、环形重放审计和权重指纹比较,检测分布式训练中的静默数据损坏。检测到异常后,可将可疑 rank 映射到节点,隔离并更换故障节点,再从告警窗口之前的检查点恢复训练。方案已在配备 32 张 NVIDIA H100 GPU 的 PyTorch DDP 集群上测试,确定性审计每 100 步的实测开销为 10.1%。
推荐理由:文章给出三项训练循环检查及故障定位、隔离和节点替换流程,并提供实测开销与注入故障结果。
AWS 介绍使用开源反统一引擎对形式化策略进行语义差异分析,通过 e-graph 和声明的代数规则消除表达顺序等表面变化。教程以 Cedar、Dogwood、OpenShell 和 CEL 策略为例,演示如何定位被弱化的授权条件、遗漏的路径限制及阈值边界差异,并提供构建与运行命令。
推荐理由:文章给出可运行的语义差异分析流程,并展示其如何从形式化策略中定位被弱化的条件和边界差异。
AWS 演示如何让运行在开发者工作站上的 OpenAI Codex 通过 Amazon Bedrock 调用受支持的 OpenAI 模型。
推荐理由:文章提供从最小权限试点到分阶段推广的完整路径,并对比原生 AWS 接入、AgentCore Gateway 与 LLM Gateway 的治理边界。
AWS 在 2026 年 10 月更新了 Amazon Bedrock、Amazon Bedrock AgentCore 与 Strands,扩充可用模型并加强智能体构建、运行和评测能力。
推荐理由:文章集中梳理了模型、智能体可靠性、治理、成本与本地部署更新,可按生产需求定位对应能力。
DXC Technology 在 Amazon Bedrock 上构建了支撑 DXC OASIS 的多模型基础架构,通过统一接口接入 Anthropic Claude、Amazon Nova、Meta Llama 和开放权重模型。
AWS 提出一套事件驱动架构,通过 AWS CloudTrail、Amazon EventBridge 和 AWS Lambda 自动同步 AWS Agent Registry 中的 MCP 服务器工具元数据。
AWS 为 re:Invent 2026 AI/ML 参会者梳理 140 多场课程及选择路径,涵盖 AI 芯片、模型训练与推理、AI 智能体开发与管理。11月30日至12月4日的活动包含 breakouts、workshops、code talks 等类型,无法到场者可按需观看许多课程并直播观看主题演讲。