跳到正文

内容类型

教程实践 最新动态

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

69 条精选近 30 天 67 条共收录 176 条

更新

教程实践的精选

今天11月19日周四第 1–20 条
  1. AWS Machine Learning Blog79

    Airbnb 如何用单任务成本运营 Amazon Bedrock 编码智能体

    Airbnb 介绍了如何通过自有任务评测和 Amazon CloudWatch 生产监控运营 Amazon Bedrock 上的编码智能体,并用单任务成本选择默认模型与推理强度。其评测覆盖 7 个任务套件和数百个任务,发布后则结合延迟、限流、token 消耗与费用记录持续复核模型选择。实践中还给出了按团队、应用及功能归因成本,以及在配额紧张时切换等价模型的方法。

    推荐理由:Airbnb 展示了如何把自有任务评测、单任务成本与生产监控联动,为编码智能体的模型选型和成本治理提供可复用流程。

  2. AWS Machine Learning Blog65

    Salesforce 如何在 Amazon SageMaker AI 中部署跨区域推理路由

    Salesforce 将 Amazon SageMaker AI 推理路由器接入内部网关,通过统一调用在多个区域和 AWS 账户的现有端点之间调度流量。路由器依据近期请求结果进行健康判断和故障转移,并返回服务端点 ARN 与路由原因,数据驻留请求则固定在本地区域。该跨区域推理路由自 2026 年 11 月 18 日起在支持实时端点推理的所有商业区域正式可用。

    推荐理由:Salesforce 的实践展示了如何以统一调用、容量感知和访问策略实现跨区域推理,同时保留数据驻留约束。

  3. Hugging Face Blog64

    Transformers 实践 MoE 专家流式加载,在 32GB Mac 上运行 180B 模型

    作者通过修改 Transformers 实现 MoE 路由专家的磁盘流式加载,让 Qwen3.8-Flash-Next 在 32GB Mac M5 上运行。该方案将 121GB FP8 专家量化为 49GB,并采用 12 GiB 设备缓存,推理速度达到 Strata 的约 94%。

    推荐理由:文章拆解专家流式加载、缓存与Metal内核优化,并提供代码、基准和可复现实验环境,便于比较其他推理引擎。

11月18日周三
  1. AIHOT85

    Anthropic 复盘用 chaos loop 强化 Claude Docs 上线:20 亿次请求仅 60 次服务器错误

    Anthropic 工程师复盘了用 Claude 驱动 chaos loop 在上线前强化 Claude Docs 的过程。团队让 Claude 持续执行压测、读取 Datadog 遥测、提出并部署修复,同时保留数据库架构等难以回退决策的人工审批。

    推荐理由:完整呈现了用 Claude 驱动 chaos loop 开展预发布压测、读取遥测并修复故障的流程与成本,为规模化 Agent 运维提供了可复现路径。

  2. Simon Willison77

    编码智能体外部沙箱模式与三种实现

    Simon Willison 与 Prime Radiant 提出外部沙箱模式,将编码智能体与代理执行代码隔离,并发布三种沙箱服务器实现。三种实现分别使用 v86 与 WebAssembly、Apple Containers,以及微软 Quicksand 库,均提供相同的 localhost API,可供 Pi、Claude Code 或 Codex 调用。

    推荐理由:外部沙箱将编码智能体与代码执行环境分离,并提供统一本地 API 和三种可替换实现,降低运行不可信代码时的机器风险。

  3. AWS Machine Learning Blog79

    使用 Amazon Bedrock AgentCore 降低 JSON 工作负载的 token 成本与延迟

    AWS 介绍三种降低 Amazon Bedrock AgentCore JSON 工作负载 token 成本和延迟的策略:将会话中的大型对象卸载至 Amazon S3、按需分页获取大型列表,并压缩超大字典输出。

    推荐理由:文章给出三种可组合的上下文优化方法,并用生产智能体数据展示其对 token 消耗、延迟和多轮交互稳定性的具体改善。

  4. AWS Machine Learning Blog65

    AWS 教程:用规则处理确定性任务,用模型承担开放式判断

    AWS 提出降低生成式 AI 成本的分层方法,将输入校验、格式化和路由等确定性任务交给代码,固定选项任务使用受约束决策调用,开放式任务再交给满足质量要求的 Amazon Bedrock 模型。

    推荐理由:文章提供了一套按规则、受约束决策和模型分层处理工作流的方法,并给出对应的 AWS 实现与评测建议。

  5. AWS Machine Learning Blog68

    Amazon Bedrock AgentCore 通过 OAuth 安全接入 Snowflake Cortex AI 的三种模式

    Amazon Bedrock AgentCore Identity 支持通过 Amazon Bedrock AgentCore Gateway 以 OAuth 将 AI 智能体接入 Snowflake 管理的 MCP 服务端。

    推荐理由:文章通过三种端到端配置对比用户身份传播、审计粒度与运维成本,为智能体接入 Snowflake 选择 OAuth 模式提供可迁移依据。

  6. AWS Machine Learning Blog82

    使用 SMART 和 Amazon Bedrock AgentCore 构建 WhatsApp AI 智能体

    SMART 提供开源 Python SDK 和 Terraform 技术栈,可将运行在 Amazon Bedrock AgentCore 上的智能体接入 WhatsApp,处理消息收发、媒体、会话记忆、调度和模板管理。

    推荐理由:完整演示了如何用 SMART 接入 WhatsApp,并覆盖消息处理、记忆、定时任务、模板管理、部署与本地调试等关键环节。

  7. AWS Machine Learning Blog74

    AWS 提出智能体负责任 AI 三阶段实施路线图

    AWS 提出面向智能体平台和应用团队的三阶段负责任 AI 路线图,涵盖治理基础、试点部署、评估与加固,并给出可调整的 12 周实施周期。文章提供 Responsible AI Assessment Skill 和配套评分表,将 AWS Responsible AI Lens 的原则映射到各阶段关键任务,辅助团队评估成熟度。

    推荐理由:文章把智能体负责任 AI 拆分为治理基础、试点部署和评估加固三阶段,并提供成熟度评分方法,便于平台与应用团队落地治理。

  8. AWS Machine Learning Blog71

    ArisGlobal 如何在 Amazon Bedrock 上扩展生成式 AI 推理

    ArisGlobal 通过调整 Amazon Bedrock 提示词缓存顺序,将共享提示词前缀放在缓存检查点之前,实现跨请求、案例和租户复用。生产环境中,65% 的输入 token 来自缓存,端到端延迟最高降低 25%,有效输入成本降低约 50%,每月超过 19B tokens 的推理支出节省约 40%。

    推荐理由:案例拆解了提示词缓存顺序的调整逻辑与生产指标,并给出可复用的多租户配置实践。

11月17日周二
  1. AWS Machine Learning Blog70

    如何使用 Agentic Retrieve 在 Amazon Bedrock Managed Knowledge Base 中构建记忆感知智能体

    Amazon Bedrock Managed Knowledge Base 可通过 Agentic Retrieve 接入 AgentCore memory,自动恢复会话、检索长期记忆并保存对话轮次。教程以多用户员工助手为例,介绍 Cognito 身份映射、ACL 文档过滤、记忆命名空间、IAM 隔离和 trace 验证方法。

    推荐理由:教程完整演示了多用户知识助手的记忆接入、权限隔离与请求配置,可用于梳理智能体记忆系统的落地方法。

  2. AWS Machine Learning Blog71

    AWS 多智能体设计模式与制造业架构选型指南

    AWS 提出多智能体系统应先采用确定性的 Tier 1 编排模式,仅在任务需要动态发现子任务时使用 Tier 2 自主模式。文章比较顺序管线、条件路由、并行工作流、计划编排、交接和辩论等模式,并给出架构选择决策树与五类反模式。制造业部署还需处理 p99 延迟、物理安全、边缘数据、班次周期记忆以及人工审批等约束。

    推荐理由:文章以制造业为背景,系统梳理多智能体编排模式、反模式与选型方法,并讨论延迟、安全、边缘计算和班次交接等落地约束。

  3. AIHOT84

    Claude Code 团队如何设计 Agent 验证与测试流程

    Anthropic 的 Claude Code 团队介绍了一套 Agent 验证流程,让智能体通过证据检查自身输出,并支持同时运行数十到数百个 Claude。团队约 90% 的代码由 Claude 编写和审查,内部测试显示,独立评分器按评分标准检查结果可使任务成功率最多提高 10 个百分点。

    推荐理由:文章系统拆解了 Claude Code 团队的验证闭环,并给出 E2E、属性测试、差分测试及代码审查门禁的具体配置方法。

  4. AWS Machine Learning Blog71

    Amazon Bedrock 为开放权重模型新增显式提示词缓存

    Amazon Bedrock 的开放权重模型现支持显式提示词缓存,可通过缓存断点精确标记需复用的提示词前缀。开发者可使用 Chat Completions API 配置隐式或显式模式,并从响应中的缓存读写字段观察使用量;文章还演示了 OpenCode 编码智能体会话中的隐式缓存应用。

    推荐理由:文章对比了隐式与显式缓存的控制方式,并提供 Python 和 OpenCode 示例,便于开发者评估缓存命中与成本节省。

  5. AWS Machine Learning Blog65

    Amazon Bedrock Managed Knowledge Base 用检索指令定制各租户答案

    Amazon Bedrock Managed Knowledge Base 支持通过检索指令为每个租户定制回答风格、格式、检索策略和答案策略。指令包含 persona、answerFormat、retrievalGuidance、answerPolicy 四个字段,可版本化并在请求中固定,Planning 跟踪事件会记录实际应用的指令版本。

    推荐理由:教程给出了多租户检索指令的创建、版本发布、隔离与审计方法,可迁移到共享知识库的分租户问答场景。

  6. AWS Machine Learning Blog68

    使用 Amazon Bedrock Managed Knowledge Base 的表格搜索解答表格问题

    Amazon Bedrock Managed Knowledge Base 支持通过智能体检索回答 CSV、XLSX 和 XLS 表格中的问题。文章演示了创建知识库与数据源、调用 AgenticRetrieveStream、读取代码执行轨迹及引用结果,并说明表格搜索的适用边界与文件大小限制。

    推荐理由:文章通过财务数据示例演示表格搜索如何结合表格计算与文档事实,并提供知识库创建、调用和追踪流程。

11月14日周六
  1. AWS Machine Learning Blog73

    在 Amazon Bedrock 上使用 NVIDIA NeMo Switchyard 为编码智能体路由模型

    AWS 演示如何使用 LiteLLM 与 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适模型。教程涵盖 Stage 与 Random 路由策略、AWS CDK 部署、网关测试,以及按通过测试的任务成本对比路由组和单模型基线。

    推荐理由:教程给出模型路由配置、AWS 部署和任务成本评测流程,并以通过测试的任务成本比较路由与单模型基线。