跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

127 条精选近 30 天 120 条共收录 324 条

更新

精选归档 · 第 7 页

10月15日周四第 121–127 条
  1. Mistral AI65

    Mistral AI 发布 Timestral 时间序列基础模型家族

    Mistral AI 发布首个时间序列基础模型家族 Timestral,提供 5M、28M、123M 和 209M 四种规模,支持概率预测、多变量目标、过去协变量和已知未来协变量。

    推荐理由:Timestral 提供四种规模与多种部署方式,并公开基准成绩、训练方法和代码,便于评估其在企业预测场景中的适配与成本。

  2. Google Research76

    Google Research 公开 Deep Review,用智能体流程审查复杂技术文档

    Google Research 公开 Deep Review,一款用于复杂文档严格反馈与技术验证的智能体系统,初期面向计算机科学论文,现已扩展到法律、金融等领域。

    推荐理由:Deep Review 通过文档分段、动态计算预算、并行验证和全局综合审查复杂文档,读者可以据此了解其技术流程与适用范围。

10月14日周三
  1. GitHub Blog · AI & ML71

    GitHub 上线基于 ModernBERT 的上下文感知秘密扫描器

    GitHub 上线由正则筛选与微调 ModernBERT 分类器组成的两阶段秘密扫描器,将通用秘密检测扩展至推送保护。该分类器结合候选值、文件路径、变量名和上下文判断告警,并与此前基于远程 LLM 的流程相比,将推送后扫描执行时间中位数降低 86%,服务成本降低超过 98%。

    推荐理由:GitHub 公开了秘密扫描器的模型架构、训练方法与线上评测结果,可用于理解专用小模型替代远程 LLM 的实现路径。

10月8日周四
  1. GitHub Blog · AI & ML68

    GitHub 推出 ModernBERT 密钥分类器,扩展 push protection

    GitHub 与 Microsoft Applied Sciences 构建了基于 ModernBERT 的微调分类器,将 push protection 扩展到无固定结构的密钥,评估候选密钥耗时不到 2 毫秒,可阻止的密钥数量有望增加一倍以上。

    推荐理由:GitHub 用九个季度数据拆解代理写代码增长下的密钥风险,并给出检测精度、延迟、吞吐与成本的权衡方案。

9月28日周一
  1. Mistral AI62

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心,组建 Physics AI 和 Industrial AI 专业研究团队及应用工程团队,并与 BMW、Siemens Energy 开展合作。Mistral 计划到 2030 年建设 1 gigawatt 欧洲算力capacity,同时与 TUM 合作研究基于风洞数据的实时汽车空气动力学预测。

    推荐理由:Munich 研究中心及欧洲算力建设计划交代了 Mistral 进入德国工业 AI 市场的组织布局与基础设施投入。

7月29日周三