跳到正文
MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 21 天前AI 评分58

专家呼吁实时监控 AI 智能体的行动

We urgently need to monitor AI agents’ actions in real time

AI 导读

专家呼吁企业、监管机构和标准组织共同补齐 AI 智能体的实时可观测性缺口,以掌握其行动、决策过程与人工干预情况。对四种主流智能体框架的研究发现,持续身份标识、人类审批记录等关键记录缺失,妨碍识别越权行为和监督失效;OpenTelemetry 正在起草智能体追踪格式,但相关标准尚未定稿。

来源:MIT Technology Review · AI · technologyreview.com