MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 21 天前AI 评分58
专家呼吁实时监控 AI 智能体的行动
We urgently need to monitor AI agents’ actions in real time
AI 导读
专家呼吁企业、监管机构和标准组织共同补齐 AI 智能体的实时可观测性缺口,以掌握其行动、决策过程与人工干预情况。对四种主流智能体框架的研究发现,持续身份标识、人类审批记录等关键记录缺失,妨碍识别越权行为和监督失效;OpenTelemetry 正在起草智能体追踪格式,但相关标准尚未定稿。
来源:MIT Technology Review · AI · technologyreview.com