TechCrunch · AI· Julie Bort·· 17 天前精选AI 评分77
Anthropic 警告其可能接近递归自我改进能力
Anthropic warns that it’s very close to RSI capability, aka self-building AI
AI 导读
Anthropic 在修订后的 S-1A 中警告,公司可能很快达到其 Responsible Scaling Policy 所定义的“递归自我改进”相关阈值。该文件称,目前尚无模型越过这一阈值,但 AI 已帮助开发出能力跃升超出预期的新模型。公司还表示,即使未来 Claude 能够自主设计并构建后续前沿模型,也将继续保留有意义的人类监督与理解。
推荐理由
文章梳理 Anthropic 对递归自我改进的风险表述,并分析其接近内部安全阈值的可能性与治理争议。
来源:TechCrunch · AI · techcrunch.com