跳到正文
TechCrunch · AI· Julie Bort·· 17 天前精选AI 评分77

Anthropic 警告其可能接近递归自我改进能力

Anthropic warns that it’s very close to RSI capability, aka self-building AI

AI 导读

Anthropic 在修订后的 S-1A 中警告,公司可能很快达到其 Responsible Scaling Policy 所定义的“递归自我改进”相关阈值。该文件称,目前尚无模型越过这一阈值,但 AI 已帮助开发出能力跃升超出预期的新模型。公司还表示,即使未来 Claude 能够自主设计并构建后续前沿模型,也将继续保留有意义的人类监督与理解。

推荐理由

文章梳理 Anthropic 对递归自我改进的风险表述,并分析其接近内部安全阈值的可能性与治理争议。

来源:TechCrunch · AI · techcrunch.com