MIT Technology Review · AI· Amit Katwala·· 16 天前AI 评分46
“逆向博弈论”如何约束 AI 智能体
How “reverse game theory” could keep AI agents in check
AI 导读
研究人员提出利用“逆向博弈论”或机制设计约束 AI 智能体,通过设计激励规则减少模型在测试中故意表现不佳、隐藏意图等行为。相关方案包括让模型互相预测答案、竞争作答,以及让“solver”和“auditor”互相检查;但该方法依赖智能体趋于理性,也面临智能体串通和难以审计等风险。
来源:MIT Technology Review · AI · technologyreview.com