逆向博弈论如何约束 AI 智能体

一种名为“逆向博弈论”（又称机制设计）的新思路被对齐研究者用于约束 AI 智能体：不再试图读懂模型内部，而是设计激励规则让守规成为最优选择。MIT 经济学家 Stephen Morris 等的预印本论文提出让模型互相预测答案、彼此竞争或配对偏向相反的模型，以阻止模型在测试中故意藏拙；普林斯顿 Elad Hazan 则让模型轮流扮演解题者与审计者，作弊者与失职审计者同受惩罚。