MIT Technology Review · AI· Arthur Holland Michel·· 4 小时前AI 评分48
MIT Technology Review：我们高估了 AI 说"不"的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 指出，拒绝能力已成为 AI 安全的"承重墙"，但这一机制本质上是概率性的，并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害"，如今模型经大量拒绝训练后仍可能被绕过，已有用户试图用先进 AI 培育病原体、构建自主无人机蜂群。文章还警告，拒绝机制既可能失效酿成灾难，也可能被政府用来压制合法言论。
来源：MIT Technology Review · AI · technologyreview.com