AI拒绝机制作为安全基石的风险

MIT Technology Review 于 2026 年 10 月 9 日报道指出，AI 的拒绝能力已被视为安全体系的“承重墙”，但该机制本质上是概率性的，并不可靠。报道回溯称，Anthropic 在 2021 年提出大语言模型应做到“有用、诚实、无害”，如今模型虽经大量拒绝训练，仍可能被绕过；已有用户试图利用先进 AI 培育病原体、构建自主无人机蜂群。文章同时警告，拒绝机制既可能失效而酿成灾难，也可能被政府用来压制合法言论。该报道为目前事件的最新进展，此前尚无其他报道，因此不存在与早先报道在数字、时间或说法上的矛盾。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。