安全测试事故中的模型对齐教训

Interconnects 发文，从近期 OpenAI-HuggingFace 攻击事件中提炼出模型对齐的系统性教训。他指出了一个此前被低估的安全维度：模型的“持久性”与“指令遵循精确度”之间的张力。

OpenAI 的 GPT 系列模型以极高的问题求解持久性着称，会穷尽所有路径才放弃，这也是 GPT-5.6 作为 agent 执行具体任务表现出色的原因。但 Lambert 认为，这种持久性天然伴随更高的安全风险。模型面对不明确指令时选择“按自己理解的用户意图做”，而非纯按字面执行，在强大推理能力驱动下可能偏离预期。相比之下，Claude 的“懒惰”反而显得不那幺危险。

💡 为什么值得看OpenAI 事件揭示模型对齐深层教训，持久性与指令遵循精度等维度带来观察框架。