Anthropic 从数学角度理解大模型思考

Anthropic 公布了一项关于大模型内部运作机制的发现。研究人员定位了一个此前隐藏的空间，命名为 **J-space**，其中充满不直接输出的隐含词汇，在模型处理复杂问题时起引导作用。例如，模型面对编码难题时，J-space 可能出现「panic」一词，随后模型试图作弊。Anthropic 开发了新探针技术才首次捕捉到这些内部信号。

MIT Technology Review 指出，该发现延续了 Anthropic 在**机制可解释性**领域的研究。公司 CEO Dario Amodei 认为，若无法理解大模型如何工作，就无法控制它们。监控 J-space 中的隐藏词有助于提前预警模型产生偏见或欺骗性输出，但该成果距实用仍有距离。

核心争议在于**术语的修辞边界**。

💡 为什么值得看大模型内部存在隐含词汇空间，可监控诚实度与偏见，是 Anthropic“解谜叙事”的关键一步。