Anthropic揭示大型语言模型中的隐藏思维空间

据 MIT Technology Review（https://www.technologyreview.com/2026/07/09/1140293/anthropic-found-a-hidden-space-where-claude-puzzles-over-concepts/）报道， 人工智能公司Anthropic开发了一种创新的分析技术，首次实现了对大型语言模型内部运作的详细观察。这种名为“Jacobian Lens”的方法，使研究人员能够可视化模型在回答问题或处理任务时所经历的复杂计算过程。

揭示隐藏的思维结构

由Anthropic开发的大型语言模型Claude基于数十亿参数，其内部相互作用此前大多不为人知。Jacobian Lens显示，模型内部存在一个“隐藏空间”，在这里概念和意义以无法简单归因于单个神经元或层的方式被处理。相反，动态模式在此形成，模型利用这些模式理解并生成复杂的关联。

从日常到令人不安的发现

分析揭示了既符合预期又令人惊讶的方面。研究人员能够追踪模型如何检索简单事实或进行逻辑推理。同时发现，Claude在这个隐藏空间中也会面对不确定性和歧义——类似于人类思考复杂概念时的状态。这一发现引发了关于人工智能系统可靠性和可解释性的疑问，尤其是在敏感领域的应用中。

对人工智能研究与应用的意义

更好地理解语言模型的内部过程，是开发透明且可控人工智能的重要一步。借助Jacobian Lens，开发者能够更有针对性地识别并修正模型中的弱点和偏差。此外，该方法为设计更能模拟和支持人类思维过程的人工智能系统开辟了新途径。

展望未来

尽管Jacobian Lens目前主要作为研究工具，但长期来看，它有助于提升人工智能应用的安全性和可信度。特别是在医疗、法律或教育等领域，人工智能系统的决策影响深远，深入理解模型至关重要。Anthropic通过这一进展展示了构建高性能人工智能的同时，透明化其内部机制的重要性。这是迈向负责任人工智能技术的关键一步。