Anthropic刚刚在其Claude模型中发现了一些没有人设计或预料到的东西。一个名为“J-space”的内部结构似乎像一个共享的认知工作空间。
7月6日的研究标志着理解大型语言模型内部实际发生的事情的重要一步。
Claude内部的J-Space实际上是什么
J-space是一个内部区域，Claude似乎在这里收集和共享模型中的重要信息。可以简单地将其视为AI内部的白板。
当Claude回答问题、解决难题或遵循指令时，关键细节似乎会出现在这个共享空间中，以便模型的不同部分可以使用它们。
Anthropic使用一种名为“J-lens”的研究工具发现了J-space。该工具帮助研究人员检查信息在Claude执行任务时如何移动。它显示J-space在训练过程中自行出现。Anthropic并没有直接设计它。
在X上关注我们，获取最新新闻动态.
这个想法类似于神经科学中的一个理论，称为“全球工作空间”。
在人类中，这描述了大脑如何同时向不同的心理过程提供重要信息。例如，当某人听到一个问题、记住一个事实并决定如何回答时，这些信息片段需要结合在一起。
Claude似乎做了类似的事情。Anthropic发现，当被问及时，Claude可以描述其J-space中的内容。如果被指示，它还可以调整这些内容。
更重要的是，当研究人员直接改变 J-space 时，Claude 的回答和任务表现也发生了变化。
这对 AI 安全性和可解释性的重要性
这一发现对 AI 安全性具有重要意义。如果研究人员能够监测 J-space 活动，他们可能会揭示模型行为背后的隐藏动机。因此，他们获得了一个更敏锐的工具，以便在出现问题时及时发现。
这包括检测攻击。监测 J-space 可以揭示模型何时处理旨在劫持其输出的提示注入尝试。此外，即使是对这一“意识”处理层的部分窗口，也标志着该领域的一个重要进展。
然而，范围仍然有限。绝大多数 Claude 的信息处理仍然完全发生在 J-space 之外。
尽管如此，Anthropic 发布了一个开源的 J-lens 实现和一个 Neuronpedia 演示，邀请更广泛的研究社区测试这些发现。
订阅我们的 YouTube 频道，观看领导者和记者提供的专业见解.
这项工作建立在更长的研究轨迹上。Anthropic 于 2025 年 10 月发布了一份关于新兴内省意识的报告。此外，它在 2025 年 4 月启动了模型福利倡议，持续探索其系统内部发生的事情。
一个警告显而易见。Anthropic 强调这项研究并不声称 Claude 是有意识的或具有主观体验。论文使用了“意识可接触”信息这一短语，借用了这一词汇，但并没有跳跃到实际的意识。
来源：BeInCrypto
