Anthropic 在 Claude 中發現類似全域工作空間的 J-space 結構

Anthropic 發表了一篇關於語言模型中「全域工作空間」的論文。

研究人員使用名為 Jacobian lens（J-lens）的技術，在 Claude 中發現了一個名為 J-space 的特權內部區域，其中包含在說出之前靜默處理的概念。

該空間似乎在訓練過程中自然湧現，並因果性地參與多步推理、可報告性和靈活控制。移除 J-space 嚴重削弱了複雜推理能力，而流暢言語能力基本保持完整。