Claude团队开源了一款名为“电路追踪”的LLM思维可视化工具，通过生成归因图帮助研究人员理解大模型的内部运作机制。
该工具允许用户干预模型节点激活值，验证各节点的功能分工，并在交互式前端中可视化、注释和分享图表，有助于深入研究语言模型的内部机制。
此工具已在GitHub上获得广泛好评，被认为可能成为LLM研究的“显微镜”，有助于推动相关领域的研究进展。
Claude团队开源了一款名为“电路追踪”的LLM思维可视化工具，通过生成归因图帮助研究人员理解大模型的内部运作机制。
该工具允许用户干预模型节点激活值，验证各节点的功能分工，并在交互式前端中可视化、注释和分享图表，有助于深入研究语言模型的内部机制。
此工具已在GitHub上获得广泛好评，被认为可能成为LLM研究的“显微镜”，有助于推动相关领域的研究进展。
