标签：可解释性

Goodfire CTO：可解释性研究如何揭示AI的几何思维

Goodfire CTO Dan Balsam在访谈中深入探讨了可解释性研究的最新进展，包括预测性数据调试、神经几何学和概念流形。他认为线性表示假说需要推广到几何视角，特征的几何关系比单一特征列表更重要。同时介绍了公司推出的月费1000美元的ML研究平台Silico，该平台将内部工具产品化，让AI能够调试其他AI。Balsam还讨论了开源模型的价值、生物风险担忧以及AI意识等深层问题。