Sparse autoencoders and Claude's Golden Gate Bridge feature
A look at Anthropic's sparse autoencoder work on Claude 3 Sonnet through one feature, the Golden Gate Bridge.
Interpretability
金門大橋 Claude 與稀疏自編碼器：把單一特徵調大會發生什麼事
我們來看看 Anthropic 怎麼用稀疏自編碼器在 Claude 3 Sonnet 裡找到「金門大橋」這個特徵。