会员服务
稀疏自编码器是一种无监督机器学习算法，通过计算自编码的输出与原输入的误差，不断调节自编码器的参数，最终训练出模型。自编码器可以用于压缩输入信息，提取有用的输入特征。
Tracking the Feature Dynamics in LLM Training: A Mechanistic Study
Arxiv
1+阅读 · 2024年12月23日
Transformers Use Causal World Models in Maze-Solving Tasks
Arxiv
1+阅读 · 2024年12月16日
Interpretable Company Similarity with Sparse Autoencoders
Arxiv
1+阅读 · 2024年12月10日
BatchTopK Sparse Autoencoders
Arxiv
0+阅读 · 2024年12月9日
Sparse autoencoders reveal selective remapping of visual concepts during adaptation
Arxiv
0+阅读 · 2024年12月6日
Interpretable Company Similarity with Sparse Autoencoders
Arxiv
0+阅读 · 2024年12月3日
Do I Know This Entity? Knowledge Awareness and Hallucinations in Language Models
Arxiv
0+阅读 · 2024年11月21日
Improving Steering Vectors by Targeting Sparse Autoencoder Features
Arxiv
0+阅读 · 2024年11月21日
Compute Optimal Inference and Provable Amortisation Gap in Sparse Autoencoders
Arxiv
0+阅读 · 2024年11月20日
Can sparse autoencoders be used to decompose and interpret steering vectors?
Arxiv
0+阅读 · 2024年11月13日
Direct Preference Optimization Using Sparse Feature-Level Constraints
Arxiv
0+阅读 · 2024年11月12日
Interpret the Internal States of Recommendation Model with Sparse Autoencoder
Arxiv
0+阅读 · 2024年11月9日
Improving Steering Vectors by Targeting Sparse Autoencoder Features
Arxiv
0+阅读 · 2024年11月4日
Adaptive Sparse Allocation with Mutual Choice & Feature Choice Sparse Autoencoders
Arxiv
0+阅读 · 2024年11月4日
Interpretability as Compression: Reconsidering SAE Explanations of Neural Activations with MDL-SAEs
Arxiv
0+阅读 · 2024年10月15日
参考链接
父主题
自编码器
微信扫码咨询专知VIP会员
Top