【LongCat实习】Longcat 大模型研究员-Interpretability
面议
现阶段,大模型已逐步从虚拟世界的聊天机器人走向更复杂的实际生产场景,这要求我们对模型的行为机制具备足够清晰的认知。为此,我们需要对模型进行细粒度的分析,从而制定更优的训练方案,进一步提升模型在真实生产环境中的可用性。
团队目前正围绕以下方向展开前沿探索,若您对其中一个或多个课题感兴趣,均欢迎投递简历:
1.机制可解释性研究:负责大语言模型及多模态大模型的可解释性研究,围绕模型内部表征、神经元特征、注意力机制、激活模式、训练动态及行为形成机制开展系统性分析。
2.内部计算机制逆向分析:运用 Sparse Represe...