【LongCat实习】Longcat 大模型研究员-Interpretability

现阶段，大模型已逐步从虚拟世界的聊天机器人走向更复杂的实际生产场景，这要求我们对模型的行为机制具备足够清晰的认知。为此，我们需要对模型进行细粒度的分析，从而制定更优的训练方案，进一步提升模型在真实生产环境中的可用性。
团队目前正围绕以下方向展开前沿探索，若您对其中一个或多个课题感兴趣，均欢迎投递简历：
1.机制可解释性研究：负责大语言模型及多模态大模型的可解释性研究，围绕模型内部表征、神经元特征、注意力机制、激活模式、训练动态及行为形成机制开展系统性分析。
2.内部计算机制逆向分析：运用 Sparse Representation、Feature Decomposition、Activation Patching、Representation Engineering 等前沿方法，逆向解析模型在知识存储、逻辑推理、指令遵循、工具调用、安全拒答及不确定性表达等能力背后的计算机制。
3.可解释性平台与评测构建：构建面向大规模模型的可解释性实验平台与评测工具，将模型行为问题精准回溯至训练数据、训练目标及内部机制层面，并将研究成果直接应用于提升模型的可靠性、安全性、可控性及对齐（Alignment）能力。
【为什么是我们】
1.团队扁平，人才密度高，美团“顶尖人才计划”比例高，近年团队在ICLR、NeurIPS、ICML、ACL等顶会累计发表论文数十篇，团队员工获EMNLP/ACL等Outstanding Paper；
2.参与大语言模型核心技术研发，接触大规模RL、超长上下文、分布式训练和推理优化等前沿技术；
3.充足算力保障，拥有大规模分布式训练环境和丰富数据资源。