← 返回岗位列表

腾讯

实习

混元-大模型后训练数据全链路智能治理研究

深圳总部 · 实习 · 硕士

长期有效

任职要求

  • 1、计算机科学、人工智能、自然语言处理等相关专业硕士及以上;
  • 2、在大模型评测、数据质量、Agent/RL 训练、对话系统等方向有深入研究经验者优先;
  • 3、有 ICLR、NeurIPS 和 ICML等顶会论文或高影响力开源贡献者优先;
  • 4、熟练掌握深度学习框架;深入理解 Transformer 架构及 SFT/RL 后训练原理;熟悉Rubric-based Evaluation 等前沿评测方法论;
  • 5、具备从海量数据与实验结果中发现隐含规律的洞察力,以及从 insight 到落地的全链路推动力。

岗位描述

【岗位职责】

课题背景:

大模型后训练数据的质量瓶颈正发生结构性转移:一方面,角色扮演、长文本创作、长程记忆等成熟场景中,数据缺陷从显性的事实错误演变为人设崩塌、逻辑断裂、记忆丢失等更隐蔽的系统性问题,现有质检手段难以精准定位与闭环修复;另一方面,Agentic 场景(多步决策、工具调用、环境交互)正快速崛起,但高质量 RL 训练数据的生产与验证范式缺乏。

课题挑战:

  • 1、多场景数据质量的自动化评测与闭环治理: 构建覆盖角色扮演、文本创作、长程记忆等线上核心场景的可扩展多维 Rubrics 评分体系与自动化质检 Pipeline,解决自动评分与人类偏好的对齐难题;在此基础上打通从维度评分到缺陷归因、再到定向修复的闭环,解决当前"能发现问题却无法定位成因、无法自动修复"的链路断裂问题;
  • 2、Agentic 场景的 RL 数据合成: 探索在多步决策、工具调用、环境交互等 Agent 场景下,如何合成高质量 RL 训练数据,并设计可靠的过程级 reward 信号与轨迹级验证机制,解决 Agent 数据获取成本高、验证难、分布窄的核心瓶颈。

具体工作:

参与大模型后训练数据质量治理与 Agentic 数据生产的前沿研究,一方面研发多场景 Rubrics 评测、结构化归因与自动修复的端到端质量闭环,另一方面探索 Agent 场景下 RL 训练数据的自动化合成与验证方法,推动两条技术线在线上核心场景的落地与持续迭代。

【任职要求】

  • 1、计算机科学、人工智能、自然语言处理等相关专业硕士及以上;
  • 2、在大模型评测、数据质量、Agent/RL 训练、对话系统等方向有深入研究经验者优先;
  • 3、有 ICLR、NeurIPS 和 ICML等顶会论文或高影响力开源贡献者优先;
  • 4、熟练掌握深度学习框架;深入理解 Transformer 架构及 SFT/RL 后训练原理;熟悉Rubric-based Evaluation 等前沿评测方法论;
  • 5、具备从海量数据与实验结果中发现隐含规律的洞察力,以及从 insight 到落地的全链路推动力。

【技术方向】

大语言模型、NLP

你的简历匹配这个岗位吗?

上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方

该岗位可能会问的问题

基于 算法 岗位的常见面试问题整理

请解释 Transformer 模型的自注意力机制(Self-Attention)

类型专业能力·难度困难
查看答题思路

1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖

你做过的最有深度的算法/模型项目是什么

类型项目经历·难度中等
查看答题思路

1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)

过拟合是什么?怎么判断和解决

类型专业能力·难度简单
查看答题思路

1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度

解释梯度下降的原理,SGD 和 Adam 的区别

类型专业能力·难度中等
查看答题思路

1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam

给你 10 万条未标注的文本数据,如何找出其中 10 个主题

类型情景/案例·难度中等
查看答题思路

1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整

更多面试题库功能即将上线

信息来源:企业官方招聘页。投递前请以官网信息为准。