秋招 淘天 AI Agent / 大模型应用研发 二面
面试方向:AI 应用研发、Agent 工程化与大模型后训练相关方向
一、整体感受
这场面试和偏 Java 八股或普通项目核验型面试差异很大,面试官基本没有问传统后端基础,而是围绕我的两段 Agent 经历持续深挖:
● 幻觉治理;
● 评测集、Ground Truth 和线上数据回流;
● Ontology 与 Action 的抽象和治理;
● Agent 执行失败后的重规划;
● 多步骤任务的并行调度;
● 大规模 Agent 轨迹如何用于工程优化和后训练;
● DPO 偏好数据如何权衡正确性、效率与安全性。
整场面试最明显的特点是:面试官不仅关注“解决了什么问题”,还持续追问这个方案是否能够形成评测闭环、自动发现新问题、复用到下一类问题,并进一步沉淀为数据和模型能力。
二、面试流程
大致流程如下:
- 自我介绍;
- 完整业务链路;
- Code + LLM 方案的演进过程;
- 高频幻觉问题的发现与治理;
- 评测集、Ground Truth、错误率和线上回流;
- Ontology 与 Action 建模;
- 航旅排障 Agent 的失败恢复与并行调度;
- 十万条 Agent 轨迹的数据清洗和后训练;
- DPO 偏好对构造;
- 反问及面试官对 Agent 方向的理解。
三、自我介绍
四、项目深挖
- 结合一个真实请求,介绍智能面试间的完整链路,以及你本人负责的部分
- 第一版为什么会失败?你是如何从纯 LLM 演进为 Code + LLM 的?
- 高频问题是怎么发现的?
- 如果以后出现别的问题,原有方案能不能复用?
五、评测体系与线上数据闭环
- 项目指标是怎么统计的?
- 评测集是怎么构建的?Ground Truth 从哪里来?
- 正式上线以后,有没有自动回流和自迭代机制?
六、Ontology 与 Action 建模
- 两个项目是什么关系?
- Ontology 和 Action 对 Agent 有什么帮助?
- 项目不同领域中,哪些语义应该统一,哪些差异应该保留?
- 新增一个Action,要经过什么流程?
七、航旅排障 Agent:失败恢复与并行调度
- Planner 规划了五步,第三步失败怎么办?
- 日志查询、告警查询、历史故障检索能不能并行?
八、十万条 Agent 轨迹如何用于迭代与后训练
- 如果积累了十万条成功、失败和人工修正轨迹,应该如何处理?
- 两条轨迹都成功,一条三次工具调用,一条十二次,DPO 偏好对怎么构造?
九、反问环节与面试官分享
十、完整问题清单
- 请做一个自我介绍。
- 结合一个真实请求,介绍完整业务链路。
- 在这条链路中,你本人参与设计和编码的是哪一部分?
- 为什么模型会漏掉一部分内容?
- 第一版方案是什么?为什么失败?
- 你如何从纯 LLM 方案演进到 Code + LLM?
- 更换更强模型后,问题是否彻底解决?
- 高频幻觉和误判问题是怎么发现的?
- 如果线上还存在别的问题,如何发现?
- 原有治理框架能否复用到新的问题?
- 端到端错误率从 14.2% 降到 1.5% 是怎么统计的?
- 评测集是怎么构建的?
- Ground Truth 是怎么获得的?
- 评测集规模大约有多少?
- 上线以后,是否有线上问题自动回流和自迭代机制?
- Ontology / Action 建模和幻觉治理项目是什么关系?
- Ontology 对项目或 Agent 能力有帮助吗?
- 不同领域中中,哪些语义应该统一?
- 哪些领域差异不能被强行统一?
- 新增一个本体或 Action 时,如何判断是否与已有能力重叠?
- 新建Action 的完整流程是什么?
- Action 如何完成需求梳理、接口复用、评审、测试和发布?
- Planner 规划五步,第三步失败时怎么办?
- 如何判断工具返回结果是否满足当前步骤的预期?
- 应该整条任务重跑,还是只对失败步骤重新规划?
- 日志查询、告警查询和历史故障检索能否并行?
- Planner 如何表达任务之间的依赖关系?
- 如何使用 DAG、调度器或状态机完成并发执行?
- 并行执行中如何处理超时、失败传播和局部重试?
- 如果积累了十万条 Agent 轨迹,如何进行数据清洗?
- 哪些问题应该通过 Prompt、流程和工具优化?
- 哪些问题适合进入模型后训练或微调?
- 两条轨迹都成功,一条调用三次工具,一条调用十二次工具,如何构造 DPO 偏好对?
- 如何权衡正确性、效率和安全性?
- 短轨迹一定比长轨迹好吗?
- 长轨迹中的失败恢复过程是否还有训练价值?
参与讨论