拼多多人才计划大模型算法岗二面面经
一、项目深挖类问题
- 实习期间所属的具体团队是什么?你负责的项目落地应用场景有哪些?模型/功能接入业务后,带来了哪些具体优化提升?该项目是否包含模型后训练相关工作?
- 你为何选择从MT跳槽至阿里偏向业务落地的岗位?两家企业技术层级相近,请说明你的核心择业考量。
- 你参与的这份项目工作,是否完成正式上线、投入真实业务使用?
二、模型微调专项问题
- 简述你项目中LoRA的具体参数配置方案
- 整套LoRA训练流程,为模型带来的核心能力提升是什么?
三、算法编程题
1. 给定二维矩阵,实现算法:将矩阵中所有数值为0的元素所在的整行、整列,全部赋值为0
四、深度学习八股问题
- 详细阐述自注意力机制(self-attention)的核心工作原理
- 自注意力计算中,除以根号d维度的核心作用是什么?
- 标准自注意力机制的时间复杂度如何计算?具体是多少?
- 行业内常用的降低自注意力时间复杂度的方案有哪些?
- 针对深层神经网络,有哪些方法可以有效规避梯度消失、梯度爆炸问题?
- 对比ReLU激活函数与GLU激活函数,说明二者核心区别、适用场景差异
- 模型训练过程中,有哪些主流的显存优化、显存节省方案?
评论
?
参与讨论