拼多多人才计划大模型算法岗二面面经

一、项目深挖类问题

  1. 实习期间所属的具体团队是什么?你负责的项目落地应用场景有哪些?模型/功能接入业务后,带来了哪些具体优化提升?该项目是否包含模型后训练相关工作?
  2. 你为何选择从MT跳槽至阿里偏向业务落地的岗位?两家企业技术层级相近,请说明你的核心择业考量。
  3. 你参与的这份项目工作,是否完成正式上线、投入真实业务使用?

二、模型微调专项问题

  1. 简述你项目中LoRA的具体参数配置方案
  2. 整套LoRA训练流程,为模型带来的核心能力提升是什么?

三、算法编程题
1. 给定二维矩阵,实现算法:将矩阵中所有数值为0的元素所在的整行、整列,全部赋值为0
四、深度学习八股问题

  1. 详细阐述自注意力机制(self-attention)的核心工作原理
  2. 自注意力计算中,除以根号d维度的核心作用是什么?
  3. 标准自注意力机制的时间复杂度如何计算?具体是多少?
  4. 行业内常用的降低自注意力时间复杂度的方案有哪些?
  5. 针对深层神经网络,有哪些方法可以有效规避梯度消失、梯度爆炸问题?
  6. 对比ReLU激活函数与GLU激活函数,说明二者核心区别、适用场景差异
  7. 模型训练过程中,有哪些主流的显存优化、显存节省方案?
添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论