字节大模型算法岗｜三面

一、项目提问（浅度拷打）

1. 介绍项目中核心优化方案具体内容
2. 项目优化对应的效果指标，如何量化评估提升收益
3. 模型训练方式：基于预训练模型微调，还是从零开始完整训练
4. 训练数据集的清洗流程与筛选规则
5. 数据清洗过程中是否存在误删、错筛等问题，如何规避误差
6. 模型训练链路仅包含 SFT 监督微调，还是叠加了 RL 强化学习训练流程

二、深度学习八股基础

1. 详细阐述 Transformer 整体架构与核心模块
2. 给定模型参数：注意力头数 H、序列长度 N、嵌入维度 D、Encoder 堆叠层数 L，推导模型整体计算复杂度
3. 手写二分类任务损失函数公式
4. 讲解生成式模型基础原理，并手写 VAE 模型损失函数

三、算法手撕（难度逐级递增）

1. 给定长度为  2n+1  的数组，其中 n 个元素均成对出现，仅有一个元素唯一出现，找出该独立元素
2. 进阶变式：给定长度为  2n+2  的数组，n 个元素成对重复，存在两个仅出现一次的独立元素，精准找出这两个唯一数
3. 三维积木堆叠问题：给定若干长宽高不同的积木，要求上层积木长宽严格小于下层积木，求解可堆叠出的最大高度