小型语言模型顺序个性化中的持续学习：稳定性监控分析

arXiv：2606.27634v1 发布类型：新
摘要：小语言模型（SLMs）正日益被考虑应用于笔记本电脑等边缘设备，从而支持私密、低延迟且高度本地化的个性化应用。然而，个性化要求模型随着时间的推移不断适应不断变化的用户或任务特定数据，这使得模型置于持续学习的环境之中。这种设置带来了灾难性遗忘的风险——即在学习新信息时，先前已掌握的任务性能会下降，甚至导致模型整体能力的削弱。近期的基准测试，如TRACE，表明持续微调会显著削弱对齐大型语言模型的通用能力。在本研究中，我们开展了一项关于SLMs序列式LoRA个性化的方法研究。我们在每次适应阶段结束后保存模型检查点，并在当前任务、此前见过的任务以及一个固定参考集上进行评估。这一检查点级协议使我们能够随时间监测任务性能、遗忘情况以及参考集的漂移。我们发现，轻量级的参考集分布诊断能够在SLMs序列式LoRA个性化过程中揭示模型特有的不稳定性模式，包括那些仅凭任务层面指标就可能掩盖有害适应过程的情况。我们希望，这一研究能为持续学习场景下SLMs的稳定性监控开辟新的研究方向。