近日,南华大学计算机学院2023级硕士研究生罗旭在计算语言学领域顶级会议ACL 2026(The 64th Annual Meeting of the Association for ComputationalLinguistics)上发表最新研究论文“RanLoRA: Residual-aware Nonlinear Low-Rank Adaptation”。该论文以计算机学院为唯一作者单位,罗旭为第一作者,刘永彬教授为通讯作者,已被录用为Findings论文。ACL是自然语言处理领域的国际顶尖会议,迄今已有64年历史,在学界享有极高的影响力与声誉,代表该领域最前沿的研究水平。

该论文为解决LoRA对线性低秩的依赖,提出了一种残差感知的非线性低秩自适应方法RanLoRA。该方法使用奇异值分解(SVD)将预训练权重分解为固定的主成分和用于特定任务的残差成分。同时,为了增强线性低秩更新的表达能力,RanLoRA引入了一个非线性激活层以及基于Hadamard积的向量调制。最终,在常识推理、自然语言理解、图像分类和数学推理等多项基准测试实验上表明,在参数相当的情况下,RanLoRA的性能始终优于原始LoRA及其代表性变体。

责任编辑 熊风顺