实验室一篇论文发表于国际期刊《Neural Networks》
2026年10月8日,实验室博士生宗天禹同学为第一作者的论文“JTCSE: Joint Tensor-Modulus Constraints and Cross-Attention for Unsupervised Contrastive Learning of Sentence Embeddings”在国际期刊《Neural Networks》在线发表。
该论文围绕无监督句子表示学习,针对现有对比学习方法主要关注表示方向、忽略向量模长一致性的问题,提出联合张量模长约束与交叉注意力的句子表示框架JTCSE。该方法通过约束正样本表示的模长差异,增强语义表示的对齐;同时,在双编码器结构中引入交叉注意力机制,缓解注意力过度集中于低信息词元的现象,提升句子级语义表示的质量。在七项语义文本相似度基准和多项下游任务上的实验验证了该方法的有效性。