关闭引导
上海交大团队“挑战杯”折桂 攻克大模型终端部署难题
2025-11-19 16:41:57
广州日报新花城

日前,在南京大学落幕的第十九届“挑战杯”全国大学生课外学术科技作品竞赛中,上海交通大学计算机学院、人工智能研究院大模型轻量化团队凭借其《面向端侧部署的大模型二值化压缩技术及应用》项目,从全国2700多所高校的40余万件作品中脱颖而出,斩获大赛主体赛特等奖。

攻克技术瓶颈,让大模型“飞入寻常百姓家”

随着人工智能技术的飞速发展,大语言模型已成为科技竞争的核心领域。然而,大模型对硬件的高要求限制了其在手机、智能穿戴等终端设备上的普及应用,成为产业落地的关键瓶颈。

上海交大团队针对大模型压缩中存在的压缩程度低、计算负担重、性能损失多三大技术难题,自主研发了一套高效二值化压缩技术。该技术通过融合双轴缩放的交替精炼算法、结合高低频信息解耦的激活二值化策略,以及基于语义对齐的高效模型优化方法,实现了对大模型权重和激活值的极致压缩与性能协同优化。


团队成员合影

项目负责人、上海交通大学2023级本科生闫相龙介绍,这项技术能有效解决大模型在端侧设备“存不下、跑不快、性能差”的问题,多项评测结果均优于国际同类方法。目前,该技术已在消费终端、智能制造乃至“算力上星”等多个前沿场景成功应用,展示了广阔的产业前景。

本科生领衔,师生协力铸就“奥林匹克”桂冠

“挑战杯”竞赛素有中国大学生科技创新的“奥林匹克”之称。此次上海交大获奖团队由一名本科生领衔,成员包括张天骜、李建泽等共计8人。在张宇伦、孔令和、杨小康三位资深教授的指导下,团队成员夜以继日,将扎实的科研精神与卓越的创新能力相结合,成功将作品打磨至最高水准。

值得一提的是,项目负责人闫相龙同学在本科阶段已取得突出学术成就,不仅主持国家自然科学基金青年学生基础研究项目,还以共同第一作者身份在国际顶级会议发表论文。

指导教师团队阵容同样强大,包括入选国家海外高层次青年人才的张宇伦副教授,国家级人才、国家重点研发计划首席科学家孔令和教授,以及人工智能教育部重点实验室主任、IEEE Fellow杨小康教授。强大的师资力量和优秀的学生团队共同构成了上海交大在人工智能领域持续取得突破的坚实基础。

团队表示,未来将致力于打造完整的二值化生态系统,通过设计软硬一体化的解决方案,进一步推动端云协同体系的构建,为我国在人工智能领域的自主创新贡献力量。


文/广州日报·新花城 记者:贺涵甫

广州日报新花城编辑:李晓璐

@新花城 版权所有 转载需经授权