“苏集创”苏州大学创新成果推介(141)——大模型通用指令压缩方案

发布者:柳鑫发布时间:2025-08-28浏览次数:10

“苏集创”是依托苏州大学国家技术转移中心(苏州大学知识产权运营中心),紧密围绕苏州产业创新集群布局,以苏州大学等国内外知名高校、科研院所、技术创新中心的集成创新成果为标的,构建科技、产业、资本深度融合的成果发布平台。

本期向大家推介的是苏州大学在人工智能领域的一项成果:大模型通用指令压缩方案

成果简介:本成果核心创新在于利用大模型自身能力对指令进行“自压缩”,结合轻量级连接器与可学习记忆标记,实现超长提示的高效编码与还原,压缩比高达12倍,从而缓解硬件计算压力,提升大模型推理速度。成果覆盖文本与多模态输入,通过“独立压缩”机制构建“缓存库”避免重复指令压缩计算,进一步提升方法效率与可扩展性。针对多模态模型,成果通过聚合视觉信息至文本隐空间,有效缓解视觉令牌冗余问题,内存占用降低70%。在中英文、多任务测试中,该方案在保持或提升模型性能的同时,显著降低资源开销,具备良好的通用性与实用价值。相关成果:发明专利1项,CCF-A类会议论文3篇,SCI一区期刊1篇。

如有成果转化、专利购买意向,可与苏州大学国家技术转移中心联系咨询:0512-67167210。或添加我们工作人员微信进行沟通交流。


扫描上方二维码可添加微信