青稞Talk 第三十二期
12月16日晚8点,青稞Talk第32期,商汤科技研究院谷石桥和雍洋两位模型压缩研究员,将对LLMC进行直播分享,主题为《LLMC:大语言模型压缩工具的开发实践》。
他们将从工具框架设计,常用算法解读和工具使用方式等角度,为大家详细讲解LLMC及实践,希望大家可以从中获益。
主讲嘉宾
谷石桥,商汤科技研究院模型压缩研究员,毕业于天津大学,现主要研究方向为深度学习的模型压缩技术,目前已在EMNLP,PatternRecognition, TCSVT等发表多篇论文。
雍洋,商汤科技研究院模型压缩研究员,毕业于西安交通大学,现主要研究方向为深度学习的模型压缩技术,目前已在AAAI,EMNLP,ACM MM等发表多篇论文。
主题提纲
LLMC:大语言模型压缩工具的开发实践
1、大模型压缩及量化风险
2、大模型压缩包 LLMC 的框架设计
3、LLMC 落地实践和推理后端部署
4、自定义扩展新算法、模型及评测数据
成果链接
https://github.com/ModelTC/llmc
直播时间
12月16日(周一)20:00 - 21:00