青稞Talk 第二十五期
10月11日晚7点,青稞Talk 第25期,商汤科技算法实习生、香港科技大学准博士生黄雨石,将直播分享《LLMC:大语言模型的量化基准》。
主讲嘉宾
黄雨石,本科毕业于北京航空航天大学,即将进入香港科技大学攻读计算机博士学位。研究方向为高效的AIGC模型,神经网络压缩与加速等,目前已在CVPR, EMNLP, ACM MM发表多篇论文。
主题提纲
LLMC:大语言模型的量化基准
1、大语言模型量化技术概述
2、大模型压缩工具 LLMC
3、基于 LLMC 的量化基准测试
- 校准数据
- 算法(三种策略)
- 数据格式
成果链接
https://github.com/ModelTC/llmc 欢迎大家Star!
直播时间
10月11日(周五)19:00 - 20:00