LLMC:大语言模型的量化基准


青稞Talk 第二十五期

10月11日晚7点,青稞Talk 第25期,商汤科技算法实习生、香港科技大学准博士生黄雨石,将直播分享《LLMC:大语言模型的量化基准》。

主讲嘉宾

黄雨石,本科毕业于北京航空航天大学,即将进入香港科技大学攻读计算机博士学位。研究方向为高效的AIGC模型,神经网络压缩与加速等,目前已在CVPR, EMNLP, ACM MM发表多篇论文。

主题提纲

LLMC:大语言模型的量化基准

1、大语言模型量化技术概述
2、大模型压缩工具 LLMC
3、基于 LLMC 的量化基准测试
  - 校准数据
  - 算法(三种策略)
  - 数据格式

成果链接

https://github.com/ModelTC/llmc 欢迎大家Star!

直播时间

10月11日(周五)19:00 - 20:00