大模型的加速算法

从训练到推理:大模型的加速算法

林衍凯 腾讯微信高级研究员

image-20211128150732016

训练加速：继承学习

推理加速：动态推理

image-20211128150921047

image-20211128151027170

image-20211128151147472

image-20211128151344677

image-20211128151354939

image-20211128151406076

image-20211128151611823