察元AI教程库 · 仓库 · 部署

CPM.cu

CPM.cu 是一个轻量级、高性能的 CUDA 实现,专为终端设备推理优化,采用稀疏架构、推测采样和量化等前沿技术。

作者:OpenBMB · 语言:en

前往原址学习

简介

CPM.cu 是一个轻量级、高性能的 CUDA 实现,专为终端设备推理优化,采用稀疏架构、推测采样和量化等前沿技术。

返回教程库 · 察元AI产品家族