察元AI教程库 · 仓库 · 部署

sparser-faster-llms

使用CUDA内核利用LLM稀疏性,提升推理和训练的吞吐量,并降低内存需求。

作者:SakanaAI · 语言:en

前往原址学习

简介

使用CUDA内核利用LLM稀疏性,提升推理和训练的吞吐量,并降低内存需求。

返回教程库 · 察元AI产品家族