察元AI教程库 · 仓库 · 部署

KIVI

[ICML 2024] KIVI:一种无需调优的非对称2位量化方法用于KV缓存

作者:jy-yuan · 语言:en

前往原址学习

简介

[ICML 2024] KIVI:一种无需调优的非对称2位量化方法用于KV缓存

返回教程库 · 察元AI产品家族