察元AI教程库 · 仓库 · 部署

exllamav3

一个为现代消费级GPU本地运行LLM优化的量化和推理库

作者:turboderp-org · 语言:en

前往原址学习

简介

一个为现代消费级GPU本地运行LLM优化的量化和推理库

返回教程库 · 察元AI产品家族