察元AI教程库 · 仓库 · 部署

vllm

一个高吞吐量且内存高效的大型语言模型(LLM)推理与服务引擎

作者:vllm-project · 语言:en

前往原址学习

简介

一个高吞吐量且内存高效的大型语言模型(LLM)推理与服务引擎

返回教程库 · 察元AI产品家族