察元AI教程库 · 仓库 · 部署

swiftLLM

一个小巧却强大的LLM推理系统,专为研究目的设计。代码量仅2000行(仅为vLLM的2%),性能媲美vLLM。

作者:interestingLSY · 语言:en

前往原址学习

简介

一个小巧却强大的LLM推理系统,专为研究目的设计。代码量仅2000行(仅为vLLM的2%),性能媲美vLLM。

返回教程库 · 察元AI产品家族