察元AI教程库 · 仓库 · 部署

pegainfer

纯Rust + CUDA LLM推理引擎——无需PyTorch,兼容OpenAI,为Kimi-K2提供Qwen3服务

作者:pegainfer-project · 语言:en

前往原址学习

简介

纯Rust + CUDA LLM推理引擎——无需PyTorch,兼容OpenAI,为Kimi-K2提供Qwen3服务

返回教程库 · 察元AI产品家族